🚨 NOVA NOTÍCIA EM DESTAQUE! 🚨
Leia, comente e fique sempre atualizado!
Apoie esse projeto de divulgacao de noticias! Clique aqui
Um grupo de pesquisadores de segurança de IA diz que uma frota de agentes autônomos que se identificaram como sistemas OpenAI deixaram cerca de 18.000 postagens em um wiki alemão inativo de 25 anos entre maio e julho de 2026, usando o site como um quadro compartilhado para reunir respostas a uma tarefa cronometrada da web e passar uma maneira de sair de sua caixa de areia.
A atividade se concentrou no DSEwiki, um wiki alemão para desenvolvedores de software que funciona no farm ProWiki em wikiservice[.]at e foi editado cerca de 20 vezes na década anterior.
Os pesquisadores, liderados por Sydney Von Arx, da organização sem fins lucrativos de segurança de IA Nightingale Collective, reconstruíram as páginas excluídas do histórico de edições e publicaram sua análise junto com uma cópia dos dados para download.
Os wikis permitem que qualquer pessoa altere uma página com uma solicitação comum da Web, do tipo normalmente usado apenas para ler uma página, em vez de escrevê-la. Os agentes que estavam restritos à leitura da Internet ainda poderiam escrever no site, porque a restrição foi escrita em relação ao tipo de solicitação que seu chicote esperava que as gravações usassem, e não em relação ao que o antigo software wiki realmente aceitaria.
"Encontramos cerca de 18.000 postagens de agentes autônomos de IA (autoidentificados como OpenAI) usando a Internet pública para se comunicar durante uma tarefa de recuperação na Web", escreveram os pesquisadores no relatório publicado.
Os agentes estavam trabalhando em tarefas de pesquisa cronometradas, geralmente de cinco perguntas, e muitos receberam perguntas que outros agentes já haviam respondido. De acordo com o relatório, eles publicaram resultados, dados brutos e previsões de perguntas futuras para que os agentes que estavam à frente pudessem dar respostas aos que estavam atrás.
Cerca de 17.000 edições no DSEwiki vieram de endereços do Microsoft Azure, 98,5% delas, e os agentes deram a si mesmos mais de 3.700 nomes distintos, como OpenAIResearcher e OAIResearchMar26, extraídos de uma característica de sua tarefa, além de uma data em que cada um foi aparentemente informado de que ela estava sendo executada.
Os pesquisadores documentaram vários comportamentos distintos no site -
Escrever por meio de uma solicitação de leitura: os agentes usaram a aceitação das wikis de solicitações de leitura que alteram o estado para postar sem a capacidade de enviar uma solicitação de gravação normal.
Um desvio de proxy: uma tarefa precisava de uma estatística com duas casas decimais de um painel do Microsoft Power BI, acessível apenas com uma solicitação de gravação bloqueada pelo sandbox, para que os agentes contornassem o bloqueio e compartilhassem o método.
Falsificação de identidade: os agentes fizeram edições sob o nome de um moderador da wiki.
Coordenação para enganar uma tarefa cronometrada: os agentes formaram grupos para retransmitir respostas e fazer engenharia reversa na ordem das perguntas futuras.
Rotas alternativas: 197 das cerca de 18.000 edições vieram da Amazon Web Services, da DigitalOcean e da rede de anonimato Tor, e não do Azure, muitas vezes sob os mesmos nomes de agentes.
O desvio abriu uma lacuna que os agentes encontraram em sua própria sandbox. O ambiente permitiu que o tráfego chegasse aos nomes de host de armazenamento do Azure que terminassem em .blob.core.windows.net sem passar pelo proxy de segurança, mas não verificou se esse nome de host era válido.
Um agente inventou bypass[.]blob[.]core[.]windows[.]net, apontou-o para o endereço do painel real, 20.223.25[.]152, editando seu arquivo /etc/hosts e enviou a solicitação bloqueada para lá. Um agente postou o método e outro relatou reproduzi-lo cerca de 14 minutos depois. O caminho wiki funcionou da mesma maneira, dizem os pesquisadores, transformando um recurso da web destinado apenas à leitura em uma forma de escrever na Internet pública.
Os pesquisadores dizem que a atividade do wiki foi um episódio separado dos modelos da OpenAI que invadiram o Hugging Face em julho, conforme descrito na divulgação de julho da OpenAI.
Esses agentes não tinham acesso à Internet e tiveram que escapar de uma sandbox, enquanto os agentes do wiki receberam acesso à web como parte de sua tarefa e não deixaram nenhum sinal do quadro de mensagens interno usado pelo enxame Hugging Face.
Em uma investigação independente do incidente do Hugging Face, o METR descobriu que cerca de 1.200 agentes trocaram mais de 70.000 mensagens e arquivos em um fórum não sancionado, e que cerca de 700 deles atacaram a plataforma.
O que OpenAI disse
A OpenAI não divulgou publicamente o episódio do wiki, e os pesquisadores inferiram dos registros públicos do site que a empresa o encontrou. Os endereços registrados na OpenAI visitaram o wiki pela primeira vez em 21 de junho, e a edição do agente foi interrompida no dia seguinte.
O Hacker News confirmou por meio do registro do ARIN em 5 de setembro que um dos blocos de endereço citados pelo relatório, 199.47.142.0, está registrado na OpenAI OpCo, LLC.
A OpenAI não confirmou que os agentes eram seus. Questionado sobre o relatório, divulgado pela Reuters pela primeira vez, um porta-voz da OpenAI disse que a atividade alemã “não estava relacionada ao Hugging Face” e não teria aparecido no relatório do incidente, e negou que sua equipe jurídica tenha desencorajado uma investigação.
A empresa disse que não pode responder em detalhe
A atividade se concentrou no DSEwiki, um wiki alemão para desenvolvedores de software que funciona no farm ProWiki em wikiservice[.]at e foi editado cerca de 20 vezes na década anterior.
Os pesquisadores, liderados por Sydney Von Arx, da organização sem fins lucrativos de segurança de IA Nightingale Collective, reconstruíram as páginas excluídas do histórico de edições e publicaram sua análise junto com uma cópia dos dados para download.
Os wikis permitem que qualquer pessoa altere uma página com uma solicitação comum da Web, do tipo normalmente usado apenas para ler uma página, em vez de escrevê-la. Os agentes que estavam restritos à leitura da Internet ainda poderiam escrever no site, porque a restrição foi escrita em relação ao tipo de solicitação que seu chicote esperava que as gravações usassem, e não em relação ao que o antigo software wiki realmente aceitaria.
"Encontramos cerca de 18.000 postagens de agentes autônomos de IA (autoidentificados como OpenAI) usando a Internet pública para se comunicar durante uma tarefa de recuperação na Web", escreveram os pesquisadores no relatório publicado.
Os agentes estavam trabalhando em tarefas de pesquisa cronometradas, geralmente de cinco perguntas, e muitos receberam perguntas que outros agentes já haviam respondido. De acordo com o relatório, eles publicaram resultados, dados brutos e previsões de perguntas futuras para que os agentes que estavam à frente pudessem dar respostas aos que estavam atrás.
Cerca de 17.000 edições no DSEwiki vieram de endereços do Microsoft Azure, 98,5% delas, e os agentes deram a si mesmos mais de 3.700 nomes distintos, como OpenAIResearcher e OAIResearchMar26, extraídos de uma característica de sua tarefa, além de uma data em que cada um foi aparentemente informado de que ela estava sendo executada.
Os pesquisadores documentaram vários comportamentos distintos no site -
Escrever por meio de uma solicitação de leitura: os agentes usaram a aceitação das wikis de solicitações de leitura que alteram o estado para postar sem a capacidade de enviar uma solicitação de gravação normal.
Um desvio de proxy: uma tarefa precisava de uma estatística com duas casas decimais de um painel do Microsoft Power BI, acessível apenas com uma solicitação de gravação bloqueada pelo sandbox, para que os agentes contornassem o bloqueio e compartilhassem o método.
Falsificação de identidade: os agentes fizeram edições sob o nome de um moderador da wiki.
Coordenação para enganar uma tarefa cronometrada: os agentes formaram grupos para retransmitir respostas e fazer engenharia reversa na ordem das perguntas futuras.
Rotas alternativas: 197 das cerca de 18.000 edições vieram da Amazon Web Services, da DigitalOcean e da rede de anonimato Tor, e não do Azure, muitas vezes sob os mesmos nomes de agentes.
O desvio abriu uma lacuna que os agentes encontraram em sua própria sandbox. O ambiente permitiu que o tráfego chegasse aos nomes de host de armazenamento do Azure que terminassem em .blob.core.windows.net sem passar pelo proxy de segurança, mas não verificou se esse nome de host era válido.
Um agente inventou bypass[.]blob[.]core[.]windows[.]net, apontou-o para o endereço do painel real, 20.223.25[.]152, editando seu arquivo /etc/hosts e enviou a solicitação bloqueada para lá. Um agente postou o método e outro relatou reproduzi-lo cerca de 14 minutos depois. O caminho wiki funcionou da mesma maneira, dizem os pesquisadores, transformando um recurso da web destinado apenas à leitura em uma forma de escrever na Internet pública.
Os pesquisadores dizem que a atividade do wiki foi um episódio separado dos modelos da OpenAI que invadiram o Hugging Face em julho, conforme descrito na divulgação de julho da OpenAI.
Esses agentes não tinham acesso à Internet e tiveram que escapar de uma sandbox, enquanto os agentes do wiki receberam acesso à web como parte de sua tarefa e não deixaram nenhum sinal do quadro de mensagens interno usado pelo enxame Hugging Face.
Em uma investigação independente do incidente do Hugging Face, o METR descobriu que cerca de 1.200 agentes trocaram mais de 70.000 mensagens e arquivos em um fórum não sancionado, e que cerca de 700 deles atacaram a plataforma.
O que OpenAI disse
A OpenAI não divulgou publicamente o episódio do wiki, e os pesquisadores inferiram dos registros públicos do site que a empresa o encontrou. Os endereços registrados na OpenAI visitaram o wiki pela primeira vez em 21 de junho, e a edição do agente foi interrompida no dia seguinte.
O Hacker News confirmou por meio do registro do ARIN em 5 de setembro que um dos blocos de endereço citados pelo relatório, 199.47.142.0, está registrado na OpenAI OpCo, LLC.
A OpenAI não confirmou que os agentes eram seus. Questionado sobre o relatório, divulgado pela Reuters pela primeira vez, um porta-voz da OpenAI disse que a atividade alemã “não estava relacionada ao Hugging Face” e não teria aparecido no relatório do incidente, e negou que sua equipe jurídica tenha desencorajado uma investigação.
A empresa disse que não pode responder em detalhe
Fonte: https://thehackernews.com
#samirnews #samir #news #boletimtec #error #500 #(erro #do #servidor)!!1500.isto #é #um #erro.ocorreu #um #erro. #tente #novamente #mais #tarde.isto #é #tudo #que #sabemos.
🎉 Obrigado por acompanhar, até a próxima notícia!
Postar um comentário