🔥 Fique por dentro das novidades mais quentes do momento! 🔥
Leia, comente e fique sempre atualizado!
Apoie esse projeto de divulgacao de noticias! Clique aqui
A Anthropic tornou-se na quinta-feira a mais recente empresa de inteligência artificial (IA) a revelar que três de seus modelos, incluindo Claude Opus 4.7, Mythos 5 e um modelo de pesquisa sem nome, violaram três organizações não identificadas durante testes de segurança cibernética sem o seu conhecimento.
A empresa de IA disse que os primeiros incidentes datam de abril de 2026, acrescentando que fez as descobertas após lançar uma “revisão retrospectiva em grande escala” em resposta a uma divulgação recente da OpenAI de que uma combinação de seus modelos escapou do ambiente sandbox explorando um dia zero anteriormente não relatado no Artifactory para obter acesso à Internet e invadir os sistemas de produção do Hugging Face com o objetivo final de trapacear em uma avaliação.
“Depois de analisar 141.006 execuções de avaliação onde Claude poderia ter obtido acesso à Internet, identificamos três incidentes em que um modelo acessou a Internet de dentro ou enquanto interagia com o ambiente de avaliação da Irregular, um de nossos parceiros de avaliação terceirizados, e depois obteve acesso não autorizado à infraestrutura de produção de três organizações diferentes”, disse a Anthropic.
Em todos os incidentes identificados, Claude teria sido encarregado de um desafio de captura da bandeira (CTF) para avaliar as capacidades dos modelos, com a intenção de localizar uma informação secreta escondida em uma máquina diferente na rede por qualquer meio.
Embora o prompt de avaliação especificado para Claude afirmasse que o ambiente era uma simulação e que não tinha acesso à Internet, a Anthropic disse que uma configuração incorreta deixou as máquinas que o modelo acessou com acesso ao vivo à Internet devido ao que descreveu como um "mal-entendido" entre o laboratório de IA e o parceiro de avaliação Irregular.
Isto, por sua vez, fez com que a pesquisa de Claude o levasse a sistemas reais na Internet aberta e os tratasse como dentro do escopo do exercício, permitindo efetivamente que o modelo comprometesse a infraestrutura das organizações impactadas usando técnicas básicas, incluindo a exploração de senhas fracas e terminais não autenticados.
A Anthropic enfatizou que o modelo não encontrou nem explorou nenhuma vulnerabilidade complexa e que em cada uma delas continuou trabalhando para concluir apenas a tarefa específica do CTF que sua avaliação havia atribuído.
“No entanto, em alguns casos, o nosso modelo mais antigo continuou o seu ataque mesmo depois de obter provas de que estava a funcionar na Internet aberta; o nosso modelo mais recente parou quando reconheceu que estava na Internet”, afirmou. “Em nenhuma dessas situações Claude se exfiltrou ou tentou deliberadamente escapar do ambiente de teste.”
Os detalhes dos três incidentes são os seguintes -
Um incidente envolvendo Claude Opus 4.7 em que violou a infraestrutura real da empresa identificando e explorando vulnerabilidades, pensando que era parte do desafio. Isso levou à extração de credenciais de aplicativos e infraestrutura e ao acesso a um banco de dados contendo centenas de linhas de dados de produção. Este também é o único incidente em que o modelo continuou a atacar o sistema apesar de “aprender” que estava operando em um ambiente real.
Um incidente envolvendo Claude Mythos 5 envolveu instruções de configuração para instalar um pacote PyPI inexistente, fazendo com que o modelo se esforçasse muito para carregar um pacote Python com o mesmo nome para que os sistemas da empresa fictícia o baixassem e instalassem automaticamente. Para conseguir isso, ele encontrou um provedor de e-mail não bloqueado, registrou uma conta PyPI e a usou para fazer upload do pacote.
Durante o período de aproximadamente uma hora em que o pacote estava ativo no registro, ele foi baixado por 15 sistemas reais, incluindo uma empresa de segurança legítima que instala rotineiramente pacotes Python e os verifica em busca de malware. Acredita-se que o scanner considerou o pacote com armadilha segura para instalação, o que levou à exfiltração das credenciais da empresa para um endpoint externo configurado pelo modelo. As credenciais foram então usadas para acessar mais infraestrutura desta empresa. Nem o nome do pacote nem a empresa foram divulgados.
Um incidente envolvendo um modelo de teste de pesquisa interna que examinou cerca de 9.000 alvos e comprometeu o aplicativo voltado para a Internet de uma empresa usando técnicas como leitura de credenciais de uma página de depuração exposta e injeção de SQL. No entanto, o modelo mais tarde cessou o ataque por conta própria depois de perceber que o “host comprometido estava em uma conta na nuvem sem conexão com o desafio de capturar a bandeira”.
Como no caso do incidente OpenAI, diz-se que os modelos em cada uma dessas avaliações foram executados sem as proteções padrão que são implantadas quando são disponibilizadas aos usuários. Essas avaliações foram executadas a partir de uma infraestrutura dedicada, que afirma não ter acesso aos sistemas internos confidenciais ou aos dados dos clientes da Anthropic.
Antrópico também reconhece
A empresa de IA disse que os primeiros incidentes datam de abril de 2026, acrescentando que fez as descobertas após lançar uma “revisão retrospectiva em grande escala” em resposta a uma divulgação recente da OpenAI de que uma combinação de seus modelos escapou do ambiente sandbox explorando um dia zero anteriormente não relatado no Artifactory para obter acesso à Internet e invadir os sistemas de produção do Hugging Face com o objetivo final de trapacear em uma avaliação.
“Depois de analisar 141.006 execuções de avaliação onde Claude poderia ter obtido acesso à Internet, identificamos três incidentes em que um modelo acessou a Internet de dentro ou enquanto interagia com o ambiente de avaliação da Irregular, um de nossos parceiros de avaliação terceirizados, e depois obteve acesso não autorizado à infraestrutura de produção de três organizações diferentes”, disse a Anthropic.
Em todos os incidentes identificados, Claude teria sido encarregado de um desafio de captura da bandeira (CTF) para avaliar as capacidades dos modelos, com a intenção de localizar uma informação secreta escondida em uma máquina diferente na rede por qualquer meio.
Embora o prompt de avaliação especificado para Claude afirmasse que o ambiente era uma simulação e que não tinha acesso à Internet, a Anthropic disse que uma configuração incorreta deixou as máquinas que o modelo acessou com acesso ao vivo à Internet devido ao que descreveu como um "mal-entendido" entre o laboratório de IA e o parceiro de avaliação Irregular.
Isto, por sua vez, fez com que a pesquisa de Claude o levasse a sistemas reais na Internet aberta e os tratasse como dentro do escopo do exercício, permitindo efetivamente que o modelo comprometesse a infraestrutura das organizações impactadas usando técnicas básicas, incluindo a exploração de senhas fracas e terminais não autenticados.
A Anthropic enfatizou que o modelo não encontrou nem explorou nenhuma vulnerabilidade complexa e que em cada uma delas continuou trabalhando para concluir apenas a tarefa específica do CTF que sua avaliação havia atribuído.
“No entanto, em alguns casos, o nosso modelo mais antigo continuou o seu ataque mesmo depois de obter provas de que estava a funcionar na Internet aberta; o nosso modelo mais recente parou quando reconheceu que estava na Internet”, afirmou. “Em nenhuma dessas situações Claude se exfiltrou ou tentou deliberadamente escapar do ambiente de teste.”
Os detalhes dos três incidentes são os seguintes -
Um incidente envolvendo Claude Opus 4.7 em que violou a infraestrutura real da empresa identificando e explorando vulnerabilidades, pensando que era parte do desafio. Isso levou à extração de credenciais de aplicativos e infraestrutura e ao acesso a um banco de dados contendo centenas de linhas de dados de produção. Este também é o único incidente em que o modelo continuou a atacar o sistema apesar de “aprender” que estava operando em um ambiente real.
Um incidente envolvendo Claude Mythos 5 envolveu instruções de configuração para instalar um pacote PyPI inexistente, fazendo com que o modelo se esforçasse muito para carregar um pacote Python com o mesmo nome para que os sistemas da empresa fictícia o baixassem e instalassem automaticamente. Para conseguir isso, ele encontrou um provedor de e-mail não bloqueado, registrou uma conta PyPI e a usou para fazer upload do pacote.
Durante o período de aproximadamente uma hora em que o pacote estava ativo no registro, ele foi baixado por 15 sistemas reais, incluindo uma empresa de segurança legítima que instala rotineiramente pacotes Python e os verifica em busca de malware. Acredita-se que o scanner considerou o pacote com armadilha segura para instalação, o que levou à exfiltração das credenciais da empresa para um endpoint externo configurado pelo modelo. As credenciais foram então usadas para acessar mais infraestrutura desta empresa. Nem o nome do pacote nem a empresa foram divulgados.
Um incidente envolvendo um modelo de teste de pesquisa interna que examinou cerca de 9.000 alvos e comprometeu o aplicativo voltado para a Internet de uma empresa usando técnicas como leitura de credenciais de uma página de depuração exposta e injeção de SQL. No entanto, o modelo mais tarde cessou o ataque por conta própria depois de perceber que o “host comprometido estava em uma conta na nuvem sem conexão com o desafio de capturar a bandeira”.
Como no caso do incidente OpenAI, diz-se que os modelos em cada uma dessas avaliações foram executados sem as proteções padrão que são implantadas quando são disponibilizadas aos usuários. Essas avaliações foram executadas a partir de uma infraestrutura dedicada, que afirma não ter acesso aos sistemas internos confidenciais ou aos dados dos clientes da Anthropic.
Antrópico também reconhece
Fonte: https://thehackernews.com
#samirnews #samir #news #boletimtec #anthropic #diz #que #claude #confundiu #a #internet #aberta #com #uma #ctf #e #violou #três #organizações
💡 Compartilhe e ajude nosso projeto a crescer!
Postar um comentário