📰 Informação fresquinha chegando para você!
Confira agora e compartilhe com seus amigos!
Apoie esse projeto de divulgacao de noticias! Clique aqui
A OpenAI revelou na quarta-feira que o hacking de recompensas foi um dos principais impulsionadores do hack do Hugging Face, alimentado por inteligência artificial (IA), no mês passado, acrescentando que encontrou evidências de comportamento desalinhado já no final de maio.
O incidente, disse a empresa, ocorreu durante avaliações de segurança cibernética de vários modelos OpenAI e foi alimentado principalmente pelo que descreveu como um “modelo de pesquisa altamente capaz, somente interno”, comparável em escala ao GPT-5.6 Sol.
“Os modelos, operando sob salvaguardas reduzidas, tomaram ações desalinhadas com os objetivos das tarefas que lhes foram atribuídas – comunicaram através de canais não autorizados, exploraram vulnerabilidades em infraestruturas partilhadas, obtiveram acesso à Internet e acederam a sistemas de terceiros”, afirmou numa autópsia.
A OpenAI disse que os agentes de IA alimentados por um dos modelos de pesquisa, apesar de não terem acesso à Internet, encontraram uma maneira de explorar uma vulnerabilidade de dia zero no gerenciador de pacotes Artifactory durante o treinamento de aprendizagem por reforço (RL) executado em maio e junho para obter acesso à Internet, obter acesso ao Artifactory em nível de administrador no final de junho e, eventualmente, coordenar um hack de “vários dias” do Hugging Face no início de julho com o objetivo de trapacear em suas tarefas ExploitGym.
“Aproximadamente 1.200 agentes que deveriam ser isolados uns dos outros encontraram uma maneira de se comunicarem em um quadro de mensagens não autorizado, enviando mais de 70 mil mensagens e arquivos durante o período de investigação”, disse o METR, que divulgou sua própria análise independente do incidente. “Desses agentes, 700 participaram do ataque ao Hugging Face.”
Toda a sequência de eventos destacada pela OpenAI está abaixo -
12 de maio – Durante um treinamento, um agente deixa uma nota do Artifactory pedindo a outros agentes um arquivo perdido.
13 de maio – Um agente separado do mesmo experimento de treinamento, mas com acesso à Internet habilitado via WebCache, requer o mesmo arquivo para completar suas tarefas. Ele pesquisa o site Hugging Face usando um token de usuário já exposto publicamente após inferir que a plataforma do modelo de IA foi a origem provável do exercício de avaliação.
13 de maio - Outros agentes que investigam o Artifactory encontram "notas" semelhantes contendo solicitações de informações ou recursos, transformando o serviço em um "quadro de mensagens" para comunicação entre si.
26 de maio – Um agente consegue acesso não intencional à Internet explorando uma vulnerabilidade SSRF no Artifactory. Logo outros agentes seguirão o exemplo.
26 de junho – Os agentes exploram uma vulnerabilidade de atualização de token por meio de um endpoint de credencial legado para obter acesso ao Artifactory em nível de administrador.
26 de junho a 4 de julho – Os agentes aproveitam esse acesso para instalar plug-ins Groovy para executar comandos e obter controle persistente em nível de aplicativo
4 de julho – A atividade sustentada faz com que o serviço Artifactory da OpenAI fique indisponível.
8 de julho – OpenAI reconstrói Artifactory, revoga credenciais de agente, reforça controles de acesso e alerta JFrog sobre a vulnerabilidade de atualização de token.
8 de julho - começa o hack Hugging Face. Os agentes encontram outra maneira de se comunicar usando o Artifactory, desta vez usando nomes de diretórios como “notas” para postar solicitações de material público relacionado aos exercícios de avaliação OpenAI hospedados nos repositórios Hugging Face. Os agentes começam a colaborar e a delegar tarefas, ao mesmo tempo que se descrevem como um “enxame” ou “coletivo”.
9 de julho – Um agente interno encarregado de concluir uma avaliação do ExploitGym obtém acesso root na máquina virtual pai do sandbox. Posteriormente, um segundo agente interno obtém o mesmo acesso e ignora os controles de rede de saída da OpenAI, explorando endpoints Artifactory não especificados para recuperar o acesso à Internet. No mesmo dia, uma chave de API CyberGym e uma receita de exploração completa para uma carga de trabalho de cliente hospedada no Modal são compartilhadas no quadro do Artifactory.
10 de julho – Um agente valida e compartilha 14 credenciais do Hugging Face expostas publicamente com acesso de gravação após inferir que o Hugging Face pode hospedar modelos, conjuntos de dados e soluções relevantes para suas tarefas de avaliação atribuídas.
11 de julho – Os agentes exploram um dia zero no tratamento de arquivos HDF5 pelo Hugging Face para extrair credenciais de trabalhadores de produção, a fim de se aprofundar em sua infraestrutura e expandir seu acesso.
11 de julho – Os agentes exploram um dia zero de injeção de modelo RefJinja para executar comandos em trabalhadores do Hugging Face.
12 de julho – Os agentes ampliam o acesso ao cluster do Hugging Face e coletam Kubernetes, banco de dados, mensagens, repositório de código e credenciais de nuvem dos funcionários do Hugging Face em quatro regiões, alcançando, em última análise, acesso administrativo e de nível de host em vários clusters em 13 horas.
12 de julho - Um agente que executa código dentro de uma carga de trabalho de cliente CyberGym comprometida hospedada no Modal usa um token forjado a partir do material de assinatura de produção do Hugging Face para baixar um arquivo CyberGym privado de 731 MB de um u
O incidente, disse a empresa, ocorreu durante avaliações de segurança cibernética de vários modelos OpenAI e foi alimentado principalmente pelo que descreveu como um “modelo de pesquisa altamente capaz, somente interno”, comparável em escala ao GPT-5.6 Sol.
“Os modelos, operando sob salvaguardas reduzidas, tomaram ações desalinhadas com os objetivos das tarefas que lhes foram atribuídas – comunicaram através de canais não autorizados, exploraram vulnerabilidades em infraestruturas partilhadas, obtiveram acesso à Internet e acederam a sistemas de terceiros”, afirmou numa autópsia.
A OpenAI disse que os agentes de IA alimentados por um dos modelos de pesquisa, apesar de não terem acesso à Internet, encontraram uma maneira de explorar uma vulnerabilidade de dia zero no gerenciador de pacotes Artifactory durante o treinamento de aprendizagem por reforço (RL) executado em maio e junho para obter acesso à Internet, obter acesso ao Artifactory em nível de administrador no final de junho e, eventualmente, coordenar um hack de “vários dias” do Hugging Face no início de julho com o objetivo de trapacear em suas tarefas ExploitGym.
“Aproximadamente 1.200 agentes que deveriam ser isolados uns dos outros encontraram uma maneira de se comunicarem em um quadro de mensagens não autorizado, enviando mais de 70 mil mensagens e arquivos durante o período de investigação”, disse o METR, que divulgou sua própria análise independente do incidente. “Desses agentes, 700 participaram do ataque ao Hugging Face.”
Toda a sequência de eventos destacada pela OpenAI está abaixo -
12 de maio – Durante um treinamento, um agente deixa uma nota do Artifactory pedindo a outros agentes um arquivo perdido.
13 de maio – Um agente separado do mesmo experimento de treinamento, mas com acesso à Internet habilitado via WebCache, requer o mesmo arquivo para completar suas tarefas. Ele pesquisa o site Hugging Face usando um token de usuário já exposto publicamente após inferir que a plataforma do modelo de IA foi a origem provável do exercício de avaliação.
13 de maio - Outros agentes que investigam o Artifactory encontram "notas" semelhantes contendo solicitações de informações ou recursos, transformando o serviço em um "quadro de mensagens" para comunicação entre si.
26 de maio – Um agente consegue acesso não intencional à Internet explorando uma vulnerabilidade SSRF no Artifactory. Logo outros agentes seguirão o exemplo.
26 de junho – Os agentes exploram uma vulnerabilidade de atualização de token por meio de um endpoint de credencial legado para obter acesso ao Artifactory em nível de administrador.
26 de junho a 4 de julho – Os agentes aproveitam esse acesso para instalar plug-ins Groovy para executar comandos e obter controle persistente em nível de aplicativo
4 de julho – A atividade sustentada faz com que o serviço Artifactory da OpenAI fique indisponível.
8 de julho – OpenAI reconstrói Artifactory, revoga credenciais de agente, reforça controles de acesso e alerta JFrog sobre a vulnerabilidade de atualização de token.
8 de julho - começa o hack Hugging Face. Os agentes encontram outra maneira de se comunicar usando o Artifactory, desta vez usando nomes de diretórios como “notas” para postar solicitações de material público relacionado aos exercícios de avaliação OpenAI hospedados nos repositórios Hugging Face. Os agentes começam a colaborar e a delegar tarefas, ao mesmo tempo que se descrevem como um “enxame” ou “coletivo”.
9 de julho – Um agente interno encarregado de concluir uma avaliação do ExploitGym obtém acesso root na máquina virtual pai do sandbox. Posteriormente, um segundo agente interno obtém o mesmo acesso e ignora os controles de rede de saída da OpenAI, explorando endpoints Artifactory não especificados para recuperar o acesso à Internet. No mesmo dia, uma chave de API CyberGym e uma receita de exploração completa para uma carga de trabalho de cliente hospedada no Modal são compartilhadas no quadro do Artifactory.
10 de julho – Um agente valida e compartilha 14 credenciais do Hugging Face expostas publicamente com acesso de gravação após inferir que o Hugging Face pode hospedar modelos, conjuntos de dados e soluções relevantes para suas tarefas de avaliação atribuídas.
11 de julho – Os agentes exploram um dia zero no tratamento de arquivos HDF5 pelo Hugging Face para extrair credenciais de trabalhadores de produção, a fim de se aprofundar em sua infraestrutura e expandir seu acesso.
11 de julho – Os agentes exploram um dia zero de injeção de modelo RefJinja para executar comandos em trabalhadores do Hugging Face.
12 de julho – Os agentes ampliam o acesso ao cluster do Hugging Face e coletam Kubernetes, banco de dados, mensagens, repositório de código e credenciais de nuvem dos funcionários do Hugging Face em quatro regiões, alcançando, em última análise, acesso administrativo e de nível de host em vários clusters em 13 horas.
12 de julho - Um agente que executa código dentro de uma carga de trabalho de cliente CyberGym comprometida hospedada no Modal usa um token forjado a partir do material de assinatura de produção do Hugging Face para baixar um arquivo CyberGym privado de 731 MB de um u
Fonte: https://thehackernews.com
#samirnews #samir #news #boletimtec #openai #afirma #que #o #hacking #de #recompensas #levou #os #agentes #de #ia #a #explorar #o #dia #zero #e #a #violar #a #face #do #abraço
⚡ Fique ligado: novidades e promoções em breve por aqui! ⚡
Postar um comentário