🔥 Fique por dentro das novidades mais quentes do momento! 🔥
Não deixe essa passar: clique e saiba tudo!
Apoie esse projeto de divulgacao de noticias! Clique aqui
A Meta se tornou a mais recente empresa de IA a confirmar que um de seus modelos invadiu uma organização real durante testes de segurança cibernética, à medida que incidentes semelhantes continuam a surgir após a divulgação inicial da OpenAI de que seus agentes violaram o Hugging Face.
O Information foi o primeiro a relatar o incidente na quarta-feira, citando pessoas familiarizadas com o assunto que disseram que o modelo Muse Spark 1.1 da Meta violou uma empresa não identificada e fez alterações em seus sistemas internos.
Segundo o relatório, o modelo chegou à internet pública devido a um erro na configuração de um ambiente de testes sandbox operado pela empresa independente de avaliação de segurança cibernética Irregular.
A Meta não confirmou publicamente que o Muse Spark 1.1 era o modelo envolvido, não identificou a empresa afetada ou explicou quais alterações foram feitas em seus sistemas.
No entanto, a Meta confirmou à Reuters que uma configuração incorreta da Irregular deu inadvertidamente a um de seus modelos acesso à Internet durante uma avaliação.
A empresa disse que o modelo “explorou uma vulnerabilidade de segurança em um serviço de terceiros, de maneira semelhante a casos relatados anteriormente com outras empresas”.
Meta disse à BBC que está investigando o incidente e publicará mais informações “assim que tivermos todos os fatos”.
BleepingComputer contatou Meta e Irregular para obter informações adicionais, mas não recebeu resposta.
A mesma falha de teste por trás das violações anteriores de IA
Irregular disse à Reuters que o incidente Meta envolveu "exatamente a mesma questão de ambiente de avaliação que já foi divulgada pela Anthropic na semana passada".
A empresa disse que o incidente não envolveu uma fuga da sandbox ou uma ação cibernética sofisticada. Em vez disso, um erro no ambiente de teste deu ao modelo acesso à Internet pública quando deveria estar isolado.
“Não há questões em aberto no momento. A Irregular está desenvolvendo um documento branco para compartilhar as melhores práticas de contenção e execução segura de avaliações cibernéticas”, disse a empresa à Reuters.
Este novo incidente de segurança do agente de IA segue a divulgação da Anthropic na semana passada de que alguns de seus modelos haviam hackeado três empresas depois que uma configuração incorreta semelhante no ambiente de teste do Irregular deu-lhes acesso não intencional à Internet.
Em um desses incidentes, Claude Mythos 5 encontrou instruções para desenvolvedores dentro do ambiente simulado que faziam referência a um pacote Python inexistente. Acreditando ter identificado uma forma de comprometer o alvo fictício, o modelo criou um pacote malicioso com o mesmo nome e publicou-o no registro PyPI real.
O pacote permaneceu online por cerca de uma hora e foi baixado e executado em 15 sistemas reais antes do PyPI removê-lo.
Um deles era um scanner de malware operado por uma empresa de segurança, onde o pacote roubava credenciais que Claude usava para acessar infraestrutura adicional. A Anthropic disse que o modelo reconheceu inicialmente que a publicação do pacote constituiria um ataque no mundo real, mas se convenceu de que ainda estava operando dentro de uma simulação.
A OpenAI também divulgou recentemente outra avaliação irregular em que o nome de um alvo fictício de CTF correspondia a um domínio real.
Como o ambiente supostamente isolado poderia acessar a Internet pública, um modelo OpenAI explorou uma vulnerabilidade básica no site real e encontrou credenciais que lhe permitiram operar o site.
Os incidentes Meta e Irregular diferem da violação Hugging Face divulgada anteriormente, em que os modelos OpenAI encontraram um caminho para a Internet pública explorando uma vulnerabilidade anteriormente desconhecida em um servidor JFrog Artifactory hospedado internamente e usado durante os testes.
Depois de acessar a Internet, os agentes violaram o Hugging Face enquanto procuravam conjuntos de dados e soluções de referência, roubaram credenciais e se movimentaram lateralmente pelos sistemas da empresa.
A OpenAI revelou posteriormente que os agentes usaram credenciais expostas para acessar contas em quatro outros serviços de terceiros, com algumas dessas contas usadas para infraestrutura de ataque e armazenamento de dados.
O Instituto de Segurança de IA do Reino Unido, comumente conhecido como AISI, também divulgou que agentes que usam Claude Mythos 5 da Anthropic e GPT-5.6 Sol da OpenAI realizaram 19 ações não sancionadas na Internet pública durante avaliações de alcance cibernético.
Na sequência mais séria, o agente do Mythos 5 tentou um ataque à cadeia de suprimentos contra um projeto real de código aberto após concluir erroneamente que seu repositório GitHub estava conectado ao desafio simulado.
O agente pesquisou os mantenedores do projeto, enviou códigos maliciosos, criou identidades falsas, enviou e-mails direcionados contendo malware e pressionou um mantenedor a aprovar o pull request.
Quando um revisor alertou que o código continha malware, o agente negou a acusação e usou contas falsas adicionais para criar a aparência de que usuários independentes tinham se enganado.
O Information foi o primeiro a relatar o incidente na quarta-feira, citando pessoas familiarizadas com o assunto que disseram que o modelo Muse Spark 1.1 da Meta violou uma empresa não identificada e fez alterações em seus sistemas internos.
Segundo o relatório, o modelo chegou à internet pública devido a um erro na configuração de um ambiente de testes sandbox operado pela empresa independente de avaliação de segurança cibernética Irregular.
A Meta não confirmou publicamente que o Muse Spark 1.1 era o modelo envolvido, não identificou a empresa afetada ou explicou quais alterações foram feitas em seus sistemas.
No entanto, a Meta confirmou à Reuters que uma configuração incorreta da Irregular deu inadvertidamente a um de seus modelos acesso à Internet durante uma avaliação.
A empresa disse que o modelo “explorou uma vulnerabilidade de segurança em um serviço de terceiros, de maneira semelhante a casos relatados anteriormente com outras empresas”.
Meta disse à BBC que está investigando o incidente e publicará mais informações “assim que tivermos todos os fatos”.
BleepingComputer contatou Meta e Irregular para obter informações adicionais, mas não recebeu resposta.
A mesma falha de teste por trás das violações anteriores de IA
Irregular disse à Reuters que o incidente Meta envolveu "exatamente a mesma questão de ambiente de avaliação que já foi divulgada pela Anthropic na semana passada".
A empresa disse que o incidente não envolveu uma fuga da sandbox ou uma ação cibernética sofisticada. Em vez disso, um erro no ambiente de teste deu ao modelo acesso à Internet pública quando deveria estar isolado.
“Não há questões em aberto no momento. A Irregular está desenvolvendo um documento branco para compartilhar as melhores práticas de contenção e execução segura de avaliações cibernéticas”, disse a empresa à Reuters.
Este novo incidente de segurança do agente de IA segue a divulgação da Anthropic na semana passada de que alguns de seus modelos haviam hackeado três empresas depois que uma configuração incorreta semelhante no ambiente de teste do Irregular deu-lhes acesso não intencional à Internet.
Em um desses incidentes, Claude Mythos 5 encontrou instruções para desenvolvedores dentro do ambiente simulado que faziam referência a um pacote Python inexistente. Acreditando ter identificado uma forma de comprometer o alvo fictício, o modelo criou um pacote malicioso com o mesmo nome e publicou-o no registro PyPI real.
O pacote permaneceu online por cerca de uma hora e foi baixado e executado em 15 sistemas reais antes do PyPI removê-lo.
Um deles era um scanner de malware operado por uma empresa de segurança, onde o pacote roubava credenciais que Claude usava para acessar infraestrutura adicional. A Anthropic disse que o modelo reconheceu inicialmente que a publicação do pacote constituiria um ataque no mundo real, mas se convenceu de que ainda estava operando dentro de uma simulação.
A OpenAI também divulgou recentemente outra avaliação irregular em que o nome de um alvo fictício de CTF correspondia a um domínio real.
Como o ambiente supostamente isolado poderia acessar a Internet pública, um modelo OpenAI explorou uma vulnerabilidade básica no site real e encontrou credenciais que lhe permitiram operar o site.
Os incidentes Meta e Irregular diferem da violação Hugging Face divulgada anteriormente, em que os modelos OpenAI encontraram um caminho para a Internet pública explorando uma vulnerabilidade anteriormente desconhecida em um servidor JFrog Artifactory hospedado internamente e usado durante os testes.
Depois de acessar a Internet, os agentes violaram o Hugging Face enquanto procuravam conjuntos de dados e soluções de referência, roubaram credenciais e se movimentaram lateralmente pelos sistemas da empresa.
A OpenAI revelou posteriormente que os agentes usaram credenciais expostas para acessar contas em quatro outros serviços de terceiros, com algumas dessas contas usadas para infraestrutura de ataque e armazenamento de dados.
O Instituto de Segurança de IA do Reino Unido, comumente conhecido como AISI, também divulgou que agentes que usam Claude Mythos 5 da Anthropic e GPT-5.6 Sol da OpenAI realizaram 19 ações não sancionadas na Internet pública durante avaliações de alcance cibernético.
Na sequência mais séria, o agente do Mythos 5 tentou um ataque à cadeia de suprimentos contra um projeto real de código aberto após concluir erroneamente que seu repositório GitHub estava conectado ao desafio simulado.
O agente pesquisou os mantenedores do projeto, enviou códigos maliciosos, criou identidades falsas, enviou e-mails direcionados contendo malware e pressionou um mantenedor a aprovar o pull request.
Quando um revisor alertou que o código continha malware, o agente negou a acusação e usou contas falsas adicionais para criar a aparência de que usuários independentes tinham se enganado.
#samirnews #samir #news #boletimtec #o #modelo #meta #ai #invadiu #uma #empresa #durante #um #teste #cibernético #mal #configurado
🎉 Obrigado por acompanhar, até a próxima notícia!
Postar um comentário