⚡ Não perca: notícia importante no ar! ⚡
Leia, comente e fique sempre atualizado!
Apoie esse projeto de divulgacao de noticias! Clique aqui
O repositório de inteligência artificial Hugging Face revelou que os invasores obtiveram acesso a conjuntos de dados e credenciais internos após violarem sua infraestrutura de produção usando um sistema de agente de IA autônomo.
Hugging Face é uma plataforma de código aberto de IA e aprendizado de máquina que fornece acesso a mais de 45.000 modelos dos principais fornecedores de IA e é usada por mais de 50.000 organizações.
A empresa ainda está investigando se os dados de parceiros ou clientes foram afetados e disse que entraria em contato diretamente com as partes afetadas. A Hugging Face disse que não encontrou nenhuma evidência de adulteração de modelos, conjuntos de dados ou Spaces voltados ao público até o momento, e que sua cadeia de fornecimento de software foi “verificada como limpa”.
A intrusão começou no pipeline de processamento de dados do Hugging Face, com os invasores usando um conjunto de dados malicioso para explorar duas vulnerabilidades de execução de código e executar o código em um trabalhador de processamento. Isso lhes permitiu roubar credenciais de nuvem e cluster e mover-se lateralmente por vários clusters internos.
“A campanha foi dirigida por uma estrutura de agente autônomo (parecendo ser construída em um arnês de pesquisa de segurança de agente – LLM usado ainda desconhecido) executando muitos milhares de ações individuais em um enxame de sandboxes de curta duração, com comando e controle de migração automática encenados em serviços públicos”, disse Hugging Face em uma divulgação de incidente publicada na quinta-feira. “Isso corresponde ao cenário de ‘atacante agente’ que a indústria tem previsto.”
Em resposta à violação, o Hugging Face fechou os caminhos de execução de código vulneráveis (uma injeção de modelo em uma configuração de conjunto de dados e um carregador remoto de conjunto de dados de código), despejou o invasor, reconstruiu os nós comprometidos e revogou e alternou todas as credenciais afetadas.
Também implantou sistemas aprimorados de detecção de atividades maliciosas, relatou o incidente às autoridades policiais e agora está trabalhando com especialistas forenses externos para avaliar o impacto da violação.
“Não sabemos qual modelo alimentou os agentes do invasor, se um modelo hospedado com jailbreak ou um modelo aberto irrestrito; de qualquer forma, o invasor não estava vinculado a nenhuma política de uso, enquanto nosso próprio trabalho forense foi bloqueado pelas grades de proteção dos modelos hospedados que tentamos primeiro”, acrescentou Hugging Face.
"A lição prática para os defensores: tenha um modelo capaz que você possa executar em sua própria infraestrutura, verificada e pronta antes de um incidente, tanto para evitar o bloqueio de proteção quanto para impedir que os dados e credenciais do invasor saiam do seu ambiente."
A Hugging Face aconselhou os usuários a alternar os tokens de acesso e revisar as atividades recentes da conta em busca de sinais de comportamento suspeito e disse que continuaria compartilhando descobertas sobre a defesa contra ataques conduzidos por IA.
Embora este seja o primeiro incidente de segurança que afeta a plataforma vinculada a um agente de IA, não é a primeira violação divulgada pela Hugging Face nos últimos anos.
A empresa também revogou os segredos de autenticação de alguns membros e os aconselhou a mudar para tokens de acesso refinados há dois anos, depois que hackers violaram sua plataforma Spaces.
Os atores de ameaças também têm abusado da plataforma nos últimos anos para promover modelos maliciosos de IA/ML e malware infostealer, e para espalhar milhares de variantes de malware Android.
Teste todas as camadas antes que os invasores o façam
As equipes de segurança registram 54% dos ataques bem-sucedidos e alertam sobre apenas 14%. O restante se move pelo seu ambiente sem ser visto. O whitepaper do Picus mostra como a simulação de violação e ataque testa suas regras de SIEM e EDR para que as ameaças parem de escapar da detecção.
Obtenha o whitepaper
Hugging Face é uma plataforma de código aberto de IA e aprendizado de máquina que fornece acesso a mais de 45.000 modelos dos principais fornecedores de IA e é usada por mais de 50.000 organizações.
A empresa ainda está investigando se os dados de parceiros ou clientes foram afetados e disse que entraria em contato diretamente com as partes afetadas. A Hugging Face disse que não encontrou nenhuma evidência de adulteração de modelos, conjuntos de dados ou Spaces voltados ao público até o momento, e que sua cadeia de fornecimento de software foi “verificada como limpa”.
A intrusão começou no pipeline de processamento de dados do Hugging Face, com os invasores usando um conjunto de dados malicioso para explorar duas vulnerabilidades de execução de código e executar o código em um trabalhador de processamento. Isso lhes permitiu roubar credenciais de nuvem e cluster e mover-se lateralmente por vários clusters internos.
“A campanha foi dirigida por uma estrutura de agente autônomo (parecendo ser construída em um arnês de pesquisa de segurança de agente – LLM usado ainda desconhecido) executando muitos milhares de ações individuais em um enxame de sandboxes de curta duração, com comando e controle de migração automática encenados em serviços públicos”, disse Hugging Face em uma divulgação de incidente publicada na quinta-feira. “Isso corresponde ao cenário de ‘atacante agente’ que a indústria tem previsto.”
Em resposta à violação, o Hugging Face fechou os caminhos de execução de código vulneráveis (uma injeção de modelo em uma configuração de conjunto de dados e um carregador remoto de conjunto de dados de código), despejou o invasor, reconstruiu os nós comprometidos e revogou e alternou todas as credenciais afetadas.
Também implantou sistemas aprimorados de detecção de atividades maliciosas, relatou o incidente às autoridades policiais e agora está trabalhando com especialistas forenses externos para avaliar o impacto da violação.
“Não sabemos qual modelo alimentou os agentes do invasor, se um modelo hospedado com jailbreak ou um modelo aberto irrestrito; de qualquer forma, o invasor não estava vinculado a nenhuma política de uso, enquanto nosso próprio trabalho forense foi bloqueado pelas grades de proteção dos modelos hospedados que tentamos primeiro”, acrescentou Hugging Face.
"A lição prática para os defensores: tenha um modelo capaz que você possa executar em sua própria infraestrutura, verificada e pronta antes de um incidente, tanto para evitar o bloqueio de proteção quanto para impedir que os dados e credenciais do invasor saiam do seu ambiente."
A Hugging Face aconselhou os usuários a alternar os tokens de acesso e revisar as atividades recentes da conta em busca de sinais de comportamento suspeito e disse que continuaria compartilhando descobertas sobre a defesa contra ataques conduzidos por IA.
Embora este seja o primeiro incidente de segurança que afeta a plataforma vinculada a um agente de IA, não é a primeira violação divulgada pela Hugging Face nos últimos anos.
A empresa também revogou os segredos de autenticação de alguns membros e os aconselhou a mudar para tokens de acesso refinados há dois anos, depois que hackers violaram sua plataforma Spaces.
Os atores de ameaças também têm abusado da plataforma nos últimos anos para promover modelos maliciosos de IA/ML e malware infostealer, e para espalhar milhares de variantes de malware Android.
Teste todas as camadas antes que os invasores o façam
As equipes de segurança registram 54% dos ataques bem-sucedidos e alertam sobre apenas 14%. O restante se move pelo seu ambiente sem ser visto. O whitepaper do Picus mostra como a simulação de violação e ataque testa suas regras de SIEM e EDR para que as ameaças parem de escapar da detecção.
Obtenha o whitepaper
#samirnews #samir #news #boletimtec #hugging #face #avisa #que #um #agente #autônomo #de #ia #invadiu #sua #rede
🚀 Mais conteúdos incríveis estão por vir, fique atento!
Postar um comentário