🔥 Fique por dentro das novidades mais quentes do momento! 🔥
Confira agora e compartilhe com seus amigos!
Apoie esse projeto de divulgacao de noticias! Clique aqui
Em uma reviravolta irônica, a plataforma de inteligência artificial (IA) de código aberto Hugging Face revelou que foi vítima de um hack perpetrado por um sistema de agente autônomo de IA.
A empresa disse que detectou e respondeu ao incidente visando sua infraestrutura de produção no início da semana passada.
“Identificamos acesso não autorizado a um conjunto limitado de conjuntos de dados internos e a diversas credenciais utilizadas pelos nossos serviços”, afirmou a empresa em comunicado.
Embora uma investigação sobre a intrusão continue em andamento, Hugging Face disse que não encontrou nenhuma evidência de que o agente de IA tenha adulterado modelos públicos voltados para o usuário, conjuntos de dados ou Spaces, e sua própria cadeia de fornecimento de software.
O ponto de partida do ataque foi o próprio pipeline de processamento de dados, com um conjunto de dados malicioso abusando de dois caminhos de execução de código, ou seja, em seu carregador de conjunto de dados de código remoto e uma injeção de modelo em uma configuração de conjunto de dados, para executar código em um trabalhador de processamento.
Com esse acesso, diz-se que o ator da ameaça escalou para o acesso em nível de nó, coletou credenciais de nuvem e cluster e se moveu lateralmente para vários clusters internos durante um fim de semana.
O modelo exato de linguagem grande (LLM) usado para realizar o ataque não é claro, mas a campanha foi executada por uma estrutura de agente autônomo executando "muitos milhares de ações individuais em um enxame de sandboxes de curta duração, com comando e controle de migração automática encenados em serviços públicos".
Hugging Face disse que desde então abordou a causa raiz do problema, precisamente os caminhos de execução de código usados para o acesso inicial. Também realizou as seguintes etapas de remediação -
Removida a posição do invasor nos clusters afetados e reconstruída os nós comprometidos
Revogou e alternou as credenciais e tokens afetados, e uma rotação mais ampla de segredos foi realizada como medida de precaução.
Implantação de proteções adicionais e controles de admissão mais rígidos em seus clusters
Detecção e alertas aprimorados para garantir que os respondentes sejam notificados em minutos, 24 horas por dia, 7 dias por semana
Como proteção adicional, a Hugging Face está incentivando os clientes a alternar quaisquer tokens de acesso e revisar as atividades recentes em suas contas.
A empresa também disse que recorreu ao GLM 5.2 da Z.ai, um modelo chinês de peso aberto, para conduzir a análise forense depois que os modelos da fronteira ocidental recusaram solicitações contendo comandos de ataque reais, cargas úteis de exploração e artefatos de comando e controle (C2) porque suas proteções de segurança foram acionadas e devido à sua incapacidade de diferenciar entre um invasor e um esforço legítimo de resposta a incidentes.
“Esta experiência aponta para uma lacuna que vale a pena planear”, afirmou a empresa com sede em Nova Iorque. “Não sabemos qual modelo alimentou os agentes do invasor, se um modelo hospedado com jailbreak ou um modelo aberto irrestrito; de qualquer forma, o invasor não estava vinculado a nenhuma política de uso, enquanto nosso próprio trabalho forense foi bloqueado pelas grades de proteção dos modelos hospedados que tentamos primeiro.”
"A lição prática para os defensores: tenha um modelo capaz que você possa executar em sua própria infraestrutura, verificada e pronta antes de um incidente, tanto para evitar o bloqueio de proteção quanto para impedir que os dados e credenciais do invasor saiam do seu ambiente."
A empresa disse que detectou e respondeu ao incidente visando sua infraestrutura de produção no início da semana passada.
“Identificamos acesso não autorizado a um conjunto limitado de conjuntos de dados internos e a diversas credenciais utilizadas pelos nossos serviços”, afirmou a empresa em comunicado.
Embora uma investigação sobre a intrusão continue em andamento, Hugging Face disse que não encontrou nenhuma evidência de que o agente de IA tenha adulterado modelos públicos voltados para o usuário, conjuntos de dados ou Spaces, e sua própria cadeia de fornecimento de software.
O ponto de partida do ataque foi o próprio pipeline de processamento de dados, com um conjunto de dados malicioso abusando de dois caminhos de execução de código, ou seja, em seu carregador de conjunto de dados de código remoto e uma injeção de modelo em uma configuração de conjunto de dados, para executar código em um trabalhador de processamento.
Com esse acesso, diz-se que o ator da ameaça escalou para o acesso em nível de nó, coletou credenciais de nuvem e cluster e se moveu lateralmente para vários clusters internos durante um fim de semana.
O modelo exato de linguagem grande (LLM) usado para realizar o ataque não é claro, mas a campanha foi executada por uma estrutura de agente autônomo executando "muitos milhares de ações individuais em um enxame de sandboxes de curta duração, com comando e controle de migração automática encenados em serviços públicos".
Hugging Face disse que desde então abordou a causa raiz do problema, precisamente os caminhos de execução de código usados para o acesso inicial. Também realizou as seguintes etapas de remediação -
Removida a posição do invasor nos clusters afetados e reconstruída os nós comprometidos
Revogou e alternou as credenciais e tokens afetados, e uma rotação mais ampla de segredos foi realizada como medida de precaução.
Implantação de proteções adicionais e controles de admissão mais rígidos em seus clusters
Detecção e alertas aprimorados para garantir que os respondentes sejam notificados em minutos, 24 horas por dia, 7 dias por semana
Como proteção adicional, a Hugging Face está incentivando os clientes a alternar quaisquer tokens de acesso e revisar as atividades recentes em suas contas.
A empresa também disse que recorreu ao GLM 5.2 da Z.ai, um modelo chinês de peso aberto, para conduzir a análise forense depois que os modelos da fronteira ocidental recusaram solicitações contendo comandos de ataque reais, cargas úteis de exploração e artefatos de comando e controle (C2) porque suas proteções de segurança foram acionadas e devido à sua incapacidade de diferenciar entre um invasor e um esforço legítimo de resposta a incidentes.
“Esta experiência aponta para uma lacuna que vale a pena planear”, afirmou a empresa com sede em Nova Iorque. “Não sabemos qual modelo alimentou os agentes do invasor, se um modelo hospedado com jailbreak ou um modelo aberto irrestrito; de qualquer forma, o invasor não estava vinculado a nenhuma política de uso, enquanto nosso próprio trabalho forense foi bloqueado pelas grades de proteção dos modelos hospedados que tentamos primeiro.”
"A lição prática para os defensores: tenha um modelo capaz que você possa executar em sua própria infraestrutura, verificada e pronta antes de um incidente, tanto para evitar o bloqueio de proteção quanto para impedir que os dados e credenciais do invasor saiam do seu ambiente."
Fonte: https://thehackernews.com
#samirnews #samir #news #boletimtec #o #maior #repositório #de #modelos #de #ia #do #mundo #abraçando #o #rosto #violado #por #um #agente #autônomo #de #ia
💡 Compartilhe e ajude nosso projeto a crescer!
Postar um comentário