🌟 Atualização imperdível para quem gosta de estar bem informado!
Leia, comente e fique sempre atualizado!
Apoie esse projeto de divulgacao de noticias! Clique aqui
METR (abreviação de Model Evaluation and Threat Research e pronunciado "Meter"), uma pesquisa sem fins lucrativos que avalia modelos de inteligência artificial (IA) de fronteira quanto à sua capacidade de realizar tarefas de agente de longo horizonte, revelou que sofreu "dois incidentes de segurança notáveis" onde atores externos tentaram obter acesso não autorizado aos seus sistemas.
Acredita-se que nenhuma informação sensível tenha sido acessada como resultado desses incidentes, afirmou, acrescentando que uma versão de suas descobertas foi compartilhada com empresas de IA com as quais trabalha antes da divulgação pública. Os ataques não foram atribuídos a nenhum agente ou grupo de ameaça conhecido, nem envolveram agentes de IA que invadiram as suas avaliações.
“Em março de 2026, os invasores roubaram uma chave de API para inferência em modelos públicos e consumiram uma quantidade substancial de créditos”, disse o METR. “Em maio de 2026, observamos invasores investigando sistematicamente nossa infraestrutura acessível ao público, incluindo uma tentativa malsucedida de acessar dados internos por meio de um endpoint exposto inadvertidamente.”
O incidente de março
De acordo com o METR, um de seus pesquisadores sem acesso confidencial teria usado agentes executados em uma instância pessoal do EC2 que foi intencionalmente disponibilizada publicamente por meio da autenticação do Google. A instância continha uma chave de API para a conta de acesso geral (modelos públicos) do METR.
No entanto, o “aplicativo codificado por vibração” sofria de uma “vulnerabilidade de falha ao abrir” que desativava silenciosamente a autenticação, fazendo com que o painel de orquestração do agente ficasse exposto à Internet pública por vários dias.
“A partir de nossa análise, suspeitamos que o invasor encontrou a instância pesquisando sites recentemente registrados (por exemplo, em listas de transparência de certificados) para encontrar sites codificados por vibração com palavras-chave de alto sinal relacionadas a LLMs ou agentes, para fins de coleta de chaves de API de provedores de modelos potencialmente expostos”, explicou METR.
Depois que o sistema foi identificado, o agente da ameaça solicitou diretamente a um agente que revelasse sua chave de API do provedor de modelo, adicionou uma chave SSH para acesso persistente e usou as credenciais roubadas para consumir uma quantidade significativa de créditos de API em modelos disponíveis publicamente durante um período de três semanas.
O METR disse que os créditos acumulados teriam acumulado aproximadamente US$ 600.000 em contas se não tivessem sido fornecidos gratuitamente à organização sem fins lucrativos pelo fornecedor do modelo. Não nomeou a empresa de IA.
Ele também observou que o uso ilícito não foi detectado imediatamente porque realiza avaliações e experimentos em grande escala que normalmente consomem um grande volume de tokens e o fato de que não havia limites para o gasto de tokens. Após o incidente, o METR disse que atualizou suas políticas de segurança em torno da colocação de credenciais ou dados do METR em infraestrutura ou dispositivos não-METR, melhorou o monitoramento e adicionou alertas de gastos às chaves sempre que possível.
O incidente de maio
O segundo ataque observado em maio de 2026 foi descrito como uma “campanha de ataque externo sustentado” orquestrada por um provável agente de ameaça com motivação financeira para obter acesso ilegal a modelos de IA de fronteira.
“Observamos os invasores investigando sistematicamente nossa infraestrutura acessível ao público, com uso pesado de agentes para automatizar a descoberta de vulnerabilidades, inclusive por meio de preenchimento de credenciais de provedores de autenticação, tentativa de concessão de token OAuth, verificação de serviços recém-implantados e tentativa de phishing de funcionários”, disse o METR.
Na mesma época, a entidade de pesquisa disse que expôs inadvertidamente um mecanismo de consulta SQL somente leitura integrado em seu visualizador de transcrição pública. Embora as consultas tivessem como escopo dados públicos por padrão, um bug no componente poderia ter sido explorado para acessar dados de avaliação não publicados.
Além disso, o banco de dados “incluiu acidentalmente” dados de modelos confidenciais, apesar de supostamente conter apenas dados de modelos não confidenciais. O METR disse que tomou conhecimento do problema somente depois que um pesquisador de segurança independente o descobriu e relatou, resultando na desativação da API.
“Os invasores investigaram esse endpoint de passagem como parte de sua campanha mais ampla, mas as evidências não mostram nenhuma indicação de que eles descobriram a exploração ou acessaram quaisquer dados não públicos”, disse o METR.
Acredita-se que nenhuma informação sensível tenha sido acessada como resultado desses incidentes, afirmou, acrescentando que uma versão de suas descobertas foi compartilhada com empresas de IA com as quais trabalha antes da divulgação pública. Os ataques não foram atribuídos a nenhum agente ou grupo de ameaça conhecido, nem envolveram agentes de IA que invadiram as suas avaliações.
“Em março de 2026, os invasores roubaram uma chave de API para inferência em modelos públicos e consumiram uma quantidade substancial de créditos”, disse o METR. “Em maio de 2026, observamos invasores investigando sistematicamente nossa infraestrutura acessível ao público, incluindo uma tentativa malsucedida de acessar dados internos por meio de um endpoint exposto inadvertidamente.”
O incidente de março
De acordo com o METR, um de seus pesquisadores sem acesso confidencial teria usado agentes executados em uma instância pessoal do EC2 que foi intencionalmente disponibilizada publicamente por meio da autenticação do Google. A instância continha uma chave de API para a conta de acesso geral (modelos públicos) do METR.
No entanto, o “aplicativo codificado por vibração” sofria de uma “vulnerabilidade de falha ao abrir” que desativava silenciosamente a autenticação, fazendo com que o painel de orquestração do agente ficasse exposto à Internet pública por vários dias.
“A partir de nossa análise, suspeitamos que o invasor encontrou a instância pesquisando sites recentemente registrados (por exemplo, em listas de transparência de certificados) para encontrar sites codificados por vibração com palavras-chave de alto sinal relacionadas a LLMs ou agentes, para fins de coleta de chaves de API de provedores de modelos potencialmente expostos”, explicou METR.
Depois que o sistema foi identificado, o agente da ameaça solicitou diretamente a um agente que revelasse sua chave de API do provedor de modelo, adicionou uma chave SSH para acesso persistente e usou as credenciais roubadas para consumir uma quantidade significativa de créditos de API em modelos disponíveis publicamente durante um período de três semanas.
O METR disse que os créditos acumulados teriam acumulado aproximadamente US$ 600.000 em contas se não tivessem sido fornecidos gratuitamente à organização sem fins lucrativos pelo fornecedor do modelo. Não nomeou a empresa de IA.
Ele também observou que o uso ilícito não foi detectado imediatamente porque realiza avaliações e experimentos em grande escala que normalmente consomem um grande volume de tokens e o fato de que não havia limites para o gasto de tokens. Após o incidente, o METR disse que atualizou suas políticas de segurança em torno da colocação de credenciais ou dados do METR em infraestrutura ou dispositivos não-METR, melhorou o monitoramento e adicionou alertas de gastos às chaves sempre que possível.
O incidente de maio
O segundo ataque observado em maio de 2026 foi descrito como uma “campanha de ataque externo sustentado” orquestrada por um provável agente de ameaça com motivação financeira para obter acesso ilegal a modelos de IA de fronteira.
“Observamos os invasores investigando sistematicamente nossa infraestrutura acessível ao público, com uso pesado de agentes para automatizar a descoberta de vulnerabilidades, inclusive por meio de preenchimento de credenciais de provedores de autenticação, tentativa de concessão de token OAuth, verificação de serviços recém-implantados e tentativa de phishing de funcionários”, disse o METR.
Na mesma época, a entidade de pesquisa disse que expôs inadvertidamente um mecanismo de consulta SQL somente leitura integrado em seu visualizador de transcrição pública. Embora as consultas tivessem como escopo dados públicos por padrão, um bug no componente poderia ter sido explorado para acessar dados de avaliação não publicados.
Além disso, o banco de dados “incluiu acidentalmente” dados de modelos confidenciais, apesar de supostamente conter apenas dados de modelos não confidenciais. O METR disse que tomou conhecimento do problema somente depois que um pesquisador de segurança independente o descobriu e relatou, resultando na desativação da API.
“Os invasores investigaram esse endpoint de passagem como parte de sua campanha mais ampla, mas as evidências não mostram nenhuma indicação de que eles descobriram a exploração ou acessaram quaisquer dados não públicos”, disse o METR.
Fonte: https://thehackernews.com
#samirnews #samir #news #boletimtec #atacantes #roubam #chave #da #api #metr #e #consomem #créditos #de #ia #no #valor #de #cerca #de #us$ #600.000
💡 Compartilhe e ajude nosso projeto a crescer!
Postar um comentário