⚡ Não perca: notÃcia importante no ar! ⚡
Não deixe essa passar: clique e saiba tudo!
Apoie esse projeto de divulgacao de noticias! Clique aqui
A Anthropic disse na sexta-feira que “desativará abruptamente” seus modelos mais avançados de inteligência artificial (IA), Claude Fable 5 e Mythos 5, para todos os usuários depois que o governo dos EUA ordenou que suspendesse o acesso aos modelos para cidadãos estrangeiros, sejam dentro ou fora dos EUA, citando preocupações de segurança nacional.
A empresa de IA disse que recebeu um pedido à s 17h21. ET, instruindo-o a suspender todo o acesso aos modelos por parte de estrangeiros. Disse acreditar que houve um “mal-entendido” e que está trabalhando para restaurar o acesso aos modelos o mais rápido possÃvel. O acesso a outros modelos não será afectado pela directiva relativa ao controlo das exportações.
“Nosso entendimento é que o governo acredita ter tomado conhecimento de um método para contornar ou ‘desbloquear’ o Fable 5”, disse a empresa.
“Revisamos uma demonstração desta técnica especÃfica sendo usada para identificar um pequeno número de vulnerabilidades menores anteriormente conhecidas. Todas essas vulnerabilidades parecem relativamente simples e descobrimos que outros modelos disponÃveis publicamente também são capazes de descobri-las sem a necessidade de um desvio.”
A mudança inesperada ocorre dias após o lançamento de Claude Fable 5 e seu homólogo Mythos 5, que usa o mesmo modelo subjacente, mas com as salvaguardas levantadas em algumas áreas, como a segurança cibernética. Este último, descrito como tendo as “capacidades de segurança cibernética mais fortes de qualquer modelo do mundo”, permanece acessÃvel a um grupo avaliado de defensores cibernéticos e operadores de infraestruturas crÃticas.
A Antrópica enfatizou que implementou barreiras de proteção “fortes” para evitar o uso indevido de seus modelos para tarefas relacionadas à segurança cibernética. Especificamente, isso é sustentado por um conjunto de classificadores de segurança que são usados para detectar possÃveis usos indevidos, incluindo tentativas de jailbreak, e proibir a resposta do modelo principal.
O classificador de segurança cibernética foi projetado para bloquear solicitações prejudiciais de turno único relacionadas ao planejamento de um ataque cibernético, desenvolvimento de exploração ou evasão de defesa, com a empresa observando que os modelos da classe Mythos são hábeis em encontrar e explorar vulnerabilidades de software, dando assim aos invasores uma vantagem estratégica.
Na semana passada, a Anthropic revelou que seu modelo da classe Mythos pode transformar vulnerabilidades de software recém-divulgadas em explorações funcionais em horas, ou mesmo minutos em alguns casos, em vez de semanas, convertendo N dias em N horas. As descobertas sugerem que os modelos de fronteira podem ser igualmente bons em transformar rapidamente em armas falhas que foram divulgadas publicamente.
“Um operador solitário agora pode transformar patches de um mês em explorações funcionais em uma única tarde – por alguns milhares de dólares e sem conhecimento especializado”, disse o Red Team da Anthropic. “Isso significa que o tÃpico manual de patches que os desenvolvedores de software usam hoje – com cadências de lançamento mensais, lançamentos graduais de várias semanas e um atraso entre o pré-lançamento e os canais estáveis – não se aplica mais.”
As proteções do Fable 5 significam que as dúvidas sobre tópicos de segurança cibernética receberão uma resposta de Claude Opus 4.8, o próximo modelo capaz da empresa.
Em sua última declaração, a empresa argumentou que nenhum método universal de jailbreak foi desenvolvido contra os modelos mais recentes até o momento, acrescentando que exercÃcios internos e de terceiros descobriram que suas salvaguardas são “substancialmente mais eficazes do que aquelas de qualquer modelo implantado anteriormente”.
Além disso, a Anthropic afirmou que “a resistência perfeita ao jailbreak” não é possÃvel para nenhum fornecedor modelo, já que toda salvaguarda usada pela indústria é suscetÃvel a jailbreaks não universais que são “eficazes em contextos muito limitados ou requerem esforço adicional para serem adaptados a cada nova situação”.
“Até o momento, o governo apenas nos deu evidências verbais de um potencial jailbreak restrito e não universal, que consiste essencialmente em pedir ao modelo para ler uma base de código especÃfica e corrigir quaisquer falhas de software”, afirmou.
"Nosso entendimento é que um possÃvel jailbreak foi compartilhado com o governo. Analisamos um relatório que acreditamos ser a base da diretiva do governo e validamos que o nÃvel de capacidade ali exibido está amplamente disponÃvel em outros modelos (incluindo o GPT-5.5 da OpenAI) e é usado todos os dias pelos defensores que mantêm os sistemas seguros."
A Anthropic também apontou que, embora caiba ao governo bloquear implantações inseguras de IA, ele disse que a descoberta de um “potencial limitado de jailbreak” não deveria ser o motivo para revogar um modelo comercial amplamente implantado. O processo legal deve ser “transparente, justo, claro e baseado em fatos técnicos”, acrescentou.
No inÃcio deste ano, o Departamento de Defesa dos EUA classificou a Antrópica como um “risco da cadeia de abastecimento” depois que o fabricante de Claude tentou traçar limites sobre o uso militar de sua tecnologia. A empresa entrou com duas ações judiciais para bloquear a designação.
A empresa de IA disse que recebeu um pedido à s 17h21. ET, instruindo-o a suspender todo o acesso aos modelos por parte de estrangeiros. Disse acreditar que houve um “mal-entendido” e que está trabalhando para restaurar o acesso aos modelos o mais rápido possÃvel. O acesso a outros modelos não será afectado pela directiva relativa ao controlo das exportações.
“Nosso entendimento é que o governo acredita ter tomado conhecimento de um método para contornar ou ‘desbloquear’ o Fable 5”, disse a empresa.
“Revisamos uma demonstração desta técnica especÃfica sendo usada para identificar um pequeno número de vulnerabilidades menores anteriormente conhecidas. Todas essas vulnerabilidades parecem relativamente simples e descobrimos que outros modelos disponÃveis publicamente também são capazes de descobri-las sem a necessidade de um desvio.”
A mudança inesperada ocorre dias após o lançamento de Claude Fable 5 e seu homólogo Mythos 5, que usa o mesmo modelo subjacente, mas com as salvaguardas levantadas em algumas áreas, como a segurança cibernética. Este último, descrito como tendo as “capacidades de segurança cibernética mais fortes de qualquer modelo do mundo”, permanece acessÃvel a um grupo avaliado de defensores cibernéticos e operadores de infraestruturas crÃticas.
A Antrópica enfatizou que implementou barreiras de proteção “fortes” para evitar o uso indevido de seus modelos para tarefas relacionadas à segurança cibernética. Especificamente, isso é sustentado por um conjunto de classificadores de segurança que são usados para detectar possÃveis usos indevidos, incluindo tentativas de jailbreak, e proibir a resposta do modelo principal.
O classificador de segurança cibernética foi projetado para bloquear solicitações prejudiciais de turno único relacionadas ao planejamento de um ataque cibernético, desenvolvimento de exploração ou evasão de defesa, com a empresa observando que os modelos da classe Mythos são hábeis em encontrar e explorar vulnerabilidades de software, dando assim aos invasores uma vantagem estratégica.
Na semana passada, a Anthropic revelou que seu modelo da classe Mythos pode transformar vulnerabilidades de software recém-divulgadas em explorações funcionais em horas, ou mesmo minutos em alguns casos, em vez de semanas, convertendo N dias em N horas. As descobertas sugerem que os modelos de fronteira podem ser igualmente bons em transformar rapidamente em armas falhas que foram divulgadas publicamente.
“Um operador solitário agora pode transformar patches de um mês em explorações funcionais em uma única tarde – por alguns milhares de dólares e sem conhecimento especializado”, disse o Red Team da Anthropic. “Isso significa que o tÃpico manual de patches que os desenvolvedores de software usam hoje – com cadências de lançamento mensais, lançamentos graduais de várias semanas e um atraso entre o pré-lançamento e os canais estáveis – não se aplica mais.”
As proteções do Fable 5 significam que as dúvidas sobre tópicos de segurança cibernética receberão uma resposta de Claude Opus 4.8, o próximo modelo capaz da empresa.
Em sua última declaração, a empresa argumentou que nenhum método universal de jailbreak foi desenvolvido contra os modelos mais recentes até o momento, acrescentando que exercÃcios internos e de terceiros descobriram que suas salvaguardas são “substancialmente mais eficazes do que aquelas de qualquer modelo implantado anteriormente”.
Além disso, a Anthropic afirmou que “a resistência perfeita ao jailbreak” não é possÃvel para nenhum fornecedor modelo, já que toda salvaguarda usada pela indústria é suscetÃvel a jailbreaks não universais que são “eficazes em contextos muito limitados ou requerem esforço adicional para serem adaptados a cada nova situação”.
“Até o momento, o governo apenas nos deu evidências verbais de um potencial jailbreak restrito e não universal, que consiste essencialmente em pedir ao modelo para ler uma base de código especÃfica e corrigir quaisquer falhas de software”, afirmou.
"Nosso entendimento é que um possÃvel jailbreak foi compartilhado com o governo. Analisamos um relatório que acreditamos ser a base da diretiva do governo e validamos que o nÃvel de capacidade ali exibido está amplamente disponÃvel em outros modelos (incluindo o GPT-5.5 da OpenAI) e é usado todos os dias pelos defensores que mantêm os sistemas seguros."
A Anthropic também apontou que, embora caiba ao governo bloquear implantações inseguras de IA, ele disse que a descoberta de um “potencial limitado de jailbreak” não deveria ser o motivo para revogar um modelo comercial amplamente implantado. O processo legal deve ser “transparente, justo, claro e baseado em fatos técnicos”, acrescentou.
No inÃcio deste ano, o Departamento de Defesa dos EUA classificou a Antrópica como um “risco da cadeia de abastecimento” depois que o fabricante de Claude tentou traçar limites sobre o uso militar de sua tecnologia. A empresa entrou com duas ações judiciais para bloquear a designação.
Fonte: https://thehackernews.com
#samirnews #samir #news #boletimtec #eua #ordenam #que #anthropic #suspenda #o #acesso #de #fable #5 #e #mythos #5 #para #estrangeiros
🎉 Obrigado por acompanhar, até a próxima notÃcia!
Postar um comentário