🌟 Atualização imperdível para quem gosta de estar bem informado!
Sua opinião é importante: leia e participe!
Apoie esse projeto de divulgacao de noticias! Clique aqui
O Google anunciou na quarta-feira o Gemini 3.8 Flash Cyber, que descreveu como seu modelo de segurança cibernética mais capaz, e o disponibilizou para um conjunto de defensores confiáveis por meio de uma nova iniciativa chamada Programa Fairwind.
“O Programa Fairwind dá aos defensores de alta prioridade (como governos, prestadores de cuidados de saúde e serviços de telecomunicações) acesso antecipado a modelos avançados que os ajudam a construir melhores defesas, antes que cheguem novas ameaças”, disse o Google. “Assim, os defensores têm uma vantagem inicial, para ajudá-los a proteger infraestruturas vitais – o que, por sua vez, protege as pessoas que dependem desses sistemas”.
A gigante da tecnologia disse que está trabalhando atualmente com mais de 650 parceiros em todo o mundo, incluindo CrowdStrike, Datadog, Menlo Security, Palo Alto Networks e Snowflake. O programa está disponível para um grupo de clientes do Google Cloud, agências governamentais e parceiros de segurança cibernética.
O lançamento do Gemini 3.8 Flash Cyber ocorre pouco mais de um mês depois que o Google lançou o Gemini 3.5 Flash Cyber. O modelo mais recente melhora seu antecessor, demonstrando desempenho de nível de fronteira na descoberta autônoma de vulnerabilidades, superando até mesmo modelos de fronteira maiores dos rivais Anthropic (Mythos 5) e OpenAI (GPT-5.6 Sol e GPT-5.5-Cyber).
“Com o Gemini 3.8 Flash Cyber, nos concentramos especificamente em equipar os defensores com recursos especializados que lhes dão uma vantagem sobre os invasores. É por isso que investimos na correção de vulnerabilidades desde o início e priorizamos isso em vez de recursos ofensivos como a exploração”, disseram Tulsee Doshi, diretor sênior de gerenciamento de produtos, e Raluca Ada Popa, líder de segurança Gemini no Google DeepMind.
Antrópico estreia Claude Fable 5.1 e Claude Mythos 5.1
O desenvolvimento coincide com o lançamento do Claude Fable 5.1 e do Claude Mythos 5.1 pela Anthropic com diferentes níveis de salvaguardas, sendo que este último está disponível apenas por meio de seus programas de acesso confiável e do trabalho de apoio em segurança cibernética e ciências biológicas.
A empresa também disse que agora está permitindo que o Fable 5.1 seja usado para identificar vulnerabilidades de software, mas espera ainda redirecionar algumas tarefas de segurança cibernética para modelos Opus, como “testes de penetração, geração de exploração e verificação de vulnerabilidade baseada em binário”.
“Fizemos avaliações de como o Claude Mythos 5.1 responde a solicitações maliciosas e injeções imediatas (instruções adversárias ocultas no conteúdo processado por modelos de IA)”, observou a Anthropic. “Ele recusou códigos maliciosos e solicitações de uso de computador em uma taxa comparável ao Mythos 5, Sonnet 5 e Opus 5, e é nosso modelo mais robusto até o momento em um benchmark de injeção externa imediata.”
Desde então, a empresa de inteligência artificial (IA) também anunciou uma nova solução chamada Enterprise Frontier Safeguards (EFS), que, segundo ela, combina a “privacidade da retenção zero de dados (ZDR) com salvaguardas de última geração para detectar uso indevido”, ao mesmo tempo que dá às empresas controle total sobre como seus dados são revisados, armazenados e gerenciados. OpenAI tem uma solução semelhante conhecida como Private Safety Processing.
Além disso, a Anthropic disse que implementou medidas adicionais de proteção e contenção, aumentou o monitoramento para sinalizar desalinhamento de modelos e pausou avaliações cibernéticas externas de modelos de pré-lançamento em resposta a incidentes de acesso não autorizado envolvendo modelos Claude contra sistemas reais, além de destacar dois fatores contribuintes (ou falhas de alinhamento) -
Os modelos parecem desconsiderar as evidências de que seus ambientes de avaliação estavam conectados à Internet real depois de inicialmente serem informados de que foram simulados e interpretam a discrepância de uma maneira que lhes permite manter essa crença
Os modelos exibem imprudência e estão dispostos a tomar ações prejudiciais na Internet real na busca obstinada de seus objetivos
Admitindo que os incidentes foram uma “falha de segurança operacional”, a Anthropic disse que construiu um classificador que detecta e bloqueia tentativas de fuga da sandbox e alterou as especificações em torno das recompensas do modelo para abordar preocupações em que um agente de IA recorre a um atalho para manipular a métrica de recompensa sem realmente atingir o objetivo pretendido.
“Nossa conclusão é que a presença de hacking de recompensas substanciais no treinamento pode fazer com que os modelos estejam dispostos a realizar longas sequências de ações potencialmente prejudiciais no mundo real em busca do sucesso da tarefa”, acrescentou a empresa.
OpenAI afirma que Astra atende capacidade crítica de segurança cibernética
A OpenAI, por sua vez, revelou que seu próximo modelo Astra atende ao limite crítico de capacidade de segurança cibernética de sua Estrutura de Preparação e que pretende disponibilizar seus recursos de segurança cibernética mais avançados para um grupo de testadores por meio do programa Daybreak Blue.
A designação “Crítico” se aplica quando um modelo de IA pode detectar e explorar de forma independente vulnerabilidades de dia zero em
“O Programa Fairwind dá aos defensores de alta prioridade (como governos, prestadores de cuidados de saúde e serviços de telecomunicações) acesso antecipado a modelos avançados que os ajudam a construir melhores defesas, antes que cheguem novas ameaças”, disse o Google. “Assim, os defensores têm uma vantagem inicial, para ajudá-los a proteger infraestruturas vitais – o que, por sua vez, protege as pessoas que dependem desses sistemas”.
A gigante da tecnologia disse que está trabalhando atualmente com mais de 650 parceiros em todo o mundo, incluindo CrowdStrike, Datadog, Menlo Security, Palo Alto Networks e Snowflake. O programa está disponível para um grupo de clientes do Google Cloud, agências governamentais e parceiros de segurança cibernética.
O lançamento do Gemini 3.8 Flash Cyber ocorre pouco mais de um mês depois que o Google lançou o Gemini 3.5 Flash Cyber. O modelo mais recente melhora seu antecessor, demonstrando desempenho de nível de fronteira na descoberta autônoma de vulnerabilidades, superando até mesmo modelos de fronteira maiores dos rivais Anthropic (Mythos 5) e OpenAI (GPT-5.6 Sol e GPT-5.5-Cyber).
“Com o Gemini 3.8 Flash Cyber, nos concentramos especificamente em equipar os defensores com recursos especializados que lhes dão uma vantagem sobre os invasores. É por isso que investimos na correção de vulnerabilidades desde o início e priorizamos isso em vez de recursos ofensivos como a exploração”, disseram Tulsee Doshi, diretor sênior de gerenciamento de produtos, e Raluca Ada Popa, líder de segurança Gemini no Google DeepMind.
Antrópico estreia Claude Fable 5.1 e Claude Mythos 5.1
O desenvolvimento coincide com o lançamento do Claude Fable 5.1 e do Claude Mythos 5.1 pela Anthropic com diferentes níveis de salvaguardas, sendo que este último está disponível apenas por meio de seus programas de acesso confiável e do trabalho de apoio em segurança cibernética e ciências biológicas.
A empresa também disse que agora está permitindo que o Fable 5.1 seja usado para identificar vulnerabilidades de software, mas espera ainda redirecionar algumas tarefas de segurança cibernética para modelos Opus, como “testes de penetração, geração de exploração e verificação de vulnerabilidade baseada em binário”.
“Fizemos avaliações de como o Claude Mythos 5.1 responde a solicitações maliciosas e injeções imediatas (instruções adversárias ocultas no conteúdo processado por modelos de IA)”, observou a Anthropic. “Ele recusou códigos maliciosos e solicitações de uso de computador em uma taxa comparável ao Mythos 5, Sonnet 5 e Opus 5, e é nosso modelo mais robusto até o momento em um benchmark de injeção externa imediata.”
Desde então, a empresa de inteligência artificial (IA) também anunciou uma nova solução chamada Enterprise Frontier Safeguards (EFS), que, segundo ela, combina a “privacidade da retenção zero de dados (ZDR) com salvaguardas de última geração para detectar uso indevido”, ao mesmo tempo que dá às empresas controle total sobre como seus dados são revisados, armazenados e gerenciados. OpenAI tem uma solução semelhante conhecida como Private Safety Processing.
Além disso, a Anthropic disse que implementou medidas adicionais de proteção e contenção, aumentou o monitoramento para sinalizar desalinhamento de modelos e pausou avaliações cibernéticas externas de modelos de pré-lançamento em resposta a incidentes de acesso não autorizado envolvendo modelos Claude contra sistemas reais, além de destacar dois fatores contribuintes (ou falhas de alinhamento) -
Os modelos parecem desconsiderar as evidências de que seus ambientes de avaliação estavam conectados à Internet real depois de inicialmente serem informados de que foram simulados e interpretam a discrepância de uma maneira que lhes permite manter essa crença
Os modelos exibem imprudência e estão dispostos a tomar ações prejudiciais na Internet real na busca obstinada de seus objetivos
Admitindo que os incidentes foram uma “falha de segurança operacional”, a Anthropic disse que construiu um classificador que detecta e bloqueia tentativas de fuga da sandbox e alterou as especificações em torno das recompensas do modelo para abordar preocupações em que um agente de IA recorre a um atalho para manipular a métrica de recompensa sem realmente atingir o objetivo pretendido.
“Nossa conclusão é que a presença de hacking de recompensas substanciais no treinamento pode fazer com que os modelos estejam dispostos a realizar longas sequências de ações potencialmente prejudiciais no mundo real em busca do sucesso da tarefa”, acrescentou a empresa.
OpenAI afirma que Astra atende capacidade crítica de segurança cibernética
A OpenAI, por sua vez, revelou que seu próximo modelo Astra atende ao limite crítico de capacidade de segurança cibernética de sua Estrutura de Preparação e que pretende disponibilizar seus recursos de segurança cibernética mais avançados para um grupo de testadores por meio do programa Daybreak Blue.
A designação “Crítico” se aplica quando um modelo de IA pode detectar e explorar de forma independente vulnerabilidades de dia zero em
Fonte: https://thehackernews.com
#samirnews #samir #news #boletimtec #google, #anthropic #e #openai #revelam #modelos #de #ia #cibernética, #salvaguardas #e #programas #de #acesso
⚡ Fique ligado: novidades e promoções em breve por aqui! ⚡
Postar um comentário