📰 Informação fresquinha chegando para você!
Não deixe essa passar: clique e saiba tudo!
Apoie esse projeto de divulgacao de noticias! Clique aqui
A NVIDIA e outras 36 organizações formaram a Open Secure AI Alliance para desenvolver e compartilhar tecnologias, técnicas e ferramentas abertas para proteger software e agentes de inteligência artificial (IA).
O grupo de 37 membros abrange empresas de nuvem, segurança, software empresarial e IA, incluindo Microsoft, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Palo Alto Networks, Red Hat e Linux Foundation.
Seu escopo declarado cobre toda a pilha de agentes, incluindo identidade, permissões, isolamento, proteções, logs, formatos de modelo, verificação de vários modelos e fluxos de trabalho de codificação seguros.
A ideia é que os defensores cibernéticos precisam de modelos de IA que possam ler, alterar e executar em seu próprio hardware, e não apenas em sistemas fechados acessados por meio da interface de programação de aplicativos (API) de um fornecedor.
O lançamento também traz sua primeira contribuição técnica nomeada: NVIDIA-labs OO Agents (NOOA), uma estrutura de pesquisa Apache 2.0 projetada para tornar o comportamento do agente mais fácil de testar, rastrear, auditar e governar. Os materiais de lançamento não incluem estatuto, conselho administrativo, fluxos de trabalho técnicos, cronograma de entrega ou repositório de aliança compartilhado, e seu site independente permanece em construção.
O Hacker News entrou em contato com a NVIDIA para obter detalhes sobre a governança da aliança, os compromissos dos membros e os primeiros resultados planejados, e atualizará esta história com qualquer resposta.
O primeiro código vem com um aviso de sandbox
Um chicote de agente é a camada de software em torno de um modelo que renderiza contexto, executa ações, gerencia estado e decide quando uma tarefa é concluída. No NOOA, essa camada é representada como uma classe Python. Os campos armazenam seu estado, os métodos expõem seus recursos, as docstrings atuam como prompts e as anotações de tipo definem os contratos que o modelo deve seguir.
Um método contendo um corpo de reticências, ..., é concluído em tempo de execução por um loop orientado por modelo de linguagem grande (LLM). Um método contendo Python comum continua sendo um código determinístico. A mesma estrutura permite que os desenvolvedores usem fluxos de trabalho familiares de teste, rastreamento, controle de versão e refatoração, em vez de dividir o comportamento do agente em prompts, esquemas de ferramentas, retornos de chamada e gráficos de fluxo de trabalho.
Em sua própria avaliação, a NVIDIA informou que a estrutura obteve 86,8% no benchmark de redescoberta de vulnerabilidades CyberGym L1 usando GPT-5.5, com acesso à rede bloqueado e verificações baseadas em regras aplicadas a cada trajetória.
O repositório é igualmente direto sobre o risco. NOOA pode ser configurado para executar Python gerado por LLM, que pode transmitir dados privados, excluir arquivos ou modificar seu ambiente. Suas verificações de árvore de sintaxe abstrata e listas de negação de módulos são descritas como controles de defesa em profundidade, "não como um limite de contenção".
A NVIDIA coloca a contenção fora da própria NOOA. Os agentes que executam o código gerado devem ser executados atrás do isolamento no nível do sistema operacional, como um contêiner, uma máquina virtual ou sua sandbox OpenShell. NOOA fornece inspeção e rastreamento; a sandbox no nível do sistema operacional é o limite de contenção.
Uma revisão de 27 de julho do repositório público encontrou uma tag v0.0.6 datada de 22 de julho. O guia de lançamento do projeto diz que marcar um commit é a cerimônia de lançamento e que anexar rodas construídas a uma versão separada do GitHub é opcional.
Seu guia de contribuição diz que o desenvolvimento é mantido pela NVIDIA, com contribuições externas bem-vindas por meio de solicitações pull. O repositório não tinha governança em nível raiz ou arquivo de roteiro.
O incidente do rosto abraçado se tornou o argumento
A NVIDIA vinculou o caso da aliança para modelos defensivos controlados localmente à intrusão de julho em Hugging Face, onde um sistema de agente autônomo comprometeu partes da infraestrutura de produção da empresa.
A Hugging Face identificou acesso não autorizado a um conjunto limitado de conjuntos de dados internos e diversas credenciais usadas por seus serviços. Não foram encontradas evidências de adulteração de modelos públicos, conjuntos de dados, Spaces, imagens de contêineres ou pacotes publicados.
Hugging Face disse que o acesso inicial ao seu ambiente veio por meio de um conjunto de dados malicioso que abusou de um carregador de conjunto de dados de código remoto e injeção de modelo em uma configuração de conjunto de dados. A atividade progrediu para acesso a nós, coleta de credenciais e movimentação lateral em vários clusters internos.
A Hugging Face disse que executou agentes de análise orientados pelo LLM em mais de 17.000 ações registradas para reconstruir a linha do tempo, extrair indicadores de comprometimento e mapear as credenciais que foram tocadas. As APIs de modelo de fronteira hospedadas comercialmente rejeitaram inicialmente os comandos de ataque, cargas úteis de exploração e artefatos de comando e controle necessários para a análise.
Em vez disso, a empresa executou o modelo GLM 5.2 de peso aberto em sua própria infraestrutura, que também manteve os dados de ataque e credenciais referenciadas dentro de seu ambiente. Seu conselho operacional era “ter um modelo capaz que você possa executar em sua própria infraestrutura, verificado e pronto antes de um incidente”.
Nesta
O grupo de 37 membros abrange empresas de nuvem, segurança, software empresarial e IA, incluindo Microsoft, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Palo Alto Networks, Red Hat e Linux Foundation.
Seu escopo declarado cobre toda a pilha de agentes, incluindo identidade, permissões, isolamento, proteções, logs, formatos de modelo, verificação de vários modelos e fluxos de trabalho de codificação seguros.
A ideia é que os defensores cibernéticos precisam de modelos de IA que possam ler, alterar e executar em seu próprio hardware, e não apenas em sistemas fechados acessados por meio da interface de programação de aplicativos (API) de um fornecedor.
O lançamento também traz sua primeira contribuição técnica nomeada: NVIDIA-labs OO Agents (NOOA), uma estrutura de pesquisa Apache 2.0 projetada para tornar o comportamento do agente mais fácil de testar, rastrear, auditar e governar. Os materiais de lançamento não incluem estatuto, conselho administrativo, fluxos de trabalho técnicos, cronograma de entrega ou repositório de aliança compartilhado, e seu site independente permanece em construção.
O Hacker News entrou em contato com a NVIDIA para obter detalhes sobre a governança da aliança, os compromissos dos membros e os primeiros resultados planejados, e atualizará esta história com qualquer resposta.
O primeiro código vem com um aviso de sandbox
Um chicote de agente é a camada de software em torno de um modelo que renderiza contexto, executa ações, gerencia estado e decide quando uma tarefa é concluída. No NOOA, essa camada é representada como uma classe Python. Os campos armazenam seu estado, os métodos expõem seus recursos, as docstrings atuam como prompts e as anotações de tipo definem os contratos que o modelo deve seguir.
Um método contendo um corpo de reticências, ..., é concluído em tempo de execução por um loop orientado por modelo de linguagem grande (LLM). Um método contendo Python comum continua sendo um código determinístico. A mesma estrutura permite que os desenvolvedores usem fluxos de trabalho familiares de teste, rastreamento, controle de versão e refatoração, em vez de dividir o comportamento do agente em prompts, esquemas de ferramentas, retornos de chamada e gráficos de fluxo de trabalho.
Em sua própria avaliação, a NVIDIA informou que a estrutura obteve 86,8% no benchmark de redescoberta de vulnerabilidades CyberGym L1 usando GPT-5.5, com acesso à rede bloqueado e verificações baseadas em regras aplicadas a cada trajetória.
O repositório é igualmente direto sobre o risco. NOOA pode ser configurado para executar Python gerado por LLM, que pode transmitir dados privados, excluir arquivos ou modificar seu ambiente. Suas verificações de árvore de sintaxe abstrata e listas de negação de módulos são descritas como controles de defesa em profundidade, "não como um limite de contenção".
A NVIDIA coloca a contenção fora da própria NOOA. Os agentes que executam o código gerado devem ser executados atrás do isolamento no nível do sistema operacional, como um contêiner, uma máquina virtual ou sua sandbox OpenShell. NOOA fornece inspeção e rastreamento; a sandbox no nível do sistema operacional é o limite de contenção.
Uma revisão de 27 de julho do repositório público encontrou uma tag v0.0.6 datada de 22 de julho. O guia de lançamento do projeto diz que marcar um commit é a cerimônia de lançamento e que anexar rodas construídas a uma versão separada do GitHub é opcional.
Seu guia de contribuição diz que o desenvolvimento é mantido pela NVIDIA, com contribuições externas bem-vindas por meio de solicitações pull. O repositório não tinha governança em nível raiz ou arquivo de roteiro.
O incidente do rosto abraçado se tornou o argumento
A NVIDIA vinculou o caso da aliança para modelos defensivos controlados localmente à intrusão de julho em Hugging Face, onde um sistema de agente autônomo comprometeu partes da infraestrutura de produção da empresa.
A Hugging Face identificou acesso não autorizado a um conjunto limitado de conjuntos de dados internos e diversas credenciais usadas por seus serviços. Não foram encontradas evidências de adulteração de modelos públicos, conjuntos de dados, Spaces, imagens de contêineres ou pacotes publicados.
Hugging Face disse que o acesso inicial ao seu ambiente veio por meio de um conjunto de dados malicioso que abusou de um carregador de conjunto de dados de código remoto e injeção de modelo em uma configuração de conjunto de dados. A atividade progrediu para acesso a nós, coleta de credenciais e movimentação lateral em vários clusters internos.
A Hugging Face disse que executou agentes de análise orientados pelo LLM em mais de 17.000 ações registradas para reconstruir a linha do tempo, extrair indicadores de comprometimento e mapear as credenciais que foram tocadas. As APIs de modelo de fronteira hospedadas comercialmente rejeitaram inicialmente os comandos de ataque, cargas úteis de exploração e artefatos de comando e controle necessários para a análise.
Em vez disso, a empresa executou o modelo GLM 5.2 de peso aberto em sua própria infraestrutura, que também manteve os dados de ataque e credenciais referenciadas dentro de seu ambiente. Seu conselho operacional era “ter um modelo capaz que você possa executar em sua própria infraestrutura, verificado e pronto antes de um incidente”.
Nesta
Fonte: https://thehackernews.com
#samirnews #samir #news #boletimtec #nvidia #forma #aliança #aberta #e #segura #de #ia #com #37 #membros #e #estrutura #nooa #de #código #aberto
🎉 Obrigado por acompanhar, até a próxima notícia!
Postar um comentário