🌟 Atualização imperdível para quem gosta de estar bem informado!
Não deixe essa passar: clique e saiba tudo!
Apoie esse projeto de divulgacao de noticias! Clique aqui
Por Jonny Rivera, chefe de produto da ActiveState
Durante nossas conversas no salão da Black Hat na semana passada, uma pergunta surgiu em quase todas as discussões que nossa equipe teve com líderes de AppSec, engenheiros de plataforma e CISOs: Quem está realmente examinando o código da IA?
A adoção de ferramentas de codificação de IA pelos desenvolvedores não está diminuindo. Os ganhos de produtividade são reais e o software de código aberto continua a ser a espinha dorsal das aplicações empresariais modernas. Mas à medida que os assistentes de codificação de IA completam automaticamente sugestões de dependência de terceiros em milissegundos, as equipes de segurança corporativa e os mantenedores de código aberto enfrentam um desafio operacional compartilhado: a geração de código ultrapassou completamente a revisão de ingestão de legado.
Quando uma dependência não verificada ou alucinada entra em uma base de código na velocidade da máquina, as verificações de Análise de Composição de Software (SCA) pós-confirmação lutam para acompanhar o ritmo.
Proteger esse pipeline não significa desacelerar os desenvolvedores ou restringir o código aberto. Requer controlar o que entra no ambiente no ponto de seleção, antes que uma importação acione uma construção.
A mecânica do "Slopsquatting" e da ingestão de máquinas
Grandes modelos de linguagem (LLMs) recomendam bibliotecas de software baseadas em probabilidade estatística e padrões históricos de código, e não na verificação de registro de pacotes em tempo real.
Quando um modelo sugere um nome de pacote que não existe em PyPI ou npm, ele cria uma vulnerabilidade na cadeia de suprimentos conhecida como slopsquatting (ou exploração de alucinação de pacote de IA).
A escala desse vetor de vulnerabilidade foi destacada em um estudo da USENIX Security que analisou dezesseis modelos populares de geração de código em mais de 500.000 amostras de código:
Uma porcentagem mensurável de nomes de pacotes sugeridos pela IA não existe em registros públicos.
Das dependências sugeridas que resolvem pacotes reais, quase metade contém CVEs conhecidos ou versões desatualizadas.
Os invasores monitoram rotineiramente os padrões de saída públicos do LLM e os repositórios de código do desenvolvedor para identificar esses nomes de pacotes alucinados. Uma vez identificado, um adversário registra o nome fictício em PyPI ou npm, carrega uma carga maliciosa e espera que ambientes de desenvolvedor automatizados ou construtores de CI/CD a busquem.
[Espaço de trabalho do desenvolvedor] ---> [AI Assistant preenche automaticamente o nome do pacote]
|
v
[Nome do pacote não existe no registro]
|
v
[Atacante registra nome em PyPI/npm com carga útil]
|
v
[Pacote de busca de pipeline de CI/CD] ---> [Compilação comprometida]
Este vetor está sendo observado ativamente em implantação selvagem. No início de 2026, pesquisadores de segurança rastrearam um único nome de pacote npm alucinado (react-codeshift) originado de 47 habilidades de agente geradas por IA em um único commit.
A alucinação se espalhou organicamente através de bifurcações para mais de 230 repositórios antes que um engenheiro percebesse que um humano nunca a havia selecionado explicitamente.
O problema não foi intenção maliciosa do desenvolvedor, mas sim uma completa ausência de controles de ingestão.
Pare as alucinações do pacote de IA antes que elas atinjam sua construção
Os assistentes de codificação de IA geram software na velocidade da máquina, mas dependências não verificadas expõem seu pipeline a ataques de slopsquatting e à cadeia de suprimentos.
Alimentado por um repositório seguro de componentes limpos e criados a partir da fonte, o ActiveState permite que as organizações comprovem a proveniência do software e o atestado em nível de construção, ao mesmo tempo que eliminam vetores de slopsquatting na etapa de entrada.
Fale com nossa equipe
O multiplicador de atrito na revisão de código aberto
O desafio de admissão dentro da empresa impacta diretamente o ecossistema mais amplo de código aberto. Os mesmos assistentes de IA que geram sugestões de dependência não verificadas dentro de redes corporativas também estão gerando solicitações pull automatizadas enviadas a repositórios mantidos pela comunidade.
Este volume de contribuições automatizadas coloca uma pressão sem precedentes sobre os mantenedores humanos:
Políticas de IA conflitantes: Grandes projetos, incluindo Kubernetes, o kernel Linux, LLVM e Godot, publicaram políticas divergentes sobre contribuições assistidas por IA. Embora alguns proíbam totalmente o código gerado por IA, outros o permitem apenas se um contribuidor humano assumir total responsabilidade por cada linha adicionada.
Maior densidade de defeitos: uma análise do CodeRabbit de 470 solicitações pull de código aberto descobriu que as contribuições de coautoria de IA continham 70% mais defeitos do que o código de autoria humana, apesar da leitura superficial.
Quando pacotes alucinados ou vulneráveis passam pela ingestão corporativa, eles inevitavelmente se transformam em PRs de código aberto upstream, forçando os mantenedores voluntários a passar horas validando dependências que nenhum ser humano avaliou deliberadamente.
Velocidade versus verificação: a lacuna de governança
Telemetria recente do aplicativo Kusari
Durante nossas conversas no salão da Black Hat na semana passada, uma pergunta surgiu em quase todas as discussões que nossa equipe teve com líderes de AppSec, engenheiros de plataforma e CISOs: Quem está realmente examinando o código da IA?
A adoção de ferramentas de codificação de IA pelos desenvolvedores não está diminuindo. Os ganhos de produtividade são reais e o software de código aberto continua a ser a espinha dorsal das aplicações empresariais modernas. Mas à medida que os assistentes de codificação de IA completam automaticamente sugestões de dependência de terceiros em milissegundos, as equipes de segurança corporativa e os mantenedores de código aberto enfrentam um desafio operacional compartilhado: a geração de código ultrapassou completamente a revisão de ingestão de legado.
Quando uma dependência não verificada ou alucinada entra em uma base de código na velocidade da máquina, as verificações de Análise de Composição de Software (SCA) pós-confirmação lutam para acompanhar o ritmo.
Proteger esse pipeline não significa desacelerar os desenvolvedores ou restringir o código aberto. Requer controlar o que entra no ambiente no ponto de seleção, antes que uma importação acione uma construção.
A mecânica do "Slopsquatting" e da ingestão de máquinas
Grandes modelos de linguagem (LLMs) recomendam bibliotecas de software baseadas em probabilidade estatística e padrões históricos de código, e não na verificação de registro de pacotes em tempo real.
Quando um modelo sugere um nome de pacote que não existe em PyPI ou npm, ele cria uma vulnerabilidade na cadeia de suprimentos conhecida como slopsquatting (ou exploração de alucinação de pacote de IA).
A escala desse vetor de vulnerabilidade foi destacada em um estudo da USENIX Security que analisou dezesseis modelos populares de geração de código em mais de 500.000 amostras de código:
Uma porcentagem mensurável de nomes de pacotes sugeridos pela IA não existe em registros públicos.
Das dependências sugeridas que resolvem pacotes reais, quase metade contém CVEs conhecidos ou versões desatualizadas.
Os invasores monitoram rotineiramente os padrões de saída públicos do LLM e os repositórios de código do desenvolvedor para identificar esses nomes de pacotes alucinados. Uma vez identificado, um adversário registra o nome fictício em PyPI ou npm, carrega uma carga maliciosa e espera que ambientes de desenvolvedor automatizados ou construtores de CI/CD a busquem.
[Espaço de trabalho do desenvolvedor] ---> [AI Assistant preenche automaticamente o nome do pacote]
|
v
[Nome do pacote não existe no registro]
|
v
[Atacante registra nome em PyPI/npm com carga útil]
|
v
[Pacote de busca de pipeline de CI/CD] ---> [Compilação comprometida]
Este vetor está sendo observado ativamente em implantação selvagem. No início de 2026, pesquisadores de segurança rastrearam um único nome de pacote npm alucinado (react-codeshift) originado de 47 habilidades de agente geradas por IA em um único commit.
A alucinação se espalhou organicamente através de bifurcações para mais de 230 repositórios antes que um engenheiro percebesse que um humano nunca a havia selecionado explicitamente.
O problema não foi intenção maliciosa do desenvolvedor, mas sim uma completa ausência de controles de ingestão.
Pare as alucinações do pacote de IA antes que elas atinjam sua construção
Os assistentes de codificação de IA geram software na velocidade da máquina, mas dependências não verificadas expõem seu pipeline a ataques de slopsquatting e à cadeia de suprimentos.
Alimentado por um repositório seguro de componentes limpos e criados a partir da fonte, o ActiveState permite que as organizações comprovem a proveniência do software e o atestado em nível de construção, ao mesmo tempo que eliminam vetores de slopsquatting na etapa de entrada.
Fale com nossa equipe
O multiplicador de atrito na revisão de código aberto
O desafio de admissão dentro da empresa impacta diretamente o ecossistema mais amplo de código aberto. Os mesmos assistentes de IA que geram sugestões de dependência não verificadas dentro de redes corporativas também estão gerando solicitações pull automatizadas enviadas a repositórios mantidos pela comunidade.
Este volume de contribuições automatizadas coloca uma pressão sem precedentes sobre os mantenedores humanos:
Políticas de IA conflitantes: Grandes projetos, incluindo Kubernetes, o kernel Linux, LLVM e Godot, publicaram políticas divergentes sobre contribuições assistidas por IA. Embora alguns proíbam totalmente o código gerado por IA, outros o permitem apenas se um contribuidor humano assumir total responsabilidade por cada linha adicionada.
Maior densidade de defeitos: uma análise do CodeRabbit de 470 solicitações pull de código aberto descobriu que as contribuições de coautoria de IA continham 70% mais defeitos do que o código de autoria humana, apesar da leitura superficial.
Quando pacotes alucinados ou vulneráveis passam pela ingestão corporativa, eles inevitavelmente se transformam em PRs de código aberto upstream, forçando os mantenedores voluntários a passar horas validando dependências que nenhum ser humano avaliou deliberadamente.
Velocidade versus verificação: a lacuna de governança
Telemetria recente do aplicativo Kusari
#samirnews #samir #news #boletimtec #quem #controla #o #código #da #ia? #o #desafio #de #escala #enfrentado #pela #ingestão #de #código #aberto
💡 Compartilhe e ajude nosso projeto a crescer!
Postar um comentário