📰 Informação fresquinha chegando para você!
Confira agora e compartilhe com seus amigos!
Apoie esse projeto de divulgacao de noticias! Clique aqui
Observe um agente trabalhando em uma tarefa e você verá o futuro da segurança empresarial.
Observe Claude trabalhar em uma longa tarefa algum dia. Ele pode passar 4 minutos tentando ler um CSV que acabou sendo uma pasta, desistir, escrever um script para listar seu conteúdo e então chegar lá. Funciona. Apenas nunca do jeito que você desenhou em sua cabeça.
Isso é adivinhação em grande escala e não é uma falha. É assim que os LLMs funcionam e por que são tão eficazes. Os agentes raciocinam probabilisticamente, escolhendo a próxima melhor ação, observando o resultado e adaptando-se. Esse ciclo é o que os torna poderosos, mas é também o motivo pelo qual os modelos de segurança construídos em torno de fluxos de trabalho previsíveis falham.
Os agentes de IA são projetados para improvisar; é isso que os torna úteis. Mas quando a improvisação é combinada com um amplo acesso, cada passo errado torna-se um risco de segurança.
Então aqui está a questão: como proteger um sistema cujo próximo movimento você não pode prever?
As perguntas que ninguém quer responder
Cada equipe que implanta agentes toma as mesmas decisões de acesso, geralmente sem perceber:
Você fornece ao agente todas as ferramentas que podem ajudar ou apenas aquelas que ele provavelmente precisará?
Você concede autoridade administrativa porque algum caso extremo pode exigir isso?
Você fornece amplo acesso aos agentes ou limita-se à solicitação específica apresentada ao agente no momento?
Todos esses conectores são necessários? Quais precisam de acesso de administrador? Eles são necessários para todas as sessões?
Nenhuma delas tem uma resposta clara, porque aplicar o mínimo de privilégios é difícil. Fazer isso para cada agente e, em seguida, para cada sessão executada pelo agente é muito mais difícil.
Assim, as equipes fazem o trabalho humano, concedendo acesso total e seguindo em frente. Permissões amplas são o caminho de menor resistência e os agentes as herdam por padrão.
A maioria das equipes não consegue responder a essas perguntas porque ninguém possui o inventário. O Token Security encontra cada agente em execução no seu ambiente, as identidades por trás dele e o acesso que cada um possui.
IA segura desde o projeto
A Shadow AI e a expansão de agentes estão ultrapassando a capacidade da sua equipe de segurança de lidar com eles.
A Token Security descobre cada agente, mapeia acessos arriscados e aplica automaticamente políticas baseadas em intenções. Dimensione a IA com segurança, sem perder o controle ou retardar a inovação.
Veja-o em ação
Por que o manual usual falha
Durante dois anos, a maior parte dos esforços de segurança de IA foram direcionados para moldar a forma como os modelos respondem. Guardrails que incluem filtragem de prompt, restrições de entrada e saída e controles de comportamento. Embora sejam úteis em muitos contextos, eles são a camada errada para o problema que temos diante de nós.
Os filtros de prompt tentam restringir o comportamento. Com a linguagem natural como interface e um número infinito de prompts possíveis, sempre há outra maneira de entrar. A filtragem que funciona noventa e nove por cento das vezes ainda falha, porque um por cento do infinito ainda é infinito.
Mais importante ainda, os guarda-corpos funcionam depois de o acesso já ter sido concedido. Depois que um agente possui credenciais para um sistema de produção, o limite de segurança já está por trás dele. Um filtro pode moldar o que o agente diz, mas não pode desfazer o que o agente pode fazer.
A previsão falha pela mesma razão estrutural. O gerenciamento tradicional de identidade e acesso responde a uma pergunta: o que essa identidade pode alcançar? Esse modelo é menos útil para agentes de IA. Dois agentes com permissões idênticas podem se comportar de maneira completamente diferente dependendo do que cada um está tentando realizar.
Não é possível proteger um sistema orientado por objectivos traçando o perfil do seu comportamento passado, porque a sua próxima acção depende de contextos que ainda não encontrou.
Por que isso é urgente agora
A balança já chegou. A Palo Alto Networks estima a proporção de identidades não humanas para identidades humanas em 109 para 1, incluindo 79 agentes de IA. Os agentes estão acelerando essa curva, porque qualquer um pode acioná-lo em minutos, e a maioria o faz sem qualquer revisão de segurança.
Pense no risco do agente como acesso multiplicado pela autonomia. O acesso define o raio de explosão, enquanto a autonomia estreita a janela para intervenção humana. As políticas estáticas de IAM, escritas para pessoas que fazem login durante o horário comercial e são revisadas trimestralmente, nunca foram projetadas para agentes que nunca dormem, não usam MFA e raramente são aposentados.
A identidade é o único plano de controle que se mantém
Retire o modelo, o prompt e a estrutura e uma coisa permanecerá constante: cada ação executada por um agente passa por uma identidade. Ele autentica com uma conta de serviço, uma chave de API, uma concessão OAuth, uma função de nuvem ou um token. Todas as ações, desde a leitura de dados até a modificação da infraestrutura, dependem das permissões das identidades de um agente.
É por isso que a identidade, e não a filtragem imediata, é o plano de controle da IA agente. A identidade é a camada que abrange todos os sistemas que um agente toca, tornando-a o único lugar onde você pode impor o controle de forma consistente. A identidade controla o acesso e a intenção faz com que isso seja um
Observe Claude trabalhar em uma longa tarefa algum dia. Ele pode passar 4 minutos tentando ler um CSV que acabou sendo uma pasta, desistir, escrever um script para listar seu conteúdo e então chegar lá. Funciona. Apenas nunca do jeito que você desenhou em sua cabeça.
Isso é adivinhação em grande escala e não é uma falha. É assim que os LLMs funcionam e por que são tão eficazes. Os agentes raciocinam probabilisticamente, escolhendo a próxima melhor ação, observando o resultado e adaptando-se. Esse ciclo é o que os torna poderosos, mas é também o motivo pelo qual os modelos de segurança construídos em torno de fluxos de trabalho previsíveis falham.
Os agentes de IA são projetados para improvisar; é isso que os torna úteis. Mas quando a improvisação é combinada com um amplo acesso, cada passo errado torna-se um risco de segurança.
Então aqui está a questão: como proteger um sistema cujo próximo movimento você não pode prever?
As perguntas que ninguém quer responder
Cada equipe que implanta agentes toma as mesmas decisões de acesso, geralmente sem perceber:
Você fornece ao agente todas as ferramentas que podem ajudar ou apenas aquelas que ele provavelmente precisará?
Você concede autoridade administrativa porque algum caso extremo pode exigir isso?
Você fornece amplo acesso aos agentes ou limita-se à solicitação específica apresentada ao agente no momento?
Todos esses conectores são necessários? Quais precisam de acesso de administrador? Eles são necessários para todas as sessões?
Nenhuma delas tem uma resposta clara, porque aplicar o mínimo de privilégios é difícil. Fazer isso para cada agente e, em seguida, para cada sessão executada pelo agente é muito mais difícil.
Assim, as equipes fazem o trabalho humano, concedendo acesso total e seguindo em frente. Permissões amplas são o caminho de menor resistência e os agentes as herdam por padrão.
A maioria das equipes não consegue responder a essas perguntas porque ninguém possui o inventário. O Token Security encontra cada agente em execução no seu ambiente, as identidades por trás dele e o acesso que cada um possui.
IA segura desde o projeto
A Shadow AI e a expansão de agentes estão ultrapassando a capacidade da sua equipe de segurança de lidar com eles.
A Token Security descobre cada agente, mapeia acessos arriscados e aplica automaticamente políticas baseadas em intenções. Dimensione a IA com segurança, sem perder o controle ou retardar a inovação.
Veja-o em ação
Por que o manual usual falha
Durante dois anos, a maior parte dos esforços de segurança de IA foram direcionados para moldar a forma como os modelos respondem. Guardrails que incluem filtragem de prompt, restrições de entrada e saída e controles de comportamento. Embora sejam úteis em muitos contextos, eles são a camada errada para o problema que temos diante de nós.
Os filtros de prompt tentam restringir o comportamento. Com a linguagem natural como interface e um número infinito de prompts possíveis, sempre há outra maneira de entrar. A filtragem que funciona noventa e nove por cento das vezes ainda falha, porque um por cento do infinito ainda é infinito.
Mais importante ainda, os guarda-corpos funcionam depois de o acesso já ter sido concedido. Depois que um agente possui credenciais para um sistema de produção, o limite de segurança já está por trás dele. Um filtro pode moldar o que o agente diz, mas não pode desfazer o que o agente pode fazer.
A previsão falha pela mesma razão estrutural. O gerenciamento tradicional de identidade e acesso responde a uma pergunta: o que essa identidade pode alcançar? Esse modelo é menos útil para agentes de IA. Dois agentes com permissões idênticas podem se comportar de maneira completamente diferente dependendo do que cada um está tentando realizar.
Não é possível proteger um sistema orientado por objectivos traçando o perfil do seu comportamento passado, porque a sua próxima acção depende de contextos que ainda não encontrou.
Por que isso é urgente agora
A balança já chegou. A Palo Alto Networks estima a proporção de identidades não humanas para identidades humanas em 109 para 1, incluindo 79 agentes de IA. Os agentes estão acelerando essa curva, porque qualquer um pode acioná-lo em minutos, e a maioria o faz sem qualquer revisão de segurança.
Pense no risco do agente como acesso multiplicado pela autonomia. O acesso define o raio de explosão, enquanto a autonomia estreita a janela para intervenção humana. As políticas estáticas de IAM, escritas para pessoas que fazem login durante o horário comercial e são revisadas trimestralmente, nunca foram projetadas para agentes que nunca dormem, não usam MFA e raramente são aposentados.
A identidade é o único plano de controle que se mantém
Retire o modelo, o prompt e a estrutura e uma coisa permanecerá constante: cada ação executada por um agente passa por uma identidade. Ele autentica com uma conta de serviço, uma chave de API, uma concessão OAuth, uma função de nuvem ou um token. Todas as ações, desde a leitura de dados até a modificação da infraestrutura, dependem das permissões das identidades de um agente.
É por isso que a identidade, e não a filtragem imediata, é o plano de controle da IA agente. A identidade é a camada que abrange todos os sistemas que um agente toca, tornando-a o único lugar onde você pode impor o controle de forma consistente. A identidade controla o acesso e a intenção faz com que isso seja um
#samirnews #samir #news #boletimtec #seus #agentes #de #ia #estão #adivinhando #em #grande #escala: #as #permissões #decidem #os #danos
⚡ Fique ligado: novidades e promoções em breve por aqui! ⚡
Postar um comentário