🔥 Fique por dentro das novidades mais quentes do momento! 🔥
Leia, comente e fique sempre atualizado!
Apoie esse projeto de divulgacao de noticias! Clique aqui
A OpenAI começou a lançar um novo modo de bloqueio para ChatGPT para contas pessoais qualificadas para reduzir o risco de exfiltração de dados decorrente de ataques de injeção imediata.
O recurso foi projetado principalmente para pessoas e organizações que lidam com dados confidenciais e exigem garantias de proteção mais rígidas. O modo Lockdown está disponível para usuários logados nos planos Free, Go, Plus e Pro e nos planos ChatGPT Business de autoatendimento.
“O Modo Lockdown é uma configuração de segurança avançada opcional que limita muitas ferramentas e recursos em produtos OpenAI que podem se conectar à web ou a serviços externos”, disse OpenAI.
“Ele foi projetado para reduzir o risco de exfiltração de dados de ataques de injeção imediata, limitando as solicitações de rede de saída, às custas da desativação ou limitação de alguns recursos úteis”.
As salvaguardas visam fortalecer a superfície de ataque contra injeções imediatas, que continuam a ser um problema de “fronteira” que afeta todos os grandes modelos de linguagem (LLMs).
Especificamente, eles se baseiam em sandboxing e controles existentes para combater mecanismos de exfiltração de dados baseados em URL para limitar solicitações de rede de saída que poderiam potencialmente transmitir dados confidenciais para infraestrutura controlada por invasores.
A ideia não é impedir a ocorrência de injeções imediatas. Isso também não altera a forma como funcionam os uploads de memória ou de arquivos, ou a capacidade de compartilhar uma conversa. Em vez disso, o objetivo é eliminar potenciais caminhos através dos quais os dados poderiam ser exfiltrados. Para esse fim, o Modo Lockdown desativa os seguintes recursos -
Navegação na web ao vivo, limitada ao acesso apenas ao conteúdo em cache
Suporte de imagem, para exibir imagens em respostas regulares ou recuperar imagens da web
Pesquisa profunda
Modo agente
Rede Canvas, que impede que os usuários aprovem o código gerado pelo Canvas para acessar a rede
Downloads de arquivos, que bloqueiam o download de arquivos para análise de dados
Ressaltando que o recurso não é “destinado a todos”, a OpenAI também observou que o Modo Lockdown e o Modo Desenvolvedor não podem ser usados ao mesmo tempo, acrescentando que ativar um desativa o outro.
“O modo Lockdown foi projetado para reduzir substancialmente o risco de exfiltração imediata de dados baseada em injeção no ChatGPT e em produtos OpenAI com suporte, mas não garante que a exfiltração de dados não possa acontecer”, disse a empresa. "O risco pode permanecer por meio de aplicativos habilitados, combinações imprevistas de recursos ou técnicas recém-descobertas."
"O modo de bloqueio também não evita todos os outros efeitos de ataques de injeção imediata. Por exemplo, uma instrução maliciosa oculta em um arquivo carregado ainda pode afetar o comportamento do ChatGPT e causar uma resposta incorreta."
O desenvolvimento ocorre no momento em que a OpenAI também lançou um novo recurso de gerenciamento de contas que permite aos usuários revisar sessões ativas do ChatGPT e sair de sessões individuais ou de todas as sessões se forem detectados sinais de atividade não autorizada da conta. As sessões listadas incluem informações sobre o dispositivo, o aplicativo usado, localização aproximada, data e hora de login, se o dispositivo é confiável e se é a sessão atual.
O recurso foi projetado principalmente para pessoas e organizações que lidam com dados confidenciais e exigem garantias de proteção mais rígidas. O modo Lockdown está disponível para usuários logados nos planos Free, Go, Plus e Pro e nos planos ChatGPT Business de autoatendimento.
“O Modo Lockdown é uma configuração de segurança avançada opcional que limita muitas ferramentas e recursos em produtos OpenAI que podem se conectar à web ou a serviços externos”, disse OpenAI.
“Ele foi projetado para reduzir o risco de exfiltração de dados de ataques de injeção imediata, limitando as solicitações de rede de saída, às custas da desativação ou limitação de alguns recursos úteis”.
As salvaguardas visam fortalecer a superfície de ataque contra injeções imediatas, que continuam a ser um problema de “fronteira” que afeta todos os grandes modelos de linguagem (LLMs).
Especificamente, eles se baseiam em sandboxing e controles existentes para combater mecanismos de exfiltração de dados baseados em URL para limitar solicitações de rede de saída que poderiam potencialmente transmitir dados confidenciais para infraestrutura controlada por invasores.
A ideia não é impedir a ocorrência de injeções imediatas. Isso também não altera a forma como funcionam os uploads de memória ou de arquivos, ou a capacidade de compartilhar uma conversa. Em vez disso, o objetivo é eliminar potenciais caminhos através dos quais os dados poderiam ser exfiltrados. Para esse fim, o Modo Lockdown desativa os seguintes recursos -
Navegação na web ao vivo, limitada ao acesso apenas ao conteúdo em cache
Suporte de imagem, para exibir imagens em respostas regulares ou recuperar imagens da web
Pesquisa profunda
Modo agente
Rede Canvas, que impede que os usuários aprovem o código gerado pelo Canvas para acessar a rede
Downloads de arquivos, que bloqueiam o download de arquivos para análise de dados
Ressaltando que o recurso não é “destinado a todos”, a OpenAI também observou que o Modo Lockdown e o Modo Desenvolvedor não podem ser usados ao mesmo tempo, acrescentando que ativar um desativa o outro.
“O modo Lockdown foi projetado para reduzir substancialmente o risco de exfiltração imediata de dados baseada em injeção no ChatGPT e em produtos OpenAI com suporte, mas não garante que a exfiltração de dados não possa acontecer”, disse a empresa. "O risco pode permanecer por meio de aplicativos habilitados, combinações imprevistas de recursos ou técnicas recém-descobertas."
"O modo de bloqueio também não evita todos os outros efeitos de ataques de injeção imediata. Por exemplo, uma instrução maliciosa oculta em um arquivo carregado ainda pode afetar o comportamento do ChatGPT e causar uma resposta incorreta."
O desenvolvimento ocorre no momento em que a OpenAI também lançou um novo recurso de gerenciamento de contas que permite aos usuários revisar sessões ativas do ChatGPT e sair de sessões individuais ou de todas as sessões se forem detectados sinais de atividade não autorizada da conta. As sessões listadas incluem informações sobre o dispositivo, o aplicativo usado, localização aproximada, data e hora de login, se o dispositivo é confiável e se é a sessão atual.
Fonte: https://thehackernews.com
#samirnews #samir #news #boletimtec #novo #modo #de #bloqueio #do #chatgpt #limita #ferramentas #que #podem #permitir #a #exfiltração #de #dados
🎉 Obrigado por acompanhar, até a próxima notícia!
Postar um comentário