📰 Informação fresquinha chegando para você!
Leia, comente e fique sempre atualizado!
Apoie esse projeto de divulgacao de noticias! Clique aqui
Em breve poderá se tornar mais fácil identificar conteúdo gerado por IA, mesmo que não seja o tipo usual de postagem “Não é X, é Y” que você encontra no LinkedIn e em outras redes sociais.
Como devem saber, a UE exige agora que as empresas de IA que servem o seu mercado marquem o seu conteúdo gerado por IA para que seja mais fácil de identificar.
A Anthropic e vários outros grandes fornecedores de IA concordaram em cumprir o Código de Prática da UE, com a Anthropic se tornando uma das primeiras empresas a compartilhar detalhes sobre como implementará a marca d’água em Claude.
A Anthropic também confirmou que um usuário comum não conseguirá ver a marca d’água.
Segundo a empresa, isso não tem impacto prático na qualidade ou no conteúdo da produção de Claude, incluindo criatividade e legibilidade.
Para quem não sabe, sistemas invisíveis de marcas d'água e proveniência já estão sendo usados para algumas imagens geradas por IA, e a produção baseada em texto seguirá agora um conceito semelhante, embora a implementação subjacente seja diferente.
Embora a mudança esteja sendo introduzida para cumprir a Lei de IA da UE, a Antrópica diz que a marca d'água será inicialmente aplicada ao texto gerado por Claude em todo o mundo.
“Estamos aplicando marca d'água globalmente no lançamento porque ainda não temos uma maneira durável de defini-la por região”, explicou a Anthropic em uma postagem no blog.
A Anthropic diz que os futuros modelos de Claude gerarão texto com marca d'água. Os modelos lançados antes de 2 de agosto de 2026 estão cobertos pelo período de transição da UE, e a Anthropic afirma que está trabalhando para adicionar marca d'água a esses modelos nos próximos meses.
A marca d'água de Claude não adiciona caracteres ocultos
A Anthropic afirma que sua implementação é baseada na abordagem SynthID-Text do Google DeepMind e explicou que funciona durante a geração, com certas exceções.
Como você deve saber, os modelos de IA geram texto escolhendo repetidamente qual token poderia razoavelmente vir em seguida. Em vez de adicionar caracteres ou modificar a resposta finalizada posteriormente, a marca d'água de Claude altera a fonte de aleatoriedade usada ao fazer algumas dessas escolhas.
"A marca d'água usa escolhas de baixo risco como essas - que ocorrem muitas vezes em um trecho de texto gerado - para deixar um padrão nas respostas de Claude. Esse padrão é indetectável para o leitor, mas é detectável para qualquer pessoa que tenha uma chave que o codifique", explicou Anthropic.
"Quando a marca d'água é usada, as escolhas ainda são feitas aleatoriamente, mas a fonte da aleatoriedade é diferente. Em vez de usar um gerador arbitrário de números aleatórios para escolher a próxima palavra, o watermaking usa a chave e algumas palavras anteriores para decidir qual palavra o modelo deve escolher."
"Ou seja, as palavras que Claude escolhe ainda são aleatórias, mas agora é possível verificar a sequência de palavras e ver se é consistente com as escolhas que Claude faria se estivesse usando a chave. Se for, pode-se atribuir uma probabilidade de que o texto foi gerado por Claude."
Também li o artigo de pesquisa sobre o assunto e aqui está um trecho que explica como funciona a marca d’água generativa:
A marca d’água generativa funciona modificando cuidadosamente o procedimento de amostragem do próximo token para injetar modificações sutis e específicas do contexto na distribuição de texto gerada. Tais modificações introduzem uma assinatura estatística no texto gerado; durante a fase de detecção da marca d'água, a assinatura pode ser medida para determinar se o texto foi realmente gerado pelo LLM com marca d'água. Um benefício importante da abordagem é que o processo de detecção não requer a execução de operações computacionalmente caras ou mesmo acesso ao LLM subjacente (que geralmente é proprietário).
O artigo é aprofundado e traz mais exemplos, mas o importante é que a Anthropic não está adicionando um marcador visível ou caracteres ocultos à resposta de Claude.
O artigo de pesquisa do Google explica como funciona a marca d'água
Fonte: Google DeepMind
Em vez disso, quando Claude tem múltiplas escolhas razoáveis sobre o que gerar a seguir, o sistema de marca d'água usa uma chave secreta e algumas das palavras anteriores como parte da aleatoriedade usada para fazer essa escolha.
Essas escolhas individuais deveriam parecer completamente normais para o leitor, mas em um texto suficientemente longo, elas deixam um padrão estatístico.
Um detector que possui a chave Anthropic pode examinar a sequência de palavras e determinar o quão consistente ela é com as escolhas que Claude teria feito ao usar a marca d'água, permitindo estimar a probabilidade de Claude estar envolvido na escrita do texto.
De acordo com a Anthropic, os testes internos não encontraram impacto na criatividade, na legibilidade ou no conteúdo das respostas de Claude.
A empresa também afirma que a marca d'água não requer tokens adicionais e tem um impacto insignificante na velocidade de geração.
“Nada é adicionado ao texto e não há caracteres ocultos”, observou Anthropic. "A marca d'água não requer tokens extras e não será mais exp
Como devem saber, a UE exige agora que as empresas de IA que servem o seu mercado marquem o seu conteúdo gerado por IA para que seja mais fácil de identificar.
A Anthropic e vários outros grandes fornecedores de IA concordaram em cumprir o Código de Prática da UE, com a Anthropic se tornando uma das primeiras empresas a compartilhar detalhes sobre como implementará a marca d’água em Claude.
A Anthropic também confirmou que um usuário comum não conseguirá ver a marca d’água.
Segundo a empresa, isso não tem impacto prático na qualidade ou no conteúdo da produção de Claude, incluindo criatividade e legibilidade.
Para quem não sabe, sistemas invisíveis de marcas d'água e proveniência já estão sendo usados para algumas imagens geradas por IA, e a produção baseada em texto seguirá agora um conceito semelhante, embora a implementação subjacente seja diferente.
Embora a mudança esteja sendo introduzida para cumprir a Lei de IA da UE, a Antrópica diz que a marca d'água será inicialmente aplicada ao texto gerado por Claude em todo o mundo.
“Estamos aplicando marca d'água globalmente no lançamento porque ainda não temos uma maneira durável de defini-la por região”, explicou a Anthropic em uma postagem no blog.
A Anthropic diz que os futuros modelos de Claude gerarão texto com marca d'água. Os modelos lançados antes de 2 de agosto de 2026 estão cobertos pelo período de transição da UE, e a Anthropic afirma que está trabalhando para adicionar marca d'água a esses modelos nos próximos meses.
A marca d'água de Claude não adiciona caracteres ocultos
A Anthropic afirma que sua implementação é baseada na abordagem SynthID-Text do Google DeepMind e explicou que funciona durante a geração, com certas exceções.
Como você deve saber, os modelos de IA geram texto escolhendo repetidamente qual token poderia razoavelmente vir em seguida. Em vez de adicionar caracteres ou modificar a resposta finalizada posteriormente, a marca d'água de Claude altera a fonte de aleatoriedade usada ao fazer algumas dessas escolhas.
"A marca d'água usa escolhas de baixo risco como essas - que ocorrem muitas vezes em um trecho de texto gerado - para deixar um padrão nas respostas de Claude. Esse padrão é indetectável para o leitor, mas é detectável para qualquer pessoa que tenha uma chave que o codifique", explicou Anthropic.
"Quando a marca d'água é usada, as escolhas ainda são feitas aleatoriamente, mas a fonte da aleatoriedade é diferente. Em vez de usar um gerador arbitrário de números aleatórios para escolher a próxima palavra, o watermaking usa a chave e algumas palavras anteriores para decidir qual palavra o modelo deve escolher."
"Ou seja, as palavras que Claude escolhe ainda são aleatórias, mas agora é possível verificar a sequência de palavras e ver se é consistente com as escolhas que Claude faria se estivesse usando a chave. Se for, pode-se atribuir uma probabilidade de que o texto foi gerado por Claude."
Também li o artigo de pesquisa sobre o assunto e aqui está um trecho que explica como funciona a marca d’água generativa:
A marca d’água generativa funciona modificando cuidadosamente o procedimento de amostragem do próximo token para injetar modificações sutis e específicas do contexto na distribuição de texto gerada. Tais modificações introduzem uma assinatura estatística no texto gerado; durante a fase de detecção da marca d'água, a assinatura pode ser medida para determinar se o texto foi realmente gerado pelo LLM com marca d'água. Um benefício importante da abordagem é que o processo de detecção não requer a execução de operações computacionalmente caras ou mesmo acesso ao LLM subjacente (que geralmente é proprietário).
O artigo é aprofundado e traz mais exemplos, mas o importante é que a Anthropic não está adicionando um marcador visível ou caracteres ocultos à resposta de Claude.
O artigo de pesquisa do Google explica como funciona a marca d'água
Fonte: Google DeepMind
Em vez disso, quando Claude tem múltiplas escolhas razoáveis sobre o que gerar a seguir, o sistema de marca d'água usa uma chave secreta e algumas das palavras anteriores como parte da aleatoriedade usada para fazer essa escolha.
Essas escolhas individuais deveriam parecer completamente normais para o leitor, mas em um texto suficientemente longo, elas deixam um padrão estatístico.
Um detector que possui a chave Anthropic pode examinar a sequência de palavras e determinar o quão consistente ela é com as escolhas que Claude teria feito ao usar a marca d'água, permitindo estimar a probabilidade de Claude estar envolvido na escrita do texto.
De acordo com a Anthropic, os testes internos não encontraram impacto na criatividade, na legibilidade ou no conteúdo das respostas de Claude.
A empresa também afirma que a marca d'água não requer tokens adicionais e tem um impacto insignificante na velocidade de geração.
“Nada é adicionado ao texto e não há caracteres ocultos”, observou Anthropic. "A marca d'água não requer tokens extras e não será mais exp
#samirnews #samir #news #boletimtec #como #a #anthropic #planeja #colocar #uma #marca #dágua #no #texto #gerado #por #ia #de #claude
🚀 Mais conteúdos incríveis estão por vir, fique atento!
Postar um comentário