OpenAI lança marca d’água para textos gerados por IA

A OpenAI passou a oferecer a clientes de sua API a opção de aplicar uma marca d’água digital ao texto gerado por determinados modelos, em cumprimento ao AI Act europeu. A empresa planeja aplicar a tecnologia, chamada textGrain, ao texto elegível produzido pelo ChatGPT e pelo Codex na União Europeia; fora do bloco, ela ficará disponível apenas por escolha dos clientes da API.

A marca d’água adiciona um sinal estatístico invisível às escolhas de palavras, identificado por um detector disponível somente a pesquisadores e organizações aprovados. O método pode falhar em textos curtos, funcionais, matemáticos ou com código e perde eficácia quando palavras são substituídas por sinônimos: em testes, a detecção caiu de 92% para 66% com a troca de 10% das palavras e para 17% com a troca de 25%.