OpenAI lança marca-d’água invisível em textos gerados pelo ChatGPT

OpenAI revelou que, a partir das próximas semanas, o ChatGPT passará a inserir uma marca-d’água invisível em textos produzidos por sua inteligência artificial. A medida, chamada textGrain, tem como objetivo cumprir as exigências de transparência do AI Act da União Europeia, que obriga a identificação de conteúdo gerado por IA. Segundo o Canaltech, a tecnologia será inicialmente disponibilizada apenas para usuários da região, mas a API já permite ativação voluntária em outros países.

Como funciona o textGrain

Ao gerar uma resposta, o modelo de linguagem calcula diversas possibilidades para cada token – a menor unidade de texto. O textGrain altera levemente as probabilidades dessas escolhas, de modo que certas sequências de palavras formem um padrão estatístico reconhecível por um detector próprio da OpenAI. Esse padrão não aparece como texto visível, nem adiciona caracteres ocultos; ele está embutido nas decisões de escolha de palavras.

Comparação com a solução da Anthropic

A Anthropic, responsável pelo Claude, já havia implementado um recurso semelhante em agosto, baseado na tecnologia SynthID-Text desenvolvida pelo Google DeepMind. Enquanto a Anthropic utiliza o SynthID para gerar seu padrão, a OpenAI desenvolveu o textGrain de forma independente e afirma que, em testes internos, sua eficácia é igual ou superior ao SynthID. Ambas as abordagens compartilham a ideia de modificar a aleatoriedade da geração sem alterar o conteúdo visível.

Limitações e desafios de detecção

O detector da OpenAI não garante 100 % de certeza de que um texto foi criado integralmente por seu modelo. Ele indica a probabilidade de participação da IA, mas não quantifica a contribuição humana. Nos testes divulgados, com taxa de 1 % de falsos positivos, a ferramenta identificou a marca em cerca de 80 % dos textos de 200 tokens e 95 % dos de 400 tokens. Alterações manuais, como substituir sinônimos, reduzem drasticamente a taxa de detecção – trocas de 10 % das palavras diminuem a eficácia para 66 % e 25 % das palavras para apenas 17 %.

O que isso muda na prática para quem empreende, trabalha com marketing ou cria conteúdo

Para profissionais que produzem textos em escala – desde blogs até campanhas publicitárias – a presença de uma marca-d’água invisível traz novas considerações de compliance, credibilidade e estratégia de uso de IA.

• Transparência com o cliente: informe quando um conteúdo foi gerado ou auxiliado por IA, reforçando a confiança e evitando possíveis questionamentos futuros.
• Revisão humana: antes de publicar, faça uma revisão cuidadosa e, se necessário, ajuste palavras-chave para garantir que o detector não seja enganado ou que o texto mantenha a identidade da sua marca.
• Uso da API: quem desenvolve ferramentas próprias pode ativar o textGrain via API, permitindo rastrear a origem dos textos e cumprir requisitos regulatórios.
• Estratégia de SEO: motores de busca ainda não penalizam textos gerados por IA, mas a presença de marca-d’água pode ser um diferencial em auditorias de qualidade de conteúdo.
• Proteção contra plágio: a marca invisível pode servir como prova de autoria em disputas legais, desde que o detector seja acessível a partes interessadas.

Próximos passos e disponibilidade

Nos próximos meses, a OpenAI pretende abrir o código do textGrain para a comunidade, permitindo que desenvolvedores criem seus próprios detectores. O acesso ao detector oficial, porém, ficará restrito a pesquisadores e organizações aprovadas, em linha com a estratégia da Anthropic, que oferece sua ferramenta de detecção em pré-via privada. Enquanto isso, usuários fora da UE ainda não receberão o carimbo automaticamente, mas podem optar por ativá-lo nas chamadas de API compatíveis.

Com a implementação de marcas-d’água invisíveis, o debate sobre a responsabilidade e a transparência da IA ganha um novo capítulo, exigindo que criadores de conteúdo, profissionais de marketing e empreendedores adaptem suas práticas para um cenário regulatório cada vez mais rigoroso.