OpenAI apresenta marca d'água invisível para textos do ChatGPT na UE

A OpenAI anunciou que irá adicionar uma marca d'água invisível, chamada textGrain, aos textos gerados pelo ChatGPT e Codex. Esta medida aplica-se, por enquanto, apenas aos utilizadores da União Europeia. A implementação desta funcionalidade visa cumprir os requisitos da legislação sobre IA dentro da UE.

A marca d'água deverá ajudar a identificar textos produzidos por inteligência artificial. Trata-se de um sinal estatístico embutido no texto, tornando-o invisível para a maioria dos utilizadores. A OpenAI afirma que a eficácia desta marca pode chegar até 95%, mas a taxa de deteção diminui significativamente, para 17%, quando são realizadas muitas alterações no texto.

Além da OpenAI, a Anthropic também anunciou a introdução de uma tecnologia semelhante, mas a OpenAI afirmou que oferece aos seus clientes de API a possibilidade de desativar a marca d'água. Esta pode ser uma escolha significativa para desenvolvedores que oferecem serviços relacionados com IA.

A funcionalidade da marca d'água é um passo importante para aumentar a confiança no conteúdo gerado por IA e para conscientizar os utilizadores sobre a origem dos textos. Esta funcionalidade será lançada em breve na UE e deverá facilitar a verificação, por parte de investigadores e outras partes interessadas, sobre se um texto foi gerado por um sistema de IA ou não.

A tecnologia que a OpenAI utiliza é alegadamente mais eficaz do que outras técnicas disponíveis, incluindo o SynthID da Google DeepMind. Isto indica que a OpenAI está a procurar uma posição de liderança no que diz respeito à transparência em IA.

Fora da UE, os textos do ChatGPT e Codex continuarão a não ter marcas d'água. Isto cria uma diferença na forma como o conteúdo de IA é tratado em todo o mundo, com ênfase na conformidade com legislações regionais.