OpenAI introduce un watermark invisibile per i testi di ChatGPT nell'UE

OpenAI ha annunciato che aggiungerà un watermark invisibile, chiamato textGrain, ai testi generati da ChatGPT e Codex. Questa funzionalità sarà inizialmente disponibile solo per gli utenti dell'Unione Europea. L'implementazione di questa funzione è volta a soddisfare i requisiti della legislazione sull'IA nell'UE.

Il watermark dovrebbe aiutare a identificare i testi prodotti dall'intelligenza artificiale. Si tratta di un segnale statistico incorporato nel testo e perciò non visibile alla maggior parte degli utenti. OpenAI afferma che l'efficacia di questo watermark può arrivare fino al 95%, ma il grado di rilevamento scende notevolmente, fino al 17%, quando vengono apportate molte modifiche al testo.

Oltre a OpenAI, anche Anthropic ha annunciato l'introduzione di una tecnologia simile, ma OpenAI ha comunicato che per i clienti della sua API offre la possibilità di disabilitare il watermark. Questa potrebbe essere una scelta significativa per gli sviluppatori che offre servizi basati sull'IA.

La funzione di watermark rappresenta un passo importante per aumentare la fiducia nei contenuti generati dall'IA e per sensibilizzare gli utenti riguardo l'origine dei testi. La funzionalità sarà presto disponibile nell'UE e dovrebbe facilitare per i ricercatori e altri soggetti interessati la verifica se un testo è stato generato da un sistema di IA.

La tecnologia utilizzata da OpenAI è stata dichiarata superiore rispetto ad altre tecniche disponibili, incluso SynthID di Google DeepMind. Questo indica che OpenAI mira a ottenere un ruolo di leader nella trasparenza dell'IA.

Al di fuori dell'UE, i testi di ChatGPT e Codex rimarranno privi di watermark. Ciò crea una differenza nel modo in cui i contenuti generati dall'IA vengono trattati a livello globale, con un'enfasi sulla conformità alla legislazione regionale.