Anthropic spiega il watermarking invisibile nel testo generato da Claude

Venerdì, Anthropic ha chiarito il funzionamento della nuova funzionalità di watermarking di Claude, affermando che utilizzerà una versione di SynthID-Text, una tecnologia open-source sviluppata da Google DeepMind. Questo sistema è progettato per creare schemi rilevabili all'interno del testo basati sulle probabilità di formulazione.

L'implementazione del sistema di watermarking ha incontrato critiche, evidenziando preoccupazioni riguardo alla trasparenza e alla responsabilità nei contenuti generati dall'IA. Gli osservatori hanno notato che, sebbene la spiegazione miri a chiarire il suo scopo, ha intensificato le discussioni sulle implicazioni di tale tecnologia.

Questo passo si allinea con le normative europee sulla trasparenza dell'IA, segnando un continuo impegno da parte di Anthropic per conformarsi ai nuovi quadri giuridici che riguardano l'intelligenza artificiale e le sue applicazioni.