OpenAI introduceert onzichtbaar watermerk voor ChatGPT-teksten in de EU

OpenAI heeft aangekondigd dat het een onzichtbaar watermerk, genaamd textGrain, zal toevoegen aan de teksten die worden gegenereerd door ChatGPT en Codex. Dit geldt voorlopig alleen voor gebruikers in de Europese Unie. De implementatie van deze functie is bedoeld om te voldoen aan de vereisten van de AI-wetgeving binnen de EU.

Het watermerk moet helpen om teksten te identificeren die zijn vervaardigd door kunstmatige intelligentie. Het is een statistisch signaal dat ingebouwd zit in de tekst en daardoor niet zichtbaar is voor de meeste gebruikers. OpenAI stelt dat de effectiviteit van dit watermerk tot 95 procent kan oplopen, maar de detectiegraad daalt aanzienlijk, tot 17 procent, wanneer er veel wijzigingen in de tekst zijn aangebracht.

Naast OpenAI heeft ook Anthropic aangekondigd een vergelijkbare technologie te introduceren, maar OpenAI heeft aangegeven dat het voor zijn API-klanten de mogelijkheid biedt om het watermerk uit te schakelen. Dit kan een significante keuze zijn voor ontwikkelaars die AI-gebonden diensten aanbieden.

De watermerkvoorziening is een belangrijke stap om het vertrouwen in AI-gegenereerde inhoud te vergroten en gebruikers bewust te maken van de herkomst van teksten. De functie wordt binnenkort in de EU uitgerold en zou het voor onderzoekers en andere belanghebbenden gemakkelijker moeten maken om te verifiëren of een tekst door een AI-systeem is gegenereerd of niet.

De technologie die OpenAI gebruikt, is geclaimd beter te presteren dan andere beschikbare technieken, waaronder SynthID van Google DeepMind. Dit geeft aan dat OpenAI streeft naar een leidende rol op het gebied van transparantie in AI.

Buiten de EU blijven de teksten van ChatGPT en Codex zonder watermerken. Dit creëert een verschil in de manier waarop AI-inhoud wereldwijd wordt behandeld, waarbij de nadruk ligt op de naleving van regionale wetgeving.