OpenAI führt unsichtbares Wasserzeichen für ChatGPT-Texte in der EU ein

OpenAI hat angekündigt, ein unsichtbares Wasserzeichen, genannt textGrain, zu den Texten hinzuzufügen, die von ChatGPT und Codex generiert werden. Dies gilt vorerst nur für Nutzer in der Europäischen Union. Die Implementierung dieser Funktion soll den Anforderungen der AI-Gesetzgebung innerhalb der EU entsprechen.

Das Wasserzeichen soll dabei helfen, Texte zu identifizieren, die von künstlicher Intelligenz erstellt wurden. Es handelt sich um ein statistisches Signal, das in den Text eingebaut ist und somit für die meisten Nutzer nicht sichtbar ist. OpenAI gibt an, dass die Effektivität dieses Wasserzeichens bis zu 95 Prozent betragen kann, jedoch die Erkennungsrate erheblich sinkt, auf bis zu 17 Prozent, wenn viele Änderungen am Text vorgenommen wurden.

Neben OpenAI hat auch Anthropic angekündigt, eine ähnliche Technologie einzuführen. OpenAI hat jedoch erklärt, dass es seinen API-Kunden die Möglichkeit bietet, das Wasserzeichen auszuschalten. Dies könnte eine bedeutende Wahl für Entwickler sein, die AI-basierte Dienste anbieten.

Die Wasserzeichenfunktion ist ein wichtiger Schritt, um das Vertrauen in AI-generierte Inhalte zu stärken und die Nutzer über die Herkunft von Texten zu informieren. Die Funktion wird bald in der EU ausgerollt und soll es Forschern und anderen Interessierten erleichtern, zu überprüfen, ob ein Text von einem AI-System generiert wurde oder nicht.

Die Technologie, die OpenAI verwendet, soll besser abschneiden als andere verfügbare Techniken, darunter SynthID von Google DeepMind. Dies deutet darauf hin, dass OpenAI eine führende Rolle im Bereich der Transparenz in der AI anstrebt.

Außerhalb der EU bleiben die Texte von ChatGPT und Codex ohne Wasserzeichen. Dies schafft einen Unterschied in der Art und Weise, wie AI-Inhalte weltweit behandelt werden, wobei der Fokus auf der Einhaltung regionaler Gesetze liegt.