OpenAI introduit un filigrane invisible pour les textes de ChatGPT dans l'UE

OpenAI a annoncé qu'il ajouterait un filigrane invisible, nommé textGrain, aux textes générés par ChatGPT et Codex. Pour l'instant, cela ne concerne que les utilisateurs de l'Union européenne. La mise en œuvre de cette fonctionnalité vise à répondre aux exigences de la législation sur l'IA au sein de l'UE.

Le filigrane doit aider à identifier les textes produits par l'intelligence artificielle. C'est un signal statistique intégré dans le texte, donc invisible pour la plupart des utilisateurs. OpenAI affirme que l'efficacité de ce filigrane pourrait atteindre jusqu'à 95 %, mais le taux de détection chute considérablement, à 17 %, lorsque des modifications importantes sont apportées au texte.

En plus d'OpenAI, Anthropic a également annoncé l'introduction d'une technologie similaire, mais OpenAI a indiqué qu'il permettrait à ses clients API de désactiver le filigrane. Cela pourrait représenter un choix significatif pour les développeurs proposant des services liés à l'IA.

La fourniture de ce filigrane est une étape importante pour renforcer la confiance dans le contenu généré par l'IA et sensibiliser les utilisateurs à l'origine des textes. Cette fonctionnalité sera bientôt déployée dans l'UE et devrait faciliter pour les chercheurs et autres parties prenantes la vérification de l'origine d'un texte généré par un système d'IA.

La technologie utilisée par OpenAI serait prétendument plus performante que d'autres techniques disponibles, notamment SynthID de Google DeepMind. Cela montre qu'OpenAI vise à jouer un rôle de leader en matière de transparence dans l'IA.

En dehors de l'UE, les textes de ChatGPT et Codex resteront sans filigranes. Cela crée une différence dans la manière dont le contenu généré par l'IA est traité à l'échelle mondiale, en mettant l'accent sur la conformité à la législation régionale.