Anthropic détaille le filigrane invisible dans le texte généré par Claude

Vendredi, Anthropic a précisé le fonctionnement de la nouvelle fonctionnalité de filigrane de Claude, affirmant qu'elle utilisera une version de SynthID-Text, une technologie open-source développée par Google DeepMind. Ce système est conçu pour créer des motifs détectables dans le texte basés sur les probabilités de formulation.

La mise en œuvre du système de filigrane a fait face à des critiques, mettant en lumière des préoccupations concernant la transparence et la responsabilité dans le contenu généré par l'IA. Les observateurs ont noté que, bien que l'explication vise à clarifier son objectif, elle a intensifié les discussions sur les implications d'une telle technologie.

Cette initiative s'inscrit dans les réglementations européennes sur la transparence de l'IA, signalant un effort continu d'Anthropic pour se conformer aux cadres juridiques émergents entourant l'intelligence artificielle et ses applications.