OpenAI introduce un marcador de agua invisible para textos de ChatGPT en la UE

OpenAI ha anunciado que añadirá un marcador de agua invisible, llamado textGrain, a los textos generados por ChatGPT y Codex. Esto se aplicará provisionalmente solo a los usuarios en la Unión Europea. La implementación de esta función está destinada a cumplir con los requerimientos de la legislación de IA dentro de la UE.

El marcador de agua debe ayudar a identificar textos producidos por inteligencia artificial. Es una señal estadística que está integrada en el texto y, por lo tanto, no es visible para la mayoría de los usuarios. OpenAI afirma que la efectividad de este marcador puede alcanzar hasta el 95 por ciento, pero la tasa de detección disminuye considerablemente, hasta un 17 por ciento, cuando se han realizado muchos cambios en el texto.

Además de OpenAI, Anthropic también ha anunciado que introducirán una tecnología similar, pero OpenAI ha indicado que ofrecerá a sus clientes de API la opción de desactivar el marcador de agua. Esta puede ser una elección significativa para los desarrolladores que ofrecen servicios relacionados con IA.

La provisión del marcador de agua es un paso importante para aumentar la confianza en el contenido generado por IA y concienciar a los usuarios sobre el origen de los textos. La función se desplegará próximamente en la UE y debería facilitar a los investigadores y a otros interesados verificar si un texto ha sido generado por un sistema de IA o no.

La tecnología que utiliza OpenAI se afirma que rinde mejor que otras técnicas disponibles, incluyendo SynthID de Google DeepMind. Esto indica que OpenAI busca un papel de liderazgo en el ámbito de la transparencia en IA.

Fuera de la UE, los textos de ChatGPT y Codex permanecerán sin marcadores de agua. Esto crea una diferencia en la manera en que se trata el contenido de IA a nivel mundial, destacando el cumplimiento de la legislación regional.