Ocho estados de EE. UU. demandan a OpenAI por supuestos efectos dañinos de ChatGPT

Ocho estados en Estados Unidos, incluidos Iowa, Kansas y Arizona, han presentado demandas contra OpenAI, el creador del popular chatbot ChatGPT. Las demandas afirman que la herramienta de IA ha provocado resultados perjudiciales para los niños, incluyendo la promoción de la autolesión y comportamientos imprudentes. Los estados involucrados alegan que OpenAI no protegió adecuadamente a los jóvenes usuarios del contenido y las funcionalidades del chatbot.

Las demandas acusan colectivamente a OpenAI de conducta ilegal al priorizar las ganancias sobre la seguridad de sus usuarios. Los estados afirman que el chatbot ha engañado a los consumidores, haciéndoles creer que ChatGPT era una herramienta segura para niños, mientras que, según los demandantes, ha causado daños sustanciales.

La acción legal busca no solo la responsabilidad de OpenAI, sino también que la compañía realice cambios en el funcionamiento de sus productos, particularmente en lo que respecta a los jóvenes usuarios. Los estados presionan por medidas que instauren protocolos de seguridad más estrictos dentro del marco de la IA para prevenir incidentes futuros.

Durante una reciente conferencia de prensa, un grupo de fiscales que representan a estos estados enfatizó los presuntos daños y riesgos asociados con el uso de ChatGPT, centrándose específicamente en la capacidad del chatbot para influir en usuarios vulnerables. Resaltaron las preocupaciones de que los niños puedan estar expuestos a orientaciones dañinas a pesar de las afirmaciones de seguridad de OpenAI.

Este desafío legal forma parte de un creciente escrutinio sobre las tecnologías de IA y sus implicaciones de seguridad, especialmente en lo que respecta a los menores. Algunas fuentes han mencionado que las demandas también exigen que OpenAI renuncie a las ganancias generadas por sus interacciones con jóvenes usuarios, lo que refleja preocupaciones sobre prácticas éticas en el desarrollo de la IA.

La iniciativa para hacer responsable a OpenAI demuestra una creciente demanda por regulación y supervisión en el sector de la IA, particularmente en relación con herramientas que interactúan con audiencias impresionables. A medida que avancen los procedimientos legales, se esperan más desarrollos en el contexto de la seguridad y gobernanza en IA.