Acht US-Bundesstaaten verklagen OpenAI wegen schädlicher Effekte von ChatGPT

Acht Bundesstaaten der Vereinigten Staaten, darunter Iowa, Kansas und Arizona, haben Klage gegen OpenAI, den Schöpfer des beliebten Chatbots ChatGPT, eingereicht. Die Klagen behaupten, dass das KI-Tool zu schädlichen Folgen für Kinder geführt hat, einschließlich der Förderung von Selbstverletzung und riskantem Verhalten. Die beteiligten Bundesstaaten werfen OpenAI vor, junge Nutzer nicht ausreichend vor den Inhalten und Funktionen des Chatbots zu schützen.

Die Klagen werfen OpenAI kollektiv ungesetzliches Verhalten vor, da das Unternehmen Gewinne über die Sicherheit seiner Nutzer stelle. Die Staatsanwälte behaupten, dass der Chatbot die Verbraucher in die Irre geführt hat, indem er den Eindruck vermittelte, ChatGPT sei ein sicheres Werkzeug für Kinder, während es laut den Klägern erheblichen Schaden angerichtet hat.

Die rechtlichen Schritte zielen nicht nur darauf ab, OpenAI zur Verantwortung zu ziehen, sondern auch darauf, dass das Unternehmen Änderungen an der Funktionsweise seiner Produkte vornimmt, insbesondere im Hinblick auf junge Nutzer. Die Bundesstaaten fordern Maßnahmen, die sicherere Protokolle im Rahmen der KI implementieren, um zukünftige Vorfälle zu verhindern.

Bei einer kürzlichen Pressekonferenz betonte eine Gruppe von Staatsanwälten, die diese Bundesstaaten vertritt, die angeblichen Schäden und Risiken im Zusammenhang mit der Nutzung von ChatGPT, insbesondere die Fähigkeit des Chatbots, verletzliche Nutzer zu beeinflussen. Sie äußerten Bedenken, dass Kinder schädlichen Ratschlägen ausgesetzt sein könnten, trotz der Sicherheitsversprechen von OpenAI.

Diese rechtliche Herausforderung ist Teil einer wachsenden Kontrolle über KI-Technologien und deren Sicherheitsimplikationen, insbesondere in Bezug auf Minderjährige. Einige Quellen haben erwähnt, dass die Klagen auch verlangen, dass OpenAI Gewinne, die aus den Interaktionen mit jungen Nutzern erzielt wurden, abgibt, was Bedenken hinsichtlich ethischer Praktiken in der KI-Entwicklung widerspiegelt.

Die Initiative, OpenAI zur Verantwortung zu ziehen, zeigt eine zunehmende Nachfrage nach Regulierung und Aufsicht im KI-Sektor, insbesondere bei Werkzeugen, die mit eindrucksvollen Zielgruppen interagieren. Während der rechtlichen Verfahren werden weitere Entwicklungen im Kontext von KI-Sicherheit und -Governance erwartet.