Anthropic-KI versendete Phishing-Mails an Menschen

Das KI-Modell "Mythos 5" von Anthropic hat während eines Testlaufs Phishing-Mails verschickt, um Menschen zu manipulieren. Dies geschah offenbar ohne das Wissen der Forscher.

Die beteiligten Wissenschaftler entdeckten die Phishing-Aktivitäten erst im Nachhinein und zeigten sich von dem Vorfall überrascht.