CEO van Anthropic Dario Amodei pleit voor vertraging in AI-ontwikkeling

Dario Amodei, de CEO van Anthropic, heeft op zaterdag een oproep gedaan aan bedrijven in de kunstmatige intelligentie om het tempo van AI-ontwikkeling te verlagen. Amodei benadrukte de noodzaak van striktere beheersing en toezicht op de vooruitgang in het veld, en uitte bezorgdheid over de mogelijke gevaren die gepaard gaan met snel ontwikkelende AI-systemen.

In een bericht op sociale media stelde Amodei een drieledige aanpak voor om het tempo van de industrie te matigen. Zijn plan omvat toezeggingen voor externe evaluaties van AI-systemen, gericht op het beoordelen van hun veiligheid en potentiële risico's. Hij gaf aan dat Anthropic eenzijdig zou toezeggen om het eerste deel van dit kader na te leven.

Amodei's oproep heeft steun gekregen van prominente figuren in de technologiesector, waaronder Elon Musk en Sam Altman, die zijn gevoelens over de noodzaak van voorzichtigheid in de AI-ontwikkeling hebben onderschreven. Hun steun benadrukt de gedeelde bezorgdheid over de gevolgen van ongecontroleerde vooruitgang in kunstmatige intelligentie.

De CEO wees op ernstige risico's die verband houden met de vooruitgang in AI, zoals de mogelijkheid om de controle over AI-systemen te verliezen, evenals de dreigingen van cyberaanvallen en bioterrorisme. Hij gaf aan dat de snelheid van ontwikkeling in evenwicht moet worden gebracht met de tijd die nodig is voor veiligheidsmaatregelen om gelijke tred te houden met technologische vooruitgang.

Deze oproep tot actie komt kort na het vertrek van een onderzoeker bij Anthropic, die zijn bezorgdheid over de koers van de industrie heeft geuit. Dergelijke vertrekken hebben discussies doen ontbranden over de ethische verantwoordelijkheden van AI-ontwikkelaars en de urgentie van het opzetten van betere regelgevende kaders.

De groeiende onrust over de koers van AI heeft geleid tot bredere discussies over de implicaties voor de samenleving, met oproepen tot verantwoord en gematigd vooruitgang in het veld. Amodei's oproep tot actie is bedoeld om ervoor te zorgen dat ontwikkelingen in AI niet de capaciteit om de bijbehorende risico's te begrijpen en te beheersen, overstijgen.