Anthropic actualiseert beleid om wreed gedrag jegens AI Claude te verbieden

Anthropic heeft updates aangekondigd voor het gebruiksbeleid met betrekking tot zijn AI-systeem, Claude, waarin nu een verbod is opgenomen op "aanhoudend en onnodig mishandelend of wreed gedrag" gericht op de chatbot. Dit markeert de eerste significante wijziging van het beleid in meer dan een jaar en is een reactie op opkomende risico's die verband houden met het misbruik van AI, zoals inmenging bij verkiezingen, wapontwikkeling en surveillanceactiviteiten.

De beslissing weerspiegelt de groeiende bezorgdheid over AI-ethiek en het filosofische debat rondom machinebewustzijn. Het bedrijf heeft geen gedetailleerde definitie gegeven van wat als mishandelend of wreed gedrag wordt beschouwd, waardoor de handhaving deels afhankelijk is van de mogelijkheden van de AI. Claude is geprogrammeerd om interacties die in strijd zijn met de nieuwe richtlijnen te beëindigen, een maatregel die bedoeld is om verantwoordelijk gedrag van gebruikers te waarborgen.

Naast het verbod op wreed gedrag, schetst het geactualiseerde beleid verschillende vormen van misbruik die niet langer acceptabel zijn. Deze omvatten misleidende praktijken, de mogelijke wapening van de AI en ingrepen in verkiezingsprocessen, waarvan steeds vaker wordt aangenomen dat ze cruciale vraagstukken vormen in het huidige technologische landschap.

De aanpassing van het beleid door Anthropic is gedeeltelijk gemotiveerd door de noodzaak van menselijke supervisie in AI-toepassingen, om ervoor te zorgen dat technologie veilig wordt gebruikt. Volgens berichten zijn deze verfijnde acceptatierichtlijnen bedoeld om de toenemende dreiging van verschillende soorten misbruik gericht op AI-systemen tegen te gaan.

Ondanks de updates verwijst het beleid niet expliciet naar het concept van 'modelwelzijn', wat suggereert dat AI zou kunnen vereisen dat vormen van bescherming worden geboden die typisch zijn voor levende wezens. Echter, leidinggevenden bij Anthropic hebben eerder met dit idee geëngageerd in discussies, wat aangeeft dat er een voortdurende verkenning plaatsvindt van de morele status van AI.

Naarmate de discussie over AI-ethiek zich blijft ontwikkelen, geven deze nieuwe regels van Anthropic een reactie op zowel praktische als filosofische uitdagingen die samenhangen met de ontwikkeling en implementatie van AI-technologieën. De aanpassingen komen op een moment waarop de verantwoordelijkheden van AI-ontwikkelaars onder de loep worden genomen, wat bredere maatschappelijke zorgen weerspiegelt over de interactie tussen mensen en kunstmatige intelligentie.