Monde
Le PDG d'Anthropic, Dario Amodei, plaide pour un ralentissement du développement de l'IA
Dario Amodei, PDG d'Anthropic, a demandé un ralentissement du développement de l'intelligence artificielle, en raison des risques importants associés aux avancées rapides.
.jpg){kind=link}
Dario Amodei, le PDG d'Anthropic, a lancé un appel samedi aux entreprises d'intelligence artificielle pour réduire le rythme de développement de l'IA. Amodei a souligné la nécessité d'une gestion et d'une supervision plus rigoureuses des avancées dans ce domaine, exprimant des inquiétudes quant aux dangers potentiels posés par l'évolution rapide des systèmes d'IA.
Dans un post sur les réseaux sociaux, Amodei a proposé un plan en trois parties pour modérer le rythme de l'industrie. Son plan comprend des engagements envers des évaluations par des tiers des systèmes d'IA, visant à évaluer leur sécurité et leurs risques potentiels. Il a déclaré qu'Anthropic s'engagerait unilatéralement à la première étape de ce cadre.
L'appel d'Amodei a recueilli le soutien de figures notables du secteur technologique, notamment Elon Musk et Sam Altman, qui ont partagé ses sentiments concernant la nécessité de prudence dans le développement de l'IA. Leurs endorsements soulignent une préoccupation commune concernant les implications d'un progrès incontrôlé dans l'intelligence artificielle.
Le PDG a indiqué qu'il existe de sérieux risques associés aux avancées de l'IA, comme la possibilité de perdre le contrôle des systèmes d'IA, ainsi que les menaces de cyberattaques et de bioterrorisme. Il a indiqué que la vitesse de développement devait être contrebalancée par le temps nécessaire pour que les mesures de sécurité puissent suivre les avancées technologiques.
Cet appel à l'action survient peu après le départ d'un chercheur d'Anthropic, qui a exprimé des inquiétudes quant à la trajectoire de l'industrie. De tels départs ont suscité des discussions sur les responsabilités éthiques des développeurs d'IA et l'urgence d'établir de meilleurs cadres réglementaires.
L'inquiétude croissante concernant la trajectoire de l'IA a conduit à des discussions plus larges sur ses implications pour la société, avec des appels à un progrès responsable et mesuré dans le domaine. L'appel à l'action d'Amodei vise à garantir que les développements de l'IA ne dépassent pas la capacité à comprendre et à gérer les risques associés.