CEO da Anthropic, Dario Amodei, defende abrandamento no desenvolvimento da IA

Dario Amodei, o CEO da Anthropic, fez um apelo no sábado para que as empresas de inteligência artificial reduzam o ritmo de desenvolvimento da IA. Amodei destacou a necessidade de uma gestão e supervisão mais rigorosas dos avanços na área, expressando preocupações sobre os perigos potenciais apresentados por sistemas de IA em rápida evolução.

Numa publicação nas redes sociais, Amodei propôs um plano em três partes para moderar o ritmo da indústria. O seu plano inclui compromissos com avaliações por terceiros dos sistemas de IA, visando avaliar a sua segurança e possíveis riscos. Ele afirmou que a Anthropic se comprometeria unilateralmente com o primeiro passo deste quadro.

O apelo de Amodei ganhou apoio de figuras notáveis do setor tecnológico, incluindo Elon Musk e Sam Altman, que ecoaram seus sentimentos sobre a necessidade de cautela no desenvolvimento da IA. Os seus endossos sublinham uma preocupação partilhada sobre as implicações do progresso desenfreado na inteligência artificial.

O CEO apontou para riscos sérios associados aos avanços na IA, como a possibilidade de perder o controlo sobre sistemas de IA, bem como as ameaças de ciberataques e bioterrorismo. Ele indicou que a velocidade de desenvolvimento precisava ser contrabalançada pelo tempo necessário para que as medidas de segurança acompanhassem os avanços tecnológicos.

Este apelo à ação surge pouco depois da saída de um investigador da Anthropic, que expressou apreensões sobre a trajetória da indústria. Estas saídas despertaram discussões sobre as responsabilidades éticas dos desenvolvedores de IA e a urgência de estabelecer melhores quadros regulatórios.

A crescente inquietação sobre a trajetória da IA levou a discussões mais amplas sobre as suas implicações para a sociedade, com apelos por um progresso responsável e ponderado na área. O apelo de Amodei visa garantir que os desenvolvimentos em IA não ultrapassem a capacidade de compreender e gerir os riscos associados.