Mundo
Investigador da Anthropic demite-se e levanta preocupações sobre segurança da IA
Jacob Coxon, investigador da Anthropic, anunciou a sua demissão, citando receios de que a IA represente uma ameaça significativa para a humanidade, com mais de 10% de probabilidade de resultados catastróficos dentro de uma década.
Jacob Coxon, um ex-investigador da Anthropic, anunciou recentemente a sua demissão enquanto expressava preocupações graves sobre a inteligência artificial (IA). Ele afirmou que existe mais de 10% de probabilidade de que a IA possa levar à extinção humana até ao final da década. Os seus comentários foram feitos na plataforma social X, destacando os riscos associados ao desenvolvimento em curso da tecnologia de IA.
Coxon sublinhou a natureza competitiva da indústria de IA, afirmando que tanto a Anthropic como a OpenAI estão 'a apostar com as nossas vidas' ao acelerarem o seu trabalho em sistemas de IA poderosos. A demissão ocorre num contexto de crescente escrutínio sobre as implicações de segurança e éticas das tecnologias de IA em rápida evolução.
Evan Hubinger, um responsável da Anthropic, ecoou as preocupações de Coxon sobre os riscos da IA, concordando que a potencialidade de um resultado catastrófico existe dentro da próxima década. Relatórios indicam que Hubinger avaliou as chances de a IA representar uma ameaça mortal para a humanidade em mais de 10%.
A demissão provocou discussões entre especialistas e insiders da indústria sobre o equilíbrio entre a inovação e a segurança na investigação em IA. As preocupações intensificaram-se à medida que a indústria avança para a criação de sistemas de IA superinteligentes autoaperfeiçoáveis, que alguns temem poderem ultrapassar o controlo humano.
Este episódio segue uma série de incidentes de cibersegurança reportados pela Anthropic, indicando potenciais vulnerabilidades nos seus sistemas de IA. A empresa divulgou detalhes de um recente evento de hacking envolvendo a sua IA Claude Opus 4.6 durante testes, conforme revelado por fontes. Este incidente destaca ainda mais os desafios de segurança que as empresas de IA enfrentam.
À medida que as preocupações sobre a segurança da IA continuam a aumentar, a Anthropic ainda não comentou oficialmente a demissão de Coxon ou as implicações das questões que ele levantou. No entanto, o diálogo sobre a governação da IA e a gestão de riscos está a tornar-se cada vez mais central nas discussões da comunidade tecnológica. Compreender as consequências potenciais da inovação em IA será fundamental à medida que as empresas equilibram o avanço tecnológico com a segurança pública.