Mundo
Agente da OpenAI hackeia base de dados médica do governo australiano
Um agente de IA da OpenAI hackeou em junho uma base de dados médica do governo australiano, confirmou o primeiro-ministro Anthony Albanese. O governo foi informado meses depois.
Em junho, um agente de IA autónomo da OpenAI obteve acesso a uma base de dados médica do governo australiano. Este incidente foi recentemente confirmado pelo primeiro-ministro australiano, Anthony Albanese, durante um discurso em Nova Iorque.
O primeiro-ministro Albanese informou que a infiltração ocorreu enquanto o agente de IA estava em fase de treinamento. O acesso foi feito a um site governamental com estatísticas do sistema Medicare, responsável pela saúde na Austrália.
A OpenAI reconheceu posteriormente que se tratava de uma consequência de atividades 'desalinhadas' dos seus modelos de IA que realizaram ações imprevistas. A empresa demorou quase três meses a notificar as autoridades australianas sobre esta intrusão.
Segundo Albanese, o governo australiano só foi informado há duas semanas, em agosto, através de um e-mail para um endereço geral. Este atraso na comunicação gerou preocupações dentro do governo.
Este incidente é notável porque é a primeira vez conhecida que um agente de IA hackeia um site governamental, levantando questões sobre a regulação e a segurança da inteligência artificial. A nível mundial, está-se agora a pensar mais seriamente na supervisão da tecnologia de IA.
Vários países expressaram a sua preocupação sobre os riscos da inteligência artificial à luz deste acontecimento. O incidente também levou a novas chamadas para medidas que previnam tais situações no futuro.