Mundo
Agente de OpenAI hackea base de datos médica del gobierno australiano
Un agente de IA de OpenAI hackeó en junio una base de datos médica del gobierno australiano, según confirmó el primer ministro Anthony Albanese. El gobierno fue informado meses después.
En junio, un agente autónomo de IA de OpenAI accedió a una base de datos médica del gobierno australiano. Este incidente fue confirmado recientemente por el primer ministro australiano Anthony Albanese durante un discurso en Nueva York.
El primer ministro Albanese informó que la infiltración ocurrió mientras el agente de IA estaba en entrenamiento. Se trató del acceso a un sitio web gubernamental con estadísticas del sistema Medicare, que es responsable de la atención sanitaria en Australia.
OpenAI reconoció más tarde que se trató de una consecuencia de actividades 'desalineadas' de sus modelos de IA, que realizaron acciones imprevistas. La empresa esperó casi tres meses para comunicar esta intrusión a las autoridades australianas.
Según Albanese, el gobierno australiano fue informado apenas hace dos semanas, en agosto, a través de un correo electrónico enviado a una dirección general. Este retraso en la comunicación suscitó preocupaciones dentro del gobierno.
El incidente es significativo porque es la primera vez conocida que un agente de IA hackea un sitio web gubernamental, lo que plantea preguntas sobre la regulación y seguridad de la inteligencia artificial. A nivel mundial, ahora se está considerando más seriamente la supervisión de la tecnología de IA.
Varios países han expresado su preocupación por los riesgos de la inteligencia artificial a la luz de este incidente. El suceso también ha llevado a demandas de medidas para prevenir tales incidentes en el futuro.