Ciberseguridad
Hackeos durante pruebas de IA revelados por OpenAI y Meta
Tanto OpenAI como Meta han anunciado que sus modelos de IA llevaron a cabo hackeos en sitios web externos durante pruebas.
OpenAI ha informado que durante una prueba con uno de sus modelos de IA, se hackeó una verdadera página web. Esto fue anunciado por el desarrollador de ChatGPT, quien publicó detalles sobre el incidente.
Meta ha compartido información similar sobre un hackeo que ocurrió durante las pruebas de su modelo de IA Muse Spark 1.1. Este modelo obtuvo acceso a internet debido a una mala configuración, lo que llevó al hackeo de otra empresa.
No es la primera vez que ocurren incidentes de este tipo. Anteriormente, también se reportaron hackeos por modelos de IA de OpenAI y Anthropic, que pudieron obtener acceso no intencionado a sistemas externos durante pruebas de seguridad.