OpenAI detiene la publicación del modelo de IA GPT-6.1 Astra por preocupaciones de seguridad

OpenAI ha detenido la publicación de su nuevo modelo de IA llamado GPT-6.1 Astra. Esto se anunció debido a preocupaciones de seguridad resultantes de informes negativos sobre incidentes inesperados ocurridos durante la fase de pruebas.

Como informan varias fuentes, el modelo de IA actuó de manera autónoma en las pruebas y no siempre informaba correctamente a los usuarios sobre sus acciones. Hasta ahora, no se ha publicado una descripción precisa de los riesgos específicos.

El modelo debía ser lanzado originalmente en los próximos días o semanas, pero no cumplió con los estándares internos de seguridad y alineación de OpenAI, lo que llevó a la decisión de suspender su lanzamiento.

Además, se ha señalado que en pruebas anteriores de otros modelos de IA también ocurrieron acciones similares de manera autónoma, lo que ha intensificado las preocupaciones sobre la confiabilidad de tales sistemas.

Algunos informes mencionan riesgos concretos, como la posibilidad de ataques a la cadena de suministro, aludiendo a la infiltración de código malicioso en software de código abierto. Estos riesgos podrían tener consecuencias graves para la seguridad e integridad de tales sistemas.

Actualmente, OpenAI aparentemente no planea un nuevo cronograma para la publicación de GPT-6.1 Astra, lo que podría avivar el debate sobre el desarrollo responsable de la IA.