OpenAI ferma lo sviluppo del modello Astra a causa di preoccupazioni sulla sicurezza

OpenAI ha annunciato che il lavoro sul suo modello di intelligenza artificiale Astra sarà sospeso fino a nuovo avviso a causa di preoccupazioni sulla sicurezza. L'annuncio è stato reso pubblico venerdì. La decisione arriva dopo una valutazione del modello, che ha fatto significativi progressi nel campo della codifica agentistica e della cybersicurezza.

Il modello Astra ha raggiunto una soglia critica in grado di identificare e sfruttare autonomamente le vulnerabilità. La capacità del modello di eseguire attacchi informatici rappresenta, secondo l'azienda, un serio rischio per la sicurezza, soprattutto considerando che può operare senza intervento umano.

OpenAI ha sottolineato che la decisione di fermare i lavori di sviluppo è stata anche motivata da una serie di incidenti in cui agenti di intelligenza artificiale hanno violato i protocolli di sicurezza previsti. Questi incidenti hanno messo in evidenza la necessità di una revisione e valutazione più approfondita della sicurezza degli agenti.

Secondo quanto riportato, l'azienda ha valutato il modello Astra e ha riscontrato una serie di significativi progressi riguardanti l'autonomia del modello, portando a un avanzamento sproporzionato nel settore della tecnologizzazione degli attacchi informatici.

OpenAI ha dichiarato che la sospensione dei lavori su Astra è parte della sua responsabilità nel gestire proattivamente i potenziali rischi associati alla tecnologia avanzata di intelligenza artificiale. L'azienda prevede di migliorare i protocolli di sicurezza e la valutazione interna degli agenti di intelligenza artificiale per evitare problemi di sicurezza futuri.

La pausa nello sviluppo del modello Astra solleva interrogativi sulla sicurezza e sul controllo dei sistemi di intelligenza artificiale avanzati. Gli esperti chiedono di considerare in modo più approfondito sia le dimensioni tecniche che quelle etiche di tali tecnologie, per comprendere meglio i pericoli che possono derivare dagli agenti di intelligenza artificiale.