OpenAI si prepara a rilasciare il modello Astra con capacità critiche di cybersecurity

OpenAI ha confermato che il suo ultimo modello di intelligenza artificiale, Astra, ha raggiunto un livello 'Critico' nelle sue capacità di cybersecurity secondo il Preparedness Framework dell'azienda. Questo segna una pietra miliare significativa per l'organizzazione poiché Astra è descritto come il primo modello a ottenere questa classificazione, indicante abilità avanzate nell'identificare vulnerabilità e sviluppare exploit in sistemi sicuri senza guida umana.

L'azienda prevede di rendere Astra disponibile a breve, ma l'accesso alle sue capacità avanzate di cybersecurity sarà inizialmente limitato. OpenAI ha comunicato di implementare diverse precauzioni per affrontare i potenziali rischi associati alle capacità del modello, che hanno sollevato preoccupazioni nella comunità della cybersecurity riguardo al potenziale abuso dell'IA in attività di hacking.

Secondo vari rapporti, Astra ha dimostrato di poter trovare autonomamente vulnerabilità sconosciute e può costruire catene di exploit durante i test interni. OpenAI sta adottando misure per migliorare la propria infrastruttura di formazione e controllare il rilascio di queste funzionalità in risposta alle valutazioni critiche del modello.

In vista delle sue capacità, OpenAI ha deciso di rallentare alcune fasi dello sviluppo di Astra. L'organizzazione mira a garantire che siano in atto robusti sistemi di protezione per mitigare i rischi associati al dispiegamento del modello, riconoscendo il crescente esame della sicurezza delle tecnologie IA.

Multiple fonti hanno sottolineato che le capacità di Astra potrebbero presentare nuove sfide per la cybersecurity. Nonostante il potenziale di queste innovazioni di migliorare i sistemi di sicurezza, gli esperti sono cauti su come tale potere potrebbe essere abusato se non adeguatamente controllato. L'impegno di OpenAI per la sicurezza include l'introduzione di ulteriori barriere per prevenire abusi nella sua strategia di rilascio.

Come parte del lancio, ci si aspetta che OpenAI fornisca informazioni dettagliate sul grado di accesso e sulla natura delle restrizioni imposte sulle funzionalità avanzate di Astra. L'approccio dell'azienda sottolinea una risposta cauta alle implicazioni del dispiegamento di un modello con capacità di cybersecurity così significative.