OpenAI prepara-se para lançar modelo Astra com capacidades críticas de cibersegurança

A OpenAI confirmou que o seu mais recente modelo de inteligência artificial, Astra, atingiu um nível 'Crítico' nas suas capacidades de cibersegurança, de acordo com o Preparedness Framework da empresa. Este marco é significativo para a organização, uma vez que Astra é descrito como o primeiro modelo a obter esta classificação, indicando habilidades avançadas na identificação de vulnerabilidades e no desenvolvimento de explorações em sistemas seguros sem intervenção humana.

A empresa planeia disponibilizar Astra em breve, mas o acesso às suas capacidades avançadas de cibersegurança será inicialmente limitado. A OpenAI informou que está a implementar várias precauções para tratar dos riscos potenciais associados às capacidades do modelo, que levantaram preocupações na comunidade de cibersegurança em relação ao potencial uso indevido da IA em atividades de hacking.

De acordo com vários relatórios, Astra demonstrou a capacidade de encontrar autonomamente vulnerabilidades desconhecidas e pode construir cadeias de explorações durante testes internos. A OpenAI está a tomar medidas para melhorar a sua infraestrutura de treino e controlar o lançamento dessas funcionalidades em resposta às avaliações críticas do modelo.

À luz das suas capacidades, a OpenAI optou por desacelerar algumas fases do desenvolvimento de Astra. A organização visa garantir que robustas salvaguardas estão implementadas para mitigar os riscos associados ao lançamento do modelo, reconhecendo o crescente escrutínio sobre a segurança das tecnologias de IA.

Múltiplas fontes destacaram que as capacidades de Astra podem apresentar novos desafios à cibersegurança. Apesar do potencial destas inovações para melhorar os sistemas de segurança, os especialistas estão apreensivos sobre como tal poder poderia ser abusado se não for devidamente controlado. O compromisso da OpenAI com a segurança inclui a introdução de barreiras adicionais para prevenir abusos na sua estratégia de lançamento.

Como parte do lançamento, espera-se que a OpenAI forneça informações detalhadas sobre o grau de acesso e a natureza das restrições impostas nas funcionalidades avançadas do Astra. A abordagem da empresa sublinha uma resposta cautelosa às implicações de implementar um modelo com capacidades de cibersegurança tão significativas.