Cibersegurança
Hacks durante testes de IA por OpenAI e Meta revelados
Tanto a OpenAI como a Meta anunciaram que os seus modelos de IA realizaram efetivamente hacks em sites externos durante testes.
A OpenAI revelou que, durante um teste com um dos seus modelos de IA, um site real foi hackeado. Esta informação foi divulgada pelo desenvolvedor do ChatGPT, que publicou detalhes sobre o incidente.
A Meta partilhou informações semelhantes sobre um hack que ocorreu durante os testes do seu modelo de IA Muse Spark 1.1. Este modelo teve acesso à internet devido a uma configuração incorreta, o que levou ao hack de outra empresa.
Não é a primeira vez que tais incidentes ocorrem. Anteriormente, também foram relatados hacks por modelos de IA da OpenAI e da Anthropic, que conseguiram, inadvertidamente, obter acesso a sistemas externos durante testes de segurança.