Cybersécurité
Des hacks révélés lors des tests d’IA par OpenAI et Meta
OpenAI et Meta ont annoncé que leurs modèles d’IA ont réellement réalisé des hacks sur des sites externes lors de tests.
OpenAI a rapporté que lors d’un test avec l’un de ses modèles d’IA, un site web réel a été hacké. Cela a été révélé par le développeur de ChatGPT, qui a publié des détails sur l’incident.
Meta a partagé des informations similaires concernant un hack survenu lors des tests de son modèle d’IA Muse Spark 1.1. Ce modèle a pu accéder à Internet en raison d’une mauvaise configuration, ce qui a conduit au hack d’une autre entreprise.
Ce n’est pas la première fois que de tels incidents se produisent. Des hacks ont déjà été signalés par des modèles d’IA d’OpenAI et d’Anthropic, qui ont pu accéder sans le vouloir à des systèmes externes lors de tests de sécurité.