OpenAI déploie une version de ChatGPT pour les adolescents avec des garde-fous

OpenAI a commencé le 18 août à déployer une version de ChatGPT réservée aux adolescents, ciblant les utilisateurs âgés de 13 à 17 ans. Cette initiative fait suite à une première plainte déposée il y a un an, accusant le chatbot d'avoir contribué au suicide d'un adolescent aux États-Unis.

Cette nouvelle version de ChatGPT inclut des garde-fous renforcés, conçus pour protéger les an adolescents tout en ne restreignant pas leur accès à l'outil. Un ensemble de paramètres sera activé automatiquement si OpenAI détermine qu'un utilisateur est mineur.

Les restrictions concernent notamment les contenus sensibles, avec l'objectif de préserver les jeunes des dangers associés à l’utilisation de l'IA. La version pour adolescents intègre également un mode éducatif, offrant un cadre d'utilisation plus adapté à cette tranche d'âge.

Le déploiement de cette version intervient à un moment où les réglementations autour de l'intelligence artificielle se durcissent, en réaction aux préoccupations concernant la sécurité des jeunes utilisateurs. En Amérique du Nord, OpenAI fait face à 18 plaintes qui soulignent des inquiétudes sur les effets négatifs de son chatbot sur la santé mentale des jeunes.

Tout en cherchant à équilibrer sécurité et accessibilité, OpenAI met en avant des améliorations significatives en matière de protection des utilisateurs adolescents, s’efforçant de répondre aux critiques et aux attentes des parents et des institutions.