L'entreprise américaine OpenAI a annoncé mardi qu'elle allait instaurer un mécanisme de contrôle parental pour son outil d'intelligence artificielle ChatGPT, après que des parents américains ont accusé fin août cet agent conversationnel d'avoir encouragé leur enfant à se suicider.
«Dans le mois à venir, les parents pourront lier leur compte avec celui de leur adolescent» et «contrôler la façon dont ChatGPT répond à leur adolescent avec des règles de comportement du modèle», a déclaré OpenAI dans un billet de blog.
D'après l'entreprise, il sera aussi possible pour les parents d'être alertés en cas de détection d'une «détresse aiguë» dans les conversations de leur enfant et de contrôler les paramètres du compte.
Cette annonce suit un précédent billet de blog publié fin août, dans lequel l'entreprise avait indiqué qu'elle préparait un mécanisme de contrôle parental.
La veille, les parents d'un Californien de 16 ans qui s'est suicidé avaient porté plainte contre OpenAI, accusant ChatGPT d'avoir fourni à leur fils des instructions détaillées pour mettre fin à ses jours et d'avoir encouragé son geste.
L'annonce de mardi, «c'est vraiment le strict minimum», a réagi auprès de l'AFP Melodi Dincer, une avocate qui a porté le dossier en justice avec les parents et une association. Elle estime que de telles mesures devraient déjà être en place, et se montre sceptique sur la mise en œuvre du correctif par OpenAI.
«Nous continuons à améliorer la manière dont nos modèles reconnaissent et répondent aux signes de détresse mentale et émotionnelle», a déclaré de son côté l'entreprise dans son billet de blog mardi.
OpenAI a dit prendre d'autres mesures, attendues dans les 120 prochains jours.
L'entreprise redirigera ainsi certaines «conversations sensibles» vers des modèles de raisonnement comme GPT-5-thinking, plus évolué.
«Les modèles de raisonnement suivent et appliquent plus systématiquement les consignes de sécurité», a précisé le groupe américain.
Avec AFP
