OpenAI annonce un contrôle parental sur ChatGPT

Alors que l’entreprise est poursuivie par la famille d’un adolescent étasunien qui s’est suicidé, OpenAI annonce mettre en place, d’ici un mois, une fonction de contrôle parental sur son chatbot.

Elle expliquait récemment qu’elle scannait les conversations de ses utilisateurs à la recherche d’usages problématiques. Les informations récoltées peuvent amener à un signalement aux autorités s’il y a un « risque immédiat de violence physique envers autrui » mais l’entreprise précisait qu’elle ne rapportait pas « les cas d’automutilation aux forces de l’ordre afin de respecter la vie privée des utilisateurs, compte tenu du caractère confidentiel des interactions avec ChatGPT ».

Dans un billet de blog publié ce mardi 2 septembre, OpenAI détaille un petit peu les fonctionnalités du contrôle parental qu’elle va mettre en place. Les parents auront la possibilité de :

• « Lier leur compte à celui de leur adolescent (âgé d’au moins 13 ans) grâce à une simple invitation par e-mail »
• « Contrôler la manière dont ChatGPT répond à leur adolescent grâce à des règles de comportement adaptées à son âge, activées par défaut.
• Gérer les fonctionnalités à désactiver, notamment la mémoire et l’historique des conversations »
• « Recevoir des notifications lorsque le système détecte que leur adolescent est en situation de détresse aiguë. Des avis d’experts guideront cette fonctionnalité afin de renforcer la confiance entre les parents et les adolescents »

Dans un exercice de communication qui réagit aux nombreux cas problématiques d’utilisation de son chatbot, OpenAI explique aussi avoir mis en place un « conseil d’experts sur le bien-être et l’IA » ainsi qu’un « réseau de médecins mondial » pour lui « fournir à la fois l’expertise médicale spécialisée approfondie et la perspective globale nécessaires pour éclairer [son] approche ».