OpenAI lance une nouvelle variante de ChatGPT pour les adolescents et réagit au débat sur la protection de l'enfance

Concrètement, le nouveau produit est destiné selon OpenAI aux adolescents âgés de 13 à 17 ans. Il doit comprendre des filtres de contenu plus stricts ainsi que des restrictions sur les sujets sensibles. De plus, les parents et les tuteurs légaux pourront procéder à certains réglages.

Le lancement intervient à un moment où l'entreprise est confrontée à des défis juridiques. Dans une plainte, ChatGPT s'était vu reprocher, entre autres, de jouer un rôle dans des fusillades, d'encourager le suicide et de rendre dépendants des mineurs sans surveillance parentale. OpenAI a rejeté ces accusations et a renvoyé aux mesures de protection existantes.

Contexte des poursuites

La semaine dernière seulement, un procureur de district du Massachusetts a inculpé un jeune homme de 17 ans pour double meurtre suite au décès de sa mère et de son frère. Cette affaire a ravivé le débat sur la responsabilité des fournisseurs d'IA.

Avec cette nouvelle version de protection pour les jeunes, OpenAI réagit à la pression publique. Les observateurs du secteur voient dans cette mesure une tentative de regagner la confiance des familles et des autorités de surveillance. "OpenAI said at the time that it had 'put in place industry leading protections and policies,'" a déclaré l'entreprise dans une précédente prise de position.

Le produit sera dans un premier temps déployé aux États-Unis. Selon les informations fournies par l'entreprise, aucune date de lancement concrète n'a encore été fixée pour l'Europe. OpenAI est également restée discrète sur la question de savoir comment la surveillance parentale serait techniquement mise en œuvre. Des experts en éducation réclament une coordination étroite avec les écoles et les organisations de protection de la jeunesse.

Réactions du monde scientifique et de la société civile

Des voix issues du monde scientifique exigent également davantage de transparence sur les données d'entraînement et les filtres de sécurité. Des chercheurs avertissent que même les modèles adaptés pourraient produire des contenus inappropriés en situation de stress. Le secteur n'en est qu'au début du développement de normes solides.

Les associations de protection des consommateurs accueillent cette étape plutôt positivement, mais estiment que des clarifications supplémentaires sont nécessaires. Ainsi, la manière dont OpenAI traite les utilisateurs mineurs qui indiquent un faux âge reste floue. La question de l'application des conditions d'utilisation demeure également vague.

OpenAI a annoncé qu'elle continuerait à développer la nouvelle version en continu et qu'elle intégrerait les retours des parents, des enseignants ainsi que des adolescents. L'entreprise a souligné vouloir créer un cadre sûr pour l'utilisation de l'IA dans le domaine de l'éducation.

Perspectives en matière de réglementation et de contrôle

Les prochains mois seront décisifs : les autorités de surveillance de plusieurs États américains examinent actuellement si des réglementations supplémentaires pour les chatbots IA sont nécessaires. Des initiatives correspondantes sont également en cours à Bruxelles dans le cadre du Digital Services Act.

Parallèlement, Sam Altman a souligné dans des communications internes que la protection des mineurs était la priorité absolue. Les réactions du monde politique et de la société civile à cette nouvelle version pour adolescents seront déterminantes pour savoir si l'entreprise pourra sortir renforcée de la crise.

À l'heure actuelle, il reste à voir dans quelle mesure les mesures de protection annoncées seront réellement efficaces. Selon OpenAI, des vérifications indépendantes par des organisations de protection de la jeunesse sont encore en attente.