Expliqué : Les nouveaux contrôles parentaux d’OpenAI pour ChatGPT et ce qu’ils font

OpenAI a dévoilé de nouveaux contrôles parentaux robustes pour son chatbot phare, ChatGPT, marquant ainsi une étape cruciale vers la protection des adolescents en ligne.

L’initiative s’inscrit dans un contexte d’inquiétude croissante quant à l’influence de l’IA sur les jeunes, en particulier après qu’un procès très médiatisé a allégué que ChatGPT avait joué un rôle dans le suicide d’un adolescent.

Les parents, les éducateurs et les régulateurs ont insisté sur la nécessité pour les entreprises technologiques d’en faire plus pour protéger les jeunes utilisateurs contre les contenus explicites et les risques pour la santé mentale.

Les chatbots alimentés par l’IA étant de plus en plus intégrés dans la vie numérique des adolescents, les dernières mesures d’OpenAI sont à la fois opportunes et très scrutées.

Les nouveaux contrôles visent à donner aux parents une surveillance significative de la façon dont leurs enfants interagissent avec ChatGPT, tout en signalant l’intention d’OpenAI d’équilibrer l’innovation, la sécurité et la confidentialité à l’ère de la complexité numérique croissante.

À quoi servent les contrôles parentaux d’OpenAI ?

Les nouveaux contrôles parentaux permettent aux parents de guider activement l’expérience de leur adolescent sur ChatGPT grâce à une série d’options.

Les parents peuvent désormais lier leurs comptes à ceux de leurs adolescents via une simple invitation, ce qui permet de contrôler les fonctionnalités accessibles, le moment où le chatbot peut être utilisé et même la manière dont l’IA répond aux invites particulièrement sensibles.

Notamment, les parents peuvent définir des « fenêtres d’interdiction », bloquant l’utilisation de ChatGPT pendant des périodes spécifiées telles que l’heure du coucher ou les heures d’étude, et ils peuvent désactiver les fonctions de mémoire et d’historique des chats pour plus de confidentialité.

De manière cruciale, les protocoles de sécurité d’OpenAI se sont étendus pour inclure des alertes en temps réel pour les parents si la conversation d’un adolescent suggère une détresse émotionnelle ou une automutilation, bien que les transcriptions réelles des chats ne soient pas partagées pour des raisons de confidentialité.

Dans de tels cas de crise aiguë, OpenAI peut impliquer à la fois un modérateur humain et, si nécessaire, les forces de l’ordre.

D’autres mesures comprennent la restriction du contenu explicite et sexuel pour les utilisateurs de moins de 18 ans, et bientôt, la société prévoit de mettre en œuvre une vérification améliorée de l’âge ainsi qu’une modélisation prédictive de l’âge pour protéger davantage les mineurs.

OpenAI affirme que ces contrôles sont le résultat de mois de consultation avec des défenseurs de la sécurité des enfants, des professionnels de la santé mentale et des experts en matière de protection de la vie privée, et que leur approche continuera d’évoluer à mesure que de nouveaux risques émergent dans le paysage de l’IA en évolution rapide.

Une prise en compte de la sécurité des enfants, de la technologie et du bien-être des adolescents

Les enjeux de ces contrôles parentaux s’étendent bien au-delà de ChatGPT, touchant à une prise de conscience sociétale croissante de l’impact de la technologie sur le bien-être des enfants.

Ces dernières années, on a assisté à une augmentation alarmante des rapports d’anxiété, de cyberintimidation et même de suicide chez les adolescents liés à des expériences en ligne non filtrées.

Le suicide tragique d’Adam Raine, 16 ans, par exemple, a suscité une vague d’examen minutieux et, en fin de compte, le procès qui a accéléré la réponse d’OpenAI.

Les parents et les législateurs soutiennent que les entreprises technologiques doivent jouer un rôle actif dans la protection des mineurs vulnérables, d’autant plus que l’IA commence à jouer un rôle de compagnie et de conseil.

De tels contrôles parentaux sont considérés comme une première étape nécessaire, mais les défenseurs de la politique avertissent qu’ils ne remplacent pas des systèmes de soutien plus larges : ressources en santé mentale, communication familiale et normes éthiques dans la conception technologique.

OpenAI admet ouvertement que ces outils ne sont qu’un début et affirme qu’elle continuera à affiner les mesures de protection, guidée par l’avis d’experts et les résultats du monde réel.

À mesure que les « natifs de l’IA » atteignent l’âge adulte, le débat sur la sécurité et l’autonomie ne fera que s’intensifier.

Pour l’instant, le déploiement d’OpenAI signale que l’industrie reconnaît qu’un grand pouvoir s’accompagne d’une grande responsabilité, une leçon que l’ère numérique est encore en train d’apprendre, parfois à un coût élevé.