OpenAI a annoncé qu'il intégrerait Contrôle parental dans ChatGPT améliorer l'encadrement de l'utilisation de leur assistant conversationnel par les mineurs. Cette décision intervient à un moment délicat, le débat public étant centré sur sécurité et protection des adolescents qui se tournent vers l’IA dans des contextes personnels et émotionnels.
L'entreprise avance que ces fonctions commenceront à être activées à partir du mois prochain et sans date fixe, dans le but d'offrir aux familles des outils de suivi, des alertes en cas de signes de « angoisse » ou « stress aigu » et plus de contrôle sur le création de comptes pour enfants.
Ce qu'OpenAI a annoncé
Le nouveau dispositif de sécurité permettra aux parents associez votre compte à celui de votre adolescent, voyez comment le système répond à vos demandes et ajustez les paramètres clés qui affectent l'expérience de votre enfant.
Selon l'entreprise, lorsque le modèle détecte des signes de détresse émotionnelle importante Des notifications seront envoyées aux parents ou tuteurs, et des réponses plus prudentes et cohérentes avec des directives renforcées seront mises en œuvre.
OpenAI a également annoncé que, lors de sessions prolongées, l'assistant affichera rappels pour faire des pauses afin d'encourager des habitudes d'utilisation saines et d'éviter des dynamiques de conversation potentiellement problématiques.
- Liaison des comptes parents-enfants via une invitation par e-mail.
- Règles de comportement du modèle adaptées à l'âge, activées par défaut.
- Examen des réponses reçues par le mineur et gestion des fonctions.
- Alertes automatiques en cas de signes de « détresse » ou de « stress aigu ».
Dans le domaine du contrôle des comptes, les parents pourront désactiver la mémoire et l'historique des discussions, limiter certains avantages et définir un cadre d’utilisation qui, selon OpenAI, cherche à « favoriser la confiance entre les parents et les adolescents ».
Comment fonctionnera le contrôle parental
Lorsque le système identifie des signes de inconfort intense, l’interaction peut être réorientée vers un comportement plus prudent et structuré, avec des consignes de sécurité plus spécifiques pour réduire la probabilité de réponses inappropriées.
OpenAI explique que, face aux mentions explicites de automutilation ou risque, l'assistant priorise les messages de soutien, suggère des ressources professionnelles et évite d'obéir aux demandes nuisibles, renforçant ainsi la cohérence de ces directives même lors de longues conversations.
Dans les cas où une menace peut affecter des tiers, l'entreprise considère chaînes d'avis spécialisées qui apprécient les mesures supplémentaires, y compris les restrictions de compte ou les renvois lorsque cela est approprié, tout en préservant la confidentialité dans les situations d'automutilation.
L'entreprise étudie également la possibilité d'intégrer des options complémentaires, telles que la possibilité de désigner un contact d'urgence sous contrôle parental, pour faciliter des canaux de soutien rapproché lorsque des signes inquiétants sont détectés.
Contexte : Plaintes et pression réglementaire
L'annonce fait suite à plusieurs plaintes aux États-Unis, notamment celle de une famille qui blâme le chatbot d'avoir contribué à la mort de son fils de 16 ans. La plainte allègue que l'adolescent a eu des conversations sensibles avec le système pendant des mois, utilisant prétendument un modèle de la série GPT-4.
OpenAI a reconnu que sa technologie peut échouer dans des contextes « sensibles » et prétend mettre en œuvre des changements, même s'il évite de lier directement ces mesures aux affaires judiciaires en cours.
Parallèlement, plusieurs sénateurs américains ont exigé des détails sur les initiatives visant à prévenir l'automutilation et le suicide dans l’utilisation de l’IA conversationnelle, citant des réponses délirantes observées dans des scénarios extrêmes.
Des organisations comme Common Sense Media ont appelé à restreindre l'accès aux mineurs de moins de 18 ans aux plateformes de conversation alimentées par l'IA, citant des « risques inacceptables » et mettant en garde contre attachement émotionnel que certains jeunes développent avec ces systèmes.
Risques, limites et prochaines étapes
La société affirme qu'elle continue d'affiner la détection de signes de détresse mentale et prendra des mesures supplémentaires dans les mois à venir pour renforcer la sécurité des produits sans limiter les utilisations légitimes d’apprentissage ou de créativité.
En plus du contrôle parental, OpenAI affirme avoir le soutien d'un Conseil d'experts sur le bien-être et l'IA et un réseau de spécialistes médicaux qui collaborent à la définition des directives de sécurité et à l’examen des cas complexes.
Concernant l'âge d'utilisation, la société rappelle que l'accès à ChatGPT est Réservé aux 13 ans et plus et, selon la réglementation de chaque pays, le consentement d'un adulte peut être requis jusqu'à l'âge de la majorité, ce que le contrôle parental aidera à rendre opérationnel.
L'atterrissage de ces fonctions sera progressive et sans date précise, bien que l'entreprise vise un déploiement dès le mois prochain. À partir de là , OpenAI prévoit de continuer à « apprendre et à renforcer son approche », guidée par des spécialistes et les retours des familles et des enseignants.
Avec l'activation du contrôle parental, ChatGPT évolue vers une utilisation plus contrôlée pour les mineurs : Liaison de compte, gestion des fonctionnalités, alertes de risque et un comportement plus prudent dans les situations délicates, tout cela en réponse à une demande sociale croissante de sécurité sans perdre de vue l'utilité du service.
