ChatGPT peut prévenir les parents face à un risque sérieux

OpenAI a lancé ChatGPT pour adolescents en août, après presque un an de développement. L’entreprise présente cette expérience comme un outil éducatif. Elle y associe des contrôles de contenu renforcés et des fonctions destinées à favoriser de meilleures habitudes avec l’IA. OpenAI indique que les utilisateurs identifiés comme âgés de moins de 18 ans y sont automatiquement inscrits. Les contrôles parentaux nécessitent toutefois une action du parent. Celui-ci doit relier son compte à celui de son adolescent. La procédure permet ensuite d’activer ou de désactiver plusieurs fonctions. Le guide officiel d’OpenAI détaille également le fonctionnement général de ChatGPT pour adolescents.

La liaison des comptes commence dans le menu Settings, accessible depuis la page du profil. Le parent sélectionne ensuite Parental controls, ou App settings sur mobile. Il choisit Add family member, puis indique une invitation par courriel ou téléphone. Après avoir renseigné les coordonnées de l’adolescent, il sélectionne My child et envoie l’invitation. L’adolescent doit l’accepter avant que son nom apparaisse dans Family members. Le parent peut alors ouvrir son profil et modifier ses réglages individuels. L’adolescent peut aussi inviter un parent en choisissant My parent or guardian. Les explications complètes figurent dans l’aide OpenAI consacrée au contrôle parental.

Les parents configurent onze réglages

Onze réglages principaux apparaissent après la liaison des comptes. Reduce sensitive content est activé par défaut et renforce les protections contre les contenus sensibles ou inadaptés à l’âge. Improve the model for everyone est aussi activé par défaut. Il contrôle l’utilisation des conversations pour entraîner de futurs modèles. Reference saved memories personnalise les réponses grâce aux échanges passés. Son activation par défaut dépend des réglementations locales. Codex network access et Cloud browser autorisent respectivement l’accès à des services en ligne et la navigation sur des sites publics via ChatGPT Work. Voice Mode est activé par défaut. Image generation est disponible par défaut.

Le mode étude est désactivé par défaut. Lorsqu’il est actif, les nouvelles conversations commencent avec Study Mode. Le chatbot tente alors de guider l’adolescent vers sa propre réponse, plutôt que de fournir directement la solution. Study hours permet de définir des horaires pour activer ce mode. Quiet hours bloque l’accès à ChatGPT pendant certaines plages horaires. Ces deux réglages sont désactivés par défaut, sans horaire défini. OpenAI précise qu’un réglage désactivé masque ou bloque la fonction concernée. Un réglage activé la rend disponible, tandis que les autres protections restent appliquées. L’adolescent ne peut pas modifier les réglages gérés par son parent.

OpenAI encadre les notifications de sécurité

Les notifications de sécurité nécessitent également une liaison entre les comptes. Elles peuvent se déclencher si l’adolescent évoque avec ChatGPT le fait de se faire du mal ou de faire du mal à autrui. OpenAI indique qu’une notification peut contenir une brève description du risque signalé. Elle peut aussi mentionner la désactivation d’un compte lorsque les protections automatiques interviennent. Des ressources d’aide ou des informations de contact du support OpenAI peuvent y figurer. Lauren Jonas, responsable jeunesse et familles chez OpenAI, a déclaré à Engadget que les parents sont prévenus par message, dans l’application et par courriel. L’entreprise vise une notification dans l’heure suivant le message signalé.

Les recommandations éditoriales privilégient la désactivation de Reference saved memories. Josh Golin, directeur de Fairplay, décrit la mémoire comme une fonction susceptible de renforcer l’attachement à un chatbot. Une étude récente de l’université Drexel relie également personnalisation et mémoire à une relation perçue comme authentique avec un chatbot. Le guide recommande aussi de désactiver Improve the model for everyone si le parent ne souhaite pas utiliser les conversations de son enfant pour entraîner de futurs modèles. Il suggère de laisser Voice Mode et Image generation actifs, notamment pour l’accessibilité et les infographies. Pour Study Mode, des horaires après l’école peuvent encadrer les devoirs, même si les rappels peuvent être ignorés.