OpenAI confie vos conversations ChatGPT à des évaluateurs

Des centaines d’évaluateurs OpenAI emploie des centaines de prestataires contractuels qui lisent des conversations réelles de ChatGPT pour améliorer les réponses du chatbot, selon une enquête de 404 Media. Les évaluateurs attribuent une note comprise entre un et sept à chaque réponse examinée. Leur mission comprend aussi la réduction de la flatterie excessive et des comportements trop humains dans les réponses du modèle. Un évaluateur a déclaré ne pas penser que les utilisateurs savaient que des personnes lisaient leurs échanges. Les conversations examinées sont anonymisées, mais elles peuvent encore contenir des données personnelles sensibles. L’enquête de 404 Media détaille ce dispositif.

Des prestataires spécialisés Les travailleurs sont recrutés par Crossing Hurdles et rémunérés par l’entreprise de formation en IA Mercor, selon 404 Media. Un évaluateur basé en Amérique du Nord a indiqué gagner plus de 50 dollars de l’heure. Les documents internes obtenus par 404 Media décrivent une évaluation structurée des réponses de ChatGPT. OpenAI utilise un filtre de confidentialité pour anonymiser les conversations, mais reconnaît que ce filtre peut commettre des erreurs. Certaines conversations contenaient des demandes explicites d’utilisateurs souhaitant garder leurs échanges privés. La page Data Controls FAQ d’OpenAI indique que du personnel autorisé et des prestataires peuvent consulter des données pour améliorer les performances.

OpenAI encadre l’utilisation des conversations

Un réglage désactivé Les utilisateurs peuvent désactiver l’option « Améliorer le modèle pour tous » afin d’empêcher l’utilisation de leurs conversations pour entraîner les modèles et de limiter leur lecture potentielle par des humains. Ce choix s’applique uniquement aux nouvelles conversations. OpenAI propose aussi un mode de discussion temporaire qui, selon l’entreprise, n’utilise pas les données saisies pour l’entraînement des modèles. La FAQ précise également qu’OpenAI conseille de ne pas entrer d’informations sensibles. Cette information figure dans une page d’aide en ligne depuis au moins 2023, avec des changements limités au fil des années. Le réglage est activé par défaut.

Une information peu visible 404 Media estime que l’avis consacré à l’examen humain est trop discret et trop vague pour expliquer l’ampleur de la pratique. La publication relève aussi que l’intitulé « Améliorer le modèle pour tous » ressemble davantage à une contribution collective qu’à une autorisation de lecture humaine. OpenAI ne répondait pas initialement à la question de 404 Media sur l’information donnée directement aux utilisateurs. Sa FAQ précise toutefois que des personnes autorisées et des prestataires de services peuvent consulter des données. Cette formulation encadre l’accès aux conversations, sans chiffrer le nombre d’échanges examinés ni la fréquence des lectures humaines.

Anthropic et Google utilisent aussi des évaluateurs

Une pratique partagée Anthropic a confirmé à 404 Media employer des évaluateurs humains pour vérifier des réponses de Claude et améliorer ses modèles futurs. Cette revue concerne les utilisateurs ayant activé « Aider à améliorer nos modèles d’IA » dans leurs paramètres de confidentialité. Anthropic anonymise aussi les conversations avant leur examen en retirant des informations de compte, comme les adresses électroniques. Google utilise également des évaluateurs humains et précise, dans Gemini, que des personnes peuvent examiner les discussions enregistrées. Les trois entreprises associent donc la revue humaine à des réglages de confidentialité ou à des informations intégrées dans leurs pages d’aide.