ChatGPT : le réglage pour échapper à la relecture humaine

OpenAI a mis en place un dispositif baptisé "Projet Lily" pour améliorer ses modèles conversationnels. Des centaines de prestataires sont payés pour relire des conversations réelles entre ChatGPT et ses utilisateurs, révèle le site américain 404 Media, une information reprise par BFMTV dimanche 20 septembre. La relecture humaine concerne un service qui revendique plus d'un milliard d'utilisateurs, selon les chiffres cités par la chaîne.

Un filtre censé protéger l'anonymat, mais faillible

Avant d'arriver devant les yeux d'un prestataire, chaque conversation passe par Privacy Filter, un modèle d'IA chargé de masquer les informations personnellement identifiables. OpenAI reconnaît toutefois les limites de cet outil.

« comme tous les modèles, Privacy Filter peut commettre des erreurs », OpenAI, éditeur de ChatGPT.

L'entreprise précise que le filtre peut "surexposer ou sous-exposer certaines informations lorsque le contexte manque", en particulier pour des formulations ou des identifiants peu courants. Dans certains cas, les prestataires accèdent même à des "souvenirs" que l'IA a conservés sur un utilisateur, selon Siècle Digital.

Comment désactiver l'option en quelques clics

Le partage des conversations avec les équipes d'évaluation n'est pas systématique pour tous les comptes. Il est désactivé par défaut sur les offres Enterprise, Business et Éducation, mais activé sur les comptes personnels Free, Plus et Pro, selon Tom's Guide.

Pour couper ce partage, il suffit de cliquer sur son nom en bas à gauche de l'interface ChatGPT, puis d'ouvrir le sous-menu "Gestion des données". Il faut ensuite désactiver l'interrupteur "Améliorer le modèle pour tous", activé par défaut. La procédure est identique sur mobile, via l'icône de profil puis les paramètres de l'application.

Une désactivation qui n'efface pas le passé

Le changement de réglage ne s'applique qu'aux futures conversations. Les échanges déjà passés dans le pipeline d'anonymisation restent potentiellement exploitables par les équipes d'évaluation, précise Tom's Guide. Désactiver l'option n'empêche pas non plus les scans automatisés destinés à repérer des violations des conditions d'utilisation ou des risques de sécurité.

OpenAI travaille par ailleurs sur une fonctionnalité distincte, destinée à renforcer la confidentialité des échanges les plus sensibles.

Baptisée "Locked Chats", elle permettrait de verrouiller certaines conversations derrière un code PIN ou une authentification biométrique, les rendant invisibles dans la barre latérale et la recherche. Cette annonce intervient alors que la sécurité des comptes ChatGPT est déjà scrutée : des chercheurs avaient récemment démontré que des hackers pouvaient accéder à des comptes ChatGPT d'employés d'OpenAI en détournant un modèle concurrent.

Le débat sur la confidentialité des chatbots s'élargit

Le cas ChatGPT s'inscrit dans une interrogation plus large sur ce que les grands modèles de langage font réellement des données saisies par leurs utilisateurs, entre entraînement des modèles, modération et consommation électrique de chaque requête que ces systèmes engendrent. La question de la confiance dans l'IA générative dépasse d'ailleurs ChatGPT : les Wikipédiens français ont voté l'interdiction de l'IA générative pour la rédaction d'articles, invoquant notamment des craintes sur la fiabilité des contenus produits.

En attendant une éventuelle refonte des réglages par défaut, la vigilance reste individuelle : éviter de saisir des données sensibles dans ChatGPT, vérifier régulièrement les paramètres de gestion des données, et garder à l'esprit qu'une conversation supprimée n'est pas nécessairement effacée des systèmes d'OpenAI avant un délai de 30 jours.