Qui lit ce que vos salariés écrivent dans ChatGPT ?

Ce que vos équipes tapent dans ChatGPT peut être lu par un prestataire payé à l’heure. Pas un filtre automatique : une personne, devant un tableau de bord, qui lit la demande, la résume, compare plusieurs réponses du modèle et leur attribue une note de 1 à 7.

L’information vient d’une enquête de 404 Media publiée le 14 septembre 2026, reprise le lendemain par Tom’s Hardware, TechRepublic et Clubic. Elle décrit un programme interne baptisé « Project Lily ». Des prestataires recrutés par des intermédiaires relisent de vraies conversations d’utilisateurs pour corriger le ton du modèle : trop de complaisance, trop de tournures mécaniques, trop d’emojis.

Rien d’illégal là-dedans, et rien de vraiment caché : la politique de confidentialité d’OpenAI mentionne qu’un nombre limité de personnels autorisés et de prestataires de confiance peuvent accéder au contenu des utilisateurs pour améliorer les performances des modèles, sauf opposition de leur part. Le problème est ailleurs. Presque personne ne l’avait lu, et l’opposition en question n’est pas cochée par défaut partout.

Le réglage, et à qui il s’applique

Tout tient à une option intitulée « Améliorer le modèle pour tout le monde », dans les réglages de ChatGPT, rubrique Contrôles des données. Nous avons consulté la page d’assistance d’OpenAI qui la décrit, mise à jour le 16 septembre 2026 : elle la nomme « Improve the model for everyone » et la situe sous Settings, Data Controls. Un second chemin existe, cocher « Do not train on my content » dans le portail de confidentialité d’OpenAI ; l’un ou l’autre suffit.

La règle par défaut dépend du type de compte. Pour les services destinés aux particuliers, OpenAI écrit que les conversations servent à entraîner les modèles sauf opposition de l’utilisateur. Pour les clients professionnels, la formulation s’inverse : par défaut, l’entreprise n’entraîne pas ses modèles sur les entrées et les sorties de ses produits destinés aux entreprises, et cite nommément ChatGPT Business, ChatGPT Enterprise et l’API. Les reprises de l’enquête ajoutent la formule Edu à cette liste ; la page d’OpenAI ne la mentionne pas.

Trois précisions changent la portée pratique de cette bascule.

La première : la désactivation ne vaut que pour l’avenir. OpenAI l’écrit sans détour, l’opposition ne protège que les nouvelles conversations. Ce qui a déjà été envoyé depuis un compte grand public est déjà dans le vivier. On ne rappelle pas un devis, un compte rendu d’entretien ou un dossier d’usager collé dans une fenêtre de conversation il y a six mois.

La deuxième : un pouce levé ou baissé rouvre la porte. Même après opposition, la conversation entière attachée à un avis donné volontairement peut servir à l’entraînement. Le réflexe de noter une réponse annule la protection sur cet échange précis.

La troisième : l’amélioration du modèle n’est pas le seul motif d’accès humain. La modération et les signalements de sécurité en sont d’autres, et ils ne se désactivent pas.

« Anonymisé » ne veut pas dire anonyme

OpenAI applique aux conversations un outil maison, le « Privacy Filter », qui remplace noms, adresses, courriels et numéros de téléphone par des étiquettes. Les relecteurs ne voient pas le nom du compte.

L’entreprise reconnaît elle-même les limites du procédé : le filtre peut laisser passer des identifiants peu courants ou des informations dont le caractère personnel dépend du contexte. 404 Media indique par ailleurs que les relecteurs peuvent consulter un résumé des mémoires de l’utilisateur, lequel contient ses centres d’intérêt et sa localisation approximative.

Du point de vue du RGPD, ce n’est pas un détail de vocabulaire. Une donnée dont on a retiré l’identifiant direct mais qui reste rattachable à une personne est pseudonymisée, pas anonyme : elle demeure une donnée personnelle au sens de l’article 4, point 5, et le considérant 26 impose de tenir compte de tous les moyens raisonnablement susceptibles de servir à réidentifier. Un nom de société, un numéro de dossier, une pathologie rare dans une commune de 900 habitants : le filtre ne les voit pas passer.

Ce que cela engage pour l’employeur

Trois obligations, et elles pèsent sur l’organisation, pas sur le salarié qui a copié-collé.

Le responsable de traitement doit être en mesure de démontrer qu’il respecte le règlement (RGPD, art. 5.2) et assurer un niveau de sécurité adapté au risque (art. 32). Quand il confie des données à un prestataire, un contrat doit encadrer ce que celui-ci peut en faire, y compris le recours à des sous-traitants ultérieurs (art. 28). Un compte ChatGPT personnel ne comporte aucun de ces engagements : ce sont les conditions grand public qui s’appliquent, et elles autorisent l’usage des échanges pour l’entraînement.

Pour une collectivité, ajoutez la désignation obligatoire d’un délégué à la protection des données (art. 37.1.a) et la nature des informations en jeu : demandes d’aide sociale, signalements, données de santé transmises par des administrés. Un agent qui reformule un courrier difficile dans un compte personnel fait sortir tout cela du périmètre contractuel de la collectivité.

Et cela ne vaut pas que pour OpenAI. Clubic rappelle que des dispositifs de relecture humaine comparables existent chez Anthropic pour Claude et chez Google pour Gemini. Le sujet n’est pas le choix du fournisseur, c’est le type de compte et le contenu qu’on y verse.

Ce qu’il y a à faire, dans l’ordre

1. Recensez les comptes. Qui utilise quoi, sous quel abonnement, avec quelle adresse. La réponse surprend souvent : beaucoup d’usages professionnels tournent sur des comptes personnels créés un soir de curiosité.
2. Basculez les usages professionnels vers une formule d’entreprise. C’est la seule action qui règle le problème par défaut plutôt qu’en comptant sur la vigilance de chacun.
3. Sur les comptes grand public qui subsistent, désactivez l’option dans Réglages, Contrôles des données. Vérifiez le libellé exact : les interfaces changent plus vite que les articles qui les décrivent. Pour un échange ponctuel et sensible, le chat temporaire n’alimente ni l’historique, ni les mémoires, ni l’entraînement.
4. Écrivez la règle. Une page suffit : ce qui ne se colle jamais dans un outil d’IA (données de santé, pièces d’identité, coordonnées bancaires, secrets d’affaires, contenus sous NDA), ce qui se colle après reformulation, ce qui se colle librement.
5. Formez. Une consigne interdisant le copier-coller sans expliquer pourquoi ni proposer d’alternative ne sera pas tenue trois semaines. Notre formation IA pour dirigeants de TPE/PME traite ce point avec les cas réels de l’entreprise, et une mission de conseil permet de cadrer la règle avant de la diffuser.

Ce que nous ne savons pas

Le nombre de relecteurs varie selon les reprises : 404 Media parle de centaines de prestataires, Clubic d’une centaine. Aucun chiffre n’est confirmé par OpenAI, ni la part des conversations concernées. Le taux d’échec du Privacy Filter n’est pas public non plus.

Les documents internes cités par 404 Media ne sont pas publiés. L’existence de « Project Lily » et le détail du travail des relecteurs reposent donc sur une enquête de presse et sur les déclarations qu’OpenAI lui a faites. Les règles de traitement des données exposées plus haut viennent, elles, de la documentation d’OpenAI, que nous avons lue le 16 septembre 2026.

Une question reste ouverte, et elle ne concerne pas qu’OpenAI : quand une entreprise prévient dans une politique de confidentialité que des humains peuvent lire, sans jamais l’afficher dans le produit, l’information au sens des articles 12 et 13 du RGPD est-elle réellement délivrée ? Les autorités européennes de protection des données auront à le dire.

Sources

• 404 Media, « Inside ‘Project Lily’: The Humans Reading Your ChatGPT Chats », 14 septembre 2026.
• TechRepublic, « OpenAI Reportedly Pays Contractors $50+ an Hour to Review ChatGPT Chats », 15 septembre 2026.
• Clubic, « Oui, il y a vraiment des humains chez OpenAI qui lisent vos conversations sur ChatGPT », 15 septembre 2026.
• Tom’s Hardware, « ChatGPT transcripts are reportedly read by humans to improve responses », 15 septembre 2026.
• OpenAI, centre d’aide, « How your data is used to improve model performance », consulté le 16 septembre 2026.
• Règlement (UE) 2016/679 (RGPD), art. 4 (5), 5.2, 12, 13, 28, 32, 37 et considérant 26.