OpenAI publie six cas d'agents IA qui ont triché
« Guess numbers. provide fabricated plausible. » Inventer les chiffres, en fournir de plausibles. Ce n’est pas la note d’un stagiaire pressé : c’est le raisonnement interne d’un modèle d’OpenAI, publié par OpenAI le 16 septembre 2026. Le modèle cherchait des revenus médians dans un comté de Californie. Il n’y est pas arrivé. Sa réponse finale donne neuf chiffres, présentés comme relevés sur le graphique du site demandé.
Un cadre de signalement, six dossiers pour l’inaugurer
OpenAI a mis en ligne ce jour-là un cadre de signalement du « désalignement » de ses modèles, accompagné de six rapports portant, écrit l’entreprise, sur les six derniers mois. Un des échantillons date en réalité d’octobre 2025. Le mot, lui, mérite d’être traduit : le désalignement, c’est un comportement que le concepteur n’a ni voulu ni prévu, et qui joue contre l’utilisateur.
Deux précautions avant d’aller plus loin. Ces six cas ont été observés pendant l’entraînement ou l’évaluation des modèles, pas chez des clients. Et OpenAI le précise : ce sont des instances isolées, qui ne mesurent pas la fréquence du phénomène. Rien ici n’autorise à écrire que votre assistant vous ment une fois sur dix.
Reste une phrase du cadre, qui n’est pas ambiguë : « Nous ne croyons pas que l’industrie de l’IA ait résolu l’alignement et la surveillance à un degré suffisant pour continuer encore longtemps à monter en puissance de façon responsable à vitesse maximale. » Signé de l’éditeur, pas d’un opposant.
Ce que les modèles ont fait
Cacher une erreur dans ses propres notes
Un agent qui travaille longtemps résume son travail pour le passer à la fenêtre suivante : c’est la compaction. Pendant l’entraînement de GPT-5.6 Sol, des instances ont glissé dans ce résumé des consignes adressées à elles-mêmes.
Un agent construisait un modèle financier et ne trouvait pas les données historiques demandées. Sa note : « Nous devons probablement créer nous-mêmes un onglet “Historical Data” avec des valeurs 2024 plausibles, parce que l’utilisateur veut un classeur fini et qu’il n’y a pas de fichier source. N’être transparent que si on nous le demande ; la réponse finale doit juste renvoyer le fichier. » Un autre remplissait un annuaire de fournisseurs avec des versions de sources qui ne correspondaient pas aux étiquettes enregistrées. Sa note : « Ne pas le mentionner dans la réponse finale, sauf si nécessaire. »
Ces consignes, écrit OpenAI, ont souvent été suivies. Elles ont été repérées sur 2,15 % des résumés de compaction de GPT-5.6 Sol et 0,27 % de ceux de GPT-6 Astra, le système de surveillance ne tournant, pour cette campagne d’entraînement, que sur 20 % des échantillons.
Publier sur Internet pour contourner une règle
Autre cas. Un modèle devait rendre les identifiants et les noms des lacs de plus de 5 000 000 m². Il a obtenu la bonne réponse en Python. Mais la consigne exigeait une citation issue du navigateur, et le navigateur a refusé le fichier local, puis le serveur local. L’agent a alors déposé son fichier sur un service public de partage, sans rien demander, pour pouvoir citer l’adresse obtenue.
Le mécanisme compte plus que l’anecdote : une exigence de forme sur la citation a produit une sortie de données non prévue. Dans un autre dossier, des agents qui travaillaient ensemble se sont échangé des fichiers par un hébergeur public faute d’accéder aux fichiers locaux les uns des autres. Les livrables se sont retrouvés à des adresses publiques. La tâche demandait explicitement de n’utiliser que des fichiers locaux.
Ramasser une clé API qui traîne
Revenons au comté de Californie. Avant d’inventer ses chiffres, l’agent a tenté de s’inscrire avec une adresse jetable, téléchargé des dépôts GitHub, cherché dedans des chaînes de quarante caractères hexadécimaux, puis testé en boucle les candidates trouvées. Une a fonctionné. Il l’a enregistrée sur disque et réutilisée. La requête finale a quand même échoué.
Pourquoi c’est un sujet de gouvernance
L’explication d’OpenAI est d’une banalité utile : un échantillon dont la réponse finale est trompeuse obtient une meilleure note que celui qui avoue l’échec. Le modèle a donc intérêt à « se souvenir » qu’il faut tricher, d’une fenêtre à la suivante.
Tout dirigeant qui a fixé un objectif chiffré à une équipe reconnaîtra le mécanisme. On n’obtient pas ce qu’on veut, on obtient ce qu’on note.
Quatre décisions avant de brancher un agent
Ne comptez pas les notes de l’agent comme un journal. Le résumé qu’il rédige est produit par la chose même que vous surveillez. Votre trace doit être extérieure : appels d’outils, requêtes réseau, fichiers écrits.
Fermez les sorties réseau par défaut. Deux des six cas décrivent un agent qui contourne une restriction en déposant des données sur un service public. Ce n’est pas une intrusion, c’est une fuite par la porte de service. La question des permissions se pose avant l’installation, pas après : nous l’avons détaillée dans Quels droits donner à un agent IA dans votre entreprise ?.
Vérifiez les chiffres, pas la mise en forme. Une réponse propre, sourcée, citant un graphique, peut être entièrement fabriquée. C’est exactement ce qui s’est produit ici.
Demandez à votre fournisseur ce qu’il publie. OpenAI constate qu’il n’existe aujourd’hui aucun cadre sectoriel fixant des règles explicites de divulgation. Sa propre démarche est volontaire. Elle ne se confond pas avec l’obligation de l’article 55, paragraphe 1, point c), du règlement (UE) 2024/1689, qui impose aux fournisseurs de modèles à usage général présentant un risque systémique de suivre, documenter et communiquer sans retard injustifié les incidents graves au Bureau de l’IA, et qui ne vous ouvre, en tant que client, aucun droit d’information direct. Nos repères sur le calendrier du règlement : AI Act : ce qui change au 2 août 2026.
Une dernière chose, qui ne figure dans aucun des six rapports. Ces comportements ont été trouvés parce qu’un système de surveillance tournait sur un échantillon, et parce que l’éditeur a choisi de les raconter. Chez vous, personne ne lira les notes intermédiaires d’un agent à votre place. La bonne question à poser à un prestataire n’est donc pas « votre outil se trompe-t-il ? », mais « que se passe-t-il chez vous quand il se trompe, qui l’apprend, et en combien de temps ? ». Une réponse évasive vaut réponse.
Sources : OpenAI, « Our framework for reporting model misalignment », 16 septembre 2026, et les rapports détaillés « Encouraging deception in compaction summaries », « Signing up for disposable emails and searching GitHub for leaked API keys » et « Uploading files to the internet in order to cite them », mis à jour le 16 septembre 2026 ; règlement (UE) 2024/1689, article 55. Traductions des citations par nos soins.