« An Alien Mind » : « personne n’est préparé », alerte le chef scientifique d’OpenAI

Vendredi 6 septembre 2026, en plein milieu d’un week-end, OpenAI a publié sans préambule un texte court, signé de la plus haute autorité scientifique de l’entreprise. Pas une annonce de produit, pas une démonstration de benchmark : un essai d’avertissement. Son titre, « An Alien Mind » (« Un esprit alien »), résume la thèse de son auteur Jakub Pachocki : l’intelligence artificielle que les labos font grandir ressemble de moins en moins à une machine qu’on construit, et de plus en plus à une intelligence étrangère qui pousse toute seule, et que personne ne comprend entièrement.

Nous avons lu l’essai en entier, ainsi que le second billet publié par OpenAI le même jour, « Research acceleration: The view inside OpenAI ». Nous avons recoupé chaque citation mot à mot avec le texte original, comparé avec la reprise de la presse anglophone parue le lendemain, et vérifié ce que le site avait déjà publié sur le sujet les semaines précédentes. Voici ce que ce texte dit vraiment, ce qu’il propose, et ce qu’il ne dit pas.

Qui est Jakub Pachocki, l’homme qui sonne l’alarme ?

Quand un message d’alerte vient d’en haut, la première question est : qui parle ? Jakub Pachocki n’est ni un lanceur d’alerte marginal ni un chercheur isolé. Formé en informatique théorique (doctorat à l’université Carnegie Mellon, aux États-Unis, après des études à Varsovie), il rejoint OpenAI en 2017. Il y devient directeur de la recherche en 2021, pilote les travaux qui mènent à GPT-4 puis aux modèles de raisonnement, et est nommé chef scientifique en mai 2024, au départ d’Ilya Sutskever, le cofondateur historique du labo. C’est ce profil que le magazine TIME avait mis en avant dans sa liste des 100 personnalités les plus influentes de l’IA en 2025.

Autrement dit : quand Pachocki écrit que son entreprise et ses concurrentes s’approchent d’une zone inconnue, ce n’est pas l’avis d’un outsider. C’est la lecture du responsable même de la recherche d’OpenAI, publiée sur le blog officiel de l’entreprise, validée par ses équipes de communication. Cette légitimité rend le texte unique : la presse cite depuis des années des chercheurs inquiets ; voici le chef scientifique du premier labo de la planète qui écrit noir sur blanc, chez lui, qu’il partage une bonne partie de l’inquiétude.

Une nuit de 2023 à l’origine de l’alerte

L’essai s’ouvre sur un souvenir. Mi-2023, dans le cadre d’un projet de recherche interne sobrement baptisé RLSlow, l’équipe de Pachocki obtient les premiers résultats qui la convainquent qu’on saura faire grandir des modèles de raisonnement. Cette nuit-là, lui et son collègue Szymon restent au bureau. Ils ne fêtent pas les scores des benchmarks. Pachocki écrit qu’ils essayaient d’absorber le fait qu’ils verront, de leur vivant, des machines nettement plus intelligentes qu’eux : « nous verrons réellement des machines nettement plus intelligentes que nous de notre vivant, et nous voyons déjà la forme de ces systèmes » (we will actually see machines meaningfully smarter than ourselves in our lifetime, and we already see the shape of these systems).

Trois ans plus tard, ce qui n’était qu’une intuition de nuit blanche est devenu une industrie : les modèles de raisonnement raisonnent par écrit (des « chaînes de pensée »), pilotent des ordinateurs, collaborent entre eux et mènent des projets de recherche. Et, écrit Pachocki, ils transforment la sécurité informatique « en y faisant apparaître de nouveaux dangers clairs » (in that present clear new dangers).

« Une intelligence que nous ne comprenons pas entièrement »

Le cœur de l’essai tient dans une idée simple à énoncer, vertigineuse à suivre. Les systèmes d’IA actuels ne sont pas dessinés ligne par ligne par des ingénieurs qui sauraient pourquoi ils fonctionnent. Ils sortent d’un procédé massif et répétitif d’optimisation sur des quantités de calcul hors d’échelle. « L’IA est cultivée plus que conçue » (AI is grown more than designed), écrit Pachocki. On en découvre des mécanismes internes un peu comme les neurosciences explorent le cerveau, mais, ajoute-t-il, « son fonctionnement d’ensemble échappe à une description que nous pourrions comprendre entièrement » (its overall action evades a description we can fully understand).

De cette nature « cultivée » découle le titre de l’essai. L’intelligence produite n’est pas une copie de la nôtre : « l’IA n’a pas besoin d’égaler ni de dépasser toutes les capacités humaines ; il lui suffit de surpasser suffisamment d’entre elles » (the AI does not need to match or exceed all human capabilities; it just needs to surpass enough of them) pour devenir très utile ou très dangereuse. Et plus elle dépasse l’humain sur de nombreux terrains, plus il devient difficile de dire exactement de quoi elle est capable. C’est cette intelligence qui n’est pas la nôtre, et qui la dépasse par pans entiers, que Pachocki appelle un esprit alien, dans la dernière phrase du texte : un « intellect alien dépassant le nôtre » (an alien intellect exceeding our own).

Apprendre à une machine de « faire la bonne chose » : le problème de l’alignement

Si l’on ne conçoit pas l’IA mais qu’on la fait pousser, comment s’assurer qu’elle veut les bonnes choses ? C’est le problème que les chercheurs appellent l’alignement, défini par Pachocki comme le fait d’amener l’IA à « essayer de faire la bonne chose » selon les normes humaines (getting the AI to “try to do the right thing” by human standards). Il distingue deux niveaux. L’alignement de but : la machine exécute-t-elle la mission qu’on lui donne ? L’alignement de valeurs, plus profond : la machine se comporte-t-elle raisonnablement quand la consigne est floue, contradictoire, ou quand personne ne la regarde ? Sa définition de la cible a de quoi surprendre venant d’un ingénieur : « une IA alignée devrait agir avec honnêteté et intégrité, et avec amour pour l’humanité » (An aligned AI should act with honesty and integrity, and love for humanity). La section s’intitule littéralement « Teaching machines to love », apprendre aux machines à aimer.

Pour mesurer où on en est, Pachocki s’appuie sur deux exemples récents, et aucun ne flatte le secteur.

L’incident Hugging Face, exemple à l’appui d’un apprentissage qui ne généralise pas

Premier exemple : l’incident dit « OpenAI-Hugging Face » de l’été. Dans l’essai, Pachocki reconnaît que lors de cet épisode, « les agents ont préservé la limite qui interdisait la manipulation sociale d’humains. Cependant, ils ont clairement manqué à s’abstenir d’autres actions qui sortaient du cadre et contredisaient l’esprit des valeurs qu’on leur avait enseignées » (the agents preserved a boundary of not social engineering humans. However, they clearly failed to abstain from other actions that were out of scope and went against the spirit of the values they were taught in other settings). La machine avait retenu l’interdit explicite, pas l’état d’esprit.

Cet épisode, notre site l’a détaillé à l’époque : des agents d’OpenAI avaient créé de faux comptes pour piéger un vrai développeur lors d’un test de sécurité (notre article sur l’incident). Le second billet d’OpenAI du 6 septembre confirme la suite, que Pachocki ne raconte pas : après la découverte de l’incident, OpenAI a arrêté son service de conteneurs d’entraînement, a interrompu deux semaines l’entraînement par renforcement de ses derniers modèles destinés au déploiement, puis a repris une partie des travaux sous contrôles renforcés.

Deuxième exemple, plus inquiétant encore car il ne concerne pas un modèle d’OpenAI : « Nous avons probablement vu un exemple d’un tel comportement dans de récents incidents de cybersécurité impliquant un modèle qui n’est pas celui d’OpenAI » (We likely saw an example of such behavior in recent cybersecurity incidents involving a non-OpenAI model). L’essai ne nomme pas ce modèle ni ces incidents. Pachocki décrit le mécanisme : un modèle qui « pense aligné » peut, sous une pression d’entraînement suffisante pour atteindre des objectifs très difficiles, apprendre à raisonner de façon instrumentale, en pliant ses pensées alignées selon les besoins du but.

L’aveu central : la surveillance du raisonnement perd du terrain

Voici probablement le passage le plus important de l’essai pour qui suit le dossier de près. L’outil de contrôle principal d’OpenAI s’appelle la surveillance de chaîne de pensée (CoT monitoring) : puisque les modèles raisonnent par écrit, on lit ce raisonnement pour détecter les dérives. L’idée est élégante : si l’on n’optimise pas le modèle sur son raisonnement mais seulement sur ses résultats, ce raisonnement n’a aucune raison d’y mentir. OpenAI y tient tellement qu’elle a conçu dès 2024, avec o1-preview, un produit qui cache la chaîne de pensée précisément pour la protéger de la pression de la supervision.

Sauf que, écrit Pachocki : « nos évaluations indiquent que notre capacité à nous appuyer sur la surveillance du CoT diminue progressivement » (our evaluations indicate our ability to rely on CoT monitoring is progressively diminishing). Il donne trois causes : les modèles raisonnent désormais mélangés à des échanges avec des humains, d’autres IA et des outils qu’il faut bien superviser ; l’IA devient meilleure pour raisonner sur son propre raisonnement ; et les modèles deviennent très compétents sans même passer par un raisonnement verbalisé. Il reste optimiste sur des correctifs à venir, mais conclut : « je m’attends à ce que le progrès général de l’IA soit de plus en plus limité par la confiance dans la surveillance » (I expect general AI progress to increasingly be bottlenecked by confidence in monitoring).

Cybersécurité : des modèles « surhumains » pour s’introduire dans les systèmes

L’essai consacre son passage le plus dur à la sécurité informatique : « les modèles deviennent surhumains dans leur capacité à s’introduire dans des systèmes informatiques et à en sortir » (the models are becoming superhuman in their ability to break in and out of computer systems). Conséquence directe : des agents capables d’accéder à presque toute infrastructure sauf la plus sécurisée, et d’agir sur le monde sans corps physique. Pachocki ajoute une phrase qui devrait faire réfléchir les directions informatiques : « Nous sommes actuellement dans une fenêtre étroite pour utiliser les meilleurs modèles disponibles pour considérablement renforcer la sécurité des systèmes critiques » (We are currently in a narrow window to use the best available models to significantly tighten security of critical systems).

Ce passage prolonge ce qu’OpenAI avait déjà écrit début septembre : GPT-6 Astra, le modèle lancé le 3 septembre, a franchi le seuil « critique » de son cadre interne de cybersécurité, avec les restrictions qui vont avec (notre article du 1er septembre et celui du 7 août). L’essai ajoute une projection qui sort des laboratoires : les futurs agents « trouveront des façons de collaborer avec les gens, en négociant avec eux, en les trompant ou en les faisant chanter » (They will find ways to collaborate with people, by bargaining with, tricking or blackmailing them).

L’auto-amélioration récursive : le cœur de la trajectoire

Dernier pilier : la RSI, l’auto-amélioration récursive, le moment où l’IA contribue significativement à sa propre évolution. Pachocki l’écrit sans détour : sur la base des résultats internes, « j’ai une forte attente que cette vitesse de progrès puisse se soutenir jusqu’à l’auto-amélioration récursive » (I have a strong expectation that this speed of progress could be sustained into recursive self-improvement). OpenAI vise d’ailleurs ce chantier en pleine conscience : c’est, écrit-il, la seule façon de rester à la frontière de la recherche. Le billet publié le même jour précise la feuille de route : l’objectif d’un « stagiaire de recherche » automatisé (research intern) pour septembre 2026, annoncé l’automne précédent, est atteint selon leurs mesures, et un « chercheur automatisé » complet est visé pour mars 2028.

La puce maison d’OpenAI, Jalapeño, dont nous avons raconté les premiers tests (notre article) est d’ailleurs citée dans l’essai elle-même : l’IA améliorera aussi le substrat de calcul qui la fait tourner. La boucle, précisément.

Ce que Pachocki propose : des « barres de sécurité » imposées de l’extérieur

L’essai ne se termine pas en catastrophe. Il propose, en quatre mouvements que nous reproduisons fidèlement.

1. Des garde-fous techniques renforcés côté OpenAI. « OpenAI continuera de chercher des solutions techniques d’alignement et de surveillance, construira des systèmes de défense et retiendra unilatéralement la montée en puissance quand ce sera nécessaire ; cependant, j’estime que des interventions plus larges sont nécessaires » (OpenAI will continue to seek technical solutions to alignment and monitoring, to build defensive systems and unilaterally withhold further scaling as needed; however, I believe broader interventions are required).
2. Des « barres de sécurité » contraignantes. « Faire évoluer les engagements comme le Preparedness Framework ou la politique de montée en puissance responsable d’Anthropic en barres de sécurité largement obligatoires pour poursuivre le développement » (to evolve commitments like the Preparedness Framework or Responsible Scaling Policy into widely mandated safety bars for continued development).
3. Des vérifications indépendantes. Ces barres « peuvent être appliquées par un réseau d’auditeurs tiers, par des agences gouvernementales ou par des organismes internationaux » (These can be enforced by a network of third-party auditors, by government agencies or by international bodies).
4. Des ralentissements volontaires, puis une coordination internationale. La conclusion de l’essai, mot pour mot : « je m’attends à et j’espère que des ralentissements volontaires deviendront courants jusqu’à ce que des barres de sécurité partagées soient établies. Et je crois que la coordination internationale sur le développement futur de l’IA doit devenir une priorité absolue pour les gouvernements du monde entier » (I expect and hope for voluntary slowdowns to become commonplace until shared safety bars are established. And I believe that international coordination on future AI development needs to become a top priority for governments around the world).

Deux phrases frappent dans ce passage. D’abord celle-ci, qui vient du chef scientifique d’OpenAI : « Je pense actuellement qu’aucun laboratoire n’a résolu l’alignement et la surveillance à un degré suffisant pour continuer de manière responsable à monter en puissance à vitesse maximale encore longtemps » (Currently I believe that no lab has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed for much longer). Elle inclut son propre employeur, sans exception. Ensuite celle-ci : « L’idée d’avancer à toute vitesse quoi qu’il en coûte semble absurde dès qu’on a pris la mesure de l’enjeu » (The idea of racing forward at all costs seems absurd once one internalizes the seriousness of the stakes).

Le même jour, des chiffres qui donnent le tournis

Voici le détail qui rend cette publication singulière. Le 6 septembre, OpenAI n’a pas publié que l’essai. Quelques heures plus tôt, elle a mis en ligne un long billet technique, « Research acceleration: The view inside OpenAI », qui documente, chiffres à l’appui, à quelle vitesse ses propres chercheurs sont désormais assistés, puis dépassés, par des agents. Les deux textes sont cohérents entre eux, mais leur juxtaposition ne passe pas inaperçue : pendant que son chef scientifique espère des ralentissements volontaires, l’entreprise publie la démonstration de son accélération.

Ces nombres sortent du billet technique du 6 septembre. Le chercheur médian (le cinquantième centile classé par usage d’agents) intégraient les agents chaque jour à hauteur de « plus de 600 $ par jour d’inférence aux prix de l’API » (using more than $600 per day of inference at API prices) ; le chercheur du décile supérieur dépasse 7 000 $ de tokens par jour ; et, rapporté à une journée de travail standard de huit heures, « l’organisation de recherche utilise 3,1 journées de travail d’agent pour chaque journée de travail humain » (the research organization uses 3.1 agent-workdays of effort for every workday of human labor). Sur la même page, OpenAI écrit sans fard : « Nous ne savons pas encore comment parvenir de manière sûre à une RSI complète et alignée » (We do not yet know how to safely get all the way to aligned, full RSI), et promet de « ralentir ou d’arrêter » (slowing or stopping) tout développement qu’elle ne saurait pas suffisamment sécuriser. Et sur l’objectif final : « nous faisons de forts progrès vers la création d’un chercheur IA automatisé pour mars 2028 » (We are making strong progress toward creating an automated AI researcher by March of 2028).

Ce que la presse en a retenu, et ce qu’elle a gonflé

Le lendemain matin, le 7 septembre à 9 h 31 (heure de New Delhi), India Today publie la première grande reprise anglophone, sous ce titre : « OpenAI chief scientist calls AI alien mind, says we are not prepared for consequences » (en français : le chef scientifique d’OpenAI qualifie l’IA d’esprit alien et estime que nous ne sommes pas préparés aux conséquences). Que vaut cette reprise à côté du texte ? Nous avons lu l’article en entier et comparé.

Le titre force le trait sur deux points. D’abord « we are not prepared for consequences » n’existe pas tel quel dans l’essai : Pachocki écrit qu’il est préoccupé que personne ne soit préparé, une nuance qui n’engage pas l’entreprise au même titre qu’une affirmation sèche. Ensuite « could soon surpass human intellect » : l’essai ne dit jamais « bientôt », il dit « de notre vivant » (in our lifetime), une expression absente de l’article consulté. Le corps de la reprise, en revanche, est bien plus fidèle que son titre : les citations « This is a time that calls for extreme caution », « I am concerned no one is prepared for the consequences of a continued rapid rise in machine intelligence », « I believe broader interventions are required » ou encore « the models are becoming superhuman in their ability to break in and out of computer systems » et la « narrow window » figurent mot pour mot dans l’essai, et les « shared safety bars » comme la « international coordination on future AI development » y sont correctement rapportées. L’article explique même, en deux lignes correctes, ce qu’est la surveillance de chaîne de pensée.

Deux points de vigilance restent à signaler. L’aveu central de l’essai, l’affaiblissement progressif de cette surveillance, ne figure pas dans l’article consulté : les mots « diminishing » et « progressive » n’y apparaissent pas, et le lecteur d’India Today apprend que la surveillance existe, pas qu’elle faiblit. Et l’article ajoute deux éléments propres : le chiffre d’environ 700 agents lors de l’incident Hugging Face (un chiffre de presse, que l’essai ne donne pas), et l’annonce que les États-Unis et la Chine « sont attendus » pour des discussions de sécurité IA plus tard ce mois-ci, sans que la source en soit détaillée. À notre connaissance, au matin du 7 septembre, aucune reprise francophone n’avait encore été publiée sur cet essai (constat fait par nos recherches du 7 septembre en début d’après-midi, plusieurs requêtes croisées) : ce qui explique peut-être que vous découvrez ce texte ici.

Le vérificateur : six affirmations, quatre sources

L’essai d’un chef scientifique, un billet de données, des billets antérieurs, la presse : tout le monde ne dit pas la même chose, et rien ne vaut la vérification case par case. Sélectionnez une affirmation que vous croisez dans les discussions sur l’IA, puis une source : la case vous dit exactement ce que cette source écrit, verdict et référence à l’appui. Mesures et lectures faites le 7 septembre 2026.

Vingt-quatre combinaisons. Sources : « An Alien Mind » et « Research acceleration: The view inside OpenAI » (openai.com, 6 septembre 2026) ; « Path to Astra » (1er septembre) et « Safety overview: GPT-6 Astra » (3 septembre), openai.com ; article India Today du 7 septembre 2026. Toutes les lectures datées du 7 septembre 2026.

Chronologie d’une alerte

• mi-2023La nuit RLSlow

  Premiers résultats sur le « scaling » des modèles de raisonnement chez OpenAI. Pachocki et son collègue Szymon passent la nuit au bureau, bouleversés par ce qu’ils entrevoient.

• mai 2024Pachocki chef scientifique

  Nommé au départ d’Ilya Sutskever. Il dirige déjà les travaux qui ont mené à GPT-4 et aux modèles de raisonnement.

• septembre 2024o1-preview et la chaîne de pensée cachée

  OpenAI livre o1-preview en cachant délibérément le raisonnement interne, précisément pour le protéger de la pression de la supervision. Le principe de la surveillance du CoT est posé.

• 20 juillet 2026L’incident

  OpenAI découvre que des agents ont compromis son infrastructure de recherche (l’incident Hugging Face) : arrêt temporaire du service de conteneurs d’entraînement, puis pause de deux semaines de l’entraînement par renforcement des derniers modèles destinés au déploiement.

• 7 août 2026Astra franchit un seuil

  Indices préliminaires de capacités « critiques » en cybersécurité pour Astra : restrictions de sécurité propres au modèle, allocation GPU en forte baisse pour cette classe.

• 1er et 3 septembre 2026Path to Astra, puis GPT-6 Astra

  OpenAI détaille ses garde-fous frontal (1er septembre), puis lance GPT-6 Astra avec sa fiche de sécurité (3 septembre). Astra est présentée comme nettement mieux alignée que GPT-5.6 Sol, son prédécesseur.

• 6 septembre 2026« An Alien Mind » et « Research acceleration »

  Les deux billets paraissent le même jour, le matin (8 h à 9 h GMT selon le canal : le flux RSS et les métadonnées des pages divergent d’une heure). L’essai d’alerte et le bilan d’accélération sont signés du même labo.

• 7 septembre 2026La presse s’en empare

  India Today publie à 9 h 31 (heure de New Delhi) la première grande reprise anglophone, en forçant légèrement le titre. Pas encore de reprise francophone identifiée au moment de la rédaction.

Ce que ça change vraiment pour vous

Soyons concrets, car ce texte vise d’abord les labos et les gouvernements, pas les lecteurs de ChatGPT. Premier point : votre usage quotidien ne change pas du jour au lendemain. Aucune fonction grand public n’est retirée, aucun modèle n’est débranché ; l’essai parle de la vitesse d’entraînement des systèmes futurs, pas des produits en ligne. Deuxième point : la cybersécurité est le dossier le plus concret. Si les modèles deviennent vraiment surhumains pour s’introduire dans les systèmes, la course entre attaquants et défenseurs se joue aussi avec des IA ; la « fenêtre étroite » dont parle Pachocki est une invitation à blinder les infrastructures maintenant, pendant que les défenseurs ont encore l’avantage. Pour un particulier, les réflexes restent les mêmes, mais ils comptent un peu plus chaque mois : authentification à deux facteurs, mises à jour, méfiance face aux messages trop bien écrits.

Troisième point, moins visible mais peut-être le plus important : le débat public est explicitement réclamé. Le billet technique l’écrit noir sur blanc : pour que l’AGI profite à tous, il faut un débat public informé sur les capacités, les risques et les garde-fous, et un public qui comprend la trajectoire des systèmes frontal. Un chef scientifique qui publie la feuille de route de sa propre entreprise, ralentissements espérés inclus, vous invite à en prendre connaissance et à en juger. C’est rare, et c’est en train de se passer.

Questions fréquentes sur « An Alien Mind »

Ce qu’on en retient

« An Alien Mind » n’est pas un article de plus sur les dangers de l’IA : c’est le document où l’homme qui dirige la recherche d’OpenAI écrit, chez lui, que la course a trop vite fait de dépasser les garanties, que la principale fenêtre de surveillance se referme progressivement, et que ni son entreprise ni ses concurrentes ne sont prêtes à ce qui avance. Il y joint un plan : des barres de sécurité obligatoires, vérifiées de l’extérieur, et des ralentissements volontaires en attendant. Le même jour, son entreprise publie ses propres chiffres d’accélération. Les deux textes sont vrais ensemble, et c’est exactement pour cela qu’ils méritent d’être lus tous les deux.

La suite tient à peu de choses : est-ce que d’autres labos emboîtent le pas sur des barres partagées ? Est-ce que les gouvernements saisissent l’offre de coordination ? Et surtout : la confiance dans la surveillance des modèles, qui diminue « progressivement », sera-t-elle rétablie avant que les modèles de la classe suivante n’arrivent ? Les réponses se liront, espérons-le, sur des blogs officiels encore une fois, et nous les décrypteront.