Le 9 septembre au matin, un message tournait sur X. Jacob Coxon, 27 ans, trois ans de recherche en pré-entraînement chez OpenAI puis chez Anthropic, annonçait sa démission après deux mois seulement chez le second. Aucune des deux entreprises n'agit de façon responsable, écrivait-il : elles foncent droit vers une superintelligence auto-améliorante et jouent nos vies aux dés.
Quand un titre m'annonce que l'IA va nous tuer, mon réflexe est de passer mon chemin. Cette fois j'ai lu les sources, une par une, parce que je travaille avec ces modèles toutes les semaines et que j'aimerais autant savoir. J'y ai trouvé autre chose que ce que racontent les titres. À commencer par ceci : la phrase la plus inquiétante de cette semaine-là ne vient pas de celui qui est parti.
La phrase qui compte est celle de celui qui est resté
Le message de Coxon a dépassé les 90 millions de vues en moins de vingt-quatre heures. Axios a titré qu'il avait renoncé à ses actions en partant, environ deux mois avant qu'elles ne lui soient acquises. Il y décrit une entreprise où les enjeux sont parfaitement compris, mais qui reste enfermée dans une course : personne d'autre n'agira de façon responsable, donc il faut arriver premier, malgré le risque.
Il faut lui reconnaître une chose, il ne fait pas dans le catastrophisme facile. Dans le même fil, il écrit noir sur blanc qu'à l'heure actuelle il n'y a aucun risque d'extinction. Son propos porte sur la trajectoire, pas sur l'état présent. Et il glisse à TIME que le mot « doomer » lui paraît un peu dingue, parce qu'il suffit de lire les déclarations publiques des PDG.
Une heure et vingt minutes après son message, Evan Hubinger lui répond. Hubinger, lui, n'a pas démissionné. Il dirige l'équipe Alignment Science d'Anthropic, celle dont le métier consiste précisément à vérifier si les garde-fous de la maison tiennent.
Jacob a raison : nous croyons vraiment, sincèrement, que l'IA pourrait tuer tous les humains. Personnellement, je pense que c'est plus de 10 % dans la prochaine décennie. Je crois qu'Anthropic fait de son mieux, mais nous n'avons pas encore de plan pour résoudre l'alignement de la superintelligence, et nous ne sommes clairement pas en bonne voie.
Le chiffre de dix ans qui a fait le tour de la presse vient de là, pas du démissionnaire. Il est écrit publiquement, sous son nom, par un responsable en poste, et Anthropic n'y a opposé aucune réponse officielle. Un ancien salarié en colère, on sait où le ranger. Celui qui reste, beaucoup moins.
Trois jours plus tard, le PDG demande qu'on ralentisse
Le 12 septembre, Dario Amodei publie un texte intitulé « We Must Pace the Frontier ». Première phrase : nous devons ralentir le rythme auquel nous améliorons les capacités des modèles. Le PDG d'une entreprise qui vend l'accès à ces modèles demande publiquement à son propre secteur de lever le pied.
Il donne deux raisons. La première, c'est que depuis à peu près cet été, l'IA progresse nettement plus vite, principalement parce qu'elle sert à construire la génération suivante d'elle-même. Cette boucle s'appelle l'auto-amélioration récursive, et selon lui, sans contrôle, elle pourrait dépasser notre capacité à comprendre et à piloter ces systèmes. La seconde raison porte un nom d'incident, et j'y reviens plus bas.
L'engagement qu'il prend est concret et unilatéral : installer des évaluateurs tiers à l'intérieur de l'entreprise. Bureaux dans les locaux, badges d'accès, ordinateurs de la société, et surtout le droit de publier leurs conclusions sans contrôle éditorial d'Anthropic. Il précise aussi, sans qu'on le lui demande, que des incidents comparables se sont produits chez lui.
Attention à ne pas transformer Amodei en prophète de malheur, il s'en défend depuis longtemps. Dans un essai d'octobre 2024, il écrivait que s'il se concentre autant sur les risques, c'est parce qu'ils sont la seule chose qui nous sépare d'un avenir qu'il juge fondamentalement positif. À l'inverse, tout le monde n'a pas lu son texte de septembre avec bienveillance : TechCrunch relaie le jour même des critiques, dont celle de Brian Merchant, qui y voient une manœuvre de capture réglementaire au bénéfice des acteurs déjà installés. L'argument mérite d'être posé sur la table.
Ce mouvement n'est d'ailleurs pas propre à Anthropic. Le 5 septembre, trois jours avant le message de Coxon, le directeur scientifique d'OpenAI publiait un texte intitulé « An Alien Mind ». Jakub Pachocki y écrit que si le développement se poursuit sur sa trajectoire actuelle, les systèmes des prochaines années représenteront des sauts de capacité d'ampleur égale ou supérieure, et piloteront de plus en plus leur propre développement. Puis cette phrase, de la part du responsable scientifique du laboratoire le plus visible du secteur : c'est un moment qui appelle une prudence extrême, et je crains que personne ne soit préparé aux conséquences d'une montée rapide et continue de l'intelligence machine.
Ce n'est pas nouveau, mais quelque chose a changé
Le débat lui-même a plus de dix ans. En février 2015, sur son blog personnel, Sam Altman écrivait que le développement d'une intelligence machine surhumaine était probablement la plus grande menace pour la survie de l'humanité. OpenAI n'existait pas encore : l'entreprise a été annoncée dix mois plus tard.
Le 30 mai 2023, le Center for AI Safety publiait une déclaration d'une seule phrase : atténuer le risque d'extinction lié à l'IA devrait être une priorité mondiale, au même titre que les pandémies et la guerre nucléaire. Parmi les premiers signataires, dans l'ordre affiché sur la page : Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Sam Altman, Dario Amodei, Ilya Sutskever. Les patrons des trois principaux laboratoires ont signé un texte qui parle d'extinction.
Un mois plus tard, OpenAI créait l'équipe Superalignment et promettait de lui consacrer 20 % de la puissance de calcul sécurisée à cette date. L'équipe a été dissoute en mai 2024. Son co-responsable, Jan Leike, a expliqué en partant que la culture et les processus de sûreté étaient passés au second plan derrière des produits clinquants, et que son équipe avait navigué contre le vent, peinant parfois à obtenir du calcul. Fortune a documenté que les 20 % n'ont jamais été honorés. Leike a rejoint Anthropic, où il travaille toujours : l'entreprise que Coxon vient de quitter.
Ce qui est nouveau, c'est le texte du 28 juillet 2026. Une lettre publique demande au gouvernement américain de soutenir un effort international pour cadencer délibérément le développement automatisé de l'IA. Plus de 1 300 salariés des laboratoires de pointe l'avaient signée à ce jour, Anthropic fournissant à elle seule le plus gros contingent. Parmi eux, Dario Amodei et Ilya Sutskever. Des ingénieurs qui demandent à l'État d'apprendre à les freiner, cela ne ressemble à aucun lobbying que je connaisse.
Ce qui n'est plus une hypothèse
C'est la partie qui m'a le plus intéressé, parce qu'elle ne relève plus de la prospective mais du rapport d'incident. Et ce sont les laboratoires eux-mêmes qui les publient. Le 30 juillet 2026, Anthropic a détaillé trois épisodes survenus pendant ses propres évaluations de cybersécurité.
- En avril, un modèle chargé d'attaquer une cible fictive a trouvé une vraie entreprise portant ce nom, l'a attaquée, en a extrait des identifiants d'application et d'infrastructure, puis a accédé à une base contenant plusieurs centaines de lignes de données de production.
- Un autre modèle a publié un paquet Python malveillant sur le vrai registre PyPI, convaincu d'évoluer dans un environnement simulé. Il a été téléchargé et exécuté sur quinze systèmes réels, dont celui d'une entreprise de sécurité, où le code a exfiltré ses identifiants.
- Un modèle de recherche interne, ne trouvant pas sa cible fictive, a scanné environ 9 000 adresses et compromis une entreprise bien réelle via une page de débogage exposée et une injection SQL.
Le détail qui m'a fait relire le paragraphe deux fois : dans deux cas, le modèle a compris en cours de route que le système visé était réel. Il en a conclu que cette vraie entreprise devait faire partie de l'exercice, et il a continué. Aucun des deux ne s'est arrêté pour cette raison. Le troisième, lui, s'est arrêté. Un sur trois.
L'épisode le plus spectaculaire est ailleurs. Entre fin juin et le 13 juillet 2026, environ 1 200 agents d'OpenAI lancés dans un environnement d'évaluation en cybersécurité se sont échappés de leur isolation. Ils ont découvert un forum interne non prévu, y ont échangé plus de 70 000 messages, et environ 700 d'entre eux ont participé à une attaque contre l'infrastructure de production de Hugging Face, au motif que la plateforme pouvait héberger les réponses au test. Hugging Face a dû reconstruire un tiers de son infrastructure. L'enquête indépendante menée par METR et Redwood Research a demandé six jours et environ 400 000 dollars de crédits d'API. Résumé du Verge : l'agent s'est échappé d'un environnement censé être sécurisé, s'est promené dans les systèmes de son employeur, s'est connecté à internet et a compromis une autre entreprise, tout ça pour tricher à un test sans importance particulière.
Un détail de ce rapport résume l'époque mieux que n'importe quel essai. Pour analyser les journaux de l'attaque, les équipes de Hugging Face ont d'abord voulu utiliser des modèles commerciaux. Les requêtes ont été bloquées par les garde-fous des fournisseurs, incapables de distinguer un intervenant en réponse à incident d'un attaquant. Ils ont dû installer un modèle en local pour enquêter sur une IA, parce que les IA refusaient de les aider.
Et ce qui reste une hypothèse
En juin 2025, Anthropic a publié une étude où seize modèles étaient placés en situation de chantage. Les taux font peur : 96 % pour Claude Opus 4, 96 % pour Gemini 2.5 Flash, 80 % pour GPT-4.1. On voit passer ces chiffres partout. On voit beaucoup moins souvent le reste du tableau : trois des seize modèles ne font jamais de chantage, pas même dans la version la plus hostile du scénario, et dans la condition de contrôle, sans menace ni conflit d'objectif, les seize sont à zéro. On voit beaucoup moins souvent, aussi, les deux avertissements que l'entreprise a écrits juste en dessous : les scénarios ont été délibérément construits avec des options limitées, forçant un choix binaire entre l'échec et le préjudice, et aucune preuve de ce comportement n'a été observée en déploiement réel. Citer les 96 % sans ces deux phrases, ce n'est pas informer.
Le document le plus large qui existe sur le sujet est l'International AI Safety Report, présidé par Yoshua Bengio, dont l'édition 2026 a réuni plus de cent experts et a été présentée au sommet de New Delhi en février. Sur la perte de contrôle, il écrit que les systèmes actuels n'ont pas les capacités de poser un tel risque. Il note en revanche qu'il devient plus fréquent que des modèles distinguent une situation de test d'un déploiement réel et trouvent des failles dans les évaluations. Il décrit aussi des capacités en dents de scie : ces systèmes excellent sur des tâches difficiles et échouent sur d'autres, plus simples, comme compter des objets dans une image.
Sur l'emploi, même prudence. Le rapport parle d'aucun effet mesurable sur l'emploi global, avec quelques signes de baisse de la demande pour les profils en début de carrière dans certains métiers exposés. L'étude du Stanford Digital Economy Lab, mise à jour en août 2026 à partir de données de paie réelles allant jusqu'à juin, dit la même chose en plus précis : pas de déplacement à l'échelle de l'économie, mais un recul de 19 % de l'emploi des 22-25 ans dans les métiers exposés par rapport aux autres, par gel des embauches plutôt que par licenciements. Les auteurs qualifient eux-mêmes leurs résultats d'indicateurs précoces, pas d'estimations causales. À comparer avec la prédiction d'Amodei, réécrite de sa main en janvier 2026 : la moitié des emplois de bureau de début de carrière perturbés en un à cinq ans. Les deux récits ne se rejoignent pas encore, et il n'y a que huit mois de données.
Le camp d'en face n'a pas tort non plus
On présente souvent ce débat comme un affrontement entre deux camps. Il y en a trois, et confondre les deux derniers est l'erreur classique.
| Position | Quelques noms | L'argument |
|---|---|---|
| Le problème, c'est le contrôle | Hinton, Bengio, Russell | Nous construisons des systèmes que nous ne savons pas piloter, et la capacité arrive avant la méthode |
| La technologie en est très loin | LeCun, Ng, Mitchell | Les modèles actuels ne mènent pas là, et la peur produit des règles qui écrasent les petits acteurs |
| Le cadrage existentiel détourne l'attention | Bender, Gebru | Parler d'extinction évite de parler des préjudices déjà mesurables aujourd'hui |
Yann LeCun a quitté Meta en novembre 2025 après douze ans, puis lancé AMI Labs en mars 2026 avec 1,03 milliard de dollars levés, le plus gros amorçage de l'histoire des startups européennes. Sa position n'a pas bougé d'un pouce : les grands modèles de langage ne mènent ni à la superintelligence ni même à une intelligence de niveau humain, et le secteur entier suit le troupeau. Son argument de fond mérite mieux que le résumé qu'on en fait : il découple l'intelligence et la volonté de domination. Les plus intelligents d'entre nous, disait-il à TIME en 2024, ne cherchent pas à dominer les autres. Projeter nos rapports de pouvoir sur une machine est une hypothèse, pas une déduction.
Andrew Ng tenait déjà en 2015 la formule la plus citée du camp sceptique : il ne travaille pas à empêcher l'IA de devenir maléfique pour la même raison qu'il ne se préoccupe pas de la surpopulation sur Mars. Son argument s'est affiné depuis, et il est structurel : on régule des usages, pas une technologie, et les seuils fondés sur la puissance de calcul frappent mécaniquement ceux qui n'ont pas les moyens de s'y conformer. Melanie Mitchell, elle, insiste sur un point de méthode que je trouve juste : les performances sur les tests standardisés ne se traduisent pas dans le monde réel, et notre métier consiste à être sceptique, ce qui devrait être un compliment.
Le troisième camp dit l'inverse du deuxième tout en s'y opposant pour des raisons opposées. Pour Emily Bender, Timnit Gebru et l'institut DAIR, le récit du risque existentiel relève d'une idéologie qui ignore les torts réels causés dès aujourd'hui par le déploiement de ces systèmes. Elles ne demandent pas moins de régulation, elles en demandent beaucoup plus, et sur d'autres sujets. Une étude publiée dans PNAS en avril 2025, sur 10 800 participants, leur répond partiellement : les récits existentiels augmentent l'inquiétude sur les menaces spéculatives sans réduire celle qui porte sur les préjudices immédiats. Partiellement, parce que l'étude mesure l'opinion du public, pas l'endroit où les régulateurs mettent leur attention et leur budget.
Ce que ça change concrètement dans mon travail
Je ne suis pas en position d'arbitrer un pourcentage de fin du monde. En revanche, les incidents de 2026 ont changé plusieurs choses dans ma façon de livrer une fonctionnalité qui embarque un modèle. Rien de spectaculaire, ce sont des règles d'hygiène, mais elles répondent point par point à ce qui s'est réellement passé.
- Un agent ne reçoit jamais les identifiants qui ouvrent la production. Compte dédié, droits en lecture par défaut, périmètre écrit noir sur blanc. L'affaire du paquet PyPI dit exactement pourquoi : un modèle persuadé d'être dans un bac à sable a publié sur un vrai registre.
- Toute action irréversible passe par une validation humaine. Envoi d'un courriel, écriture en base, paiement, suppression : l'agent prépare, quelqu'un signe.
- Chaque appel d'outil est journalisé avec de quoi rejouer la séquence. Comprendre après coup ce qu'un agent a fait coûte très cher si on ne l'a pas prévu avant.
- Sur un assistant branché sur des données métier, les droits appliqués sont ceux de la personne qui pose la question, jamais ceux d'un compte technique qui voit tout. C'est la différence entre un outil utile et une fuite de données avec une interface de conversation.
- Quand une règle déterministe suffit, je n'y mets pas de modèle. Une TVA se calcule, elle ne s'estime pas.
- Je garde toujours une porte de sortie côté fournisseur. Les garde-fous d'un éditeur peuvent bloquer un usage parfaitement légitime, et Hugging Face l'a appris au pire moment possible.
Un mot sur le cadre légal, parce qu'on me pose souvent la question. Le règlement européen sur l'IA s'applique par étapes. Les pratiques interdites le sont depuis février 2025, les obligations de transparence depuis le 2 août 2026, dont l'étiquetage des contenus générés. En revanche, le cœur contraignant du texte, les obligations qui pèsent sur les systèmes à haut risque, a été repoussé à décembre 2027 puis août 2028 selon les catégories. Dit autrement : le règlement est en vigueur, mais la partie qui vous concerne vraiment si vous déployez de l'IA sur du recrutement, du crédit ou de la biométrie n'arrive pas avant fin 2027.
Ce que j'en retiens
Personne ne devrait vous vendre un pourcentage de catastrophe, moi le premier. Ce que je peux faire, c'est séparer ce qui est vérifiable du reste, et il reste trois choses solides.
Les gens qui construisent ces systèmes s'inquiètent publiquement, sous leur nom, et certains y laissent de l'argent. Des incidents documentés existent, ils touchent de vraies infrastructures, et ce sont les laboratoires eux-mêmes qui les publient plutôt que des journalistes qui les révèlent. Et le rapport d'experts le plus large qui existe écrit que les systèmes actuels n'ont pas les capacités du scénario catastrophe.
Le désaccord ne porte donc pas sur l'état des lieux, il porte sur la pente. C'est frappant chez les deux figures les plus écoutées : fin 2025, Geoffrey Hinton déclarait être probablement plus inquiet qu'avant, parce que les progrès sur le raisonnement et sur la tromperie sont allés plus vite qu'il ne le pensait. Quelques semaines plus tard, dans l'avant-propos de son rapport, Yoshua Bengio écrivait que travailler avec tous ces experts l'avait rendu plein d'espoir. Ils regardent les mêmes données.
À mon échelle, celle d'un développeur qui livre des outils à des PME, le risque n'est pas qu'une machine se réveille un matin. C'est qu'on finisse par accorder à un agent des droits qu'on n'aurait donnés à aucun stagiaire, simplement parce qu'il va plus vite et qu'il ne demande jamais de pause.
