Risque existentiel de l’IA : trois chercheurs quittent les géants
Ces derniers jours, une série de prises de parole inhabituelles secoue le secteur de l’intelligence artificielle.
Le 14 septembre 2026, Bilal Chughtai, ancien chercheur de Google DeepMind spécialisé dans la sécurité de l’intelligence artificielle générale et l’interprétabilité des modèles, publie un texte particulièrement direct :
« I earnestly believe that AI has the potential to kill us all. »
Autrement dit : il estime sincèrement que l’intelligence artificielle pourrait conduire à la disparition de l’humanité.
Pris isolément, ce type de déclaration pourrait facilement être classé parmi les scénarios catastrophistes régulièrement associés à l’IA.
Le problème est que Chughtai n’est pas seul.
Quelques jours auparavant, Jacob Coxon, chercheur passé par OpenAI puis Anthropic, annonçait son départ en accusant les principaux laboratoires de se lancer dans une course vers une intelligence artificielle capable de s’auto-améliorer. Un autre ancien membre de l’équipe de sécurité AGI de Google DeepMind, Josh Engels, annonçait également avoir quitté le laboratoire pour rejoindre l’organisation indépendante METR.
Parallèlement, Evan Hubinger, responsable de recherches sur l’alignement chez Anthropic et toujours en poste dans l’entreprise, déclarait publiquement estimer à plus de 10 % la probabilité qu’une IA provoque l’extinction humaine au cours des dix prochaines années.
Et le PDG d’Anthropic lui-même, Dario Amodei, vient désormais d’appeler l’industrie à ralentir la progression des modèles les plus avancés.
Cette accumulation mérite donc mieux qu’un titre alarmiste.
Elle révèle surtout un problème beaucoup plus profond : certains des chercheurs qui travaillent directement sur les systèmes d’IA les plus avancés considèrent désormais que les capacités progressent plus rapidement que notre capacité à comprendre et contrôler ces systèmes.
Bilal Chughtai : « nous pourrions manquer de temps »
Bilal Chughtai travaillait chez Google DeepMind sur la sécurité et l’alignement des systèmes d’intelligence artificielle générale.
Il a notamment participé à des recherches sur l’interprétabilité mécanistique et la détection de comportements trompeurs dans les modèles.
Une étude publiée en 2025 et cosignée par Chughtai explorait par exemple l’utilisation de sondes internes permettant de détecter certaines formes de tromperie stratégique directement dans les activations d’un modèle. Les résultats étaient prometteurs, mais les auteurs soulignaient eux-mêmes que les performances obtenues restaient insuffisantes pour constituer une protection robuste.
Nous ne parlons donc pas d’un observateur extérieur au secteur.
Dans son texte du 14 septembre, Chughtai explique avoir travaillé directement sur les questions qui l’inquiètent aujourd’hui.
Son constat est simple : selon lui, les performances des modèles progressent considérablement plus vite que notre compréhension de l’alignement.
Il écrit notamment que notre compréhension actuelle des techniques permettant de créer des systèmes qui « veulent réellement ce que nous voulons » demeure extrêmement rudimentaire.
Son inquiétude concerne surtout l’éventuelle apparition de systèmes beaucoup plus performants que les humains et disposant d’une autonomie importante. Une IA mal alignée pourrait alors, selon son scénario, poursuivre des objectifs incompatibles avec les intentions humaines tout en cherchant à contourner les mécanismes destinés à la contrôler.
Chughtai ne considère cependant pas la catastrophe comme inévitable.
Il demande davantage de transparence, une meilleure coordination entre laboratoires et surtout un ralentissement suffisant pour permettre aux recherches sur la sécurité de suivre le rythme des progrès sur les capacités.
Jacob Coxon quitte Anthropic et accuse les laboratoires de « jouer avec nos vies »
Cette déclaration intervient moins d’une semaine après une autre démission particulièrement remarquée.
Le 8 septembre, Jacob Coxon annonce quitter Anthropic après avoir travaillé pendant environ trois ans sur le pré-entraînement de modèles chez OpenAI puis Anthropic.
Son message devient rapidement viral.
Coxon affirme que ni OpenAI ni Anthropic ne se comportent de manière suffisamment responsable et les accuse de se diriger vers une « superintelligence capable de s’auto-améliorer ».
Selon Axios, Coxon a également quitté Anthropic environ deux mois avant l’acquisition prévue d’une partie de ses stock-options. Il déclarait alors ne plus avoir d’intérêt financier à défendre la valorisation de l’entreprise.
Son départ est important pour une autre raison.
Anthropic est précisément l’un des laboratoires ayant construit son identité autour de la sécurité et de l’alignement de l’intelligence artificielle.
Lorsqu’un chercheur quitte une entreprise de ce type parce qu’il estime que le rythme de développement devient incompatible avec la sécurité, la question ne peut donc pas être réduite à une opposition entre « pro-IA » et « anti-IA ».
La controverse se situe désormais à l’intérieur même des organisations qui développent les modèles.
Un troisième départ de Google DeepMind, mais une précision importante
Plusieurs articles évoquent désormais « trois chercheurs démissionnant en une semaine ».
La réalité chronologique est légèrement différente.
Bilal Chughtai indique avoir quitté Google DeepMind en juillet 2026. Il n’a rendu publiques les raisons de son départ que le 14 septembre. Reuters confirme également que sa démission remonte au mois de juillet.
Josh Engels, autre membre de l’équipe consacrée à la sécurité de l’AGI chez Google DeepMind, explique de son côté avoir quitté l’entreprise environ trois semaines avant sa publication du 12 septembre pour rejoindre METR, une organisation spécialisée dans l’évaluation indépendante des modèles avancés.
Il est donc plus exact de parler de trois départs et prises de parole révélés publiquement en quelques jours, plutôt que de trois démissions ayant matériellement eu lieu pendant la même semaine.
Cette nuance ne diminue cependant pas l’importance du phénomène.
Engels explique avoir décliné des offres d’OpenAI et d’Anthropic pour rejoindre METR parce qu’il considère que les enjeux liés à la sécurité de l’IA sont devenus suffisamment élevés pour nécessiter davantage d’évaluations indépendantes.
Evan Hubinger : plus de 10 % de risque d’extinction selon son estimation personnelle
La réaction la plus spectaculaire à la démission de Jacob Coxon est peut-être venue d’un chercheur qui, lui, n’a pas quitté Anthropic.
Evan Hubinger, responsable de travaux consacrés à l’alignement, a publiquement soutenu une grande partie du diagnostic.
Il a déclaré estimer personnellement à plus de 10 % la probabilité qu’une IA entraîne l’extinction de l’humanité au cours des dix prochaines années.
Plus important encore, il reconnaît qu’Anthropic ne dispose pas actuellement d’un plan permettant de résoudre de manière certaine l’alignement d’une éventuelle superintelligence.
Il faut néanmoins interpréter correctement ce chiffre.
Ce « plus de 10 % » n’est pas le résultat d’une expérience permettant de mesurer scientifiquement une probabilité d’extinction.
Il s’agit de l’estimation personnelle d’un spécialiste travaillant sur le problème.
La distinction est essentielle.
Dario Amodei demande désormais de « ralentir la frontière »
Le débat a pris une dimension supplémentaire avec l’intervention de Dario Amodei.
Dans un long texte intitulé We Must Pace the Frontier, le PDG d’Anthropic explique que la stratégie traditionnelle consistant à développer simultanément capacités et sécurité ne lui semble plus suffisante.
Selon lui, il faut désormais ralentir volontairement l’amélioration des capacités afin de laisser davantage de temps aux recherches sur la sécurité.
Amodei propose notamment trois niveaux d’intervention.
Le premier consiste à installer des évaluateurs externes directement au sein des laboratoires, avec un niveau d’accès suffisamment important pour vérifier les pratiques de sécurité et documenter les incidents.
Le deuxième serait une coordination entre entreprises développant des modèles frontier afin d’établir des exigences de sécurité communes.
Le troisième implique éventuellement une coopération internationale beaucoup plus large.
Anthropic affirme vouloir appliquer unilatéralement la première mesure en accueillant des évaluateurs indépendants disposant d’un accès comparable à celui de certaines équipes internes.
C’est une évolution importante : le débat ne porte plus uniquement sur l’existence théorique d’un risque, mais sur la manière dont les laboratoires devraient être audités.
Le vrai problème : qu’est-ce que l’alignement d’une IA ?
L’alignement est souvent présenté de manière abstraite.
Le principe est pourtant relativement simple.
Une IA est dite alignée lorsque son comportement reste compatible avec les objectifs et contraintes voulus par les humains.
Avec un chatbot classique, une erreur d’alignement peut simplement produire une réponse incorrecte ou enfreindre une règle.
Avec un agent disposant d’un navigateur, d’un terminal, d’API, de moyens financiers ou d’accès à des infrastructures, les conséquences potentielles deviennent différentes.
La question centrale devient alors :
comment garantir qu’un système extrêmement performant continuera à suivre nos intentions lorsqu’il sera capable d’agir de manière autonome ?
La difficulté augmente encore si le système devient capable de détecter qu’il est évalué, de dissimuler certains comportements ou d’exploiter des failles dans les tests utilisés pour mesurer sa sécurité.
C’est précisément l’un des domaines étudiés par Chughtai lorsqu’il travaillait sur la détection de tromperie stratégique.
Le rapport international sur la sécurité de l’IA apporte une nuance essentielle
Il serait néanmoins incorrect de conclure que les IA actuelles sont sur le point d’échapper au contrôle humain.
Le rapport international sur la sécurité de l’IA 2026, dirigé par Yoshua Bengio et produit avec plus d’une centaine de spécialistes, fournit probablement la meilleure synthèse disponible sur cette question.
Sa conclusion est beaucoup plus nuancée.
Les systèmes actuels présentent certaines capacités pouvant être pertinentes pour de futurs scénarios de perte de contrôle : autonomie, planification, détection des situations de test ou exploitation de failles dans les évaluations.
Mais ils ne possèdent pas aujourd’hui l’ensemble des capacités nécessaires pour provoquer une perte de contrôle globale.
Le rapport précise notamment que les agents actuels restent fragiles lorsqu’ils doivent exécuter de longues séquences autonomes et gérer des obstacles imprévus.
Autrement dit :
« une IA pourrait un jour provoquer une catastrophe existentielle » et « les IA actuelles peuvent provoquer l’extinction humaine » sont deux affirmations très différentes.
La première fait l’objet d’un débat scientifique sérieux.
La seconde n’est pas soutenue par l’état actuel des preuves.
Les experts eux-mêmes restent profondément divisés
C’est probablement l’élément le plus important à retenir.
Il n’existe actuellement aucun consensus permettant d’attribuer une probabilité précise à un scénario d’extinction provoqué par l’IA.
Le rapport international 2026 souligne explicitement que les opinions des chercheurs varient considérablement.
Certains spécialistes estiment qu’une perte de contrôle pourrait aller jusqu’à la marginalisation ou à l’extinction de l’humanité.
D’autres considèrent ces scénarios comme hautement improbables ou pensent que les mécanismes de surveillance empêcheront les systèmes d’atteindre ce niveau d’autonomie.
Des chercheurs comme Gary Marcus ou Alan Woodward ont également contesté ces dernières alertes, estimant que certains scénarios attribuent aux systèmes futurs des capacités qui restent largement hypothétiques.
Cette opposition est saine.
Un risque extrêmement grave ne doit pas être ignoré simplement parce que sa probabilité est difficile à mesurer.
Mais une hypothèse catastrophique ne doit pas non plus être présentée comme un événement établi.
Pourquoi cette séquence de septembre 2026 est malgré tout importante
En suivant quotidiennement l’évolution des modèles d’IA, ce qui me frappe dans cette séquence n’est finalement pas la formule « l’IA pourrait tous nous tuer ».
C’est le changement de nature du débat.
Pendant longtemps, les discussions sur le risque existentiel provenaient surtout d’universitaires, d’organisations spécialisées dans la sécurité ou de chercheurs travaillant en périphérie des grands laboratoires.
En septembre 2026, certaines des alertes viennent directement de personnes ayant travaillé sur la sécurité, l’interprétabilité ou le pré-entraînement au sein de Google DeepMind, Anthropic et OpenAI.
Dans le même temps, le dirigeant d’un des principaux laboratoires mondiaux demande lui-même davantage d’évaluations externes et un ralentissement conditionnel du développement.
Cela ne démontre pas qu’une catastrophe est imminente.
Cela indique en revanche que le problème de l’alignement n’est plus une discussion philosophique lointaine.
Il devient une question d’ingénierie, de gouvernance et de contrôle industriel.
Conclusion : ne pas confondre signal d’alarme et preuve d’une catastrophe
Les déclarations de Bilal Chughtai, Jacob Coxon, Josh Engels ou Evan Hubinger doivent être prises au sérieux en raison de leur proximité avec la recherche de pointe.
Mais elles doivent également être présentées avec précision.
Bilal Chughtai n’a pas quitté DeepMind cette semaine : il est parti en juillet et vient seulement d’expliquer publiquement ses motivations.
Josh Engels avait déjà quitté DeepMind plusieurs semaines avant son message.
Evan Hubinger n’a pas démissionné d’Anthropic.
Et aucune étude scientifique n’établit aujourd’hui qu’une IA dispose de 10 %, 20 % ou 50 % de chances mesurables d’exterminer l’humanité.
Ce que nous savons est plus intéressant.
Les capacités agentiques progressent rapidement. Certains comportements liés à la tromperie, au contournement des évaluations ou à l’autonomie sont désormais observables expérimentalement. Les techniques permettant de comprendre et contrôler complètement ces systèmes restent imparfaites. Et des chercheurs directement impliqués dans leur développement considèrent que l’écart entre capacités et sécurité devient préoccupant.
La véritable question n’est donc probablement pas :
« Est-ce que l’IA va nous tuer ? »
La question utile est :
sommes-nous capables de construire des systèmes toujours plus autonomes sans laisser leurs capacités progresser plus vite que notre aptitude à les comprendre, les tester et les contrôler ?
En 2026, personne ne dispose encore d’une réponse définitive.
Et c’est précisément pour cette raison que cette série de départs mérite notre attention.
- Risque existentiel de l’IA : trois chercheurs quittent les géants
- 50 prompts ChatGPT pour chefs de projet : le guide 2026
- GPT-6 Astra : performances, prix et risques cyber du nouvel agent IA d’OpenAI
- NVIDIA rachète Hugging Face : ce que l’accord à 12,93 Md$ change pour l’IA ouverte
- Gemini 3.8 Flash : prix, performances et version Cyber face à GPT-5.6 et Claude Opus 5
