« L’IA pourrait tous nous tuer d’ici la fin de la décennie » : ce chercheur claque la porte d’OpenAI et Anthropic
Il avait quitté OpenAI pour rejoindre Anthropic, persuadé de rejoindre le camp des prudents. Mauvaise pioche. Jacob Coxon, chercheur britannique de 27 ans, vient de claquer la porte de l’industrie de l’intelligence artificielle dans un message qui a fait l’effet d’une bombe sur X. Ce qu’il révèle sur l’état d’esprit réel des ingénieurs qui construisent ces技nologies dépasse largement le simple malaise professionnel.
Trois ans au cœur du réacteur, puis le déclic
Pendant trois ans, Jacob Coxon a travaillé sur le pré-entraînement, cette phase où les modèles d’IA avalent des quantités astronomiques de données pour apprendre à raisonner. D’abord chez OpenAI, puis cette année chez Anthropic, son grand concurrent qui se présente comme le laboratoire le plus soucieux de sécurité du secteur.
Sauf que la réalité qu’il décrit ne colle pas avec cette image. « Aucune des deux entreprises n’agit de manière responsable », a-t-il écrit, accusant les deux géants de foncer vers une superintelligence capable de s’améliorer elle-même sans garde-fou. Un scénario que la justice américaine commence déjà à examiner de près sur d’autres dossiers liés à l’IA.
Sa phrase choc résume tout : « Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup marketing. » Un aveu venu de l’intérieur, pas d’un lanceur d’alerte extérieur au milieu.
Et la suite va confirmer que Coxon n’est pas isolé dans ce constat, loin de là. Ce climat de course effrénée n’est d’ailleurs pas sans rappeler d’autres dérapages récents liés à l’IA grand public.
Même chez Anthropic, on chiffre le risque à plus de 10%
C’est là que l’histoire devient vraiment troublante. Evan Hubinger, responsable de la sûreté chez Anthropic, a répondu publiquement à Coxon pour lui donner raison. « Nous croyons vraiment sincèrement que l’IA pourrait tuer tous les humains », a-t-il écrit noir sur blanc.
Hubinger estime ce risque à titre personnel à « plus de 10% » sur la décennie à venir. Un chiffre énoncé par un cadre de l’entreprise elle-même, pas par un critique externe. Il précise qu’Anthropic fait « de son mieux » mais n’a « pas encore de plan » garantissant qu’une IA plus intelligente que l’humain continue d’obéir à ses concepteurs.
Cette confession tombe à un moment sensible : Anthropic prépare une entrée en Bourse colossale, après un été marqué par des piratages menés sans autorisation par des outils d’IA en phase de test, dans plusieurs laboratoires concurrents. Sollicitées par l’AFP, les deux entreprises n’ont pas réagi dans l’immédiat. Un silence qui, dans ce contexte, en dit presque autant que les déclarations de Coxon et Hubinger.
« Crunchtime » et « endgame » : le jargon glaçant des ingénieurs
Selon Jacob Coxon, ses anciens collègues emploient en interne les mots « crunchtime » (moment décisif) et « endgame » (fin de partie) pour décrire la trajectoire actuelle de l’industrie. Un vocabulaire qui sonne comme celui d’un compte à rebours, pas d’un simple planning produit.
Il juge les efforts d’Anthropic sincères, mais estime qu’aucune entreprise ne peut développer seule une IA surpassant l’humain sans intervention des États ou un ralentissement coordonné du secteur. « Ils pensent que personne d’autre n’agira de façon responsable, donc qu’ils doivent le faire eux-mêmes, malgré le risque », résume-t-il.
Signe que cette inquiétude dépasse le cas isolé : en février, Anthropic a retiré de sa charte de sûreté l’engagement de suspendre ses modèles en cas de risque incontrôlé, invoquant la crainte de laisser le champ libre aux acteurs moins prudents.
Plusieurs chercheurs d’autres entreprises ont depuis apporté leur soutien à Coxon sur X, relayant une lettre ouverte signée en juillet par plus d’un millier de professionnels appelant à ralentir la cadence et à construire des modèles moins dangereux.
Un chercheur claque la porte, un responsable sécurité valide ses craintes en public : la course à la superintelligence n’a jamais semblé aussi incontrôlée. Reste une question qui plane désormais sur tout le secteur : qui, des gouvernements ou des laboratoires eux-mêmes, osera vraiment appuyer sur le frein ?