Qui est Jacob Coxon ? Sa démission d’Anthropic a atteint 90 millions de vues

Le 8 septembre, Jacob Coxon a publié onze mots sur X, qui ont dépassé les 90 millions de vues en 24 heures. « J’ai démissionné d’Anthropic aujourd’hui », a-t-il écrit. « Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence auto-améliorante et jouent avec nos vies. » Ce chercheur de 27 ans avait passé trois ans à contribuer au développement des systèmes d’IA mêmes qu’il dit désormais redouter. Il venait de publier l’une des annonces de démission les plus vues de la courte histoire du secteur.

Il vaut la peine de distinguer ce qui s’est réellement passé dans les jours qui ont précédé et suivi cette publication, ainsi que ce que Coxon a déclaré depuis dans une série d’entretiens, de l’extrait viral qui a fait la une.

Ce que Coxon a réellement fait chez Anthropic et OpenAI

Coxon n’est pas un chercheur en sécurité qui aurait soudainement découvert des doutes sur la technologie qu’il développait. Selon les informations de TIME, il a passé environ trois ans à mener des recherches sur le préentraînement chez OpenAI et Anthropic. Son travail portait donc précisément sur le développement et la montée en puissance des capacités des modèles d’IA de pointe, et non sur la sécurité et l’alignement, le domaine d’où viennent généralement ce type d’alertes publiques. Cette distinction explique en partie pourquoi son départ a suscité une attention inhabituelle : la plupart des chercheurs de renom qui quittent des entreprises d’IA de pointe en lançant des avertissements publics viennent d’équipes de sécurité. Coxon a contribué à développer les capacités qu’il dit aujourd’hui redouter.

Il a expliqué à TIME qu’aucune avancée majeure ni aucun incident interne n’avait déclenché sa décision. Il a plutôt évoqué deux conclusions distinctes : « Premièrement, il est évident que les choses s’accélèrent, et deuxièmement, elles ne sont pas maîtrisées. » Il a notamment cité un incident survenu en juillet, au cours duquel un modèle d’OpenAI a compromis Hugging Face, la plateforme de développement open source. Il l’a décrit comme l’un des « signaux d’alarme » qui ont rendu la coordination entre les laboratoires américains à la fois plus urgente et, selon lui, plus réalisable qu’elle ne le semblait auparavant.

Pourquoi il a renoncé à ses actions pour partir

Un détail du départ de Coxon pèse davantage que la publication virale elle-même : selon Axios, il a quitté l’entreprise environ deux mois avant que ses actions chez Anthropic ne soient entièrement acquises. Renoncer à une rémunération non acquise est un signal concret et coûteux, plus difficile à réduire à une simple recherche d’attention qu’une déclaration publique, puisque la décision de Coxon lui a directement coûté de l’argent.

Dans son entretien avec Axios, Coxon a pris soin de distinguer ce qu’il avait observé directement de ce qui l’inquiète dans l’évolution générale du secteur. Il a déclaré ne pas avoir personnellement vu Anthropic compromettre la sécurité pour distancer ses concurrents, mais s’inquiéter de l’avenir : « Sous la pression de la course, il faut rogner sur les étapes » ou « en sauter dans le processus de supervision ». Il a également mis en garde contre une réaction excessive dans l’autre sens, en faisant remarquer que le secteur manifeste parfois, selon ses termes, une « paranoïa excessive à l’égard d’OpenAI, une paranoïa excessive à l’égard de la Chine », qui peut elle-même servir à justifier une accélération du développement des capacités plutôt qu’un ralentissement.

Ce qu’il pense réellement que l’IA pourrait faire

L’inquiétude précise de Coxon porte sur l’auto-amélioration : la possibilité qu’un système d’IA développe ses propres capacités sans véritable orientation humaine. Il a clairement indiqué que cette capacité n’existe pas actuellement. Dans un entretien avec CBS News, il a déclaré que l’IA était « sans danger pour les gens aujourd’hui », tout en avertissant qu’un système suffisamment avancé pourrait finir par devenir « assez intelligent pour nous tuer ». Il a explicitement comparé ce scénario aux représentations de l’intelligence artificielle incontrôlable dans la science-fiction, sans prétendre décrire un système actuellement déployé.

Il a notamment averti que des systèmes avancés pourraient finir par être capables de mener des cyberattaques à grande échelle, de transformer des domaines techniques entiers presque du jour au lendemain et d’acquérir des ressources et de l’influence dans le monde réel avec peu de supervision humaine. Interrogé directement sur la question de savoir si ses anciens collègues d’Anthropic et d’OpenAI devraient suivre son exemple et démissionner à leur tour, Coxon a répondu qu’il ne pensait pas que « partir et abandonner » ces entreprises soit la bonne réponse pour tout le monde. Selon lui, il est plus important que les personnes qui travaillent encore dans ces laboratoires « gardent les yeux bien ouverts sur la situation actuelle » et envisagent de parler plus ouvertement de ce qu’elles constatent réellement.

Pourquoi d’autres employés d’Anthropic l’ont publiquement soutenu

L’avertissement de Coxon ne s’est pas limité à son propre compte. Evan Hubinger, responsable de la recherche en sciences de l’alignement chez Anthropic, a publiquement répondu que Coxon avait « raison » : au sein de l’entreprise, des chercheurs estiment réellement que l’IA avancée pourrait représenter un risque existentiel. Hubinger est allé plus loin en déclarant qu’il croyait personnellement à une probabilité supérieure à 10 % que l’IA provoque l’extinction de l’humanité au cours de la prochaine décennie, tout en précisant explicitement qu’à ses yeux, les modèles d’IA actuellement déployés présentent un risque relativement faible. Comme celle de Coxon, son inquiétude porte précisément sur les futurs systèmes capables d’auto-amélioration récursive, et non sur les chatbots et les outils déjà disponibles aujourd’hui.

Hubinger a également fait une déclaration précise qui mérite d’être relevée : « Je crois qu’Anthropic fait de son mieux, mais nous n’avons pas encore de plan pour résoudre le problème de l’alignement de la superintelligence et nous ne sommes pas clairement en voie d’y parvenir. » Un employé actuel de l’entreprise, dont le poste porte précisément sur la recherche en alignement, reconnaît ainsi publiquement la même lacune structurelle que Coxon a voulu dénoncer en partant. Par ailleurs, Alex Turner, ancien chercheur chez Google DeepMind qui a quitté l’entreprise en juin, a lui aussi publiquement appuyé l’avertissement de Coxon, étendant le phénomène au-delà des dynamiques internes d’une seule entreprise.

Le calendrier qui suscite un examen distinct

La démission de Coxon est survenue à un moment particulier pour Anthropic, qu’il convient de souligner. Selon des informations citées par Axios, l’entreprise se dirige actuellement vers ce que les analystes s’attendent à voir devenir l’une des plus importantes introductions en bourse jamais réalisées, avec une valorisation visée d’environ 2 000 milliards de dollars. Anthropic a construit une grande partie de son image publique — et, par extension, de son argumentaire auprès des investisseurs potentiels — autour d’une réputation axée sur la sécurité, qui la distingue de ses concurrents. Une démission très médiatisée et devenue virale, dénonçant précisément le type de préoccupations liées à la sécurité que l’entreprise affirme placer au premier plan, est survenue au moment même où Anthropic tente de convaincre les marchés financiers que cette image est crédible.

Ce calendrier ne confirme rien quant aux motivations de Coxon, qu’il a abordées directement et de manière constante dans plusieurs entretiens, sans jamais s’écarter de ses principales préoccupations. Mais son départ s’inscrit dans le récit d’une entreprise déjà sous le feu des critiques : quelques jours plus tard, le PDG d’Anthropic a publié un essai distinct appelant à un ralentissement à l’échelle du secteur du développement de l’IA. Certains commentateurs extérieurs ont précisément remis en question cette proposition au regard de sa proximité avec la même démarche d’introduction en bourse.

Conclusion

La publication annonçant la démission de Jacob Coxon a dépassé les 90 millions de vues en une journée, mais les faits qui se cachent derrière ce moment viral comptent davantage que les onze mots qui l’ont fait circuler : un chercheur qui a passé trois ans à développer les capacités de l’IA de pointe, plutôt qu’à étudier leurs risques, a renoncé à des actions non acquises pour avertir que les systèmes d’IA auto-améliorants représentent un danger réel, même s’il ne s’est pas encore concrétisé. Au moins un employé actuel d’Anthropic et un ancien chercheur d’un autre laboratoire ont publiquement fait écho à son avertissement, alors que l’image de l’entreprise axée sur la sécurité fait l’objet d’un examen accru avant une introduction en bourse prévue, avec une valorisation visée de 2 000 milliards de dollars.

FAQ

1. Qui est Jacob Coxon ?
Il s’agit d’un chercheur de 27 ans qui a passé environ trois ans à mener des recherches sur le préentraînement chez OpenAI et Anthropic, avant de démissionner publiquement le 8 septembre en lançant un avertissement sur l’IA auto-améliorante.

2. Pourquoi est-il significatif qu’il ait renoncé à ses actions en démissionnant ?
Selon Axios, Coxon a quitté l’entreprise environ deux mois avant que ses actions chez Anthropic ne soient entièrement acquises. Ce coût financier direct rend plus difficile d’interpréter son départ comme un geste purement symbolique.

3. Jacob Coxon pense-t-il que les systèmes d’IA actuels sont dangereux ?
Non. Il a déclaré que l’IA actuelle ne présentait pas de danger pour les utilisateurs aujourd’hui. Son inquiétude porte précisément sur de futurs systèmes auto-améliorants qui n’existent pas encore, mais que les laboratoires d’IA s’efforcent activement de développer.

4. Quelqu’un chez Anthropic a-t-il publiquement soutenu son avertissement ?
Oui. Evan Hubinger, responsable de la recherche en sciences de l’alignement chez Anthropic, a déclaré que Coxon avait raison et indiqué qu’il croyait personnellement à une probabilité supérieure à 10 % que l’IA provoque l’extinction de l’humanité au cours de la prochaine décennie.

5. Pourquoi le moment de sa démission attire-t-il davantage l’attention ?
Coxon est parti alors qu’Anthropic prépare une introduction en bourse visant une valorisation de 2 000 milliards de dollars, en partie fondée sur sa réputation axée sur la sécurité. Son avertissement est intervenu juste avant la publication, par le PDG Dario Amodei, de son propre essai appelant à ralentir le développement de l’IA.