IA et extinction de l'humanité : le danger à 2 000 milliards de dollars ?

Science sans conscience n'est que ruine de l'âme. Rabelais ne croyait pas si bien dire, cinq siècles avant l'arrivée de l'intelligence artificielle*.* Sam Altman, Geoffrey Hinton, Barack Obama, l'ONU et même Vitalik Buterin s'alarment tous, sur le papier, du même danger. Celui d'une intelligence artificielle qui échapperait à tout contrôle. Sauf que dès qu'on gratte, plus personne ne parle de la même chose. L'un redoute l'extinction de l'espèce humaine. L'autre la disparition de millions d'emplois, la concentration du pouvoir dans trois entreprises américaines. Ou simplement que son voisin chinois prenne trop d'avance. Un même mot, alerte, recouvre trois logiques qui n'ont presque rien en commun, sinon le vocabulaire qu'elles empruntent.
Les points clés de cet article :

• Plusieurs figures influentes, dont Sam Altman et Geoffrey Hinton, ont exprimé leur inquiétude face à l'éventualité d'une intelligence artificielle échappant au contrôle humain.
• Un débat persistant oppose ceux qui craignent l'extinction de l'espèce humaine à cause de l'IA et ceux qui se préoccupent des conséquences immédiates sur l'emploi et les biais algorithmiques.

Extinction ou emplois détruits : l'intelligence artificielle ne fait pas peur pour les mêmes raisons

En mars 2023, leCenter for AI Safety, institut de recherche californien. Il fait signer une phrase unique à plus de 350 dirigeants et chercheurs. Elle érige la lutte contre le risque d'extinction lié à l'IA au rang de priorité mondiale. Même niveau que les pandémies ou la guerre nucléaire.

Parmi les signataires, Sam Altman, Demis Hassabis et Dario Amodei. Ces trois patrons dirigent justement les laboratoires les plus avancés du secteur, à savoir respectivement OpenAI, Google DeepMind et Anthropic. Geoffrey Hinton et Yoshua Bengio, qui ont posé les bases du deep learning il y a vingt ans, signent aussi.

Deux ans et demi plus tard. En octobre 2025, leFuture of Life Institute pousse le curseur plus loin avec son Statement on Superintelligence. Et là, encore une fois, plus de 800 signatures, dont celles de Steve Wozniak, de Richard Branson et du prince Harry. Ils réclament une interdiction du développement d'une superintelligence tant qu'un consensus scientifique et une acceptation publique ne garantissent pas sa sécurité. Bengio est encore de la partie.

À côté de ces deux textes, une autre famille de chercheurs travaille depuis des années sur un tout autre registre. Celui des biais algorithmiques dans le recrutement ou la justice prédictive. Il s'agit aussi de la précarisation de métiers entiers, et de la poignée d'entreprises américaines qui concentrent la puissance de calcul mondiale. Pour ce camp, souvent regroupé sous l'étiquette de l'éthique de l'IA, parler d'extinction humaine détourne l'attention de dégâts déjà mesurables, ceux qui touchent des travailleurs précis, aujourd'hui, pas une humanité abstraite dans cinquante ans. Les deux camps utilisent le mot risque, mais ils ne parlent pas du même risque.

Altman et Musk : le pompier pyromane

Reprenons nos bonnes âmes signataires. Sam Altman signe le texte du Center for AI Safety en mai 2023. La même année, OpenAI lève 10 milliards de dollars auprès de Microsoft et entame la course au modèle le plus puissant du marché.

En 2026, l'entreprise dépose son dossier d'entrée en bourse sans jamais lever le pied sur la course à la puissance de calcul. Or, justement lorsque nous écrivons cet article, elle annonce ce matin même faire marche arrière pour cette année. Alerter sur l'extinction de l'espèce et courir après la prochaine levée de fonds force cette ambiguïté.

Elon Musk n'est pas en reste. En mars 2023, il cosigne aussi la lettre du Future of Life Institute. Elle réclame une pause de six mois sur l'entraînement des modèles les plus puissants. Quatre mois plus tard, xAI voit le jour. Grok, son modèle, tourne aujourd'hui sur l'un des plus gros clusters de calcul jamais assemblés. La pause, personne ne l'a jamais appliquée.

Chez Anthropic, Dario Amodei publie régulièrement des textes qui détaillent, chiffres à l'appui. Il y détaille les scénarios dans lesquels un modèle frontière pourrait échapper au contrôle de ses créateurs. Au même moment, Anthropic vise une valorisation record pour son introduction en bourse. Et l'entreprise a remporté un bras de fer très commenté face au Pentagone sur l'usage militaire de ses propres modèles.

On serait presque tenté d'y voir un remake du Projet Manhattan. Les physiciens qui avaient construit la bombe furent aussi les premiers. Une fois Hiroshima et Nagasaki rayées de la carte, ils réclament un contrôle international de l'arme qu'ils venaient de livrer. La comparaison a ses limites. Oppenheimer n'a jamais négocié une part de royalties sur le plutonium. Les trois patrons de l'IA alertent tout en actionnant, chaque trimestre, une machine à lever des capitaux.

We Must Pace the Frontier: I've written a new essay on why the AI industry should slow down, with a three-part plan for doing so.

Anthropic is unilaterally committing to the first of these steps. We'll provide third-party evaluators with permanent, employee-level access to our... --- Dario Amodei (@DarioAmodei) September 12, 2026 << Nous devons repousser les limites : j'ai rédigé un nouvel essai expliquant pourquoi l'industrie de l'IA devrait ralentir, et proposant un plan en trois points pour y parvenir. Anthropic s'engage unilatéralement à mettre en œuvre la première de ces étapes. Nous accorderons à des évaluateurs tiers un accès permanent, équivalent à celui de nos employés, à nos systèmes. Ils pourront ainsi vérifier le respect de nos mesures de sécurité, signaler les incidents et évaluer la cohérence des modèles pendant leur entraînement. >>

Dario Amodei

Obama, Trump, Pékin : la course à l'intelligence artificielle déguisée en cadre de sécurité

Face à cette course interminable le politique s'en mêle. Barack Obama presse les démocrates américains de se doter d'un plan clair sur l'IA. Il appelle aussi, selon le New York Times, à une forme de prudence face à la vitesse du déploiement des modèles. La sortie tombe alors que l'administration Trump pousse dans le sens exactement inverse. Un décret présidentiel vise à empêcher chaque État américain de légiférer de son côté sur l'IA, au nom d'un unique cadre fédéral, plus permissif. Un précédent décret de Trump promettait déjà de marier sécurité et innovation. Dans les faits, le curseur penche nettement vers la seconde option.

Côté chinois, le discours officiel emprunte le même vocabulaire qu'Obama ou que le Future of Life Institute. Lors du sommet mondial sur l'IA de Shanghai en 2026, Pékin signe une déclaration en faveur d'une gouvernance mondiale coordonnée du secteur. Dans le même temps, une entreprise chinoise est accusée d'avoir pillé les modèles d'Anthropic pour rattraper son retard, ce qui a valu une riposte de Washington. La coopération affichée et la course technologique réelle avancent sur deux rails qui ne se croisent jamais.

L'Union européenne a choisi la voie inverse, contraindre par la loi avec l'AI Act, entré en application par étapes depuis 2024. Bruxelles régule pourtant un marché où elle ne possède ni les modèles ni les centres de données les plus puissants. Washington et Pékin financent l'IA. L'Europe la commente.

Miroir, mon beau miroir, qui est la plus belle IA ?

En juillet 2026, la Commission fédérale des communications (FCC) autorise Reflect Orbital. Cette start-up américaine va tester un miroir géant en orbite basse. Il est capable de renvoyer la lumière du soleil vers un point précis de la Terre, la nuit. L'objectif affiché est de vendre du soleil à la demande à des exploitants agricoles ou à des chantiers qui veulent prolonger leurs journées de travail. Des astronomes, des biologistes et plusieurs associations de défense du ciel nocturne alertent depuis des mois. Ils redoutent la pollution lumineuse que provoquerait un déploiement à grande échelle. Ils pointent aussi la perturbation des cycles de sommeil de la faune, et les images d'observatoires qui deviendraient inutilisables. La CBC a documenté les zones d'ombre juridiques du dossier. Aucune loi internationale ne régit vraiment qui a le droit de modifier la nuit d'un pays voisin depuis l'espace. La FCC a validé le projet quand même.

Rien à voir avec un modèle de langage, en apparence. Le même mécanisme est pourtant à l'œuvre des deux côtés. Une communauté scientifique alerte, documente, chiffre le risque. Une entité privée, soutenue par un régulateur qui a le dernier mot, avance malgré tout, parce qu'elle en a la capacité technique et le financement. L'alerte n'a jamais été le problème. Le problème, c'est que personne, ni les 800 signataires du Future of Life Institute, ni les chercheurs du Center for AI Safety, ni Barack Obama, n'a le pouvoir de dire stop à ceux qui décident d'appuyer sur le bouton.

Reflect Orbital et l'IA : le même mécanisme de pouvoir

C'est là que la comparaison avec Reflect Orbital devient plus utile que n'importe quel parallèle avec la bombe atomique. Un miroir en orbite et un modèle de fondation à plusieurs centaines de milliards de paramètres n'ont, sur le papier, rien en commun. Ils partagent pourtant la même structure de décision. Une poignée d'acteurs privés, un régulateur qui les autorise plus souvent qu'il ne les freine. Cette masse de textes d'alerte qui s'accumulent sans jamais peser sur le calendrier de déploiement. La FCC a mis quelques mois à trancher sur Reflect Orbital. Cela fait trois ans que les mêmes textes circulent sur l'IA, sans qu'aucun laboratoire n'ait ralenti d'un cran sa feuille de route.

L'ONU a elle-même reconnu, dans un rapport publié cette année, que l'IA pourrait provoquer des dommages catastrophiques si aucun mécanisme de contrôle contraignant ne voit le jour d'ici la fin de la décennie. Le texte n'a aucune valeur légale. Aucun État n'est tenu de l'appliquer.

Reflect Orbital doit lancer son premier miroir test avant la fin de l'année. Les laboratoires d'IA ont déjà programmé leurs prochains modèles pour 2027. Les textes d'alerte, eux, continueront de s'accumuler sur des bureaux de gens qui n'ont jamais eu le pouvoir de les faire appliquer.