Google affirme que l'IA ne s'auto-construit pas encore, même si elle écrit 75 % du code

Google DeepMind a cherché des preuves que l'IA accélère le développement de l'IA elle-même. Elle n'en a trouvé aucune.

Dans le rapport de sécurité pour Gemini 4 Argon, son modèle le plus puissant, le laboratoire a conclu que la recherche en IA ne progresse pas plus rapidement, même si l'IA écrit désormais la plupart du code que les ingénieurs de DeepMind livrent.

Cette découverte contredit le scénario qui a effrayé les dirigeants de l'IA, les incitant à appeler à un ralentissement. Cela s'appelle l'amélioration auto-récursive : une IA construit une version plus intelligente d'elle-même, qui en construit une encore plus intelligente, jusqu'à ce que le progrès dépasse la capacité de quiconque à tester, réguler ou l'éteindre - ce que le rapport appelle "une situation où les garde-fous existants sont gravement inadéquats."

"Il n'y a actuellement aucune accélération significative de bout en bout de la R&D ML, qu'elle soit pilotée par l'IA ou non," a écrit Haydn Belfield, un chercheur de Google DeepMind qui a travaillé sur l'évaluation, dans un fil sur X. "Nous concluons donc que le risque provenant de la R&D ML pilotée par l'IA est actuellement faible."

La R&D ML est l'abréviation de recherche et développement en apprentissage automatique, le travail de construction de nouveaux modèles d'IA.

1/9

Dans le rapport de sécurité et de sûreté de Gemini 4 Argon, nous avons publié notre première évaluation empirique holistique de l'automatisation et de l'accélération de la R&D ML au sein de Google DeepMind - combinant des benchmarks de capacité, un indice de capacité macro, des données sur le code écrit par l'IA et des résultats de trajectoire, et... pic.twitter.com/Vr8Q5Obbsp

--- Haydn Belfield (@HaydnBelfield) 14 octobre 2026

DeepMind suit la question car "l'IA pourrait accélérer les gains de capacité de pointe plus rapidement que la sécurité, la gouvernance et l'adaptation sociétale ne peuvent suivre," a écrit Belfield. Plus d'automatisation signifie également donner aux agents IA un accès plus large aux systèmes de l'entreprise, laissant plus de place à un modèle mal aligné (celui poursuivant des objectifs que ses créateurs n'avaient jamais envisagés) pour causer des problèmes.

Pour mesurer les progrès, l'équipe a construit GCI v1, un indice interne qui mélange les scores de 123 modèles d'IA à travers 92 benchmarks en un seul nombre par modèle - pensez-y comme un score de QI pour l'IA. "Les capacités de pointe de Gemini se sont améliorées à un rythme remarquablement constant d'environ 0,1 point GCI par mois," a écrit Belfield.

Dans le graphique de cet indice du rapport, Gemini 1.5 Pro se situe près de 0,5 points fin 2024 et Gemini 3.8 Flash juste au-dessus de 2,9 en septembre 2026, avec presque chaque version suivant une ligne droite. Argon est le seul point qui dépasse, à environ 3,3, bien que sa barre d'erreur (la plage dans laquelle son score réel pourrait plausiblement tomber) s'étende suffisamment bas pour toucher la tendance.

"Bien que Gemini 4 Argon soit au-dessus de [la] tendance, nous attribuons cela à une augmentation des investissements en calcul et organisation plutôt qu'à un reflet de l'accélération pilotée par l'IA," a écrit Belfield. Google a dévoilé Gemini 4 Argon le 30 septembre.

La plupart du code de production chez DeepMind est désormais écrit à plus de 75 % par l'IA, et la part des demandes de tir entièrement déléguées (ensembles de modifications de code soumises pour révision avant leur mise en ligne) est passée de 7,5 % à 11,9 % entre avril et septembre. Mais "environ 88 % des demandes de tir nécessitent encore une orientation humaine multi-tours ou une paternité humaine du code - et les modifications de code restent soumises à une révision humaine avant soumission," a écrit Belfield.

Une enquête auprès de 12 dirigeants et chercheurs seniors de DeepMind a révélé que l'automatisation est la plus élevée dans "les tâches d'exécution bien spécifiées et vérifiables et la plus basse dans l'idéation scientifique ouverte, la conception expérimentale novatrice, le diagnostic des instabilités d'entraînement subtiles et le goût de la recherche à long terme." En termes simples, l'IA est excellente pour exécuter des instructions et mauvaise pour décider quelles idées valent la peine d'être poursuivies.

DeepMind a également examiné 1 389 journaux d'Argon travaillant comme agent au sein de l'entreprise. Plus la tâche est grande, moins le modèle est susceptible de la terminer seul et plus souvent un humain intervient.

Le rapport est paru un mois après que le PDG d'Anthropic, Dario Amodei, a soutenu que l'amélioration auto-récursive est déjà en train d'accélérer, un avertissement que Sam Altman et Elon Musk ont soutenu et qui a fait chuter les actions de puces de près de 6 %. Quelques jours plus tôt, l'ancien ingénieur d'Anthropic, Jacob Coxon, avait quitté l'industrie, avertissant que l'IA pourrait "nous tuer tous d'ici la fin de la décennie."

Les chiffres de DeepMind ne couvrent que son propre laboratoire, et le même rapport indique qu'il ne peut pas exclure qu'un Argon sans restrictions franchisse ses seuils de danger pour les cyberattaques et les informations sur les armes biologiques.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.