Auto-amélioration récursive de l'IA : c'est quoi, et pourquoi tout le monde en parle ?

Résumé

• En juin 2026, Anthropic publie « When AI Builds Itself » et révèle que Claude rédige déjà plus de 80 % du code fusionné dans sa propre base de production, un signal direct vers l'auto-amélioration récursive.
• OpenAI vise l'automatisation complète de la recherche en IA pour mars 2028 pendant que plus de 1 100 salariés d'OpenAI, Anthropic, Google et Meta réclament, dans la lettre « Pacing the Frontier » de juillet 2026, un mécanisme international de ralentissement.
• Une boucle qui se nourrit de ses propres productions perd en diversité : l'étude publiée dans Nature en 2024 décrit l'effondrement des modèles, et une étude de 2026 estime qu'environ 35 % des nouveaux sites de mi-2025 sont générés ou assistés par IA.
• La modération de contenu en ligne démontre depuis plusieurs années ce que confirment aujourd'hui les alertes des géants de l'IA : la combinaison entre automatisation et expertise humaine produit des résultats plus fiables qu'une IA laissée seule face à la décision.
• Ces alertes divisent les experts : certains y voient une vraie urgence, d'autres soupçonnent une stratégie visant à faire adopter des règles de coordination qui avantageraient les acteurs américains déjà en place.

Depuis le printemps 2026, les dirigeants des plus grands laboratoires d'intelligence artificielle publient, coup sur coup, des mises en garde qui auraient semblé impensables trois ans plus tôt venant de leur propre bouche. Dario Amodei, cofondateur d'Anthropic, ouvre le bal le 12 septembre 2026 avec un essai appelant à ralentir le développement des capacités des modèles frontière. Sam Altman lui répond deux jours plus tard sur X, affirmant que l'industrie « pourrait perdre le contrôle du futur au profit de l'IA » et que ce scénario reste « inacceptable ». Ces déclarations prennent racine dans des faits précis : un rapport d'Anthropic publié en juin 2026, une lettre signée par plus de 1 100 employés des principaux laboratoires, et un incident de sécurité documenté impliquant un modèle d'OpenAI.

Ce contexte nouveau repose sur un phénomène précis, l'auto-amélioration récursive : une IA qui participe à la conception de ses propres successeurs.

L’IA qui fabrique l’IA

Le rapport d'Anthropic « When AI Builds Itself » et le seuil des 80 % de code auto-généré

Le 4 juin 2026, Anthropic publie un rapport intitulé « When AI Builds Itself », dans lequel l'entreprise affirme que Claude rédige désormais plus de 80 % du code fusionné dans sa propre base de production, contre une part marginale avant le lancement de Claude Code début 2025. Les ingénieurs d'Anthropic déploient environ huit fois plus de code par trimestre qu'il y a quelques années, une accélération que l'entreprise relie directement à l'usage de ses propres modèles pour développer les suivants. Le rapport formule un raisonnement simple : poussée à son terme, avec suffisamment de puissance de calcul, cette dynamique mène logiquement à un système capable de concevoir et développer intégralement son successeur, sans intervention humaine déterminante. Marina Favaro, de l'institut de recherche d'Anthropic, résume l'ambivalence de ce constat en expliquant que cette dynamique porte un potentiel de bénéfices considérables pour le monde, tout en créant des risques réels de perte de contrôle. Ce constat prend une valeur particulière venant d'une entreprise qui a construit sa réputation sur la sécurité de l'IA, et qui documente ici, avec ses propres métriques internes, la trajectoire qu'elle recommande simultanément de freiner.

OpenAI et la course affichée vers l'automatisation complète de la recherche en IA

Pendant qu'Anthropic documente sa propre accélération, OpenAI adopte une posture différente sur le même terrain : celle de l'objectif stratégique assumé plutôt que du risque à contenir. Jakub Pachocki, directeur de la recherche chez OpenAI, qualifie l'automatisation de la recherche en IA d'« objectif le plus important » pour l'entreprise, avec une feuille de route explicite : un « stagiaire virtuel » capable de mener des tâches de recherche en autonomie dès septembre 2026, puis une automatisation complète de la recherche en IA visée pour mars 2028. Cette différence de discours entre les deux laboratoires illustre une tension structurante du secteur, documentée par plusieurs médias spécialisés : les entreprises qui alertent publiquement sur les risques de l'auto-amélioration continuent, dans le même temps, à investir massivement pour l'atteindre les premières. Daniel Kokotajlo, ancien chercheur d'OpenAI aujourd'hui associé à des travaux de prospective sur les trajectoires de l'IA, note que certains observateurs jugent même ses propres échéances trop prudentes, un signe que le débat sur le calendrier reste loin d'être tranché parmi les experts eux-mêmes.

La lettre « Pacing the Frontier » : quand 1 100 salariés réclament un frein collectif

En juillet 2026, plus de 1 100 employés d'OpenAI, Anthropic, Google et Meta signent une lettre interne devenue publique, intitulée « Pacing the Frontier ». Le texte demande au gouvernement américain de soutenir un effort international pour construire les outils techniques et de gouvernance permettant de ralentir délibérément la frontière du développement de l'IA automatisée, si les capacités des systèmes progressent plus vite que la société ne parvient à les superviser. Il s'agit d'une demande d'infrastructure de coordination, pas d'un appel à l'arrêt immédiat, une nuance importante que plusieurs relais médiatiques ont initialement gommée. Fait notable, les entreprises employant ces signataires soutiennent la démarche dans la journée qui suit sa publication, ce qui distingue cette initiative des tribunes de chercheurs indépendants publiées par le passé. Des critiques, relayées par la presse spécialisée, soulignent toutefois qu'un tel mécanisme piloté depuis les États-Unis avantagerait mécaniquement les acteurs américains déjà en place, sans disposer de levier sur les modèles développés en dehors de leur juridiction.

Au-delà de la sensationnelle « perte de contrôle » annoncée, une perte de variété réelle

Noah Giansiracusa, chercheur à la Bentley University, considère que la communication d'Anthropic relève davantage d'une stratégie de communication que d'un appel authentique au ralentissement, l'entreprise cherchant en réalité à maintenir sa trajectoire de développement à pleine vitesse. Mark Riedl, de Georgia Tech, parle quant à lui d'un emballement médiatique entretenu davantage pour capter l'attention réglementaire des concurrents que pour documenter un risque réel. Ces critiques prennent un relief particulier dans le contexte financier de la période : les alertes d'Anthropic surviennent peu après le dépôt confidentiel d'une introduction en bourse et un tour de financement valorisant l'entreprise à près de 965 milliards de dollars.

Ces annonces spectaculaires appellent un regard critique : une formule alarmante peut refléter un risque réel comme servir une stratégie d’entreprise, et chaque affirmation gagne à être vérifiée auprès de sources indépendantes. Notons également que les laboratoires qui fixent aujourd’hui le rythme des modèles les plus avancés sont américains. L’Europe s’exprime, mais joue le rattrapage. Ursula von der Leyen affirme que les règles européennes placent l’Union en position de façonner les efforts mondiaux, tandis que Mistral estime que certains acteurs établis profitent du moment pour consolider leur position, que Clément Delangue (Hugging Face) plaide pour accélérer et que le ministre français des Finances Roland Lescure y voit un intérêt personnel des leaders.

Quoi qu’il en soit, une chose est sûre : une IA qui apprend à partir de textes écrits par d’autres IA s'appauvrit. Des chercheurs, menés par Ilia Shumailov, l'ont montré dans la revue Nature le 24 juillet 2024. Ils ont entraîné des IA en chaîne : chaque génération apprenait uniquement à partir des textes produits par la précédente. Les IA « oubliaient les événements improbables » : les cas rares disparaissaient d'abord, livrant des productions de plus en plus uniformes.

Ces derniers mois, le web s’est remplit de textes générés. Une étude de chercheurs de l'Imperial College London, de l'Internet Archive et de Stanford a analysé les sites créés entre août 2022 et mai 2025 : environ 35 % des nouveaux sites de mi-2025 sont classés comme générés ou assistés par IA (étude « The Impact of AI-Generated Text on the Internet », avril 2026). Ces sites se ressemblent davantage entre eux que les autres (+33 %) et adoptent un ton nettement plus positif (+107 %).

Face à ce web de plus en plus uniforme, les chercheurs de l’étude menée par Ilia Shumailov ont fini par conclure que les données issues de vraies interactions humaines prendront de la valeur à mesure que les contenus d'IA se multiplieront. L’expertise humaine, plus consciente des codes et des subtilités du monde dans lequel elle évolue, a donc un vrai rôle à prendre dans ce nouvel ordre de l’information et de la communication.

L’alliance d’excellence entre l'IA qui trie, et l'expert qui corrige : focus sur la Modération

Une IA rapide, utile mais imparfaite

En modération, l'IA apporte de la vitesse et laisse apparaître ses limites. Une étude publiée sur arXiv en août 2025 compare des réviseurs professionnels et des IA multimodales (GPT-4o, Gemini, Llama) sur 1 500 vidéos TikTok, YouTube et Meta, en 12 langues, pour repérer les contenus risqués pour une marque. Sur un score de fiabilité de 0 à 1 (le F1-score, qui combine le repérage des contenus à risque et l'évitement des fausses alertes), les humains obtiennent 0,98 et les trois IA entre 0,86 et 0,91. Les erreurs des IA viennent d'associations de mots trompeuses (un « grass dealer » classé comme lié à la drogue par exemple), d'un niveau plus faible sur les textes non anglophones et de situations ambiguës.

La modération de contenu en ligne offre un cas d'école directement transposable au débat sur l'auto-amélioration de l'IA, puisqu'elle affronte depuis plusieurs années la même question à une échelle plus modeste : jusqu'où une automatisation seule peut-elle prendre des décisions fiables ? Les systèmes de modération automatisés sont généralement calibrés pour limiter en priorité les faux négatifs, c'est-à-dire le contenu problématique qui passerait entre les mailles du filtre, ce qui a pour conséquence mécanique d'augmenter les faux positifs, soit du contenu parfaitement légitime supprimé à tort. Jean Vanderdonckt, chercheur en intelligence artificielle à l'UCLouvain, résume la limite structurelle de ces systèmes en rappelant que la fiabilité de l'IA reste par nature imparfaite, les algorithmes peinant particulièrement à saisir les subtilités du langage : ironie, contexte culturel, argot en évolution rapide ou tentatives délibérées de contournement. Revient alors cette idée de manque de variété quand l’IA seule est aux commandes.

Vers une gouvernance hybride

Les organisations qui gèrent des volumes importants de contenus et d'interactions en ligne, marques, plateformes, communautés, ont donc un intérêt objectif à structurer une gouvernance hybride dès maintenant. La supervision humaine reste, dans l'état actuel des connaissances documentées par METR, l'AI Act et les retours d'expérience de la modération de contenu, le seul mécanisme éprouvé pour détecter les dérives, corriger les biais et maintenir une décision explicable.

Netino accompagne les marques et les organisations dans l'exploitation de leurs contenus, de leur modération et de leurs interactions client à grande échelle, en plaçant précisément cette alliance entre intelligence artificielle et expertise humaine au coeur de son modèle opérationnel.

En tant que Marketing Process Outsourcer, Netino combine des technologies d'IA pour traiter les volumes avec la rigueur d'experts humains formés pour arbitrer les cas ambigus, garantir la conformité réglementaire et préserver la réputation de ses clients, sur les cinq piliers de la gouvernance, de l'opération, de la technologie, de la performance et de la résilience. Cette approche hybride, déjà éprouvée sur des centaines de comptes de marques françaises et internationales, illustre concrètement ce que les alertes des géants de l'IA appellent de leurs voeux : une IA puissante, mise au service de décisions humaines éclairées plutôt que substituée à elles.

Pour découvrir comment structurer cette gouvernance hybride sur vos propres contenus et interactions, l'équipe Netino se tient à votre disposition.

Sources

• CNBC, “OpenAI boss Sam Altman spells out how and why the AI industry wants to slow down,” September 14, 2026
• Yahoo Finance, “OpenAI CEO Sam Altman on AI: We could lose control”
• Scientific American, “Anthropic warns AI may soon begin recursive self-improvement”
• Tom’s Hardware, “Anthropic’s warning over AI self-improvement has a hidden message”
• AI Magazine, “Anthropic Warns Autonomous AI Risks Loss of Human Control”
• Time, “What Happens When AI Starts Building AI? Inside Recursive Self-Improvement,” August 7, 2026
• TechTimes, “Over 1,100 AI Employees Petition for US-Backed Pacing Mechanism After OpenAI’s Sandbox Escape,” July 28, 2026
• METR, “Measuring AI Ability to Complete Long Software Tasks,” March 2025
• Shumailov et al., “AI models collapse when trained on recursively generated data,” Nature, July 24, 2024
• “A Note on Shumailov et al. (2024),” arXiv
• Dolezal, Alam, Graham, Bohacek, “The Impact of AI-Generated Text on the Internet,” April 2026
• “AI vs. Human Moderators: A Comparative Evaluation of Multimodal LLMs in Content Moderation for Brand Safety,” arXiv, August 2025
• RTBF, “Modération en ligne : l’intelligence artificielle en renfort, mais l’intervention humaine reste primordiale”
• Netino