← La clairière

La première marche

Trois peurs autour de l'intelligence artificielle

Trois peurs circulent, presque toujours mêlées : que l'IA affaiblisse notre pensée, qu'elle menace la pérennité de notre espèce, et qu'elle finisse par se dévorer elle-même. Enquête sur ce que la recherche établit vraiment, ce qu'elle avance comme risque incertain, et ce que l'emballement ajoute par-dessus

Publié le 9 juillet 2026 · Mis à jour le 12 août 2026

0. Introduction : trois cases pour trier les peurs

Trois questions reviennent dès qu’on parle des dangers de l’intelligence artificielle, et elles se posent presque toujours ensemble, comme un même pressentiment. La première est intime : à force de déléguer à la machine nos calculs, nos rédactions, nos itinéraires, allons-nous perdre l’usage de nos propres facultés ? La deuxième est vertigineuse : l’IA menace-t-elle jusqu’à la pérennité de notre espèce ? La troisième est plus étrange : l’IA serait-elle condamnée à s’autodétruire, à s’étouffer dans sa propre production ? Les trois se tiennent. Les faits qui les portent, eux, n’ont pas la même solidité.

La difficulté tient moins à répondre oui ou non qu’à trier. Toute affirmation sur les dangers de l’IA tombe dans l’une de trois cases qu’on a intérêt à ne jamais confondre. La première est celle de l’établi, c’est-à-dire du mesuré et du répliqué. La deuxième est celle de la hype, c’est-à-dire de l’extrapolation et de l’effet d’annonce. La troisième est celle de la spéculation raisonnée, un risque réel mais incertain, avancé par des chercheurs sérieux sans être donné pour acquis. Ce tri se refait phrase par phrase, et une même source peut nourrir deux cases à la fois.

Ces trois peurs n’ont pas la même densité de preuve, et les prendre du plus mesurable au plus spectaculaire évite déjà une confusion. Le cognitif se laisse tester : on pose des électrodes, on compare des groupes, on réplique. C’est un protocole ordinaire. La pérennité de l’espèce se discute autrement, en probabilités que ceux qui les avancent donnent eux-mêmes pour incertaines (des estimations d’experts, à main levée). Quant à l’effondrement des modèles, la plus étrange des trois peurs, il repose sur un résultat publié en 2024 dans Nature, qui décrit un régime d’entraînement précis (celui où l’on jette les données réelles) plutôt qu’une mort spontanée.

Une seule question fait ce travail. Quand une phrase affirme un danger de l’IA, demandez-vous si elle énonce un fait établi, une extrapolation médiatique, ou un risque incertain pris au sérieux par la recherche, et refusez le glissement d’un registre à l’autre. La réponse se lit dans l’appareil de la phrase plus que dans son contenu : le nombre de participants, la revue, l’année, et le fait qu’une autre équipe ait retrouvé le résultat.

Le propos se limite à la force des preuves sur les trois questions posées : le cerveau, la pérennité de l’espèce, l’autodestruction. La revue technique de l’alignement, la prospective de l’emploi et le bilan environnemental sont signalés au passage, sans être traités. Une symétrie tient d’un bout à l’autre : les préprints qui alarment et les chiffres spectaculaires sont scrutés aussi durement que les sources qui rassurent (y compris celles citées ici).

1. Ce que « déléguer » fait à l’esprit

Déléguer une tâche mentale à un support extérieur porte un nom en psychologie cognitive. Le terrain y est plus ferme qu’ailleurs. Evan Risko et Sam Gilbert, dans une synthèse parue en 2016 dans Trends in Cognitive Sciences, appellent déchargement cognitif l’usage d’une action physique ou d’un outil externe pour réduire la charge mentale interne.

Noter un numéro sur un papier au lieu de le garder en mémoire, incliner la tête pour ne pas faire tourner une image mentalement (Risko et Gilbert 2016). Leur définition précède de six ans les modèles grand public, et elle vaut pour l’écriture comme pour la calculatrice : l’IA générative arrive sur une chaîne d’outils déjà longue (le papier, la table de logarithmes, le carnet d’adresses) (Risko et Gilbert 2016).

Une expérience célèbre a montré que ce transfert modifie ce qu’on retient. Betsy Sparrow, Jenny Liu et Daniel Wegner, dans Science en 2011, observent que les personnes qui s’attendent à pouvoir reconsulter une information la mémorisent moins bien elle-même et retiennent mieux où la retrouver (Sparrow et al. 2011). La mémoire glisse du contenu vers son adresse (Sparrow et al. 2011). Leur article s’intitule Google Effects on Memory, et la formule a depuis nourri l’idée d’une mémoire qui s’externalise, bien au-delà de ce que l’expérience montrait (Sparrow et al. 2011).

Une partie de ces travaux a pourtant mal vieilli. Le volet le plus spectaculaire de l’étude de 2011 tenait à un amorçage automatique vers l’idée d’ordinateur face à une question difficile. Le grand projet de reproduction des expériences de sciences sociales publié par Colin Camerer et ses coauteurs en 2018 dans Nature Human Behaviour, qui rejouait les protocoles parus entre 2010 et 2015, ne l’a pas retrouvé ; la réplication indépendante de Guido Hesselmann, parue dans PeerJ en 2020, pas davantage (Camerer et al. 2018; Hesselmann 2020; Gong et Yang 2024).

Le noyau « je retiens où plutôt que quoi » résiste mieux : la méta-analyse de Chen Gong et Yang Yang, parue en 2024 dans Frontiers in Public Health, le retrouve, mais modulé par la charge cognitive, le type d’appareil et les connaissances déjà possédées (Camerer et al. 2018; Hesselmann 2020; Gong et Yang 2024). L’effet existe donc, sous conditions (celles-là, et pas partout) (Camerer et al. 2018; Hesselmann 2020; Gong et Yang 2024).

Le même cadre théorique insiste cependant sur l’autre versant, et Risko et Gilbert y consacrent la moitié de leur synthèse. Le déchargement cognitif est adaptatif quand il libère des ressources mentales pour des tâches de plus haut niveau : c’est la raison pour laquelle l’espèce n’a cessé d’inventer des supports pour penser (l’écriture et le calcul posé entrent dans la même famille) (Risko et Gilbert 2016). La question porte donc sur ce qu’on délègue, et sur la capacité de reprendre la main quand l’outil manque (Risko et Gilbert 2016). Que déléguez-vous, au juste ?

Un mécanisme voisin ressemble davantage à une pente. Benjamin Storm, Sean Stone et Aaron Benjamin ont montré en 2017, dans la revue Memory, qu’avoir recours à Internet pour une première série de questions augmente la probabilité d’y recourir ensuite, y compris pour des questions faciles qu’on aurait pu traiter seul (Storm et al. 2017). Chaque délégation rend la suivante plus probable, non parce que la faculté disparaît, mais parce que l’habitude se consolide (la mesure porte sur une séance de laboratoire, pas sur des années d’usage) (Storm et al. 2017).

La neuro-imagerie donne l’illustration la plus nette de ce que déléguer fait pendant l’action. Amir-Homayoun Javadi, Hugo Spiers et leurs collègues ont publié en 2017, dans Nature Communications, une observation simple. Quand des participants naviguent librement dans des rues qu’ils connaissent, l’hippocampe et le cortex préfrontal encodent la topologie du réseau et les chemins possibles.

En revanche, dès qu’ils suivent un GPS, cette activité s’efface. Tout se passe comme si le cerveau cessait d’explorer les options qu’on décide à sa place (Javadi et al. 2017). Le résultat porte sur une sollicitation moindre pendant la tâche déléguée, et il s’arrête là : l’anatomie de l’organe n’entre pas dans ce que cette étude a mesuré (Javadi et al. 2017).

Tout cela était théorisé bien avant l’arrivée de l’IA générative. Raja Parasuraman et Dietrich Manzey décrivaient dès 2010, dans Human Factors, la « complaisance d’automatisation » : cette sur-confiance dans un système automatique qui abaisse la vigilance et la détection des erreurs. Leur synthèse précède de douze ans les premiers modèles de langage grand public (Parasuraman et Manzey 2010). Ce que ces travaux établissent tient donc en peu de mots. Déléguer une fonction en réduit l’exercice, parfois l’engagement cérébral pendant l’action, et cela est mesuré (Risko et Gilbert 2016; Burnett et Richmond 2025). De « mesuré » à « durablement abîmé », il reste un saut, et c’est là que les preuves faiblissent (Risko et Gilbert 2016; Burnett et Richmond 2025).

2. « L’IA atrophie-t-elle le cerveau ? » La force réelle des preuves

Depuis 2025, trois études ont été relayées comme la preuve que l’IA « abîme » le cerveau, et chacune se pèse séparément. La plus commentée vient du MIT : Nataliya Kosmyna, Pattie Maes et leurs collègues ont comparé, par électroencéphalographie, la connectivité cérébrale de personnes rédigeant une dissertation selon qu’elles s’aidaient d’un modèle de langage, d’un moteur de recherche ou de rien. La connectivité la plus faible s’observe chez les utilisateurs de l’IA, avec un moindre sentiment d’être l’auteur de leur propre texte. Les auteurs appellent cela une accumulation de « dette cognitive » (Kosmyna et al. 2025). Le préprint s’intitule Your Brain on ChatGPT (Kosmyna et al. 2025).

Il demande cependant d’être cité avec ses limites, sous peine de lui faire dire plus qu’il ne peut. Le travail est un préprint déposé sur arXiv en 2025, non relu par les pairs, et il porte sur cinquante-quatre participants dont dix-huit ont fait les trois séances (Kosmyna et al. 2025). L’effectif est petit. Une mesure d’engagement neuronal pendant une tâche dit ce que fait le cerveau pendant cette tâche, et « dette cognitive » reste une métaphore proposée par les auteurs, pas un diagnostic clinique. Lire une connectivité momentanément plus basse comme une lésion serait exactement le glissement de registre en cause ici (Kosmyna et al. 2025).

La deuxième étude vient de l’industrie. Hao-Ping Lee, Advait Sarkar et une équipe de Microsoft Research et de Carnegie Mellon ont interrogé des centaines de travailleurs du savoir sur leur usage de l’IA générative, et présenté leurs résultats à la conférence CHI en 2025. Plus la confiance dans l’outil est grande, plus l’effort de pensée critique déclaré diminue ; à l’inverse, la confiance en soi va de pair avec davantage d’esprit critique (Lee et al. 2025).

Les auteurs y lisent un déplacement de la vigilance, de la production vers la vérification (Lee et al. 2025). Est-ce que vous relisez ce que la machine vous rend ? Ces données sont auto-déclarées et corrélationnelles, au sens que le papier sur les preuves qui n’en sont pas donne à ces deux mots : elles mesurent des perceptions d’effort, pas des capacités, et n’autorisent aucune conclusion causale (Lee et al. 2025).

La troisième doit sa notoriété à un résultat frappant. Michael Gerlich, dans la revue Societies en 2025, rapporte sur plusieurs centaines de participants une corrélation négative entre l’usage fréquent d’outils d’IA et les capacités de pensée critique, médiée par le déchargement cognitif et plus marquée chez les plus jeunes (Gerlich 2025). La corrélation est nette, et elle rejoint l’intuition commune (Gerlich 2025). Le protocole, transversal et en partie auto-déclaré, laisse pourtant le sens de la flèche ouvert : les personnes au plus faible esprit critique peuvent tout aussi bien se tourner davantage vers l’IA, et aucune mesure prise à un seul instant n’écarte cette causalité inverse (Gerlich 2025).

Un contrepoint méthodologique assagit le tableau. La méta-analyse de Gong et Yang, déjà citée, conclut que l’effet Google est réel mais conditionnel (Gong et Yang 2024). Il est plus marqué sur smartphone que sur ordinateur, il varie avec la charge de la tâche, et il s’atténue chez les personnes qui disposent déjà d’une base de connaissances large (trois modérateurs identifiés, ce qui n’épuise pas la liste) (Gong et Yang 2024).

L’écart entre ces trois études est lui-même un résultat. Un préprint d’électroencéphalographie, une enquête déclarative auprès de travailleurs du savoir et une mesure transversale de pensée critique portent sur des objets distincts et pèsent d’un poids inégal (les premiers modèles grand public datent de 2022) (Alubthane 2026). Les trois protocoles de 2025 mesurent d’ailleurs trois gestes distincts : rédiger une dissertation en laboratoire, travailler une journée ordinaire, répondre à un questionnaire (Alubthane 2026).

Le bilan suit donc la force des preuves. L’atrophie du cerveau par l’IA reste à établir : les données disponibles sont corrélationnelles, transversales, auto-déclarées pour partie, tirées de petits échantillons ou de préprints, et elles documentent des effets de performance à court terme, dépendants du contexte (Gerlich 2025; Lee et al. 2025). Les deux bouts se tiennent ensemble : une inquiétude amplifiée par l’emballement médiatique peut rester fondée, et l’absence de démonstration d’atrophie ne dit rien d’un usage massif et précoce, que personne n’a encore suivi sur une décennie. Le registre exact de cette peur est donc celui-ci : établie comme délégation depuis 2016, non établie comme atrophie.

3. Le risque existentiel : ce que la recherche sérieuse avance

Passons à la question de la pérennité, où le réflexe est de renvoyer dos à dos les prophètes de malheur et les sceptiques. Ce serait manquer un fait notable, et il tient à la liste des signataires. En mai 2023, le Center for AI Safety a publié une déclaration d’une seule phrase, selon laquelle « réduire le risque d’extinction lié à l’IA devrait être une priorité mondiale, au même titre que d’autres risques à l’échelle de la société comme les pandémies et la guerre nucléaire » (Center for AI Safety 2023). La brièveté était le procédé. Une phrase que des gens en désaccord sur tout le reste pouvaient signer ensemble, et le débat public a changé de seuil ce mois-là (Center for AI Safety 2023).

Ce qui frappe est moins la phrase que ses signataires. Geoffrey Hinton et Yoshua Bengio l’ont signée, tous deux lauréats du prix Turing, aux côtés de centaines de chercheurs et des dirigeants scientifiques et exécutifs des grands laboratoires d’IA (Center for AI Safety 2023). Une partie de ceux qui construisent ces systèmes partagent donc l’inquiétude existentielle, ce qui la déplace hors du seul camp des militants (la déclaration est en ligne, avec sa liste) (Center for AI Safety 2023).

Cette prise de position s’est prolongée dans la littérature scientifique. Bengio, Hinton, Andrew Yao, Dawn Song, Yuval Noah Harari et une dizaine d’autres ont soutenu dans Science, en 2024, que l’accroissement des capacités et de l’autonomie des systèmes généralistes pourrait amplifier leur impact, jusqu’à des dommages sociaux à grande échelle, des usages malveillants et une perte de contrôle humain irréversible.

Ils appellent en outre à une recherche technique et à une gouvernance proactive (Bengio et al. 2024). L’argument ne pose pas la catastrophe comme certaine : il soutient qu’une trajectoire rapide justifie de s’y préparer (Bengio et al. 2024). La logique est celle de la précaution proportionnée : consacrer une part des efforts à réduire un risque grave et incertain, sans attendre une preuve définitive qui arriverait trop tard (Bengio et al. 2024).

Le cadre institutionnel a suivi. L’International AI Safety Report, présidé par Bengio dans le prolongement du sommet de Bletchley et publié en 2025, a réuni quatre-vingt-seize experts venus de trente pays pour dresser un état des risques des systèmes généralistes (Bengio et al. 2025). Sa valeur tient à sa méthode : il synthétise la littérature existante au lieu d’énoncer des prédictions, et sépare trois familles, les dysfonctionnements, les usages malveillants et les risques systémiques, en assumant l’incertitude qui les entoure (Bengio et al. 2025). Sören Mindermann et Daniel Privitera cosignent ce texte, dont les désaccords sont consignés sans être arbitrés (Bengio et al. 2025).

Les spécialistes, eux, chiffrent cette prudence. Katja Grace et ses coauteurs ont interrogé en 2024 plusieurs milliers de chercheurs ayant publié dans les grandes conférences d’IA. À la question de la probabilité d’une extinction ou d’un déclin sévère et permanent de l’humanité causé par l’IA, la médiane des réponses tombe à 5 %, pour une moyenne de 16,2 % tirée vers le haut par une minorité de réponses très élevées (Grace et al. 2024).

Cinq pour cent en médiane, c’est un risque que la profession situe au-dessus de zéro et en deçà de l’annonce apocalyptique (Grace et al. 2024). Une seconde question, distincte, portait sur un « résultat extrêmement mauvais tel que l’extinction » : trente-huit pour cent des répondants y plaçaient au moins 10 % de probabilité, chiffre qui décrit une communauté partagée assumant son incertitude (deux questions, deux chiffres) (Grace et al. 2024).

Le registre qui convient à ce risque est celui de la spéculation raisonnée, et le présenter sous sa forme forte suppose de ne pas le durcir. Le prendre au sérieux reste autre chose que l’annoncer. La position de Bengio et de Hinton se rapporte entière, avec l’incertitude qu’ils reconnaissent eux-mêmes (Bengio et al. 2024). Sa force réelle est celle d’une probabilité discutée entre spécialistes, cinq pour cent en médiane, et elle s’arrête là (Bengio et al. 2024). Sur un enjeu de cette taille, où placeriez-vous le seuil d’inquiétude ?

4. Le catastrophisme et sa critique

À cette prudence répond, dans les médias, un tout autre régime de discours, fait de titres alarmants et de dates de fin du monde, et il appelle une critique elle aussi sérieuse. La plus construite conteste l’orientation même du débat. Emily Bender, Timnit Gebru, Angelina McMillan-Major et Shmargaret Shmitchell soutiennent, dans un article présenté à la conférence FAccT en 2021, que les grands modèles de langage sont des « perroquets stochastiques » : ils agencent des formes linguistiques de façon plausible sans accéder au sens.

Le même article ajoute que fixer l’attention sur des scénarios lointains détourne des dommages présents et documentés, biais, coûts environnementaux, opacité, concentration du pouvoir (Bender et al. 2021). Leur texte a paru deux ans avant la déclaration du Center for AI Safety, et il ramène le regard vers ce qui se mesure déjà (Bender et al. 2021).

De cette position découle la thèse dite de la distraction. Elle affirme que le récit du risque existentiel, largement spéculatif, sert les intérêts des acteurs dominants et détourne l’attention publique et réglementaire des torts actuels de l’IA (Bender et al. 2021). L’argument est recevable comme mise en garde rhétorique, et il désigne un risque d’agenda réel (Bender et al. 2021). Il a depuis été mis à l’épreuve expérimentalement, et l’épreuve ne lui a pas donné entièrement raison (Hoes et Gilardi 2025).

Ce contre-résultat est rarement rapporté par ceux qu’il dérange. Emma Hoes et Fabrizio Gilardi, dans les Proceedings of the National Academy of Sciences en 2025, ont exposé des participants à des récits de risque existentiel. La préoccupation pour les risques catastrophiques monte, celle pour les dommages immédiats ne baisse pas : l’un ne chasse donc pas mécaniquement l’autre (dans les conditions de cette expérience) (Hoes et Gilardi 2025). La distraction tient dès lors de l’hypothèse plausible et contestée. La citer comme un fait acquis reproduirait, en sens inverse, le glissement qu’on reproche aux alarmistes (Hoes et Gilardi 2025).

D’autres critiques visent la substance technique plutôt que l’agenda. Melanie Mitchell, informaticienne, soutient dans sa lettre d’information AI: A Guide for Thinking Humans que les systèmes actuels restent loin d’une intelligence générale autonome, et que le seul scénario existentiel qu’elle juge plausible passe par un acteur humain malveillant qui se sert de l’outil (Mitchell 2024).

L’objection déplace la question : « et si la machine se réveillait » devient « qui tient la machine », ce qui rapproche le débat des risques concrets (Mitchell 2024). Elle rappelle en outre qu’intelligence et autonomie sont deux propriétés distinctes : un système peut exceller à produire du texte sans rien vouloir, et lui prêter des intentions est une facilité de langage qui brouille l’analyse du risque (Mitchell 2024).

Le même scepticisme vaut pour les deux camps. Les enquêtes qui chiffrent la peur en relèvent aussi : les consultations d’experts reposent sur des taux de réponse limités et sur l’auto-sélection des répondants les plus concernés. Leurs chiffres décrivent donc une distribution d’opinions informées (informées, et concernées au premier chef) plutôt qu’une probabilité réelle de catastrophe (Grace et al. 2024). Les cinq pour cent de la consultation de Grace mesurent donc les croyances d’une profession, pas le monde (Grace et al. 2024).

Un point d’accord traverse pourtant les deux camps. Ce qui est le mieux établi dans tout le débat existentiel relève du présent : les biais, les sorties discriminatoires, l’opacité et l’empreinte des grands modèles sont des torts déjà documentés, indépendamment de tout scénario d’extinction (Bender et al. 2021). Le reconnaître laisse le risque de long terme là où il est, et rappelle que la partie la plus solide du débat porte sur des dommages qu’on peut mesurer aujourd’hui (Bender et al. 2021).

Le tri s’impose ici plus que partout ailleurs. La spéculation raisonnée, un risque incertain examiné par la recherche, se distingue du catastrophisme d’annonce, qui fixe des dates et promet l’apocalypse ; et critiquer la hype reste autre chose que nier le risque. Trois choses tiennent ensemble sans se contredire : le risque existentiel est pris au sérieux, il reste incertain, et son emballement médiatique peut servir d’écran aux torts déjà là. Laquelle des trois vous paraît la plus facile à oublier ?

5. L’« autodestruction » : le model collapse

La troisième peur est la plus singulière, et c’est elle qui repose sur la science la plus solide. L’effondrement des modèles désigne un processus dégénératif : entraîner récursivement un modèle génératif sur les données produites par les modèles précédents dégrade ses performances au fil des générations, jusqu’à ce qu’il s’empoisonne avec sa propre image déformée de la réalité (Shumailov et al. 2024). Ilia Shumailov, Zakhar Shumaylov, Yiren Zhao, Yarin Gal, Ross Anderson et Nicolas Papernot l’ont établi dans Nature en 2024, dans un article qui a depuis reçu une correction d’auteurs, en 2025, sans que ses conclusions en soient modifiées (Shumailov et al. 2024).

Le mécanisme se déploie en deux temps. Au stade précoce, les événements rares, les queues de la distribution, disparaissent en premier, faute d’être suffisamment représentés dans les échantillons tirés à chaque génération (Shumailov et al. 2024). Au stade tardif, le modèle converge vers une distribution appauvrie, à variance réduite, qui ne ressemble plus guère à la réalité d’origine (sur un même modèle, réentraîné à chaque tour) (Shumailov et al. 2024).

Cette dégradation est la composition de trois erreurs, et les auteurs les nomment. Elle résulte de l’accumulation, génération après génération, d’une erreur d’approximation statistique liée à l’échantillonnage fini, d’une erreur d’expressivité liée aux limites du réseau à représenter la vraie distribution, et d’une erreur d’apprentissage liée aux procédures d’optimisation (Shumailov et al. 2024). Chacune serait tolérable isolément ; leur empilement récursif est ce qui pousse le système vers l’appauvrissement (Shumailov et al. 2024).

L’exemple rapporté dans l’article rend la chose tangible. Un modèle réentraîné sur ses propres sorties, à partir d’un texte initial sur l’architecture des clochers d’églises médiévales, dérive de génération en génération jusqu’à produire un charabia répétitif sans rapport avec le sujet de départ (Shumailov et al. 2024).

Il finit par générer des échantillons que le modèle d’origine n’aurait jamais produits, ce qui donne à la métaphore de l’empoisonnement une réalité mesurable (Shumailov et al. 2024). Que perdriez-vous, dans un texte, si l’exceptionnel en disparaissait le premier ? La perte des queues a une conséquence concrète : les cas rares, les tournures inhabituelles et les minorités statistiques s’effacent avant le reste, donc l’appauvrissement commence par la diversité (Shumailov et al. 2024).

Les mêmes auteurs avaient annoncé le phénomène en 2023, dans un préprint intitulé « The Curse of Recursion ». Ils y introduisaient l’idée d’un défaut qui s’installe quand les queues de la distribution s’évanouissent, et ils en tiraient une conséquence pratique remarquée : les données produites par des humains deviendront d’autant plus précieuses que le web se remplira de contenu synthétique (Shumailov et al. 2023). Cette conséquence relève de la prévision, et elle se lit dans un préprint déposé un an avant l’article de Nature (Shumailov et al. 2023).

D’autres travaux ont généralisé cet effondrement au-delà du texte. Sina Alemohammad, Richard Baraniuk et leurs collègues ont décrit en 2023 un « trouble d’autophagie du modèle », par analogie avec une maladie où l’organisme se consomme lui-même. Dans des boucles où le synthétique remplace le réel sans apport suffisant de données fraîches, la qualité ou la diversité des images générées se dégradent au fil des générations (Alemohammad et al. 2023).

La même année, Gonzalo Martínez, Pedro Reviriego et leurs coauteurs ont étudié l’interaction entre l’IA générative et Internet, et observé que des modèles entraînés sur des mélanges incluant leurs propres sorties perdaient en qualité et en diversité de version en version (Martínez et al. 2023). Le texte et l’image se dégradent dans le même sens, chez trois équipes indépendantes, ce qui donne à cette troisième peur un socle expérimental que les deux autres n’ont pas (Martínez et al. 2023).

6. Nuancer : l’IA ne meurt pas toute seule

Ce qui sépare le risque du destin tient ici au choix d’un verbe. Matthias Gerstgrasser, Rylan Schaeffer, Sanmi Koyejo et leurs coauteurs ont montré en 2024 que le résultat d’effondrement vaut pour un régime d’entraînement précis : celui où chaque génération n’est entraînée que sur les sorties de la précédente. Accumuler les données synthétiques à côté des données réelles d’origine évite l’effondrement, et ils le tiennent empiriquement autant que théoriquement, sur plusieurs architectures (Gerstgrasser et al. 2024). Remplacer ou accumuler, la différence est là. Le scénario catastrophe suppose qu’on jette le réel, geste que le régime d’accumulation rend inutile (Gerstgrasser et al. 2024).

D’autres travaux affinent encore ce diagnostic. Elvis Dohmatob, Julia Kempe et leurs coauteurs ont analysé la question en 2024 sous l’angle des lois d’échelle. L’entrée de données synthétiques dans le corpus modifie les régimes d’apprentissage au lieu de produire un effondrement uniforme, et mélanger données humaines et synthétiques change qualitativement l’issue par rapport au remplacement pur (Dohmatob et al. 2024). Le paramètre déterminant est la proportion de réel qu’on conserve, et la façon dont on le mêle (Dohmatob et al. 2024).

La critique la plus frontale porte sur le réalisme du scénario. Ali Borji, dans une note publiée en 2024, souligne que l’effondrement observé est un phénomène statistique attendu, reproductible par un simple rééchantillonnage répété. Le protocole de remplacement intégral ne reflète pas, en outre, les conditions de déploiement : les laboratoires mélangent données humaines et synthétiques, filtrent, et réinjectent périodiquement du réel (Borji 2024). Le résultat de Nature garde toute sa valeur comme mise en garde (sur ce qui arrive quand on remplace, et seulement là) (Borji 2024). La curation des données, le filtrage qualité et le mélange délibéré de sources humaines sont, dans la pratique, les gestes qui préviennent l’appauvrissement décrit (Shumailov et al. 2024).

Le risque se déplace alors vers le corpus commun. Il se pollue sans que personne l’ait décidé. Brian Thompson et ses coauteurs ont mesuré en 2024, en comparant des traductions parallèles dans plusieurs langues, qu’une part étonnamment grande du web est constituée de contenu traduit automatiquement, souvent de basse qualité. Le phénomène est le plus marqué dans les langues peu dotées (celles où le matériau d’entraînement était déjà rare) (Thompson et al. 2024).

Le danger tient moins à ce qu’un modèle s’entraîne sur lui-même qu’à la dégradation de la ressource collective sur laquelle tout le monde s’entraîne (Thompson et al. 2024). Qui devrait payer l’entretien d’une ressource que personne ne possède ? La structure est celle d’un bien commun, au sens que le papier sur le mot « société » donne à cette forme : chacun a intérêt à déverser du contenu synthétique bon marché, et le coût se répartit sur tous, si bien que la dégradation avance sans auteur assignable (Thompson et al. 2024).

Les chiffres qui circulent demandent la même froideur. Les estimations selon lesquelles une majorité du texte en ligne serait générée ou traduite par des machines varient énormément selon la méthode retenue, et « contenir de l’IA » reste différent d’« être majoritairement produit par l’IA » (Thompson et al. 2024; Liang et al. 2023; Weber-Wulff et al. 2023). Ces ordres de grandeur signalent une tendance sérieuse, sans valoir comme faits établis, et un chiffre repris sans sa méthode ne se vérifie pas (Thompson et al. 2024; Liang et al. 2023; Weber-Wulff et al. 2023). Quand vous en croiserez un, cherchez d’abord comment il a été obtenu.

La réponse à cette troisième peur est donc nette dans sa nuance. L’effondrement des modèles est un risque réel et conditionnel, propre à un régime d’entraînement qu’on sait éviter, et l’analogie de la stérilité vaut comme avertissement sur la qualité du corpus commun (Shumailov et al. 2024). La formule « l’IA se dévore elle-même » est vraie dans un laboratoire qui le décide, fausse comme destin (Shumailov et al. 2024).

7. Conclusion : répondre en séparant les registres

Les trois cases répondent aux trois questions posées sans les caricaturer. Sur le cerveau, la délégation cognitive est un fait établi depuis Risko et Gilbert, en 2016, et l’atrophie reste à démontrer : les preuves avancées sont corrélationnelles, transversales ou préliminaires, et elles documentent des effets de court terme dépendants du contexte (Risko et Gilbert 2016; Burnett et Richmond 2025). Une mesure récente va même dans l’autre sens.

Lois Burnett et Lauren Richmond ont rassemblé en 2025 les travaux sur la délégation de mémoire : déléguer améliore la performance aux tâches de mémoire, et réduit l’écart entre les individus (Risko et Gilbert 2016; Burnett et Richmond 2025). La peur est donc fondée et mal calibrée. Ce qui est en jeu est une habitude de délégation, dont l’ampleur et les conditions se discutent (Risko et Gilbert 2016; Burnett et Richmond 2025).

Sur la pérennité, la réponse tient dans la distinction entre spéculation raisonnée et catastrophisme. Hinton, Bengio, l’article de Science de 2024 et l’International AI Safety Report de 2025 prennent le risque existentiel au sérieux. Ils le donnent pour incertain dans le même mouvement. Les chiffres de la consultation de Grace, cinq pour cent en médiane, le situent dès lors loin du fait acquis comme de la lubie (une médiane, sur des milliers de réponses dispersées) (Grace et al. 2018). Le tenir pour certain relèverait de l’emballement, le tenir pour nul de l’aveuglement : la position tenable est celle d’une hypothèse sérieuse à surveiller (Grace et al. 2018).

Sur l’autodestruction, l’ordre s’inverse. La peur la plus étrange repose sur la science la mieux établie, à condition de la lire correctement. L’effondrement des modèles est documenté dans Nature et conditionnel : il frappe un régime d’entraînement qu’on sait éviter en conservant et en mêlant des données réelles (Shumailov et al. 2024). Est-ce que vous sauriez dire, d’une page lue ce matin, si une machine l’a écrite ? L’IA ne meurt donc pas toute seule, et ce qui peut s’appauvrir faute de soin, c’est le corpus commun dont elle et nous dépendons (le web, et ce qu’on en tire pour entraîner la suite) (Shumailov et al. 2024).

La question revient chaque fois qu’un titre annonce ce que l’IA va nous faire. La case où vous rangez l’affirmation décide de ce que vous lui demandez ensuite : on s’appuie sur l’établi, on réclame sa méthode à l’extrapolation, et on surveille le risque incertain sans l’annoncer.

Bibliographie