L'intelligence artificielle abîme-t-elle notre cerveau, menace-t-elle notre espèce, et court-elle à sa propre perte ?

Trois peurs de l’IA circulent souvent mêlées, celle du cerveau abîmé, celle de l’espèce menacée, celle d’une machine qui se dévore ; mais elles ne reposent pas sur des preuves de même force.

0. Introduction : trois cases pour trier les peurs

Trois questions reviennent dès qu’on parle des dangers de l’intelligence artificielle, et elles se posent presque toujours ensemble, comme un même pressentiment. La première est intime : à force de déléguer à la machine nos calculs, nos rédactions, nos itinéraires, allons-nous perdre l’usage de nos propres facultés ? La deuxième est vertigineuse : l’IA menace-t-elle jusqu’à la pérennité de notre espèce ? La troisième est plus étrange : l’IA ne serait-elle pas condamnée à s’autodétruire, à s’étouffer dans sa propre production ? Ces trois inquiétudes sont légitimes, et elles méritent mieux qu’un haussement d’épaules rassurant ou qu’un frisson catastrophiste, car chacune recouvre des faits très inégalement solides.

La difficulté n’est pas de répondre oui ou non, mais de trier. Toute affirmation sur les dangers de l’IA tombe dans l’une de trois cases qu’on a intérêt à ne jamais confondre : ce qui est établi, c’est-à-dire mesuré et répliqué ; ce qui relève de la hype, c’est-à-dire de l’extrapolation et de l’effet d’annonce ; et ce qui est spéculation raisonnée, c’est-à-dire un risque réel mais incertain, avancé par des chercheurs sérieux sans être donné pour acquis. La bonne réponse n’est ni « tout va bien » ni « la fin est proche » : c’est de dire, pour chaque phrase, dans laquelle des trois cases elle se range.

La marche du texte suit ce tri. Elle regarde d’abord ce que déléguer une fonction fait à l’esprit, puis pèse la force réelle des preuves sur l’« atrophie » cérébrale, examine ensuite ce que la recherche sérieuse avance sur le risque existentiel et ce que la critique lui oppose, décrit enfin la thèse de l’« autodestruction » avant de la nuancer. Cet ordre n’est pas décoratif : commencer par le cognitif ancre le propos dans le mesurable, et finir par le model collapse permet de distinguer une dégradation documentée d’une mort spontanée fantasmée.

Le test qui guidera la lecture tient en une question. Quand une phrase affirme un danger de l’IA, demandez-vous si elle énonce un fait établi, une extrapolation médiatique, ou un risque incertain pris au sérieux par la recherche. Refusez alors le glissement d’un registre à l’autre. Une preuve corrélationnelle n’est pas une preuve causale, un préprint n’est pas un résultat répliqué, et un risque jugé possible n’est pas un événement annoncé.

Deux précautions cadrent le propos. Ce texte pèse la force des preuves sur les trois questions posées : le cerveau, la pérennité de l’espèce et l’autodestruction. Il ne fait ni la revue technique de l’alignement, ni la prospective de l’emploi, ni le bilan environnemental, sujets signalés sans être traités. Et il s’astreint à une symétrie : scruter aussi durement les sources qui alarment, préprints et chiffres spectaculaires, que celles qui rassurent, car l’emballement n’a pas de camp.

1. Ce que « déléguer » fait à l’esprit

Déléguer une tâche mentale à un support extérieur porte un nom en psychologie cognitive, et c’est le socle le plus solide du dossier, celui sans lequel la suite tournerait à l’opinion. Le déchargement cognitif désigne l’usage d’une action physique ou d’un outil externe pour réduire la charge mentale interne, comme écrire une note plutôt que retenir un numéro. C’est un phénomène documenté, ni nouveau ni propre à l’IA (Risko et Gilbert 2016). Toute technique d’inscription, de l’écriture à la calculatrice, transfère au dehors une part de ce que la tête faisait seule. L’IA générative n’en est que le dernier maillon, sur une très longue chaîne (Risko et Gilbert 2016).

Une expérience célèbre a montré que ce transfert modifie ce qu’on retient. Lorsque les gens s’attendent à pouvoir reconsulter une information plus tard, ils la mémorisent moins bien elle-même mais retiennent mieux où la retrouver (Sparrow et al. 2011). La mémoire se déplace ainsi du contenu vers son adresse. Internet fonctionne alors comme une mémoire externe partagée, à laquelle on confie le savoir en ne gardant que le chemin d’accès (Sparrow et al. 2011). Ce résultat, souvent résumé par la formule d’« effet Google », a nourri l’idée d’une mémoire qui s’externalise (Sparrow et al. 2011).

La prudence s’impose pourtant, car une partie de ces travaux a mal vieilli. Le volet le plus spectaculaire de l’étude fondatrice, celui d’un amorçage automatique vers l’idée d’ordinateur face à une question difficile, n’a pas tenu à la réplication, ni dans un grand projet de reproduction en sciences sociales, ni dans une réplication indépendante ultérieure (Camerer et al. 2018; Hesselmann 2020; Gong et Yang 2024). Le noyau « je retiens où plutôt que quoi » résiste mieux. Mais une méta-analyse récente montre qu’il est conditionnel, modulé par la charge cognitive, le type d’appareil et les connaissances déjà possédées, plutôt qu’automatique et universel (Camerer et al. 2018; Hesselmann 2020; Gong et Yang 2024). Autrement dit, l’effet existe, mais il dépend du contexte au lieu de s’appliquer partout et toujours (Camerer et al. 2018; Hesselmann 2020; Gong et Yang 2024).

Il faut cependant se garder d’y voir un pur appauvrissement, car le même cadre théorique insiste sur l’autre versant. Le déchargement cognitif est souvent adaptatif : confier au dehors une opération fastidieuse libère des ressources mentales pour des tâches de plus haut niveau (Risko et Gilbert 2016). C’est précisément pourquoi l’espèce n’a cessé d’inventer des supports pour penser. La question utile n’est donc pas « faut-il déléguer », à quoi l’histoire des techniques a déjà répondu, mais « que déléguons-nous, et gardons-nous la capacité de reprendre la main quand l’outil manque » (Risko et Gilbert 2016).

Un mécanisme voisin mérite d’être noté, car il ressemble à une pente. Avoir recours à une source externe pour une première série de questions augmente la probabilité d’y recourir ensuite, y compris pour des questions faciles qu’on aurait pu traiter seul (Storm et al. 2017). Cela décrit une dynamique de dépendance qui s’auto-renforce. Chaque délégation rend la délégation suivante plus probable, non parce que la faculté disparaît, mais parce que l’habitude de s’appuyer sur l’outil se consolide (Storm et al. 2017).

La neuro-imagerie offre l’illustration la plus nette de ce que déléguer fait pendant l’action. Quand des participants naviguent librement dans des rues qu’ils connaissent, l’hippocampe et le cortex préfrontal encodent la topologie du réseau et les chemins possibles. Mais lorsqu’ils suivent un GPS, cette activité liée à la planification des routes s’efface, comme si le cerveau cessait d’explorer les options qu’on décide à sa place (Javadi et al. 2017). Il faut lire ce résultat pour ce qu’il est : une moindre sollicitation d’une région pendant la tâche déléguée, pas un rétrécissement anatomique de l’organe (Javadi et al. 2017).

Rien de tout cela n’a d’ailleurs attendu l’IA pour être théorisé. La recherche sur l’automatisation décrit depuis longtemps la « complaisance d’automatisation », cette sur-confiance dans un système automatique qui abaisse la vigilance et la détection des erreurs, phénomène étudié bien avant les modèles de langage (Parasuraman et Manzey 2010). La leçon de ce premier tour est donc mesurée : déléguer une fonction en réduit l’exercice, parfois l’engagement cérébral pendant l’action, et cela est réel. Mais « réel » ne veut pas encore dire « durablement abîmé », et c’est le saut suivant qu’il faut examiner de près.

2. « L’IA atrophie-t-elle le cerveau ? » La force réelle des preuves

Depuis 2025, plusieurs études ont été relayées comme la preuve que l’IA « abîme » le cerveau, et c’est là qu’il faut peser au lieu de répéter. La plus commentée est une étude électroencéphalographique menée dans un laboratoire du MIT. Elle a comparé la connectivité cérébrale de personnes rédigeant une dissertation, selon qu’elles s’aidaient d’un modèle de langage, d’un moteur de recherche ou de rien. Elle a observé la connectivité la plus faible chez les utilisateurs de l’IA, ainsi qu’un moindre sentiment d’être l’auteur de leur propre texte, ses auteurs parlant d’une accumulation de « dette cognitive » (Kosmyna et al. 2025). Le résultat est suggestif et mérite l’attention (Kosmyna et al. 2025).

Il demande pourtant d’être cité avec ses limites, sous peine de lui faire dire plus qu’il ne peut. Cette étude est un préprint non relu par les pairs, portant sur un petit échantillon. Et une seule mesure d’engagement neuronal pendant une tâche ne documente ni une atrophie ni un dommage durable (Kosmyna et al. 2025). L’expression « dette cognitive » est une métaphore proposée par les auteurs, pas un diagnostic clinique établi (Kosmyna et al. 2025). Confondre une connectivité momentanément plus basse avec une lésion serait exactement le glissement de registre que ce texte s’interdit.

Une deuxième étude, souvent citée à côté, provient d’une enquête industrielle. Interrogeant des centaines de travailleurs du savoir sur leur usage de l’IA générative, elle rapporte qu’une plus grande confiance dans l’outil s’accompagne d’un moindre effort de pensée critique, tandis que la confiance en soi va de pair avec davantage d’esprit critique (Lee et al. 2025). La vigilance se déplace alors de la production vers la vérification. Le tableau est cohérent avec l’idée d’un esprit qui délègue (Lee et al. 2025). Mais ces données sont auto-déclarées et corrélationnelles : elles mesurent des perceptions d’effort, pas une dégradation objective des capacités, et ne permettent aucune conclusion causale (Lee et al. 2025).

Une troisième étude a beaucoup circulé pour son résultat frappant. Menée sur plusieurs centaines de participants, elle rapporte une corrélation négative entre l’usage fréquent d’outils d’IA et les capacités de pensée critique, médiée par le déchargement cognitif et plus marquée chez les plus jeunes (Gerlich 2025). La corrélation est nette, et elle rejoint l’intuition commune (Gerlich 2025). Reste que l’étude est transversale et en partie auto-déclarée, ce qui l’empêche d’établir un sens de causalité. Il se peut tout autant que les personnes au plus faible esprit critique se tournent davantage vers l’IA, hypothèse de causalité inverse que le protocole ne peut écarter (Gerlich 2025).

Un contrepoint méthodologique complète le tableau et l’assagit. Une méta-analyse de l’effet Google conclut qu’il est réel mais conditionnel, plus marqué sur smartphone que sur ordinateur, atténué chez les personnes disposant d’une base de connaissances plus large (Gong et Yang 2024). C’est un effet modulé par le contexte plutôt qu’une fatalité. La délégation n’agit donc pas de la même façon sur tous ni en toutes circonstances (Gong et Yang 2024).

L’état général de la littérature confirme cette réserve plutôt qu’il ne la dissipe. Les revues systématiques récentes consacrées à l’IA générative et à la pensée critique aboutissent à des résultats hétérogènes, très dépendants du design des études et du contexte pédagogique. C’est en soi le signe d’un champ jeune et non stabilisé. Quand des dizaines d’études bien conduites pointent dans des directions différentes selon la manière dont l’outil est employé, la conclusion prudente n’est pas « l’IA nuit » ni « l’IA aide », mais « l’effet dépend de l’usage ».

De là un bilan honnête, aligné sur la force des preuves. L’idée que l’IA « atrophie » le cerveau n’est pas établie. Les données disponibles sont pour l’essentiel corrélationnelles, transversales, souvent auto-déclarées, sur de petits échantillons ou en préprint, et documentent des effets de performance à court terme, dépendants du contexte, sans démontrer de lésion durable. Il faut ici tenir les deux bouts sans en lâcher un. Montrer qu’une inquiétude est amplifiée par l’emballement médiatique ne prouve pas qu’elle est imaginaire, et qu’aucune atrophie ne soit démontrée ne prouve pas qu’un usage massif et précoce soit sans effet. Le registre correct pour cette peur est donc « établi comme délégation, non établi comme atrophie », et non « prouvé » ni « farfelu ».

3. Le risque existentiel : ce que la recherche sérieuse avance

Passons à la question de la pérennité, où le réflexe est de renvoyer dos à dos les prophètes de malheur et les sceptiques. Ce serait manquer un fait notable : des chercheurs de premier plan prennent ce risque au sérieux. En mai 2023, une déclaration d’une phrase a affirmé que « réduire le risque d’extinction lié à l’IA devrait être une priorité mondiale, au même titre que d’autres risques à l’échelle de la société comme les pandémies et la guerre nucléaire » (Center for AI Safety 2023). Cette formulation courte a été conçue pour rassembler, et elle marque un seuil dans le débat public (Center for AI Safety 2023).

Ce qui frappe est moins la phrase que ses signataires. Elle a été signée par des centaines de chercheurs, dont Geoffrey Hinton et Yoshua Bengio, parmi les informaticiens les plus cités et tous deux lauréats du prix Turing (Center for AI Safety 2023). Elle l’a été aussi par les dirigeants scientifiques et exécutifs de grands laboratoires d’IA. On ne peut donc pas ranger l’inquiétude existentielle du seul côté des amateurs ou des militants : une partie des personnes qui construisent ces systèmes la partagent (Center for AI Safety 2023).

Cette prise de position s’est prolongée dans la littérature scientifique. Un article publié dans une grande revue par Bengio, Hinton et d’autres soutient que l’accroissement des capacités et de l’autonomie des systèmes généralistes pourrait amplifier leur impact, jusqu’à des dommages sociaux à grande échelle, des usages malveillants et une perte de contrôle humain irréversible (Bengio et al. 2024). Il appelle donc à une recherche technique et à une gouvernance proactive. L’argument n’est pas que la catastrophe est certaine, mais qu’une trajectoire rapide justifie de s’y préparer (Bengio et al. 2024). La logique est celle de la précaution proportionnée : consacrer une part des efforts à réduire un risque grave et incertain, comme on le fait pour d’autres technologies puissantes, sans attendre la preuve définitive qui arriverait trop tard (Bengio et al. 2024).

Le cadre institutionnel a suivi. Un rapport international sur la sécurité de l’IA, présidé par Bengio et issu du sommet de Bletchley, a réuni près d’une centaine d’experts de trente pays pour dresser un état des risques des systèmes généralistes (Bengio et al. 2025). Sa valeur tient à sa méthode. Il synthétise la littérature existante plutôt que d’énoncer des prédictions, et distingue les familles de risques, dysfonctionnements, usages malveillants et risques systémiques, en assumant l’incertitude qui les entoure (Bengio et al. 2025). C’est un document de consensus prudent, pas un manifeste (Bengio et al. 2025).

Les enquêtes d’opinion auprès des spécialistes donnent la mesure chiffrée de cette prudence. Dans une vaste consultation de plusieurs milliers de chercheurs ayant publié dans les grandes conférences d’IA, une première question portait sur la probabilité d’une extinction ou d’un déclin sévère et permanent de l’humanité causé par l’IA. La médiane des réponses était de 5 %, pour une moyenne de 16,2 % tirée vers le haut par une minorité très inquiète (Grace et al. 2024). Ce n’est ni zéro ni une annonce de fin du monde (Grace et al. 2024). Une seconde question, distincte, portait sur un « résultat extrêmement mauvais tel que l’extinction » : plus d’un tiers des répondants y plaçaient au moins 10 % de probabilité (Grace et al. 2024). Cela décrit une communauté partagée, avec une incertitude assumée, plutôt qu’un consensus catastrophiste.

Le bon registre pour ce risque est donc la spéculation raisonnée, et il faut le steel-manner sans le durcir. Prendre au sérieux un risque incertain n’est pas annoncer sa réalisation. L’honnêteté consiste à rapporter à la fois qu’il est pris au sérieux par des chercheurs de premier plan et qu’ils en reconnaissent eux-mêmes l’incertitude. Le danger existentiel n’est ni un fait établi ni une lubie : c’est une hypothèse sérieuse, dont la force réelle est celle d’une probabilité discutée, pas d’une certitude.

4. Le catastrophisme et sa critique

À cette prudence répond, dans les médias, un tout autre régime de discours, fait de titres alarmants et de dates de fin du monde, et il appelle une critique elle aussi sérieuse. La plus construite vient de chercheuses qui contestent l’orientation même du débat. Un article influent soutient que les grands modèles de langage sont des « perroquets stochastiques », capables d’agencer des formes linguistiques de façon plausible sans compréhension du sens (Bender et al. 2021). Il soutient aussi que fixer l’attention sur des scénarios lointains détourne des dommages présents et documentés : biais, coûts environnementaux, opacité et concentration du pouvoir. Cette voix a l’avantage de ramener le regard vers ce qui est déjà mesurable (Bender et al. 2021).

De cette position découle la thèse dite de la distraction. Elle affirme que le récit du risque existentiel, largement spéculatif, sert les intérêts des acteurs dominants et détourne l’attention publique et réglementaire des torts actuels de l’IA (Bender et al. 2021). L’argument est recevable comme mise en garde rhétorique, et il pointe un vrai risque d’agenda (Bender et al. 2021). Mais il faut noter qu’il a été mis à l’épreuve empiriquement, et que l’épreuve ne lui a pas donné entièrement raison (Hoes et Gilardi 2025).

C’est un point d’honnêteté trop rarement rapporté. Une étude expérimentale publiée dans une grande revue a trouvé que l’exposition à des récits de risque existentiel augmentait la préoccupation pour les risques catastrophiques sans diminuer la préoccupation pour les dommages immédiats (Hoes et Gilardi 2025). Cela contredit l’idée que l’un chasse mécaniquement l’autre. La distraction, dans cette mesure, tient moins de la loi vérifiée que de l’hypothèse plausible mais contestée. La citer comme un fait acquis serait commettre, en sens inverse, le glissement qu’on reproche aux alarmistes (Hoes et Gilardi 2025).

D’autres critiques visent la substance technique plutôt que l’agenda. Des chercheuses comme Melanie Mitchell soutiennent que les systèmes actuels restent très loin d’une intelligence générale autonome (Mitchell 2024). Le seul scénario existentiel qu’elles jugent plausible passe, selon elles, par un acteur humain malveillant utilisant l’outil, non par une machine qui se retournerait d’elle-même contre l’humanité. Cette objection déplace utilement la question du « et si la machine se réveillait » vers « qui tient la machine », plus proche des risques concrets (Mitchell 2024). Elle rappelle aussi que « intelligence » et « autonomie » ne sont pas synonymes. Un système peut exceller à produire du texte sans rien vouloir, et prêter des intentions à un modèle est une facilité de langage qui brouille l’analyse du risque (Mitchell 2024).

Il faut appliquer le même scepticisme aux deux camps, y compris aux enquêtes qui chiffrent la peur. Les consultations d’experts reposent sur des taux de réponse limités et sur l’auto-sélection des répondants les plus concernés, si bien que leurs chiffres indiquent une distribution d’opinions informées plutôt qu’une estimation objective de la probabilité réelle d’une catastrophe (Grace et al. 2024). Un pourcentage médian issu d’un sondage n’est pas une mesure du monde, c’est une mesure des croyances d’une profession (Grace et al. 2024).

Un point d’accord traverse pourtant les deux camps, et il mérite d’être mis en avant. Ce qui est le mieux établi dans tout le débat existentiel n’est pas le futur, mais le présent. Les biais, les sorties discriminatoires, l’opacité et l’empreinte des grands modèles sont des torts déjà documentés, indépendamment de tout scénario d’extinction (Bender et al. 2021). Reconnaître cela ne diminue pas le risque de long terme, mais rappelle que la partie la plus solide du dossier concerne des dommages actuels et mesurables, pas des catastrophes à venir (Bender et al. 2021).

Le tri s’impose donc ici plus que partout. La spéculation raisonnée, un risque incertain examiné par la recherche, ne doit pas être confondue avec le catastrophisme d’annonce, qui fixe des dates et promet l’apocalypse, ni la critique de la hype avec la négation du risque. On peut tenir ensemble trois choses sans se contredire : que le risque existentiel est pris au sérieux, qu’il reste incertain, et que son emballement médiatique peut effectivement servir d’écran aux torts déjà là.

5. L’« autodestruction » : le model collapse

Reste la seconde peur, la plus singulière : l’IA serait vouée à se dévorer elle-même. Contre toute attente, c’est ici que se trouve le phénomène le mieux documenté du dossier, et il porte un nom précis. L’effondrement des modèles désigne un processus dégénératif. Entraîner récursivement un modèle génératif sur les données produites par les modèles précédents dégrade ses performances au fil des générations, le modèle finissant par s’empoisonner avec sa propre image déformée de la réalité (Shumailov et al. 2024). Ce résultat a été établi dans une grande revue scientifique en 2024, et il ne relève ni de l’intuition ni de l’anecdote. L’article a depuis reçu une correction d’auteurs, en 2025, qui n’en modifie pas les conclusions (Shumailov et al. 2024).

Le mécanisme se déploie en deux temps qu’il vaut la peine de distinguer. Au stade précoce, ce sont les événements rares, les queues de la distribution, qui disparaissent en premier, faute d’être suffisamment représentés dans les échantillons tirés à chaque génération. Au stade tardif, le modèle converge vers une distribution appauvrie, à variance réduite, qui ne ressemble plus guère à la réalité d’origine (Shumailov et al. 2024). Le modèle oublie d’abord l’exceptionnel, puis s’affaisse vers une poignée de motifs répétés (Shumailov et al. 2024).

Cette dégradation n’est pas un accident mais la composition de trois erreurs. Elle résulte de l’accumulation, génération après génération, d’une erreur d’approximation statistique liée à l’échantillonnage fini, d’une erreur d’expressivité liée aux limites du réseau à représenter la vraie distribution, et d’une erreur d’apprentissage liée aux procédures d’optimisation (Shumailov et al. 2024). Chacune serait tolérable isolément ; c’est leur empilement récursif qui pousse le système vers l’appauvrissement (Shumailov et al. 2024).

L’exemple rapporté par les auteurs rend la chose tangible. Un modèle réentraîné sur ses propres sorties, à partir d’un texte initial sur l’architecture de clochers d’églises médiévales, dérive de génération en génération jusqu’à produire un charabia répétitif sans rapport avec le sujet de départ (Shumailov et al. 2024). Le système finit par générer des échantillons que le modèle d’origine n’aurait jamais produits (Shumailov et al. 2024). Cela donne à la métaphore de l’empoisonnement une réalité mesurable. La perte des queues de distribution a une conséquence concrète souvent négligée. Ce sont justement les cas rares, les tournures inhabituelles et les minorités statistiques qui s’effacent en premier, si bien que l’appauvrissement n’est pas neutre mais efface d’abord la diversité (Shumailov et al. 2024).

Le phénomène avait été annoncé par les mêmes auteurs dans un préprint antérieur. Ils y introduisaient l’idée d’un défaut qui s’installe quand les queues de la distribution s’évanouissent, et en tiraient une conséquence pratique remarquée (Shumailov et al. 2023). Les données produites par des humains deviendront d’autant plus précieuses que le web se remplira de contenu synthétique. La rareté du réel deviendrait, dans ce cadre, une ressource (Shumailov et al. 2023).

D’autres travaux ont généralisé le constat au-delà du texte. Une équipe a décrit un « trouble d’autophagie du modèle », par analogie avec une maladie où l’organisme se consomme lui-même (Alemohammad et al. 2023). Elle a montré que dans des boucles où le synthétique remplace le réel sans apport suffisant de données fraîches, la qualité ou la diversité des images générées se dégradent au fil des générations. Une autre a étudié l’interaction entre l’IA générative et Internet. Elle a observé que des modèles entraînés sur des mélanges incluant leurs propres sorties voyaient leur qualité et leur diversité décliner de version en version (Martínez et al. 2023). La thèse de l’autodestruction a donc, contrairement aux deux peurs précédentes, un socle expérimental convergent (Martínez et al. 2023).

6. Nuancer : l’IA ne meurt pas toute seule

Il serait pourtant faux de conclure que l’IA est condamnée à se saborder, et c’est ici que le tri fait toute la différence. Le résultat d’effondrement vaut pour un régime d’entraînement précis, pas pour l’IA en général. La distinction décisive est celle entre remplacer et accumuler. Lorsqu’on n’entraîne chaque génération que sur les sorties de la précédente, le système se dégrade ; mais lorsqu’on accumule les données synthétiques à côté des données réelles d’origine, l’effondrement est évité, résultat tenu empiriquement et prouvé théoriquement sur plusieurs architectures (Gerstgrasser et al. 2024). Le scénario catastrophe suppose donc qu’on jette le réel, ce que personne n’a intérêt à faire (Gerstgrasser et al. 2024).

D’autres travaux affinent encore ce diagnostic. Une analyse en termes de lois d’échelle montre que l’entrée de données synthétiques dans le corpus ne produit pas un effondrement uniforme, mais une modification des régimes d’apprentissage (Dohmatob et al. 2024). Elle montre aussi que mélanger données humaines et synthétiques change qualitativement l’issue par rapport au remplacement pur. Le paramètre déterminant n’est pas la présence de contenu synthétique en soi, mais la proportion de réel qu’on conserve et la façon dont on le mêle (Dohmatob et al. 2024).

La critique la plus frontale porte sur le réalisme du scénario. Une note critique souligne que l’effondrement observé est un phénomène statistique attendu, reproductible par un simple rééchantillonnage répété (Borji 2024). Elle souligne surtout que le protocole de remplacement intégral ne reflète pas les conditions réelles de déploiement, où les laboratoires mélangent données humaines et synthétiques, filtrent, et réinjectent périodiquement du réel. Le résultat de la revue garde toute sa valeur comme mise en garde ; il ne décrit pas une fatalité de terrain (Borji 2024). En pratique, la curation des données, le filtrage qualité et le mélange délibéré de sources humaines sont précisément les gestes qui préviennent l’appauvrissement décrit.

Le vrai risque n’est donc pas la mort spontanée de l’IA, mais la pollution non maîtrisée du corpus commun. Une étude a montré qu’une part étonnamment grande du web est constituée de contenu traduit automatiquement, souvent de basse qualité, et que ce phénomène est particulièrement marqué dans les langues peu dotées (Thompson et al. 2024). Cela documente un appauvrissement réel du matériau disponible. Le danger tient moins à ce qu’un modèle s’entraîne sur lui-même qu’à ce que la ressource collective sur laquelle tout le monde s’entraîne se dégrade sans que personne l’ait décidé (Thompson et al. 2024). On retrouve là une structure connue de bien commun : chacun a intérêt à déverser du contenu synthétique bon marché, et le coût, l’appauvrissement du corpus partagé, se répartit sur tous, si bien que la dégradation avance sans auteur assignable (Thompson et al. 2024).

Il faut ici garder la tête froide sur les chiffres. Les estimations qui circulent, selon lesquelles une majorité du texte en ligne serait générée ou traduite par des machines, varient énormément selon la méthode retenue. Et « contenir de l’IA » n’est pas « être majoritairement produit par l’IA ». Ces ordres de grandeur signalent une tendance qu’on a de bonnes raisons de prendre au sérieux, mais ils ne constituent pas des faits établis et ne doivent pas être cités comme tels.

La réponse à la seconde question est donc nette dans sa nuance. L’IA n’est pas vouée à l’autodestruction. L’effondrement des modèles est un risque réel mais conditionnel, propre à un régime d’entraînement qu’on sait éviter, et l’analogie de la stérilité vaut comme avertissement sur la qualité du corpus commun, pas comme prédiction d’une extinction technique automatique. La formule « l’IA se dévore elle-même » est vraie dans un laboratoire qui le décide, fausse comme destin.

7. Conclusion : répondre en séparant les registres

Tout revient au tri annoncé au départ, et ce tri permet enfin de répondre aux deux questions sans les caricaturer. Sur le cerveau, la délégation cognitive est un fait établi et ancien, mais l’« atrophie » n’est pas démontrée. Les preuves avancées restent corrélationnelles, transversales ou préliminaires, documentant des effets de court terme dépendants du contexte plutôt qu’un dommage durable. La peur n’est donc pas infondée, elle est mal calibrée : ce qui est en jeu n’est pas une lésion, c’est une habitude de délégation dont on peut discuter l’ampleur et les conditions.

Sur la pérennité, la réponse tient dans la distinction entre spéculation raisonnée et catastrophisme. Le risque existentiel est pris au sérieux par des chercheurs de premier plan et par des rapports institutionnels, tout en restant incertain, quantifié par des probabilités médianes modestes et par une communauté partagée. Cela le situe loin du fait acquis comme de la lubie. Le tenir pour certain relèverait de l’emballement, le tenir pour nul de l’aveuglement, et la seule position tenable est d’y voir une hypothèse sérieuse à surveiller sans la dramatiser.

Sur l’autodestruction, enfin, le paradoxe est que la peur la plus étrange repose sur la science la mieux établie, à condition de la lire correctement. L’effondrement des modèles est documenté, mais conditionnel. Il frappe un régime d’entraînement qu’on sait éviter en conservant et en mêlant des données réelles, si bien que l’IA ne meurt pas toute seule, même si le corpus commun peut s’appauvrir faute de soin. La bonne question n’est pas « l’IA va-t-elle s’éteindre », mais « saurons-nous préserver la qualité du réel dont elle et nous dépendons ».

Reste une discipline simple, valable bien plus loin que ce sujet. Devant toute affirmation sur les dangers de l’IA, demandez dans laquelle des trois cases elle tombe, l’établi, l’extrapolé ou l’incertain pris au sérieux, et refusez qu’on vous fasse passer l’une pour l’autre. Les dangers réels de l’IA méritent trop d’attention pour qu’on les noie dans l’emballement, et trop de sérieux pour qu’on les balaie d’un revers de main : les nommer avec justesse est déjà commencer à s’en occuper.

Bibliographie