Le promesse del quotidiano
L'intelligenza artificiale danneggia il nostro cervello, minaccia la nostra specie, e corre verso la propria rovina?
Tre paure circolano, spesso mescolate: che l'IA indebolisca il nostro pensiero, che minacci la sopravvivenza della nostra specie, e che finisca per divorare se stessa. Indagine su ciò che la ricerca stabilisce davvero, ciò che avanza come rischio incerto, e ciò che il clamore aggiunge per di più
0. Introduzione: tre caselle per ordinare le paure
Tre domande tornano non appena si parla dei pericoli dell’intelligenza artificiale, e si pongono quasi sempre insieme, come uno stesso presentimento. La prima è intima: a forza di delegare alla macchina i nostri calcoli, le nostre redazioni, i nostri itinerari, perderemo l’uso delle nostre stesse facoltà? La seconda è vertiginosa: l’IA minaccia fino alla sopravvivenza della nostra specie? La terza è più strana: l’IA non sarebbe forse condannata ad autodistruggersi, a soffocare nella propria produzione? Queste tre inquietudini sono legittime, e meritano meglio di una scrollata di spalle rassicurante o di un brivido catastrofista, poiché ciascuna ricopre fatti assai disugualmente solidi.
La difficoltà non è rispondere sì o no, ma ordinare. Ogni affermazione sui pericoli dell’IA cade in una di tre caselle che si ha interesse a non confondere mai: ciò che è stabilito, cioè misurato e replicato; ciò che rientra nell’hype, cioè nell’estrapolazione e nell’effetto annuncio; e ciò che è speculazione ragionata, cioè un rischio reale ma incerto, avanzato da ricercatori seri senza essere dato per acquisito. La buona risposta non è né « va tutto bene » né « la fine è vicina »: è dire, per ogni frase, in quale delle tre caselle si colloca.
L’andamento del testo segue questo ordinamento. Guarda dapprima ciò che delegare una funzione fa alla mente, poi pesa la forza reale delle prove sull’« atrofia » cerebrale, esamina in seguito ciò che la ricerca seria avanza sul rischio esistenziale e ciò che la critica gli oppone, descrive infine la tesi dell’« autodistruzione » prima di sfumarla. Quest’ordine non è decorativo: cominciare dal cognitivo àncora il discorso nel misurabile, e finire con il collasso dei modelli permette di distinguere un degrado documentato da una morte spontanea fantasticata.
Il test che guiderà la lettura sta in una domanda. Quando una frase afferma un pericolo dell’IA, chiedetevi se enuncia un fatto stabilito, un’estrapolazione mediatica, o un rischio incerto preso sul serio dalla ricerca, e rifiutate lo scivolamento da un registro all’altro. Una prova correlazionale non è una prova causale, un preprint non è un risultato replicato, e un rischio giudicato possibile non è un evento annunciato.
Due precauzioni inquadrano il discorso. Questo testo pesa la forza delle prove sulle tre domande poste, il cervello, la sopravvivenza della specie e l’autodistruzione; non fa né la rassegna tecnica dell’allineamento, né la prospettiva dell’occupazione, né il bilancio ambientale, temi segnalati senza essere trattati. E si impone una simmetria: scrutare con altrettanto rigore le fonti che allarmano, preprint e cifre spettacolari, quanto quelle che rassicurano, poiché il clamore non ha schieramento.
1. Ciò che « delegare » fa alla mente
Cominciamo dal più solido, poiché senza di esso il seguito virerebbe all’opinione. Delegare un compito mentale a un supporto esterno porta un nome in psicologia cognitiva. Lo scarico cognitivo designa l’uso di un’azione fisica o di uno strumento esterno per ridurre il carico mentale interno, come scrivere una nota anziché ritenere un numero, ed è un fenomeno documentato, né nuovo né proprio dell’IA (Risko e Gilbert 2016). Ogni tecnica d’iscrizione, dalla scrittura alla calcolatrice, trasferisce all’esterno una parte di ciò che la testa faceva da sola, e l’IA generativa non è che l’ultimo anello di una lunghissima catena (Risko e Gilbert 2016).
Un esperimento celebre ha mostrato che questo trasferimento modifica ciò che si ritiene. Quando le persone si aspettano di poter riconsultare un’informazione più tardi, la memorizzano meno bene in sé ma ritengono meglio dove ritrovarla, uno spostamento della memoria dal contenuto verso il suo indirizzo (Sparrow et al. 2011). Internet funziona allora come una memoria esterna condivisa, a cui si affida il sapere conservando solo il percorso d’accesso (Sparrow et al. 2011). Questo risultato, spesso riassunto dalla formula dell’« effetto Google », ha alimentato l’idea di una memoria che si esternalizza (Sparrow et al. 2011).
La prudenza si impone tuttavia, poiché una parte di questi lavori è invecchiata male. Il versante più spettacolare dello studio fondatore, quello di un innesco automatico verso l’idea di computer di fronte a una domanda difficile, non ha retto alla replica, né in un grande progetto di riproduzione in scienze sociali, né in una replica indipendente ulteriore (Camerer et al. 2018; Hesselmann 2020; Gong e Yang 2024). Il nucleo « ritengo dove piuttosto che cosa » resiste meglio, ma una meta-analisi recente mostra che è condizionale, modulato dal carico cognitivo, dal tipo di apparecchio e dalle conoscenze già possedute, piuttosto che automatico e universale (Camerer et al. 2018; Hesselmann 2020; Gong e Yang 2024). In altri termini, l’effetto esiste, ma dipende dal contesto invece di applicarsi ovunque e sempre (Camerer et al. 2018; Hesselmann 2020; Gong e Yang 2024).
Occorre tuttavia guardarsi dal vedervi un puro impoverimento, poiché lo stesso quadro teorico insiste sull’altro versante. Lo scarico cognitivo è spesso adattivo: affidare all’esterno un’operazione noiosa libera risorse mentali per compiti di più alto livello, ed è precisamente per questo che la specie non ha cessato di inventare supporti per pensare (Risko e Gilbert 2016). La domanda utile non è dunque « bisogna delegare », a cui la storia delle tecniche ha già risposto, ma « che cosa deleghiamo, e conserviamo la capacità di riprendere in mano quando lo strumento manca » (Risko e Gilbert 2016).
Un meccanismo vicino merita di essere notato, poiché assomiglia a una china. Ricorrere a una fonte esterna per una prima serie di domande aumenta la probabilità di ricorrervi in seguito, comprese domande facili che si sarebbero potute trattare da soli, il che descrive una dinamica di dipendenza che si autorinforza (Storm et al. 2017). Ogni delega rende la delega successiva più probabile, non perché la facoltà scompaia, ma perché l’abitudine di appoggiarsi allo strumento si consolida (Storm et al. 2017).
La neuroimmagine offre l’illustrazione più netta di ciò che delegare fa durante l’azione. Quando dei partecipanti navigano liberamente in strade che conoscono, l’ippocampo e la corteccia prefrontale codificano la topologia della rete e i percorsi possibili; ma quando seguono un GPS, questa attività legata alla pianificazione dei tragitti si spegne, come se il cervello cessasse di esplorare le opzioni che si decidono al suo posto (Javadi et al. 2017). Occorre leggere questo risultato per ciò che è: una minore sollecitazione di una regione durante il compito delegato, non un restringimento anatomico dell’organo (Javadi et al. 2017).
Nulla di tutto ciò ha del resto atteso l’IA per essere teorizzato. La ricerca sull’automazione descrive da tempo la « compiacenza da automazione », quell’eccesso di fiducia in un sistema automatico che abbassa la vigilanza e il rilevamento degli errori, fenomeno studiato ben prima dei modelli linguistici (Parasuraman e Manzey 2010). La lezione di questo primo giro è dunque misurata: delegare una funzione ne riduce l’esercizio, talvolta l’impegno cerebrale durante l’azione, e ciò è reale. Ma « reale » non vuol dire ancora « durevolmente danneggiato », ed è il salto successivo che occorre esaminare da vicino.
2. « L’IA atrofizza il cervello? » La forza reale delle prove
Dal 2025, diversi studi sono stati rilanciati come la prova che l’IA « danneggia » il cervello, ed è qui che occorre pesare invece di ripetere. Il più commentato è uno studio elettroencefalografico condotto in un laboratorio del MIT. Ha confrontato la connettività cerebrale di persone che redigevano un tema a seconda che si aiutassero con un modello linguistico, con un motore di ricerca o con nulla, e ha osservato la connettività più bassa negli utenti dell’IA, così come un minore senso di essere l’autore del proprio testo, parlando i suoi autori di un accumulo di « debito cognitivo » (Kosmyna et al. 2025). Il risultato è suggestivo e merita attenzione (Kosmyna et al. 2025).
Esso richiede tuttavia di essere citato con i suoi limiti, pena fargli dire più di quanto possa. Questo studio è un preprint non sottoposto a revisione paritaria, vertente su un piccolo campione, e una sola misura d’impegno neuronale durante un compito non documenta né un’atrofia né un danno durevole (Kosmyna et al. 2025). L’espressione « debito cognitivo » è una metafora proposta dagli autori, non una diagnosi clinica stabilita, e confondere una connettività momentaneamente più bassa con una lesione sarebbe esattamente lo scivolamento di registro che questo testo si vieta (Kosmyna et al. 2025).
Un secondo studio, spesso citato accanto, proviene da un’indagine industriale. Interrogando centinaia di lavoratori della conoscenza sul loro uso dell’IA generativa, riporta che una maggiore fiducia nello strumento si accompagna a un minore sforzo di pensiero critico, mentre la fiducia in sé va di pari passo con maggiore spirito critico, spostandosi la vigilanza dalla produzione verso la verifica (Lee et al. 2025). Il quadro è coerente con l’idea di una mente che delega (Lee et al. 2025). Ma questi dati sono autodichiarati e correlazionali: misurano percezioni di sforzo, non un degrado oggettivo delle capacità, e non permettono alcuna conclusione causale (Lee et al. 2025).
Un terzo studio ha molto circolato per il suo risultato sorprendente. Condotto su diverse centinaia di partecipanti, riporta una correlazione negativa tra l’uso frequente di strumenti d’IA e le capacità di pensiero critico, mediata dallo scarico cognitivo e più marcata nei più giovani (Gerlich 2025). La correlazione è netta, e coincide con l’intuizione comune (Gerlich 2025). Resta che lo studio è trasversale e in parte autodichiarato, il che gli impedisce di stabilire un senso di causalità: può darsi altrettanto bene che le persone dal più debole spirito critico si rivolgano di più all’IA, ipotesi di causalità inversa che il protocollo non può escludere (Gerlich 2025).
Un contrappunto metodologico completa il quadro e lo tempera. Una meta-analisi dell’effetto Google conclude che è reale ma condizionale, più marcato su smartphone che su computer, attenuato nelle persone dotate di una base di conoscenze più ampia, il che parla di un effetto modulato dal contesto piuttosto che di una fatalità (Gong e Yang 2024). La delega non agisce dunque allo stesso modo su tutti né in ogni circostanza (Gong e Yang 2024).
Lo stato generale della letteratura conferma questa riserva piuttosto che dissiparla. Le rassegne sistematiche recenti dedicate all’IA generativa e al pensiero critico approdano a risultati eterogenei, molto dipendenti dal disegno degli studi e dal contesto pedagogico, il che è di per sé il segno di un campo giovane e non stabilizzato. Quando decine di studi ben condotti puntano in direzioni diverse a seconda del modo in cui lo strumento è impiegato, la conclusione prudente non è « l’IA nuoce » né « l’IA aiuta », ma « l’effetto dipende dall’uso ».
Di qui un bilancio onesto, allineato alla forza delle prove. L’idea che l’IA « atrofizzi » il cervello non è stabilita: i dati disponibili sono per l’essenziale correlazionali, trasversali, spesso autodichiarati, su piccoli campioni o in preprint, e documentano effetti di prestazione a breve termine, dipendenti dal contesto, senza dimostrare alcuna lesione durevole. Occorre qui tenere i due capi senza mollarne uno: mostrare che un’inquietudine è amplificata dal clamore mediatico non prova che sia immaginaria, e che nessuna atrofia sia dimostrata non prova che un uso massiccio e precoce sia senza effetto. Il registro corretto per questa paura è dunque « stabilito come delega, non stabilito come atrofia », e non « provato » né « campato in aria ».
3. Il rischio esistenziale: ciò che la ricerca seria avanza
Passiamo alla questione della sopravvivenza, dove il riflesso è rimandare gli uni agli altri i profeti di sventura e gli scettici. Sarebbe mancare un fatto notevole: ricercatori di primo piano prendono questo rischio sul serio. Nel maggio 2023, una dichiarazione di una sola frase ha affermato che « ridurre il rischio di estinzione legato all’IA dovrebbe essere una priorità mondiale, allo stesso titolo di altri rischi su scala sociale come le pandemie e la guerra nucleare » (Center for AI Safety 2023). Questa formulazione breve è stata concepita per riunire, e segna una soglia nel dibattito pubblico (Center for AI Safety 2023).
Ciò che colpisce è meno la frase che i suoi firmatari. È stata firmata da centinaia di ricercatori, tra cui Geoffrey Hinton e Yoshua Bengio, tra gli informatici più citati ed entrambi vincitori del premio Turing, così come dai dirigenti scientifici ed esecutivi di grandi laboratori d’IA (Center for AI Safety 2023). Non si può dunque collocare l’inquietudine esistenziale dalla sola parte dei dilettanti o dei militanti: una parte delle persone che costruiscono questi sistemi la condivide (Center for AI Safety 2023).
Questa presa di posizione si è prolungata nella letteratura scientifica. Un articolo pubblicato in una grande rivista da Bengio, Hinton e altri sostiene che l’accrescimento delle capacità e dell’autonomia dei sistemi generalisti potrebbe amplificarne l’impatto, fino a danni sociali su larga scala, usi malevoli e una perdita di controllo umano irreversibile, e invoca una ricerca tecnica e una governance proattiva (Bengio et al. 2024). L’argomento non è che la catastrofe sia certa, ma che una traiettoria rapida giustifichi il prepararvisi (Bengio et al. 2024). La logica è quella della precauzione proporzionata: dedicare una parte degli sforzi a ridurre un rischio grave e incerto, come si fa per altre tecnologie potenti, senza attendere la prova definitiva che arriverebbe troppo tardi (Bengio et al. 2024).
Il quadro istituzionale ha seguito. Un rapporto internazionale sulla sicurezza dell’IA, presieduto da Bengio e scaturito dal vertice di Bletchley, ha riunito quasi un centinaio di esperti di trenta paesi per stilare uno stato dei rischi dei sistemi generalisti (Bengio et al. 2025). Il suo valore risiede nel metodo: sintetizza la letteratura esistente anziché enunciare previsioni, e distingue le famiglie di rischi, disfunzioni, usi malevoli e rischi sistemici, assumendo l’incertezza che li circonda (Bengio et al. 2025). È un documento di consenso prudente, non un manifesto (Bengio et al. 2025).
Le indagini d’opinione presso gli specialisti danno la misura cifrata di questa prudenza. In una vasta consultazione di diverse migliaia di ricercatori che hanno pubblicato nelle grandi conferenze d’IA, una prima domanda verteva sulla probabilità di un’estinzione o di un declino severo e permanente dell’umanità causato dall’IA: la mediana delle risposte era del 5 %, per una media del 16,2 % tirata verso l’alto da una minoranza molto inquieta (Grace et al. 2024). Non è né zero né un annuncio di fine del mondo (Grace et al. 2024). Una seconda domanda, distinta, verteva su un « risultato estremamente cattivo come l’estinzione »: più di un terzo dei rispondenti vi collocava almeno il 10 % di probabilità, il che descrive una comunità divisa, con un’incertezza assunta, piuttosto che un consenso catastrofista (Grace et al. 2024).
Il buon registro per questo rischio è dunque la speculazione ragionata, e occorre considerarlo nella sua forma più forte senza indurirlo. Prendere sul serio un rischio incerto non è annunciarne la realizzazione, e l’onestà consiste nel riportare al tempo stesso che è preso sul serio da ricercatori di primo piano e che essi stessi ne riconoscono l’incertezza. Il pericolo esistenziale non è né un fatto stabilito né una fantasia: è un’ipotesi seria, la cui forza reale è quella di una probabilità discussa, non di una certezza.
4. Il catastrofismo e la sua critica
A questa prudenza risponde, nei media, tutt’altro regime di discorso, fatto di titoli allarmanti e di date di fine del mondo, e chiama una critica anch’essa seria. La più costruita viene da ricercatrici che contestano l’orientamento stesso del dibattito. Un articolo influente sostiene che i grandi modelli linguistici sono « pappagalli stocastici », capaci di disporre forme linguistiche in modo plausibile senza comprensione del senso, e che fissare l’attenzione su scenari lontani distoglie dai danni presenti e documentati, pregiudizi, costi ambientali, opacità e concentrazione del potere (Bender et al. 2021). Questa voce ha il vantaggio di riportare lo sguardo verso ciò che è già misurabile (Bender et al. 2021).
Da questa posizione discende la tesi detta della distrazione. Afferma che il racconto del rischio esistenziale, largamente speculativo, serve gli interessi degli attori dominanti e distoglie l’attenzione pubblica e regolamentare dai torti attuali dell’IA (Bender et al. 2021). L’argomento è ricevibile come avvertenza retorica, e indica un vero rischio di agenda (Bender et al. 2021). Ma occorre notare che è stato messo alla prova empiricamente, e che la prova non gli ha dato interamente ragione (Hoes e Gilardi 2025).
È un punto d’onestà troppo raramente riportato. Uno studio sperimentale pubblicato in una grande rivista ha trovato che l’esposizione a racconti di rischio esistenziale aumentava la preoccupazione per i rischi catastrofici senza diminuire la preoccupazione per i danni immediati, il che contraddice l’idea che l’uno scacci meccanicamente l’altro (Hoes e Gilardi 2025). La distrazione, in questa misura, tiene meno della legge verificata che dell’ipotesi plausibile ma contestata, e citarla come un fatto acquisito sarebbe commettere, in senso inverso, lo scivolamento che si rimprovera agli allarmisti (Hoes e Gilardi 2025).
Altre critiche mirano alla sostanza tecnica piuttosto che all’agenda. Ricercatrici come Melanie Mitchell sostengono che i sistemi attuali restano molto lontani da un’intelligenza generale autonoma, e che il solo scenario esistenziale che giudicano plausibile passa per un attore umano malevolo che utilizza lo strumento, non per una macchina che si rivolterebbe da sé contro l’umanità (Mitchell 2024). Questa obiezione sposta utilmente la questione dal « e se la macchina si risvegliasse » verso « chi tiene la macchina », più vicino ai rischi concreti (Mitchell 2024). Ricorda anche che « intelligenza » e « autonomia » non sono sinonimi: un sistema può eccellere nel produrre testo senza volere nulla, e prestare intenzioni a un modello è una facilità di linguaggio che offusca l’analisi del rischio (Mitchell 2024).
Occorre applicare lo stesso scetticismo ai due campi, comprese le indagini che cifrano la paura. Le consultazioni di esperti riposano su tassi di risposta limitati e sull’autoselezione dei rispondenti più coinvolti, cosicché le loro cifre indicano una distribuzione di opinioni informate piuttosto che una stima oggettiva della probabilità reale di una catastrofe (Grace et al. 2024). Una percentuale mediana tratta da un sondaggio non è una misura del mondo, è una misura delle credenze di una professione (Grace et al. 2024).
Un punto d’accordo attraversa tuttavia i due campi, e merita di essere messo in evidenza. Ciò che è meglio stabilito in tutto il dibattito esistenziale non è il futuro, ma il presente: i pregiudizi, le uscite discriminatorie, l’opacità e l’impronta dei grandi modelli sono torti già documentati, indipendentemente da ogni scenario di estinzione (Bender et al. 2021). Riconoscerlo non diminuisce il rischio di lungo termine, ma ricorda che la parte più solida del dossier riguarda danni attuali e misurabili, non catastrofi a venire (Bender et al. 2021).
L’ordinamento si impone dunque qui più che altrove. La speculazione ragionata, un rischio incerto esaminato dalla ricerca, non deve essere confusa con il catastrofismo d’annuncio, che fissa date e promette l’apocalisse, né la critica dell’hype con la negazione del rischio. Si possono tenere insieme tre cose senza contraddirsi: che il rischio esistenziale è preso sul serio, che resta incerto, e che il suo clamore mediatico può effettivamente fare da schermo ai torti già presenti.
5. L’« autodistruzione »: il collasso dei modelli
Resta la seconda paura, la più singolare: l’IA sarebbe votata a divorare se stessa. Contro ogni attesa, è qui che si trova il fenomeno meglio documentato del dossier, e porta un nome preciso. Il collasso dei modelli designa un processo degenerativo: addestrare ricorsivamente un modello generativo sui dati prodotti dai modelli precedenti degrada le sue prestazioni di generazione in generazione, finendo il modello per avvelenarsi con la propria immagine deformata della realtà (Shumailov et al. 2024). Questo risultato è stato stabilito in una grande rivista scientifica nel 2024, e non rientra né nell’intuizione né nell’aneddoto; l’articolo ha ricevuto da allora una correzione degli autori, nel 2025, che non ne modifica le conclusioni (Shumailov et al. 2024).
Il meccanismo si dispiega in due tempi che vale la pena distinguere. Allo stadio precoce, sono gli eventi rari, le code della distribuzione, a sparire per primi, per mancanza di essere sufficientemente rappresentati nei campioni estratti a ogni generazione; allo stadio tardivo, il modello converge verso una distribuzione impoverita, a varianza ridotta, che non assomiglia più granché alla realtà d’origine (Shumailov et al. 2024). Il modello dimentica dapprima l’eccezionale, poi si affloscia verso una manciata di schemi ripetuti (Shumailov et al. 2024).
Questo degrado non è un incidente ma la composizione di tre errori. Risulta dall’accumulo, generazione dopo generazione, di un errore di approssimazione statistica legato al campionamento finito, di un errore di espressività legato ai limiti della rete nel rappresentare la vera distribuzione, e di un errore di apprendimento legato alle procedure di ottimizzazione (Shumailov et al. 2024). Ciascuno sarebbe tollerabile isolatamente; è il loro impilamento ricorsivo che spinge il sistema verso l’impoverimento (Shumailov et al. 2024).
L’esempio riportato dagli autori rende la cosa tangibile. Un modello riaddestrato sulle proprie uscite, a partire da un testo iniziale sull’architettura di campanili di chiese medievali, deriva di generazione in generazione fino a produrre un farfugliamento ripetitivo senza rapporto con l’argomento di partenza (Shumailov et al. 2024). Il sistema finisce per generare campioni che il modello d’origine non avrebbe mai prodotto, il che dà alla metafora dell’avvelenamento una realtà misurabile (Shumailov et al. 2024). La perdita delle code di distribuzione ha una conseguenza concreta spesso trascurata: sono proprio i casi rari, le formulazioni inusuali e le minoranze statistiche a cancellarsi per primi, cosicché l’impoverimento non è neutro ma cancella dapprima la diversità (Shumailov et al. 2024).
Il fenomeno era stato annunciato dagli stessi autori in un preprint anteriore. Vi introducevano l’idea di un difetto che si installa quando le code della distribuzione svaniscono, e ne traevano una conseguenza pratica notata: i dati prodotti da esseri umani diventeranno tanto più preziosi quanto più il web si riempirà di contenuto sintetico (Shumailov et al. 2023). La rarità del reale diventerebbe, in questo quadro, una risorsa (Shumailov et al. 2023).
Altri lavori hanno generalizzato la constatazione al di là del testo. Un’équipe ha descritto un « disturbo di autofagia del modello », per analogia con una malattia in cui l’organismo consuma se stesso, mostrando che in cicli dove il sintetico rimpiazza il reale senza apporto sufficiente di dati freschi, la qualità o la diversità delle immagini generate si degrada di generazione in generazione (Alemohammad et al. 2023). Un’altra ha studiato l’interazione tra l’IA generativa e Internet, osservando che modelli addestrati su miscele includenti le proprie uscite vedevano la loro qualità e la loro diversità declinare di versione in versione (Martínez et al. 2023). La tesi dell’autodistruzione ha dunque, contrariamente alle due paure precedenti, una base sperimentale convergente (Martínez et al. 2023).
6. Sfumare: l’IA non muore da sola
Sarebbe tuttavia falso concludere che l’IA è condannata a sabotarsi, ed è qui che l’ordinamento fa tutta la differenza. Il risultato di collasso vale per un regime di addestramento preciso, non per l’IA in generale. La distinzione decisiva è quella tra rimpiazzare e accumulare: quando si addestra ogni generazione solo sulle uscite della precedente, il sistema si degrada, ma quando si accumulano i dati sintetici accanto ai dati reali d’origine, il collasso è evitato, risultato tenuto empiricamente e provato teoricamente su diverse architetture (Gerstgrasser et al. 2024). Lo scenario catastrofe suppone dunque che si getti il reale, cosa che nessuno ha interesse a fare (Gerstgrasser et al. 2024).
Altri lavori affinano ancora questa diagnosi. Un’analisi in termini di leggi di scala mostra che l’ingresso di dati sintetici nel corpus non produce un collasso uniforme ma una modifica dei regimi di apprendimento, e che mescolare dati umani e sintetici cambia qualitativamente l’esito rispetto al rimpiazzo puro (Dohmatob et al. 2024). Il parametro determinante non è la presenza di contenuto sintetico in sé, ma la proporzione di reale che si conserva e il modo in cui lo si mescola (Dohmatob et al. 2024).
La critica più frontale verte sul realismo dello scenario. Una nota critica sottolinea che il collasso osservato è un fenomeno statistico atteso, riproducibile con un semplice ricampionamento ripetuto, e soprattutto che il protocollo di rimpiazzo integrale non riflette le condizioni reali di dispiegamento, dove i laboratori mescolano dati umani e sintetici, filtrano, e reiniettano periodicamente del reale (Borji 2024). Il risultato della rivista conserva tutto il suo valore come avvertenza; non descrive una fatalità sul campo (Borji 2024). In pratica, la curatela dei dati, il filtraggio di qualità e la miscela deliberata di fonti umane sono precisamente i gesti che prevengono l’impoverimento descritto.
Il vero rischio non è dunque la morte spontanea dell’IA, ma l’inquinamento non controllato del corpus comune. Uno studio ha mostrato che una parte sorprendentemente grande del web è costituita da contenuto tradotto automaticamente, spesso di bassa qualità, e che questo fenomeno è particolarmente marcato nelle lingue poco dotate, il che documenta un impoverimento reale del materiale disponibile (Thompson et al. 2024). Il pericolo risiede meno nel fatto che un modello si addestri su se stesso che nel fatto che la risorsa collettiva su cui tutti si addestrano si degradi senza che nessuno l’abbia deciso (Thompson et al. 2024). Si ritrova qui una struttura nota di bene comune: ciascuno ha interesse a riversare contenuto sintetico a buon mercato, e il costo, l’impoverimento del corpus condiviso, si ripartisce su tutti, cosicché il degrado avanza senza autore assegnabile (Thompson et al. 2024).
Occorre qui mantenere la testa fredda sulle cifre. Le stime che circolano, secondo cui una maggioranza del testo online sarebbe generata o tradotta da macchine, variano enormemente a seconda del metodo adottato, e « contenere dell’IA » non è « essere maggioritariamente prodotto dall’IA ». Questi ordini di grandezza segnalano una tendenza che si hanno buone ragioni di prendere sul serio, ma non costituiscono fatti stabiliti e non devono essere citati come tali.
La risposta alla seconda domanda è dunque netta nella sua sfumatura. L’IA non è votata all’autodistruzione: il collasso dei modelli è un rischio reale ma condizionale, proprio di un regime di addestramento che si sa evitare, e l’analogia della sterilità vale come avvertimento sulla qualità del corpus comune, non come previsione di un’estinzione tecnica automatica. La formula « l’IA divora se stessa » è vera in un laboratorio che lo decide, falsa come destino.
7. Conclusione: rispondere separando i registri
Tutto ritorna all’ordinamento annunciato all’inizio, e questo ordinamento permette finalmente di rispondere alle due domande senza caricaturarle. Sul cervello, la delega cognitiva è un fatto stabilito e antico, ma l’« atrofia » non è dimostrata, e le prove avanzate restano correlazionali, trasversali o preliminari, documentando effetti di breve termine dipendenti dal contesto piuttosto che un danno durevole. La paura non è dunque infondata, è mal calibrata: ciò che è in gioco non è una lesione, è un’abitudine di delega di cui si può discutere l’ampiezza e le condizioni.
Sulla sopravvivenza, la risposta sta nella distinzione tra speculazione ragionata e catastrofismo. Il rischio esistenziale è preso sul serio da ricercatori di primo piano e da rapporti istituzionali, pur restando incerto, quantificato da probabilità mediane modeste e da una comunità divisa, il che lo situa lontano dal fatto acquisito come dalla fantasia. Tenerlo per certo rientrerebbe nel clamore, tenerlo per nullo nell’accecamento, e la sola posizione sostenibile è vedervi un’ipotesi seria da sorvegliare senza drammatizzarla.
Sull’autodistruzione, infine, il paradosso è che la paura più strana riposa sulla scienza meglio stabilita, a condizione di leggerla correttamente. Il collasso dei modelli è documentato, ma condizionale: colpisce un regime di addestramento che si sa evitare conservando e mescolando dati reali, cosicché l’IA non muore da sola, anche se il corpus comune può impoverirsi per mancanza di cura. La buona domanda non è « l’IA si estinguerà », ma « sapremo preservare la qualità del reale da cui essa e noi dipendiamo ».
Resta una regola semplice, portatile, che vale al di là di questo tema. Davanti a ogni affermazione sui pericoli dell’IA, chiedete in quale delle tre caselle cade, lo stabilito, l’estrapolato o l’incerto preso sul serio, e rifiutate che vi si faccia passare l’una per l’altra. I pericoli reali dell’IA meritano troppa attenzione perché li si anneghi nel clamore, e troppa serietà perché li si scacci con un rovescio di mano: nominarli con giustezza è già cominciare a occuparsene.