Die Versprechen des Alltags
Schädigt die künstliche Intelligenz unser Gehirn, bedroht sie unsere Art und läuft sie in ihr eigenes Verderben?
Drei Ängste kursieren, oft vermengt: dass die KI unser Denken schwäche, dass sie den Fortbestand unserer Art bedrohe und dass sie sich am Ende selbst verschlinge. Eine Untersuchung dessen, was die Forschung wirklich belegt, was sie als ungewisses Risiko vorbringt und was der Rummel darüber hinaus hinzufügt
0. Einleitung: drei Fächer, um die Ängste zu sortieren
Drei Fragen kehren wieder, sobald von den Gefahren der künstlichen Intelligenz die Rede ist, und sie stellen sich fast immer zusammen, wie ein und dieselbe Vorahnung. Die erste ist intim: Werden wir, indem wir der Maschine unsere Rechnungen, unsere Texte, unsere Wegstrecken überlassen, den Gebrauch unserer eigenen Fähigkeiten verlieren? Die zweite ist schwindelerregend: Bedroht die KI gar den Fortbestand unserer Art? Die dritte ist befremdlicher: Wäre die KI nicht dazu verurteilt, sich selbst zu zerstören, in ihrer eigenen Erzeugung zu ersticken? Diese drei Beunruhigungen sind berechtigt, und sie verdienen Besseres als ein beruhigendes Achselzucken oder einen katastrophistischen Schauer, denn jede birgt Tatsachen von sehr ungleicher Belastbarkeit.
Die Schwierigkeit besteht nicht darin, mit Ja oder Nein zu antworten, sondern darin zu sortieren. Jede Behauptung über die Gefahren der KI fällt in eines von drei Fächern, die man besser nie verwechselt: das Belegte, also das Gemessene und Replizierte; das, was zum Rummel gehört, also zur Extrapolation und zum Ankündigungseffekt; und die begründete Spekulation, also ein reales, aber ungewisses Risiko, das von ernsthaften Forschern vorgebracht wird, ohne für ausgemacht zu gelten. Die richtige Antwort lautet weder „alles ist in Ordnung“ noch „das Ende ist nah“: sie besteht darin, für jeden Satz zu sagen, in welches der drei Fächer er gehört.
Der Gang des Textes folgt diesem Sortieren. Er betrachtet zuerst, was das Auslagern einer Funktion mit dem Geist macht, wägt dann die reale Stärke der Belege zur „Verkümmerung“ des Gehirns ab, prüft danach, was die ernsthafte Forschung zum existenziellen Risiko vorbringt und was die Kritik ihr entgegenhält, und beschreibt schließlich die These der „Selbstzerstörung“, bevor er sie differenziert. Diese Reihenfolge ist nicht schmückend: mit dem Kognitiven zu beginnen verankert die Erörterung im Messbaren, und mit dem Modellkollaps zu enden erlaubt es, eine dokumentierte Verschlechterung von einem herbeifantasierten spontanen Tod zu unterscheiden.
Der Test, der die Lektüre leiten wird, besteht in einer einzigen Frage. Wenn ein Satz eine Gefahr der KI behauptet, fragen Sie sich, ob er eine belegte Tatsache, eine mediale Extrapolation oder ein ungewisses, von der Forschung ernst genommenes Risiko ausspricht, und verweigern Sie das Abgleiten von einem Register ins andere. Ein korrelativer Beleg ist kein kausaler Beleg, ein Preprint ist kein repliziertes Ergebnis, und ein für möglich gehaltenes Risiko ist kein angekündigtes Ereignis.
Zwei Vorbemerkungen grenzen den Gegenstand ein. Dieser Text wägt die Stärke der Belege zu den drei gestellten Fragen ab, dem Gehirn, dem Fortbestand der Art und der Selbstzerstörung; er leistet weder die technische Überprüfung der Ausrichtung (Alignment) noch die Vorausschau auf die Beschäftigung noch die Umweltbilanz, Themen, die genannt, aber nicht behandelt werden. Und er zwingt sich zu einer Symmetrie: die alarmierenden Quellen, Preprints und spektakuläre Zahlen, ebenso streng zu prüfen wie die beruhigenden, denn der Rummel hat keine Seite.
1. Was das „Auslagern“ mit dem Geist macht
Beginnen wir mit dem Solidesten, denn ohne es liefe das Folgende auf bloße Meinung hinaus. Eine geistige Aufgabe an einen äußeren Träger auszulagern hat in der kognitiven Psychologie einen Namen. Die kognitive Auslagerung bezeichnet den Gebrauch einer körperlichen Handlung oder eines externen Werkzeugs, um die innere geistige Last zu verringern, etwa eine Notiz zu schreiben, statt eine Nummer zu behalten, und es ist ein dokumentiertes Phänomen, weder neu noch der KI eigen (Risko und Gilbert 2016). Jede Technik der Aufzeichnung, von der Schrift bis zum Taschenrechner, verlagert nach außen einen Teil dessen, was der Kopf allein tat, und die generative KI ist nur das letzte Glied einer sehr langen Kette (Risko und Gilbert 2016).
Ein berühmtes Experiment hat gezeigt, dass diese Verlagerung verändert, was man behält. Wenn Menschen erwarten, eine Information später erneut abrufen zu können, prägen sie sich die Information selbst schlechter ein, behalten aber besser, wo sie sie wiederfinden, eine Verschiebung des Gedächtnisses vom Inhalt zu seiner Adresse (Sparrow u. a. 2011). Das Internet wirkt dann wie ein geteiltes externes Gedächtnis, dem man das Wissen anvertraut, während man nur den Zugangsweg behält (Sparrow u. a. 2011). Dieses Ergebnis, oft mit der Formel vom „Google-Effekt“ zusammengefasst, hat die Vorstellung eines sich veräußernden Gedächtnisses genährt (Sparrow u. a. 2011).
Vorsicht ist gleichwohl geboten, denn ein Teil dieser Arbeiten ist schlecht gealtert. Der spektakulärste Teil der grundlegenden Studie, jener eines automatischen Bahnens hin zur Idee des Computers angesichts einer schwierigen Frage, hat der Replikation nicht standgehalten, weder in einem großen Reproduktionsprojekt der Sozialwissenschaften noch in einer späteren unabhängigen Replikation (Camerer u. a. 2018; Hesselmann 2020; Gong und Yang 2024). Der Kern „ich behalte eher das Wo als das Was“ hält besser stand, doch eine jüngere Meta-Analyse zeigt, dass er bedingt ist, moduliert durch die kognitive Last, die Art des Geräts und das bereits vorhandene Wissen, statt automatisch und allgemeingültig (Camerer u. a. 2018; Hesselmann 2020; Gong und Yang 2024). Anders gesagt, der Effekt existiert, aber er hängt vom Kontext ab, statt überall und immer zu gelten (Camerer u. a. 2018; Hesselmann 2020; Gong und Yang 2024).
Man muss sich jedoch hüten, darin eine bloße Verarmung zu sehen, denn derselbe theoretische Rahmen betont die andere Seite. Die kognitive Auslagerung ist oft anpassungsdienlich: einen mühsamen Vorgang nach außen zu geben setzt geistige Ressourcen für Aufgaben höherer Ordnung frei, und eben deshalb hat die Art unablässig Träger zum Denken erfunden (Risko und Gilbert 2016). Die nützliche Frage lautet also nicht „soll man auslagern“, worauf die Geschichte der Techniken bereits geantwortet hat, sondern „was lagern wir aus, und bewahren wir die Fähigkeit, wieder selbst zu übernehmen, wenn das Werkzeug fehlt“ (Risko und Gilbert 2016).
Ein benachbarter Mechanismus verdient Beachtung, denn er gleicht einem Gefälle. Auf eine externe Quelle für eine erste Reihe von Fragen zurückzugreifen erhöht die Wahrscheinlichkeit, danach erneut darauf zurückzugreifen, auch bei leichten Fragen, die man allein hätte lösen können, was eine sich selbst verstärkende Dynamik der Abhängigkeit beschreibt (Storm u. a. 2017). Jede Auslagerung macht die nächste wahrscheinlicher, nicht weil die Fähigkeit verschwindet, sondern weil sich die Gewohnheit festigt, sich auf das Werkzeug zu stützen (Storm u. a. 2017).
Die Bildgebung des Gehirns liefert die deutlichste Veranschaulichung dessen, was das Auslagern während der Handlung bewirkt. Wenn Teilnehmer sich frei durch Straßen bewegen, die sie kennen, kodieren der Hippocampus und der präfrontale Kortex die Topologie des Netzes und die möglichen Wege; folgen sie aber einem GPS, so erlischt diese mit der Wegplanung verbundene Aktivität, als hörte das Gehirn auf, die Optionen zu erkunden, über die an seiner Stelle entschieden wird (Javadi u. a. 2017). Man muss dieses Ergebnis für das nehmen, was es ist: eine geringere Beanspruchung einer Region während der ausgelagerten Aufgabe, keine anatomische Schrumpfung des Organs (Javadi u. a. 2017).
Nichts von alldem hat im Übrigen auf die KI gewartet, um theoretisch gefasst zu werden. Die Forschung zur Automatisierung beschreibt seit Langem die „Automatisierungs-Selbstgefälligkeit“, jenes Übermaß an Vertrauen in ein automatisches System, das die Wachsamkeit und die Fehlererkennung senkt, ein Phänomen, das lange vor den Sprachmodellen untersucht wurde (Parasuraman und Manzey 2010). Die Lehre dieser ersten Runde ist also maßvoll: eine Funktion auszulagern verringert ihre Ausübung, mitunter die Beteiligung des Gehirns während der Handlung, und das ist real. Doch „real“ heißt noch nicht „dauerhaft geschädigt“, und es ist der nächste Sprung, den man genau prüfen muss.
2. „Verkümmert die KI das Gehirn?“ Die reale Stärke der Belege
Seit 2025 sind mehrere Studien als Beweis dafür verbreitet worden, dass die KI das Gehirn „schädigt“, und hier gilt es zu wägen, statt nachzuplappern. Die meistkommentierte ist eine elektroenzephalografische Studie aus einem Labor des MIT. Sie verglich die Konnektivität des Gehirns von Personen, die einen Aufsatz verfassten, je nachdem, ob sie sich eines Sprachmodells, einer Suchmaschine oder gar keiner Hilfe bedienten, und beobachtete die schwächste Konnektivität bei den Nutzern der KI sowie ein geringeres Gefühl, der Urheber des eigenen Textes zu sein, wobei ihre Autoren von einer Anhäufung von „kognitiver Schuld“ sprachen (Kosmyna u. a. 2025). Das Ergebnis ist suggestiv und verdient Aufmerksamkeit (Kosmyna u. a. 2025).
Es verlangt gleichwohl, mit seinen Grenzen zitiert zu werden, sonst lässt man es mehr sagen, als es kann. Diese Studie ist ein nicht von Fachleuten begutachteter Preprint über eine kleine Stichprobe, und eine einzige Messung neuronaler Beteiligung während einer Aufgabe dokumentiert weder eine Verkümmerung noch einen dauerhaften Schaden (Kosmyna u. a. 2025). Der Ausdruck „kognitive Schuld“ ist eine von den Autoren vorgeschlagene Metapher, keine gesicherte klinische Diagnose, und eine vorübergehend niedrigere Konnektivität mit einer Läsion zu verwechseln wäre genau das Abgleiten zwischen den Registern, das dieser Text sich versagt (Kosmyna u. a. 2025).
Eine zweite Studie, oft daneben zitiert, stammt aus einer Erhebung der Industrie. Sie befragte Hunderte von Wissensarbeitern zu ihrem Gebrauch generativer KI und berichtet, dass ein größeres Vertrauen in das Werkzeug mit einem geringeren Aufwand an kritischem Denken einhergeht, während das Selbstvertrauen mit mehr kritischem Geist Hand in Hand geht, wobei sich die Wachsamkeit von der Erzeugung hin zur Überprüfung verschiebt (Lee u. a. 2025). Das Bild stimmt mit der Vorstellung eines auslagernden Geistes überein (Lee u. a. 2025). Doch diese Daten sind selbstberichtet und korrelativ: sie messen Wahrnehmungen von Aufwand, keine objektive Verschlechterung der Fähigkeiten, und erlauben keinerlei kausalen Schluss (Lee u. a. 2025).
Eine dritte Studie hat wegen ihres auffälligen Ergebnisses stark zirkuliert. An mehreren Hundert Teilnehmern durchgeführt, berichtet sie eine negative Korrelation zwischen dem häufigen Gebrauch von KI-Werkzeugen und den Fähigkeiten kritischen Denkens, vermittelt durch die kognitive Auslagerung und ausgeprägter bei den Jüngeren (Gerlich 2025). Die Korrelation ist deutlich und trifft sich mit der gängigen Intuition (Gerlich 2025). Es bleibt, dass die Studie querschnittlich und teils selbstberichtet ist, was sie daran hindert, eine Richtung der Kausalität festzustellen: es kann ebenso gut sein, dass sich Personen mit schwächerem kritischem Geist stärker der KI zuwenden, eine Hypothese umgekehrter Kausalität, die das Vorgehen nicht ausschließen kann (Gerlich 2025).
Ein methodischer Kontrapunkt ergänzt das Bild und mäßigt es. Eine Meta-Analyse des Google-Effekts kommt zu dem Schluss, dass er real, aber bedingt ist, ausgeprägter auf dem Smartphone als am Computer, abgeschwächt bei Personen mit einer breiteren Wissensbasis, was für einen vom Kontext modulierten Effekt spricht statt für ein Verhängnis (Gong und Yang 2024). Die Auslagerung wirkt also nicht bei allen und nicht unter allen Umständen auf dieselbe Weise (Gong und Yang 2024).
Der allgemeine Stand der Literatur bestätigt diesen Vorbehalt eher, als dass er ihn zerstreut. Die jüngeren systematischen Übersichtsarbeiten zu generativer KI und kritischem Denken kommen zu heterogenen Ergebnissen, die stark vom Studiendesign und vom pädagogischen Kontext abhängen, was für sich schon das Zeichen eines jungen, nicht gefestigten Feldes ist. Wenn Dutzende gut geführter Studien je nach Art des Werkzeuggebrauchs in verschiedene Richtungen weisen, lautet der besonnene Schluss weder „die KI schadet“ noch „die KI hilft“, sondern „der Effekt hängt vom Gebrauch ab“.
Daher eine ehrliche Bilanz, auf die Stärke der Belege abgestimmt. Die Vorstellung, die KI „verkümmere“ das Gehirn, ist nicht belegt: die verfügbaren Daten sind im Wesentlichen korrelativ, querschnittlich, oft selbstberichtet, an kleinen Stichproben oder als Preprint, und sie dokumentieren kurzfristige, kontextabhängige Leistungseffekte, ohne eine dauerhafte Läsion nachzuweisen. Hier muss man beide Enden halten, ohne eines loszulassen: zu zeigen, dass eine Beunruhigung vom medialen Rummel verstärkt wird, beweist nicht, dass sie eingebildet ist, und dass keine Verkümmerung nachgewiesen ist, beweist nicht, dass ein massiver und früher Gebrauch ohne Wirkung bleibt. Das richtige Register für diese Furcht lautet also „belegt als Auslagerung, nicht belegt als Verkümmerung“, und nicht „bewiesen“ und auch nicht „hanebüchen“.
3. Das existenzielle Risiko: was die ernsthafte Forschung vorbringt
Kommen wir zur Frage des Fortbestands, bei der der Reflex darin besteht, die Unheilspropheten und die Skeptiker gegeneinander auszuspielen. Das hieße, eine bemerkenswerte Tatsache zu übersehen: führende Forscher nehmen dieses Risiko ernst. Im Mai 2023 hat eine Erklärung aus einem einzigen Satz behauptet, „das Risiko einer Auslöschung durch KI zu mindern sollte eine globale Priorität sein, neben anderen Risiken von gesellschaftlichem Ausmaß wie Pandemien und Atomkrieg“ (Center for AI Safety 2023). Diese kurze Formulierung war darauf angelegt zu einen, und sie markiert eine Schwelle in der öffentlichen Debatte (Center for AI Safety 2023).
Was frappiert, ist weniger der Satz als seine Unterzeichner. Er wurde von Hunderten von Forschern unterzeichnet, darunter Geoffrey Hinton und Yoshua Bengio, unter den meistzitierten Informatikern und beide Träger des Turing-Preises, sowie von den wissenschaftlichen und leitenden Köpfen großer KI-Labore (Center for AI Safety 2023). Man kann die existenzielle Beunruhigung also nicht allein auf die Seite der Laien oder der Aktivisten stellen: ein Teil derer, die diese Systeme bauen, teilt sie (Center for AI Safety 2023).
Diese Stellungnahme hat sich in der wissenschaftlichen Literatur fortgesetzt. Ein von Bengio, Hinton und anderen in einer großen Zeitschrift veröffentlichter Artikel vertritt die Auffassung, dass die Zunahme der Fähigkeiten und der Autonomie generalistischer Systeme deren Wirkung verstärken könnte, bis hin zu gesellschaftlichen Schäden großen Ausmaßes, böswilligen Verwendungen und einem unumkehrbaren Verlust menschlicher Kontrolle, und ruft zu technischer Forschung und einer vorausschauenden Steuerung auf (Bengio u. a. 2024). Das Argument lautet nicht, dass die Katastrophe gewiss ist, sondern dass ein rascher Verlauf es rechtfertigt, sich darauf vorzubereiten (Bengio u. a. 2024). Die Logik ist jene der verhältnismäßigen Vorsorge: einen Teil der Anstrengungen darauf zu verwenden, ein schweres und ungewisses Risiko zu mindern, wie man es bei anderen mächtigen Technologien tut, ohne auf den endgültigen Beweis zu warten, der zu spät käme (Bengio u. a. 2024).
Der institutionelle Rahmen ist gefolgt. Ein internationaler Bericht zur Sicherheit der KI, unter dem Vorsitz von Bengio und aus dem Bletchley-Gipfel hervorgegangen, hat nahezu hundert Fachleute aus dreißig Ländern versammelt, um einen Stand der Risiken generalistischer Systeme zu erstellen (Bengio u. a. 2025). Sein Wert beruht auf seiner Methode: er fasst die vorhandene Literatur zusammen, statt Vorhersagen auszusprechen, und unterscheidet die Familien der Risiken, Fehlfunktionen, böswillige Verwendungen und systemische Risiken, wobei er die Ungewissheit, die sie umgibt, offen einräumt (Bengio u. a. 2025). Es ist ein Dokument besonnenen Konsenses, kein Manifest (Bengio u. a. 2025).
Die Meinungsumfragen unter Fachleuten geben das zahlenmäßige Maß dieser Besonnenheit. In einer umfangreichen Befragung mehrerer Tausend Forscher, die auf den großen KI-Konferenzen veröffentlicht hatten, betraf eine erste Frage die Wahrscheinlichkeit einer durch KI verursachten Auslöschung oder eines schweren und dauerhaften Niedergangs der Menschheit: der Median der Antworten lag bei 5 %, bei einem Mittelwert von 16,2 %, der von einer sehr besorgten Minderheit nach oben gezogen wird (Grace u. a. 2024). Das ist weder null noch eine Ankündigung des Weltuntergangs (Grace u. a. 2024). Eine zweite, gesonderte Frage betraf ein „extrem schlechtes Ergebnis wie die Auslöschung“: mehr als ein Drittel der Befragten setzte darauf mindestens 10 % Wahrscheinlichkeit, was eine geteilte Gemeinschaft mit offen eingeräumter Ungewissheit beschreibt statt eines katastrophistischen Konsenses (Grace u. a. 2024).
Das richtige Register für dieses Risiko ist also die begründete Spekulation, und man muss es im besten Licht darstellen, ohne es zu verhärten. Ein ungewisses Risiko ernst zu nehmen heißt nicht, seine Verwirklichung anzukündigen, und die Redlichkeit besteht darin, zugleich zu berichten, dass es von führenden Forschern ernst genommen wird und dass sie selbst seine Ungewissheit anerkennen. Die existenzielle Gefahr ist weder eine belegte Tatsache noch eine Grille: sie ist eine ernsthafte Hypothese, deren reale Stärke die einer diskutierten Wahrscheinlichkeit ist, nicht die einer Gewissheit.
4. Der Katastrophismus und seine Kritik
Dieser Besonnenheit antwortet in den Medien ein ganz anderes Diskursregime, aus alarmierenden Schlagzeilen und Weltuntergangsdaten, und es verlangt eine ihrerseits ernsthafte Kritik. Die durchdachteste stammt von Forscherinnen, die die Ausrichtung der Debatte selbst bestreiten. Ein einflussreicher Artikel vertritt die Auffassung, dass die großen Sprachmodelle „stochastische Papageien“ seien, fähig, sprachliche Formen plausibel aneinanderzureihen, ohne den Sinn zu verstehen, und dass die Aufmerksamkeit auf ferne Szenarien zu heften von den gegenwärtigen und dokumentierten Schäden ablenke, Verzerrungen, Umweltkosten, Undurchsichtigkeit und Machtkonzentration (Bender u. a. 2021). Diese Stimme hat den Vorzug, den Blick auf das zurückzuführen, was bereits messbar ist (Bender u. a. 2021).
Aus dieser Position ergibt sich die sogenannte These der Ablenkung. Sie behauptet, dass die weitgehend spekulative Erzählung vom existenziellen Risiko den Interessen der beherrschenden Akteure diene und die öffentliche und regulatorische Aufmerksamkeit von den gegenwärtigen Schäden der KI ablenke (Bender u. a. 2021). Das Argument ist als rhetorische Warnung annehmbar, und es weist auf ein reales Risiko der Agenda hin (Bender u. a. 2021). Doch ist anzumerken, dass es empirisch auf die Probe gestellt wurde und dass die Probe ihm nicht ganz recht gegeben hat (Hoes und Gilardi 2025).
Das ist ein Punkt der Redlichkeit, der zu selten berichtet wird. Eine in einer großen Zeitschrift veröffentlichte experimentelle Studie fand, dass die Konfrontation mit Erzählungen vom existenziellen Risiko die Sorge um die katastrophalen Risiken erhöhte, ohne die Sorge um die unmittelbaren Schäden zu verringern, was der Vorstellung widerspricht, dass das eine das andere mechanisch verdränge (Hoes und Gilardi 2025). Die Ablenkung ist in diesem Maße weniger ein bestätigtes Gesetz als eine plausible, aber bestrittene Hypothese, und sie als ausgemachte Tatsache anzuführen hieße, in umgekehrter Richtung das Abgleiten zu begehen, das man den Alarmisten vorwirft (Hoes und Gilardi 2025).
Andere Kritiken zielen eher auf die technische Substanz als auf die Agenda. Forscherinnen wie Melanie Mitchell vertreten die Auffassung, dass die heutigen Systeme sehr weit von einer autonomen allgemeinen Intelligenz entfernt bleiben und dass das einzige existenzielle Szenario, das sie für plausibel halten, über einen böswilligen menschlichen Akteur führt, der das Werkzeug nutzt, nicht über eine Maschine, die sich von selbst gegen die Menschheit wenden würde (Mitchell 2024). Dieser Einwand verschiebt die Frage nützlicherweise von „und wenn die Maschine erwachte“ hin zu „wer hält die Maschine“, näher an den konkreten Risiken (Mitchell 2024). Er erinnert auch daran, dass „Intelligenz“ und „Autonomie“ keine Synonyme sind: ein System kann darin glänzen, Text zu erzeugen, ohne irgendetwas zu wollen, und einem Modell Absichten zuzuschreiben ist eine sprachliche Bequemlichkeit, die die Analyse des Risikos trübt (Mitchell 2024).
Man muss beiden Lagern dieselbe Skepsis entgegenbringen, auch den Umfragen, die die Furcht beziffern. Die Expertenbefragungen beruhen auf begrenzten Antwortquoten und auf der Selbstauswahl der am stärksten betroffenen Antwortenden, sodass ihre Zahlen eher eine Verteilung informierter Meinungen anzeigen als eine objektive Schätzung der realen Wahrscheinlichkeit einer Katastrophe (Grace u. a. 2024). Ein aus einer Umfrage gewonnener Medianwert ist kein Maß der Welt, er ist ein Maß der Überzeugungen einer Berufsgruppe (Grace u. a. 2024).
Ein Punkt der Übereinstimmung durchzieht gleichwohl beide Lager, und er verdient es, hervorgehoben zu werden. Was in der ganzen existenziellen Debatte am besten belegt ist, ist nicht die Zukunft, sondern die Gegenwart: die Verzerrungen, die diskriminierenden Ausgaben, die Undurchsichtigkeit und der Fußabdruck der großen Modelle sind bereits dokumentierte Schäden, unabhängig von jedem Auslöschungsszenario (Bender u. a. 2021). Dies anzuerkennen mindert nicht das langfristige Risiko, erinnert aber daran, dass der solideste Teil der Akte gegenwärtige und messbare Schäden betrifft, nicht künftige Katastrophen (Bender u. a. 2021).
Das Sortieren drängt sich hier also mehr auf als anderswo. Die begründete Spekulation, ein von der Forschung geprüftes ungewisses Risiko, darf nicht mit dem ankündigenden Katastrophismus verwechselt werden, der Daten festsetzt und die Apokalypse verheißt, ebenso wenig wie die Kritik am Rummel mit der Leugnung des Risikos. Man kann drei Dinge ohne Widerspruch zusammenhalten: dass das existenzielle Risiko ernst genommen wird, dass es ungewiss bleibt und dass sein medialer Rummel tatsächlich als Sichtblende für die bereits vorhandenen Schäden dienen kann.
5. Die „Selbstzerstörung“: der Modellkollaps
Es bleibt die zweite Furcht, die eigentümlichste: die KI sei dazu bestimmt, sich selbst zu verschlingen. Wider Erwarten findet sich hier das am besten dokumentierte Phänomen der Akte, und es trägt einen genauen Namen. Der Modellkollaps bezeichnet einen degenerativen Vorgang: ein generatives Modell rekursiv auf den von den vorherigen Modellen erzeugten Daten zu trainieren verschlechtert seine Leistung über die Generationen hinweg, wobei das Modell sich am Ende mit seinem eigenen verzerrten Bild der Wirklichkeit vergiftet (Shumailov u. a. 2024). Dieses Ergebnis wurde 2024 in einer großen wissenschaftlichen Zeitschrift belegt, und es gehört weder zur Intuition noch zur Anekdote; der Artikel hat seither, 2025, eine Korrektur der Autoren erhalten, die seine Schlüsse nicht verändert (Shumailov u. a. 2024).
Der Mechanismus entfaltet sich in zwei Phasen, die zu unterscheiden sich lohnt. In der frühen Phase verschwinden zuerst die seltenen Ereignisse, die Flanken der Verteilung, weil sie in den bei jeder Generation gezogenen Stichproben nicht ausreichend vertreten sind; in der späten Phase konvergiert das Modell zu einer verarmten Verteilung mit verringerter Varianz, die der ursprünglichen Wirklichkeit kaum noch gleicht (Shumailov u. a. 2024). Das Modell vergisst zuerst das Außergewöhnliche und sackt dann zu einer Handvoll wiederholter Muster zusammen (Shumailov u. a. 2024).
Diese Verschlechterung ist kein Zufall, sondern die Zusammensetzung dreier Fehler. Sie ergibt sich aus der Anhäufung, Generation um Generation, eines statistischen Näherungsfehlers, der mit der endlichen Stichprobenziehung zusammenhängt, eines Ausdrucksfehlers, der mit den Grenzen des Netzes zusammenhängt, die wahre Verteilung darzustellen, und eines Lernfehlers, der mit den Optimierungsverfahren zusammenhängt (Shumailov u. a. 2024). Jeder wäre für sich genommen erträglich; es ist ihre rekursive Aufschichtung, die das System zur Verarmung treibt (Shumailov u. a. 2024).
Das von den Autoren berichtete Beispiel macht die Sache greifbar. Ein Modell, das auf seinen eigenen Ausgaben neu trainiert wird, ausgehend von einem Anfangstext über die Architektur mittelalterlicher Kirchtürme, driftet von Generation zu Generation ab, bis es ein wiederholtes Kauderwelsch ohne Bezug zum Ausgangsthema erzeugt (Shumailov u. a. 2024). Das System erzeugt am Ende Stichproben, die das ursprüngliche Modell nie hervorgebracht hätte, was der Metapher der Vergiftung eine messbare Wirklichkeit verleiht (Shumailov u. a. 2024). Der Verlust der Verteilungsflanken hat eine konkrete, oft übersehene Folge: es sind gerade die seltenen Fälle, die ungewöhnlichen Wendungen und die statistischen Minderheiten, die zuerst verschwinden, sodass die Verarmung nicht neutral ist, sondern zuerst die Vielfalt auslöscht (Shumailov u. a. 2024).
Das Phänomen war von denselben Autoren in einem früheren Preprint angekündigt worden. Darin führten sie die Idee eines Mangels ein, der sich einstellt, wenn die Flanken der Verteilung verschwinden, und zogen daraus eine beachtete praktische Folgerung: die von Menschen erzeugten Daten werden umso wertvoller, je mehr sich das Web mit synthetischem Inhalt füllt (Shumailov u. a. 2023). Die Seltenheit des Realen würde in diesem Rahmen zu einer Ressource (Shumailov u. a. 2023).
Andere Arbeiten haben die Feststellung über den Text hinaus verallgemeinert. Ein Team hat eine „Modell-Autophagie-Störung“ beschrieben, in Analogie zu einer Krankheit, bei der der Organismus sich selbst verzehrt, und gezeigt, dass in Schleifen, in denen das Synthetische das Reale ohne ausreichende Zufuhr frischer Daten ersetzt, die Qualität oder die Vielfalt der erzeugten Bilder über die Generationen hinweg abnimmt (Alemohammad u. a. 2023). Ein anderes hat die Wechselwirkung zwischen der generativen KI und dem Internet untersucht und beobachtet, dass Modelle, die auf Mischungen einschließlich ihrer eigenen Ausgaben trainiert wurden, ihre Qualität und ihre Vielfalt von Version zu Version abnehmen sahen (Martínez u. a. 2023). Die These der Selbstzerstörung hat also, im Unterschied zu den beiden vorherigen Ängsten, eine übereinstimmende experimentelle Grundlage (Martínez u. a. 2023).
6. Differenzieren: die KI stirbt nicht von selbst
Es wäre gleichwohl falsch zu schließen, dass die KI dazu verurteilt ist, sich selbst zu versenken, und hier macht das Sortieren den ganzen Unterschied. Das Kollapsergebnis gilt für ein genaues Trainingsregime, nicht für die KI im Allgemeinen. Die entscheidende Unterscheidung ist die zwischen ersetzen und ansammeln: wenn man jede Generation nur auf den Ausgaben der vorherigen trainiert, verschlechtert sich das System, doch wenn man die synthetischen Daten neben den ursprünglichen realen Daten ansammelt, wird der Kollaps vermieden, ein Ergebnis, das empirisch bestätigt und theoretisch über mehrere Architekturen bewiesen ist (Gerstgrasser u. a. 2024). Das Katastrophenszenario setzt also voraus, dass man das Reale wegwirft, was niemand ein Interesse hat zu tun (Gerstgrasser u. a. 2024).
Andere Arbeiten verfeinern diese Diagnose noch. Eine Analyse im Sinne von Skalengesetzen zeigt, dass der Eintritt synthetischer Daten in das Korpus keinen gleichförmigen Kollaps erzeugt, sondern eine Veränderung der Lernregime, und dass das Mischen menschlicher und synthetischer Daten den Ausgang qualitativ verändert gegenüber dem reinen Ersetzen (Dohmatob u. a. 2024). Der maßgebliche Parameter ist nicht das Vorhandensein synthetischen Inhalts an sich, sondern der Anteil des Realen, den man bewahrt, und die Art, wie man es beimischt (Dohmatob u. a. 2024).
Die frontalste Kritik betrifft den Realismus des Szenarios. Eine kritische Anmerkung betont, dass der beobachtete Kollaps ein erwartetes statistisches Phänomen ist, reproduzierbar durch eine schlichte wiederholte Neuziehung von Stichproben, und vor allem, dass das Protokoll der vollständigen Ersetzung nicht die realen Einsatzbedingungen widerspiegelt, in denen die Labore menschliche und synthetische Daten mischen, filtern und periodisch Reales wieder einspeisen (Borji 2024). Das Ergebnis der Übersichtsarbeit behält seinen vollen Wert als Warnung; es beschreibt kein Verhängnis im Feld (Borji 2024). In der Praxis sind die Kuratierung der Daten, die Qualitätsfilterung und das gezielte Mischen menschlicher Quellen genau die Handgriffe, die die beschriebene Verarmung verhüten.
Das wahre Risiko ist also nicht der spontane Tod der KI, sondern die unbeherrschte Verschmutzung des gemeinsamen Korpus. Eine Studie hat gezeigt, dass ein erstaunlich großer Teil des Webs aus automatisch übersetztem Inhalt besteht, oft von geringer Qualität, und dass dieses Phänomen in den ressourcenarmen Sprachen besonders ausgeprägt ist, was eine reale Verarmung des verfügbaren Materials dokumentiert (Thompson u. a. 2024). Die Gefahr rührt weniger daher, dass ein Modell auf sich selbst trainiert, als daher, dass die gemeinsame Ressource, auf der alle trainieren, sich verschlechtert, ohne dass jemand es beschlossen hätte (Thompson u. a. 2024). Man findet hier eine bekannte Struktur des Gemeinguts wieder: jeder hat ein Interesse daran, billigen synthetischen Inhalt abzukippen, und die Kosten, die Verarmung des geteilten Korpus, verteilen sich auf alle, sodass die Verschlechterung ohne zuschreibbaren Urheber voranschreitet (Thompson u. a. 2024).
Hier muss man bei den Zahlen einen kühlen Kopf bewahren. Die kursierenden Schätzungen, wonach eine Mehrheit des Textes im Netz von Maschinen erzeugt oder übersetzt wäre, schwanken je nach der gewählten Methode enorm, und „KI zu enthalten“ ist nicht „mehrheitlich von KI erzeugt zu sein“. Diese Größenordnungen weisen auf eine Tendenz hin, die man aus guten Gründen ernst nimmt, doch sie stellen keine belegten Tatsachen dar und dürfen nicht als solche angeführt werden.
Die Antwort auf die zweite Frage ist also klar in ihrer Differenzierung. Die KI ist nicht zur Selbstzerstörung bestimmt: der Modellkollaps ist ein reales, aber bedingtes Risiko, eigen einem Trainingsregime, das man zu vermeiden weiß, und die Analogie der Unfruchtbarkeit gilt als Warnung vor der Qualität des gemeinsamen Korpus, nicht als Vorhersage einer automatischen technischen Auslöschung. Die Formel „die KI verschlingt sich selbst“ ist wahr in einem Labor, das sich dafür entscheidet, falsch als Schicksal.
7. Schluss: antworten, indem man die Register trennt
Alles kommt auf das eingangs angekündigte Sortieren zurück, und dieses Sortieren erlaubt es endlich, die beiden Fragen zu beantworten, ohne sie zu karikieren. Beim Gehirn ist die kognitive Auslagerung eine belegte und alte Tatsache, doch die „Verkümmerung“ ist nicht nachgewiesen, und die vorgebrachten Belege bleiben korrelativ, querschnittlich oder vorläufig und dokumentieren kurzfristige, kontextabhängige Effekte statt eines dauerhaften Schadens. Die Furcht ist also nicht unbegründet, sie ist falsch geeicht: was auf dem Spiel steht, ist keine Läsion, sondern eine Gewohnheit der Auslagerung, über deren Ausmaß und Bedingungen man streiten kann.
Beim Fortbestand beruht die Antwort auf der Unterscheidung zwischen begründeter Spekulation und Katastrophismus. Das existenzielle Risiko wird von führenden Forschern und von institutionellen Berichten ernst genommen, bleibt dabei aber ungewiss, beziffert durch bescheidene Medianwahrscheinlichkeiten und durch eine geteilte Gemeinschaft, was es weit entfernt von der ausgemachten Tatsache wie von der Grille ansiedelt. Es für gewiss zu halten wäre Rummel, es für null zu halten Verblendung, und die einzig haltbare Position besteht darin, darin eine ernsthafte, zu beobachtende Hypothese zu sehen, ohne sie zu dramatisieren.
Bei der Selbstzerstörung schließlich besteht das Paradox darin, dass die befremdlichste Furcht auf der am besten gesicherten Wissenschaft ruht, sofern man sie richtig liest. Der Modellkollaps ist dokumentiert, aber bedingt: er trifft ein Trainingsregime, das man durch das Bewahren und Beimischen realer Daten zu vermeiden weiß, sodass die KI nicht von selbst stirbt, auch wenn das gemeinsame Korpus mangels Pflege verarmen kann. Die richtige Frage lautet nicht „wird die KI erlöschen“, sondern „werden wir die Qualität des Realen bewahren können, von der sie und wir abhängen“.
Es bleibt eine einfache, tragbare Regel, die über dieses Thema hinaus gilt. Fragen Sie bei jeder Behauptung über die Gefahren der KI, in welches der drei Fächer sie fällt, das Belegte, das Extrapolierte oder das ernst genommene Ungewisse, und verweigern Sie, dass man Ihnen das eine für das andere unterschiebt. Die realen Gefahren der KI verdienen zu viel Aufmerksamkeit, als dass man sie im Rummel ertränken dürfte, und zu viel Ernst, als dass man sie mit einer Handbewegung wegwischen dürfte: sie treffend zu benennen heißt bereits, sich ihrer anzunehmen.