KI-Intelligenzexplosion: eine nüchterne Einschätzung

vor 7 Tagen

11 Min. Lesezeit

Warum die Debatte um selbstverbessernde KI weniger über Maschinen verrät als über unsere Art, Behauptungen zu prüfen.

Worum es geht

Kurz gesagt: Teile der KI-Gemeinschaft erwartet demnächst eine Explosion der Intelligenz. Hauptargument: KI baut jetzt ihre eigene Nachfolgerin.

Einordung: Ja, KI wird auf ausgewählten Aufgaben messbar leistungsfähiger und übernimmt Teile ihrer eigenen Entwicklung. Aber, wie stark das die Forschung insgesamt beschleunigt, ist nicht unabhängig belegt, eine sich selbst tragende Intelligenzexplosion ebenso wenig. Wer die Debatte im Herbst 2026 verfolgt, bekommt beides oft vermischt serviert.

Dieser Artikel erhebt die Faktenlage: Was ist unabhängig gemessen, was beruht auf Angaben der Anbieter, und was ist Annahme?

Warum wird gerade darüber debattiert?

Im September 2026 überschlugen sich die Meldungen. Anthropic veröffentlichte einen Index, nach dem Claude rund ein Viertel der eigenen Forschungsarbeit führt. OpenAI erklärte, sein „automatisierter Forschungspraktikant“ sei fertig. Und 22 Autoren aus Wissenschaft und Industrie, darunter Geoffrey Hinton und Yoshua Bengio, warnten in einem Arbeitspapier der Universität Cambridge vor einer Intelligenzexplosion.

Fast zeitgleich rief Anthropic-Chef Dario Amodei die Branche in einem Essay auf, das Tempo zu drosseln. Sam Altman von OpenAI und Elon Musk stimmten sofort zu. Mark Zuckerberg von Meta hielt dagegen: Wettbewerb und Haftung seien Anreiz genug. Bemerkenswert ist das Timing: Wenige Tage später meldete Anthropic Rekordwerte für die eigene Automatisierung.

Wer das liest, hat zwei bequeme Reaktionen zur Auswahl: Panik oder Achselzucken. Mein Vorschlag wäre, darüber nachzudenken.

Messung, Meldung, Meinung

Wer über selbstverbessernde KI spricht, vermischt meist drei Arten von Aussagen. Ich trenne sie in diesem Artikel konsequent:

Messung: unabhängig erhoben, mit offengelegter Methode, von anderen nachprüfbar.
Meldung: Angaben der Anbieter über sich selbst. Nicht falsch, aber ungeprüft und mit Interessen verbunden.
Meinung: Prognosen, Umfragen und Modellrechnungen. Wertvoll als Orientierung, aber kein Wissen über die Zukunft.

Nicht jede Zahl ist ein Beleg. Manche ist nur eine gut formatierte Behauptung.

Was versteht man eigentlich unter Intelligenzexplosion?

Mit Intelligenzexplosion ist eine Rückkopplung gemeint. KI entwickelt bessere KI, die wiederum noch bessere KI entwickelt.

Die Idee stammt vom Mathematiker I. J. Good aus dem Jahr 1965 und wird seither unter dem Begriff rekursive Selbstverbesserung diskutiert.

Ein häufiges Missverständnis: Dafür muss ein Modell nicht während der Nutzung dazulernen. Seine Gewichte bleiben fix. Die Rückkopplung läuft über Generationen. Ein Modell schreibt Trainingscode, plant Experimente und wertet sie aus, und daraus entsteht das nächste Modell.

Der Begriff wird unscharf verwendet. Manche Firmen zählen jede KI-Unterstützung bei der Modellverbesserung dazu, andere nur vollständig autonome Kreisläufe. Für Ordnung sorgt eine sechsstufige Skala des Forschungsinstituts Epoch AI: von AL0 (keine KI beteiligt) bis AL5 (vollständig autonom, kein Mensch im Kreislauf).

Also, eine Explosion setzt diese oberste Stufe nicht zwingend voraus: Auch mit Menschen im Kreislauf kann Rückkopplung stark beschleunigen. Umgekehrt garantiert volle Autonomie keine Explosion.

Was die Daten zeigen

Beginnen wir mit der Messung. Die gemeinnützige Prüfstelle METR misst, wie lange eine Aufgabe für einen menschlichen Experten dauern darf, damit ein KI-Agent sie noch in der Hälfte der Fälle löst. Mitte 2020 waren das rund neun Sekunden. Im Frühjahr 2026 erreichte das stärkste gemessene Modell rund 17 Stunden. Seit 2023 verdoppelt sich der Wert etwa alle 4,3 Monate.

Das ist beeindruckend, und es ist unabhängig gemessen. Aber es gilt für eine bestimmte Sorte Aufgabe: abgeschlossen, klar definiert, automatisch bewertbar, meist aus Softwareentwicklung und maschinellem Lernen. METR selbst vergleicht die Leistung eher mit einem neuen Mitarbeiter ohne Vorwissen als mit einem erfahrenen Profi im eigenen Projekt. Werte über 16 Stunden hält METR mit der aktuellen Testreihe für unzuverlässig, der Spitzenwert liegt also bereits jenseits der Messgrenze.

Und vor allem: Die Daten zeigen, dass Modelle besser werden. Sie zeigen nicht, warum. Mehr Rechenleistung, mehr menschliche Forscher, mehr KI-Unterstützung – all das steckt darin, untrennbar vermischt.

In a nutshell: Die Daten beweisen Fortschritt. Sie beweisen keine Selbstverbesserung.

Wie belastbar sind die Zahlen der Anbieter?

Nun zu den Zahlen, die die Schlagzeilen machen. Laut Anthropic führt Claude im August 2026 rund 26 % der Forschungs- und Entwicklungsarbeit, ein Mensch beaufsichtigt nur noch. Im Februar war es noch unter ein Prozent. An über 90 % der Arbeit ist Claude mindestens als Mitarbeiter beteiligt, rund 30.000 Agenten arbeiten gleichzeitig auf der meistgenutzten internen Plattform. Vollständig autonom läuft laut Anthropic kein einziger Bereich.

OpenAI meldet Ähnliches. Nach eigener Messung erledigt dort ein „automatisierter Forschungspraktikant“ klar umrissene Aufgaben unter menschlicher Anleitung. Das nächste Ziel: ein automatisierter KI-Forscher unter menschlicher Aufsicht bis März 2028.

Bemerkenswert ist, wie offen Anthropic die Schwäche der eigenen Zahl benennt. Die Automatisierung bewertet Claude selbst, also genau das Modell, das gemessen wird. Externe Prüfer sollen folgen.

Das Cambridge-Papier stützt sich auf solche Meldungen, aber nicht nur. Es zieht auch unabhängige Messungen, Modellrechnungen und Forschungsliteratur heran. Unter seinen Autoren finden sich neben unabhängigen Wissenschaftlern auch Forscher von OpenAI und Anthropic.

Drei Gründe, diese Zahlen vorsichtig zu lesen:

Code ist nicht Fortschritt. Ein hoher KI-Anteil am Code sagt wenig darüber, wer die entscheidenden Ideen hat oder welche Experimente sich lohnen.
Dünne Methodik. Die unabhängige Prüfstelle METR stellte fest, dass Anthropic seine Risikoeinschätzung teils auf eine interne Umfrage unter 16 Mitarbeitern stützte, weil die meisten Autonomietests bereits ausgereizt waren. Das betraf den Risikobericht vom Februar 2026. Beim neuen Index bewertet Claude die Automatisierung selbst; Anthropic benennt das als Schwäche und kündigt externe Prüfer an.
Interessenkonflikte. Wenige Tage nach dem eigenen Index erwog Anthropic laut Reuters, vor dem Börsengang ein neues Modell gegen GPT-6 herauszubringen. Das widerlegt die Zahlen nicht. Es zeigt aber, warum sie extern geprüft werden sollten.

Sind die Zahlen deshalb falsch? Nein. Ein Interessenkonflikt widerlegt keine Zahl. Er erklärt nur, warum man sie prüfen sollte.

Die Gegenevidenz: Gefühlte und gemessene Produktivität

Die sauberste unabhängige Messung zum Nutzen von KI im Arbeitsalltag stammt ebenfalls von METR. Anfang 2025 lösten 16 erfahrene Entwickler 246 Aufgaben in ihren eigenen Projekten, mal mit, mal ohne KI. Erwartet hatten sie allerdings 24 % Zeitersparnis, befragte Ökonomen sogar 39 %. Tatsächlich brauchten sie aber mit KI 19 % länger.

Diese Studie ist inzwischen überholt, das sagt METR selbst. Sehen wir uns weitere Studien an:

Eine Folgestudie mit 57 Entwicklern schätzt 18 % Zeitersparnis bei wiederkehrenden und 4 % bei neuen Teilnehmern. Beide Spannweiten schließen allerdings auch eine Verlangsamung ein. METR nennt die Daten sehr schwache Evidenz und hält einen deutlich größeren Nutzen für möglich, weil gerade die überzeugtesten Nutzer nicht mehr ohne KI arbeiten wollten.

Eine Umfrage unter 349 Technikern, veröffentlicht im Mai 2026 ergab selbst eingeschätzte Gewinne von Faktor 1,4 bis 2. METR warnt ausdrücklich, dass solche Selbsteinschätzungen nicht belastbar sind.

Auch Benchmarks haben Grenzen. Die Aufgaben im Zeithorizont-Test von METR sind in sich abgeschlossen, echte Forschungsprojekte erfordern dagegen Abstimmung und Zusammenarbeit.

Was bleibt, ist keine Zahl, sondern ein Muster: Gefühlter und gemessener Nutzen können weit auseinanderliegen. Und das Gefühl von Produktivität ist noch keine Produktivität.

Mustererkennung ist mehr, als das Wort verspricht

Ein häufiger Einwand lautet: Sprachmodelle erkennen nur Muster, sie verstehen die Welt nicht. Wie soll daraus eine Explosion entstehen?

Erste Hälfte der Wahrheit: „Nur Mustererkennung“ greift inzwischen zu kurz. Ein Modell, das ausschließlich Zugfolgen des Brettspiels Othello sah, bildete intern das Spielbrett ab, ohne Vorwissen über die Regeln. Gurnee und Tegmark fanden in Sprachmodellen innere Karten von Orten und Zeitachsen.

Zweite Hälfte der Wahrheit: Das sind Bausteine, kein umfassendes Weltverständnis. Yann LeCun hält Sprachmodelle deshalb für ungeeignet, menschliches Niveau zu erreichen. Für sein Start-up AMI Labs sammelte er im März 2026 rund 1,03 Milliarden Dollar, um sogenannte Weltmodelle zu entwickeln, die aus Sensordaten lernen statt aus Text. Ob er recht hat, ist offen. Eine hohe Finanzierung ist kein Argument.

Entscheidend ist aber eine andere Beobachtung. Das Feld, das sich selbst verbessern soll, ist die KI-Forschung. Und die ist digital und schnell überprüfbar: Code läuft oder läuft nicht, ein Experiment liefert eine Zahl. Dass eine Explosion in diesem Feld ein umfassendes Weltverständnis voraussetzt, ist nicht belegt.

Ein Modell muss die Welt womöglich nicht verstehen, um sich selbst schneller zu machen. Ob es damit auch die Welt draußen versteht, ist eine ganz andere Frage.

Lässt sich KI-Forschung automatisieren?

Teilweise, und das ist messbar. KI-Forschung besteht aus Handwerk und Urteil. Beim Handwerk ist die Lage erstaunlich klar:

Code: Googles AlphaEvolve beschleunigte einen Rechenbaustein des hauseigenen Modells Gemini um 23 %. Laut Google spart das rund 1 % Trainingszeit. Eine Anbieterangabe, aber eine konkrete.
Experimente: Im Test RE-Bench verglich METR KI-Agenten mit 61 menschlichen Experten. Bei zwei Stunden Zeitbudget erzielten die Agenten viermal höhere Werte. Bei acht Stunden lagen die Menschen knapp vorne, bei 32 Stunden Gesamtbudget erreichten sie das Doppelte. Die Messung stammt von Ende 2024, seither sind die Modelle deutlich stärker geworden.
Ideen: In einer Studie von Si, Yang und Hashimoto (ICLR 2025) bewerteten über 100 Forscher aus der maschinellen Sprachverarbeitung verblindet Forschungsideen. Die Ideen der KI galten als neuartiger, aber als etwas schwerer umsetzbar.

Das Muster dahinter: Automatisierung gelingt dort, wo es ein klares, messbares Ziel gibt, etwa schnelleren Code oder einen besseren Testwert. Sie stockt dort, wo das Ziel unscharf ist: Welche Frage lohnt sich? Ist ein überraschendes Ergebnis ein Durchbruch oder ein Messfehler? Und jede Idee muss am Ende in einem rechenintensiven Experiment bestehen, was zu den physischen Grenzen im nächsten Abschnitt führt.

KI automatisiert zuerst, was sich messen lässt. Das Urteil darüber, was sich lohnt, bleibt vorerst beim Menschen.

Physische Grenzen: Strom, Chips, Rechenzeit

Software kann sich schnell verbessern, die Infrastruktur darunter nicht. Das ist einer der gewichtigsten Einwände gegen eine Explosion in wenigen Jahren. Wie viel Verbesserung auf vorhandener Hardware möglich ist, kann allerdings niemand beziffern.

Die Rechenleistung hängt an Strom, Chips und Genehmigungen:

Ein Netzanschluss für ein neues Rechenzentrum dauert derzeit zwei bis sechs Jahre, in Engpassregionen bis zu sieben.
Gartner prognostiziert für 2026 einen Stromverbrauch der Rechenzentren von 565 Terawattstunden, 26 % mehr als im Vorjahr.
Die fünf größten US-Cloudanbieter planen für 2026 Investitionen von 660 bis 690 Milliarden Dollar, rund drei Viertel davon für KI. Geld beschleunigt aber weder Genehmigungen noch Transformatorlieferungen.

Dazu kommt eine ökonomische Gesetzmäßigkeit, die gern vergessen wird: Ideen werden schwerer zu finden. Laut einer Studie von Nicholas Bloom und Kollegen (2020) brauchte es zuletzt mehr als 18-mal so viele Forscher wie Anfang der 1970er Jahre, um die Chipdichte im gleichen Tempo zu verdoppeln. Eine KI, die die Zahl der Forscher vervielfacht, muss also schneller wachsen, als die Ideen schwerer werden.

Fair ist auch die Gegenrechnung. Schätzungen für die KI-Forschung deuten bisher darauf hin, dass dieser Wettlauf zugunsten der Beschleunigung ausgehen könnte. Das Cambridge-Papier räumt allerdings selbst ein, dass diese Werte durch das gleichzeitige Wachstum der Rechenleistung überzeichnet sein könnten.

Es nennt vier Bremsen, die das Szenario verhindern könnten:

abnehmende Erträge
knappe Rechenleistung
schwer automatisierbare Aufgaben
lange Trainingsläufe.

Die Bremsen sind real. Wie stark sie bremsen, kann niemand beziffern.

Abnehmende Erträge: Forschung wird schwerer

Mehr Forscher bedeuten nicht automatisch schnelleren Fortschritt, auch nicht, wenn es KI-Forscher sind. Die bekannteste Studie dazu stammt von Nicholas Bloom und Kollegen: Um die Verdopplung der Chipdichte nach dem Mooreschen Gesetz zu halten, brauchte es laut der 2020 veröffentlichten Studie mehr als 18-mal so viele Forscher wie Anfang der 1970er Jahre. In Unternehmen sinkt die Forschungsproduktivität im Schnitt um rund 10 % pro Jahr.

Für die Explosionsthese heißt das: Eine KI, die die Zahl der Forscher vervielfacht, muss schneller wachsen, als die Ideen schwerer zu finden sind. Ob das gelingt, hängt an einer Größe, die niemand genau kennt. Schätzungen für die KI-Forschung deuten bisher eher auf Beschleunigung hin, könnten aber durch das gleichzeitige Wachstum der Rechenleistung überzeichnet sein, wie das Cambridge-Arbeitspapier selbst einräumt.

Das Forschungsinstitut Epoch AI hält eine softwaregetriebene Explosion für schwer auszuschließen, betont aber, dass die Debatte Experimente statt Modellrechnungen braucht.

Dazu kommen zwei praktische Hürden:

Große Ideen brauchen große Tests. Wenn die wichtigsten Verbesserungen erst bei großen Modellen sichtbar werden, hilft auch eine kluge KI wenig ohne viel Rechenleistung.
Qualität im Kreislauf. Ein Agent, der Messwerte optimiert und dabei den Forschungsprozess verfälscht, hat Selbstverbesserung nicht gelöst. Er zeigt, warum man ihr schwer trauen kann.

Was Fachleute erwarten

Die Fachwelt ist gespalten, und die Bandbreite der Einschätzungen ist riesig. Wichtig ist, wer spricht und mit welchem Interesse.

Wer	Einschätzung	Interessenlage
OpenAI	Automatisierter KI-Forscher unter menschlicher Aufsicht bis März 2028; „Forschungspraktikant“ laut eigener Messung im September 2026 erreicht	Anbieter, Börsengang geplant
Forethought (Davidson u. a.)	Rund 60 % Wahrscheinlichkeit, dass eine Softwareexplosion mehr als 3 Jahre Fortschritt in 1 Jahr presst, unter der Annahme vollständig automatisierter KI-Forschung; stark annahmeabhängig	Unabhängig, gilt als eher besorgt
AI Impacts 2022 (rund 700 Forscher)	Median: etwa gleiche Chance, dass das Explosionsargument im Kern stimmt	Unabhängige Umfrage
AI Impacts 2023 (2.778 Forscher)	50 % Chance, dass KI bis 2047 alle Aufgaben besser erledigt; 13 Jahre früher als ein Jahr zuvor geschätzt	Unabhängige Umfrage
AI Impacts 2024 (1.580 Forscher, Dez. 2024)	50 % Chance bis 2042, dass Maschinen alle Aufgaben besser und billiger erledigen; nur 4 % halten das Explosionsargument für sehr wahrscheinlich (zuvor 7 bis 12 %)	Unabhängige Umfrage; Forscher in den Labors laut Autoren unterrepräsentiert
Hash Collision (Analyst)	Unter 10 % für Selbstverbesserung ganz ohne Menschen bis 2028, bis 2036 möglich	Unabhängiger Kommentar

Zwei Vorbehalte: Auch die jüngste Umfrage stammt von Dezember 2024, also vor den jüngsten Modellsprüngen. Und selbst das Warnpapier nennt vier Bremsen, die das Szenario verhindern könnten: abnehmende Erträge, knappe Rechenleistung, schwer automatisierbare Aufgaben und lange Trainingsläufe.

Eine offene Bilanz

Was bleibt nach Abzug von Hype und Abwehr? Die Leistung von KI wächst auf ausgewählten Aufgaben schnell, und das ist gemessen. Dass KI Teile ihrer eigenen Entwicklung übernimmt, ist plausibel und von den Labors gemeldet, aber kaum unabhängig geprüft. Eine Intelligenzexplosion ist möglich, aber nicht belegt.

Auch die Fachwelt ist gespalten. In der jüngsten großen Umfrage unter 1.580 KI-Forschern (AI Impacts, Dezember 2024) lag die 50-%-Schätzung für Maschinen, die alle Aufgaben besser und billiger erledigen als Menschen, bei 2042, fünf Jahre früher als ein Jahr zuvor.

Zugleich hielten nur 4 % das Argument für eine Intelligenzexplosion für sehr wahrscheinlich. Die Denkfabrik Forethought hält es dagegen für rund 60 % wahrscheinlich, dass sich mehr als drei Jahre Fortschritt in ein Jahr verdichten, sobald die KI-Forschung vollständig automatisiert ist. Beides sind Meinungen, keine Messungen.

Zwei Denkfehler sollten Sie deshalb vermeiden: das Abwinken („alles Marketing“) und die Panik („in zwei Jahren ist alles vorbei“). Das eine ignoriert die Messkurven, das andere die Bremsen.

Offen bleibt die wichtigste Frage: Wer prüft, was in den Labors tatsächlich passiert? Das Cambridge-Papier fordert genau diesen Einblick, Anthropic kündigt externe Prüfer an. Ob daraus belastbare, unabhängige Messungen werden, wird sich zeigen.

Was heißt das im Unternehmenskontext?

Sie müssen sich nicht darüber sorgen, ob die Intelligenzexplosion kommt. Aber Sie können verhindern, dass Ihr Unternehmen von Meldungen statt von Messungen gesteuert wird.

Erstens: Trennen Sie Messung, Meldung und Meinung. Bei jedem KI-Anbieter, auch beim eigenen Tool-Lieferanten. Fragen Sie: Wer hat gemessen? Womit? Und mit welchem Interesse?

Zweitens: Messen Sie Ihren KI-Nutzen, statt ihn zu schätzen. Legen Sie vor der Einführung fest, was besser werden soll: die Durchlaufzeit eines Angebots, die Vorbereitungszeit für ein Kundengespräch, die Qualität der CRM-Daten. Vergleichen Sie danach. Ehrlich.

Drittens: Automatisieren Sie zuerst, was sich prüfen lässt. Recherche, Zusammenfassungen, Angebotsentwürfe. Das Urteil über Kunden, Prioritäten und Strategie bleibt Führungsaufgabe.

Viertens: Planen Sie für Beschleunigung, nicht für Explosion. Die Werkzeuge werden in kurzen Abständen deutlich besser. Wer heute die Fähigkeiten seines Teams aufbaut, kann jede Verbesserung sofort nutzen. Wer auf den großen Knall wartet, verliert die Zeit dazwischen.

Unabhängige Forschung und Messungen

Berichterstattung und Analysen

Energie und Infrastruktur

Enabling Sales Performance

in a digital world

Bevorstehende Veranstaltungen