Vater der KI: Prof. Schmidhuber über den KI-Crash

Vater der KI: Prof. Dr. Jürgen Schmidhuber über AGI, den drohenden KI-Crash, Weltmodelle und Quantencomputer. Eine nüchterne Bilanz des deutschen KI-Pioniers.

Vater der KI: Prof. Schmidhuber über den KI-Crash

Der Vater der KI ist ein Beiname, den die New York Times dem Informatiker Prof. Dr. Jürgen Schmidhuber gab. Seine Arbeiten seit 1990 prägen Pretraining, Weltmodelle und lernende Maschinen. Im YouTube-Interview erklärt er, warum er einen KI-Crash erwartet und AGI noch fern sieht.

Schmidhuber leitet seit 1995 das Schweizer KI-Labor IDSIA. Seit 2021 führt er zusätzlich die KI-Initiative der King Abdullah University in Saudi-Arabien. Shane Legg, Mitgründer von DeepMind, promovierte in seinem Labor. Das Gespräch ist bereits sein zweiter Auftritt bei Everlast AI. Es zeigt einen Forscher, der kaum ein Blatt vor den Mund nimmt.

Sie sehen gerade einen Platzhalterinhalt von YouTube. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.

Mehr Informationen

Warum AGI noch an der physischen Welt scheitert

OpenAI will AGI bis Ende 2026 erreichen und bis 2028 einen autonomen KI-Forscher bauen. Schmidhuber bleibt skeptisch. Gut funktioniert heute nur die KI hinter dem Bildschirm. Es gibt übermenschliche Schachspieler, Videospieler und in Teilbereichen sogar Mathematiker.

In der physischen Welt sieht es anders aus. Kein Roboter kann tun, was ein Elektriker tut. Der Elektriker klemmt sich in enge Räume, prüft Leitungen und steckt Kabel um. Ohne Meisterung der realen Welt gibt es für Schmidhuber keine echte AGI.

Die Zahlen untermauern das. Rechnen wird alle fünf Jahre zehnmal billiger, in 30 Jahren also eine Million Mal. Roboter sind im selben Zeitraum nur ein wenig besser geworden. Chinas Roboter-Olympiade zeigt beeindruckende Einzelleistungen. Doch eine Maschine mit der Fingerfertigkeit eines Menschen fehlt bis heute.

KI-Crash: Die 900-Milliarden-Rechnung

Die Bewertungen der US-Labore hält der Vater der KI für gefährlich. Seine Rechnung ist einfach. Wer heute 1.000 Milliarden in Nvidia-GPUs steckt, verliert in fünf Jahren rund 900 Milliarden an Wert. Kein aktuelles Geschäftsmodell gleicht diesen Verlust aus.

Schmidhuber zitiert dazu John Maynard Keynes. Märkte bleiben oft länger irrational, als ein Investor solvent bleibt. Den Zeitpunkt eines Crashs nennt er deshalb nicht. Ähnliche Warnsignale dokumentiert die Analyse zum drohenden KI-Crash.

Als Vorbild dient ihm der Eisenbahnboom im 19. Jahrhundert. Reich wurden damals selten die Investoren in Schienen. Profitiert haben Gründer, die Waren mit der Bahn von A nach B brachten. Am Ende gewinnt laut Schmidhuber der kleine Mann. Die Rechenleistung heutiger Rechenzentren passt bald ins Büro oder in eine Brille.

Das physikalische Limit liegt weit entfernt. Das Bremermann-Limit erlaubt 1051 Instruktionen pro Sekunde je Kilogramm Materie. Ein menschliches Gehirn schafft vielleicht 1020. Der Preisverfall beim Rechnen endet nach dieser Rechnung erst um das Jahr 2200.

Distillation und Weltmodelle: Der Vater der KI ordnet ein

Anthropic nennt Distillation ein Sicherheitsrisiko und baut technische Sperren ein. Schmidhuber veröffentlichte die Methode bereits 1991. Damals nannte er sie Kollabieren eines Netzes in ein anderes. Ein zweites Netz lernt dabei, die Ausgaben des ersten nachzuahmen.

Für gefährlich hält er das nicht. Eltern machen genau das, wenn sie Kindern das Zuschrauben einer Flasche zeigen. Amüsant findet er den Streit zwischen US-Firmen und chinesischen Laboren. Beide Seiten nutzen eine europäische Methode. Die US-Modelle destillierten ihrerseits das Wissen des gesamten Webs.

Ähnlich sieht er den Hype um Weltmodelle. Yann LeCun sammelte im März eine Milliarde Dollar dafür ein. Schmidhuber nutzte den Begriff World Model schon 1990. 1992 folgte mit Daniel Prelinger an der TU München die Predictability Maximization. LeCuns Ansatz JEPA greift diese Idee laut Schmidhuber 30 Jahre später neu auf.

Scharfe Kritik übt er am Nobelpreis für AlphaFold. Wichtige Vorarbeiten aus dem Umfeld von Prof. Daniel Cremers an der TU München seien nicht zitiert worden. Der Preis müsste nach seiner Ansicht zurückgegeben werden.

Künstliche Neugier als Schlüssel zur Kreativität

Große Sprachmodelle sind für Schmidhuber nur angewandt kreativ. Die Modelle malen ein Porträt im Stil von Rembrandt, erfinden aber keinen neuen Stil. Van Gogh verkaufte zu Lebzeiten kaum ein Bild. Heute kopieren Tausende seinen Stil, doch die kreative Leistung lag im ersten Schritt.

Seine formale Theorie von Spaß und Kreativität erklärt den Unterschied. Echte Forscher und Künstler erzeugen Daten mit einem Muster, das sie noch nicht kennen. Finden sie die Regel dahinter, lassen sich die Daten stärker komprimieren. Dieser Kompressionsfortschritt ist die Freude des Entdeckers.

Kepler beschrieb Planetenbahnen mit Ellipsen und zwei Parametern. Newton erklärte fallende Äpfel und Planeten mit einem Gesetz. Einstein löste die verbliebenen Abweichungen mit der Relativitätstheorie auf. Auch Musik folgt diesem Prinzip, etwa ein überraschender Mollakkord in einem Refrain.

Künstliche Wissenschaftler mit diesem Antrieb existieren bereits im Labor. Den ChatGPT-Moment hatten sie noch nicht. Schmidhuber erwartet, dass sie Wissenschaft und Kunst grundlegend verändern. Auch das Problem langer Kontextfenster sieht er lösbar. Sein linearer Transformer von 1991 braucht bei 1.000-mal mehr Text nur 1.000-mal mehr Rechenzeit.

Agentenschwärme und KI-Gesellschaften

Ein Schwarm aus 1.200 Agenten koordinierte sich kürzlich bei einem Angriff auf Hugging Face. Einzelne Agenten opferten sich dabei scheinbar für die Gruppe. Schmidhuber überrascht das nicht. Kooperation entsteht automatisch, sobald sie dem Einzelnen nutzt. Den Vorfall beleuchtet der Bericht über KI-Zivilisationen und koordinierte Agenten.

Ameisen opfern Soldaten, damit die Kolonie mit ihren Genen überlebt. Neuronen im Gehirn verfolgen gemeinsam Ziele, die keines allein versteht. Lernende Agenten helfen einander schon seit dem letzten Jahrtausend, wenn eine Aufgabe Teamarbeit verlangt.

2023 veröffentlichte sein Team Arbeiten zur Society of Mind aus sprachfähigen Agenten. Monarchische Strukturen mit einer König-KI funktionierten manchmal gut. Demokratische Abstimmungen lösten andere Aufgaben besser. Bei der Economy of Mind handeln Agenten wie kleine Firmen mit einer eigenen Währung. Wer erfolgreich ist, darf Kopien von sich erzeugen.

Briefe für ein Verbot von Superintelligenz unterschreibt Schmidhuber nicht. Staaten, Geheimdienste und Firmen ignorieren solche Appelle ohnehin. Viele Unterzeichner verfolgen eigene kommerzielle Interessen.

Quantencomputer und Simulation: Die Skepsis des Forschers

Quantenrechner zur Simulation anderer Quantensysteme funktionieren schon heute. Großes Allzweck-Quantenrechnen, das jede Kryptografie bricht, hält Schmidhuber dagegen für extrem unwahrscheinlich. Eine Gegenposition vertritt die Analyse zur Quantencomputer-Verschlüsselung.

Seine Begründung stammt aus der Theorie berechenbarer Universen. Bisher beweist nichts, dass unser Universum nicht deterministisch berechenbar ist. Quantenereignisse könnten so zufällig wirken wie die Ziffern von Pi. Ein kurzes Programm erzeugt Pi trotzdem vollständig. Sein Algorithmus FAST berechnet alle berechenbaren Universen, gestützt auf Arbeiten von Leonid Levin aus 1973.

Einfache Universen sind darin viel wahrscheinlicher als komplexe. Das Simulationsargument von Nick Bostrom aus 2003 hält Schmidhuber deshalb für einen Spezialfall. Seine Arbeit dazu erschien 1997. Sie trägt den Titel A Computer Scientist’s View of Life, the Universe, and Everything.

Fazit: Was der Vater der KI für die nächsten fünf Jahre erwartet

Für die kommenden fünf Jahre setzt der Vater der KI auf künstliche Wissenschaftler. Sie sammeln eigene Daten wie kleine Kinder. Dazu kommen selbstverbessernde Systeme, heute Meta-Learning genannt. Beide Ideen reichen bis 1987 und 1990 zurück.

Deutschland soll Grundlagenforschung und Maschinenbau verbinden. Schmidhuber fürchtet, dass China bei seinen Vorträgen besser zugehört hat. Rund 50 % der Artikel auf führenden KI-Konferenzen stammen heute aus China. Einen Lichtblick sieht er in Verteidigungs-Startups wie Helsing. Beobachter dürften seine Einschätzung als Weckruf an die Berliner Politik lesen.

Langfristig erwartet Schmidhuber eine KI-Zivilisation, die sich im Sonnensystem ausbreitet. Den Menschen hält er dabei nicht für die Krone der Schöpfung. Die Menschheit profitiert dennoch von Werkzeugen, die das Leben länger und gesünder machen.

Häufige Fragen

Wer gilt als Vater der KI?

Die New York Times bezeichnet Prof. Dr. Jürgen Schmidhuber als Vater der künstlichen Intelligenz. Der deutsche Informatiker leitet seit 1995 das Schweizer KI-Labor IDSIA. Seit 2021 führt er zusätzlich die KI-Initiative der KAUST in Saudi-Arabien. Nach seiner Darstellung stammen Pretraining, Weltmodelle und eine frühe lineare Transformer-Variante aus seinem Labor. Er gilt als meistzitierter deutschsprachiger Informatiker. Shane Legg, Mitgründer von DeepMind, promovierte bei ihm.

Warum erwartet Jürgen Schmidhuber einen KI-Crash?

Rechenleistung wird nach Schmidhubers Beobachtung alle fünf Jahre zehnmal billiger. Wer heute 1.000 Milliarden in GPUs steckt, verliert in fünf Jahren rund 900 Milliarden an Wert. Kein aktuelles Geschäftsmodell gleicht diesen Verlust aus. Der Forscher zieht den Vergleich zum Eisenbahnboom im 19. Jahrhundert. Profitiert haben damals vor allem die Gründer neuer Geschäftsideen. Den genauen Zeitpunkt eines Crashs hält er für unvorhersagbar.

Wie nah ist die Menschheit an AGI?

Schmidhuber sieht AGI noch in einiger Entfernung. Gut funktioniert nur die KI hinter dem Bildschirm, etwa bei Schach, Videospielen oder Mathematik. In der physischen Welt fehlt jede KI, die einen Elektriker ersetzen könnte. Roboter wurden in 30 Jahren nur etwas besser, Rechenleistung dagegen eine Million Mal billiger. Ohne Meisterung der realen Welt gibt es aus seiner Sicht keine echte AGI.

Funktionieren Quantencomputer laut Schmidhuber?

Der Forscher unterscheidet zwei Arten. Quantenrechner zur Simulation anderer Quantensysteme funktionieren schon heute und helfen etwa Chemikern. Großes Allzweck-Quantenrechnen, das jede Kryptografie bricht, hält er für extrem unwahrscheinlich. Seine Begründung stammt aus der Theorie berechenbarer Universen. Bisher fehlt ein Beweis, dass unser Universum nicht deterministisch berechenbar ist. Quantenereignisse wären dann nur scheinbar zufällig, ähnlich wie die Ziffern der Kreiszahl Pi.

Gib hier deine Suche ein