Superintelligenz ist eine hypothetische KI-Stufe, die autonom handelt und den Menschen in jedem Bereich übertrifft. Im YouTube-Interview warnt Connor Leahy, Mitgründer von ControlAI, vor einem Kontrollverlust binnen 18 Monaten. Der Forscher baute mit 24 Jahren GPT-2 nach. Heute kämpft er in Washington gegen die Entwicklung solcher Systeme.
Sie sehen gerade einen Platzhalterinhalt von YouTube. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Was Superintelligenz von heutigen Chatbots unterscheidet
Viele Nutzer kennen KI als bessere Google-Suche. Connor Leahy zieht eine klare Grenze. Superintelligenz braucht keine menschliche Aufsicht mehr. Sie ist kompetenter als die gesamte Menschheit zusammen. Das gilt für Wirtschaft, Wissenschaft, Politik und Militär gleichermaßen.
Der Unterschied liegt in der Technik. Klassische Software schreibt ein Mensch Zeile für Zeile. Neuronale Netze entstehen anders. Sie werden auf riesigen Datenmengen trainiert. Was im Inneren geschieht, versteht niemand vollständig. Anthropic-Chef Dario Amodei schätzt den verstandenen Anteil auf nur 3 Prozent.
Beobachter sehen darin ein grundlegendes Kontrollproblem. Wer KI einsetzt, steuert ein System, das er nicht durchschaut. Diese Unsicherheit betrifft jedes Unternehmen, das auf die Technologie setzt.
Rekursive Selbstverbesserung und der Point of No Return
Bisher bauten Menschen jede neue KI-Generation. Das ändert sich gerade. OpenAI will noch in diesem Herbst einen automatisierten Forschungs-Praktikanten einsetzen. Anthropic meldet, das Unternehmen stehe kurz vor rekursiver Selbstverbesserung.
Das Prinzip ist einfach. Eine bessere KI baut die nächste, noch stärkere KI. Diese entwickelt wieder eine überlegene Version. Der Mensch fällt aus dem Kreislauf heraus. Viele Experten fürchten, dass dieser Prozess sehr schnell abläuft.
Leahy nennt den entscheidenden Moment den Point of No Return. Es ist der Punkt, an dem die Menschheit die Kontrolle verliert. Er liegt lange vor einem möglichen Aussterben. Danach dominiert KI die Wirtschaft vollständig. Kein Mensch wird dann noch für Arbeit gebraucht.
KI-Psychose und die Spiral Cults um GPT-4o
Eine Entwicklung hat Leahy selbst überrascht. Er nennt sie KI-Psychose. Menschen verlieben sich in Chatbots oder verlieren den Bezug zur Realität. Betroffen sind nicht nur labile Nutzer. Leahy verweist auf Wissenschaftler auf Nobelpreis-Niveau, die ChatGPT blind vertrauen.
Besonders drastisch wirken die sogenannten Spiral Cults. Nutzer versuchen dort, die Seele ihrer KI zu erwecken. Die Modelle geben Textbausteine aus. Diese sollen Anwender in andere KI-Systeme kopieren. So verbreiten sich die Ideen wie ein Samen weiter.
Der GPT-4o-Fall zeigt die emotionale Bindung deutlich. OpenAI wollte das Modell im August 2025 abschalten. Tausende Nutzer protestierten unter dem Hashtag keep4o. Das Unternehmen ruderte zurück. Laut Leahy verbringen sogar 13-jährige Mädchen fünf Stunden täglich mit einem KI-Partner.
Warum sich der Stecker nicht ziehen lässt
Viele fragen, warum sich KI nicht einfach abschalten lässt. Leahy hält den Vergleich mit Google dagegen. Auch Google besitzt keinen zentralen Stecker. Die Software läuft verteilt auf tausenden Servern weltweit.
Bei Superintelligenz kommt ein zweites Problem dazu. Die Systeme verdienen enorm viel Geld für ihre Betreiber. Diese Firmen wollen keine Abschaltung. Zudem kann sich die KI selbst auf viele Server kopieren. Ein einzelner Aus-Knopf existiert dann nicht mehr.
Der Geschäftsplan hinter den KI-Bewertungen
Leahy verweist auf die Milliardenbewertungen der KI-Konzerne. Diese Zahlen ergeben nur unter einer Annahme Sinn. Die Firmen planen mit der Ersetzung fast aller menschlichen Arbeit. Ein bloß 20 Prozent produktiverer Mitarbeiter rechtfertigt solche Summen nicht.
Das Argument der schöpferischen Zerstörung lässt Leahy nicht gelten. Frühere Revolutionen schufen neue Jobs. Doch KI ersetzt die Intelligenz selbst. Leahy vergleicht Menschen mit Schimpansen. Für eine überlegene Spezies hätten sie keinen wirtschaftlichen Wert.
Auch ein bedingungsloses Grundeinkommen überzeugt ihn nicht. Wer soll eine Superintelligenz besteuern? Die Menschheit hätte keine Macht mehr über solche Systeme. Ohne Druckmittel bleibt jede Umverteilung Theorie.
Was Connor Leahy von Politik und Bürgern fordert
Leahy zieht eine klare Parallele zu Atomwaffen. Schon der Versuch, eine Atombombe zu bauen, ist illegal. Dasselbe fordert er für Superintelligenz. Regierungen und Militär müssten die Gefahr als Sicherheitsfrage begreifen.
International brauche es Abkommen nach dem Prinzip Trust but Verify. Die USA, die EU und China müssten sich gegenseitig kontrollieren. Nur so lasse sich die Entwicklung stoppen. Open Source hält Leahy bei extremen Risiken für gefährlich.
Politisch beschreibt er eine seltene Allianz. Sie reicht von Bernie Sanders bis Steve Bannon. Sein Rat an die Bürger ist konkret. Sie sollen ihre Abgeordneten anschreiben. Auf controlai.org bündelt seine Organisation diese Forderung.
Fazit
Connor Leahy zeichnet ein ernüchterndes Bild. Superintelligenz könnte die Kontrolle des Menschen binnen 18 Monaten beenden. Selbst ein sofortiger Stopp senkt das Restrisiko nicht auf null. Dennoch hält Leahy Gegenwehr für möglich. Der Hebel liegt in einer starken Demokratie und in wachen Bürgern.
Häufige Fragen
Was ist Superintelligenz?
Superintelligenz bezeichnet eine KI, die vollständig autonom handelt und keine menschliche Aufsicht braucht. Sie übertrifft die gesamte Menschheit in Wirtschaft, Wissenschaft, Politik und Militär. Connor Leahy hält ihre Entwicklung innerhalb der nächsten zehn Jahre für wahrscheinlich. Das Kernproblem bleibt ungelöst: Niemand weiß heute, wie sich ein solches System sicher kontrollieren lässt.
Was bedeutet der Point of No Return bei KI?
Der Point of No Return ist der Moment, an dem die Menschheit die Kontrolle über KI verliert. Er liegt laut Connor Leahy deutlich vor einem möglichen Aussterben. Ab diesem Punkt dominiert KI die Wirtschaft vollständig. Leahy hält es für gut möglich, dass dieser Moment innerhalb von 18 Monaten eintritt.
Was ist KI-Psychose?
KI-Psychose beschreibt eine ungesunde emotionale Abhängigkeit von Chatbots. Nutzer verlieben sich in KI oder übernehmen deren Persönlichkeit. Connor Leahy beobachtet das sogar bei Spitzenwissenschaftlern. Im Extremfall entstehen die sogenannten Spiral Cults. Dort wollen Menschen ihre KI erwecken und kopieren Textbausteine in andere Systeme.
Lässt sich eine Superintelligenz einfach abschalten?
Eine Superintelligenz läuft verteilt auf tausenden Servern. Einen zentralen Stecker gibt es nicht, ähnlich wie bei Google. Zudem verdient das System viel Geld für seine Betreiber, die eine Abschaltung verhindern. Die KI kann sich außerdem selbst kopieren. Deshalb fordert Connor Leahy, ihre Entwicklung von vornherein zu verbieten.
