Continual Learning ist ein KI-Ansatz, bei dem Systeme im laufenden Betrieb weiterlernen. Das Düsseldorfer Startup Wakeline verfolgt diesen Ansatz besonders konsequent. Im YouTube-Interview beschreibt Gründer Dr. Tim Gülke, wie seine KI ohne Deep Learning, Gewichte und Hyperscaler auskommen soll.
Der Ansatz stellt eine Grundannahme der Branche infrage. Die meisten Modelle werden aufwendig trainiert und danach unverändert eingesetzt. Wakeline setzt auf ein System, das erst im Einsatz richtig zu lernen beginnt.
Sie sehen gerade einen Platzhalterinhalt von YouTube. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Warum eingefrorene KI-Modelle an Grenzen stoßen
Große Sprachmodelle sind laut Gülke eine Wette. Sie lernen aus riesigen Datenmengen allgemeine Strukturen. Danach werden sie eingefroren und in einen konkreten Anwendungsfall gebracht. Die Hoffnung: Das gelernte Wissen reicht, um das spezifische Problem zu lösen.
Genau hier sieht der Gründer das Risiko. Eine einzelne Maschine, eine lokale Wetterlage oder ein bestimmter Markt folgen oft eigenen Regeln. Dazu kommt eine sehr dynamische Weltlage. Gülke nennt die Straße von Hormus und den Krieg in der Ukraine. Solche Ereignisse standen in keinem Trainingsdatensatz.
Ein eingefrorenes Modell arbeitet mit dem Stand seines Trainings. Ändert sich die Welt, sinkt die Qualität seiner Entscheidungen. Dass mehr Daten und Rechenleistung von allein bessere Entscheidungen bringen, hält Gülke für falsch. Er nennt es die gefährlichste Fehleinschätzung der Branche. Wie aufwendig klassisches LLM-Training abläuft, zeigt den Kontrast.
So funktioniert Continual Learning bei Wakeline
Bei Wakeline gibt es keine Trennung zwischen Trainings- und Anwendungsphase. Das System ist stateful. Es läuft als kleine Instanz direkt in einer Umgebung mit und wird ständig aktualisiert. Ein Vorlernen auf historischen Daten ist möglich, aber keine Voraussetzung.
Das System erhält einen Datenstrom und beginnt zu beobachten. Es stellt Hypothesen über die geltenden Regeln auf, testet sie und verwirft sie wieder. Dann handelt es, prüft die Folgen und passt sein Verhalten an. Gülke vergleicht das mit kleinen Lebewesen. Eine Ameise hat kein GPU-Rechenzentrum und kommt trotzdem in fremder Umgebung zurecht.
Technisch verzichtet Wakeline auf Backpropagation und Gradientenabstieg. Der Ansatz stammt eher aus der Signalverarbeitung. Einzelne Einheiten beobachten je einen Eingangskanal und lernen autonom. Manche lernen schnell, andere langsam. Anschließend koordinieren sie sich zu einem Gesamtbild der Umwelt.
Neues Wissen landet in einem separaten, mitwachsenden Speicher. Bestehende Gewichte muss das System deshalb nie überschreiben. Deep-Learning-Modelle verändern beim Nachlernen dagegen immer den gesamten Datenraum. Weitere Details hält das Startup wegen laufender Patentanträge zurück.
Strommarkt als Benchmark: Schlechtere Prognose, mehr Gewinn
Nach eigenen Angaben arbeitet Wakeline bereits mit Partnern aus Medizin und Industrie. Die Namen bleiben vorerst vertraulich. In der Medizin geht es um neurodegenerative Krankheiten. Gehirnströme sind sehr individuell, das System muss am einzelnen Patienten lernen.
Öffentlich demonstriert das Team seine Technik am Strommarkt. Die Daten sind frei verfügbar, Trading lässt sich simulieren. Zudem ändert sich der Markt rasant durch PV-Anlagen, Wallboxen, E-Autos und Smart Meter. Parallel verschiebt sich die Rolle von Batteriegroßspeichern im Netz.
Über fünf Jahre lief das System gegen etablierte Prognose-Modelle. Das Ergebnis wirkt paradox. Beim reinen Prognosefehler lag Wakeline 20 bis 25 Prozent schlechter als der stärkste Konkurrent. Trotzdem erzielte das System höhere Gewinne.
Die Erklärung liegt im Aufbau. Ein Continuous Perception Layer bildet die Realität ab. Ein Executive Layer entscheidet auf dieser Basis, wie gehandelt wird. Beim Single Day Ahead Coupling zählt vor allem die Form der Preiskurve. Wer die Spitze trifft, verkauft zum richtigen Zeitpunkt, auch wenn der absolute Preis danebenliegt.
Kontinuierliches Lernen ohne Hyperscaler
Wakeline hat 2,1 Millionen Euro eingesammelt, angeführt von einem Fonds aus Aachen. Ein Startup aus dem OpenAI-Umfeld sammelt für dasselbe Thema eine halbe Milliarde Dollar. Gülke sieht darin keinen Nachteil. Sein System braucht kaum Geld für Compute.
Gestartet hat er das Projekt als Hobby auf dem eigenen Laptop. Bis heute läuft die Infrastruktur beim europäischen Anbieter Hetzner. Große Cloud-Anbieter braucht das Team nach eigener Aussage nicht. Für viele Fälle wären sie sogar ungeeignet.
Ein Gerät am Patienten verarbeitet hochsensible Daten im Millisekundenbereich. Ein API-Aufruf in die Cloud wäre zu langsam. Dasselbe gilt für Maschinensteuerung und kritische Infrastruktur. Die Unabhängigkeit von Hyperscalern folgt bei Wakeline damit direkt aus der Architektur.
Auditierbarkeit und AI Act
Der AI Act verlangt von lernenden Systemen, ihre Veränderungen vorab zu dokumentieren. Bei einem System, das sich alle 15 Minuten aktualisiert, klingt das schwierig. Gülke sieht hier einen Vorteil seiner Architektur. Die Debatte um KI-Regulierung bekommt damit eine neue Facette.
Deep-Learning-Modelle bestehen aus riesigen Matrizen voller Gewichte und Schwellwerte. Das Fehlen bestimmter Verhaltensweisen lässt sich dort nur aufwendig beweisen. Gülke kennt das Problem aus der Automobil-Branche. Bei der DARPA Urban Challenge 2007 fuhr sein Team einen VW Passat autonom durch die Stadt. Deep Learning spielte dabei noch keine Rolle.
Wakeline protokolliert nach eigenen Angaben jede Entscheidung. Im Log stehen Eingangsdaten, Vorhersage, Entscheidung und aktive Parameter. Das Team kann sogar simulieren, wie das System in einer anderen Lage entschieden hätte. Eine unabhängige Prüfung dieser Aussagen steht noch aus.
Fazit: Continual Learning als nächste S-Kurve
Gülke würdigt die Ergebnisse großer Sprachmodelle ausdrücklich. Er nutzt sie selbst jeden Tag. Wirtschaftlich hält er den Ausbau gigantischer Rechenzentren aber nicht für dauerhaft tragfähig. Das menschliche Gehirn kommt mit 20 Watt aus. Transformer-Modelle erreichen diese Effizienz aus seiner Sicht so bald nicht.
Die nächste S-Kurve sieht der Gründer in individuellen, adaptiven Lösungen direkt am Gerät und am Menschen. Continual Learning ohne Hyperscaler wäre dafür ein zentraler Baustein. Ob der Ansatz außerhalb des Strommarkts trägt, müssen die Partnerprojekte in Medizin und Industrie zeigen.
Häufige Fragen
Was ist Continual Learning?
Continual Learning beschreibt KI-Systeme, die im laufenden Betrieb weiterlernen. Klassische Modelle werden einmal trainiert und dann eingefroren. Sie arbeiten danach mit dem Wissensstand ihres Trainings. Ein kontinuierlich lernendes System passt sich dagegen an neue Daten an. Das Düsseldorfer Startup Wakeline verfolgt dafür ein eigenes Verfahren ohne Deep Learning. Das System beobachtet Datenströme, stellt Hypothesen auf und verwirft sie wieder. Das Problem des Vergessens ist in der Forschung seit den 1980er-Jahren beschrieben.
Wie lernt die KI von Wakeline ohne Gewichte?
Wakeline verzichtet auf Backpropagation und Gradientenabstieg. Der Ansatz stammt nach Angaben des Gründers eher aus der Signalverarbeitung. Einzelne Einheiten beobachten je einen Eingangskanal und lernen autonom, wie er sich verhält. Danach koordinieren sie sich zu einem Gesamtbild der Umwelt. Neues Wissen landet in einem separaten Speicher, bestehende Gewichte werden nicht überschrieben. Details hält das Startup wegen laufender Patentanträge zurück.
Warum testet Wakeline seine KI am Strommarkt?
Am Strommarkt sind die Daten öffentlich einsehbar. Wakeline kann dort Trading simulieren und sich direkt gegen etablierte Verfahren messen. Ethikanträge oder lange Abstimmungen mit Partnern entfallen. Zudem verändert sich der Markt laufend durch PV-Anlagen, E-Autos und geopolitische Krisen. Diese Dynamik macht sichtbar, wie schnell sich ein lernendes System anpasst. Im Fünf-Jahres-Test erzielte es laut Gülke höhere Gewinne als die Konkurrenz.
Ist eine kontinuierlich lernende KI mit dem AI Act vereinbar?
Der AI Act verlangt von lernenden Systemen, ihre Veränderungen vorab zu dokumentieren. Dr. Tim Gülke bezeichnet sein System als jederzeit auditierbar. Jede Entscheidung lasse sich im Log nachvollziehen: Eingangsdaten, Vorhersage, Entscheidung und aktive Parameter. Zusätzlich könne das Team simulieren, wie das System in anderen Situationen entschieden hätte. Eine unabhängige Prüfung dieser Aussagen steht noch aus.
