DeepMind-Manager von Google: Die Kapitalausgaben in Höhe von hunderten Milliarden Dollar für KI sind das größte wissenschaftliche Wagnis in der Menschheitsgeschichte, der zentrale Einsatz liegt auf "rekursiver Selbstverbesserung".

Autor | Bao Yilong

      Redaktion | Hard AI

Wenn Technologiegiganten in beispiellosem Ausmaß Geld für den Aufbau von AI-Infrastrukturen verbrennen, wird die zugrunde liegende Logik dieses gewagten Spiels klar: Man setzt darauf, dass AI "Recursive Self-Improvement" erreicht.

Am 3. August äußerte sich Jasjeet Sekhon, Chief Strategy Officer von Google DeepMind, am vergangenen Wochenende öffentlich auf dem Agentic AI Summit der University of California in Berkeley:Recursive Self-Improvement (RSI) ist die "Kerninvestitionslogik" hinter den Kapitalausgaben der gesamten Branche.

Recursive Self-Improvement bedeutet, dass AI automatisch bessere Versionen von sich selbst erschaffen kann. Es gilt in der Branche als der nächste bedeutende Meilenstein nach Artificial General Intelligence (AGI).

Sekhon gab zudem zu,dass die derzeitigen Einnahmen der AI "noch nicht ausreichen", um das aktuelle Ausgabenvolumen zu decken und die Branche damit Gefahr läuft, in eine Marktleere zu geraten.

Google gibt dieses Jahr rund 200 Milliarden US-Dollar für AI-Rechenzentren und entsprechende Geräte aus und plant, dies im nächsten Jahr weiter zu erhöhen.

Gleichzeitig erklärten die DeepMind-Forscher Oriol Vinyals und OpenAI-Mitbegründer Wojiech Zaremba,dass Recursive Self-Improvement möglicherweise zwischen 2027 und 2028 realisiert wird.

Begründung für hohe Wetten: Recursive Self-Improvement verdrängt AGI

Im Narrativ der AI-Branche verdrängt Recursive Self-Improvement AGI zunehmend und wird zum heißesten Thema.

AGI ist die Abkürzung für Artificial General Intelligence und wird auf Deutsch meist als "Generelle Künstliche Intelligenz" übersetzt. Sie stellt eines der ultimativen Ziele der AI-Forschung dar: Ein System, das bei den allermeisten wirtschaftlich relevanten Aufgaben mindestens menschliches Niveau erreicht oder übertrifft.

Sekhon bezeichnet die aktuellen Kapitalausgaben der AI-Branche als "die größte wissenschaftliche Wette in der Geschichte der menschlichen Zivilisation". Sie sei vom Umfang her größer als das Apollo-Mondprogramm, das Manhattan-Projekt und die Entwicklung des Internets durch die US-Regierung.

Im eigentlichen Sinne bedeutet Recursive Self-Improvement, dass AI-Modelle unabhängig die gesamte eigene Architektur neugestalten und neue Modelle entwickeln können – ein kontinuierlicher Kreislauf der Selbstverbesserung entsteht.

Sekhon räumt ein, dass die Technik "noch lange nicht auf diesem Stand ist", weist aber darauf hin,dass AI-Firmen inzwischen mit Modellen bereits Teile von anderen Modellen entwerfen können – dies gilt als "Vorzeichen" für Recursive Self-Improvement.Er vergleicht das mit der historischen Nutzung von Dampfmaschinen zum Bau der nächsten Dampfmaschinen-Generation.

Dennoch betont Sekhon:

Es scheint unklug, darauf zu wetten, dass Recursive Self-Improvement nicht realisiert wird.

Sekhon erwartet dennoch, dass Recursive Self-Improvement "mit großer Wahrscheinlichkeit in den nächsten Jahren" auftauchen wird.

DeepMind-Forscher Oriol Vinyals und OpenAI-Mitgründer Wojiech Zaremba nannten beim selben Gipfel eine konkretere Zeitspanne: 2027 oder 2028.

Einnahmenlücke: Sorge der Google-Aktionäre

Trotz groß angelegter Strategie spricht Sekhon sehr direkt über die aktuelle finanzielle Realität.

Er betont, dass die Einnahmen durch AI derzeit "unsere laufenden Kapitalausgaben nicht decken können". Das bedeutet,dass die Branche dem Risiko eines "AI-Luftlochs" ausgesetzt ist – große Investitionen werden getätigt, aber die entsprechenden Einnahmen lassen auf sich warten.

Diese Aussage deckt sich mit den aktuellen Sorgen der Google-Aktionäre. Obwohl die wichtigsten AI-Investoren, darunter Google, ein beschleunigtes Wachstum beim Software- oder Cloud-Service-Verkauf verzeichnen, sorgt der fortwährende hohe Cash-Verbrauch für Unruhe bei den Anteilseignern.

Zum Vergleich: Amazon AWS verzeichnete im Quartal einen Umsatzanstieg von 37% auf 42,2 Milliarden US-Dollar, die operative Gewinnmarge stieg von 37% im Vorquartal auf 39% – die Nachfrage nach AI-Cloud-Services wird schneller erfüllt.

Dies stützt in gewisser Weise die kommerzielle Logik der riesigen Investitionen in der Branche, unterstreicht aber noch deutlicher die strukturelle Diskrepanz zwischen Einnahmen und Ausgaben, die Google offen einräumt.

Risikomatrix: Von Cyberangriffen bis zu biologischen Bedrohungen

Auf dem Gipfel diskutierten Sekhon und Dawn Song, Professorin für Informatik an der University of California, Berkeley und jüngst Mitglied der "Superintelligence"-Abteilung von Meta, ausführlich über Sicherheitsrisiken der AI, insbesondere deren Potenzial als Werkzeug für Cyber- und Biowaffenangriffe.

Song stellte fest, dass AI in naher Zukunft "eher Angreifern zugutekommt", da im Bereich Angriff vs. Verteidigung eine inhärente Asymmetrie besteht:

Der Angreifer muss nur einmal erfolgreich sein, der Verteidiger muss alle Angriffe abwehren.

Sekhon stimmt dem zu und warnt, dass es in naher Zukunft "ziemlich schwierig" wird, da Angreifer Open-Source-Code-Repositorien kontaminieren und minderwertigen, von Menschen geschriebenen Code ausnutzen – besonders verletzlich seien Systeme wie Stromnetze und Krankenhäuser in den USA.

Allerdingsrichtet Sekhon die Warnung vor allem auf den Bereich der biologischen Sicherheit.Er sagt:

Wir sind sehr nahe an einer Welt, in der eine Person allein durch Textdialog mit einem Modell Viren oder Proteine entwerfen kann. Das ist langfristig nach wie vor eine extrem gefährliche Welt, in der Angreifer im Vorteil sind.

Er erläutert, dass die Bewältigung biologischer Risiken strengere Lizenz-, Überwachungs- und Tracking-Mechanismen für "biologiebezogene Materialien" erfordert. Google erweitert seine AI-Wasserzeichentechnologie SynthID nun auf das Gebiet der Biologie, um DNA-Syntheseunternehmen bei der Überprüfung von AI-generierten biologischen Sequenzen auf potenzielle Risiken zu unterstützen.