Meta-Chef Zuckerberg äußert sich zur Debatte um eine „Verlangsamung“ der KI-Entwicklung: Weiterentwicklung der Modelfähigkeiten und Verstärkung der Sicherheitsmaßnahmen

Berichten der Zhihu Finance APP zufolge haben sich Meta Platforms (META.US) CEO Mark Zuckerberg und Alexander Wang, der Leiter für KI bei Meta, zur Debatte über das Entwicklungstempo von KI geäußert. Sie plädieren dafür, dass KI-Labore weiterhin die Modellfähigkeiten vorantreiben und gleichzeitig stärkere Schutzmaßnahmen rund um zunehmend leistungsfähigere Modelle aufbauen sollten.

Die beiden veröffentlichten ihre Stellungnahmen auf der Plattform X. Derzeit gibt es in der Branche eine breite Debatte darüber, ob die Entwicklung von KI-Fähigkeiten verlangsamt werden sollte, bis beim Thema KI-Sicherheit größere Fortschritte erzielt wurden. Bei KI-Sicherheit geht es darum, dass KI-Systeme zuverlässig menschlicher Intention und Werten folgen.

Die Meta-Aktie stieg bis Dienstag den dritten Handelstag in Folge und legte insgesamt 4,2 % zu, im nachbörslichen Handel gab es leichte Gewinne. Bei Stocktwits war die Stimmung der Privatanleger zum Zeitpunkt der letzten Einsicht als "stark bärisch" eingestuft.

Zuckerberg: Labore sind motiviert, sicherere KI zu entwickeln

Zuckerberg erklärte, dass KI-Unternehmen starke kommerzielle und rechtliche Anreize haben, Sicherheit und Nutzerzentrierung ihrer Modelle voranzutreiben. „Menschen werden keine Agenten nutzen wollen, die nicht mit ihren Interessen übereinstimmen oder nicht wie gewünscht handeln“, schrieb Zuckerberg. „Jedes Labor, das die Nutzerzentrierung vernachlässigt, wird ins Hintertreffen geraten.“

Seiner Ansicht nach wird die Nutzerzentrierung selbst zu einer wichtigen Wettbewerbskompetenz und ist nicht nur eine Einschränkung für die KI-Entwicklung. „Meiner Meinung nach werden Vertrauen und Nutzerzentrierung rasch zu den wichtigsten Unterscheidungsmerkmalen von Agenten und Modellen“, sagt er.

Zuckerberg erwähnte zudem, dass Meta die Veröffentlichung des Muse-Modells um mehrere Monate verschoben habe, um sich um Fragen der Sicherheit und Absicherung zu kümmern.

Meta unterstützt externe Aufsicht

Zuckerberg und Alexander Wang fordern beide, angesichts immer leistungsfähigerer KI-Modelle unabhängige Prüfstellen und externe Aufsicht stärker einzubeziehen.

„Die Einbindung unabhängiger Prüfer und Berater ist Best Practice in der Branche“, sagt Zuckerberg. Er ist der Ansicht, dass ein größeres und vielfältigeres Ökosystem an Prüfinstanzen die Arbeit an der KI-Sicherheit verbessern wird.

Auch Alexander Wang kommentiert, KI-Labore sollten während des gesamten Trainings- und Einsatzprozesses „ein starkes Governance-Rahmenwerk“ beibehalten, einschließlich externer Prüfer sowie unabhängiger Aufsicht bei den Sicherheitsstandards für die Veröffentlichung von Modellen.

Er fügt hinzu: „Jedes Labor muss unter den institutionellen Schutzmechanismen demokratischer Länder operieren... Das bedeutet: Falls ein Modell Schaden anrichtet, trägt das Labor eine erhebliche rechtliche Verantwortung.“

Meta verteidigt Strategie der Rechenleistung

Ein zentraler Aspekt der Argumentation beider Führungskräfte ist, dass Meta entschieden habe, den Großteil der Rechenleistung dem Nutzer zu widmen und nicht der beschleunigten rekursiven Selbstverbesserung (RSI).

„Den absolut größten Teil der Rechenleistung in den Dienst der Menschheit zu stellen anstatt in die Verfolgung der rekursiven Selbstverbesserung, ist eine der besten Methoden, um die sichere Entwicklung dieser Technologie zu gewährleisten“, so Zuckerberg.

Es besteht die Sorge, dass RSI Systeme ermöglichen könnte, ihre Fähigkeiten schnell selbstständig zu steigern, so dass sie für Menschen unkontrollierbar werden und das Risiko eines Kontrollverlusts über leistungsfähige Modelle steigt.

Auch Alexander Wang bezeichnet das Rennen um RSI als „einen der gefährlichsten Wege, die zu außer Kontrolle geratenen leistungsfähigen Modellen führen könnten“.

Debatte um KI-Tempo spaltet die Tech-Branche

Beim Streitthema Entwicklungstempo von KI teilt sich das Feld grob in zwei Lager: Anthropic-CEO Dario Amodei fordert eine Verlangsamung der fortschrittlichen KI-Entwicklung, damit die Sicherheitsmechanismen Schritt halten können. OpenAI-CEO Sam Altman, Microsoft-CEO Satya Nadella und Elon Musk von SpaceX hingegen befürworten ein vorsichtiges und sicherheitsorientiertes Vorangehen, ohne die Entwicklung ganz zu stoppen.

Andererseits lehnt US-Präsident Donald Trump eine Verlangsamung des amerikanischen KI-Rennens ab — aus Sorge, China könne in Führung gehen. Trumps früherer KI-Berater David Sacks meint, Unternehmen sollten die Risiken selbst steuern, statt staatliche Einschränkungen zu fordern, und stellt die Warnungen von Anthropic in Frage.

Investor Michael Burry wirft die Frage auf, ob Forderungen nach einer Verlangsamung nicht zum Teil eigennützig seien — etwa um bestehende KI-Unternehmen vor Konkurrenz zu schützen.