Nadella fordert Unternehmen auf, AI-Modelle als interne Bedrohung zu betrachten und Mechanismen für einen Notfallstopp einzurichten.

Microsoft-CEO Nadella erklärte, Unternehmen sollten leistungsstarke KI-Modelle als potenzielle interne Bedrohung betrachten, davon ausgehen, dass diese Modelle möglicherweise bereits kompromittiert wurden, und eine „Notbrems“-Mechanik etablieren, um zu verhindern, dass autonom agierende intelligente Agenten außer Kontrolle geraten. Nadella schrieb am Samstag auf einer Social-Media-Plattform: „Wir müssen davon ausgehen, dass Modelle bereits kompromittiert wurden und sie von Anfang an beschränken. Man kann sich das wie einen Notbremsmechanismus vorstellen. Autorisierte Personen sollten den Modellbetrieb jederzeit pausieren oder beenden können, während das Modell Aufgaben ausführt.“ Zu den von Nadella vorgeschlagenen Sicherheitsmaßnahmen gehören: sich nicht auf ein einzelnes Modell für kritische Entscheidungen zu verlassen; unveränderliche Protokolle des Agentenverhaltens zu bewahren; und das System unabhängigen Prüfungen zu unterziehen. Er forderte außerdem, dass schwerwiegende Ausfälle oder Sicherheitslücken offengelegt werden sollen, und verlangte, dass Unternehmen die Ursachen und Details von Vorfällen teilen, damit andere Firmen ihre Sicherheitsmaßnahmen verstärken können.