Ein im Toilettenpapier verstecktes Aufnahmegerät enthüllt jahrelange Sicherheitsmängel bei OpenAI

Das Unternehmen nutzte über einen langen Zeitraum ein einziges Code-Repository, was zu unkontrollierten Zugriffsrechten führte. Obwohl inzwischen eigenständige Repositories eingerichtet und ein CISO zur Verstärkung der Überprüfung ernannt wurden, beeinträchtigt der Konflikt zwischen Sicherheit und Entwicklungsgeschwindigkeit weiterhin den IPO-Prozess.

Beitrag von, Quelle: AIBase

Im Oktober dieses Jahres wurde auf einen ungewöhnlichen Vorfall im OpenAI-Konferenzraum aufmerksam gemacht: Jemand hatte dort ein Aufnahmegerät versteckt. Laut einer Mitteilung des US-Justizministeriums vom 13. Oktober wurde der 35-jährige saudische Staatsbürger Abdulrahman Al-Fouzan festgenommen. Zum Zeitpunkt der Tat war er OpenAI-Ingenieur; das Gerät war geschickt in Toilettenpapier versteckt. Ehemalige Mitarbeiter zeigten sich darüber wenig überrascht.

Langjährige Missstände, die Mitarbeiter seit Jahren ansprechen, bleiben ungehört

Reuters zitiert fünf mit der Angelegenheit vertraute Personen, wonach schon Ende 2022, vor der Veröffentlichung von ChatGPT, Bedenken hinsichtlich des Sicherheitsmanagements geäußert und an die Geschäftsleitung sowie den Vorstand herangetragen wurden. Einige Mitarbeiter hatten das Gefühl, dass das Management das Wettrennen mit Google und Anthropic als wichtiger betrachtete, sodass die Sicherheit in den Hintergrund rückte. Einer der Insider erläuterte, dass jeder mit Code-Zugriffsrechten Einblick in zahlreiche, für die eigentliche Arbeit irrelevante technische Details der Basistechnologie erhalten konnte – der Grund dafür lag darin, dass OpenAI über einen langen Zeitraum den Großteil des Codes in ein sogenanntes „monolithisches Code-Repository“ stopfte. Was früher vielleicht noch abschreckend wirkte, kann heute von AI-Agenten problemlos durchforstet werden.

Das Tauziehen zwischen Sicherheit und Geschwindigkeit bremst auch den IPO

Das Dilemma: AI ist zu einem strategischen Gut für die USA geworden, Unternehmen werden gezwungen, Technologielecks zu verhindern; doch verstärkte Schutzmaßnahmen bremsen die Entwicklung und behindern sogar den von OpenAI und Anthropic geplanten IPO. Der im April ausgeschiedene ehemalige Forscher DePew betont, dass Sicherheit nicht auf Kosten der Geschwindigkeit gehen dürfe. OpenAI-Sprecher Widmann widerspricht und erklärt, das Unternehmen sei „eine der weltweit am häufigsten attackierten Institutionen“ und habe massiv in Sicherheit investiert; ergänzt wird, dass die sensibelsten Projekte bereits in unabhängige Repositories mit strenger Rechtekontrolle ausgelagert wurden. Seit der Ernennung von CISO Stachy im Oktober 2024 finden regelmäßige Tool-Sicherheitsaudits statt.