L’enregistreur caché dans le rouleau de papier toilette révèle les problèmes de sécurité accumulés depuis des années chez OpenAI

L'utilisation prolongée par l'entreprise d'un référentiel de code unique a entraîné une perte de contrôle des accès ; bien que des référentiels indépendants aient été mis en place et qu'un CISO ait été nommé pour renforcer les audits, le dilemme entre sécurité et rapidité de développement continue d'impacter le processus d'IPO.

Auteur de l’article, source : AIBase

En octobre de cette année, une anomalie a été détectée dans une salle de réunion de direction chez OpenAI : quelqu’un avait discrètement caché un appareil d’enregistrement. Selon le rapport du département de la Justice des États-Unis du 13 octobre, le suspect appréhendé est Abdulrahman Al-Fawzan, un citoyen saoudien de 35 ans qui travaillait comme ingénieur chez OpenAI au moment des faits, l’appareil ayant été habilement dissimulé dans un rouleau de papier toilette. Plusieurs anciens employés, informés de l’incident, n’ont pas été étonnés.

Des problèmes enracinés depuis longtemps, les alertes des employés sont restées sans réponse

Selon Reuters, citant cinq personnes informées du dossier, des doutes avaient été soulevés concernant la gestion de la sécurité de l’entreprise et signalés à la direction ainsi qu’au conseil d’administration dès la fin 2022, avant le lancement de ChatGPT. Certains employés estimaient que les dirigeants privilégiaient la concurrence avec Google ou Anthropic, reléguant la sécurité au second plan. Un intervenant a expliqué que toute personne disposant des droits d’accès au code pouvait consulter une large quantité de détails techniques souvent sans rapport avec ses fonctions – la cause étant qu’OpenAI regroupait historiquement la plupart de son code dans un immense système appelé « monolith code repository », ce qui pouvait autrefois impressionner, mais qui n’a plus grand effet aujourd’hui, alors que les agents d’IA peuvent analyser de tels volumes de données sans difficulté.

La tension entre sécurité et vitesse entrave toujours l’IPO

Le cœur du problème : l’IA est désormais un atout stratégique pour les États-Unis, obligeant les entreprises à se prémunir contre la fuite technologique ; mais renforcer la protection peut ralentir la R&D et compliquer l’IPO qu’OpenAI et Anthropic préparent. L’ancien chercheur Depieux, parti en avril, affirme qu’il est impossible de sacrifier la vitesse pour la sécurité. De son côté, le porte-parole d’OpenAI Widmann répond que la société est « l’une des organisations les plus fréquemment attaquées au monde » et investit massivement dans la défense ; l’entreprise ajoute que ses projets les plus sensibles ont été transférés dans des référentiels indépendants à accès hautement contrôlé, et qu’un audit régulier des outils de sécurité sera mis en œuvre après la nomination, en octobre 2024, du CISO Starkey.