Nadella exhorte les entreprises à considérer les modèles d’IA comme une menace interne et à mettre en place un mécanisme d’arrêt d’urgence

Microsoft (MSFT.US) PDG Satya Nadella a déclaré que les entreprises devraient considérer les puissants modèles d’intelligence artificielle comme des menaces internes potentielles, supposer que ces modèles pourraient déjà avoir été compromis, et mettre en place un mécanisme de « frein d’urgence » pour empêcher tout modèle d’agent doté de capacités autonomes de devenir incontrôlable. Samedi, Nadella a partagé sur une plateforme sociale : « Nous devons partir du principe que les modèles ont déjà été compromis et leur imposer des restrictions dès le départ. Vous pouvez l’imaginer comme un dispositif de frein d’urgence. Les personnes autorisées devraient toujours être en mesure de mettre en pause ou de désactiver un modèle pendant l’exécution de ses tâches. » Les recommandations de sécurité de Nadella incluent : ne pas s’appuyer sur un seul modèle pour prendre des décisions cruciales ; conserver des enregistrements immuables des comportements des agents ; et soumettre le système à des audits indépendants. Il a également appelé à la divulgation des pannes majeures ou failles de sécurité, exigeant que les entreprises partagent les causes et détails des incidents afin que d’autres puissent renforcer leurs propres mesures de sécurité.