حث ناديلا الشركات على اعتبار نماذج الذكاء الاصطناعي تهديدًا داخليًا ووضع آلية توقف طارئة.

صرح ساتيا ناديلا، الرئيس التنفيذي لشركة Microsoft (MSFT.US)، بأنه يجب على الشركات أن تعتبر نماذج الذكاء الاصطناعي القوية تهديدًا داخليًا محتملاً، وأن تفترض إمكانية تعرض هذه النماذج للاختراق وأن تنشئ آلية "فرملة طارئة" لمنع فقدان السيطرة على النماذج الذكية التي تتمتع بقدرة التصرف الذاتي. وقد نشر ناديلا يوم السبت على منصة التواصل الاجتماعي قائلاً: "يجب أن نفترض أن النموذج قد تم اختراقه بالفعل وأن نفرض عليه قيودًا من البداية. يمكن تصور ذلك باعتباره جهاز فرملة طارئة. يجب أن يكون لدى الأشخاص المخولين دائمًا القدرة على إيقاف أو تعطيل النموذج أثناء أداء مهامه." وشملت توصيات ناديلا الأمنية: عدم الاعتماد على نموذج واحد لاتخاذ قرارات حاسمة؛ الاحتفاظ بسجلات غير قابلة للتلاعب لسلوك الذكاء الاصطناعي؛ وجعل النظام يخضع للتدقيق المستقل. كما دعا أيضًا إلى الإفصاح عن الأعطال أو الثغرات الأمنية الكبيرة، وطالب الشركات بمشاركة أسباب الحوادث والتفاصيل ذات الصلة حتى تتمكن الشركات الأخرى من تعزيز تدابيرها الأمنية.