أنتروبيك يُطلق إنذارات الأمان قبيل الإدراج: تقدم الذكاء الاصطناعي يفوق التوقعات
كشفت شركة Anthropic في ملف الطرح العام الأولي لها أن سرعة تطوير الذكاء الاصطناعي قد فعّلت آليات أمان إضافية في الشركة. ووجدت مؤسسة METR أن التقدم التقني الذي حققته Anthropic خلال العام الماضي يعادل ما أنجزته في السنتين السابقتين، حيث يساهم الذكاء الاصطناعي بنفسه في تسريع عملية التطوير. وقد أثارت المخاطر الناتجة عن التحسين الذاتي المتكرر للذكاء الاصطناعي مخاوف في مجال أمان الذكاء الاصطناعي.
بينما تستعد Anthropic لدخول وول ستريت، كشفت في وثائق الاكتتاب عن تحذير أمني: لقد وصلت سرعة تقدم أبحاث الذكاء الاصطناعي في الشركة إلى العتبة الأمنية التي حددتها لنفسها، ويجب تفعيل تدابير أمنية إضافية.
في 19 نوفمبر، ووفقًا لتقرير صادر عن صحيفة "فاينانشيال تايمز" البريطانية، اعترفت Anthropic في ملف الاكتتاب العام المحدث بأن وتيرة التقدم التكنولوجي لديها قد أدت إلى تفعيل آليات الأمان الإضافية المنصوص عليها في "سياسة التوسع المسؤول" (Responsible Scaling Policy) التي وضعتها عام 2023. هذا الإفصاح جاء في الوقت الذي حددت فيه الشركة سعر إصدار الاكتتاب العام عند 83 دولارًا للسهم، وهو أعلى من النطاق الإرشادي السابق، مع تقييم يقارب 1.5 تريليون دولار.
استند تفعيل آلية الأمان هذه إلى تقرير صدر هذا الشهر عن مؤسسة التقييم الذكائي الاصطناعي METR. بعد إتاحة وصول واسع إلى أنظمة Anthropic وموظفيها ونماذج غير منشورة، وجدت METR أن تقدم قدرات الذكاء الاصطناعي لدى Anthropic في العام الماضي يعادل تقريبًا تقدم عامين من التاريخ السابق. أصبح تسريع الباحثين لأعمالهم البحثية بمساعدة أدوات الذكاء الاصطناعي عاملاً مهمًا في دفع هذا الاتجاه.
تضاعف سرعة التقدم في الذكاء الاصطناعي، وتفعيل آليات الأمان الداخلية
METR هي مؤسسة بحثية متخصصة في تقييم قدرات الذكاء الاصطناعي المتطورة والمخاطر المصاحبة لها. وقد أظهر أحدث تقرير لها أن Anthropic حققت خلال الاثني عشر شهرًا الماضية تقدمًا تقنيًا يعادل عامين من التاريخ، مضاعفة سرعة التحسن مقارنة بالعام السابق.
وقد وصل هذا المعدل السريع إلى الحد الأقصى للأمان الذي حددته Anthropic لنفسها. ووفقًا للسياسة التي وضعتها الشركة في 2023، عند وصول سرعة تطوير الذكاء الاصطناعي إلى حد يتيح ضغط تقدم عامين في عام واحد، يجب تطبيق إشراف أمني أكثر صرامة.
وأوضحت Anthropic أن هذا التقييم مبني على توقعات لقدرات النماذج المستقبلية وسرعة التقدم بشكل عام، ولا يعني أن أنظمة الذكاء الاصطناعي أصبحت قادرة تمامًا على تحسين نفسها ذاتيًا حتى الآن. وستشمل الإجراءات الجديدة ضمانات أمنية وهيكلية الحوكمة بالإضافة إلى مراجعات داخلية أثناء عملية تطوير النماذج.
علق المدير التنفيذي في Anthropic سام ماكاندليش قائلاً إن العديد من استنتاجات تقرير METR تتفق مع تقييماتهم. وأقر بأن الذكاء الاصطناعي يسرع من وتيرة البحث في الشركة، لكن من الصعب تحديد مدى التأثير بشكل دقيق.
مشاركة الذكاء الاصطناعي في تطوير ذاته، ومخاطر التحسين المتكرر تتصاعد
وراء تسارع التقدم التكنولوجي، بدأ الذكاء الاصطناعي يشارك بشكل متزايد في تطوير أنظمة الذكاء الاصطناعي من الجيل التالي. وتسمى هذه العملية "التحسين الذاتي المتكرر" (RSI)، حيث تستخدم الأنظمة قدراتها للمساعدة في تطوير نماذج أقوى لاحقًا.
ذكرت Anthropic في نشرة الاكتتاب أن قدرة النموذج على المساعدة في بناء نموذج لاحق في دائرة مغلقة تشكل ميزة رئيسية مقارنة بالمنافسين، وذكرت أنها حسنت بشكل ملحوظ من كفاءة استخدام القدرة الحاسوبية.
لكن هذه القدرة تثير أيضًا مخاطر أمنية جديدة. صرح الرئيس التنفيذي لمؤسسة Apollo Research، ماريوس هوبهان، بأن الباحثين كانوا يختلفون سابقًا حول توقيت تحقيق التحسين الذاتي المتكرر، لكن النافذة الزمنية باتت تضيق بسرعة، فيما لا تزال الاستعدادات الأمنية للقطاع غير كافية.
وتعتقد مؤسسة أمان الذكاء الاصطناعي "مشروع مستقبل الذكاء الاصطناعي" (The AI Futures Project) أن الاتجاه المتسارع الذي كشفه تقرير METR كان غير متوقع، وتوقعت ظهور باحثين من الذكاء الاصطناعي يفوقون البشر في وقت ما بحلول 2027. وذكرت أن وقف أو إبطاء تطوير الذكاء الاصطناعي المتقدم أصبح أمرًا ملحًا.
كما أشار المدير التنفيذي لـ Anthropic، داريو أمودي، في سبتمبر الماضي، إلى ضرورة وضع "حد أقصى للسرعة" لمعدل التحسين الذاتي المتكرر للذكاء الاصطناعي، إذ قد يكون التقدم في هذا المجال مدهشًا للغاية.
الجدل حول موقف الشركة من الأمان، وتصاعد الانتقادات الخارجية
في نفس الوقت الذي أعلنت فيه Anthropic عن تفعيل آلية الأمان، تزايدت الشكوك الخارجية حول مدى التزامها بالأمان.
يوم الأربعاء، وبدعوة من منظمة "مركز أمان الذكاء الاصطناعي" غير الربحية (Center for AI Safety)، أصدر تحالف من الباحثين في الذكاء الاصطناعي والمدافعين عن الأمان، يضم مؤسسي Hugging Face وxAI، بيانًا علنيًا اتهموا فيه Anthropic باستغلال سمعة الأمان لجذب المستثمرين والموظفين والجمهور، مؤكدين بشكل صريح أنها "ليست شركة ذكاء اصطناعي آمنة".
وأشار البيان بشكل خاص إلى أن Anthropic تحذر من أن التحسين الذاتي المتكرر قد يؤدي إلى تركيز القوة وفقدان السيطرة البشرية، وفي الوقت نفسه تتسابق لتطوير هذه التقنية.
وظهرت مخاوف مماثلة أيضًا داخل صناعة الذكاء الاصطناعي. أشار عضو مجلس إدارة OpenAI وباحث الأمان في الذكاء الاصطناعي، بول كريستيانو، مؤخرًا في بودكاست إلى أن تزايد مستوى الأتمتة في تطوير الذكاء الاصطناعي قد يسرع من ظهور ذكاء اصطناعي قوي للغاية في وقت قصير. وإذا مر القطاع بانفجار سريع في الذكاء ووصل إلى مستوى الذكاء الفائق، فقد لا يتمكن البشر في النهاية من السيطرة على الأنظمة التي تم تطويرها.
ويعتقد هوبهان أنه حتى إذا فشل طرح Anthropic للاكتتاب العام أو تراجعت سوق تمويل الذكاء الاصطناعي، فقد لا يمنع ذلك استمرار التقدم التكنولوجي. وقال إن مختبرات الذكاء الاصطناعي الحالية تمتلك ما يكفي من التمويل لتحقيق اختراقين تقنيين كبيرين على الأقل، وحتى لو انفجر فقاعة السوق، فقد تظهر نماذج تتجاوز بكثير قدرات البشر.
إخلاء المسؤولية: يعكس محتوى هذه المقالة رأي المؤلف فقط ولا يمثل المنصة بأي صفة. لا يُقصد من هذه المقالة أن تكون بمثابة مرجع لاتخاذ قرارات الاستثمار.
You may also like
سيناريو نهاية عام 2018: استمرار رفع أسعار الفائدة من قبل البنك الفيدرالي، انهيار الأسهم الأمريكية بنسبة 20% من أعلى مستوياتها في سبتمبر، مما أجبر البنك الفيدرالي على "تغيير الاتجاه" في يناير
يعتقد مدير التداول في Goldman Sachs أن سوق الأسهم الأمريكي الحالي يعيد سيناريو أواخر عام 2018 عندما شهدت السياسة النقدية تشديدًا وضغوطًا على الأسهم. فقد ارتفع مؤشر الشروط المالية لشركة Goldman Sachs حوالي 8 نقاط خلال أسبوعين، مسجلاً أعلى مستوى له في عام، كما أن عمليات البيع في السوق انتشرت من أسهم التكنولوجيا إلى القطاعات الدفاعية. تراجعت أسعار الذهب والأسهم في الوقت ذاته، ما قد يعكس قيام المستثمرين ببيع الأصول لجمع السيولة النقدية، ولهذا أصبح الذهب مؤشرًا رئيسيًا لمراقبة ضغوط السيولة.

تاجر من Goldman Sachs "يكرر سيناريو 2018": ما زلت أتذكر بوضوح "في يوم 24 ديسمبر، سألني العملاء لم اذا انخفض السوق بهذا القدر؟ ولم أكن أعرف السبب إطلاقاً"
أشار برايان غاريت إلى أن تعديل سوق الأسهم الأمريكية الحالي يشبه الانهيار الذي حدث في الربع الرابع من عام 2018: حيث أن مؤشر S&P 500 قد أكمل 42% من الانخفاض الذي حدث في نفس الفترة من ذلك العام، كما أن مؤشر VIX يقترب من الذروة التي سبقت عطلة عيد الميلاد. وإذا تكررت نفس الوتيرة التاريخية، فقد تظهر القاع في يناير من العام المقبل، لكن أسواق الائتمان وسياسات الاحتياطي الفيدرالي لم تصدر بعد إشارات واضحة على تكوين القاع.
كادت Anthropic (ANT.US) أن تنخفض قيمتها بشكل كبير، بينما Claude يقترب من تحقيق إنجاز "الجبل المقدس الأول في مجال الرياضيات"! 17 مليون سطر من كود Lean لكتابة إثبات مرشح لحدسية ريمان
في توقيت الساحل الشرقي للولايات المتحدة يوم 20 نوفمبر، في اليوم التالي لإدراج Anthropic، بلغت أدنى قيمة سنوية للسهم خلال التداول 83.05 دولار، أي فقط بفارق 5 سنتات عن سعر الإصدار البالغ 83 دولار، وأغلق السهم في نهاية الجلسة عند 88.91 دولار، بانخفاض قدره 8.50%. في اليوم نفسه، أعلن عالم الرياضيات في الشركة، ليفينت ألبيرغ، على موقعه الشخصي، أنه مع Claude وجدوا برهاناً مرشحاً لمسألة ريمان التي شغلت الأوساط الرياضية لمدة 167 عاماً، كما نشروا حوالي 17 مليون سطر من الشيفرة الشكلية باستخدام Lean بشكل علني.

في ظل الانهيار الحاد في س وق الأسهم الأمريكية، ارتفعت أسهم الشركة الأم للعبة GTA 6 بشكل مخالف للاتجاه العام! مبيعات اليوم الأول بلغت 3.79 مليار دولار محققةً رقماً قياسياً، وتركز وول ستريت الآن على الجيل القادم من GTA Online
تشير بيانات Rentrak إلى أن إجمالي إيرادات فيلم "Grand Theft Auto VI" تجاوزت الإيرادات العالمية لفيلم "Avengers: Endgame"، الذي يعد أعلى الأفلام تحقيقًا للإيرادات في التاريخ حيث بلغت إيراداته العالمية نحو 2.94 مليار دولار.

