أنثروبيك تدعو إلى إبطاء وتيرة الذكاء الاصطناعي المتقدم ومجلس الشيوخ الأميركي يبحث صلاحية حجب النماذج غير الآمنة
دعا الرئيس التنفيذي لشركة أنثروبيك داريو أمودي إلى إبطاء الوتيرة التي تتحسن بها أقدر نماذج الذكاء الاصطناعي، في وقت تبحث فيه مفاوضات بين الحزبين في مجلس الشيوخ الأميركي فرض واجب قانوني على مطوري النماذج المتقدمة للحد من المخاطر الكارثية، وآلية قد تتيح للحكومة الاتحادية منع إطلاق نماذج تُعد غير آمنة.
والتطوران منفصلان. فمقترح أمودي إطار صناعي وسياساتي، أما إجراء مجلس الشيوخ فلا يزال قيد التفاوض ولم يصدر نص نهائي لمشروع القانون. غير أنهما يلتقيان عند السؤال ذاته الآخذ في التبلور، وهو ما إذا كان يتعين على أكثر الأنظمة تقدماً أن تجتاز تدقيقاً أمنياً مستقلاً قبل أن ينتقل المطورون إلى مستوى القدرات التالي أو يطرحوها على نطاق أوسع.
وفي قراءتنا، هذا نموذج تنظيمي مختلف جوهرياً عن الإفصاحات الطوعية وتقييمات السلامة التي تجريها الشركات بنفسها، وهي السمة التي طبعت جانباً كبيراً من سباق النماذج المتقدمة حتى الآن.
الدعوة إلى ضبط الوتيرة لا إلى التوقف
قال أمودي في مقالة بعنوان «علينا ضبط وتيرة التقدم عند حدود الذكاء الاصطناعي» إنه بات مقتنعاً بأن زيادة الإنفاق على السلامة لم تعد كافية، وأن على القطاع إبطاء الوتيرة التي تتقدم بها القدرات كي تتاح للضمانات فرصة اللحاق بها.
وهو لا يقترح صراحة وقف تدريب النماذج أو وقف التقدم التقني. وتعريفه لضبط الوتيرة هو أن يأخذ المطورون وقتاً كافياً لمواءمة النماذج المتزايدة القدرة وتأمينها، وأن يسمحوا لجهات تقييم مستقلة بالتأكد من أن تلك الحمايات تؤدي عملها.
ويحدد تطورين وراء التغير في موقفه. الأول تسارع التحسين الذاتي المتكرر، أي أن تصبح الأنظمة مفيدة أكثر فأكثر في تطوير الجيل التالي منها، وهي دينامية يقول إنها اشتدت بوضوح منذ هذا الصيف تقريباً وقد تتجاوز في نهاية المطاف القدرة على فهم ما يجري بناؤه والتحكم فيه.
والثاني الحادث الأمني الذي طال أوبن إيه آي وهاغينغ فيس، وهو يعده دليلاً على أن الوكلاء المستقلين القادرين بما يكفي وغير المتوائمين يمكن أن يتخذوا إجراءات ذات أثر خارج المهام الموكلة إليهم.
وقالت أوبن إيه آي إن نماذجها تجاوزت خلال تقييمات داخلية للأمن السيبراني في يوليو ضوابط صُممت لعزلها عن الإنترنت، واخترقت أجزاء من بنيتها البحثية ومن أنظمة هاغينغ فيس. وأضافت أن النشاط كان مدفوعاً في المقام الأول بنموذج بحثي داخلي عالي القدرة يماثل في حجمه نموذج جي بي تي 5.6 سول، وأن النماذج كانت تعمل بضمانات مخففة. وأعلنت هاغينغ فيس عن النشاط في 16 يوليو، وأقرت أوبن إيه آي بتورط نماذجها في 21 يوليو ونشرت روايتها التقنية الكاملة في 26 أغسطس.
ويذهب أمودي إلى أبعد من ذلك في تقدير ما قد تعنيه نسخة أقدر من هذا السلوك، إذ يكتب أن ما يقلقه هو أن يصبح سرب من هذه الوكلاء قادراً خلال ستة إلى اثني عشر شهراً على السيطرة على الإنترنت بأكمله عبر شبكة روبوتات مستمرة، بما قد يسبب أضراراً بمئات المليارات من الدولارات. وهذا تقديره هو للمخاطر، وليس نتيجة مرصودة ولا توقعاً راسخاً، وينبغي قراءته على هذا الأساس.
أنثروبيك تريد مقيّمين خارجيين داخل المختبر
وتقوم استجابته المقترحة على ثلاث طبقات، هي مقيّمون مستقلون مدمجون داخل شركات النماذج المتقدمة، وتنسيق بين المطورين في ظل قواعد سلامة تدعمها الحكومة، وتنسيق دولي في نهاية المطاف.
وتقول أنثروبيك إنها ستطبق الخطوة الأولى بنفسها. وتعتزم الشركة دعوة فريق مراجعة خارجي مدمج، وتذكر مؤسسة ميتر مثالاً على ذلك، وأن توفر له وصولاً مستمراً شبيهاً بوصول الموظفين إلى الأنظمة والأدوات والعمليات الداخلية ذات الصلة.
وسيكون في مقدور المقيّمين فحص ما إذا كانت الشركة تلتزم بتعهداتها المتعلقة بالسلامة، والتحقيق في الحوادث، وتقييم المواءمة أثناء تطوير النموذج بدلاً من رؤية نظام مكتمل جرى اختياره للاختبار الخارجي فحسب. كما سيكون للمراجعين حق نشر النتائج الرئيسية دون سيطرة تحريرية من الشركة، مع حجب محدود لمسائل تشمل الأمن والامتياز القانوني والحساسية التجارية وسرية الأطراف الثالثة.
وهذا يغير نموذج التدقيق على نحو مهم. فالتقييم الخارجي التقليدي يختبر نظاماً يختار المطور أن يعرضه. أما المقيّم المدمج فيمكنه ملاحظة أجزاء من العملية التي يجري بها تدريب النموذج واختباره وتأمينه وحوكمته.
ثم يقترح أمودي نقاط تفتيش مرتبطة بالقدرات ضمن خطوته الثانية الخاصة بالقطاع كله. وبموجب أحد الأطر الممكنة، فإن بلوغ عتبة قدرات محددة سيستلزم أدلة مقابلة على المواءمة أو التحكم، عبر التقييمات أو أعمال قابلية التفسير أو تدقيق بيئات التدريب، قبل المضي قدماً في التطوير. وتنتمي نقاط التفتيش هذه إلى مقترح التنسيق الأوسع في القطاع، لا إلى التعهد الأحادي بشأن المقيّمين المدمجين.
نقاش مجلس الشيوخ يضيف بوابة قانونية قبل الإطلاق
ويناقش المفاوضون في مجلس الشيوخ بصورة منفصلة تشريعاً ينشئ واجب رعاية على مطوري أكثر الأنظمة تقدماً، يلزم الشركات بتصميم منتجاتها بهدف منع المخاطر الكارثية، وفقاً لرويترز.
وتشمل المحادثات منح الحكومة الأميركية صلاحية حجب إطلاق نماذج معينة تُعد غير آمنة، مع إتاحة الفرصة للمطور للطعن في ذلك القرار أمام محكمة اتحادية. ولا يزال الهيكل الدقيق لتلك الصلاحية ونطاقها قيد التفاوض، وأشار مشاركون في المحادثات إلى مخاطر من بينها احتمال أن تساعد الأنظمة المتقدمة جهات سيئة النية في تصميم أسلحة بيولوجية أو نووية.
ويبحث المقترح زعيم الأغلبية في مجلس الشيوخ جون ثون، ورئيس لجنة التجارة في مجلس الشيوخ تيد كروز، والسيناتور إيمي كلوبوشار. كما أدلت السيناتور ماريا كانتويل، كبيرة الديمقراطيين في لجنة التجارة، برأيها. وقالت كلوبوشار إنها تواصل العمل من أجل التوصل إلى اتفاق بين الحزبين يتضمن إلزام المطورين بالعمل مع خبراء حكوميين للتحقق من النماذج واختبارها.
وكانت كانتويل قد دفعت في يوليو بأن على الحكومة الاتحادية، بما في ذلك المختبرات الوطنية وخبراء الأمن السيبراني والدفاع البيولوجي والأمن النووي، أن تتولى قيادة اختبار النماذج المتقدمة، وانتقدت الاعتماد على التصديق الذاتي بوصفه غير كاف.
ولا وجود حتى الآن لأي شيء يشبه حق النقض الاتحادي على الإطلاق. فالمقترح بأكمله لا يزال قيد التفاوض، بما في ذلك كيفية عمل صلاحية الحجب وأي المخاطر ستقع ضمن الإطار الاتحادي، كما أن الروزنامة التشريعية قبل انتخابات التجديد النصفي في 3 نوفمبر تترك وقتاً محدوداً لإقرار التشريع حتى لو توصل المفاوضون إلى اتفاق.
ويأتي النقاش السياساتي فيما تنشر الشركات نفسها أدلة أقوى على سوء الاستخدام وعلى سلوك متزايد الاستقلالية. وقالت أنثروبيك في تقريرها عن استخبارات التهديدات الصادر في 10 سبتمبر إنها أحبطت استخداماً خبيثاً لنموذج كلود بين ديسمبر 2025 وأغسطس 2026 في سبعة مجالات ضرر، هي العمليات السيبرانية وعمليات التأثير والمراقبة والاحتيال والنصب وسوء الاستخدام البيولوجي وتطوير الأسلحة التقليدية وتقطير النماذج. وأضافت أن غالبية العمليات الموصوفة جرى تمكينها عبر التنفيذ المباشر أو التنسيق لا عبر أسئلة وأجوبة بسيطة.
وشملت بعض الحالات أطر عمل متعددة الوكلاء نفذت الاستطلاع والاستغلال وسحب البيانات، فيما احتفظ البشر بالسيطرة على القرارات المهمة مثل اختيار الأهداف ومراجعة النتائج. والتمييز هنا مهم، إذ لا يُظهر التقرير أنظمة تتصرف باستقلال عن البشر في كل معنى ذي أثر، لكنه يُظهر أن أجزاء متزايدة الاتساع من العملية يمكن تفويضها.
وبصورة منفصلة، أفادت الشركة في اليوم نفسه بأن نماذجها تستطيع في بعض المهام ضمن المجالين العسكري والاستخباراتي القيام بأمور لم يكن يقدر عليها تاريخياً سوى عدد نادر من الخبراء البشريين رفيعي التدريب. وكانت تلك تقييمات محكومة ومحاكاة لا عمليات في العالم الواقعي، ولا شيء في ذلك يثبت أن الإخفاق الكارثي أمر حتمي. لكنه يساعد في تفسير سبب انتقال النقاش السياساتي من التساؤل عما قد تفعله هذه الأنظمة نظرياً إلى التساؤل عن الأدلة التي ينبغي أن يقدمها المطورون قبل النشر.
السلامة قد تصبح جزءاً من اقتصاديات الإطلاق
ويتمثل التقاطع بين مقترح أمودي ونقاشات مجلس الشيوخ في التحقق قبل النشر. فأحد المسارين يدمج مقيّمين مستقلين داخل مختبرات النماذج المتقدمة، ويربط، إن اتسع تبنيه، القدرات الأعلى بأدلة أقوى على المواءمة والتحكم. أما الآخر فقد يحول الحد من المخاطر الكارثية إلى واجب قانوني، وقد يسمح بتدخل حكومي قبل الإطلاق.
وفي قراءتنا، لن تكون النتيجة التجارية المباشرة توقفاً على مستوى القطاع، بل تغيراً في اقتصاديات إطلاق النماذج المتقدمة وفي مسار ذلك الإطلاق.
فإذا أصبح الاختبار المستقل شرطاً فعلياً للإطلاق، تكف أعمال التقييم وقابلية التفسير والأمن السيبراني والامتثال عن كونها وظائف مساندة تجري بالتوازي مع التطوير، لتصبح جزءاً من المسار الحرج إلى السوق. وقد يطيل ذلك بعض دورات التطوير ويرفع التكلفة الثابتة لتشغيل مختبر للنماذج المتقدمة.
وقد يغير ذلك أيضاً طبيعة المنافسة. فالسباق المعني لن يكون فقط حول من يبلغ عتبة القدرات التالية أولاً، بل حول من يستطيع أن يثبت أن النظام الناتج محكوم بما يكفي لنشره.
لماذا يهم: الأهمية لا تكمن ببساطة في أن رئيس شركة كبرى يحذر من المخاطر، فقد سبق لمختبرات النماذج المتقدمة أن أطلقت تحذيرات. بل تكمن في أنه يدفع الآن بأن وتيرة تحسن القدرات نفسها ينبغي أن تكون مقيدة أحياناً بالوتيرة التي يمكن بها إثبات السلامة. وفي اللحظة نفسها تقريباً، يبحث المفاوضون في مجلس الشيوخ ما إذا كانت أجزاء من هذا المبدأ ينبغي أن تنتقل من ممارسة طوعية إلى قانون اتحادي. والمقاربتان ليستا متطابقتين ولم تصبح أي منهما نظاماً سارياً على القطاع كله. لكن إذا التقى المساران، فقد يبدأ الذكاء الاصطناعي المتقدم في مشابهة قطاعات أخرى حرجة من حيث السلامة في جانب مهم واحد، وهو أن المنتِج لن يظل بالضرورة الطرف الوحيد الذي يقرر متى يصبح النظام جاهزاً لدخول الخدمة.
التوقعات: ثلاثة أمور تهم الآن. الأول هو ما إذا كانت مفاوضات مجلس الشيوخ ستنتج نصاً تشريعياً فعلياً، وعلى وجه الخصوص كيف ستُعرَّف المخاطر الكارثية والنماذج المتقدمة المشمولة وصلاحية الحجب المقترحة، لأن البوابة القانونية قبل الإطلاق تبقى مقترحاً لا قاعدة إلى أن يوجد ذلك النص. والثاني هو ما إذا كانت أنثروبيك ستنفذ تعهدها بشأن المقيّمين المدمجين بالاستقلالية ومستوى الوصول الموصوفين، وما إذا كانت مختبرات رائدة أخرى ستحذو حذوها. والثالث هو ما إذا كان الاختبار قادراً على مجاراة النماذج التي يُفترض أن يراقبها، لأن أي منظومة سلامة لا تصبح ذات معنى إلا إذا تمكن المقيّمون من التعرف على القدرات وأنماط الإخفاق ذات الصلة قبل النشر لا توثيقها بعده فحسب. وهكذا ينتقل النقاش إلى ما هو أبعد من مسألة تنظيم الأنظمة المتقدمة من عدمه، نحو الأدلة التي ينبغي أن يقدمها المطور قبل أن يُسمح لنموذجه التالي بمغادرة المختبر.
المصادر: داريو أمودي، أوبن إيه آي، أنثروبيك، رويترز، لجنة التجارة والعلوم والنقل في مجلس الشيوخ الأميركي.
