نموذج أنثروبيك الجديد يرفض اكتشاف ثغرات العقود الذكية

تم إطلاق النسخة العامة الجديدة من نموذج الذكاء الاصطناعي “Claude Fable 5” من شركة Anthropic، لكنها لن تسمح لك بمراجعة العقود الذكية للعملات الرقمية، أو القيام بالكثير من مهام الأمن السيبراني الأخرى.

النموذج الجديد (وهو نسخة محدودة من النموذج السابق “Mythos”) تم إطلاقه أمس، وواجه ردود فعل متباينة من المراقبين الذين كانوا خائفين ومتحمسين لرؤية قدراته.

الجزء الأكبر من الانتقادات المبكرة تركز على القيود الأمنية (الدرع الواقي) للنموذج.

بسبب القدرات الكبيرة التي يتم الترويج لها لـ “Fable 5″، قامت شركة Anthropic بإطلاقه مع مجموعة من القيود تسمى “المصنفات” (classifiers) التي تقوم بتحويل أي مواضيع تتعلق بـ “الأمن السيبراني، وعلم الأحياء، والكيمياء، أو التقطير” إلى نموذج Claude Opus 4.8.

ونتيجة لذلك، فإن المستخدمين الذين حاولوا استخدام Fable 5 لمراجعة عقد ذكي (أي فحص الكود الأساسي للبنية التحتية للعملات الرقمية بحثاً عن أي ثغرات أمنية) وجدوا أنفسهم يتم تحويلهم إلى نموذج Opus.

قيود Mythos تتجاوز العقود الذكية

كما ظهرت قيود تتعلق بما يسمى “التقطير” (distillation). هذه القيود تمنع أي شيء يتعلق بتدريب نماذج ذكاء اصطناعي منافسة، أو محاولة استخلاص قدرات Claude.

وتحذر الشركة من أن هذا يمكن أن يحدث من قبل دول استبدادية، وأنه “قد يؤدي بشكل غير مباشر إلى انتشار قدرات الذكاء الاصطناعي المتقدمة، والتي قد يتم إطلاقها بدون الضمانات المناسبة”.

في الواقع، أشار خبير الأحياء السابق في شركة Palantir، نبيل قريشي، إلى أن Anthropic “تقوم بتقييد أي طلبات تستهدف تطوير نماذج الذكاء الاصطناعي المتقدمة بشكل غير مرئي”.

كما أن القيود المتعلقة بعلم الأحياء أثارت انتقادات أيضاً. قالت عالمة الأحياء أوليفيا شارفمان إنها لم تستطع حتى إلقاء التحية على Fable 5 قبل أن يقوم النموذج بتحويلها إلى Claude Opus 4.8.

وفي حالة أخرى، لاحظ المدون المثير للجدل جوردان لاسكر أنه أيضاً لم يستطع إلقاء التحية على Fable 5، وأن النموذج منع الأسئلة حول الميتوكوندريا (أحد مكونات الخلية).

هذه القيود الخاصة موجودة لأن Anthropic تشعر بالقلق من احتمال إساءة الاستخدام، خاصة فيما يتعلق بصناعة الأسلحة البيولوجية والفيروسات.

وقالت الشركة: “كانت أولويتنا هي إطلاق Fable بأمان بأسرع وقت ممكن، حتى لو كان ذلك على حساب فرض قيود واسعة جداً. لذلك، وفي الوقت الحالي، قمنا بترتيب أن يعود Fable إلى Opus 4.8 في معظم الطلبات المتعلقة بعلم الأحياء والكيمياء.”

الإطلاق الكامل لـ Mythos محدود

أطلقت Anthropic نموذج Mythos في أبريل الماضي. وقد تم وصفه بأنه أداة خطيرة للمخترقين، وفي نفس الوقت ترقية ثورية للأمن السيبراني.

وبسبب ذلك، كان الإطلاق الأولي لـ Mythos مقتصراً على 50 إلى 60 شركة كبيرة ضمن مشروع “Glasswing”.

هذه الشركات ستظل لديها إمكانية الوصول إلى Mythos 5، بينما المستفيدون الآخرون الأوائل يشملون “باحثين محددين في علم الأحياء” يمكنهم الوصول إلى Mythos 5 مع رفع قيود علم الأحياء والكيمياء فقط “حتى يتوفر برنامج الوصول الموثوق به الأوسع نطاقاً”.

الأسئلة الشائعة (FAQ)

• س: هل يمكنني استخدام Claude Fable 5 لمراجعة العقود الذكية للعملات الرقمية؟
  ج: لا، لن يسمح لك النموذج بذلك. أي طلبات تتعلق بالأمن السيبراني أو مراجعة العقود الذكية يتم تحويلها تلقائياً إلى نموذج آخر هو Claude Opus 4.8.
• س: لماذا تفرض Anthropic كل هذه القيود على نموذج Fable 5؟
  ج: لأن الشركة قلقة من إساءة استخدام قدرات النموذج القوية، خاصة في مجالات خطيرة مثل صناعة الأسلحة البيولوجية والفيروسات، أو تقليد قدرات النموذج من قبل جهات غير موثوقة.
• س: من يستطيع استخدام النسخة الكاملة والقوية (Mythos) من النموذج؟
  ج: حالياً، النسخة الكاملة متاحة فقط لحوالي 50-60 شركة كبيرة ضمن مشروع خاص، بالإضافة إلى عدد محدود من الباحثين في علم الأحياء، مع رفع بعض القيود عنهم فقط.