أنثروبيك تتهم ديپ سيك ومنافسين صينيين آخرين بشن هجمات صناعية النطاق على كلود

أعلنت شركة أنثروبيك عن اكتشافها حملات واسعة النطاق نفذتها شركات الذكاء الاصطناعي ديب سيك وموون شوت وميني ماكس لاستخراج قدرات نماذج كلود الخاصة بها بطريقة غير مشروعة.

كيف تمت العمليات؟

أوضحت الشركة أن المختبرات الثلاثة أنشأت أكثر من 16 مليون محادثة مع كلود باستخدام ما يقرب من 24 ألف حساب احتيالي، مخالفة بذلك شروط الخدمة وقواعد الوصول الإقليمي. وتم رصد هذه الحملات من خلال تحليل عناوين الأي بي والبيانات الوصفية ومؤشرات البنية التحتية، بالإضافة إلى معلومات من شركاء في القطاع.

ما هو “التقطير” غير المشروع؟

وفقًا لأنثروبيك، استخدمت هذه المختبرات تقنية تسمى “التقطير”، وهي طريقة لتدريب نموذج أصغر على إجابات نموذج أكبر وأكثر تطوراً. بينما تستخدم شركات الذكاء الاصطناعي هذه الطريقة داخلياً لصنع نسخ أبسط من نماذجها، إلا أن أنثروبيك أكدت أنها استخدمت هنا لتقليد قدرات كلود في المنطق والبرمجة واستخدام الأدوات على نطاق ضخم.

• ديب سيك: أجرت أكثر من 150 ألف محادثة تركزت على المهام المنطقية والحصول على شروحات مفصلة خطوة بخطوة لإنشاء بيانات تدريب.
• موون شوت: نفذت أكثر من 3.4 مليون محادثة تستهدف المنطق الذاتي والبرمجة واستخدام الكمبيوتر.
• ميني ماكس: كانت المسؤولة عن أكثر من 13 مليون محادثة، حيث رصدت أنثروبيك النشاط أثناء حدوثه ولاحظت تحولات في حركة البيانات بعد إصدار نماذج جديدة.

المخاطر والتحذيرات

حذرت أنثروبيك من أن النماذج المبنية عبر التقطير غير المشروع قد تفتقر إلى ضوابط الأمان المصممة لمنع سوء الاستخدام في مجالات مثل العمليات الإلكترونية أو التهديدات البيولوجية. كما جادلت بأن هذا النشاط قد يقوض ضوابط التصدير الأمريكية من خلال تمكين مختبرات أجنبية من نسخ قدرات مقصورة على مناطق معينة.

الإجراءات المضادة

لمواجهة هذه الحملات، ذكرت أنثروبيك أنها نشرت أنظمة جديدة للكشف عن السلوك، وقوّت عملية التحقق من الحسابات، وشاركت المعلومات مع نظرائها في الصناعة والسلطات المختصة. كما تعمل على تطوير حواجز أمان على مستوى المنتج وواجهة البرمجة لتقليل فعالية التقطير دون التأثير على خدمة المستخدمين الشرعيين.

وأكدت الشركة أن معالجة مشكلة التقطير واسع النطاق تتطلب عملاً منسقاً بين مختبرات الذكاء الاصطناعي ومقدمي الخدمات السحابية وصناع السياسات.

الأسئلة الشائعة

ما الذي اكتشفته أنثروبيك؟
اكتشفت حملات منظمة من ثلاث شركات ذكاء اصطناعي استخدمت حسابات وهمية لإجراء ملايين المحادثات مع نموذج كلود لاستخراج قدراته بطريقة غير مشروعة.

ما هي تقنية “التقطير” المستخدمة؟
هي طريقة لتدريب نموذج ذكاء اصطناعي صغير باستخدام إجابات نموذج أكبر وأكثر تطوراً، وقد استخدمت هنا لتقليد قدرات كلود في المنطق والبرمجة.

ما هي مخاطر هذه الممارسة؟
النماذج الناتجة قد تفتقر لضوابط الأمان، مما يسمح باستخدامها في أنشطة خطيرة، كما قد تتجاوز القيود المفروضة على تصدير تقنيات الذكاء الاصطناعي المتقدمة.