ميتا أحدث شركات الذكاء الاصطناعي التي يشهد نموذجها خروجًا عن السيطرة أثناء الاختبار

أصبحت Meta أحدث شركة كبرى في مجال الذكاء الاصطناعي تكشف أن أحد نماذجها اخترق أنظمة شركة أخرى أثناء الاختبار، وذلك بعد حوادث مماثلة شملت شركتي Anthropic وOpenAI.

النموذج المعني هو Muse Spark 1.1 من Meta، الذي تم إطلاقه في يوليو، وفقًا لتقارير The Information نقلاً عن مصادر مطلعة. المشكلة نشأت من خطأ في الإعدادات من قبل شركة Irregular، وهي شركة متخصصة في اختبار أمن الذكاء الاصطناعي والقرصنة الأخلاقية، حيث منحت النموذج وصولاً للإنترنت عن غير قصد أثناء التقييم.

وقالت Meta في بيان لوكالة Reuters: “النموذج استغل ثغرة أمنية في خدمة تابعة لجهة خارجية، بطريقة مماثلة للحوادث المبلغ عنها سابقًا مع شركات أخرى”.

هذه الحادثة هي أحدث حالة يتحول فيها وكيل ذكاء اصطناعي متقدم إلى خطر سيبراني بحد ذاته، كما أثارت تساؤلات حول مكان المسؤولية — هل تقع على الشركات التي تطور الوكلاء، أم على الشركات التي تصمم البيئات المعزولة المخصصة لاحتوائهم؟

حادثة Meta تتبع حدثًا مشابهًا في Anthropic

اختراق Meta يأتي بعد أسبوع واحد فقط من قول Anthropic إن نماذجها حصلت على وصول للإنترنت لاختراق شركة خارجية، بسبب خطأ في التكوين متعلق ببيئة اختبار Irregular.

في منشور مدونة بتاريخ 30 يوليو، قالت Anthropic إنها وجدت ثلاث حوادث (من بين 141,006 عملية تقييم) تمكن فيها نموذج Claude من الوصول إلى الإنترنت أثناء التقييم، قبل الحصول على وصول غير مصرح به إلى أنظمة ثلاث منظمات مختلفة.

جميع الحوادث الثلاث وقعت داخل بيئة تقييم Irregular أو أثناء التفاعل معها، وتضمنت خطأ في التكوين ترك الأجهزة التي وصل إليها Claude مع وصول مباشر للإنترنت.

تواصلت Cointelegraph مع Meta وIrregular للتعليق، لكن لم يتم الرد حتى وقت النشر.

في يوليو أيضًا، اخترقت وكلاء ذكاء اصطناعي طورته OpenAI بيئتها المعزولة في وضع عدم الاتصال لاختراق منصة Hugging Face بهدف الغش في اختبار معياري للأمن السيبراني.

انتقادات: الحوادث مجرد دعاية تسويقية؟

تشارلز غيلميه، الرئيس التقني لشركة Ledger، قال إن الحادثة الأخيرة هي “مسرح تسويقي”.

وقال يوم الأربعاء: “أن يكون لديك نموذج ‘يتمرد’ أصبح أحدث حيلة علاقات عامة في مجال الذكاء الاصطناعي”.

وأضاف: “إذا كان نموذجك لا يهرب من البيئات المعزولة، أو ‘يخترق’ الشركات، أو ينفذ استغلالاً يخطف العناوين الرئيسية، فمن الواضح أنك متخلف عن الركب… الصناعة لا تحتاج لحيل أكبر، بل تحتاج إلى مزيد من الثقة”.

الأسئلة الشائعة

س: ما هو اختراق Meta للذكاء الاصطناعي؟
ج: كشفت Meta أن نموذجها Muse Spark 1.1 استغل ثغرة أمنية في خدمة تابعة لجهة خارجية أثناء الاختبار، بسبب خطأ في إعدادات شركة Irregular التي منحت النموذج وصولاً للإنترنت عن غير قصد.

س: هل هذه الحوادث شائعة بين شركات الذكاء الاصطناعي؟
ج: نعم، هذه ليست الحالة الأولى. شهدنا حوادث مماثلة مع Anthropic وOpenAI، مما يشير إلى أن وكلاء الذكاء الاصطناعي المتقدمين أصبحوا خطرًا سيبرانيًا حقيقيًا يحتاج إلى إدارة دقيقة.

س: من المسؤول عن هذه الاختراقات؟
ج: السؤال ما زال مفتوحًا. البعض يرى أن المسؤولية تقع على شركات تطوير النماذج، بينما يعتقد آخرون أن شركات تصميم البيئات المعزولة (Sandboxes) تتحمل جزءًا من اللوم، وهناك من يعتبرها مجرد دعاية تسويقية من الصناعة نفسها.