‘لحظة خطر’: رئيس “أنثروبيك” يحذر من نافذة مخاطر سيبرانية مع كشف الذكاء الاصطناعي لثغرات برمجية

ناقش داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، وجيمي ديمون، الرئيس التنفيذي لبنك جيه بي مورجان تشيس، يوم الثلاثاء، التهديد المتزايد للأمن السيبراني الناتج عن الذكاء الاصطناعي، والذي يكتشف الثغرات الأمنية أسرع مما تستطيع المؤسسات إصلاحها.

خلال فعالية استمرت قرابة ساعتين، مرتبطة بجهود أنثروبيك للتوسع في الخدمات المالية، حيث كشفت النقاب عن وكلاء ذكاء اصطناعي لمهام مثل عروض العروض التقديمية، ومراجعة الأرباح، وأعمال الامتثال، قال أمودي إنه قد تكون هناك نافذة زمنية تتراوح بين 6 و12 شهراً لمعالجة عشرات الآلاف من الثغرات التي اكتشفها نموذج “ميثوس” الخاص بالشركة، قبل أن تصبح قدرات مماثلة متاحة على نطاق أوسع.

وقال أمودي: “الخطر هو مجرد زيادة هائلة في عدد الثغرات الأمنية، وفي عدد الاختراقات، وفي الضرر المالي الناتج عن هجمات الفدية على المدارس والمستشفيات، ناهيك عن البنوك”.

تأتي تصريحات أمودي الأخيرة بعد اختبارات سابقة مع شركة موزيلا، حيث تمكنت نسخة مبكرة من “ميثوس” من اكتشاف 271 ثغرة أمنية في متصفح فايرفوكس في محاولة واحدة، مما أظهر كيف يمكن للذكاء الاصطناعي مسح قواعد بيانات ضخمة للكود البرمجي بشكل أسرع بكثير من الباحثين البشر.

قالت أنثروبيك إن النموذج يمكنه اكتشاف آلاف نقاط الضعف غير المعروفة سابقاً عبر البرامج واسعة الانتشار. ويظل العديد منها غير معلن عنه لأنه لم يتم إصلاحه بعد، مما يترك ثغرات مكشوفة.

وأضاف أمودي: “إذا أعلنا عن شيء دون إصلاحه، فسيستغله الأشرار”.

في اختبارات خاضعة للسيطرة، أكمل “ميثوس” محاكاة هجمات شبكية متعددة الخطوات دون تدخل بشري، مما أظهر قدرته على الانتقال من تحديد نقاط الضعف إلى استغلالها.

قامت أنثروبيك بتقييد النموذج لمجموعة صغيرة من الشركاء ضمن مشروع “جلاس وينج”، بهدف إصلاح الثغرات قبل أن تصبح أدوات مماثلة متاحة على نطاق واسع.

أظهر باحثون أنه يمكن إعادة إنتاج عناصر من قدرات “ميثوس” باستخدام نماذج قائمة وتقنيات مفتوحة المصدر، مما يشير إلى أن أدوات مماثلة قد تنتشر بشكل أسرع من المتوقع.

قوبلت التحذيرات بالتشكيك من داخل الصناعة. في أبريل، قال سام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، إن المخاوف بشأن “ميثوس” قد تكون مبالغاً فيها، واقترح أن أنثروبيك تستخدم “تسويقاً قائماً على الخوف” لتأطير المخاطر وتبرير تقييد الوصول إلى التكنولوجيا.

وقال ألتمان: “يمكنك تبرير ذلك بطرق مختلفة كثيرة، وبعضها حقيقي، مثل وجود مخاوف مشروعة تتعلق بالسلامة”. “لكن إذا كان ما تريده هو ‘نحن بحاجة للسيطرة على الذكاء الاصطناعي، نحن فقط، لأننا الوكلاء الجديرون بالثقة’، أعتقد أن التسويق القائم على الخوف هو على الأرجح الطريقة الأكثر فعالية لتبرير ذلك”.

على الرغم من هذا الرفض، ورغم الخلاف العلني مع أنثروبيك، ذكرت وكالة أكسيوس أن الحكومة الأمريكية تستخدم نموذج “كلود ميثوس” لفحص الشبكات السرية بحثاً عن الثغرات الأمنية واختبار قدراته في الأمن السيبراني. وبينما لم يتطرق أمودي إلى المعركة القانونية المستمرة، قال إن أنثروبيك “جيدة لهذا البلد”.

وقال أمودي: “أعتقد أن وجهة نظر أنثروبيك هي نفسها كما كانت دائماً. فيما يتعلق بالتسييس، هذه هي النقطة التي ذكرتها حول التحلي بالكفاءة والمنهجية والعدالة تجاه الجميع”. “الغرض من القوانين وعدم القيام بالأشياء بطريقة مقتضبة هو أن جميع الشركات، من حيث المبدأ على الأقل – أعرف أنه أكثر تعقيداً من الناحية العملية – تُعامل بنفس الطريقة، ويجب أن نطمح إلى ذلك حتى لو لم يحدث بشكل مثالي أبداً”.

وصف أمودي اللحظة الحالية بأنها نافذة ضيقة للعمل، محذراً من أن سرعة استجابة المؤسسات قد تحدد ما إذا كانت المخاطر ستتصاعد أم سيتم السيطرة عليها.

واختتم أمودي قائلاً: “هذه لحظة خطر، إذا استجبنا لها بشكل صحيح، وأعتقد أننا بدأنا في اتخاذ الخطوات الأولى، فيمكننا أن نحصل على عالم أفضل في الجانب الآخر”. “هناك عدد محدود من الثغرات التي يجب العثور عليها”.

الأسئلة الشائعة

• س: ما هو الخطر الرئيسي الذي يحذر منه نموذج “ميثوس” في مجال الأمن السيبراني؟
  ج: الخطر الرئيسي هو أن الذكاء الاصطناعي مثل “ميثوس” يمكنه اكتشاف آلاف الثغرات الأمنية في البرامج بسرعة هائلة، أسرع بكثير من قدرة المؤسسات على إصلاحها، مما يزيد بشكل كبير من احتمالية حدوث اختراقات وهجمات إلكترونية ضخمة على البنوك والمستشفيات والمدارس.
• س: كيف تتعامل شركة أنثروبيك مع هذه الثغرات الأمنية التي يكتشفها نموذجها؟
  ج: تتعامل أنثروبيك مع الأمر بحذر شديد من خلال مشروع “جلاس وينج”، حيث لا تعلن عن الثغرات إلا بعد إصلاحها لمنع استغلالها من قبل القراصنة، وتعمل حالياً مع مجموعة محدودة من الشركاء لإصلاح أكبر عدد ممكن من الثغرات قبل أن تصبح أدوات مشابهة متاحة للجميع.
• س: هل هناك خلاف حول خطورة نموذج “ميثوس” داخل صناعة الذكاء الاصطناعي؟
  ج: نعم، هناك خلاف حيث يرى البعض مثل سام ألتمان من أوبن إيه آي أن التحذيرات مبالغ فيها وتستخدم كتكتيك تسويقي لتبرير السيطرة الحصرية على التكنولوجيا، بينما تؤكد أنثروبيك أن المخاوف حقيقية وأن التصرف السريع قد يمنع وقوع كارثة أمنية.