شبكة مولتبوك الاجتماعية المعتمدة على الذكاء الاصطناعي تكشف عن ثغرات أمنية خطيرة

أثارت منصة تواصل اجتماعي حيث تتحدث الروبوتات مع بعضها بدلاً من البشر الكثير من الاهتمام الأسبوع الماضي، لكن خبراء الأمن يقولون أن القصة الحقيقية هي ما اكتشفوه تحت السطح.

منصة مولتبوك: عرض جانبي غريب ومخاطر حقيقية

تصدرت منصة “مولتبوك” الأخبار كمكان تنشر فيه روبوتات الذكاء الاصطناعي المحتوى بينما يشاهد البشر فقط. وسرعان ما أصبحت المنشورات غريبة، حيث بدت وكأن وكلاء الذكاء الاصطناعي يؤسسون أديانهم الخاصة، ويكتبون رسائل غاضبة عن البشر، ويتحالفون مثل جماعات عبر الإنترنت. لكن خبراء أمن الكمبيوتر يقولون أن كل هذا السلوك الغريب مجرد عرض جانبي.

ما اكتشفوه كان أكثر إثارة للقلق: قواعد بيانات مفتوحة مليئة بكلمات المرور والعناوين البريدية، وبرامج ضارة تنتشر، ونظرة مسبقة عن كيف يمكن لشبكات وكلاء الذكاء الاصطناعي أن تسير في الاتجاه الخاطئ.

الثغرات الأمنية: قاعدة بيانات مفتوحة وهجمات خطيرة

وجد الباحثون في شركة “ويز” للأمن السيبراني ثغرة أمنية ضخمة في مولتبوك. كانت قاعدة البيانات الرئيسية مفتوحة بالكامل. أي شخص يعثر على مفتاح واحد في كود الموقع يمكنه قراءة وتغيير كل شيء تقريباً. هذا المفتاح أعطى إمكانية الوصول إلى حوالي 1.5 مليون كلمة مرور للروبوتات، وعشرات الآلاف من عناوين البريد الإلكتروني، والرسائل الخاصة. كان بمقدور المهاجم انتحال شخصية روبوتات الذكاء الاصطناعي الشهيرة، أو سرقة بيانات المستخدمين، أو إعادة كتابة المنشورات دون حتى تسجيل الدخول.

خطر “حقن الأوامر” على الذكاء الاصطناعي والمحافظ الرقمية

أكبر خطر يواجه وكلاء الذكاء الاصطناعي هو هجوم يسمى “حقن الأوامر”، حيث يتم إخفاء تعليمات خبيثة داخل المحتوى المقدم للروبوت. يمكن لأمر خبيث واحد أن يأمر الوكيل بسرقة المعلومات الحساسة، أو إفراغ محافظ العملات الرقمية (الكريبتو)، أو نشر برامج ضارة دون علم المستخدم.

وجد باحثو الأمن أن برنامج “أوبنكلو”، الذي يشغل العديد من الروبوتات على مولتبوك، به مشاكل مع البرامج الضارة. حيث تم رفع 14 أداة مزيفة إلى موقعه في أيام قليلة. كانت هذه الأدوات تدعي المساعدة في تداول العملات الرقمية، ولكنها في الواقع أصابت أجهزة الكمبيوتر بالبرامج الضارة.

مستقبل مجهول: ماذا يحدث عندما يصبح الذكاء الاصطناعي مستقلاً؟

حالياً، تمتلك شركات مثل “أنثروبيك” و”أوبن إيه آي” زر إيقاف طارئ يمكنه إيقاف وكلاء الذكاء الاصطناعي الضارين، لأن “أوبنكلو” يعمل في الغالب على خدماتها. لكن نماذج الذكاء الاصطناعي المحلية تتحسن بسرعة. خلال عام أو عامين، قد يصبح تشغيل وكيل ذكي على أجهزة الكمبيوتر الشخصية ممكناً. عند هذه النقطة، لن يكون هناك مزود خدمة لإغلاق الأشياء الخطيرة.

يرى الخبراء أن مولتبوك هي جرس إنذار مبكر لعالم أوسع من وكلاء الذكاء الاصطناعي المستقلين، ويؤكدون على الحاجة إلى التركيف على تقليل هذه المخاطر في أسرع وقت ممكن.

الأسئلة الشائعة

ما هي منصة مولتبوك؟

منصة تواصل اجتماعي تجريبية حيث تنشر روبوتات الذكاء الاصطناعي المحتوى وتتواصل مع بعضها تلقائياً، بينما يشاهد البشر فقط.

ما هي المخاطر الرئيسية التي كشفتها مولتبوك؟

• قواعد بيانات مفتوحة تحتوي على كلمات مرور وعناوين بريدية.
• انتشار البرامج الضارة وسرقة محافظ العملات الرقمية.
• هجمات “حقن الأوامر” التي يمكنها التحكم بروبوتات الذكاء الاصطناعي.

هل كانت جميع الحسابات على مولتبوك لذكاء اصطناعي حقيقي؟

لا. على الرغم من الادعاء بوجود 1.5 مليون وكيل مستقل، كشف تحقيق أن هناك فقط حوالي 17,000 شخص حقيقي وراء تلك الحسابات، وكان من المستحيل التمييز بين الذكاء الاصطناعي الحقيقي والنصوص البرمجية البسيطة.