يجب أن يكون الأمان في أنظمة الذكاء الاصطناعي مدمجاً في النظام بأكمله، وليس فقط حول النموذج نفسه، وذلك لمنع الاختراقات والهجمات من المخترقين بشكل أفضل، وفقاً لورقة بحثية جديدة.
الورقة المنشورة في 20 مايو من باحثين من جوجل، جراي سوان إيه آي، إمبريس ذا ريد، وعدة جامعات، ترى أن أمان العوامل الذكية يجب التعامل معه كمشكلة نظام، وأن هذه العوامل يجب معاملتها كمكون غير موثوق.
“من هذا المنظور، الجهود لزيادة متانة النموذج – وهي النظرة السائدة في المجتمع – غير كافية وحدها. بدلاً من ذلك، يجب علينا استكمال الجهود الحالية بتقنيات من مجال أمان الأنظمة”، قال الباحثون.
العوامل الذكية أصبحت شائعة جداً بين مستخدمي العملات الرقمية. بعض المسؤولين في قطاع الكريبتو توقعوا أن هذه العوامل ستنمو بشكل كبير في السنوات القادمة. الرئيس التنفيذي لشركة سيركل، جيريمي ألاير، توقع في يناير أن مليارات العوامل الذكية ستعمل نيابة عن المستخدمين خلال خمس سنوات.
حماية أساسية تمنع معظم الهجمات
قال الباحثون إنهم بعد دراسة مجموعة من حالات الهجوم، وجدوا أن “ثلاث آليات” يمكنها “القضاء على جزء كبير من الهجمات”.
ويرون أن العوامل الذكية يجب أن تميز بوضوح بين التعليمات والبيانات غير الموثوقة، حتى لا يخدعها المخترقون بإخفاء تعليمات ضارة داخل البيانات. كما يجب أن يكون للعامل الذكي الحد الأدنى من الصلاحيات اللازمة لأداء المهمة فقط، وليس صلاحيات كاملة.
وقال الباحثون إن إعدادات الأمان القياسية تشمل أنظمة موثوقة وأخرى غير موثوقة، وأن الذكاء الاصطناعي يجب معاملته كنظام غير موثوق. في نفس الوقت، يجب على النظام الأوسع التحكم في أين تذهب المعلومات الحساسة، وليس العامل الذكي، لضمان عدم التلاعب به لإرسال بيانات حساسة إلى أماكن غير آمنة.
في حادثة حديثة، قالت منصة التداول المساعدة بالذكاء الاصطناعي Bankr إنها أوقفت المعاملات في 20 مايو بعد اكتشاف مخترق تمكن من الوصول إلى 14 محفظة على الأقل. خبراء الأمن رجحوا أن البوت ربما تعرض للاختراق من قبل هاكر.
- العوامل الذكية تستخدم لبناء تطبيقات الوب 3 وإطلاق الرموز والتفاعل مع الخدمات والبروتوكولات بشكل مستقل.
- بعض المنصات تستكشف استخدام الذكاء الاصطناعي في التداول.
- خبير أمني قال إن إعطاء العامل الذكي صلاحية الوصول للمحفظة يضيف طبقة من الثقة لشيء مصمم ليكون بدون ثقة، لكنه قد يكون آمناً إذا بني النظام بشكل صحيح.
خبير آخر قال إن المستخدمين بحاجة لإثبات أن الذكاء الاصطناعي يستطيع اكتشاف عمليات التداول المسبق، وتطبيق حدود الانزلاق السعري، واكتشاف الرموز الاحتيالية، وتدقيق العقود في الوقت الفعلي قبل تنفيذ الصفقة. كما يجب أن يعزل الأوامر ويمنع الحقن الضار ويمنع وصول الوسطاء.
في نفس السياق، قال شون رين، المؤسس المشارك لمنصة البلوكشين المخصصة للذكاء الاصطناعي “ساهارا إيه آي”، إن بروتوكولات سياق النموذج هي المعيار الذهبي للسلامة عند إعدادها بشكل صحيح، لكن المستخدمين يجب أن ينتبهوا لكل إجراء يقوم به العامل الذكي.
“هي تعمل كحارس بين النموذج الذكي ومحفظتك. العامل يمكنه فقط تنفيذ إجراءات محددة وموافق عليها – مثل التحقق من الرصيد أو تجهيز دفعة لتأكيدها – وليس تحويل الأموال بحرية أو تغيير إعدادات المحفظة”، قال.
أسئلة شائعة
س: لماذا يجب معاملة العوامل الذكية كأنظمة غير موثوقة؟
ج: لأن معاملتها كمكون غير موثوق يسمح للنظام الأوسع بالتحكم في صلاحياتها والبيانات التي تصل إليها، مما يمنع المخترقين من استغلالها لسرقة الأموال أو المعلومات الحساسة.
س: ما هي الآليات الثلاث التي تمنع معظم الهجمات على العوامل الذكية؟
ج: أولاً، التمييز بين التعليمات والبيانات غير الموثوقة. ثانياً، منح العامل الحد الأدنى من الصلاحيات اللازمة للمهمة فقط. ثالثاً، جعل النظام الأوسع هو المسؤول عن حماية المعلومات الحساسة وليس العامل الذكي.
س: هل يمكن استخدام العوامل الذكية في الكريبتو بشكل آمن؟
ج: نعم، إذا تم بناء النظام بشكل صحيح مع تطبيق بروتوكولات الأمان المناسبة وعزل الإجراءات والتحكم في الصلاحيات، يمكن أن تكون آمنة، لكن المستخدمين يجب أن يراقبوا كل الإجراءات التي تقوم بها هذه العوامل.
