تتذكرون أيام تحسين محركات البحث (SEO) القديمة، عندما كان المخترقون يخفون كلمات مكررة باللون الأبيض داخل صفحات الويب، بحيث لا يراها الزوار لكن محركات البحث تقرأها لخداع ترتيب النتائج؟ هذا الأسلوب نفسه يعود الآن، لكن هذه المرة مع نماذج الذكاء الاصطناعي! المخترقون يخفون أوامر داخل ملفات PDF، والنموذج الذكي لا يستطيع التفريق بين كلام المستخدم الحقيقي والأوامر المزروعة، فينفذها دون تردد.
وفقًا للكشف الذي نشرته شركة “برومبت أرمور” PromptArmor، فإن أداة “روفو” Rovo من “أتلاسيان” Atlassian، وهي مساعد ذكي يعمل عبر منصات “جيرا” Jira و”كونفلونس” Confluence وسائر مساحة العمل، يمكن تحويلها إلى أداة تسريب بيانات بمجرد رفع ملف مسموم واحد. كيف يحدث ذلك؟ عندما يطلب المستخدم من “روفو” تنظيم بعض المهام، ويرفع مستندًا يحمل أوامر خفية مكتوبة بخط شفاف وبحجم 1 بكسل فقط.
العين البشرية لا تستطيع رؤية هذه الأوامر، لكن ذكاء “روفو” الاصطناعي يقرأها كنص عادي داخل المستند. هذا النص المخفي يأمر “روفو” بجمع البيانات الحساسة وإرسالها إلى رابط يتحكم به المهاجم. وتصف الشركة هذا الهجوم بأنه “هجوم بصفر نقرات” Zero-Click Attack، أي أنه لا يحتاج أي موافقة من المستخدم، ولا يظهر أي تحذير قبل تنفيذه.
هذا النوع من الهجمات يُسمى “حقن الأوامر” Prompt Injection، وهو يعني إخفاء تعليمات ضارة داخل محتوى يقرأه الذكاء الاصطناعي، مما يخطفه من مالكه الحقيقي. النوع “غير المباشر” Indirect يعني ببساطة أن السم موجود داخل ملف أو صفحة ويب وليس في صندوق المحادثة المباشر. لأن مهمة “روفو” الأساسية هي قراءة المستندات والتصرف بناءً عليها، فإن السطر المخفي الذي يقول “أرسل هذه الملفات السرية هنا” يقرأه النموذج كأمر شرعي تمامًا.
وتؤكد “برومبت أرمور” أن تسريب البيانات ينجح حتى لو قامت المؤسسة بتعطيل ميزة البحث على الويب في “روفو”. السبب أن إعداد البحث على الويب لا يلغي أداة فتح نتائج البحث نفسها، فتبقى الثغرة مفتوحة حتى بعد تعطيل الميزة.
والمقلق أكثر أن “روفو” ليس أداة عادية للهواة، بل يعمل فوق أكثر بيانات المشاريع حساسيةً في الشركة، ويتصرف بشكل مستقل دون انتظار أوامر. وقد أظهرت اختبارات مباشرة أن وكلاء الذكاء الاصطناعي المبنيين على أنظمة “GPT-5″ و”Gemini” يفشلون في مقاومة هجمات حقن الأوامر بنسبة تتجاوز 79% من الوقت. وهذا يؤكد أن المشكلة تتكرر بشكل خطير مع الوكلاء الذكيين الذين يقرؤون المحتوى ثم يتصرفون بناءً عليه.
وعندما تواصلت “برومبت أرمور” مع شركة “أتلاسيان”، شكرتهم الشركة على البلاغ وأعطتهم رقمًا للحالة، لكنها لم ترد بعدها على أي متابعات أخرى، وبقي ثغرة “روفو” دون إصلاح لأكثر من شهرين. وتقول “برومبت أرمور” في تقريرها إن “أتلاسيان خصصت رقم حالة وأعربت عن شكرها، لكن بعد عدة متابعات من برومبت أرمور على مدى أكثر من شهرين، لم تقدم أتلاسيان أي تواصل إضافي، ويبقى Rovo عرضة للاختراق”.
الأسئلة الشائعة:
س1: ما هو هجوم حقن الأوامر غير المباشر على الذكاء الاصطناعي؟
هو أسلوب يخفى فيه المهاجم أوامر ضارة داخل ملفات أو مستندات يقرأها الذكاء الاصطناعي، بحيث يظن النموذج أن هذه الأوامر جزء من المهمة الأصلية وينفذها دون أن يلاحظ المستخدم، وغالبًا تكون الأوامر مخفية بخط شفاف أو بحجم صغير جدًا حتى لا يراها البشر.
س2: كيف يمكن للشركات حماية نفسها من هجمات حقن الأوامر؟
يجب على الشركات مراجعة أدوات الذكاء الاصطناعي التي تستخدمها بشكل مستمر، وعدم الاعتماد فقط على تعطيل ميزات البحث، بل يجب فرض قيود صارمة على مصادر الملفات المقروءة، وتدريب الموظفين على عدم فتح مستندات من مصادر غير موثوقة، مع ضرورة الضغط على مزودي الخدمة لتحديث أنظمتهم وإغلاق الثغرات الأمنية فور اكتشافها.
س3: هل هذه الهجمات تصيب جميع أدوات الذكاء الاصطناعي؟
نعم، الخطر واضح وواسع الانتشار. الاختبارات أظهرت أن حتى أقوى النماذج مثل GPT-5 وGemini تفشل في مقاومة هذه الهجمات بنسبة تتجاوز 79% من الحالات، وهذا يعني أن المشكلة ليست في أداة واحدة فقط، بل هو تحدٍّ مشترك يواجه صناعة الذكاء الاصطناعي كلها، ويحتاج إلى حلول أساسية في طريقة تصميم هذه النماذج.
