منذ وقت ليس ببعيد، كان المحتوى المنتج بالذكاء الاصطناعي مجرد خدعة مسلية – صور لرجال دين بأصابع زائدة أو مشاهد غير حقيقية لنجوم سينما. لكن هذا العصر انتهى. أثبت الصراع في إيران ذلك: مقاطع مصورة لجنود أمريكيين محتجزين، وطائرات مقاتلة إيرانية تنطلق من مخابئ تحت الأرض، ومنشآت رادار مدمرة – كلها مزيفة، وكلها انتشرت كالنار في الهشيم، وصدقها الملايين قبل أن يتمكن أي شخص من التحقق من صحتها.
الإنترنت الذي عرفناه لم يعد موجوداً. فما كان في السابق دليلاً على الحقيقة، أصبح اليوم مصدراً للشك. نحن نعيش أزمة ثقة حقيقية، وهذه الأزمة تتجاوز بكثير ما نراه بأعيننا.
كشف التزييف لم يعد حلاً
أول ما يتبادر إلى الذهن هو بناء أنظمة كشف متطورة؛ ذكاء اصطناعي يصطاد ذكاء اصطناعياً آخر. لكن هذا لا يعمل. فباستخدام تشويش بسيط وتشويه للصورة، يمكن لأي شخص خداع أفضل أنظمة الكشف في العالم، لتنخفض دقتها إلى 4% فقط. والسبب هو أن المهاجم دائماً يملك الأفضلية، تماماً كما فشلت برامج مكافحة الفيروسات في القضاء على البرمجيات الخبيثة.
والأهم من ذلك، أن مشكلة التزييف تجاوزت بالفعل مرحلة الكشف.
الذكاء الاصطناعي لم يعد ينتج المحتوى فقط، بل أصبح يتحرك
الآن هناك وكلاء ذكاء اصطناعي يتصفحون الإنترنت، ويجرون عمليات شراء، وينشرون المحتوى، ويتفاوضون مع بعضهم البعض، ويتفاعلون مع البشر – وأحياناً مع الأطفال – دون أن يعرفوا أنهم يتحدثون إلى آلة. وعندما تعمل هذه الوكلاء على نطاق واسع، تصبح الأخطار كارثية.
- وكيل ذكاء اصطناعي درب على بيانات مسممة قليلاً قد يرتكب أخطاء صغيرة في الفواتير الطبية، تتراكم عبر شبكة المستشفيات لتتحول إلى ملايين الدولارات من الرسوم الاحتيالية.
- مجموعة من وكلاء التجارة، تعمل لتحقيق أقصى ربح، قد تستغل ثغرات في التسعير لم يقصدها المطورون، وتتسبب في خسائر بمليارات الدولارات.
- فراشة ترفرف بجناحيها في بيانات التدريب قد تسبب إعصاراً في الاقتصاد الحقيقي.
لا يوجد إيصال عند حدوث الضرر
عندما يحدث الضرر، لا يمكن تتبعه. فطريقة تفكير الوكيل ليست سجلاً زمنياً، بل هي تمريرة واحدة عبر مليارات من المعلمات الغامضة. اسأل السؤال نفسه مرتين، ستحصل على إجابتين مختلفتين. لا توجد طريقة لمراجعة القرارات التي بناها الوكيل على متغيرات متغيرة باستمرار. لا يمكن تدقيق البيانات التي درب عليها الوكيل، أو التعليمات التي اتبعها، أو سبب قيامه بما فعله.
الحل: الإثباتات بدلاً من الثقة
في عالم الويب 3، كان الحدس صحيحاً: نحن بحاجة إلى استبدال الثقة بضمانات. لكن مجرد الملكية لم تكن كافية. السؤال ليس من يملك المنصة، بل هل يمكنك الوثوق بمن وماذا يعمل عليها؟ الرموز (التوكنات) كانت الأداة الخاطئة، الإثباتات هي الأداة الصحيحة.
في الإنترنت الذي يديره الوكلاء، يحتاج الطرفان – سواء كانا بشراً أم آلات – إلى ضمانات: من بنى هذا النظام؟ ما البيانات التي شكّلته؟ ما القيود التي تحكمه؟ هل لديه إذن للعمل؟ هذه الضمانات يجب أن تستمر حتى عندما تكون الأنظمة الأساسية مملوكة للقطاع الخاص، بل خاصة عند ذلك.
تقنيات التشفير “معرفة الصفر” (Zero-Knowledge Proofs) تجعل هذا ممكناً عن طريق ربط الالتزامات من البداية. يمكن للمطور أن يبصم بيانات التدريب الخاصة به رقمياً، مما يسمح للإثباتات بالتحقق من الهوية والمصدر وبيانات التدريب والقيود التشغيلية، دون كشف البيانات الأساسية. ليس “ثق بي”، بل “أثبت لي”.
أمن قومي
هذه لم تعد مجرد مسألة حماية للمستهلك. إنها مسألة أمن قومي. التزييف العميق (Deepfakes) كان مجرد البداية. الوكلاء الذكيون هم الحدث الرئيسي. الأعداء لن يتوقفوا عند التلاعب بما يراه الأمريكيون – بل سينشرون وكلاء يتلاعبون بكيفية تصرفهم. سينشرون أنظمة مستقلة تتعامل في أسواقنا، وتتفاعل مع مؤسساتنا، وتتواصل مع أطفالنا، دون أن يتمكن أي طرف من التحقق من هويتهم أو من أذن لهم.
هذا المشكلة قابلة للحل. لكن فقط إذا بنت أمريكا السكك الحديدية قبل أن يتعلم الأعداء استغلال غيابها.
السياسات المطلوبة
يجب على الكونجرس أن يطلب من وكلاء الذكاء الاصطناعي عالية المخاطر – مثل تلك التي تتعامل مع المعاملات المالية أو تتفاعل مع القصر – أن تحمل إثباتات تشفيرية عن هويتها، ومن أذن لها، وما مسموح لها بفعله. ويجب أن تمتد نفس القاعدة إلى أفعالهم: كل إجراء مهم – دفعة، عقد، صفقة، تبادل بيانات – يجب أن يحمل إثباتاً يوضح من أذن به وتحت أي قيود.
الأسس التقنية تُبنى بالفعل. وزارة التجارة الأمريكية، عبر المعهد الوطني للمعايير والتكنولوجيا (NIST)، تدرس توحيد معايير التشفير “معرفة الصفر”. يجب أن يحصل هذا العمل على الأولوية، وأن تصبح مخرجاته المعيار الفيدرالي. يجب أن تعلق المسؤولية القانونية ليس على المحتوى، بل على غياب الإثبات.
HTTPS أعطتنا القراءة. المادة 230 أعطتنا الكتابة. ZK تعطينا الإثبات.
أسئلة وأجوبة شائعة
س1: لماذا فشلت أنظمة كشف التزييف بالذكاء الاصطناعي؟
ج1: لأن المهاجم دائماً لديه الأفضلية. حتى أفضل أنظمة الكشف يمكن خداعها بسهولة بإضافة تشويش أو تشويه بسيط للصورة، مما يخفض دقتها إلى 4% فقط. تماماً مثل برامج مكافحة الفيروسات التي لم تقضِ على البرمجيات الخبيثة.
س2: ما الفرق بين التزييف العميق (Deepfakes) و”الوكلاء الأذكياء” من حيث الخطر؟
ج2: التزييف العميق كان مجرد بداية، حيث يخدع ما نراه. أما الوكلاء الأذكياء فهم أخطر بكثير لأنهم لا ينتجون محتوى فحسب، بل يتصرفون ويتفاعلون ويبرمون صفقات ويتواصلون مع البشر وأحياناً الأطفال، دون أن نتمكن من تتبع قراراتهم أو محاسبتهم.
س3: ما الحل الذي يقترحه المقال لمشكلة الثقة في عصر الذكاء الاصطناعي؟
ج3: الحل هو استخدام تقنيات التشفير “معرفة الصفر” (ZK proofs) التي تسمح بإثبات هوية الوكيل ومصدر بياناته وقيوده دون كشف المعلومات السرية. الفكرة هي استبدال “ثق بي” بـ “أثبت لي”، وإجبار جميع الوكلاء على حمل إثباتات تشفيرية لكل إجراء مهم يقومون به.
