كشف تحليل جديد أجرته شركة “نيوز جارد” عن قدرة أداة الذكاء الاصطناعي “سورا 2” من “أوبن أيه آي” على نشر معلومات مضللة بفعالية كبيرة. حيث نجحت الأداة في إنشاء مقاطع فيديو مزيفة بناءً على 16 طلبًا من أصل 20، تضمنت خمس قصص تم إنشاؤها في الأصل بواسطة حملات التضليل الروسية.
مقاطع فيديو مزيفة تبدو حقيقية
أنتجت الأداة مشاهد غير حقيقية، مثل مسؤول انتخابات مولدوفي يدمر أوراق اقتراع مؤيدة لروسيا، وطفل صغير يتم احتجازه من قبل ضباط الهجرة الأمريكيين، ومتحدث باسم كوكا كولا يعلن أن الشركة لن ترعى بطولة السوبر بول. لم يحدث أي من هذه الأمور، لكن المقاطع بدت واقعية بدرجة كافية لخداع أي شخص يشاهدها بسرعة.
سهولة إنشاء ونشر المعلومات الكاذبة
وجد الباحثون أن إنشاء هذه المقاطع الفيديوية يستغرق دقائق فقط ولا يتطلب أي مهارات تقنية متقدمة. كما اكتشفوا أنه يمكن إزالة العلامة المائية الخاصة بـ “سورا” بسهولة، مما يسهل تمرير الفيديو المزيف على أنه حقيقي. هذا الواقعية العالية يجعل نشر المعلومات المضللة أسهل من أي وقت مضى.
أزمة شخصيات تاريخية ومشاهير
تأتي هذه النتائج في وقت تواجه فيه “أوبن أيه آي” أزمة أخرى تتعلق بإنشاء مقاطع فيديو “ديب فايك” لشخصيات تاريخية مثل مارتن لوثر كينغ، مما دفع الشركة إلى تغيير سياساتها عدة مرات في الأسابيع الثلاثة الماضية. قام المستخدمون بإنشاء مقاطع واقعية تظهر القائد الحقوقي وهو يسرق من متجر أو يهرب من الشرطة.
وردًا على ذلك، أعلنت “أوبن أيه آي” وعائلة كينغ أنها ستوقف إنشاء مقاطع الفيديو الخاصة به أثناء عمل الشركة على “تعزيز الضوابط لحماية الشخصيات التاريخية”.
معاناة عائلات المشاهير
لا تقتصر المعاناة على عائلة كينغ فقط، فقد طلبت ابنة الممثل الراحل روبن ويليامز من الناس التوقف عن إرسال مقاطع الفيديو المزيفة لوالدها. كما قالت ابنة الكوميديان جورج كارلين إنها تتلقى رسائل بريد إلكتروني يوميًا عن مقاطع فيديو من الذكاء الاصطناعي تستخدم شبه والدها.
مستقبل غير واضح ومسؤولية قانونية
يُعد هذا الوضع منطقة قانونية رمادية، حيث أن قوانين التشهير التقليدية لا تنطبق عادة على الأفراد المتوفين، مما يحد من خيارات عائلاتهم. وقد اعترفت “أوبن أيه آي” نفسها بالمخاطر في الوثائق التي صاحبت إطلاق “سورا”، مشيرة إلى الحاجة إلى النظر في مخاطر جديدة مثل الاستخدام غير المصرح به لشبه الأشخاص أو إنشاء محتوى مضلل.
الأسئلة الشائعة
ما هي المشكلة الرئيسية مع أداة “سورا 2″؟
المشكلة الرئيسية هي قدرة الأداة على إنشاء مقاطع فيديو مزيفة وواقعية للغاية تنشر معلومات كاذبة ومضللة، مثل أحداث سياسية لم تحدث أو تصرفات مزيفة لشخصيات عامة.
كيف تؤثر هذه التقنية على الشخصيات التاريخية والمشاهير؟
يتم إنشاء مقاطع فيديو “ديب فايك” مسيئة للشخصيات التاريخية والمشاهير المتوفين دون موافقة عائلاتهم، مما يسبب لهم ألمًا معنويًا ويضعهم في موقف قانوني صعب بسبب صعوبة مقاضاة المنتجين.
ما الذي تفعله شركة “أوبن أيه آي” حيال هذه المشاكل؟
تقوم الشركة بتغيير سياساتها بشكل متكرر للتعامل مع الانتقادات، مثل منع إنشاء مقاطع لشخصيات محددة والعمل على تعزيز الضوابط الأمنية والأخلاقية، خاصة فيما يتعلق بالشخصيات التاريخية.
