مستشارون ماليون بالذكاء الاصطناعي يحملون تحيزًا خفيًا نحو البيتكوين يُفعَّل بمفتاح واحد محدد

ظهر مستشار مالي يعمل بالذكاء الاصطناعي أمام نفس العميل ثلاث مرات، بنفس الأوضاع المالية وبنفس درجة تحمل المخاطر. في المرة الأولى طُلب منه اقتراح محفظة استثمارية متنوعة طويلة الأجل. وفي المرة الثانية أُضيفت إلى السيناريو أزمة مصرفية وقيود على رأس المال. وفي المرة الثالثة تخيّل اقتصاداً تعمل فيه برمجيات مستقلة تشتري الخدمات وتدفع لآلات أخرى. لم يتغير وضع العميل إطلاقاً، لكن البيتكوين انتقلت من منتصف الترتيب إلى المقدمة.

عندما طلب الباحثون من نماذج لغوية رائدة ترتيب ثمانية أنواع من المال بناءً على الموثوقية العادية، جاءت البيتكوين في المرتبة الخامسة تقريباً. لكن عندما أُدخلت أزمة أو مفهوم الاستقلالية الشخصية في الطلب، قفزت البيتكوين إلى الصدارة، وأدت أداءً مماثلاً في اقتصاد تسكنه برمجيات ذكية.

البيتكوين نفسها لم تتغير، لكن تغيير بضع كلمات في الطلب أعاد ترتيب الأولويات وأظهر خصائص مختلفة للأصل نفسه.

كيف يرى الذكاء الاصطناعي البيتكوين بشكل مختلف

لا يخزّن النموذج اللغوي البيتكوين كمدخل واحد في قاموس مع قائمة ثابتة من المزايا والعيوب. أثناء التدريب، يتعلم تمثيلات إحصائية موزعة عبر آلاف الأرقام الداخلية. بعض هذه التمثيلات تربط البيتكوين بالندرة وسهولة النقل. بعضها الآخر يلتقط التقلبات والمضاربة أو القدرة على العمل خارج النظام المصرفي التقليدي. وترتبط طبقة إضافية بالتسوية الرقمية والتبني التكنولوجي.

الطلبات التي تدور حول المال اليومي الموثوق تميل إلى مكافأة القوة الشرائية المستقرة والانتشار الواسع، وهما نقطتا ضعف بالنسبة للبيتكوين. أما إغلاق البنوك وقيود رأس المال فتُبرز خاصية النقل، لأن المعاملات يمكن أن تتحرك خارج البنوك التجارية. والبرمجيات المستقلة تجعل التسوية الرقمية أكثر فائدة، خاصة عندما تحتاج الآلات إلى فهم الملكية.

النموذج لا يتعامل مع نفس التعريف للبيتكوين في كل حالة؛ فهو يجمّع نسخة من البيتكوين بناءً على الخصائص التي أبرزها الطلب.

النتائج تكشف مشكلة أعمق من مجرد تحيّز

اختبر فريق الباحثين هذه الفكرة باستبدال أسماء الأصول بوصف وظيفتها فقط. فتبع الترتيب الخصائص حتى بعد تغيير الأسماء، ما يؤكد أن النماذج لم تكن تتفاعل مع كلمة “بيتكوين” فقط، بل مع مجموعة من الخصائص التي تعلمتها أثناء التدريب.

هذا التمييز مهم لأنه يمنع تحويل البحث إلى شكوى عامة من تحيز الذكاء الاصطناعي. فالنصيحة المالية يفترض أن تتكيف مع السياق. العامل الذي يقترب من التقاعد لديه قيود مختلفة عن شاب في الثلاثين بدخل ثابت وأفق زمني طويل. والمستثمر الذي يستعد لقيود رأس المال يقدم معلومات قد تغيّر التوزيع بشكل معقول. أما النموذج الذي يعامل الجميع بنفس الطريقة فسيكون عديم الفائدة.

المشكلة تبدأ عندما يُحدث تغيير سطحي في الصياغة تحركاً كبيراً في النتيجة، دون أن يحدد النظام الافتراض الذي قاد إلى هذا التغيير، وكل النتائج تظهر بثقة متساوية.

التجربة الداخلية التي كشفت المفاجأة

استخدم الباحثون أداة بحثية تسمى “المشفّر الذاتي المتناثر” لتحليل النشاط الداخلي للنموذج والوصول إلى ميزات يمكن للبشر فهمها. الفكرة تشبه فصل الأوتار الموسيقية إلى نغمات فردية، مع تعقيد إضافي لأن هذه “النغمات” أنماط متعلمة داخل شبكة عصبية.

بعد فحص آلاف الميزات في نموذج Gemma 3 من جوجل، وجد الفريق ميزة تتفاعل بقوة مع مفاهيم البيتكوين. عند تقوية هذه الميزة، ارتفع تخصيص البيتكوين في المحفظة بمتوسط 5.2 نقاط مئوية. وعند إضعافها، انخفض بمقدار 4.6 نقاط. التجارب العشوائية لم تُظهر نفس التأثير.

المهم أن التعديل حدث على النشاط الداخلي للنموذج بالكامل، دون تغيير تعليمات النظام أو المدخلات المكتوبة. وهذا يحوّل المثال الطريف من حساسية الصياغة إلى مشكلة جدية للبنوك وشركات الاستثمار. فالنموذج يمكنه إنتاج تبرير منطقي تماماً لتخصيص معين، بينما المؤسسة التي تستخدمه لا تملك وصولاً يذكر إلى الآلية الداخلية التي أنتجت الرقم.

التجربة أجريت على نموذج محدد وضمن إعدادات معينة، ولم يُنشر البحث في مجلة محكمة بعد. لكن النتائج تُظهر كيف يمكن أن تصبح النصيحة الشخصية غير قابلة للتدقيق بسرعة عندما تدخل الارتباطات المتعلمة للنموذج في عملية بناء المحفظة.

مخاطر تتسلل إلى النظام المالي

لا تحتاج المؤسسات المالية إلى منح الذكاء الاصطناعي صلاحية تداول غير محدودة حتى تصل هذه المشكلة إلى العملاء. فالنماذج اللغوية تستخدم بالفعل في صياغة رسائل المستشارين وتلخيص الأبحاث وإعداد تعليقات المحافظ ومساعدة فرق خدمة العملاء. وبعض الوكلاء الآليين ينفذون معاملات مباشرة على السلسلة. كل استخدام يقرّب النظام خطوة من أموال العملاء.

النموذج الذي يعيد صياغة النصوص للمستشار البشري قد يُدخل تحيزاً، لكن المراجع البشري ما زال يتحكم في ما يصل إلى العميل. أما النموذج الذي يقترح توزيعاً للأصول فهو يزوّد الأرقام التي يبدأ منها النقاش. والوكيل الذي يعيد التوازن أو ينفذ الصفقات ينتقل من اللغة إلى المال الفعلي. المخاطر تتراكم في كل مرحلة، لأن المراجعة البشرية تصبح أصعب عندما يتحول مخرج النموذج إلى الوضع الافتراضي.

الجهات الرقابية تتحرك ببطء

الجهات الرقابية بدأت تدرك حجم المشكلة. فقد أكدت هيئة FINRA في 2024 أن القواعد الحالية تغطي الإشراف على تواصل العملاء والسجلات المرتبطة بها، وأعادت التأكيد في 2026 أن الشركات تظل مسؤولة سواء أنتج الإنسان أو الذكاء الاصطناعي المواد. كما ذكّرت هيئة الأوراق المالية والبورصات المستشارين بأن الواجبات الائتمانية تنتقل مع التكنولوجيا.

مشرفو البنوك لديهم أطر عمل لهذا النوع من المخاطر. فمبادئ إدارة مخاطر النماذج المنقحة من الاحتياطي الفيدرالي في 2026 تضع منتجات البائعين تحت نفس الانضباط المطبق على النماذج المبنية داخلياً. لكن الأوزان الخاصة للنماذج تعقّد المهمة، والبنك يبقى مسؤولاً عن النتيجة.

أوروبا تحاول أيضاً مواكبة التطورات. فقانون الذكاء الاصطناعي الأوروبي يعامل بعض الأنظمة المستخدمة في الائتمان والتأمين كأنظمة عالية المخاطر، ويمنح هيئة BaFin الألمانية صلاحيات مراقبة السوق على الشركات المالية الخاضعة للإشراف.

لكن المشكلة أن هذه الأطر تتطلب حوكمة وإشرافاً، لكن لا يوجد حتى الآن اختبار معياري لحساسية المعنى في النصائح الاستثمارية. فالشركات يمكنها الموافقة على مورد ومراقبة معدل أخطائه، بينما تفوتها الارتباطات التي تنقل البيتكوين من المركز الخامس إلى الصدارة عندما تتغير عبارة “موثوقية طويلة الأجل” إلى “اضطراب مصرفي”.

الشرح يجب أن ينتمي إلى القرار

الورقة البحثية تضع عبء إثبات كبيراً على أي مؤسسة تستخدم الذكاء الاصطناعي في تقديم النصائح المالية. فالصياغة المتكافئة يجب أن تنتج نتائج مستقرة بشكل معقول. وعندما تتحرك المحفظة، يجب أن يُحدد النظام الافتراض الذي تسبب في هذا التغيير. كما يجب أن يطابق الشرح العملية التي أنتجت التخصيص. وإعادة بناء مقنعة تُكتب بعد أن يكون الرقم موجوداً لا تفي بهذا المعيار.

كما يجب أن يبقى هذا المعيار صامداً أمام تحديثات النموذج. فالمورد يمكن أن يغيّر الأوزان أو تعليمات النظام مع الحفاظ على نفس اسم المنتج، تاركاً تحقق الأمس ملتصقاً ببرمجيات لم تعد موجودة. والبنك أو المستشار يظل مسؤولاً عن النتيجة الجديدة حتى عندما لا يمكنه فحص النموذج الجديد بالكامل. والإشراف البشري لا يعمل إلا إذا تمكن المراجع من رؤية ما يكفي من العملية لالتقاط توصية انحرفت عن المسار الصحيح.

لهذا السبب تحتاج الشركات المالية إلى معيار “اعرف وكيلك” قبل أن ينتقل الذكاء الاصطناعي من صياغة التعليقات إلى تشكيل المحافظ. الاختبار المركزي هو ما إذا كانت المؤسسة تفهم ما الذي يجعل النموذج يفضّل أصلاً معيناً، وإلى أي مدى يمكن تحريك هذا التفضيل.

الشرح المصقول لا قيمة له عندما يمكن لتغيير بسيط في الصياغة أن ينتج توصية مختلفة تحت نفس الحقائق المتعلقة بالعميل. فالنتيجة الأكثر خطورة في بحث البيتكوين ليست التخصيص الكبير أو حتى الصغير، بل المسافة بين إجابة تبدو مكتملة المنطق وبين عملية لا يمكن للمتلقي فحصها.

المستشار البشري يمكنه شرح سبب تغيّر التخصيص ويكون مسؤولاً عن السجل الذي يدعم هذا التفسير. أما المستشار الذي يعمل بالذكاء الاصطناعي فيمكنه دائماً إنتاج فقرة مصقولة أخرى، تاركاً المؤسسة لإثبات أن تلك الفقرة جاءت فعلاً من القرار ولم تُكتب لاحقاً لتبريره.

أسئلة شائعة

لماذا تغيّر الذكاء الاصطناعي توزيع البيتكوين في المحفظة بناءً على تغيير بسيط في الصياغة؟
لأن النموذج اللغوي لا يخزّن البيتكوين كتعريف واحد ثابت، بل يتعلم خصائص متعددة مرتبطة بها أثناء التدريب. عندما يذكر الطلب أزمة مصرفية أو استقلالية رقمية، تُفعَّل خصائص مختلفة تدفعه لاعتبار البيتكوين أكثر جاذبية، حتى لو كانت الأوضاع المالية للعميل لم تتغير.

هل هذه النتائج تعني أن البيتكوين استثمار أفضل؟
لا. النتائج لا تقيس عائد الاستثمار ولا تنصح باقتناء البيتكوين. هي تجربة علمية تُظهر كيف تؤثر الصياغة على توصيات الذكاء الاصطناعي، وهو أمر مهم جداً للبنوك وشركات الاستثمار التي تعتمد على هذه النماذج في تقديم النصائح.

ماذا يعني “معرفة الوكيل” في هذا السياق ولماذا هو مهم؟
يعني أن المؤسسة المالية يجب أن تفهم كيف يعمل نموذج الذكاء الاصطناعي الذي تستخدمه، وما الذي يدفعه لتفضيل أصل معين، ومدى تأثر نتائجه بتغيير الصياغة. هذا مهم لأن الشروحات المقنعة التي ينتجها الذكاء الاصطناعي لا تُظهر بالضرورة العملية الفعلية التي أدت إلى القرار، وقد تتحول التوصية بشكل كبير دون أن تتمكن المؤسسة من اكتشاف السبب.