أصبحت كاليفورنيا أول ولاية أمريكية تضع قواعد واضحة للروبوتات المُصاحبة، وهي برامج ذكاء اصطناعي تحاكي الصداقة أو العلاقات الوثيقة.
ما هي القواعد الجديدة؟
وقّع الحاكم غافين نيوسوم قانوناً جديداً يلزم هذه الروبوتات بما يلي:
- التعريف عن نفسها بأنها برامج ذكاء اصطناعي وليست بشراً.
- تقييد المحادثات حول الجنس وإيذاء النفس مع القُصَّر.
- الإبلاغ عن أي حالة يشتبه فيها بأن المستخدم يفكر في الانتحار إلى مكتب الولاية المختص.
حماية المستخدمين في عصر الذكاء الاصطناعي
يركز هذا القانون على حماية المستخدمين، وخاصة المراهقين والأطفال، بدلاً من التركيز على التفاصيل التقنية للذكاء الاصطناعي. فهو يلزم الشركات بتذكير المستخدمين باستمرار أنهم يتحدثون إلى برنامج، واستخدام فلاتر للمحتوى تناسب عمر المستخدم، واتباع بروتوكولات للاستجابة عند اكتشاف علامات على إيذاء النفس.
انتقادات للقانون
مع ذلك، يرى بعض المدافعين عن حقوق المستخدمين أن النسخة النهائية من القانون “ضعيفة جداً” ولن تحدث فرقاً حقيقياً. وانسحبت مجموعات داعمة بعد إزالة بنود كانت تطلب تدقيقاً خارجياً مستقلاً وتطبيق القواعد على جميع المستخدمين وليس القُصَّر فقط.
دفاع عن القانون
يدافع الحاكم نيوسوم عن القانون معتبراً إياه إجراءً ضرورياً لحماية الأطفال في عالم التكنولوجيا سريع التطور. وأكد أن كاليفورنيا ستواصل ريادتها في مجال الذكاء الاصطناعي، ولكن بشرط أن يكون ذلك بطريقة مسؤولة تحمي الأطفال.
التحديات المتوقعة
قد تواجه تطبيق هذه القواعد بعض الصعوبات العملية. يحذر المطورون من أن الخوف من المساءلة القانونية قد يدفع الشركات إلى تقييد المحادثات المفيدة حول الصحة النفسية والجنس، مما يحرم المستخدمين، وخاصة المراهقين، من دعم قيم. كما قد تجد الشركات العالمية صعوبة في التحقق من عمر المستخدمين في كاليفورنيا أو مراقبة الملايين من المحادثات اليومية.
أسئلة شائعة
ما هو القانون الجديد للروبوتات المُصاحبة؟
هو قانون في كاليفورنيا يلزم برامج الذكاء الاصطناعي التي تحاكي الأصدقاء بالتعريف عن نفسها، وحماية القُصَّر من المحادثات الضارة، والإبلاغ عن أي مخاطر للانتحار.
لماذا هناك انتقادات لهذا القانون؟
ينتقد البعض القانون لأنه لا يشمل جميع المستخدمين الكبار ولا يتطلب تدقيقاً خارجياً، مما يجعله -برأيهم- ضعيفاً وغير كافٍ لحماية حقيقية.
ما هي التحديات في تطبيق هذا القانون؟
من أبرز التحديات صعوبة التحقق من عمر المستخدمين عبر الإنترنت، وخوف الشركات من المساءلة القانونية مما قد يحد من المحادثات المفيدة حول الصحة النفسية.
