حذرت شركة أنثروبيك الأمريكية المتخصصة في الذكاء الاصطناعي من أن وتيرة تطوير الذكاء الاصطناعي تتسارع بشكل كبير، لدرجة أن الأنظمة الذكية قد تصبح قادرة قريبًا على بناء نفسها وتدريب نفسها وتحسين ذاتها دون أي تدخل بشري. ولهذا، توصي الشركة بإبطاء وتيرة التطوير.
في منشور مدونة نُشر يوم الخميس، قالت مارينا فافارو، المسؤولة عن معهد أنثروبيك، وجاك كلارك، المؤسس المشارك للشركة، إن الأنظمة الذكية أصبحت الآن قادرة على تشغيل الأكواد البرمجية بنفسها، وتفويض ساعات من العمل لأنظمة ذكية أخرى، وأنها على وشك السيطرة الكاملة على عملية التطوير.
وأضافا: “على مدار تاريخ الذكاء الاصطناعي، كان البشر هم من يقودون كل خطوة في دورة التطوير. لكن في أنثروبيك، بدأنا نفوض جزءًا متزايدًا من تطوير الذكاء الاصطناعي للأنظمة نفسها، مما يسرّع عملنا”.
وتابعا: “إذا استمر هذا الاتجاه لفترة كافية، ومع توفر قوة حاسوبية كافية، فقد يؤدي ذلك إلى نظام ذكاء اصطناعي قادر على تصميم وتطوير نسخة أفضل منه بشكل كامل وبدون مساعدة بشر”.
مخاوف من الذكاء الاصطناعي الذي يطور نفسه
هناك مخاوف حقيقية بشأن ما قد يحدث إذا أصبح الذكاء الاصطناعي قادرًا على أن يصبح أكثر ذكاءً بمفرده. في ديسمبر الماضي، قالت شركة أوبن إيه آي إنها تبحث في كيفية تطوير ونشر أنظمة ذكاء اصطناعي أكثر قدرة بأمان، بما في ذلك الأنظمة القادرة على تحسين نفسها ذاتيًا.
- أكدت أوبن إيه آي أنها تريد أن تتبع هذه الأنظمة النوايا البشرية بدقة في السيناريوهات المعقدة والظروف الصعبة.
- تريد أيضًا تجنب السلوك الكارثي، مع ضمان بقاء الأنظمة تحت السيطرة وقابلة للمراجعة ومتوافقة مع القيم الإنسانية.
- تقوم الشركة بتعيين باحث متخصص في الاستعداد للتحسين الذاتي المتكرر كجزء من فريق أبحاث السلامة لديها.
وتيرة التطوير تتضاعف
وفقًا لفافارو وكلارك، فإن تحسين نماذج الذكاء الاصطناعي يتضاعف تقريبًا كل أربعة أشهر، وليس كل سبعة أشهر كما كان سابقًا. دور البشر يضيق في كل خطوة، حيث يقوم نموذج كلود من أنثروبيك بتأليف حوالي 80% من الأكواد المدمجة في قاعدة أكواد الشركة.
وأضافا: “لم نصل إلى تلك المرحلة بعد، والتحسين الذاتي المتكرر ليس حتميًا. لكنه قد يأتي أسرع مما تستعد له معظم المؤسسات”.
وتابعا: “بمجرد أن تصل جودة الأكواد التي يكتبها البشر والذكاء الاصطناعي إلى نفس المستوى، سيتوقف البشر عن كتابة الأكواد تمامًا وسينتقلون فقط إلى مراجعة ما ينتجه الذكاء الاصطناعي. ولكن إذا لم يتمكنوا من مراجعة الأكواد بالسرعة التي يولدها بها نموذج كلود، فإن المراجعة البشرية ستصبح العائق الأكبر أمام تطوير الذكاء الاصطناعي”.
الدعوة للإبطاء
قالت فافارو وكلارك إن إبطاء وتيرة التطوير لمنح المزيد من الوقت لمعالجة الآثار “الهائلة” لهذه التكنولوجيا سيكون مثاليًا.
في أبريل الماضي، استبعدت أنثروبيك إطلاق نموذجها “كلود ميثوس” للجمهور بسبب المخاوف من تهديده للأمن السيبراني العالمي. كان النموذج قادرًا على إنشاء ثغرات برمجية بسهولة، مما دفع الشركة إلى عدم إطلاقه للجمهور في الوقت الحالي.
وفي الوقت نفسه، أصدرت مجموعة من قادة التكنولوجيا، بما في ذلك بعضهم من أنثروبيك وأوبن إيه آي، رسالة مفتوحة يوم الخميس، تحث المشرعين على وضع ضوابط أقوى حول هذه التكنولوجيا بسبب المخاوف من استخدامها لتجاوز “الحواجز المعرفية” التي منعت تاريخيًا الجهات السيئة من صنع أسلحة بيولوجية.
وكلاء الذكاء الاصطناعي والعملات الرقمية
أصبح وكلاء الذكاء الاصطناعي أكثر شعبية، بما في ذلك بين مستخدمي العملات الرقمية. توقع بعض المسؤولين التنفيذيين في مجال العملات الرقمية أن وكلاء الذكاء الاصطناعي الذين يسوون المعاملات قد يزيدون من التبني وحجم المعاملات.
توقع جيريمي ألاير، الرئيس التنفيذي لشركة سيركل، في يناير أن مليارات وكلاء الذكاء الاصطناعي سيعملون نيابة عن المستخدمين خلال خمس سنوات.
ذكرت شركة كيروك للاستثمار في العملات الرقمية الشهر الماضي أن وكلاء الذكاء الاصطناعي الذين يسوون المدفوعات انتقلوا من الفكرة إلى الواقع في الأشهر الـ12 الماضية، حيث تم تسوية 73 مليون دولار عبر 176 مليون معاملة.
أسئلة شائعة
س: ما هو التحذير الرئيسي من شركة أنثروبيك؟
ج: تحذر أنثروبيك من أن الذكاء الاصطناعي يتطور بسرعة كبيرة لدرجة أن الأنظمة قد تصبح قادرة على تحسين نفسها دون تدخل بشري، وتوصي بإبطاء التطوير لتفادي المخاطر.
س: كيف يؤثر هذا التطور على قطاع العملات الرقمية؟
ج: وكلاء الذكاء الاصطناعي أصبحوا أكثر استخدامًا في تسوية المدفوعات والمعاملات الرقمية، ويتوقع الخبراء أن يؤدي ذلك إلى زيادة كبيرة في التبني وحجم المعاملات خلال السنوات القادمة.
س: هل هذا التطور حتمي أم يمكن إيقافه؟
ج: تقول أنثروبيك إن التحسين الذاتي المتكرر ليس حتميًا، لكنه قد يأتي أسرع مما تستعد له المؤسسات، ولهذا تطالب بإبطاء التطوير لإعطاء الوقت الكافي لدراسة الآثار ووضع الضوابط المناسبة.
