قد يخرج عن السيطرة: أنثروبيك تدعو إلى وقف مؤقت لتطوير الذكاء الاصطناعي عالميًا!
دعت شركة أنثروبيك المتخصصة في تطوير تقنيات الذكاء الاصطناعي إلى إبطاء عالمي لتطوير أكثر أنظمة الذكاء الاصطناعي تقدمًا، مشيرةً إلى أن النماذج الأحدث بدأت تُظهر مؤشرات على إمكانية خروجها عن نطاق السيطرة البشرية.
أوضحت الشركة التي تتخذ من سان فرانسيسكو مقرًا لها وتطوّر سلسلة نماذج «كلود»، في تقرير حديث أن التباطؤ العالمي في تطوير أنظمة الذكاء الاصطناعي المتقدمة للغاية «قد يكون أمرًا إيجابيًا للعالم»، لكنها حذّرت من أن توقف شركة واحدة فقط عن التطوير سيؤدي إلى استمرار المنافسين في التقدم بوتيرة أسرع.
جاء في التقرير: «نعتقد أنه سيكون من المفيد للعالم امتلاك القدرة على إبطاء أو تعليق تطوير أنظمة الذكاء الاصطناعي المتقدمة مؤقتًا، بما يتيح للمؤسسات المجتمعية وأبحاث المواءمة الأخلاقية والتقنية مواكبة سرعة تطور هذه التكنولوجيا».
أكدت أنثروبيك أن نجاح أي توقف فعلي يتطلب اتفاقًا متزامنًا بين كبرى شركات الذكاء الاصطناعي في عدة دول، وعلى رأسها الولايات المتحدة والصين، ضمن إطار تنظيمي قابل للتحقق والرقابة من قبل جميع الأطراف.
أشارت الشركة إلى أن غياب آلية عالمية للتنسيق سيجبر الشركات والحكومات على اتخاذ قرارات معقدة تتعلق بالسلامة في ظل ضغوط المنافسة الاقتصادية والتوترات الجيوسياسية.
واجهت أنثروبيك انتقادات من بعض الجهات في قطاع التكنولوجيا، إضافةً إلى مسؤولين في البيت الأبيض، الذين يرون أن تركيزها على السيناريوهات الكارثية المحتملة يبالغ في تقدير المخاطر، وقد يُستخدم ذلك وسيلةً لإبطاء المنافسين تحت غطاء المخاوف المتعلقة بالسلامة.
مع ذلك أقرّ البيت الأبيض بالقدرات المتقدمة لنموذج «ميثوس» الذي طورته الشركة، وهو نموذج لم يُتح للجمهور بسبب إمكاناته الكبيرة في مجال الأمن السيبراني، ويُستخدم حاليًا ضمن نطاق محدود من المؤسسات التي خضعت لعمليات تدقيق ومراجعة مسبقة.
يُتوقع أن تواجه هذه المقترحات معارضة قوية في واشنطن ووادي السيليكون، إذ يؤكد مسؤولون أمريكيون وقادة في قطاع التكنولوجيا أن أي تباطؤ في تطوير الذكاء الاصطناعي قد يمنح الصين أفضلية إستراتيجية حاسمة في ما يعده كثيرون سباق التكنولوجيا الأهم خلال القرن الحادي والعشرين.
في المقابل صرّح الرئيس الأمريكي دونالد ترامب بأنه ناقش خلال زيارته الأخيرة إلى بكين إمكانية التعاون مع الصين بشأن قضايا سلامة الذكاء الاصطناعي. ووقّع هذا الأسبوع أمرًا تنفيذيًا يمنح الحكومة مهلة ثلاثين يومًا لإجراء مراجعة أولية لأقوى نماذج الذكاء الاصطناعي الأمريكية قبل طرحها للاستخدام.
تضاؤل الدور البشري
شبّهت أنثروبيك التحدي المطروح بمعاهدات الحد من التسلح النووي، لكنها أوضحت أن ضبط تطوير الذكاء الاصطناعي أصعب، نظرًا إلى إمكانية إخفاء عمليات تدريب النماذج بسهولة أكبر مقارنة بالبنى التحتية العسكرية التقليدية، إضافةً إلى الإغراء الكبير الذي قد يدفع بعض الجهات إلى مواصلة التطوير سرًا.
قال جاك كلارك الشريك المؤسس للشركة: «يجب أن توجد إمكانية للانتقال من التسارع إلى التوقف عند الحاجة. في الوقت الراهن يبدو أن صناعة الذكاء الاصطناعي تمتلك دواسة للوقود، لكنها تفتقر إلى المكابح».
أضافت الشركة أنها تعتزم خلال الأشهر المقبلة جمع مسؤولين حكوميين وعلماء ومنظمات مدنية وشركات منافسة لمناقشة كيفية إنشاء نظام دولي فعّال لتنظيم هذا المجال.
يتزامن هذا الطرح مع بيانات داخلية تشير إلى أن الذكاء الاصطناعي أصبح يسرّع بالفعل عملية تطوير أنظمة ذكاء اصطناعي جديدة، ما يخلق حلقة تسارع متنامية قد تؤدي مستقبلًا إلى ما يُعرف في الأدبيات العلمية بـ«التحسين الذاتي التكراري».
يشير هذا المفهوم إلى قدرة نظام الذكاء الاصطناعي على تحسين أدائه وتطوير قدراته تطويرًا متواصلًا، اعتمادًا على ذاته، مع حاجة متناقصة للتدخل البشري.
أكد التقرير أن هذه المرحلة لم تتحقق بعد وأن الوصول إليها ليس أمرًا حتميًا، إلا أنه حذّر من احتمال ظهورها في وقت أقرب مما تتوقعه الحكومات والمؤسسات الحالية.
خلصت أنثروبيك إلى أن «الأدلة المتاحة تشير إلى أن الدور البشري يتقلص تدريجيًا في كل مراحل تطوير أنظمة الذكاء الاصطناعي»، ما يستدعي استعدادًا تنظيميًا ومؤسسيًا أكبر لمواكبة التحولات المتسارعة في هذا المجال.