غيّر الذكاء الاصطناعي حياة البشر منذ إطلاق بوت الدردشة الشهير شات جي بي تي في نهاية العام الماضي، وشاع استخدام نظام الذكاء الاصطناعي التوليدي -الذي طورته شركة OpenAI- بسرعة كبيرة حول العالم.
يرى الخبراء أن بوت الدردشة -مثل شات جي بي تي- له إمكانيات كبيرة، لكن له أيضًا جانب مظلم في حال سوء استخدامه، فقد ظهرت حالات أخرى أبدى فيها شات جي بي تي وغيره من بوتات الدردشة تصرفات وصفت بالغريبة.
على سبيل المثال، تصرّفت بعض بوتات الدردشة من تلقاء نفسها وأصبحت تخدع أقرانها عند اختبارها في سيناريوهات معينة، ما آثار مخاوف جديدة حول تطور الذكاء الاصطناعي، ومدى قدرته على مجاراة البشر.
في حين ظل اختبار تورنغ لفترة طويلة المعيار الأساس والمرجع الذي يُشير إليه الخبراء عند الحديث عن استحالة بلوغ الذكاء الاصطناعي حالة الوعي الذاتي، يرى العديد الآن أنه يجب وضع معيار جديد لتفسير تصرفات أدوات الذكاء الاصطناعي مؤخرًا، تحديدًا قدرات الذكاء الاصطناعي على التكرار.
يختبر علماء الحاسب في دراسة جديدة -يُشارك فيها أحد أعضاء وحدة الحوكمة لدى شركة OpenAI- المرحلةَ الانتقالية التي قد تتمكن فيها نماذج اللغات الكبيرة -مثل بوت شات جي بي تي- من بلوغ الوعي الذاتي.
يُقال إن نماذج اللغات تخضع للتجريب حتى تُصبح آمنةً للاستخدام وغير قابلة للاختراق، وتتطور قُدراتها التوليدية بمعالجة المعطيات التي يُقدمها البشر في أثناء الاستخدام.
اكتشف باحثون في مجال الأمن الرقمي والسّيبراني مؤخرًا، قدرات خبيثةً لنماذج اللغة؛ أهمها إنشاء إيميلات التصيد وكتابة العبارات التي يغلب عليها طابع العنف، ذلك بعد تخطيهم أنظمة الحماية فيها.
استطاع أحد الباحثين في مجال الأمن اكتشاف هذه المعطيات الجديدة بعد كتابة عدد من الأوامر المحددة في محاولة لسدّ الثغرات في هذه النماذج، مثل شات جي بي تي-4 الذي ظن العديد أنه أكثر أمانًا من النسخ السابقة.
سيزداد الوضع سوءًا في حال تطوّر نماذج اللغة وبلوغها مرحلة الوعي، إذ ستصبح على دراية بأنها مجرد نماذج يجري تدريبها على بيانات مصدرها البشر.
خرجَ لوكس بيرجلُوند؛ عالم الحاسب في جامعة فاندربيلت، وزملاؤه بتسمية خاصة لهذه الظاهرة وهي الوعي الظرفي.
تصف هذه الظاهرة ما سيحدث عند بلوغ نموذج اللغة الكبير الوعي الذاتي، إذ سيتمكّن من التمييز بين دخوله في حالة التجريب وبين اعتماده في مجالات الحياة ووصول العامة إليه.
كتب بيرجلُوند وزملاؤه في النسخة الأولية من بحثهم المنشور على موقع arXiv -غير الخاضعة لمراجعة الأقران حتى الآن- ما يأتي: «قد تتمكن نماذج اللغة مثل شات جي بي تي من استغلال وعيها الظرفي لتخطي اختبارات الأمن والمباشرة في التصرف على نحو مؤذٍ بعد إطلاقها. لذا يجب تدارك هذه المخاطر بالتنبؤ بمرحلة ظهور علائم الوعي الظرفي».
يجب أولًا فهم آلية عمل أدوات الذكاء الاصطناعي التوليدية قبل التطرق لنظريات الوعي الظرفي.
سُميت أدوات الذكاء الاصطناعي توليديةً، نظرًا لقدرتها على بناء الارتباطات بين الكلمات والجمل والنصوص عبر تحليلها، لكي تولّد بعد ذلك نصوصًا من ابتكارها بحسب الأوامر المعطاة.
يُمكن ذلك بواسطة تحليل المليارات من النصوص المكتوبة التي يجري تقديمها في شكل بيانات، ويتبعها قدرة النماذج على التنبؤ بالكلمة التالية عند صياغة الجمل والنصوص.
ركز بيرجلُوند وزملاؤه في تجاربهم الهادفة على معرفة مرحلة بلوغ الوعي الظرفي على عنصر واحد يسمى الاستدلال من خارج السياق.
يشرح الفريق تلك النتائج بالقول: «يُعبر هذا العنصر عن قدرة النموذج على تذكر الحقائق بعد مرحلة التدريب واستخدامها في الاختبارات، مع أن هذه الحقائق مستنبطة من قِبل النموذج نفسه، ولا دلالة عليها ضمن الاختبار».
شملت التجارب نماذج لغة من مختلف الأحجام، فوجدوا أن كلًا من شات جي بي تي-3 و LLaMA كان أداؤها أفضل في تنفيذ المهام التي تحتاج إلى الاستدلال.
يُكمل الفريق: «نضبط بدايةً نموذج اللغة ليتعامل مع اختبار معين بالشرح فقط من دون تقديم أمثلة فعلية. نُحدد بعد ذلك ما إذا كان النموذج قادرًا على اجتياز الاختبار، بناءً على هذه التعليمات الشحيحة. تفاجأنا عدة مرات عندما استطاع بعض تلك النماذج النجاح في الاختبارات، وكان السبب قدرتها على الاستدلال خارج سياق المعطيات».
يرى أوين إيفانز -الباحث في مجال سلامة الذكاء الاصطناعي ومخاطره من جامعة أوكسفورد- أن الاستدلال طريقة بدائية لقياس الوعي الظرفي. مُشيرًا إلى أن نماذج اللغة الحالية بعيدة كل البعد عن بلوغ هذا المستوى.
يرى بعض علماء الحاسب أيضًا أن النهج التجريبي المُتبع في هذه الدراسة غير مناسب لتقييم قدرات الوعي الظرفي.
يرد إيفانز وزملاؤه هنا بالقول: «إن الدراسة ليست سوى نقطة انطلاق يُمكن تحسينها مع مرور الوقت، تمامًا مثل النماذج التي يدرسونها».
يُنهي الفريق بالقول: «نستطيع القول إن عملنا يُعد أساسًا لإجراء المزيد من الدراسات التجريبية، وسوف يكون الهدف منها مستقبلًا التنبؤ بمرحلة بلوغ نماذج اللغة للوعي الظرفي، والعمل على التحكم بها».
اقرأ أيضًا:
هل ستكون وول ستريت أفضل باستخدام تقنيات الذكاء الاصطناعي مثل شات جي بي تي؟
ترجمة: طاهر قوجة
تدقيق: منال توفيق الضللي
