كيف تعمل برامج الكشف عن المحتوى المولد باستخدام الذكاء الاصطناعي؟

لا يقرأ نظام كشف المحتوى المولد بالذكاء الاصطناعي المعنى بالطريقة التي يقرأه بها البشر. تستخدم معظم أنظمة كشف المحتوى الولد بالذكاء الاصطناعي تقنيات التعلم الآلي على مجموعات بيانات ضخمة من النصوص المكتوبة بشريًا والمولدة بواسطة الذكاء الاصطناعي، إذ تحلل خصائص مثل بنية الجملة، واختيار الكلمات، وطول الجملة، بحثًا عن أنماط تدل على أن الكتابة من قِبل الذكاء الاصطناعي. 

شرح (الحيرة) و(الانفجار) ببساطة

تُقاس الحيرة بمدى سهولة توقع نموذج اللغة لنص معين. عادةً ما يتميز النص المُولد بواسطة الذكاء الاصطناعي بغموض أقل -سهولة توقع أكبر- لأن نماذج الذكاء الاصطناعي تميل إلى اختيار الكلمة التالية الأكثر ترجيحًا إحصائيًا.

أما الانفجار فيشير إلى التباين في طول الجملة وأسلوبها. عادةً ما يتناوب النص البشري بين الجمل القصيرة والطويلة -ما يخلق إيقاعًا متنوعًا- بينما يميل النص المُولد بواسطة الذكاء الاصطناعي إلى أن يكون أكثر اتساقًا وانتظامًا في بنية جمله. 

كيف تتدرب برامج الكشف عن المحتوى المولد باستخدام الذكاء الاصطناعي؟

تعتمد أدوات الكشف الحديثة للذكاء الاصطناعي على تصنيفات التعلم الآلي المُدربة على مجموعات بيانات ضخمة تضم نصوصًا مكتوبة بشريًا وأخرى مُولدة بواسطة الذكاء الاصطناعي من نماذج متنوعة، ما يُمكن النظام من تحديد السمات اللغوية المرتبطة بالمحتوى المُنتج بواسطة الذكاء الاصطناعي. 

يجب تحديث أدوات الكشف بالذكاء الاصطناعي وإعادة تدريبها باستمرار على أحدث مخرجات الذكاء الاصطناعي لمواكبة التطور مع ظهور نماذج لغوية جديدة وأكثر تطورًا للذكاء الاصطناعي -مثل GPT-4 وما بعده- تُنتج نصوصًا تُحاكي النصوص البشرية بتزايد.

لماذا تفشل أحيانا هذه البرامج في رصد المحتوى المولد بالذكاء الاصطناعي؟

لا توفر أنظمة الكشف بالذكاء الاصطناعي سوى احتمالات، لا يقينًا. هذا يعني أن هذه الأنظمة قد تُعطي أحيانًا نتائج إيجابية خاطئة -إذ تُصنف النص المكتوب بشريًا خطأً أنه من إنتاج الذكاء الاصطناعي- ونتائج سلبية خاطئة -إذ تفشل في رصد النص المُولد بواسطة الذكاء الاصطناعي. 

قد تُصنف أنماط الكتابة البشرية غير المألوفة -مثل الصياغة غير الأصلية أو الأسلوب الغريب- خطأً أنها من إنتاج الذكاء الاصطناعي، في حين قد يفلت النص المُولد بواسطة الذكاء الاصطناعي، المُموه جيدًا أو المُعاد صياغته بشكل كبير دون أن يُكتشف. 

برامج الكشف عن المحتوى المولد باستخدام الذكاء الاصطناعي وبرامج رصد الاقتباس

تُعالج برامج كشف المحتوى المُولد باستخدام الذكاء الاصطناعي وأنظمة كشف الاقتباس مشكلات مختلفة. 

يبحث نظام كشف الاقتباس عن النصوص المنسوخة من مصادر موجودة بمقارنة النص بقاعدة بيانات ضخمة للمواد المنشورة، في حين يفحص برنامج كشف المحتوى المُولد باستخدام الذكاء الاصطناعي خصائص النص -الأسلوب، بنية الجملة، قابلية التنبؤ- لتحديد ما إذا كان مُولدًا بواسطة الذكاء الاصطناعي. 

هذا يعني أن النص المُولد بواسطة الذكاء الاصطناعي قد يكون أصليًا تمامًا -غير موجود في أي مصدر- ومع ذلك يُكتشف بواسطة برنامج كشف الاقتباس ، بينما قد يفلت نص مكتوب يدويًا منسوخ من مصدر آخر من كشف الذكاء الاصطناعي لأنه لم يُنتج بواسطة الذكاء الاصطناعي.

برنامج كشف المحتوى المُولد باستخدام الذكاء الاصطناعي والرأي البشري

لا يزال الكشف اليدوي عن الكتابة الآلية جزءًا من العملية. يراقب المحررون والمعلمون ذوو الخبرة العلامات الدالة على أن النص مكتوب بواسطة الذكاء الاصطناعي، مثل الأسلوب العام المفرط، والأسلوب المهذب بشكل موحد والذي يبدو خاليًا من المشاعر ويفتقر إلى البصمة البشرية المميزة. 

قد يفحصون أيضًا سجل مراجعة المستند أو حتى سجلات ضغطات المفاتيح للتحقق من عملية الكتابة، إذ يمكن لسجل تطور المسودة أو الكتابة تأكيد أن العمل كُتب بالفعل بواسطة إنسان. 

يُعد التقييم البشري أمرًا بالغ الأهمية، حتى الشركات التي تقف وراء أدوات الكشف تؤكد أن تقييم الذكاء الاصطناعي ليس سوى مؤشر واحد، وأن معرفة أسلوب الكاتب المعتاد والمراجعة الشخصية أمران أساسيان، خاصةً إذا كانت نتائج الكشف محل نزاع. 

الكشف عن محتوى أكثر من مجرد نصوص

تعمل أنظمة الكشف عن المحتوى المُولد بالذكاء الاصطناعي للصور والفيديوهات -مثل أنظمة كشف التزييف العميق- بطريقة مماثلة، وذلك بتحليل العلامات أو الأنماط الدالة من النماذج التوليدية، باستخدام مصنفات مُدربة على أمثلة معروفة مُولدة بالذكاء الاصطناعي مقارنةً بالصور الأصلية.

إن أنظمة الكشف المرئي هذه لا تُقدم سوى تقديرات احتمالية كما هو الحال مع أنظمة كشف النصوص، وتُعاني قيودًا كبيرة في الدقة، فهي تتطلب بيانات تدريب واسعة النطاق، وقد تُنتج نتائج سلبية أو إيجابية خاطئة، خاصةً مع ظهور تقنيات توليدية جديدة.

كيف تستخدم محركات البحث ويستخدم الناشرون هذه البرامج؟

أوضحت محركات البحث الرئيسية -مثل جوجل- أنها تهتم بجودة المحتوى وفائدته، بصرف النظر عن مصدره سواء كان بشريًا أو آليًا. تسعى المنصات الإلكترونية لتصفية المحتوى الرديء أو المزعج أو غير المفيد، بصرف النظر عن طريقة إنتاجه، بدلًا من حظر جميع المحتويات المُولدة بواسطة الذكاء الاصطناعي. 

يتضمن الاستخدام المسؤول للمحتوى المُولد بواسطة الذكاء الاصطناعي عادةً الشفافية بشأن استخدام الذكاء الاصطناعي -مثل الإفصاح عن استخدامه أو الإشارة إليه عند الاقتضاء- والتحرير البشري الدقيق والتحقق من صحة مخرجاته، وإضافة خبرات أو رؤى بشرية حقيقية قبل النشر. 

تجدر الإشارة إلى أن حصول المحتوى على تقييم عال من قبل نظام الكشف لا يعني بالضرورة أنه رديء أو غير أخلاقي، إذ يمكن قبول المحتوى المُولد بواسطة الذكاء الاصطناعي إذا كان عالي الجودة وخضع لمراجعة بشرية. 

إلى أي مدى نستطيع الاعتماد على برامج الكشف عن المحتوى المُولد باستخدام الذكاء الاصطناعي؟

يمكن لهذه البرامج أن توفر إشارة مفيدة، لكنها ليست آلات حكم نهائية، فمخرجاتها مجرد مؤشر على مصدر الكتابة، وليست دليلًا قاطعًا. تواجه هذه الأنظمة صعوبة أكبر في تمييز النصوص المكتوبة بواسطة الذكاء الاصطناعي، ما يؤدي إلى انخفاض موثوقيتها مع ازدياد تطور نماذج الذكاء الاصطناعي واقترابها من البشر.  يكمن النهج الأمثل في فهم حدود هذه الأنظمة، وتجنب الاعتماد المطلق على نتائج الكشف، والحرص دائمًا على إشراك التقييم والمراجعة البشرية إلى جانب أي نتيجة كشف آلية.