MIT-Med-Segmentation-01-press

إن الإجابة بـ «لا أعرف» في المواقف عالية المخاطر مثل الرعاية الصحية أكثر أمانًا من إعطاء إجابة خاطئة. يدرك ذلك الأطباء، ومشتركو برامج المسابقات، وممتحنو الاختبارات المعيارية، لكن ما تزال معظم تطبيقات الذكاء الاصطناعي تفضل تقديم إجابة خاطئة محتملة بدلاً من من الإقرار بالشك.

يظن خبراء علوم الحاسوب في جامعة جونز هوبكنز أنهم توصلوا إلى حل يتمثل في أسلوب جديد يتيح لنماذج الذكاء الاصطناعي التفكير بعمق أكبر قبل الإجابة، ويعتمد على مؤشر للثقة يحدد متى ينبغي للنظام أن يقول: «لا أعرف»، بدلاً من المجازفة بإعطاء إجابة خاطئة، وهو أمر بالغ الأهمية في مجالات عالية المخاطر مثل الطب والقانون والهندسة.

يقول المؤلف الأول ويليام جوراي، وهو طالب دكتوراه في علوم الكمبيوتر التابع لمركز معالجة اللغة والكلام في كلية وايتنج للهندسة: «بدأ كل شيء عندما رأينا أن نماذج اللغة الكبيرة والمتطورة تستهلك وقتًا أطول في التفكير لحل المشكلات الأكثر صعوبة، فتساءلنا: هل يمكن لهذا الوقت الإضافي في التفكير أن يساعد النماذج في التحقق من حل المشكلة على نحو صحيح حتى يتمكنوا من إبلاغ المستخدم بذلك؟».

للتحقق، جعل الفريق نماذج اللغة الكبيرة تولّد سلاسل استدلالية بأطوال مختلفة في أثناء حلها مسائل رياضية صعبة، ثم قاسوا تأثير طول السلسلة في الإجابة النهائية للنموذج ومستوى ثقته بها. واشترط الباحثون على النماذج عدم تقديم إجابة إلا إذا تجاوزت درجة الثقة لديها حدًا معينًا، ما يعني أن قول «لا أعرف» كان مقبولًا في بعض الحالات.

وجد الباحثون أن منح النماذج مزيدًا من الوقت للتفكير يعزز دقتها وثقتها بالإجابات عمومًا. ومع ذلك، قد تظل النماذج تقدم تخمينات عشوائية أو إجابات خاطئة، خاصًة عند غياب العقوبات على الإجابات غير الصحيحة. والمفارقة أن الباحثين اكتشفوا انخفاض دقة النماذج فعليًا عند وضع مستوى عالٍ من الثقة والسماح لها بالتفكير لوقت أطول.

يوضّح جوريج: «يحدث ذلك لأن دقة الإجابة ليست سوى جزءًا من أداء النظام. فعندما نشترط مستوى عالٍ من الثقة ونمنح النظام وقتًا أطول للتفكير، فإنه سيقدّم عددًا أكبر من الإجابات الصحيحة، لكن أيضًا المزيد من الإجابات الخاطئة. وفي بعض السياقات، يكون الحصول على هذه الدقة الإضافية جديرًا بالمخاطرة، أما في البيئات عالية المخاطر، فالأمر ليس كذلك دائمًا».

اقترح الفريق انطلاقًا من هذه النتيجة، ثلاثة أنماط مختلفة لتحديد كيفية التعامل مع الإجابات الخاطئة على صعيد المكافآت والعقوبات. النمط الأول، الاختبارات، إذ لا تُفرض عقوبة على الإجابات الخاطئة.
النمط الثاني، على غرار برنامج "المحك"، إذ تُكافأ الإجابات الصحيحة بنفس القدر الذي تُعاقب به الخاطئة.

والنمط الثالث، النمط عالي المخاطر، إذ تُعاقب الإجابات الخاطئة أشد مما تُكافأ به الصحيحة.

وجد الباحثون أنه في ظل شروط أكثر صرامة، ينبغي للنموذج رفض الإجابة على السؤال إذا لم يكن واثقًا بما يكفي من إجابته بعد استنفاذ ميزانية الحوسبة الخاصة به. تبقى المزيد من الأسئلة دون إجابة عند رفع عتبة الثقة، لكن هذا ليس بالضرورة أمرًا سيئًا.

يقول جوريج: «ليس مستغربًا أن ينزعج الطالب قليلًا من انتظاره عشر دقائق ليكتشف أنه مضطر لحل المسألة الرياضية بنفسه لأن الذكاء الاصطناعي لم يجزم بالإجابة، لكن في البيئات عالية المخاطر، يُعد هذا أفضل بكثير من انتظار خمس دقائق للحصول على إجابة تبدو صحيحة لكنها في الواقع خاطئة».

يشجع الفريق الآن مجتمع الباحثين في الذكاء الاصطناعي إلى مشاركة نتائج أداء نماذجهم في الإجابة عن الأسئلة وفق نمطي الاختبارات وبرنامج "لمحك"، ليتمكّن الجميع من تطوير أنظمة أكثر دقة في معايرة مستوى الثقة.

يقول جوريج: «نأمل أن يقبل مجتمع الأبحاث دعوتنا للإبلاغ عن أداء الذكاء الاصطناعي في البيئات التي يُفرض فيها تكاليف على الإجابات الخاطئة، ومن ثم تطوير أساليب أفضل لقياس عدم اليقين».

اقرأ أيضًا:

<a href="https://www.ibelieveinsci.com/%d8%a7%d9%84%d8%b0%d9%83%d8%a7%d8%a1-%d8%a7%d9%84%d8%a7%d8%b5%d8%b7%d9%86%d8%a7%d8%b9%d9%8a-%d9%81%d9%8a-%d9%85%d9%88%d8%a7%d8%ac%d9%87%d8%a9-%d8%a7%d9%84%d8%b9%d9%82%d9%84-%d8%a7%d9%84%d8%a8%d8%b4/">الذكاء الاصطناعي في مواجهة العقل البشري: من الأذكى حقًا؟</a>

<a href="https://www.ibelieveinsci.com/%d9%87%d9%84-%d9%81%d9%82%d8%af%d9%86%d8%a7-%d8%a7%d9%84%d8%b3%d9%8a%d8%b7%d8%b1%d8%a9%d8%9f-%d8%a7%d9%84%d8%b0%d9%83%d8%a7%d8%a1-%d8%a7%d9%84%d8%a7%d8%b5%d8%b7%d9%86%d8%a7%d8%b9%d9%8a-%d9%8a%d9%86/">هل فقدنا السيطرة؟ الذكاء الاصطناعي ينسخ نفسه ويصدم العلماء!</a>

ترجمة: رؤى بستون

تدقيق: ريم الجردي

مراجعة: باسل حميدي

<a href="https://techxplore.com/news/2025-06-method-ai-uncertainty.html">المصدر</a>

مقترح جديد لجعل الذكاء الاصطناعي يرفض الإجابة في المواضيع الحساسة إن لم يتأكد من دقتها

phpGAKriO

<h1 class="ql-direction-rtl ql-align-center">قرد داروين الصيني: أكبر كمبيوتر فائق مستوحى من الدماغ البشري</h1> كشف علماء في الصين عن قرد داروين، وهو حاسوب فائق ببنية مشابهة لدماغ قرد المكاك تحديدًا، وهو على قدم المساواة تقريبًا مع هذه البنية العصبية لاحتوائه أكثر من ملياري خلية عصبية اصطناعية وأكثر من 100 مليار مشبك عصبي. يأمل الباحثون أن يكون بمثابة أداة محاكاة مهمة لعلماء الأعصاب، وأن يمثل في الوقت نفسه خطوًة نحو الذكاء الاصطناعي العام، وهو نظام ذكاء اصطناعي يتمتع بذكاء وقدرة على التفكير تشبه ذكاء الإنسان. تتبع الشبكات العصبية الاصطناعية التقليدية مبادئ الحوسبة الكلاسيكية وتعالج البيانات باستخدام قيم ثنائية متغيرة باستمرار. أما أنظمة الحوسبة العصبية -ذات الشكل العصبي- مثل قرد داروين فتعتمد على الشبكات العصبية النابضة، التي تحاكي الإشارات المنقولة بين العصبونات في دماغ الثدييات، وذلك بالاستجابة لإشارات كهربائية لنقل بيانات بدفعات متقطعة -نبضات من النشاط. تطلق الخلية العصبية البيولوجية نبضة كهربائية عندما تصل الإشارات التي تتلقاها من خلايا عصبية أخرى إلى مستوى قوي بما يكفي لتحفيز استجابة. تحاكي الخلايا العصبية الاصطناعية في الشبكات العصبية النابضة هذه الآلية، فلا تطلق إشارة إلا عندما توجد مدخلات كهربائية كافية. تُعد الشبكات العصبية القائمة على البرمجيات مجموعة من خوارزميات التعلم الآلي المصممة لمحاكاة الدماغ البشري، بينما تنقل الشبكات العصبية النابضة المعلومات بين خلاياها فيزيائيًا وكأنها نسخة مما يحدث في الخلايا العصبية البيولوجية. ويسمح هذا التصميم للشبكات العصبية بمعالجة البيانات بالتوازي، ما قد يجعلها أقوى من بنى الحواسيب العملاقة التقليدية. وقد تكون أكفأ في استخدام الطاقة أيضًا، إذ تدخل الخلايا العصبية الاصطناعية فترة راحة قصيرة بعد كل نبضة ولا تستطيع الاستجابة للمدخلات الجديدة في أثنائها، ويحد هذا من تكرار نشاطها، ما يساعد على تقليل استهلاك الطاقة الإجمالي. يقول الباحثون إن قرد داروين يستهلك 2000 واط فقط من الطاقة -ما يكافئ مجفف شعر تقريبًا- مع إن تشغيله يعتمد على 960 شريحة داروين العصبية من الجيل الثالث، ويدعم كل منها ما يصل إلى 2.35 مليون خلية عصبية نابضة. <h3 class="ql-align-right ql-direction-rtl">حواسيب عصبية أخرى</h3> كان نظام هالا بوينت من إنتل صاحب الرقم القياسي السابق في الحوسبة العصبية، إذ يضم 1.15 مليار خلية عصبية اصطناعية و128 مليار مشبك عصبي اصطناعي موزعة على 140,544 نواة معالجة. تزعم إنتل أن نظامها قادر على إجراء 20 كوادريليون عملية في الثانية، ولكن من الصعب مقارنتها على أساس مماثل للحواسيب العملاقة، نظرًا إلى قلة عدد الحواسيب العصبية الموجودة حاليًا ولأنها تعالج البيانات بطريقة مختلفة. قال فريق قرد داروين في بيان لهم إن المنصة قد أثبتت بالفعل قدراتها في المهام المعرفية مثل التفكير المنطقي، وتوليد المحتوى، وحل المسائل الرياضية، باستخدام نموذج ذكاء اصطناعي طورته شركة ديبسيك الصينية. وفي إطار توسيع دعم أبحاث علوم الدماغ، يُستخدم قرد داروين لمحاكاة أدمغة الحيوانات ذات مستويات التعقيد العصبي المتفاوتة أيضًا، ومنها سمك الزرد والفئران. يعود تصميم قرد داروين إلى جهود باحثين من جامعة تشجيانغ ومختبر تشجيانغ، وهو معهد أبحاث نشأ بالاشتراك بين حكومة مقاطعة تشجيانغ ومجموعة علي بابا -تكتل تكنولوجي صيني. ويأتي هذا بعد إطلاق فأر داروين ميكي في سبتمبر 2020، الذي يحتوي على 120 مليون خلية عصبية اصطناعية، أي ما يعادل دماغ فأر.

قرد داروين الصيني: أكبر كمبيوتر فائق مستوحى من الدماغ البشري

phpA9MKus

طفل الفضاء الأول: مخاطر الحمل والولادة خارج الأرض تتزايد التساؤلات حول قدرة الجسم البشري على التكيف في الفضاء مع تزايد خطط إرسال بعثات إلى المريخ. ولأن افتراض وجود نساء ضمن طاقم البعثات إلى المريخ منطقي، يأتي السؤال حول إمكانية حدوث الإخصاب والحمل بأمان في الفضاء، وماذا سيحدث لطفل الفضاء المولود بعيدًا عن الأرض؟ مبدأيًا تكفي رحلة الذهاب والإياب إلى المريخ للحمل والولادة، ناهيك بالبعثات المأهولة المحتملة، والتفكير بهذه الأمور بتلك الظروف مهم لأننا عادةً لا نستوعب المخاطر التي تواجهها ولادة طفل في هذا العالم أساسًا. فمثلًا، نسبة الأجنة التي تعيش مدة كافية لاستمرار الحمل والولادة لا تتعدى 66%، إذ تحدث معظم الخسائر في الأسابيع القليلة الأولى بعد الإخصاب، وغالبًا قبل أن تدرك المرأة أنها حامل، وذلك إما بسبب فشل النمو الصحيح للجنين أو عدم انغراسه بنجاح في جدار الرحم. يُعد الحمل سلسلة من المراحل البيولوجية الهامة التي يجب أن تحدث بالترتيب الصحيح، ولكل منها فرصة نجاح محددة. وبوسعنا تقدير هذه الاحتمالات على الأرض باستخدام الأبحاث السريرية والنماذج البيولوجية، لكن البحث الأخير يدرس كيفية تأثر هذه المراحل نفسها بالظروف القاسية للفضاء وبين الكواكب. <h3 class="ql-align-justify ql-direction-rtl">الجاذبية الصغرى</h3> تُعد الجاذبية جزءًا بسيطًا من الصورة، ويُقصد هنا حالة انعدام الوزن شبه التام خلال رحلات الفضاء، وقد تؤثر فيزيائيًا بإمكانية الإخصاب في الفضاء، لكنها على الأرجح لن تؤثر كثيرًا في استمرار الحمل بعد انغراس الجنين. أما فيما يخص نمو الجنين، فهو ينمو أساسًا في ظروف تشبه الجاذبية الصغرى، لأنه يطفو في السائل الأمنيوسي المحايد للطفو داخل الرحم، ومعلقًا ومحميًا. وفي الواقع، يُعد السائل الأمنيوسي المحايد وسيلة يتدرب من خلالها رواد الفضاء على السير في الفضاء ضمن خزانات مياه مصممة لمحاكاة انعدام الوزن. بهذا المعنى، يُعد الرحم محاكيًا طبيعيًا للجاذبية الصغرى. لكن في المقابل، ستكون الولادة ورعاية المولود الجديد أصعب وأعقد بكثير مع انعدام الجاذبية. ففي الفضاء، لا شيء يبقى ثابتًا وكل شيء يطفو حتى السوائل والبشر. إذ تساعد الجاذبية في الأرض في كل شيء، من تثبيت حركة الرضيع إلى رضاعته. <h3 class="ql-align-justify ql-direction-rtl">الإشعاع</h3> خارج طبقات الأرض الواقية، يظهر تهديد أخطر وهو الأشعة الكونية، وهي جسيمات عالية الطاقة (نوى ذرية مجردة) تتحرك في الفضاء بسرعة تقارب سرعة الضوء. إنها ذرات فقدت جميع إلكتروناتها، ولم يتبقَّ منها سوى النواة الكثيفة من البروتونات والنيوترونات. عندما تصطدم هذه النوى العارية بجسم الإنسان، قد تُسبب تلفًا خلويًا خطيرًا. نحظى بحماية من معظم الإشعاعات الكونية على الأرض بفضل الغلاف الجوي السميك للكوكب، وتغطية من المجال المغناطيسي للأرض تمتد من عشرات الآلاف إلى ملايين الكيلومترات (بحسب الوقت من اليوم)، أما في الفضاء، فيختفي هذا الدرع. عندما يمر شعاع كوني عبر جسم الإنسان، فقد يصطدم بذرة، ويجردها من إلكتروناتها، ثم يصطدم بنواتها، ما يؤدي إلى تحلل البروتونات والنيوترونات، تاركًا وراءه عنصرًا أو نظيرًا مختلفًا. قد يُسبب هذا ضررًا موضعيًا شديدًا، أي تدمير الخلايا الفردية أو أجزاء منها، بينما قد يبقى باقي الجسم سليمًا. أحيانًا يمر الشعاع دون أن يصطدم بأي شيء، ولكن إذا أصاب الحمض النووي، فقد يُسبب طفرات تزيد من خطر الإصابة بالسرطان. حتى عندما تنجو الخلايا من الإشعاع، ما زال تحفيزه لاستجابات التهابية ممكنًا، ما يعني أن الجهاز المناعي يُبالغ في ردة فعله، مُطلقًا مواد كيميائية قد تُلحق الضرر بالأنسجة السليمة وتُعطل وظائف الأعضاء. <h3 class="ql-align-justify ql-direction-rtl">مخاطر الحمل</h3> في الأسابيع القليلة الأولى من الحمل، تنقسم الخلايا الجنينية بسرعة، وتتحرك، وتُشكل أنسجةً وهياكلَ مبكرة. يجب أن يبقى الجنين حيًا طوال هذه العملية الدقيقة لكي يستمر نموه، ويُعد الشهر الأول بعد الإخصاب الفترة الأكثر عرضة للخطر. قد تكون ضربة واحدة من شعاع كوني عالي الطاقة في هذه المرحلة قاتلة للجنين. لكن الجنين صغير جدًا، والأشعة الكونية نادرة نسبيًا مع إنها خطيرة. لذا فإن الإصابة المباشرة غير مرجحة، وإذا حدثت فمن المحتمل أن تؤدي إلى إجهاض غير ملحوظ. ومع تقدم الحمل، تتغير المخاطر. وفور اكتمال الدورة الدموية المشيمية (نظام تدفق الدم الذي يربط الأم والجنين) بحلول نهاية الثلث الأول من الحمل، ينمو الجنين والرحم بسرعة. من المرجح الآن أن يصيب الشعاع الكوني عضلة الرحم بسبب النمو الذي جعلها أكبر، ما قد يؤدي إلى انقباضات وربما ولادة مبكرة. ومع إن الرعاية المركزة لحديثي الولادة تحسنت كثيرًا، فإن ولادة الطفل مبكرًا ما زالت تزيد خطر حدوث مضاعفات، سيما في الفضاء. لن يتوقف نمو الرضيع عند الولادة، فالطفل المولود في الفضاء سيستمر في النمو في ظل انعدام الجاذبية، ما قد يؤثر في ردود الفعل الوضعية وتنسيق الجسم، وهي الغرائز التي تساعد الطفل على تعلم رفع رأسه، والجلوس، والزحف، والمشي في النهاية، تعتمد كل هذه الحركات على الجاذبية. وبدون الإحساس بالاتجاه (اعلى وأسفل)، قد تتطور هذه القدرات بطرق مختلفة تمامًا. ولأن دماغ طفل الفضاء يستمر في النمو بعد الولادة، فلا يزول خطر الإشعاع وقد يُسبب التعرض المطول للأشعة الكونية ضررًا دائمًا، ما قد يؤثر في الإدراك والذاكرة والسلوك والصحة على المدى الطويل. <h3 class="ql-align-justify ql-direction-rtl">إذن، هل يمكن ولادة طفل في الفضاء؟</h3> نظريًا، نعم، فمهما كانت مخاطر الحمل والولادة على الأرض، ستتضاعف في الفضاء، لكنها ليست بالضرورة مُعيقة. ولكن إلى أن نتمكن من حماية الأجنة من الإشعاع، ومنع الولادة المبكرة، وضمان نمو الأطفال بأمان في ظل انعدام الجاذبية، يبقى الحمل في الفضاء تجربة عالية المخاطر لسنا مستعدين لخوضها بعد.

رؤى بستون

الأعمال

مقترح جديد لجعل الذكاء الاصطناعي يرفض الإجابة في المواضيع الحساسة إن لم يتأكد من دقتها

قرد داروين الصيني: أكبر كمبيوتر فائق مستوحى من الدماغ البشري

طفل الفضاء الأول: مخاطر الحمل والولادة خارج الأرض