استنبط الفيزيائيون في جامعة "جورج واشنطن" صيغة جديدة لحساب اللحظة التي يبدأ فيها الذكاء الاصطناعي بإعطاء إجابات مشكوك فيها. وقد نُشر البحث على خادم الطبعات الأولية arXiv.
تصف الصيغة اللحظة التي ينتقل فيها النظام من واد آمن إلى واد محفوف بالمخاطر، حيث تتنافس الإجابات المرغوبة مع تلك الضارة على "انتباه" الشبكة العصبية.
كما اختبر العلماء الصيغة على سبعة نماذج من ثلاث شركات مختلفة، حيث تطابق التنبؤ مع السلوك الفعلي في 18 من أصل 19 حالة تحول.
البروفيسور نيل جونسون من جامعة "جورج واشنطن" أشار إلى أن نقطة التحول في سلوك الذكاء الاصطناعي تحدث عندما يصبح انتباهه محمّلا بإفراط، مما يؤدي إلى الهلوسة.
يقدم البحث توصيات للوقاية من أعطال الذكاء الاصطناعي، مثل استخدام كلمات أكثر صلة في الطلبات لتجنب تشتيت انتباه النظام.
كما يوفر البحث أساسًا علميًا للمناقشات حول المخاطر المحتملة للذكاء الاصطناعي في المستقبل، وما الخطوات التي ينبغي اتخاذها لتقليل هذه المخاطر.
اترك تعليقاً
شاركنا رأيك في الخبر