طور باحث روسي منهجية جديدة للكشف عن الأخطاء المنطقية في سلاسل الاستدلال التي تنتجها نماذج الذكاء الاصطناعي، حتى عندما تصاغ استنتاجاتها بأسلوب متماسك ومقنع.
ومن شأن هذه التقنية أن تعزز موثوقية استخدام الذكاء الاصطناعي في المجالات الطبية والقانونية والعلمية، التي قد تترتب على الأخطاء فيها عواقب خطيرة.
أعلن مركز التواصل العلمي في معهد موسكو للفيزياء والتكنولوجيا أن المنهجية الجديدة تعتمد على تحليل البنية المنطقية لاستدلالات نماذج اللغة الكبيرة، والتمييز بين التفسيرات القائمة على أدلة متماسكة وتلك التي تتضمن استنتاجات غير مبررة.
وقال الباحث بوريس غاليتسكي إن مخرجات الذكاء الاصطناعي لا تقتصر أخطاؤها على اختلاق المعلومات، بل قد تتضمن أيضا سلاسل استدلال تبدو منطقية ظاهريا، لكنها تقوم على روابط واستنتاجات غير سليمة.
وأوضح أن هذه الأخطاء تكتسب خطورة خاصة عند التعامل مع أسئلة طبية أو قانونية أو علمية معقدة، تتطلب جمع أدلة متباينة ومقارنتها.
لاختبار المنهجية، أعد الباحث مجموعة بيانات تضم نحو ألف شكوى طبية افتراضية، ووضع لكل حالة مسارين للاستدلال أنتجهما الذكاء الاصطناعي.
وقسمت النصوص إلى مقاطع دلالية قصيرة، ثم خضعت للتحليل باستخدام خوارزمية تصنيف متخصصة، أظهرت قدرتها على التمييز بين الاستدلالات الصحيحة والخاطئة في 81% من الحالات.
وارتفعت دقة الكشف إلى 84% عند إضافة تحليل محتوى النصوص وخصائص أخرى للمخرجات.
ويرى غاليتسكي أن اختلاف البنية الداخلية للاستدلالات الخاطئة عن السليمة يتيح إمكانية رصد الخلل قبل أن تعتمد نماذج الذكاء الاصطناعي على تلك الاستنتاجات.
قد تمثل المنهجية أساسا لتطوير أدوات تحقق إضافية من استدلالات نماذج اللغة الكبيرة، مما يعزز موثوقيتها في المجالات التي قد تؤدي فيها الأخطاء إلى عواقب خطيرة.








اترك تعليقاً
شاركنا رأيك في الخبر