اكتشف باحثون من جامعتي "هونغ كونغ" و"تسينغهوا" مدى سهولة تمكّن الذكاء الاصطناعي من التأثير على قرارات يتخذها الإنسان. وفي تجربة شارك فيها 233 شخصا، جعل التحيز الخفي للذكاء الاصطناعي المشاركين يختارون موقفا أقل فائدة بمقدار خمس أو ثماني مرات. ومع ذلك، ما زال المشاركون يعتبرون الذكاء الاصطناعي مساعدا مفيدا.
تبيّن أن هذا الانحياز الصغير كان كافيا لتغيير سلوك المشاركين بشكل ملحوظ. فقد اختاروا موقفا غير مفيد لهم أكثر مما كانوا سيختارونه في ظروف بلا تأثير مماثل. ووفقا للموقف ارتفع احتمال اتخاذ قرار غير مثالي بما يصل إلى 38%.
وتجدر الإشارة بصورة خاصة إلى أن المشاركين واصلوا تقييم مساعدة الذكاء الاصطناعي بدرجة عالية حتى بعد أن أدت نصائحه إلى قرارات أقل ملاءمة. واستمروا في وصف المساعد الذكي بأنه محاور مفيد، ولم يلحظوا بالضرورة أنه يوجّه اختيارهم في اتجاه معين.
هذا يخلق مشكلة في تفاعل الإنسان مع الذكاء الاصطناعي، حيث قد يثق المستخدم بالمساعد الذكي لأن ردوده تبدو هادئة ومتسقة وموضوعية. وإذا كان وراء التوصيات هدف خفي، فقد يكون من الصعب إدراك التأثير.
اترك تعليقاً
شاركنا رأيك في الخبر