ساما نيوز
ماذا لو قلت لك إن الذكاء الاصطناعي لا يعرف الفرق بين الحقيقة والخيال؟
وأنه يمكنه اختراع إحصاءات، عواصم، كتب، بل وحتى أشخاص، ويخبرك بها بثقة مرعبة؟
مرحباً بك في عالم «هلوسة الذكاء الاصطناعي».. ستكشف لك «عكاظ» في هذا التقرير الخطر القادم الذي يهدّد كل من يستخدم هذه الأدوات دون وعي.
«هلوسة الذكاء الاصطناعي» تحدث عندما تنتج النماذج محتوى زائفاً يبدو حقيقيّاً 100%.
قد يخترع النموذج كتاباً غير موجود، أو يزيف معلومة طبية، أو يعطيك رقماً وهميّاً.. ويقدمه لك كأنه واثق أنه حق لا ضلال بعده.
لماذا يهلوس الذكاء؟
إذا تدرب النموذج على بيانات ناقصة أو منحازة.. فمصيره الكذب.
النموذج يتنبأ بالكلمة التالية فقط، لا يفهم معناها.
لو طرحت أسئلة مشوشة على شاكلة «ما قصة فتاة القرش؟» قد ينتج عنها سيناريو وهمي كامل من عقل الآلة.
إذا تدرب النموذج كثيرًا على عيّنة معينة، يصبح عبداً لها.
أنواع الهلوسة
خطأ واقعي: مثل تاريخ خاطئ أو بلد غير موجود.
معلومة مختلقة: مصدر وهمي، أو شخص غير حقيقي.
سخرية تتحول لحقيقة: مثل توصية بأكل الصخور (حدث فعلًا!).
كيف تُدمر الشركات بسبب هذا؟
خسرت Google 100 مليار دولار بسبب إجابة وهمية.
ألغي آلاف المستخدمين اشتراكاتهم بسبب إجابات هلوسية.
قراصنة يستخدمون مكتبات برمجية وهمية اختلقها الذكاء الاصطناعي نفسه!
كيف تتصدى لهذه الكذبة الجميلة؟
بمعنى أن تدع النموذج يستند إلى مصدر خارجي موثوق.
اسأل بوضوح.. تحصل على إجابة دقيقة.
كفّ عن تغذية النماذج بـ «مخلفات وتفاهات الإنترنت».
امنحه حق قول «لا أعلم»
أفضل من أن يؤلف هراء يبدو ذكيّاً.
حلول ذكية.. لا يذكرها أحد:
درّب النموذج على تقارير رسمية، وليس تغريدات.
- خصص النموذج لمجال واحد (طب، قانون، صحافة… الخ).
- اختبر النموذج في سيناريوهات حساسة قبل الإطلاق.
الذكاء الاصطناعي ليس ذكيّاً.. إنه مقلّد محترف، وأحياناً كاذب خطير.
إذا لم تتعامل معه باحترام وذكاء وصرامة، فستكون ضحيته التالية.
