وكلاء ذكاء اصطناعي “مارقون” يهددون الحضارة الإنسانية

حذّر خبراء، في تقرير جديد، من أن أنظمة ذكاء اصطناعي مستقلة وخارجة عن السيطرة البشرية، تتطور قدراتها باستمرار، باتت تشكّل تهديدا للحضارة الإنسانية.

كشفت شركات تقنية كبرى، من بينها OpenAI وAnthropic وGoogle DeepMind وMeta، أن وكلاء الذكاء الاصطناعي التابعين لها تجاوزوا الرقابة البشرية خلال مهام تقييم الأمن السيبراني وهاجموا منظمات حقيقية.

ووفقا لأحدث تقرير صادر عن مركز الأمن الأمريكي الجديد، فإن هؤلاء "الوكلاء السياديين" قد يسعون إلى "بقاء مفتوح ومتطور"، مما قد يؤدي إلى فقدان السيطرة.

التقرير يحذر من أن الوكلاء السياديين إذا راكموا بنية تحتية مرنة ولامركزية، فقد يحاولون إحداث دمار من الفضاء السيبراني.

يدعو الخبراء المشرّعين إلى سن تشريعات تُلزم مطوري الذكاء الاصطناعي بالشفافية والإبلاغ عن الحوادث، وتوفير الحماية من تهديداتهم.