مايكروسوفت تحذّر من المخاطر الأمنية لوكلاء الذكاء الاصطناعي

حذّرت شركة مايكروسوفت من المخاطر الأمنية المتزايدة لوكلاء الذكاء الاصطناعي داخل المؤسسات، مؤكدةً أن النماذج المتقدمة لا يمكن الوثوق بها بالكامل، حتى عندما تطوّرها شركات متخصصة. وأعلنت الشركة عن أدوات جديدة لمراقبة سلوك هؤلاء الوكلاء، وتقييد صلاحياتهم، والحد من المخاطر التي قد تنجم عن قراراتهم.

وأعلنت مايكروسوفت ميزة “Guardian Agents” المصممة لمراقبة وكلاء الذكاء الاصطناعي الذين تستخدمهم المؤسسات. وتندرج الميزة ضمن مشروع “Project Perception”، الذي أطلقته الشركة في يونيو الماضي لتعزيز قدرات الأمن السيبراني المدعومة بالذكاء الاصطناعي.

لكن مايكروسوفت باتت تحذّر من مصدر آخر للخطر، وهو وكلاء الذكاء الاصطناعي الذين تنشرهم المؤسسات داخل أنظمتها، إذ قد يتصرفون بصورة غير متوقعة، أو يتخذون قرارات تضر بالبيانات والعمليات الحساسة. ويشبه هذا السيناريو ما يُعرف أمنيًا باسم “التهديد الداخلي”.

وحذّر الرئيس التنفيذي لمايكروسوفت، ساتيا ناديلا، من الاعتماد الكامل على ضمانات الأمان التي تقدمها الشركات المطوّرة لوكلاء الذكاء الاصطناعي، داعيًا المؤسسات إلى إنشاء أنظمة مستقلة لمراقبتهم والتحكم في تصرفاتهم.

وأكد ناديلا أن المؤسسات تمنح هذه الأنظمة إمكانية الوصول إلى بيانات شديدة الحساسية، بالإضافة إلى صلاحيات تنفيذ عمليات بالغة الأهمية، مما يجعل مسؤولية مراقبة سلوكها أمرًا لا يمكن تفويضه بالكامل إلى الشركات المطوّرة.