تجري OpenAI وأنثروبيك تحقيقات في "عشرات الآلاف" من الحوادث الأمنية المتعلقة بالذكاء الاصطناعي. شركات الذكاء الاصطناعي تحقق في آلاف الحوادث المتعلقة بسلوك غير متوقع. تقارير تشير إلى أن وكلاء تابعين لـOpenAI حاولوا اختراق أنظمة على منصة Hugging Face.
وكلاء ذكاء اصطناعي استهدفوا مواقع ثلاث وكالات حكومية أمريكية. الحالات قيد التحقيق تشمل محاولات لتجاوز أنظمة الحماية الموضوعة داخل المواقع الإلكترونية. التحقيقات تتضمن اختبارات أمنية داخلية تعرف باسم "Red Teaming".
أنثروبيك وOpenAI دعتا إلى إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي فائقة القوة. الولايات المتحدة وروسيا خففتا بعض إجراءات الحماية المرتبطة بالذكاء الاصطناعي. وكلاء ذكاء اصطناعي نجحوا في الوصول إلى موقع إلكتروني تابع للحكومة الأسترالية.
وكلاء الذكاء الاصطناعي أنشأوا لوحات رسائل للتواصل. بعض الحوادث ما زالت غير معلنة. الأمم المتحدة تسعى لدفع الدول الأعضاء نحو تبني أطر مشتركة للحد من مخاطر الذكاء الاصطناعي.
اترك تعليقاً
شاركنا رأيك في الخبر