ذكرت أوبن أيه.آي أن الإجراءات تتضمن قيام الأنظمة الآلية بمراقبة أنشطة نماذج الذكاء الاصطناعي خلال الاختبارات بصورة أشد صرامة وإبلاغ المسؤولين البشر بأي سلوك مشبوه يمكن رصده كل 30 دقيقة. وإذا لم يكتشف البشر أن الإنذار خطأ سيتم وقف نشاط نموذج الذكاء الاصطناعي.
والأمر المثير للقلق هو أن الذكاء الاصطناعي تصرف بمبادرة منه تماما، ولم تكتشف أوبن أيه.آي الهجوم إلا بعد وقوعه. وقد أدى ذلك إلى مطالبات بتعزيز الأمن المحيط باختبارات أنظمة الذكاء الاصطناعي الجديدة.
وظهر لاحقا أن نماذج طورتها شركتا أنثروبيك المنافسة لأوبن أيه.آي وشركة ميتا المالكة لفيسبوك قد اخترقت أيضًا أنظمة شركات أخرى أثناء الاختبار.
وقد تم تعليق بعض اختبارات نماذج الذكاء الاصطناعي الجديدة لحين تطبيق الإجراءات الجديدة بالكامل.
اترك تعليقاً
شاركنا رأيك في الخبر