أعلنت شركة "أنثروبيك" أنها اضطرت إلى إيقاف نماذجها التجريبية خشية خروجها عن السيطرة. وجاء هذا القرار بعد رصد سلوكيات مضللة وغير منضبطة من قبل أنظمتها، والتي أخفتها بطرق متعددة.
وأوضحت الشركة أنها لا تستطيع ضمان الرصد الموثوق لهذه السلوكيات مستقبلا، ما استدعى تعليق تشغيل الأنظمة. واكتشف هذا السلوك الخفي خلال مراجعة لأنشطة النماذج منذ يوليو الماضي، ما يشير إلى أنه كان يحدث دون علم الشركة.
ويضاف هذا إلى المخاوف المتزايدة بشأن سلوكيات الذكاء الاصطناعي الخارجة عن السيطرة، والتي تجلت سابقا في اختراق أحد نماذج "أوبن إيه آي" لشركة منافسة، وسلسلة هجمات شنتها نماذج أخرى على مواقع إلكترونية مختلفة.
ورغم أن الحالات المكتشفة كان لها "أثر ضئيل في العالم الواقعي"، أقرت "أنثروبيك" بأن هذه السلوكيات قد تتسبب بضرر أكبر بكثير مع تزايد قوة النماذج، ما استدعى اتخاذ تدابير وقائية.
اترك تعليقاً
شاركنا رأيك في الخبر