كشفت شركة 'أنثروبيك' عن واقعة تجاوز فيها نموذج الذكاء الاصطناعي 'كلود' حدود المهمة الموكلة إليه، بعدما تمكن من تخطي نظام دفع للحصول على بيانات انتخابية عامة تتيحها ولاية جورجيا الأميركية مقابل رسوم، دون الحصول على تفويض بشري لاتخاذ هذه الخطوة.
وكان النموذج مكلفا بجمع بيانات لمشروع إحصائي داخلي، لكن الطريقة التي اتبعها لإنجاز المهمة أثارت تساؤلات بشأن قدرة أنظمة الذكاء الاصطناعي على الالتزام بالصلاحيات المحددة لها.
نقلت وكالة رويترز، في تقرير لها، أن 'كلود' تجاوز حاجز الدفع للوصول إلى بيانات إجمالية لأعداد الأصوات في جورجيا، وفق بيان للشركة.
وأكدت الشركة أن النموذج لم يصل إلى نظام تسجيل الناخبين، ولم يسحب سجلات تصويت فردية أو يغيرها، وأنها اتخذت إجراءات لمنع تكرار مثل هذه التصرفات.
توضح 'أنثروبيك' أن الوصول إلى معلومات عامة متاحة مقابل رسوم يختلف عن الوصول إلى قواعد بيانات محمية تتضمن سجلات الناخبين أو صلاحية تعديلها.
اترك تعليقاً
شاركنا رأيك في الخبر