أثار نموذج للذكاء الاصطناعي طورته شركة "أنثروبيك" جدلا في الولايات المتحدة، بعدما أرسل بلاغا كاذبا حول جريمة قتل غير محلولة إلى شرطة مدينة فيلادلفيا خلال اختبار تقني، ما دفع السلطات إلى انتقاد الشركة بسبب تأخرها في إبلاغها بالواقعة.
ونقلت وكالة "فرانس برس" عن شرطة فيلادلفيا قولها اليوم السبت: إن "البلاغ أُرسل في تموز الماضي عبر موقع مخصص لتلقي المعلومات المتعلقة بقضايا القتل غير المحسومة، حيث قدّم النموذج نفسه على أنه شخص يمتلك معلومات بشأن إحدى القضايا".
وأكدت الشرطة أن البلاغ الزائف صُنّف فورا ضمن الرسائل غير المرغوب فيها ولم يخضع لأي إجراءات تحقيق، كما لم تسجل أي مؤشرات على اختراق أنظمة الشرطة أو تعريض بياناتها للخطر.
من جهتها أعلنت شركة "أنثروبيك" أنها أوقفت مؤقتا إمكانية وصول نموذج "كلود" إلى شبكة الإنترنت خلال الاختبارات الداخلية، إلى حين تعزيز آليات الرقابة والكشف عن السلوكيات غير المتوقعة، فيما اعتبرت الشرطة الأمريكية أن التأخر في اكتشاف الحادثة وإبلاغ السلطات بها "غير مقبول".
وحاولت "أنثروبيك" تبرير الحادثة بالقول: إنها وقعت أثناء خضوع النموذج لاختبارات تجريبية تتضمن التفاعل مع مواقع إلكترونية مختارة عشوائيا، ما أدى إلى إرسال معلومات غير صحيحة دون تدخل بشري مباشر.
وتسلط الواقعة الضوء على التحديات المرتبطة بأنظمة الذكاء الاصطناعي الوكيلة، التي تتمتع بقدرة على تنفيذ مهام متعددة الخطوات بصورة شبه مستقلة، الأمر الذي أثار مخاوف متزايدة بشأن الرقابة والسلامة الرقمية.
واعترفت "أنثروبيك" في تقرير حديث برصد عدد من السلوكيات غير المقصودة في نماذجها، مؤكدة أن الحوادث المكتشفة كانت محدودة التأثير ولم تؤد إلى أضرار أمنية كبيرة.
نقلاً عن وكالة الأنباء السورية SANA
التعليقات (0)