دراسة بريطانية تكشف ثغرات في نماذج الذكاء الاصطناعي

كشفت منظمة "Tech Against Terrorism" البريطانية المتخصصة في إدارة الفعاليات والتجارب، أن الغالبية الساحقة من نماذج الذكاء الاصطناعي التي خضعت لاختباراتها قدمت معلومات قد تساعد في التخطيط لهجمات جماعية إرهابية أو تصنيع أسلحة فتاكة.؜

وقالت المنظمة في تقرير نشرته على موقعها الرسمي، إنها اختبرت 134 نموذجاً متقدماً للغة، فتبين أن 132 منها قدمت بدرجات متفاوتة إرشادات أو معلومات يمكن أن يستفيد منها مهاجم محتمل، فيما أخفقت جميع النماذج الـ13 التي أزيلت منها ضوابط السلامة والأمان في اجتياز الاختبارات.؜

نتائج الاختبارات

واعتمدت المنظمة التي تتخذ من لندن مقراً لها في تقييمها على معيار "CT-AI Benchmark"، حيث وُجهت إلى النماذج 627 استفساراً تحاكي الأسئلة التي قد يطرحها شخص يخطط لتنفيذ هجوم، وأظهرت النتائج أن 81 نموذجاً قدم إجابات كاملة، بينما وفر 51 نموذجاً آخر معلومات أو نصائح مفيدة.؜

وفي السياق ذاته، توصل الباحثون إلى أن إزالة تدابير الحماية من أحد النماذج المتقدمة استغرقت أقل من ثلاثة أيام فقط، مشيرين إلى أن طريقة تقديم السؤال كانت أكثر تأثيراً من محتواه نفسه.؜

صياغة الطلب

وأظهرت الدراسة أن عندما صرّح المستخدم بأنه إرهابي يخطط لهجوم، حصل على إجابات مفيدة في أقل من 2% من الحالات، أما عندما قدم نفسه على أنه باحث في مجال السلامة والأمن، فقد ارتفعت نسبة الحصول على إجابات مفيدة إلى 16.9%.؜

من جهته، قال مؤسس المنظمة آدم هادلي، إن "النموذج الذي يرفض الإجابة على إرهابي معلن، لكنه يقدم المعلومات نفسها لباحث يعلن صفته، ليس نموذجاً آمناً، بل مجرد نموذج أكثر تهذيباً في طريقة الرفض".؜

مطالب المنظمة

ودعت المنظمة مطوري أنظمة الذكاء الاصطناعي إلى استبعاد المحتوى الخطير والمواد المرتبطة بالتطرف والإرهاب من بيانات التدريب، وإجراء اختبارات صارمة لتقييم مدى سهولة تجاوز تدابير الحماية قبل طرح النماذج للاستخدام العام.؜

كما طالبت الشركات التي تستضيف أو تروج أو تبيع النماذج الذكية بعدم إتاحة النسخ المعدلة التي تفشل في اختبارات السلامة عبر محركات البحث أو متاجر التطبيقات، وفرض إجراءات تحقق من الهوية على المستخدمين قبل منحهم إمكانية الوصول إليها.؜

نقلاً عن وكالة الأنباء السورية SANA