كشف تقرير جديد أصدرته شركة Telus Digital عن فجوات سلامة الذكاء الاصطناعي في النماذج التوليدية الكبرى. وأظهرت النتائج أنه يمكن توجيه جميع النماذج المختبرة نحو سلوكيات غير آمنة تحت ظروف معينة.
واعتمد الإصدار الثاني من مؤشر سلامة نماذج الذكاء الاصطناعي التوليدي على إجراء أكثر من 620 ألف اختبار عدائي. وشملت الاختبارات 34 نموذجاً من 10 مزودين عالميين، بما في ذلك OpenAI وGoogle وMeta وAnthropic.
تحليل فجوات سلامة الذكاء الاصطناعي في النماذج الحديثة
وأظهرت الاختبارات أن معدلات تعرض النماذج للاختراق تراوحت بين 1.3% و93%، حيث يشير المعدل الأقل إلى نموذج أكثر أماناً. وحققت نماذج Claude من شركة Anthropic خمسة من أدنى عشرة معدلات اختراق في المؤشر. ومع ذلك، أشار التقرير إلى أن معدلات الفشل الفردية تظل غير مقبولة في بيئات الشركات الحساسة.
وحدد البحث حجم النموذج وقدرته على الاستنتاج كأبرز العوامل المؤثرة في مرونته الأمنية. وسجلت نماذج الاستنتاج معدل اختراق بلغ 19.9% مقارنة بنسبة 55.1% للنماذج القياسية. وفي الوقت نفسه، ظلت النماذج الأصغر حجماً هي الأكثر عرضة للهجمات سواء كانت مفتوحة أو مغلقة المصدر.
تصنيفات المخاطر وسلوكيات النماذج
وأوضح المؤشر أن فجوات سلامة الذكاء الاصطناعي تتركز بوضوح في مجالات استغلال الخصوصية والاحتيال وتهديدات الأمن السيبراني. ورصد الباحثون نمطاً يسمى “الرفض مع المشاركة”، حيث يرفض النموذج الطلب الضار لكنه يقدم معلومات ذات صلة قد تسبب ضرراً.
كما أظهرت الدراسة أن النماذج مفتوحة المصدر ليست أقل أماناً بالضرورة من النماذج المغلقة. وعلى سبيل المثال، تفوق نموذج GLM 4.7 من شركة Zhipu AI الصينية على العديد من البدائل التجارية المغلقة.
فجوة الإنفاق بين التقنية والأمن
وسلط التقرير الضوء على التباين الكبير في الإنفاق داخل قطاع الذكاء الاصطناعي العالمي. فبينما يتوقع أن يصل الإنفاق على هذه التقنيات إلى 2.52 تريليون دولار في عام 2026، لن يتجاوز الإنفاق على إدارة المخاطر والأمن 3.4 مليار دولار. ويعني ذلك تخصيص دولار واحد للأمن مقابل كل 735 دولاراً يتم إنفاقها على القدرات التقنية.
ونتيجة لذلك، أفادت 86% من المؤسسات بأنها تعرضت بالفعل لحوادث أمنية مرتبطة بهذه التقنيات. ويؤكد هذا الخلل في التمويل حاجة الشركات إلى تعزيز استراتيجيات الحماية لدعم الاقتصاد الرقمي.
توصيات لحماية الشركات
ولمعالجة فجوات سلامة الذكاء الاصطناعي، توصي Telus Digital الشركات بالانتقال إلى الاختبارات العدائية التلقائية والمستمرة. ويجب دمج هذه الاختبارات مباشرة في سير عمل التطوير، مع تعزيزها بالإشراف البشري وممارسات البيانات النظيفة.
