تصاعدت تهديدات الذكاء الاصطناعي السيبراني هذا الأسبوع حيث وثق الباحثون أن المهاجمين والمدافعين يستخدمان الذكاء الاصطناعي في معارك أمنية متنافسة. كشفت جوجل أن جهة فاعلة إجرامية استخدمت الذكاء الاصطناعي لتحديد وتسليح ثغرة يوم صفر تستهدف أنظمة المصادقة الثنائية، بينما أظهرت شركات أمنية في الوقت ذاته أنظمة دفاعية قائمة على الذكاء الاصطناعي قادرة على إيجاد الأخطاء الحرجة أسرع من فرق العاملين البشرية.
نشأت ثغرة يوم صفر التي اكتشفتها جوجل من افتراض ثقة مشفرة بقوة في النظام. بدلاً من طلب فحوصات مصادقة متكررة، وثق النظام المتأثر المستخدمين تلقائياً بعد التحقق الأولي، مما خلق فجوة قابلة للاستغلال. تُظهر الثغرة كيف يمكن أن تنشأ فجوات الأمن السيبراني من منطق معيب بدلاً من أعطال الأكواد وحدها.
هجوم سلسلة التوريد على أدوات المصدر المفتوح
أفادت TanStack، وهي شركة تدير أدوات تطوير الويب مفتوحة المصدر الشهيرة، أن المهاجمين وزعوا 84 نسخة خبيثة عبر 42 حزمة npm. حزم npm هي مجموعات أكواد جافاسكريبت قابلة لإعادة الاستخدام يتم تثبيتها في التطبيقات، مما يتيح التوزيع السريع عبر المنتجات المباشرة. استغل المهاجمون GitHub Actions، النظام الآلي الذي يستخدمه المطورون لاختبار ونشر الأكواد، بدلاً من سرقة بيانات اعتماد npm مباشرة. سمح هذا الأسلوب للهجوم بتجاوز الأمان التقليدي المستند إلى كلمات المرور من خلال تسويس الآلية الموثوقة للنشر نفسها.
نماذج الذكاء الاصطناعي تُظهر إصرار الأجل الأطول في الهجمات
وثقت منظمة AISI البريطانية أن نماذج الذكاء الاصطناعي الحدودية تطور قدرات مستقلة أطول لمهام الهجمات السيبرانية. قاست المنظمة أن الأفق الزمني لعمليات الهجمات غير الموجهة قد تضاعف بمعدل الأشهر. أكملت نسخة Mythos Preview الأحدث هجوماً محاكاً على شبكة شركة من 32 خطوة يُسمى “The Last Ones” في 6 من 10 محاولات وحلت تحدياً صناعياً للتحكم لم يُحل سابقاً يُسمى “Cooling Tower” في 3 من 10 محاولات. تُظهر هذه النتائج أن أنظمة الذكاء الاصطناعي يمكنها الآن الحفاظ على سلاسل هجمات متعددة الخطوات دون توجيه بشري ثابت.
لماذا تُشكل افتراضات الثقة خطراً منتظماً
تتفوق أدوات الأمن التقليدية في كشف الأخطاء الواضحة مثل مشاكل سلامة الذاكرة وأخطاء التحقق من الإدخال. تصبح نماذج الذكاء الاصطناعي أكثر فعالية في تتبع سلوك المستخدم عبر الأنظمة وتحديد اللحظة بالضبط التي يحصل فيها الوصول دون التحقق الكافي. تتفاقم هذه المشكلة عندما ينتقل البرنامج عبر الحزم والبرامج النصية والأذونات ورموز السحابة. بمجرد أن يصبح رابط واحد موثوق به مشروعاً، يمكن أن تصبح سلسلة التوريد بأكملها عرضة لسرقة بيانات الاعتماد والحركة الجانبية. يوضح حادث TanStack هذا الخطر: تسميم رابط موثوق به واحد يمكن أن ينشر الخطر عبر العديد من المنتجات الطرفية.
أنظمة الدفاع القائمة على الذكاء الاصطناعي تدخل الساحة
أظهرت مايكروسوفت MDASH، نظاماً متعدد الوكلاء للعثور على الثغرات الأمنية حدد 16 خطأ في Windows، منها أربع أخطاء تنفيذ أكواد بعيد حرجة. على عكس النهج التقليدية التي تقدم للمحللين قوائم بالمشاكل المحتملة، يمكن لأنظمة MDASH تدقيق والنقاش والتحقق من الأخطار الحقيقية. يترجم النظام أنماط الأكواد المريبة إلى دليل قابلية الاستغلال، مما يتيح نشر الترقيعات بشكل أسرع والمراجعة البشرية الأكثر تركيزاً. مع قيام المهاجمين بنشر وكلاء الذكاء الاصطناعي للعثور على نقاط الضعف في النظام، يقوم المدافعون بشكل متزايد بنشر وكلائهم الخاصين المدفوعين بالذكاء الاصطناعي لتحويل إشارات الأمن الغامضة إلى أخطار مُتحققة منها وتوجيهات العلاجات.
تُشير سباق الأسلحة بين أنظمة الذكاء الاصطناعي للمهاجمين والمدافعين إلى أن الأمن السيبراني المستقبلي سيعتمد على المنظمات التي تنشر أنظمة التحقق الآلية القادرة على العمل بسرعة الآلة، مع الحفاظ على الإشراف البشري لقرارات الترقيع النهائية واستراتيجية النشر.
