أعلنت شركة سيسكو عن استراتيجيات شاملة لـأمان تطبيقات الذكاء الاصطناعي مصممة خصيصاً للمؤسسات في الشرق الأوسط مع تسارع اعتماد الذكاء الاصطناعي من البرامج التجريبية إلى التطبيقات الإنتاجية الكاملة. توجه هذه الإرشادات التحديات الأمنية الفريدة التي تواجه القطاعات الحكومية والخدمات المالية والطاقة والبنية التحتية الحيوية في المنطقة.
أربعة مجالات أمنية حاسمة لتطبيقات الذكاء الاصطناعي
مع توسع المؤسسات في مبادرات الذكاء الاصطناعي، يجب على فرق الأمن تكييف ممارسات أمان التطبيقات المجربة لمواجهة المخاطر الناشئة طوال دورة حياة الذكاء الاصطناعي. تحدد سيسكو أربعة مجالات ذات أولوية تتطلب اهتماماً فورياً من مديري أمن المعلومات وقادة تقنية المعلومات.
- فحص المصادر المفتوحة: يعتمد تطوير الذكاء الاصطناعي بشكل كبير على نماذج مفتوحة المصدر ومجموعات بيانات عامة ومكتبات طرف ثالث قد تحتوي على ثغرات أو إدراجات خبيثة.
- اختبار الثغرات: الاختبار الثابت يتحقق من مكونات الذكاء الاصطناعي للتعرف على الثغرات، بينما الاختبار الديناميكي يقيم استجابات النموذج في بيئات الإنتاج.
- جدران الحماية للتطبيقات: جدران حماية جديدة مخصصة لتطبيقات الذكاء الاصطناعي التوليدي تعمل كحواجز حماية لفحص حركة المرور ومنع تسريب البيانات الشخصية.
- منع فقدان البيانات: حلول DLP التقليدية غير فعالة لتطبيقات الذكاء الاصطناعي، مما يتطلب فحصاً متخصصاً للمدخلات والمخرجات.
التحديات الأمنية الإقليمية والحلول
التحول السريع من البرامج التجريبية للذكاء الاصطناعي إلى بيئات الإنتاج في الشرق الأوسط غير جوهرياً من ملف المخاطر للمؤسسات. يجب أن تحمي التدابير الأمنية دورة حياة الذكاء الاصطناعي الكاملة، من مصادر البيانات ومكونات الطرف الثالث إلى نشر النماذج ومراقبة سلوكها في العالم الحقيقي.
مع تسارع اعتماد الذكاء الاصطناعي في المنطقة، تنتقل المؤسسات بسرعة من البرامج التجريبية إلى الإنتاج، وهذا التحول يغير ملف المخاطر. تأمين تطبيقات الذكاء الاصطناعي يتطلب النظر إلى ما هو أبعد من ضوابط التطبيقات التقليدية.
فادي يونس، المدير الإقليمي للأمن السيبراني في سيسكو الشرق الأوسط وأفريقيا وتركيا ورومانيا ودول الكومنولث
استراتيجية شاملة لأمان تطبيقات الذكاء الاصطناعي
تتواجد المخاطر في كل نقطة تقريباً في دورة حياة الذكاء الاصطناعي، من مصادر مكونات سلسلة التوريد عبر التطوير والنشر. يمكن للمؤسسات التي تطبق هذه التدابير الأمنية توسيع نطاق ابتكار الذكاء الاصطناعي بثقة مع الحفاظ على الثقة الرقمية وتقليل التعرض لهجمات حقن التعليمات وتسريب البيانات الحساسة وغيرها من التهديدات الخاصة بالذكاء الاصطناعي.
