كشفت أبحاث جديدة صادرة عن روبريك زيرو لابز عن فجوة مقلقة بين تسارع تبنّي المؤسسات لـ وكلاء الذكاء الاصطناعي وقدرتها على تأمينهم. الدراسة التي شملت أكثر من 1600 من قادة تقنية المعلومات والأمن السيبراني أشارت إلى أن مؤسسات عديدة تُشغّل أنظمة مستقلة ضمن عملياتها دون الضوابط اللازمة لحوكمتها.
تعكس هذه النتائج المثيرة للقلق واقعاً متناقضاً في المشهد التكنولوجي الحالي. فبينما تسعى المؤسسات إلى الاستفادة من قدرات وكلاء الذكاء الاصطناعي المتقدمة لتحسين كفاءة عملياتها، تجد نفسها غير مستعدة بشكل كافٍ لإدارة المخاطر الأمنية المرتبطة بهذه الأنظمة. وأظهرت الدراسة أن 86% من قادة التقنية يتوقعون أن تتجاوز وكلاء الذكاء الاصطناعي ضوابط الحماية المعمول بها خلال الاثني عشر شهراً القادمة.
من جانب آخر، كشفت النتائج عن نقص حاد في الرؤية والتحكم. فقط 23% من المؤسسات المشاركة في الدراسة أفادت بأن لديها رؤية كاملة وشاملة لجميع وكلاء الذكاء الاصطناعي العاملة في بيئاتها الرقمية. هذا النقص في الرؤية يعني أن معظم المؤسسات لا تملك فهماً دقيقاً لما تفعله هذه الأنظمة المستقلة، مما يزيد من احتمالية حدوث خروقات أمنية أو سلوكيات غير متوقعة.
علاوة على ذلك، أشار أكثر من 80% من المشاركين في الدراسة إلى أن وكلاء الذكاء الاصطناعي تتطلب مستويات إشراف يدوي أعلى بكثير من المكاسب والفوائد التي توفرها فعلياً. هذا يشير إلى أن الاستثمارات الحالية في هذه التقنيات قد لا تحقق العائد المتوقع منها، خاصة عندما يتعلق الأمر بالموازنة بين الفوائد والتكاليف الأمنية والتشغيلية.
تؤكد هذه الدراسة على الحاجة الملحة لتطوير إطار عمل شامل لحوكمة وكلاء الذكاء الاصطناعي. يجب على المؤسسات أن تستثمر في أدوات المراقبة والتحكم المتقدمة، وأن تضع سياسات واضحة لإدارة هذه الأنظمة، وأن تدرب فريقها على أفضل الممارسات الأمنية المتعلقة بالذكاء الاصطناعي. بدون هذه الخطوات، ستستمر الفجوة الأمنية في الاتساع، مما يعرض المؤسسات لمخاطر متزايدة.
