أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) النسخة الأولى من دليلها الجديد للحد من **تحيزات الذكاء الاصطناعي** في الأنظمة التقنية المختلفة. ويهدف هذا الدليل المرجعي إلى تقديم إطار عملي واضح يساعد الجهات والمطورين على فهم الثغرات التي قد تؤثر في عدالة القرارات الآلية. وبناءً على ذلك، تسعى الهيئة إلى توفير بيئة تقنية موثوقة تدعم مسيرة التحول الرقمي في المملكة العربية السعودية.
تفاصيل الدليل المرجعي الجديد
يحتوي الدليل الصادر حديثاً على تصنيف مفصل يشمل أكثر من 100 نوع من التحيزات التي قد تظهر في خوارزميات الأنظمة الذكية. بالإضافة إلى ذلك، يستعرض الدليل تعريفات هذه التحيزات وكيفية نشأتها وتأثيرها المباشر في المجتمع، مع تقديم أمثلة واقعية من قطاعات مختلفة. ونتيجة لذلك، يتيح هذا الإصدار للمختصين تطبيق إستراتيجيات عملية فعالة للتخفيف من الآثار السلبية لهذه المشكلات التقنية.
ومن الجدير بالذكر أن تقنيات الذكاء الاصطناعي شهدت توسعاً ملحوظاً في قطاعات حيوية وحساسة مثل القضاء والصحة والتعليم. ومع ذلك، فإن هذا التوسع السريع يتطلب اهتماماً مضاعفاً بمعالجة الأخطاء التي قد تؤثر في عمليات صنع القرار اليومية. وتعود هذه الصعوبة إلى الطبيعة المعقدة للأنظمة وتعدد مراحل تطويرها وتداخل أدوار المطورين والمشرفين عليها.
مخاطر تحيزات الذكاء الاصطناعي على المؤسسات
أوضح الدليل أن إهمال معالجة **تحيزات الذكاء الاصطناعي** قد يؤدي إلى تقويض فاعلية الأنظمة الرقمية بشكل كامل في بيئات العمل. وبناءً على ذلك، قد تتحول هذه التقنيات من أدوات لتعزيز العدالة والإنصاف إلى وسائل تسهم في تفاقم التمييز بين المستفيدين. وبالتالي، يؤثر هذا الخلل سلباً في سمعة المؤسسات ويعرضها للمساءلات القانونية المستمرة أو شكاوى المستهلكين المتكررة.
لذلك، يمثل حصر هذه الأخطاء وفهم أسبابها العميقة خطوة أساسية لضمان نجاح المشاريع التقنية في مختلف الجهات الحكومية والخاصة. وفي هذا السياق، تتنوع مصادر الخلل بين بيانات تدريب لا تمثل فئات المجتمع تمثيلاً كافياً، وخوارزميات تفضل خصائص معينة دون قصد. علاوة على ذلك، قد تنعكس الافتراضات والتقديرات المسبقة للمطورين في تفسير البيانات وتحليلها النهائي.
أمثلة واقعية على الانحياز الخوارزمي
استشهد الدليل بأمثلة واقعية تشمل أدوات التوظيف الآلية التي قد تمنح أفضلية غير عادلة لمرشحين من خلفيات تعليمية معينة. وتحدث هذه المفاضلة على حساب مرشحين آخرين مؤهلين تماماً ولكنهم ينتمون إلى خلفيات تعليمية أقل حظاً في المجتمع. ومن ثم، تبرز الحاجة الملحة لتطبيق معايير دقيقة تضمن تكافؤ الفرص وتمنع التمييز غير المبرر في بيئات العمل الرقمية.
وتسعى الهيئة من خلال هذه المبادرة إلى نشر الوعي المعرفي حول كيفية حماية الأنظمة من الانحيازات المتكررة. وتأتي هذه الخطوة كجزء من التزام المملكة بتطوير قطاع التعليم والتدريب التقني لبناء كفاءات وطنية قادرة على إدارة هذه الأنظمة بكفاءة. ونتيجة لذلك، يمكن للمؤسسات تفادي الأخطاء التشغيلية وتحسين جودة الخدمات المقدمة للجمهور بشكل مستمر.
جهود سدايا في تعزيز عدالة التقنية
يأتي إصدار هذا الدليل امتداداً لجهود الهيئة المستمرة في تعزيز عدالة الأنظمة الرقمية وحمايتها من الثغرات التشغيلية المختلفة. وتجدر الإشارة إلى أن الهيئة أصدرت سابقاً مبادئ أخلاقيات الذكاء الاصطناعي، ومبادئ الذكاء الاصطناعي التوليدي، وإطار تبني التقنيات الحديثة. بالإضافة إلى ذلك، قدمت الهيئة دراسة متخصصة تناولت موضوع **تحيزات الذكاء الاصطناعي** وركزت على تقديم حلول عملية للتحديات القائمة.
وفي النهاية، تواصل الهيئة دعم المحتوى المعرفي المتخصص وتأهيل الكفاءات الوطنية في مجالات التقنيات المتقدمة والبيانات الضخمة. وينطلق هذا الدور من كونها المرجع الوطني للبيانات والذكاء الاصطناعي في المملكة، مما يسهم في دعم مسيرة الابتكار الرقمي. وتصب هذه الجهود مباشرة في تحقيق مستهدفات رؤية السعودية 2030 الرامية إلى بناء اقتصاد معرفي مستدام وقائم على التكنولوجيا.
المصدر: Saudi Press Agency
