أطلقت OpenAI مجموعة من أدوات سلامة المراهقين مفتوحة المصدر لمساعدة المطورين على بناء تطبيقات أكثر أمانًا للمستخدمين دون سن 18 عامًا. وقالت الشركة إن هذه الأدوات متوافقة مع نموذج الأمان الخاص بها المعروف بـ gpt-oss-safeguard، فضلًا عن توافقها مع نماذج أخرى.
ما تغطيه أدوات سلامة المراهقين
تعالج التعليمات المُصدَرة عدة فئات من المحتوى الضار. وتشمل هذه الفئات العنف الصريح والمحتوى الجنسي، والمُثُل الجسدية والسلوكيات الضارة، والأنشطة والتحديات الخطرة، ولعب الأدوار الرومانسية أو العنيفة، والسلع والخدمات المقيدة بالسن.
كيف يمكن للمطورين استخدام هذه السياسات
صممت OpenAI هذه السياسات على شكل تعليمات نصية، مما يجعلها متوافقة مع نماذج تتجاوز نظامها البيئي الخاص. غير أن الشركة أشارت إلى أنها تبقى الأكثر فاعلية داخل منظومة OpenAI. ويمكن للمطورين تطبيقها دون الحاجة إلى بناء أطر سلامة من الصفر.
أوضحت OpenAI في مدونتها أن المطورين، بمن فيهم الفرق ذات الخبرة، يجدون صعوبة في ترجمة أهداف السلامة إلى قواعد تشغيلية دقيقة. وأضافت الشركة أن هذه الفجوة قد تؤدي إلى تطبيق غير متسق أو تصفية مفرطة الاتساع. علاوة على ذلك، تُشكّل السياسات الواضحة والمحددة أساسًا جوهريًا لأنظمة الأمن السيبراني والسلامة الفعّالة.
الشركاء في هذا المشروع
قالت OpenAI إنها تعاونت مع منظمتَي Common Sense Media وeveryone.ai المعنيتين بسلامة الذكاء الاصطناعي لصياغة هذه التعليمات. وعلّق Robbie Torney، رئيس قسم تقييمات الذكاء الاصطناعي والرقمية في Common Sense Media، على هذا الإصدار.
“تساعد هذه السياسات القائمة على التعليمات في وضع حد أدنى ذي معنى للسلامة عبر المنظومة البيئية، ولأنها مُصدَرة كمصدر مفتوح، يمكن تكييفها وتحسينها بمرور الوقت.”
Robbie Torney، رئيس قسم تقييمات الذكاء الاصطناعي والرقمية، Common Sense Media
السياق والقيود
أقرّت OpenAI بأن هذه السياسات لا تحل بشكل كامل التحديات المعقدة لسلامة الذكاء الاصطناعي. ويأتي هذا الإصدار استكمالًا لجهود سابقة، تشمل ضوابط الرقابة الأبوية وميزات التنبؤ بالعمر، إضافة إلى تحديثات إرشادات Model Spec الخاصة بالتفاعلات مع المستخدمين دون سن 18 عامًا.
كذلك تواجه OpenAI عدة دعاوى قضائية رفعتها عائلات أفراد لقوا حتفهم بسبب الاستخدام المفرط لـ ChatGPT. وتُبرز هذه القضايا أن ضمانات أي نموذج ليست منيعة تمامًا. ومع ذلك، يوفر الإصدار مفتوح المصدر موردًا عمليًا، لا سيما لمطوري التطبيقات المستقلين الذين يفتقرون إلى فرق سلامة متخصصة.
أدوات سلامة المراهقين متاحة الآن عبر قنوات OpenAI مفتوحة المصدر. وقالت الشركة إن مجتمع المطورين يمكنه تكييف هذه التعليمات وتحسينها بمرور الوقت.