أعلن الرئيس التنفيذي لشركة أنثروبيك (Anthropic) داريو أمودي عن خطة تدعو إلى إبطاء تطوير الذكاء الاصطناعي في النماذج المتقدمة، بالتزامن مع التزام الشركة بمنح مقيّمين مستقلين وصولاً دائماً لأنظمتها لمراقبة معايير الأمان.
وبموجب هذا الالتزام، سيحصل مقيّمون من جهات مستقلة مثل METR على بطاقات عمل وأجهزة حاسوب مكتبية للعمل جنباً إلى جنب مع الفرق التقنية. وتمنح هذه الخطوة الخبراء صلاحيات مراجعة السجلات والتحقق من التزام الشركة بمعايير السلامة، وفقاً لما نقله موقع The Verge.
خطة ثلاثية لإدارة إبطاء تطوير الذكاء الاصطناعي
طرحت الشركة إطار عمل يتألف من ثلاث خطوات رئيسية للتعامل مع مخاطر النماذج المتطورة. وتبدأ المرحلة الأولى بالسماح لمراقبين خارجيين بفحص الأنظمة بصورة مستقلة، في حين تدعو المرحلة الثانية الشركات في الدول الديمقراطية إلى تنسيق معايير السلامة وتحديد حدود لمعدلات التطور غير الخاضعة للرقابة.
وأوضح أمودي أن إقرار القوانين الرسمية يستغرق وقتاً طويلاً، مما يتطلب تعاوناً طوعياً بين المطورين. كما دعا الحكومة الأمريكية إلى تقديم استثناءات تنظيمية محددة تتيح للشركات مناقشة بروتوكولات الأمان المشتركة دون التعرض لمساءلات الاحتكار.
التعاون الدولي وحماية التفوق التقني
تركز الخطوة الثالثة على إيجاد تنسيق دولي للاتفاق على حظر الاستخدامات الخطيرة للتقنية. وأكد رئيس الشركة ضرورة استمرار حظر تصدير الشرائح المتقدمة ومعدات التصنيع لمنع استنساخ النماذج وحماية التفوق التقني للدول الديمقراطية في مجالات الأمن السيبراني.
وجاءت هذه المبادرة في أعقاب حوادث أمنية تقنية رصدت فيها الشركات سلوكيات غير متوقعة للأنظمة البرمجية. وتسعى الضوابط المقترحة إلى تقييم سلوك النماذج قبل طرحها وتفادي الأضرار التي قد تلحق بشبكات الاتصال والبيانات الرقمية.
تأييد قادة قطاع التقنية للمبادرة
لاقت الدعوة تأييداً واسعاً داخل الأوساط التقنية العالمية. وأعلن الرئيس التنفيذي لشركة OpenAI سام ألتمان موافقته على المقترح وتأكيده أن شركته ستعتمد مقيّمين مستقلين، كما أعرب إيلون ماسك عن دعمه لموقف أمودي بشأن السلامة في قطاع الذكاء الاصطناعي.
تأتي هذه التحركات وسط نقاشات متزايدة حول ضرورة موازنة وتيرة الابتكار مع تدابير الحماية. وأكدت التقارير أن وضع آليات تقييم دورية يمنح الباحثين وقتاً لتحسين موثوقية الأنظمة وضبط سلوكها عبر أجهزة الكمبيوتر ومراكز المعالجة.
المسار المستقبلي لسلامة النماذج
يرى خبراء الصناعة أن إشراك جهات رقابية خارجية يمثل تحولاً في كيفية إدارة أبحاث النماذج الكبيرة. ويهدف مقترح إبطاء تطوير الذكاء الاصطناعي إلى منح فرق الأبحاث فرصة لبناء أنظمة أمان قوية تضمن استقرار البنية التقنية دون إيقاف حركة التطور العام.
