أعلنت شركة “ويكا” (WEKA) بالتعاون مع شركة أوراكل عن نتائج اختبارات أداء جديدة تخص استدلال الذكاء الاصطناعي على منصة Oracle Cloud Infrastructure (OCI). أظهرت هذه الاختبارات زيادة بمقدار 10 أضعاف في عدد المستخدمين المتزامنين ومعدل معالجة الرموز دون الحاجة لإضافة وحدات معالجة رسومية جديدة. بالإضافة إلى ذلك، حققت البنية التحتية المشتركة زيادة بمقدار 7 أضعاف في عدد الرموز المقدمة للمستخدمين.
تأثير البنية التحتية على استدلال الذكاء الاصطناعي
تم التحقق من صحة هذه النتائج على مجموعة عنقودية من وحدات المعالجة الرسومية H100 من تسع عقد على خادم مادي مخصص على منصة OCI. استخدمت الاختبارات نوافذ سياق بسعة 100,000 رمز لمعالجة أعباء العمل الكبيرة. بناءً على ذلك، نجحت منصة NeuralMesh مع تقنية Augmented Memory Grid في توسيع نطاق العمل لأكثر من 5000 مستخدم متزامن. في المقابل، توقفت التكوينات التقليدية المعتمدة على ذاكرة DRAM عند حدود 600 مستخدم متزامن فقط.
نتائج معالجة الرموز والأداء الرقمي
أشارت البيانات الفنية إلى أن المنصة المشتركة وصلت إلى معدل معالجة يقارب مليوني رمز في الثانية الواحدة. يمثل هذا الرقم زيادة كبيرة مقارنة بأقل من 200,000 رمز للأنظمة التي تعتمد على الذاكرة التقليدية فقط. نتيجة لذلك، يمكن لفرق تطوير المنتجات تقديم خدمات البحث والتلخيص والمساعدة البرمجية بشكل أسرع. علاوة على ذلك، وفرت التقنية الجديدة خمسة مليارات رمز في اختبار استمر لمدة ساعة واحدة بمشاركة 2400 مستخدم.
حل مشكلة جدار الذاكرة في المعالجة
“تثبت هذه النتائج أن اقتصاديات الرموز لا يتم حلها بواسطة الأجهزة وحدها، بل يتم حلها عن طريق القضاء على جدار الذاكرة الذي كان يمثل السقف الحقيقي لما يمكن أن تفعله الأجهزة الحالية.”
لييران زفايبل، الرئيس التنفيذي لشركة WEKA
تعتمد التقنية الجديدة على فصل ذاكرة التخزين المؤقت ذات القيمة الرئيسية من ذاكرة وحدات المعالجة الرسومية المحلية وتخزينها في مستودع رموز عالي الأداء. تتيح هذه الطريقة لأي مضيف خدمة أي جلسة مع المحافظة على حالات الوصول، مما يسهل عملية التوسع الأفقي مع نمو الطلب. بالتالي، يسهم هذا التصميم في خفض التكلفة التشغيلية للشركات ضمن قطاع الاقتصاد والأعمال لتسهيل استدلال الذكاء الاصطناعي بشكل اقتصادي. تتوفر هذه الحلول حالياً على متجر Oracle Marketplace لعملاء الشركة.
مستقبل تقنيات الحوسبة السحابية والذكاء الاصطناعي
تأتي هذه التطورات في وقت تشهد فيه قطاعات الكمبيوتر والمحمول والخدمات السحابية طلباً متزايداً على معالجة البيانات المعقدة. تسعى الشركات التقنية إلى تحسين كفاءة استخدام الطاقة والعتاد لتقليل التكاليف التشغيلية. من ناحية أخرى، يمثل هذا التعاون خطوة نحو توفير بيئات تشغيل مرنة تدعم تطبيقات استدلال الذكاء الاصطناعي على نطاق واسع دون قيود برمجية. نشرت منصة OCI المنهجية الكاملة لهذه المعايير على مدونتها الرسمية لتمكين المطورين من الاطلاع على تفاصيل الأداء الفني.
