Arabic
في قمة RAISE في باريس ، عرضت DDN تعاونها المستمر مع Nebul ، وهو مزود سحابة هجينة سيادية أوروبية ، يركز على تعزيز الكفاءة لنشر استنتاج الذكاء الاصطناعي على نطاق واسع.تم الكشف عنها الأسبوع الماضي، تجمع المبادرة المشتركة بين منصة استنتاج Nebul، و DDN، و هندسة Infinia لذكاء البيانات، والحوسبة المتسارعة من NVIDIA لحل إحدى اختناقات الذكاء الاصطناعي الرئيسية في الإنتاج:تكاليف نقل البيانات والقيود على الأداء أثناء أحمال العمل الاستدلالية.
تقوم DDN بتشكيل التعاون حول مقاييس إنتاجية حاسمة: استغلال GPU ، وسرعة تسليم الرموز ، والتكلفة لكل رمز ، والفترة الزمنية. في حين أن تدريب النموذج يبني قيمة أصول الذكاء الاصطناعي ،استنتاج يحدد عوائدها التشغيلية والتجارية- التبني المتزايد للذكاء الاصطناعي العامل، الجيل المتزايد للاسترداد (RAG) ،و استنتاجات التزامن العالي تعني أن البنية التحتية للتخزين والبيانات تؤثر بشكل مباشر على كفاءة المسرع وسرعات استجابة الذكاء الاصطناعي.
هذا المشروع النشط لإثبات المفهوم قد أسفر عن نتائج مبكرة واعدة.وقد سجلت الشركاء تحسينات قابلة للقياس في الوقت إلى أول رمز مع التخزين المؤقت KV تم تمكين وإكمال التحقق من صحة للبنية التحتية القائمة على RoCEيشمل التقييم المستمر أطوال تسلسل استنتاج أطول، مما يفتح إمكانات تحسين إضافية لمنصة إنفينيا.كما يمتد التعاون إلى الجهود المشتركة لـ NVIDIA في أطر المقاييس المقارنة، والتحقق من قابلية التوسع، والمنشورات التقنية القادمة.
تستفيد المنصة المتكاملة من خدمات التخزين المؤقت KV الموزعة ، وحركة البيانات الأصلية لـ GPU ، وتنسيق البيانات الذكي ، وهندسة تخزين عالية الأداء.تسريع ذاكرة التخزين المؤقت KV يوفر مكاسب استنتاجية ملحوظة من خلال الحفاظ على حالات الانتباه المحسوبة مسبقًا واستردادها بسرعة، خفض الحسابات الزائدة والقضاء على تأخيرات تسليم البيانات التي تسبب بطء GPU.
أبرز قادة DDN و Nebul و NVIDIA تحولًا كبيرًا في الصناعة: تتحرك أولويات البنية التحتية للذكاء الاصطناعي من نشر GPU الخام إلى الكفاءة التشغيلية ،تعظيم العائدات من أجهزة التسارع الحالية. DDN CEO Alex Bouzari and Nebul CEO Arnold Juffer noted that past focus on larger model scales has given way to optimizing inference economics to make production AI commercially viable via lower per-token costsوأضاف رود إيفانز نائب الرئيس لشؤون البنية التحتية للسحابة في NVIDIA أن أحمال العمل العملية على نطاق واسع تقيس الآن نجاح البنية التحتية من خلال استخدام وفترة تأخير GPU ، بدلاً من قوة الحوسبة الخالصة.
تؤكد DDN أن البنية التحتية للذكاء الاصطناعي يجب أن تتطور إلى ما وراء وظائف التخزين الأساسية لدعم سير العمل التنفيذي للذكاء الاصطناعي بنشاط.منصات البنية التحتية للشركة تعمل حاليا على أكثر من مليون GPU في جميع أنحاء العالم، تخدم مستويات التوسع العالي، ومقدمي الخدمات السحابية، والشركات، والحكومات، ومؤسسات البحث.
فرق البنية التحتية الحديثة للذكاء الاصطناعي الآن تعطي الأولوية لمقاييس الإنتاج الأساسية:
استخدام GPU: يقيس نشاط المسرع الفعال أثناء الاستدلال ، مما يزيد من قيمة أجهزة GPU الراقية.
التكلفة لكل رمز: يربط أداء البنية التحتية بشكل مباشر بتكاليف تشغيل نموذج الذكاء الاصطناعي.
الرموز لكل واط: تقييم كفاءة الطاقة من إنتاج استنتاج الذكاء الاصطناعي.
الوقت للاختبار الأول: يحدد استجابة تطبيق الذكاء الاصطناعي التفاعلي وتجربة المستخدم.
وقت الإنتاج: يحدد جهود التشغيل للانتقال من خدمات الذكاء الاصطناعي من الاختبار إلى النشر التجاري القابل للتوسع.
كما استنتاج يصبح عبء عمل الذكاء الاصطناعي المهيمنة، وتسليم سياق المؤقتة وبيانات المؤسسة إلى وحدات الرسومات مع انخفاض،سيكون تأخير مستقر أمرًا حاسمًا للحفاظ على ارتفاع استخدام GPU والتحكم في تكاليف التشغيل على المدى الطويل.
شركة بكين تشيانكسينغ جييتونغ للتكنولوجيا المحدودة
ساندي يانغ مدير الاستراتيجية العالمية
واتساب / ويتشات: +86 13426366826
البريد الإلكتروني: yangyd@qianxingdata.com
الموقع: www.qianxingdata.com/www.storagesserver.com
التركيز على الأعمال:
توزيع منتجات تكنولوجيا المعلومات والاتصالات / تكامل النظام والخدمات / حلول البنية التحتية
مع أكثر من 20 عامًا من الخبرة في توزيع تكنولوجيا المعلومات، نحن نتعاون مع العلامات التجارية العالمية الرائدة لتقديم منتجات موثوقة وخدمات مهنية.
استخدام التكنولوجيا لبناء عالم ذكي مزود خدمة منتجات تكنولوجيا المعلومات والاتصالات الموثوق به
ساندي يانغ مدير الاستراتيجية العالمية
واتساب / ويتشات: +86 13426366826
البريد الإلكتروني: yangyd@qianxingdata.com
الموقع: www.qianxingdata.com/www.storagesserver.com
التركيز على الأعمال:
توزيع منتجات تكنولوجيا المعلومات والاتصالات / تكامل النظام والخدمات / حلول البنية التحتية
مع أكثر من 20 عامًا من الخبرة في توزيع تكنولوجيا المعلومات، نحن نتعاون مع العلامات التجارية العالمية الرائدة لتقديم منتجات موثوقة وخدمات مهنية.
استخدام التكنولوجيا لبناء عالم ذكي مزود خدمة منتجات تكنولوجيا المعلومات والاتصالات الموثوق به