يضيف MLPerf Storage v3.0 طبقة بيانات S3 إلى إطار POSIX القائم ، إلى جانب عبء عمل KV Cache وvector database الجديد ،التوفيق الوثيق لمعايير المقاييس مع متطلبات نظام بيانات الذكاء الاصطناعي الحديث.
تم تطوير مقياس MLPerf Storage من قبل MLCommons ، حيث تم تقييم أداء التخزين لأعباء عمل تدريب التعلم الآلي بما في ذلك Unet3D و Cosmoflow و Resnet50 ،باستخدام NVIDIA A100 و H100 GPUيحتوي إصدار v3.0 على إعادة هيكلة اختبار شاملة ، تركز على أربعة سيناريوهات حمولة عمل أساسية.
يتضمن إطار الاختبار المحدث تدريب الذكاء الاصطناعي على أساس Unet3D و RetinaNet الذي يقيس أقصى قدر من قابلية توسيع المسرع مع الحفاظ على أكثر من 90% من الاستخدام.محاكاة على NVIDIA B200 أو AMD MI355 GPUsكما يشمل تحديد نقاط التحقق لنماذج نمط Llama 3 تتراوح بين 8B إلى 1.25T ، مع إعطاء الأولوية لفترة تأخير منخفضة لعشرة جولات من الكتابة والقراءة المتكررة. بالإضافة إلى ذلك ،تتضمن الحزمة اختبار قاعدة البيانات المتجهة على مليون، مجموعة بيانات ميلفوس ذات البعد 1536 لتحقيق أقصى قدر من معدل إجراء الاستعلامات مع تتبع معدلات الكمون والإستدعاء ، بالإضافة إلى اختبار ذاكرة التخزين المؤقت KV لقياس أقصى قدرة دعم محادثة متزامنة.
صرح براين بيلغودير، الرئيس المشارك لمجموعة عمل تخزين MLPerf، أن محفظة الاختبار الجديدة تثري تغطية المعيار لمطالب تخزين استنتاج الذكاء الاصطناعي السائدة.تتوازن المجموعة المحدثة بين التدريب والاختبارات التي تركز على التدريب والتحقق من نقاط التحقق مع تقييمات ذاكرة التخزين المؤقت KV الموجهة نحو الاستدلال وقواعد البيانات المتجهةمن خلال تقسيم أنظمة الذكاء الاصطناعي المتكاملة إلى تقييمات حمولة العمل المستهدفة للتخزين ، بما في ذلك نقاط التحقق ، وتخزين الكيش KV ومعالجة استفسارات المتجه ،يسمح المعيار لممارسي الصناعة بتحسين تكوينات البنية التحتية للذكاء الاصطناعي بشكل أفضل والقضاء على اختناقات أداء التخزين.
تدعم طبقة تخزين الكائنات S3 التي تم إضافتها حديثًا التدريب والتحقق من نقاط التحقق واختبارات قاعدة البيانات المتجهة الجزئية ، حيث يتبنى ما يقرب من السدس من جميع تقديمات v3.0 وصول التخزين القائم على S3.
كورتيس أندرسون، رئيس المجموعة العاملة الآخر، لاحظ أنه مع توسع سياق الذكاء الاصطناعي إلى تريليونات الرموز، يظهر تخزين الكائنات كوسيلة قابلة للحياة،حتى بديل مفضل لتخزين نظام الملفات التقليديدعم S3 الأصلي في v3.0 يوفر بيانات أداء شفافة لتوجيه قرارات نشر تخزين المؤسسات.
وقد قدم ما مجموعه 19 بائعًا نتائج هذه الدورة المرجعية. لا سيما اللاعبون الرئيسيون في مجال تخزين المؤسسات القديمة بما في ذلك DDN و Dell و Huawei و IBM و NetApp ولم تكن VAST Data و WEKA في قائمة المشاركينأعرب مسؤولو MLPerf عن أن بائعي NAS التقليديين لديهم مشاركة محدودة ، مع معظم الشركات القائمة في الجولة الأخيرة.
نظراً لتنوع مجال تخزين الذكاء الاصطناعي، لا ينشر نسخة 3.0 تصنيفاً عاماً واحداً. بدلاً من ذلك، فإنه يوفر نتائج مستقلة للفئات الأربعة من أحمال العمل مع مقاييس متعددة الأبعاد.مجموعة بيانات النتيجة الكاملة تمتد حوالي 145 صفوف و 55 عمود، ما مجموعه ما يقرب من 8000 خلية بيانات ، مع 12 عمود مخصص حصرا لمقاييس أداء KV cache.عرض النطاق الترددي للقراءة والكتابة وفترة تأخير P95 تحت بنية التخزين فقط والتخزين + الذاكرة لكل من عبء عمل نموذج Llama 8B و 70B.
توصي MLCommons أيضًا بتقييم أداء موحد بناءً على كثافة الرف الواحد وكفاءة الطاقة الواحدة للواط لقياس الفعالية التشغيلية الإجمالية للبنية التحتية.
تتضمن مجموعة المعايير المحدثة منطق تقييم معقد للغاية، مما يسمح للموردين بتقديم نتائج بشكل انتقائي لأحمال العمل المستهدفة.تقدمت سوزو زيشان و TTA بنتائج اختبار قاعدة البيانات المتجهة.
أعلنت إيفيربور عن أداء رفيع المستوى لـ FlashBlade//EXA عبر اختبارات نقاط التحقق واختبارات ذاكرة التخزين المؤقت KV لنماذج المعلمات 405B و 1.25T. تم نشرها على 30 عقدة بيانات لدعم 1،024 محاكاة المسرعات، حققت المنصة 877.52 جيجا بايت / ثانية عرض النطاق الترددي للكتابة (17.74s إكمال) و 588.28 جيجا بايت / ثانية عرض النطاق الترددي للقراءة (28.99s إكمال) لتحديد النموذج 1.25T. ارتفع أدائها بشكل خطي من 327.65 GiB/s سعة الكتابة على 10 عقدة إلى أعلى نتيجة 30 عقدة.
تظهر البيانات الإضافية أن إرسال كتابة نقاط التفتيش في الموقع قدم متوسط كفاءة الطاقة 14 جيجابايت / ثانية لكل واط ، مع ذروة 201 جيجابايت / ثانية لكل واط.تم تسجيل اختبارات قراءة UNet3D كفاءة متوسطة تبلغ 34 جيجابايت / ثانية لكل واط وحد أقصى 277 جيجابايت / ثانية لكل واط.
شركة بكين تشيانكسينغ جييتونغ للتكنولوجيا المحدودة
ساندي يانغ مدير الاستراتيجية العالمية
واتساب / ويتشات: +86 13426366826
البريد الإلكتروني: yangyd@qianxingdata.com
الموقع: www.qianxingdata.com/www.storagesserver.com
التركيز على الأعمال:
توزيع منتجات تكنولوجيا المعلومات والاتصالات / تكامل النظام والخدمات / حلول البنية التحتية
مع أكثر من 20 عامًا من الخبرة في توزيع تكنولوجيا المعلومات، نحن نتعاون مع العلامات التجارية العالمية الرائدة لتقديم منتجات موثوقة وخدمات مهنية.
استخدام التكنولوجيا لبناء عالم ذكي مزود خدمة منتجات تكنولوجيا المعلومات والاتصالات الموثوق به