بالطبع، مع سعر L4 الذي يقارب 2500 دولار، و A2 بسعر نصف هذا المبلغ تقريبًا، و T4 القديمة (ولكنها لا تزال قادرة جدًا) المتاحة بأقل من 1000 دولار مستعملة، فإن السؤال الواضح هو ما هو الفرق بين وحدات معالجة الرسومات الثلاث للاستنتاج هذه.

أحد الأشياء التي يجب فهمها عند النظر إلى هذه البطاقات الثلاث هو أنها ليست بدائل جيلية متطابقة تمامًا، وهذا يفسر سبب بقاء T4، بعد سنوات عديدة، خيارًا شائعًا لبعض حالات الاستخدام. جاءت A2 كبديل لـ T4 كخيار منخفض الطاقة وأكثر توافقًا (x8 مقابل x16 ميكانيكي). من الناحية الفنية، تعد L4 بعد ذلك بديلاً لـ T4، مع وجود A2 في مكان ما بينهما قد يتم تحديثه أو لا يتم تحديثه في وقت ما في المستقبل.

أداء MLPerf Inference 3.1

MLPerf هو اتحاد لقادة الذكاء الاصطناعي من الأوساط الأكاديمية والبحثية والصناعية تم إنشاؤه لتوفير معايير عادلة وذات صلة لأجهزة وبرامج الذكاء الاصطناعي. تم تصميم هذه المعايير لقياس أداء أجهزة وبرامج وخدمات التعلم الآلي في مهام وسيناريوهات مختلفة.

تركز اختباراتنا على معيارين محددين من MLPerf: Resnet50 و BERT.

• Resnet50: هذه شبكة عصبية التفافية (convolutional neural network) تستخدم بشكل أساسي لتصنيف الصور. إنها مؤشر جيد على مدى قدرة النظام على التعامل مع مهام التعلم العميق المتعلقة بمعالجة الصور.
• BERT (Bidirectional Encoder Representations from Transformers): يركز هذا المعيار على مهام معالجة اللغة الطبيعية، ويقدم رؤى حول أداء النظام في فهم ومعالجة اللغة البشرية.

يعد كلا هذين الاختبارين حاسمين لتقييم قدرات أجهزة الذكاء الاصطناعي في سيناريوهات العالم الحقيقي التي تتضمن معالجة الصور واللغة.

يعد تقييم NVIDIA L4 بهذه المعايير أمرًا بالغ الأهمية في المساعدة على فهم قدرات وحدة معالجة الرسومات L4 في مهام الذكاء الاصطناعي المحددة. كما أنه يقدم رؤى حول كيفية تأثير التكوينات المختلفة (إعدادات فردية، مزدوجة، ورباعية) على الأداء. هذه المعلومات حيوية للمهنيين والمؤسسات التي تتطلع إلى تحسين البنية التحتية للذكاء الاصطناعي الخاصة بهم.

يتم تشغيل النماذج في وضعين رئيسيين: الخادم (Server) وغير المتصل (Offline).

• وضع غير متصل (Offline Mode): يقيس هذا الوضع أداء النظام عندما تكون جميع البيانات متاحة للمعالجة في وقت واحد. إنه أشبه بمعالجة الدُفعات، حيث يعالج النظام مجموعة بيانات كبيرة في دفعة واحدة. وضع غير متصل مهم للسيناريوهات التي لا يكون فيها زمن الاستجابة مصدر قلق أساسي، ولكن الإنتاجية والكفاءة هما كذلك.
• وضع الخادم (Server Mode): على النقيض من ذلك، يقيم وضع الخادم أداء النظام في سيناريو يحاكي بيئة خادم واقعية، حيث تأتي الطلبات واحدًا تلو الآخر. هذا الوضع حساس لزمن الاستجابة، ويقيس مدى سرعة استجابة النظام لكل طلب. إنه ضروري للتطبيقات في الوقت الفعلي، مثل خوادم الويب أو التطبيقات التفاعلية، حيث الاستجابة الفورية ضرورية.

1 × NVIDIA L4 - Dell PowerEdge XR7620

كجزء من مراجعتنا الأخيرة لخادم Dell PowerEdge XR7620، المجهز بوحدة NVIDIA L4 واحدة، أخذناه إلى الحافة لتشغيل العديد من المهام، بما في ذلك MLPerf.

شمل تكوين نظام الاختبار الخاص بنا المكونات التالية:

• 2 × Xeon Gold 6426Y - 16 نواة 2.5 جيجاهرتز
• 1 × NVIDIA L4
• 8 × 16 جيجابايت DDR5
• 480 جيجابايت BOSS RAID1
• Ubuntu Server 22.04
• NVIDIA Driver 535

الأداء في سيناريوهات الخادم وغير المتصل لـ Resnet50 و BERT K99 متطابق تقريبًا، مما يشير إلى أن L4 تحافظ على أداء ثابت عبر نماذج الخادم المختلفة.

1، 2 و 4 وحدات NVIDIA L4 - Dell PowerEdge T560

شملت وحدة المراجعة الخاصة بنا المكونات التالية:

• 2 × Intel Xeon Gold 6448Y (32 نواة/64 خيطًا لكل منهما، 225 واط TDP، 2.1-4.1 جيجاهرتز)
• 8 × 1.6 تيرابايت Solidigm P5520 SSDs مع بطاقة PERC 12 RAID
• 1-4 × وحدات معالجة الرسومات NVIDIA L4
• 8 × 64 جيجابايت RDIMMs
• Ubuntu Server 22.04
• NVIDIA Driver 535

في اختباراتنا مع وحدتي L4 في Dell T560، لاحظنا هذا التوسع شبه الخطي في الأداء لكل من معايير Resnet50 و BERT K99. هذا التوسع هو شهادة على كفاءة وحدات معالجة الرسومات L4 وقدرتها على العمل جنبًا إلى جنب دون خسائر كبيرة بسبب الحمل الزائد أو عدم الكفاءة.

التوسع الخطي المتسق الذي شهدناه مع وحدتي NVIDIA L4 يمتد بشكل مثير للإعجاب إلى التكوينات التي تضم أربع وحدات L4. هذا التوسع جدير بالملاحظة بشكل خاص لأن الحفاظ على مكاسب الأداء الخطية يصبح أكثر صعوبة مع كل وحدة معالجة رسومات إضافية بسبب تعقيدات المعالجة المتوازية وإدارة الموارد.

هذه النتائج هي لأغراض توضيحية فقط، وليست نتائج تنافسية أو رسمية من MLPerf. للحصول على قائمة كاملة بالنتائج الرسمية، يرجى زيارة صفحة نتائج MLPerf.

بالإضافة إلى التحقق من قابلية التوسع الخطي لوحدات معالجة الرسومات NVIDIA L4، تلقي اختباراتنا في المختبر الضوء على الآثار العملية لنشر هذه الوحدات في سيناريوهات تشغيل مختلفة. على سبيل المثال، يكشف الاتساق في الأداء بين وضعي الخادم وغير المتصل عبر جميع التكوينات مع وحدات معالجة الرسومات L4 عن موثوقيتها وتعدد استخداماتها.

هذا الجانب ذو صلة بشكل خاص بالشركات والمؤسسات البحثية حيث تختلف السياقات التشغيلية بشكل كبير. علاوة على ذلك، فإن ملاحظاتنا حول التأثير الأدنى لاختناقات التوصيل البيني وكفاءة مزامنة وحدة معالجة الرسومات في إعدادات وحدات معالجة الرسومات المتعددة توفر رؤى قيمة لأولئك الذين يتطلعون إلى توسيع نطاق البنية التحتية للذكاء الاصطناعي الخاصة بهم. تتجاوز هذه الرؤى مجرد أرقام المعايير، وتقدم فهمًا أعمق لكيفية الاستفادة المثلى من هذه الأجهزة في سيناريوهات العالم الحقيقي، وتوجيه قرارات معمارية أفضل واستراتيجيات استثمار في البنية التحتية للذكاء الاصطناعي والحوسبة عالية الأداء (HPC).

أداء تطبيق NVIDIA L4

قارنا أداء NVIDIA L4 الجديدة مقابل NVIDIA A2 و NVIDIA T4 التي سبقتها. لعرض هذا الترقية في الأداء مقارنة بالنماذج السابقة، قمنا بنشر جميع النماذج الثلاثة داخل خادم في مختبرنا، مع Windows Server 2022 وأحدث برامج تشغيل NVIDIA، مستفيدين من مجموعة اختبارات وحدة معالجة الرسومات الكاملة لدينا.

تم اختبار هذه البطاقات على Dell Poweredge R760 بالتكوين التالي:

• 2 × Intel Xeon Gold 6430 (32 نواة، 2.1 جيجاهرتز)
• Windows Server 2022
• NVIDIA Driver 538.15
• ECC معطل على جميع البطاقات لأخذ عينات 1x

مع بدء اختبار الأداء بين هذه المجموعة من ثلاث وحدات معالجة رسومات للمؤسسات، من المهم ملاحظة الاختلافات الفريدة في الأداء بين طرازي A2 و T4 الأقدم. عندما تم إصدار A2، قدمت تحسينات ملحوظة مثل استهلاك طاقة أقل والعمل على فتحة PCIe Gen4 x8 أصغر، بدلاً من فتحة PCIe Gen3 x16 الأكبر التي كانت تتطلبها T4 الأقدم. سمح لها ذلك بالتركيب في المزيد من الأنظمة، خاصة مع البصمة الأصغر المطلوبة.

Blender OptiX 4.0

Blender OptiX هو تطبيق نمذجة ثلاثية الأبعاد مفتوح المصدر. يمكن تشغيل هذا الاختبار لكل من وحدة المعالجة المركزية ووحدة معالجة الرسومات، ولكننا قمنا فقط بوحدة معالجة الرسومات مثل معظم الاختبارات الأخرى هنا. تم تشغيل هذا المعيار باستخدام أداة Blender Benchmark CLI. النتيجة هي عينات في الدقيقة، حيث الأعلى أفضل.

Blackmagic RAW Speed Test

نحن نختبر وحدات المعالجة المركزية ووحدات معالجة الرسومات باستخدام Blackmagic RAW Speed Test الذي يختبر سرعات تشغيل الفيديو. هذا هو اختبار هجين يتضمن أداء وحدة المعالجة المركزية ووحدة معالجة الرسومات لفك تشفير RAW في العالم الحقيقي. يتم عرض هذه كنتائج منفصلة ولكننا نركز فقط على وحدات معالجة الرسومات هنا، لذلك تم حذف نتائج وحدة المعالجة المركزية.

Cinebench 2024 GPU

Maxon Cinebench 2024 هو معيار عرض ثلاثي الأبعاد لوحدة المعالجة المركزية ووحدة معالجة الرسومات يستخدم جميع نوى وخيوط وحدة المعالجة المركزية. مرة أخرى، نظرًا لأننا نركز على نتائج وحدة معالجة الرسومات، لم نقم بتشغيل أجزاء وحدة المعالجة المركزية من الاختبار. النتائج الأعلى أفضل.

GPU PI

GPUPI 3.3.3 هو إصدار من أداة القياس الخفيفة المصممة لحساب π (باي) بالمليارات من المنازل العشرية باستخدام تسريع الأجهزة عبر وحدات معالجة الرسومات ووحدات المعالجة المركزية. تستفيد من قوة الحوسبة لـ OpenCL و CUDA التي تشمل كلاً من وحدات المعالجة المركزية والرسومات. قمنا بتشغيل CUDA فقط على جميع وحدات معالجة الرسومات الثلاث والأرقام هنا هي وقت الحساب بدون إضافة وقت الاختزال. الأقل أفضل.

بينما نظرت النتائج السابقة في تكرار واحد فقط لكل بطاقة، أتيحت لنا أيضًا فرصة للنظر في نشر 5 × NVIDIA L4 داخل Dell PowerEdge T560.

Octanebench

OctaneBench هي أداة قياس لـ OctaneRender، وهو عارض ثلاثي الأبعاد آخر يدعم RTX مشابه لـ V-Ray.

Geekbench 6 GPU

Geekbench 6 هو معيار متعدد المنصات يقيس أداء النظام العام. هناك خيارات اختبار لكل من قياس أداء وحدة المعالجة المركزية ووحدة معالجة الرسومات. النتائج الأعلى أفضل. مرة أخرى، نظرنا فقط في نتائج وحدة معالجة الرسومات.

يمكنك العثور على مقارنات مع أي نظام تريده في متصفح Geekbench.

Luxmark

LuxMark هي أداة قياس متعددة المنصات لـ OpenCL من أولئك الذين يحتفظون بمحرك العرض ثلاثي الأبعاد مفتوح المصدر LuxRender. تبحث هذه الأداة في أداء وحدة معالجة الرسومات في النمذجة ثلاثية الأبعاد والإضاءة وأعمال الفيديو. في هذا الاستعراض، استخدمنا أحدث إصدار، v4alpha0. في LuxMark، الأعلى أفضل عندما يتعلق الأمر بالنتيجة.

GROMACS CUDA

قمنا أيضًا بتجميع GROMACS، وهو برنامج ديناميكيات جزيئية، خصيصًا لـ CUDA. تم إجراء هذا التجميع المخصص للاستفادة من قدرات المعالجة المتوازية لوحدات معالجة الرسومات NVIDIA L4 الخمس، وهو أمر ضروري لتسريع المحاكاة الحسابية.

تضمنت العملية استخدام nvcc، مترجم CUDA من NVIDIA، جنبًا إلى جنب مع العديد من التكرارات من علامات التحسين المناسبة لضمان ضبط الثنائيات بشكل صحيح على بنية الخادم. يسمح تضمين دعم CUDA في تجميع GROMACS للبرنامج بالتفاعل مباشرة مع أجهزة وحدة معالجة الرسومات، مما يمكن أن يحسن بشكل كبير أوقات الحساب للمحاكاة المعقدة.

الاختبار: تفاعل البروتين المخصص في Gromacs

بالاستفادة من ملف إدخال مقدم من المجتمع من خادم Discord المتنوع لدينا، والذي احتوى على معلمات وهياكل مصممة لدراسة تفاعل بروتين محدد، بدأنا محاكاة ديناميكيات جزيئية. كانت النتائج رائعة - حقق النظام معدل محاكاة يبلغ 170.268 نانوثانية في اليوم.

أكثر من الذكاء الاصطناعي

في ظل الموجة المتواصلة للابتكار في مشهد الذكاء الاصطناعي اليوم، يعد قياس وفهم قدرات منصات الأجهزة المختلفة أمرًا بالغ الأهمية. لا تتطلب جميع تطبيقات الذكاء الاصطناعي مزارع تدريب ضخمة لوحدات معالجة الرسومات (GPU) - فهناك شريحة حيوية من الذكاء الاصطناعي الاستنتاجي (inferencing AI) تتطلب غالبًا طاقة أقل لوحدات معالجة الرسومات، خاصة على الحافة (edge). في هذا الاستعراض، نفحص العديد من وحدات معالجة الرسومات NVIDIA L4 عبر ثلاثة خوادم Dell مختلفة ومجموعة من أعباء العمل، بما في ذلك MLperf، لتقييم أداء L4.

 

NVIDIA L4

وحدة معالجة الرسومات NVIDIA L4

في جوهرها، تقدم L4 أداءً مذهلاً يبلغ 30.3 تيرافلوبس (teraFLOPs) من FP32، مما يجعلها مثالية للمهام الحسابية عالية الدقة. تمتد قدراتها إلى الحسابات المختلطة الدقة عبر نوى Tensor (Tensor Cores) TF32 و FP16 و BFLOAT16 - وهي ميزات حاسمة لتعزيز كفاءة التعلم العميق. وفقًا لورقة مواصفات L4، يتراوح الأداء في هذه الأوضاع المختلطة الدقة من 60 إلى 121 تيرافلوبس.

 

تتفوق L4 في المهام منخفضة الدقة، حيث تقدم 242.5 تيرافلوبس مع نوى Tensor FP8 و INT8، والتي تعزز بشكل كبير أداء الاستنتاج للشبكات العصبية. بفضل ذاكرة GDDR6 بسعة 24 جيجابايت وعرض نطاق ترددي يبلغ 300 جيجابايت/ثانية، يمكنها التعامل بسهولة مع مجموعات البيانات الكبيرة والنماذج المعقدة. ومع ذلك، فإن ما يميز L4 أكثر هو كفاءتها في استهلاك الطاقة: مع TDP يبلغ 72 واط، فهي مناسبة تمامًا لمجموعة واسعة من بيئات الحوسبة. هذا المزيج من الأداء العالي وكفاءة الذاكرة واستهلاك الطاقة المنخفض يجعل NVIDIA L4 خيارًا مقنعًا لمعالجة تحديات الحوسبة الطرفية.

 

مع وصول الضجة المحيطة بالذكاء الاصطناعي إلى ذروتها، من السهل التركيز فقط على أداء L4 مع نماذج الذكاء الاصطناعي - ولكن لديها بعض الحيل الأخرى في جعبتها، مما يفتح عالمًا من الإمكانيات لتطبيقات الفيديو. يمكن لـ L4 استضافة ما يصل إلى 1040 دفق فيديو AV1 متزامن بدقة 720p30، وهي قدرة يمكن أن تحول كيفية بث المحتوى المباشر لمستخدمي الحافة، وتعزز السرد الإبداعي، وتمكن حالات استخدام مثيرة لتجارب الواقع المعزز/الواقع الافتراضي الغامرة.

 

تتألق NVIDIA L4 أيضًا عندما يتعلق الأمر بتحسين أداء الرسومات، كما يتضح من براعتها في العرض في الوقت الفعلي وتتبع الأشعة. في بيئة مكتبية طرفية، يمكن لـ L4 توفير تسريع قوي وعالي الطاقة للحوسبة الرسومية لـ VDI، وتلبية احتياجات المستخدمين النهائيين الذين يعتمدون على عرض رسومات عالي الجودة في الوقت الفعلي لعملهم.

 

أفكار ختامية

توفر وحدة معالجة الرسومات NVIDIA L4 أساسًا قويًا للذكاء الاصطناعي الطرفي والحوسبة عالية الأداء، وتقدم كفاءة وتعدد استخدامات لا مثيل لهما عبر مجموعة من التطبيقات. إن قدرتها على التعامل مع أعباء عمل الذكاء الاصطناعي المكثفة، أو مهام التسريع، أو خطوط أنابيب الفيديو - جنبًا إلى جنب مع أدائها الرسومي المحسن - تجعلها خيارًا مثاليًا للاستنتاج الطرفي أو تسريع سطح المكتب الافتراضي. يضع المزيج الفريد لـ L4 من قوة الحوسبة العالية وقدرات الذاكرة المتقدمة وكفاءة الطاقة كلاعب رئيسي في دفع تسريع أعباء العمل الطرفية، خاصة في الصناعات التي تتطلب الكثير من الذكاء الاصطناعي والرسومات.

 

 

مكدس NVIDIA L4 الملتوي

لا يمكن إنكار أن الذكاء الاصطناعي في مركز العاصفة الحالية لتكنولوجيا المعلومات، ولا يزال الطلب على وحدات معالجة الرسومات H100/H200 المتطورة في أعلى مستوياته. ومع ذلك، هناك أيضًا دفعة كبيرة لنشر بنية تحتية أكثر قوة لتكنولوجيا المعلومات على الحافة - حيث يتم إنشاء البيانات وتحليلها. في هذه السيناريوهات، هناك حاجة إلى وحدة معالجة رسوما