Arabic
وسعت شركة VAST Data شراكتها مع AMD لتطوير البنية التحتية للذكاء الاصطناعي لمنصات السحابة والمؤسسات التي تعمل على تدريب النموذج والاستنتاج والإنتاج المعزز بالانتقاء (RAG) ،وأعباء عمل الذكاء الاصطناعييجمع المجموعة المتكاملة بين نظام التشغيل VAST AI مع معالجات AMD EPYC الجيل السادس ، و GPUs AMD Instinct ، و أجهزة الشبكات AMD ، و برنامج ROCm.
هذا التعاون يتماشى مع تحول كبير في الصناعة: البنية التحتية للذكاء الاصطناعي تتطور إلى ما وراء مجموعات التدريب فقط لدعم السياق المستمر، استنتاجات التنافسية العالية،وتدفقات عمل وكيل متعددة الدوراتتعطي عمليات نشر الذكاء الاصطناعي الحديثة الأولوية لحركة البيانات الفعالة، وإدارة ذاكرة التخزين المؤقت KV المحسّنة، واستخدام GPU أعلى، وإمكانية الوصول إلى نماذج كبيرة ومجموعات بيانات سياقية بفترة تأخير منخفضة.
تعتبر بنية VAST (DASE) المعزولة المشتركة لكل شيء طبقة بيانات مشتركة موحدة لهذه البيئات الحديثة للذكاء الاصطناعي. إنها توحيد تخزين الملفات والكائنات وقواعد البيانات ،بث الأحداث، وخدمات البيانات الأساسية تحت مساحة أسماء عالمية واحدة ، مع توفير عزل متعدد المستأجرين وحمل العمل للسحب الذكية التي تعمل مهام مختلفة متزامنة للعملاء والتطبيقات.
AMD EPYC 9006 قوى الجيل التالي من أجهزة VAST
تقوم VAST باعتماد معالجات AMD EPYC 9006 من الجيل السادس (Venice) لنظم CBox الجيل السادس والجيل الثالث EBox القادمة ، والتي تشكل أساس الأجهزة لنظام التشغيل VAST AI.منصة EPYC 9006 تقدم اتصال PCIe Gen6 إلى مجموعة أجهزة VAST، مضاعفة عرض النطاق الترددي للإدخال والخروج لكل جيل.
يزيد الترقية من سعة تخزين الملفات والكائنات ويقلل من فترة التأخير لمحتوى البيانات ومستودع البيانات وحملات العمل التي تدعمها VAST DataBase و DataEngine.يسهل عرض النطاق الترددي الإدخالي/الإخراجى المتزايد من اختناقات الحوسبة، الشبكات وتخزين NVMe ، مما يستفيد من تحميل النموذج ، وأنابيب الاسترداد ، والوصول إلى نقاط التفتيش ، وتدفقات العمل الخارجي KV cache التي تتجاوز حدود ذاكرة GPU الأصلية.
بنية مرجعية ثلاثية اللاعبين مع AMD و DriveNets
تقوم VAST و AMD و DriveNets بتطوير بنية مرجعية متكاملة للبنية التحتية للذكاء الاصطناعي ، والتي تجمع بين بنية تحتية Helios AI على نطاق رف AMD ، و VAST AI OS ، و DriveNets AI Fabric.يقدم الإطار إرشادات توزيع موحدة لتدريب الذكاء الاصطناعي، استنتاج، التعلم بالتمكين وعبء العمل في ذاكرة التخزين الكهربائي الكهربائي،توفير أفضل الممارسات للتحديد والتوفر للمؤسسات التي تبني مصانع الذكاء الاصطناعي مع بنية تحتية بيانات مشتركة وشبكات عالية الأداء.
كما وسعت VAST علاقاتها في النظام البيئي مع بائعي الاستدلال TensorMesh و EmbeddedLLM ، مع التركيز على هندسات استنتاجية على مستوى الإنتاج لحالات استخدام الذكاء الاصطناعي العامل ،مع التكامل المحدد وتفاصيل الإطلاق التي لم يتم الكشف عنها بعد.
تحسين تحميل KV Cache للاستنتاج عالي التشابه
أحد أهم أجزاء التعاون هو تحسين تحميل ذاكرة التخزين المؤقت KV ، والاستفادة من GPUs AMD Instinct ، AMD Infinity Context ، برنامج ROCm ونظام التشغيل VAST AI.يخزن ذاكرة التخزين المؤقت KV بيانات حالة الانتباه التي يتم إنشاؤها من خلال الاستدلال لتسريع التفاعلات متعددة الدورات وحملات العمل AI ذات السياق الطويل، ومع ذلك فإن أحجام التخزين المؤقت الكبيرة تستهلك بسرعة ذاكرة GPU محدودة.
تحرير ذاكرة GPU للمهام النشطة مع الحفاظ على البيانات السياقية لطلبات الاستدلال اللاحقة.الاختبارات المبكرة على GPUs AMD Instinct MI355X قدمت وقت أسرع 9 مرات إلى الرمز الأول و 9.7 أضعاف معدل تسليم الرموز العشوائية العاملة لتحميلات الذكاء الاصطناعي عالية التوافق عبر تحميل التخزين المؤقت KV القائم على VAST ، مع أداء يختلف حسب خط الأساس للأجهزة وحمل العمل وتكوين التخزين.
بالإضافة إلى ذلك، تطبق سياسات دورة الحياة الآلية لـ VAST على بيانات ذاكرة التخزين المؤقت KV، مما يتيح انتهاء الموعد المقرر وحذف المحتوى المؤقتبيانات استنتاجية شخصية أو منظمة.
اتصال عالي السرعة مع GPU-Storage عبر Pensando Pollara 400
تعتمد الهندسة المعمارية AMD Pensando Pollara 400 AI NICs لربط GPUs AMD Instinct بمجموعات التخزين VAST. تدعم NFS عبر TCP و RDMA ،NIC تمكن من نقل البيانات من GPU إلى التخزين بكفاءة، مما يمنح وصولاً منخفضاً لفترة تأخير إلى تخزين VAST القائم على NVMe لتخزين cache KV وحملات عمل استنتاج عامة.
هذا التصميم ينفصل بين التحكم بالسياق وتوسيع نطاقه من حدود الذاكرة الفيزيائية لـ GPU. بدلاً من التعامل مع التخزين على أنه استمرارية سلبية،يضع VAST منصته كطبقة بيانات وتنفيذ موحدة لإدارة النموذج الموزع، قواعد البيانات، البث، أصول الملفات وسياق الذكاء الاصطناعي. لمقدمي سحابة الذكاء الاصطناعي، ترفع الهندسة المعمارية استخدام GPU وكفاءة التشغيل،دعم الانتقال الصناعي من التدريب بالفئة وتأجير GPU إلى استنتاج مستمر وخدمات الذكاء الاصطناعي العملي.
شركة بكين تشيانكسينغ جييتونغ للتكنولوجيا المحدودة
ساندي يانغ مدير الاستراتيجية العالمية
واتساب / ويتشات: +86 13426366826
البريد الإلكتروني: yangyd@qianxingdata.com
الموقع: www.qianxingdata.com/www.storagesserver.com
التركيز على الأعمال:
توزيع منتجات تكنولوجيا المعلومات والاتصالات / تكامل النظام والخدمات / حلول البنية التحتية
مع أكثر من 20 عامًا من الخبرة في توزيع تكنولوجيا المعلومات، نحن نتعاون مع العلامات التجارية العالمية الرائدة لتقديم منتجات موثوقة وخدمات مهنية.
استخدام التكنولوجيا لبناء عالم ذكي مزود خدمة منتجات تكنولوجيا المعلومات والاتصالات الموثوق به
ساندي يانغ مدير الاستراتيجية العالمية
واتساب / ويتشات: +86 13426366826
البريد الإلكتروني: yangyd@qianxingdata.com
الموقع: www.qianxingdata.com/www.storagesserver.com
التركيز على الأعمال:
توزيع منتجات تكنولوجيا المعلومات والاتصالات / تكامل النظام والخدمات / حلول البنية التحتية
مع أكثر من 20 عامًا من الخبرة في توزيع تكنولوجيا المعلومات، نحن نتعاون مع العلامات التجارية العالمية الرائدة لتقديم منتجات موثوقة وخدمات مهنية.
استخدام التكنولوجيا لبناء عالم ذكي مزود خدمة منتجات تكنولوجيا المعلومات والاتصالات الموثوق به