شنتشن ، الصين - يوليو 2025 - في اختراق لحوس الذكاء الاصطناعى والحوسبة الكبيرة اللغوية ، أطلقت NvidiaH100 141GBNVL Original ، وهو حل من الجيل التالي المصمم لدفع حدود أداء الذكاء الاصطناعي ، وسعة الذاكرة ، وكفاءة الطاقة. تم تصميم وحدة عمل H100 NVL 141GB التي تم تصميمها مع وضع أعباء عمل منظمة العفو الدولية على نطاق المؤسسة ، لتلبية متطلبات مراكز البيانات المتطورة اليوم ، والتدريب على نموذج اللغة ، والاستدلال على سرعة وحجم غير مسبوق.
3x أسرع من الاستدلال LLM - مدعوم من الهندسة المعمارية NVL
على عكس SXM القياسية أو وحدات معالجة الرسومات PCIE ، يعد H100 NVL عاملًا فريدًا يتميز بنظام وحدات معالجة الرسومات H100 متصلة عبر NVLink ومعبأة كحل مزدوج GPU مع 141 جيجابايت من ذاكرة HBM3 المشتركة وعرض الذاكرة أكثر من 7 تيرابايت/ثانية. هذا يجعلها وحدة معالجة الرسومات المثالية لـ:
GPT-3 و GPT-4 و Llama 3 التدريب
أعباء عمل الاستدلال على نطاق واسع المحولات
مهام AI متعددة الوسائط (لغة الرؤية ، الكلام ، إلخ)
وفقًا للاختبار الداخلي لـ NVIDIA ، يوفر H100 NVL ما يصل إلى 12x استنتاجًا أسرع لنماذج اللغة الكبيرة مقارنة بـ A100 80GB.
