معرفی انویدیا H100 NVL Dual GPU Accelerator برای Chat-GPT

کارت گرافیک H100 NVL بین محصولات سری بهترین ها را ارائه دهید هاپر انویدیا است. از نظر فنی، این محصول نسخه ای از Data Center Accelerator H100 است که به طور ویژه برای یک هدف طراحی شده است و آن بهبود مدل های زبان مبتنی بر هوش مصنوعی مانند Chat-GPT است.

اما نسخه NVL این پردازنده گرافیکی مزیت دیگری نسبت به مدل فعلی H100 دارد و آن ظرفیت حافظه آن است. این پردازنده گرافیکی از 6 گروه تراشه حافظه HBM3 استفاده می کند که مجموعاً 188 گیگابایت ظرفیت دارند.

به طور خلاصه، NVL مخفف NVLink است که با استفاده از این پیکربندی بر روی پردازنده گرافیکی H100 پیاده سازی شده است. H100 NVL آن را نه یک GPU بلکه دو GPU می کند برای کارت گرافیک این PCIe با استفاده از سه پل NVLink Gen4 به یکدیگر متصل شده است.

پس از سال‌ها، انویدیا اولین پردازنده گرافیکی دوگانه مبتنی بر PCIe خود را نه برای گیمرها، بلکه منحصراً برای استفاده در فناوری‌های مبتنی بر هوش مصنوعی مانند Chat-GPT منتشر کرد. معرفی کرد.

انویدیا وعده انتشار پردازنده گرافیکی H100 NVL را برای نیمه دوم سال 2023 داده بود و جزئیات بیشتری در اختیار ما قرار نگرفت.

پردازنده گرافیکی دوگانه H100 NVL از یک رابط گذرگاه 6144 بیتی استفاده می کند که از یک رابط 1024 بیتی برای هر کلاستر HBM3 تشکیل شده است. سرعت حافظه آن نیز به 5.1 گیگابیت در ثانیه می رسد و پهنای باند آن 7.8 گیگابایت بر ثانیه است که بیش از دو برابر H100 SXM است. فناوری‌های مبتنی بر هوش مصنوعی زبان به بافرهای حافظه و پهنای باند زیاد نیاز دارند که تأثیر زیادی بر عملکرد آنها دارد.

بخوانید  شایعه: مدل جدید PS5 به نظر یک کنسول جدید است

مشخصات شتاب دهنده هوش مصنوعی GPU دوگانه H100 NVL