06/10/2024 מאת: שעיה בכר, Solution Architect, ב-Dell Technologies
הכרזות ועדכונים בתחום השרתים- אוקטובר 2024
מאת: שעיה בכר, Solution Architect, ב-Dell Technologies
הכרזה על NVIDIA H100 NVL 94GB PCIe GPU מוכן למכירה (RTS) עבור R760, R7625 ו-R7615
אנו שמחים להכריז על RTS עבור NVIDIA H100 NVL 94GB PCIe ב-R760, R7625 ו-R7615. ה-H100 NVL PCIe מהווה חלק ממשפחת ארכיטקטורות Hopper של NVIDIA, וממנף את ארכיטקטורת ה-H100 GPU עם זיכרון GPU גבוה יותר (94GB) ומהיר יותר (HBM3):
- עם הצמיחה האדירה (והזרקור) על מודלי שפה (LLM) ויישומי בינה מלאכותית, לקוחות מחפשים יכולת מחשוב GPU ורוחב פס זיכרון + קיבולת גבוהה יותר להסקת מסקנות בהתבסס על דגמים גדולים, אך בשרתי מתלים (Rack) מיינסטרים המאפשרים גמישות גדולה יותר להרחבה.
- H100 NVL הוצג על מנת לספק מענה לביקוש הגובר הזה - עם רוחב פס זיכרון גבוה יותר (לעומת H100 80GB) בשילוב שיפורי מחשוב שהוצגו כחלק מארכיטקטורת Hopper. זמין כמתאם PCIe עם גשרי NVLink דו-כיווניים לאגוד הזיכרון, או אפילו כמתאם עצמאי (מינימום 2 ב-R760XA) ללא גשרי NVLink.
- H100NVL כולל מנוי ל-5 שנים של NVIDIA AI Enterprise
עומסי עבודה ממוקדי:
- הסקת AI גנרטיבית
- HPC ובינה מלאכותית
- אימון AI כללי