מסמכים טכניים AI להורדה ושימוש
מאת: שעיה בכר, Solution Architect, ב-Dell Technologies
מאמר בבלוג: התאמה אישית של NVIDIA NeMo בשרתי PowerEdge על מנת לענות על שאילתות ספציפיות של Dell
מאמר בבלוג המתאר כיצד לבצע fine-tune ל-LLaMA-3 על ידי שימוש במסגרת NVIDIA NeMo, שימוש ב-Lora Rank Adaptation LoRA לצורך יעילות ושימוש במשאבים מ-NVIDIA GPU Cloud NGC. המאמר בוחן בנוסף, כיצד להתאים אישית מודלים עם נתונים ספציפיים לדומיין.
מאמר בבלוג: הפעלת מדען הנתונים עם NVIDIA AI Workbench ו-NIM
מאמר המנחה אתכם בסיווג הודעות דוא"ל באמצעות טכניקות למידת מכונה סטנדרטיות ולאחר מכן יישום מודל ג'נרטיבי על מנת לחלץ עובדות ותובנות מפתח על פני מערכי הנתונים.
מאמר בבלוג: מחשוב בביצועים גבוהים עם שרת Dell PowerEdge XE9680: ביצועי HPL ב-NVIDIA H200 GPU
מאמר זה חוקר את ביצועי NVIDIA H200 GPU, מתעמק ביכולות יוצאות הדופן של שרת PowerEdge XE9680, ומספק סקירה כללית של HPC ו-HPL.
מאמר בבלוג: פריסות מודל Hugging Face בקלות באמצעות Dell Enterprise Hub
מאמר המציג כיצד משתמש יכול לעבור מפורטל Dell Enterprise Hub למודל פועל תוך דקות. נעבור דרך ההגדרה מההתחלה ועד להפעלת קונטיינר אחד או יותר.
מאמר בבלוג: הפעלת מודל Llama 3.1 405B על Dell PowerEdge XE9680
במאמר זה אנו מדגימים את זרימת ההסקת מודלי Llama 3.1 405B בשרתי Dell PowerEdge XE9680. עם 8x GPUs NVIDIA H100 המחוברים דרך NVLink 900GB/s, כמו גם תמיכה בתקשורת 400Gb/s InfiniBand ו-Spectrum-X cross-node, ה-XE9680 מהווה פלטפורמה אידיאלית להסקת LLM עם צמתים בודדים ורב-צמתים ברמת גודל המודל הזה.
מאמר בבלוג: התאמת LLM Inference עם NVIDIA NIM באמצעות תכונות מפתח של TensorRT-LLM ו-vLLM
מאמר זה מתאר את היכולות של טכנולוגיות כגון TensorRT, vLLM ו-NVIDIA Inference Microservice NIM בשרתי PowerEdge המציעים פתרונות חזקים להסקה, הדרכה וכוונון עדין של מודלי שפה גדולים (LLM).
Dell Validated Design עבור Technical Computing AI
מסמך זה מציג את ה-DVD עבור מחשוב טכני AI עם תוצאות מדידת ביצועים המבוססות על פלטפורמת Dell 16G עם מעבד Xeon Scalable Server מבית אינטל מדור חמישי ואפשרויות NVIDIA Mellanox עבור מארג הרשת.
מדריך תכנון- Generative AI Digital Assistants בארגון
מדריך המתאר את הארכיטקטורה והתכנון של ה-Dell Validated Design עבור Generative AI Digital Assistants, הידועים גם כאווטרים בינה מלאכותית, אדם וירטואלי ודיגיטלי. המדריך שלפניכם מתאר את הפתרון ומפרט את הארכיטקטורה ורכיבי המפתח.
להורדת המדריך- לחצו כאן
מבוא ל-Red Hat Enterprise Linux AI 1.1 בשרתים התומכים ב-Dell PowerEdge GPU
מסמך זה מספק סקירה כללית לתכונות וליכולות של Red Hat Enterprise Linux AI על גבי שרתים התומכים ב-GPU של Dell.
אינטגרצית PowerEdge XE9680 Rack עם מאיץ Intel Gaudi 3 AI
מסמך זה מתמקד בהיבטים הקריטיים בפריסת שרת Dell PowerEdge XE9680 במרכז הנתונים. אנו דנים בגורמי מפתח כגון בחירת סוג המדף המתאים, גודל המתלה כך שיענו על הצרכים הנוכחיים והעתידיים, התקנה והגדרת חומרת השרת והרכיבים הנלווים, והבטחת מתח וקירור נכונים.
מדריך טכני - PowerEdge XE9680 - זמין כעת
מחלצים את עצמת מודלי ה-Multimodal Llama 3.2 (ראייה וטקסט) באמצעות תשתית Dell
מאמר זה בוחן את השימוש בחזון המולטי-מודלי החדש של Meta לראיה וטקסט Lama 3.2. אנו מציגים מספר דוגמאות לשימוש ארגוני בשני שרתים ותשתית שונים של Dell. אנו מסתכלים על מודל ה-Llama 3.2 90B על שרת Dell XE9680 עם 8x H100 GPUs, ועל דגם 11B הקטן יותר על R760xa עם 4x L40s.
סרטון: Ethernet Fabric עבור מתג Z9864F עם Intel Gaudi3 ב-Dell PowerEdge XE9680
סרטון: אופטימיזצית ביצועי עומס עבודה AI עם מעבדי PowerEdge ו-Intel Flex GPU
סרטון: מהפכה בתחום הבריאות: Generative AI-Powered Assistant ב-Dell PowerEdge