שלוש שכבות של כוח: איך Dell Technologies בונה AI PC מהמעבד ועד המאיץ
המושג AI PC מתייחס על פי רוב לביטויי בינה מלאכותית במחשוב הקצה: מחשב עם מנוע נייטיבי (NPU) שמריץ מקומית משימות יומיומיות כמו טשטוש רקע, תמלול חי או שיפור תמונה, ישירות על המכשיר וללא תלות ברשת. זהו כיוון אמיתי וחשוב, וארגונים רבים כבר נהנים ממנו היום כחלק בלתי נפרד מחוויית העבודה.
ויש את ה'שלב הבא' שלשמו התכנסנו: AI PC בהקשר של הרצת מודלים וטוקנים בקנה מידה ארגוני.
הכוונה היא להתפתחות של קו מחשוב מעמיק בהרבה: לא רכיב יחיד שמסייע למשימות יומיומיות, אלא ארכיטקטורה שלמה שנועדה להריץ מודלי שפה גדולים ממש - משימה שרוב תחנות העבודה הרגילות עדיין לא בנויות אליה.
במצב הנוכחי מתקיימות שלוש אפשרויות בלבד: לוותר על דיוק המודל, להמתין זמן ארוך לכל תשובה, או לוותר על הרעיון של מחשוב מקומי ולהעביר הכול לענן - עם כל מה שזה גורר במחיר משתנה, בזמן תגובה ובחשיפת מידע רגיש.
זהו אתגר הנדסי אמיתי שדורש פתרון. ובדיוק לשם כך, התכנסנו במאמר זה.
Dell Technologies, בשיתוף Intel, בחרה שלא לפתור את הבעיה הזו במוצר בודד אלא בארכיטקטורה של שלוש שכבות שמשלימות זו את זו.
השכבה הראשונה היא הבסיס: מעבדי Intel Core Ultra מדור Arrow Lake, יחד עם פלטפורמת הניהול והאבטחה vPro. זו לא שכבה צדדית.
תחנות ה-Dell Pro Max, ובהן דגם ה-Tower T2 המוגדר כמהיר בעולם בביצועי ליבה בודדת, נשענות על המעבדים האלה לכל מה שאינו חישוב AI טהור - הרצת מערכת ההפעלה, ניהול תהליכים ואבטחת נקודת הקצה. vPro מוסיף יכולות ניהול מרחוק ואבטחה ברמת ה-BIOS, כך שמחלקות IT יכולות לשלוט בצי שלם של תחנות AI מבלי לגעת פיזית בכל מכונה.
Dell Technologies מתארת את השילוב הזה כבסיס למה שהיא מכנה מחשבי ה-AI המאובטחים והניתנים לניהול ביותר בשוק המסחרי. במילים אחרות, לפני שמגיעים בכלל לשיחה על מודלים ופרמטרים, יש שכבה שלמה שתפקידה לוודא שהמכונה יציבה, מנוהלת ובטוחה.
כשהעומס גדל וצריך יותר ליבות, יותר ערוצי זיכרון ויותר יכולת הרחבה, Dell Technologies עוברת לשכבה השנייה: מעבדי Intel Xeon בקו ה-Dell Pro Precision Towers. אלה תחנות עבודה ארגוניות המיועדות לצוותים שמריצים כמה עומסים כבדים במקביל, והן משלבות את ה-Xeon עם כרטיסי NVIDIA RTX PRO Blackwell - עד ארבעה כרטיסי גרפיקה בתצורה אחת.
השילוב הזה נותן לצוותי הנדסה, מדעני נתונים ומעצבים תשתית אחת שיכולה לשרת גם עבודות רינדור ותלת-מימד כבדות וגם אימון והרצה של מודלים, בלי לצאת מהחדר ובלי להזדקק לתור לשרתים משותפים.
השכבה השלישית היא מה שנקרא בתעשייה 'מאיץ' - רכיב חומרה נפרד שתפקידו היחיד הוא לבצע את חישובי ה-AI עצמם, כלומר להריץ את המודל, ולא לנהל את שאר המחשב. בניגוד למעבד הרגיל שאחראי על הכול, המאיץ מתמחה רק בחישובים המתמטיים הכבדים שמודל שפה גדול דורש.
Dell Pro Max עם GB10 או עם GB300 הם שני מוצרי מאיץ כאלה, מבוססים על שבבי NVIDIA Grace Blackwell. בתצורה כזו, המאיץ מגיע עם מערכת הפעלה ותוכנה משלו - לינוקס בגרסת DGX OS של NVIDIA, עם כל מנהלי ההתקנים וספריות החישוב הדרושות לפיתוח AI מותקנים מראש.
הוא מתמחה אך ורק בחישוב ה-AI הכבד, בזמן שתחנת העבודה מבוססת Intel Core Ultra ו-vPro ממשיכה לנהל את כל השאר: מערכת ההפעלה הראשית, האבטחה והעבודה היומיומית של הצוות. ה-GB10 מציע 128 ג'יגה-בייט זיכרון מאוחד ועד פטהפלופ אחד של ביצועי FP4, ומסוגל לטעון מודל של 200 מיליארד פרמטרים לזיכרון אחד, ועד 400 מיליארד כששתי יחידות מחוברות זו לזו.
ה-GB300, האח הגדול, מגיע עם 784 ג'יגה-בייט זיכרון ועד 20,000 טרה-פלופס של FP4, ותומך במודלים בגודל של טריליון פרמטרים.
כך בהבאת שחקן חיזוק משמעותי בתצורת כמאיץ ייעודי האתגר נענה בכוח ייעודי, שהוא לפעמים הכוכב הראשי של הפרויקט, ולפעמים שחקן תומך לצד המכונה הראשית, בהתאם לצורך של הצוות.
התוצאה היא ארכיטקטורה מדורגת ולא מוצר בודד. Intel Core Ultra ו-vPro מספקים את הבסיס, הניהול והאבטחה. Intel Xeon נכנס כשצריך יותר עוצמת ליבות לעומסים ארגוניים כבדים. ו-NVIDIA GB10 או GB300 מתחברים כשצריך מאיץ ייעודי להרצת מודלים ענקיים, מקומית ולא בענן.
ב-13 באוקטובר Dell Technologies תציג את כח ה-AI PC בפורום תל אביב
מערכת שבה כל שכבה - מהמעבד ועד המאיץ - נבנתה במכוון כדי שהארגון יוכל להריץ טוקנים ומודלים במקום שבו העבודה קורית בפועל, בלי להתפשר על מהירות, אבטחה או תקציב. מוזמנים להגיע, ללמוד ולהתרשם. ההרשמה עכשיו >