טכנולוגיית התקשורת מבוססת אתרנט' שפותחה על ידי אנבידיה בישראל, Spectrum-X, אפשרה את הקמת מחשב העל העצום עם 100,000 מעבדים גרפיים (GPU) מסוג NVIDIA Hopper
NVIDIA מכריזה היום כי מחשב העל קולוסוס (Colossus) של חברת xAI, הבנוי מ-100,000 מעבדים גרפיים מסוג NVIDIA Hopper, הצליח להגיע לסדר הגודל העצום שלו באמצעות שימוש בפלטפורמת NVIDIA Spectrum-X Ethernet שפותחה בישראל ומשמשת כבסיס למחשב העל Israel-1, על הקמתו הכריזה אנבידיה בשנה שעברה.
קולוסוס, מחשב העל הגדול ביותר בעולם לבינה מלאכותית, נמצא בשימוש כיום לאימון Grok, משפחת מודלי השפה הגדולים (LLM) של xAI, עם צ'אט-בוט ייעודי המוצע כפיצ'ר למנויי פרימיום ב-X. xAI נמצאת כעת בתהליך להכפלת גודלו של מחשב העל, כך שזה ישלב סך של 200,000 מעבדים גרפיים בארכיטקטורת NVIDIA Hopper GPU.
מחשב העל והמתקן בו הוא שוכן, נבנו על ידי xAI ו-NVIDIA ב-122 ימים בלבד, זאת לעומת חודשים ארוכים או שנים – משך הזמן הטיפוסי לבנייה של מערכות בסדר גודל כזה. תוך 19 ימים מהרגע שנכנס ארון השרתים הראשון למבנה – החל מחשב העל לשמש עבור אימון מודלים.
בזמן אימון מודל השפה הגדול Grok, מחשב העל קולסוס הצליח להגיע לביצועי תקשורת חסרי תקדים עם עד 95% של Data Throughput – רמת ביצועים אליה לא ניתן להגיע באמצעות פתרונות Ethernet סטנדרטיים המספקים 60% של Data Throughput.
"בינה מלאכותית הופכת להיות "Mission Critical", ודורשת ביצועים, אבטחה, סקייל ויעילות הולכים וגוברים", אמר גלעד שיינר, סגן-נשיא בכיר ל-Networking ב-NVIDIA. "פלטפורמת התקשורת NVIDIA Spectrum-X Ethernet פותחה כדי לאפשר לחברות ויזמים חדשניים כמו xAI יכולות עיבוד, ניתוח הוצאה לפועל של יכולות בינה מלאכותית, ובתורה מאיצה את הפיתוח, ההטמעה וזמן ההגעה לשוק של פתרונות AI".
"קולסוס היא מערכת אימון המודלים החזקה ביותר בעולם", כתב אילון מאסק ב-X. "עבודה טובה של xAI, NVIDIA ורבים מהשותפים/ספקים שלנו".
"xAI בנתה את מחשב העל הגדול והעוצמתי ביותר בעולם", אמר דובר מטעם xAI. "המעבדים הגרפיים מסדרת NVDIA Hopper ו-Spectrum-X, איפשרו לנו למתוח את הגבולות של אימון מודלי AI בקנה מידה עצום, תוך יצירה של "מפעל AI" סופר-מואץ המבוסס על סטנדרט ה-Ethernet".
בליבה של פלטפורמת NVIDIA Spectrum-X, נמצא מתג האת'רנט Spectrum SN5600, שתומך בקצב העברת נתונים של עד 800Gb/s ומבוסס על שבב ה-Spectrum-4 Switch ASIC. ב-xAI בחרו לשלב את ה-Spectrum-X SN5600 עם BlueField-3 SuperNIC, טכנולוגיה שפותחה גם היא בישראל, על מנת לקבל ביצועים חסרי תקדים. פלטפורמת Spectrum-X Ethernet ל-AI, מביאה יכולות מתקדמות שבעבר היו בלעדיות לטכנולוגיית InfiniBand – ומהווים דרישות מפתח עבור פיתוח מרכזי מחשוב ענן לבינה מלאכותית יוצרת.
