התרומה של מרכז המחקר והפיתוח של אנבידיה בישראל ניכרת השנה במספר גדול של הכרזות - מתגי Silicon Photonics, Llama Nemotron - משפחת מודלי ה-Reasoning, NVIDIA Dynamo - ספריית ההאצה למודלי Reasoning, וכמובן רכיבי התקשורת כגון NVLink ואחרים
חברת NVIDIA הכריזה היום על NVIDIA Blackwell Ultra, השלב הבא באבולוציה של פלטפורמת מחשוב העל של החברה להנעת מפעלי בינה מלאכותית (AI Factories, מרכזי נתונים להנעת בינה מלאכותית בקנה מידה רחב), אשר יסלול את הדרך לעידן ה-AI Reasoning - בינה מלאכותית עם יכולות ״חשיבה״ מתקדמות.
על מנת לאפשר לארגונים ברחבי העולם להאיץ יישומי AI Reasoning, Agentic AI ו-Physical AI, Blackwell Ultra מציגה שיפור בביצועים הן בשלב האימון של מודלי הבינה המלאכותית, והן בשלב ההסקה של מודלים "חושבים", המכונה ה-Test-Time Scaling ובמסגרתו מוקצית כמות גדולה יותר של כוח מחשוב בשלב ההסקה (Inference) כדי לקבל תוצאות מדויקות יותר.
פלטפורמת Blackwell Ultra, שמבוססת על הארכיטקטורה פורצת הדרך Blackwell שהוצגה לפני שנה, כוללת את NVIDIA GB300 NVL72, מערכת בסקייל של Rack (ארון שרתים), לצד מערכת NVIDIA HGX B300 NVL16. מערכת NVIDIA GB300 NVL72 מציגה שיפור של פי 1.5 בביצועי בינה מלאכותית בהשוואה לדור הקודם, NVIDIA GB200 NVL72, לצד גידול של פי 50 בפוטנציאל ההכנסה של מפעלי בינה מלאכותית לעומת ארכיטקטורת Hopper.
״הבינה המלאכותית עשתה זינוק אדיר - Reasoning ו-Agentic AI דורשים כמויות עצומות פי כמה וכמה של כוח מחשוב״, אמר ג'נסן הואנג, מייסד ומנכ״ל NVIDIA, ״פיתחנו את Blackwell Ultra בדיוק עבור הרגע הזה - מדובר בפלטפורמה ורסטילית אחת שיכולה לבצע Pre-training, Post-training והיסק במודלי AI Reasoning באופן קל ויעיל״.
AI Reasoning באמצעות Blackwell Ultra
מערכת NVIDIA GB300 NVL72 מחברת 72 שבבי GPUמדגם Blackwell Ultra ו-36 שבבי CPU מבוססי Arm Neoverse מדגם NVIDIA Grace בתוך ארון שרתים המשמש כ-GPU עוצמתי המותאם ל-Test-Time Scaling. מודלי בינה מלאכותית יכולים להשתמש בכוח החישוב המתקדם של פלטפורמת NVIDIA GB300 NVL72 כדי לבחון פתרונות שונים לבעיות, לפרק משימות מורכבות לשלבים שונים, ולספק למשתמשים תשובות באיכות גבוהה יותר.
מערכות GB300 NVL72 צפויות להיות זמינות גם באמצעות NVIDIA DGX Cloud, פלטפורמת הבינה המלאכותית בענן של NVIDIA, שזמינה ללקוחות ספקיות הענן המובילות ומספקת אופטימיזציה לביצועים באמצעות תוכנה, שירותים ומומחיות ב-AI.
מערכת NVIDIA GB300 NVL72 משמשת כאבן הבניין של הדור החדש של מחשבי העל לבינה למלאכותית NVIDIA DGX SuperPOD, שמבוסס על מערכות DGX GB300. ה-Blackwell Ultra DGX SuperPOD כולל 576 מעבדי Blackwell Ultra GPU, יחד עם 288 מעבדי Grace CPU, המחוברים יחד כסופר-צ'יפ. לצידם, כל מערכת DGX GB300 משלבת 72 שבבי NVIDIA ConnectX-8 SuperNICs בקצב של עד 800 גיגה-ביט לשנייה - פי שניים בהשוואה לדור הקודם, לצד 18 שבבי BlueFIeld-3 DPU ומתגי Quantum-X או Spectrum-X.
מערכת NVIDIA HGX B300 NVL16 מציגה שיפור של פי 11 במהירות ההסקה במודלי שפה גדולים (LLMs), לצד פי שבעה יותר כוח מחשוב ופי ארבעה יותר זיכרון בהשוואה לארכיטקטורת Hopper, על מנת לספק ביצועים פורצי דרך עבור עומסי העבודה המורכבים ביותר, בהם AI Reasoning.
בנוסף, Blackwell Ultra היא הפלטפורמה האידיאלית עבור יישומים שונים, בהם:
Agentic AI, שמשתמש ביכולות ״חשיבה״ ותכנון מתקדמות על מנת לפתור באופן אוטונומי בעיות מסובכות המורכבות משלבים שונים. סוכני בינה מלאכותית לא רק עוקבים אחרי הוראות - הם יכולים להסיק מסקנות, לתכנן ולבצע פעולות על מנת להשיג את המטרות שלהם.
תחום ה-Physical AI, שבו Blackwell Ultra מאפשרת לחברות וארגונים לייצר סרטונים סינתטיים ופוטו-ריאליסטיים כדי לאמן רובוטים, רכבים אוטונמיים ויישומים נוספים בסקייל.
ביצועים אופטימליים עם טכנולוגיות התקשורת של NVIDIA
טכנולוגיות תקשורת מתקדמות מאפשרות לתשתיות בינה מלאכותית לספק את הביצועים הטובים ביותר ולהפחית את זמן השיהוי. מערכות Blackwell Ultra משתלבות בקלות עם פלטפורמות התקשורת המואצת NVIDIA Spectrum-X ו-NVIDIA Quantum-X800 InfiniBand, אשר פותחו בישראל ומספקות ביצועים בקצב של עד 800 גיגה-ביט לשנייה לכל שבב GPU באמצעות NVIDIA ConnectX-8 SuperNIC. שילוב זה מספק את יכולות הגישה הישירה לזיכרון מרוחק (RDMA) הטובות ביותר שזמינות כיום ומאפשר למפעלי AI וחוות שרתים בענן להריץ מודלי חשיבה (Reasoning) בלי להתמודד עם עיכובים ברשת.
מערכותBlackwell Ultra כוללות גם שבבי DPU מדגם NVIDIA BlueField-3, שפותחו גם הם בישראל ומאפשרים תקשורת Multi-tenant, גמישות חישובית של GPU, גישה מואצת לנתונים וזיהוי איומי סייבר בזמן אמת.
חברות טכנולוגיה מובילות מאמצות את Blackwell Ultra
מוצרים מבוססי Blackwell Ultra יהיו זמינים בהמשך השנה מיצרניות מחשבים וספקיות ענן מובילות. לנובו, HPE, דל טכנולוגיות, סיסקו וסופרמיקרו צפויות להציע מגוון רחב של שרתים המבוססים על מוצרי Blackwell Ultra, לצדAivres, ASRock Rack, ASUS, Eviden, Foxconn, GIGABYTE, Inventec, Pegatron, Quanta Cloud Technology (QCT), Wistron ו-Wiwyn.
ספקיות שירותי הענן Amazon Web Services, Google Cloud, Microsoft Azure ו-Oracle Cloud Infrastructure יהיו בין הראשונות שיציעו ללקוחות תשתיות מחשוב מבוססות Blackwell Ultra, לצד ספקיות ה-GPU בענןCoreWeave, Crusoe, Lambda, Nebius, Nscale, Yotta ו-YTL.
חידושים בתוכנה של NVIDIA מפחיתים את צווארי הבקבוק ב-AI
פורטפוליו המוצרים של Blackwell נתמך על ידי NVIDIA AI, פלטפורמת בינה מלאכותית מקצה לקצה. NVIDIA Dynamo, שהוצגה גם היא לראשונה היום, היא ספרייה בקוד פתוח להאצה והגדלת הסקייל של מודלי חשיבה (Reasoning), אשר משפרת את הביצועים, מפחיתה את העלויות התפעוליות וזמני התגובה ומהווה את הפתרון היעיל ביותר ל-Test-Time Compute.
באמצעות NVIDIA Dynamo, שפותחה בין היתר בישראל, ניתן לבצע את תהליך ההסקה של פרומפט בודד על עד ל-1,000 שבבי GPU - בהתאם לצורך. היכולת של NVIDIA Dynamo לנהל, להאיץ ולנצל באופן דינמי ויעיל את כוח המחשוב הזמין על פני רשת של אלפי שבבי GPU, מאפשרת לה לספק ביצועים מהירים פי 30 עבור מודל החשיבה DeepSeek R1 על מערכות Blackwell.
מערכות Blackwell הן אידיאליות להרצה של מודלי NVIDIA Llama Nemotron Reason החדשים ושל NVIDIA AI-Q Blueprint, שנתמכים על ידי NVIDIA AI Enterprise, פלטפורמת תוכנה לפרודקשן של בינה מלאכותית. NVIDIA AI Enterprise כוללת את NVIDIA NIM microservices, לצד Frameworks, ספריות וכלי AI שארגונים יכולים לפרוס באמצעות שירותי ענן, מרכזי נתונים ותחנות עבודה שמואצות על ידי NVIDIA.
פלטפורמת Blackwell נתמכת על ידי אקוסיסטם עוצמתי של כלי פיתוח, ספריות NVIDIA CUDA-X, יותר משישה מיליון מפתחות ומפתחים ומעל 4,000 יישומים שמשפרים את הביצועים של אלפי שבבי GPU.
