הדרך להפסיק לשלם ולקחת בעלות: בנינו שרת AI מפלצתי מקומי

בסדרה חדשה של כתבות נציג לכם את הדרך והשימושים שיש בבעלות של חומרת AI מתקדמת – הראשון שבסדרה עוסק בבחירת החומרה ובלוג הבניה עצמה

ברוכים הבאים לראשונה בסדרת כתבות אשר תתעסק בעקרונות וביתרונות שבבניית שרת AI בייתי או משרדי למגוון שימושי מודלים לשימוש עצמי. הסדרה הזאת נולדה מהרצון שלנו להבין ולהציג את התהליך שבו משתמש או ארגון מחליט להפסיק לשלם על שירותי אונליין כאלה ואחרים, ורוכש חומרה למען שימוש עצמי, דבר המעניק לו בעלות מלאה על התהליך. יש כוכביות ונעסוק בהן בהמשך. הכתבה הזאת מוקדשת לחלק הטכני של בחירת החלקים והרכבת השרת. לפניכם החלק הראשון בסדרה – הרכיבים ותהליך ההרכבה.

הקדמה

תחום ה-AI מתחמם בכל שוק בעולם. בעוד שעולם החומרה חוטף עליות מחירים מדאיגות ועולם הדאטא סנטר שואב פסי יצור למשך שנים שלמות, קיים גם תחום ביניים מעניין שמעניק יותר עצמאות ובעלות למשתמש האישי, בין אם בסביבה בייתית או בין אם כחלק מעסק כזה או אחר.

יצרניות כמו אינטל הן חלק בלתי נפרד מאלה שמעודדות בעלות על החומרה להצרת אותם מודלי AI באופן פרטי, ואיתן גם יצרניות חומרה אחרות שמעניקות כלים לבנות את אותם שרתי AI ביתיים, שרתים שיכולים גם לשמש לדברים מלבד הרצת מודלי AI באופן מקומי לשימושים השונים, גם כאלה שיכולים לשמש לרינדור וידאו למשל. אפשר גם לדבר על גיימינג, אך זאת לא המטרה העיקרית. בכל זאת, בהמשך נגיע גם לזה.

שרת AI בייתי? למה שלא אשלם לשירות אונליין?

זאת שאלה שתעלה בצדק לכל אדם או ארגון שמשתמש בשירותי AI כאשר הנושא של חומרת AI בשטח היא נושא השיחה. מצד אחד, אפשר לשלם מנוי וגם תוספת תשלום לכל שימוש עבור שירות אונליין שקיים בחוות שרתים, תמיד מתעדכן לגרסאות הכי חזקות וכך להמנע מסכומים גדולים של הוצאה. מצד שני, שירותי האונליין דוגמת Claude, Grok, Gemini ו-ChatGPT ממשיכים להיות יקרים יותר ויותר, כאשר תחזוקת חוות השרתים ובניה של שרתים נוספים נהיית יקרה יותר, וגם כי רוצים לסיים את המחזור השנתי ברווחים גדולים יותר.

חברות רבות מוצאות את עצמן מוציאות סכומי עתק על טוקנים (Token כיחידת אפשור לביצוע של עיבוד בתוך מודל מסוים) ונאלצות לשלם עשרות ואף מאות אלפי דולרים לאותן חברות כמו Anthropic ולמוצרים כמו Claude. השימוש העיקרי הוא כמובן כתיבה של קוד, בדיקה של קוד קיים וכל שימוש תוכנתי לבניה ולתחזוקה של תוכנות כאלה ואחרות. זה יכול להיות מוצר אונליין, תוכנה מקומית לחלוטין או אפילו בניה ואפיון של מערכות הפעלה מבוססות לינוקס.

אין על כך עוררין, מדובר בכלים מאוד חזקים ששינו את התעשיה לנצח ושקבעו תפוקת עבודה חדשה לחלוטין עבור מה שמפתח יכול לעשות בזמן קצוב. יש לכך גם השלכות של אתיקה ושל שוק עבודה שמאוד השתנה, בחלקו לרעה, אבל את הפוליטיקה נשאיר בחוץ הפעם. הכתבה הזאת באה בעיקר להציג לכם את החומרה שבפרויקט המיוחד הזה.

עוד צריך להבין שמישהו צריך לתחזק שרת שכזה, לעדכן אותו ולדאוג לו – שירותים שלא חושבים עליהם כשמשלמים על שירותי ענן.

מתי חכם לבחור בשרת בייתי?

חשוב לזכור ששרת AI בייתי מביא איתו את ההוצאות הגדולות בהתחלה, והמטרה היא שישלם על עצמו ככל שעושים בו יותר שימוש במודלים מקומיים. החשבון לא תמיד קל לחישוב, אבל אם שרת שכזה יכול לשלם בעוצמת העיבוד שלו על כמות הטוקנים שאחרת הייתם משלמים עליהם במשך נניח שנה או שנתיים, יתכן ועשיתם השקעה חכמה. חלק מהיתרונות יהיו שביצוע של פעולות עיבוד ויצירת קוד יתבצעו לכל הפחות בקצב של שירותי פרימיום יקרים מבית Anthropic או גוגל. לא מדובר כאן ברצון להחזיק חומרה שבקושי עושה את העבודה, אלא אחת שעושה אותה בצורה מעולה.

כדוגמה מאוד כללית ולא מייצגת – נניח שיש לכם ארגון קטן בו יש 5 אנשי תוכנה שכל אחד עושה שימוש ב-200 דולר לחודש בשירותי אונליין ליצירה ותחזוקה של קוד. 1,000 דולר בחודש או 12,000 דולר בשנה עבור שירותי AI ברמה גבוהה מול שרת חזק באותה עלות יהיה מקרה גבולי. המודל אונליין יהיה מתקדם יותר ואיכות הקוד כנראה גבוהה יותר. מצד שני, יתכן ואנשי הקוד יאלצו "להתחשבן" עבור פעולות נוספות שירצו – דבר ששרת מקומי יכול להעניק ללא הגבלה, שם הדבר היחיד שמגביל הוא כח העיבוד הקיים. 12,000 דולר, אגב, היא עלות דומה למדי לשרת אותו נרכיב בכתבה זאת ובו נשתמש בסדרת המאמרים. אם יש יותר אנשי קוד או צורך ביותר קוד שירוץ מסביב לשעון – היתרון של שרת מקומי רק ילך ויעלה, שכן הוא יכול לעבוד מסביב לשעון, לייצר טוקנים בעבודה ומלבד חשבון החשמל לא תקבלו עלויות נוספות משמעותיות.

יש לכך גם משמעויות שקשורות לביטחון מידע, ולעובדה שמה שקורה בתוך המכונה נשאר בתוך המכונה. עבור אנשים ועסקים מסויימים זה יכול להוות מרכיב קריטי בשמירה על סודיות ועל תוכן בתוך הארגון.

שרתים מקומיים יעשו שימוש במודלים שאפשר להוריד ולהריץ בתלות בחומרה עצמה. נגיע לכך בכתבות המשך. החסרון הממשי הגדול הוא ששירותי אונליין תמיד מתעדכנים, והרצת שרת מקומי לרוב ישען על השקות של מודלים ספציפיים שאפשר להריץ. החדשות הטובות הן שעולם המודלים המקומיים רק הולך ומתעצם וחברות גדולות בתחום מושקעות גם בתחום הזה.

בינתיים, אתם מוזמנים להינות מנבחרת החומרה שעומדת מאחורי הפרויקט המיוחד הזה. כבר בשלב זה אנחנו רוצים להודות לאינטל, ADATA, ל-Asus ול-Noctua על הספקת הרכיבים לפרויקט המשוגע וארוך הטווח הזה. היצרניות הללו הצטרפו לפרויקט בשביל לאפשר לנו להציג לכם את היתרונות וגם החסרונות שבבעלות שרת AI מקומי. בכתבות המשך נשתף אתכם בתהליך התקנת התוכנה ובביצועים בתוכנות ובשימושים השונים.

הלב הפועם של השרת – ארבעת כרטיסי Intel Arc Pro B70 32GB

כאשר הושק הכרטיס הגרפי הזה, ניגשנו לאינטל עם הבקשה התמימה של לסקר אותו בגיימינג. מדובר בכרטיס עם הליבה הגרפית החזקה ביותר של אינטל עד כה, ולמרות שמאוד היינו שמחים לראות אותו כמוצר גיימינג בגלגול אחר, מדובר בכרטיס שמיועד בראש ובראשונה בדיוק לפעולה שבה אנחנו הולכים להשתמש בו – שימוש במודלי AI מקומיים. מודלים שכאלה מעריצים של שני דברים – נפח ומהירות של זיכרון. עם 32GB של זיכרון גרפי מסוג GDDR6 אנחנו משיגים את שניהם עם ה-Arc Pro B70.

בחודשים האחרונים מאז השקתו, מתפרסם ה-B70 בעיקר ביחס בין עלותו לעובדה שהוא מספק 32GB של זיכרון גרפי. בעוד הושק במחיר נמוך מאלף דולר, והיום מבלה קצת מעבר לזה, כרטיסים גרפיים אחרים בעלי נפח זיכרון שכזה עולים משמעותית יותר. לאינטל יש מוצר בעל יחס עלות-תועלת מאוד גבוה בעולם הכרטיסים הגרפיים, במיוחד למטרות AI מקומי.

העיצוב הוא אייקוני – מרובע פשוט עם קצת כחול בהתאם למיתוג אינטל. אנחנו דווקא מאוד אוהבים.

לכרטיס הזה 32GB של זיכרון גרפי מסוג GDDR6 ומחצית מהשבבים הללו יושבים בגב הכרטיס. הפלטה האחורית שלו לא משמשת רק להגנה על לוח המעגל המודפס, אלא גם כאמצעי קירור לשבבים. אפשר לראות מימין את חלק מפתחי האוויר המיועדים למאוורר בעיצוב המפוח שיש לכרטיס.

בחלקו האחורי של הכרטיס ישנם פתחים נוספים כמו גם את מחבר הכח מסוג 8PIN PCIE. גוף הקירור של הכרטיס בנוי בפירוש לשימוש בשרתים ותחנות עבודה, שכן יש לדאוג לכמה שיותר פתחים ליניקת אוויר עבור המאוורר.

מעטפת החום של ה-Arc Pro B70 היא 230W. צריכת החשמל בפועל מאוד תלוי במצב בו נמצא הכרטיס בכל רגע נתון. יש מצב מנוחה, יש מצב בו מודל טעון לתוך הזיכרון ויש מצב עבודה באינטנסיביות כזאת או אחרת.

בעוד 32GB של זיכרון גרפי היא כמות נכבדת, מצאנו את עצמנו עם ההצעה מאינטל לבחון לא פחות מארבעה כרטיסים כאלה במערך מפלצתי שנותן לנו גישה ל-128GB של זיכרון מסוג GDDR6. המשמעות היא שניתן לטעון מודלים מורכבים משמעותית על השרת, כאלה שיספקו ביצועים גבוהים יותר. פרויקט שהתחיל מבקשה לכרטיס עבור מבחני גיימינג הפך לפרויקט בשיתוף פעולה עם מגוון יצרניות מעולם החומרה.

המח שמאחורי הפלטפורמה – Intel Xeon 658X

כל פלטפורמה צריכה מעבד עוצמתי שיעמוד מאחורי וגם כאן אינטל נרתמה למשימה ושלחה את ה-Xeon 658X, מעבד בעל 24 ליבות ו-48 נימים על בסיס ארכיטקטורת Granite Rapids.

מה שמיוחד בארכיטקטורה ובכל הפלטפורמה הזאת, מלבד כח עיבוד מאוד מעובד, היא שהיא מאוד מאוד עשירה בחיבוריות וערוצי PCI-Express.

ה-Xeon 658X מאפשר לפלטפורמה לא פחות מ-128 ערוצי PCI-Express בדור 5.0. זאת בדיוק סוג החיבוריות שצריכה מערכת בעלת 4 כרטיסים גרפיים, כונני NVMe ושאר חומרת PCI-Express צמאת-תעבורה.

החשיבות של כח עיבוד כללי במערכת AI מקומית היא דווקא לא גדולה במיוחד. זה היה יכול להיות מעבד עם "רק" 20 או 16 ליבות עיבוד ומטלות העיבוד ב-AI עדיין היא מתבצעות ללא בעיה. העומד הגדול דווקא נופל על הכרטיסים הגרפיים ועל הזיכרון שלהם.

ה-Xeon 658X משתייך לתושבת LGA4710-2 המתקדמת של אינטל, פלטפורמה שתומכת בזיכרון עד 8 ערוצים מסוג DDR5 ובנפח מפלצתי של עד 4TB. המעבד מגיע עם מעטפת חום של 250W וכאמור מכיל 48 נימים.

המעבד מיוצר בתהליך Intel 3 המתקדם ו-24 הליבות שלו שייכות לארכיטקטורת Redwood Cove, ארכיטקטורת שרתים יחודית בעלת כח עיבוד דומה למדי לזאת שפגשנו במעבדי Core בדור ה-14.

כן, המעבד הזה תומך באוברקלוקינג, וכן, אנחנו רואים את עצמנו מתנסים גם בזה בעתיד.

נושאת המטוסים עליה נשען השרת – Pro WS W890-SAGE

בשיתוף עם Asus השגנו את עמוד השדרה החשוב הזה שנקרא Pro WD W890-SAGE. מדובר בלוח אם מתקדם במיוחד שנושא את תושבת LGA4710-2 ואת כל החיבוריות המתאימה לכרטיסים הגרפיים.

עולם לוחות האם מבוססי ערכת השבבים W890 הוא מצומצם, וזה שמיועד לשוק הצרכני הוא מצומצם עוד יותר. Asus מביאה שני דגמים לשוק הזה, ואחד מהם הוא ה-Pro WS W890-SAGE. מדובר בלוח אם שמשווק לעולם תחנות העבודה, ממש כמו זאת שאנחנו בונים כאן.

לוח אם זה מגיע בתצורת E-ATX ולכן מתאים לחלק גדול ממארזי המחשב המיועדים לגיימינג, כמו זה שבו השתמשנו בפרויקט. הלוח נבנה לא רק בשביל להכיל את מעבדי אינטל בתושבת LGA4710-2 דוגמת ה-Xeon 658X אלא גם לתמוך בזיכרון בתצורה ארבע-ערוצית מסוג DDR5 עד לנפח מירבי של… ובכן… הכי גדול פר זיכרון שרק תמצאו. המעבד תומך בעד 4TB, בהצלחה בלמצוא דרך להגיע לשם.

באופן טבעי ובהתאם למעמד, מדובר בלוחות האם הכי מושקעים ובעלי הנדסת האנוש הגבוהה שראינו בשנותנו כאן, בהתחשב בשטח ש-Asus צריכה לעבוד איתו מסביב לתושבת המעבד הענקית. מערכות הספקת החשמל לתושבת נשענות על מייצבי מתח בשני צדדי התושבת והן בנויות ממערך כולל של 19 מייצבים, רובם לליבות העיבוד וחלקם לבקרים השונים במעבד.

אם אתם תוהים למה ישנם ארבעה מחברי כניסת כח בצדדים השונים, התשובה היא ששניים מהם הינם מסוג 8PIN CPU ושניים מהם הינם מסוג 8PIN PCIE. בסופו של דבר מדובר במחברי 12 וולט וכולם מוצאים את עצמם מספקים אנרגיה לתושבת המעבד. הרעיון מאחורי פיצול סוג החיבור כנראה מגיע מכך שגם ספקי כח מאוד מתקדמים כוללים לרוב רק צמד מחברים מסוג 8PIN CPU וחיבורים נוספים מסוגים אחרים דוגמת 8PIN PCIE. לתושבת הזאת קיימים מעבדים בעלי צריכת חשמל גבוהה משמעותית מאשר זאת שב-Xeon 658X שלנו.

כך נראה מערכת מייצבי המתח לתושבת, כאשר ישנם גופי קירור בעלי מאווררים שפועלים כאשר טמפרטורת המייצבים עולה לרף מסוים.

ה-Pro WS W890-SAGE מגיע עם ארבעה ממשקי PCI-Express X16 שממוקמים בדיוק בתצורה שמתאימה למערך ארבעת ה-Arc Pro B70 שלנו ולמעשה לכל מערך כרטיסים אחר שנרצה למקם בעתיד במכונה הזאת, כל עוד הכרטיסים מגיעים בעובי הנכון. אין צורך לעשות כאן חשבון של תעבורה, אפשר לחבר הכל בכל ממשק ולקבל מהירות מלאה עבור השימושים שלנו.

יש גם גוף קירור שמכסה ארבעה ממשקי M.2, הכל כמובן בדור 5.0 החדש והכל מגיע במהירות מלאה. אפשר להתקין כאוות נפשנו כוננים מבלי לאבד תעבורה. זה לא קיים בפלטפורמות יוקרתיות לתחנות עבודה.

המחברים האחוריים בסיסיים למדי ועושים את העבודה בלוח האם הזה. יש לנו כרטיס קול מובנה אז יש יציאות אודיו, ויש גם כניסות DisplayPort שאפשר לחבר מכרטיסי מסך בשביל לקבל תצוגה דרך ממשקי ה-USB Type-C שהם בסטנדרט 40Gbps. עבור חיבוריות USB יש בנוסף גם 8 ממשקים במהירויות שונות, הרוב 10Gbps. כרטיסי הרשת המובנים מאפשרים לנו חיבור של 2.5Gbps וגם אחד של 10Gbps. זה יכול להיות שימושי עבור הרצת מודלים, אבל בגלל שהכל מתבצע מקומית במכונה, אין צורך אמיתי בשימוש ב-10Gbps אלא אם מחברים למשל שרת NAS חיצוני לאחסון נוסף של מידע.

בלוח הזה אפשר גם למצוא כפתור איפוס BIOS וכפתור צריבת BIOS מאמצעי אחסון חיצוני במידה וצריך. הפונקציה הזאת פועלת גם ללא מעבד וזיכרון במערכת.

הזיכרון והאחסון שמאפשרים לכל זה לקרות מבית ADATA

אנחנו נמצאים בתקופה מאוד לא פשוטה עבור עולם החומרה כשזה מגיע למחיר וזמינות של זיכרון. ניגשנו לפרויקט הזה בהבנה מלאה שהשגת זיכרון עבור השרת תהיה עבודה לא פשוטה, אמנם ADATA הפכה את התהליך למאוד פשוט ולכן אנחנו מודים להם על הספקת הזיכרון עבור השרת. בתור שותפה של האתר בפרויקטים כאלה ואחרים עבורכם ואחת שגם אנו משתפים איתה פעולה בסקירות מוצרים כאלה ואחרות, ADATA הופכת לשותפת מפתח בפרויקט הזה.

ADATA דאגה לספק זיכרון מסוג DDR5 R-DIMM במהירות 5600MT/s עבור השרת.

מדובר ארבע יחידות זיכרון מדגם AD5R560032G20-SHYA. הנפח הוא 32GB ליחידה והנפח הכולל הינו 128GB. לא תמיד בשרתי AI יש את הצורך בזיכרון בנפח כה מתקדם, שכן המודלים עצמם יושבים דווקא על הזיכרון הגרפי במערכת, אך כלל אצבע בתחום הוא שעל כל 1GB של זיכרון גרפי רצוי שיהיה במערכת גם 1GB של זיכרון RAM כללי.

הזיכרון הינו זיכרון Registered ECC בעל תיקון שגיאות והוא מיועד במיוחד לשימוש בתחנות עבודה ובשרתים בעלי מעבדים כמו ה-Xeon שלנו.

אנחנו מודים ל-ADATA על תרומתם האדירה לפרויקט הזה, בהתחשב בשווי המבהיל של זיכרון בשוק, ובמיוחד בשווי של זיכרון מהסוג הזה. 128GB של זיכרון DDR5 ECC הופכים את הפרויקט הזה למציאות, ואנחנו זוכים לכתוב ולהתנסות ולשתף את קוראינו בשל כך.

מערכת ההפעלה והמודלים השונים צריכים לשבת על אמצעי אחסון ולצורך כך נרתמה ADATA פעם נוספת עם ה-MARS 980 PRO שלה, כונן NVMe מתקדם בדור PCI-Express 5.0 בנפח נדיב של 2TB. מדובר במוצר שמגיע מבית מותג הבית של ADATA, הוא מותג הגיימינג XPG שמאוד מוכר בארץ בתחום האחסון והזיכרון לגיימינג ושימוש כללי. מוצר מאוד פופולרי בחנויות הגיימינג השונות, שזוכה לאהדה גם מצד המוכרים והטכנאים עם תאימות חומרה מעולה.

הכונן מגיע עם גוף קירור גדול וגם מאוורר קטן, בכל זאת, מוצרי אחסון בדור PCI-Express 5.0 מגיעים עם דרישות מלהם. ככה זה כשחוצים את קו 10GB לשניה במהירות קריאה רציפה ביתר קלות.

הענק החום – Noctua מגיעה עם קירור, ספק כח ומארז

כחלק מהעבודה המוקדמת על הפרויקט הזה, ניגשנו ל-Noctua האוסטרית בשביל לבדוק זמינות של גוף קירור עבור מעבד ה-Xeon 658X שלנו. כשידידנו ג'ייקוב מ-Noctua שמע על הפרויקט, הוא הציע שניעזר בשירותם לא רק עבור גוף קירור אלא גם עבור רכיבים נוספים.

קטלוג גופי הקירור של Noctua כולל בין היתר גם גופי קירור עבור שרתים ותחנות עבודה וכזה הוא ה-NH-U14S DX-4677. במקור מדובר בגוף קירור על בסיס עיצוב ה-U14 הותיק של החברה, עם טוויסט שכולל התאמה לתושבת LGA4677 של אינטל, תושבת תחנות העבודה הקודמת. מכיוון שאינטל לא שינתה את מנגנון עגינת המעבדים שלה בתושבות תחנות העבודה החדשות, גוף הקירור הזה מתאים גם לתושבת LGA4710-2 החדשה שבפרויקט הזה.

גוף הקירור הזה מכיל 6 צינורות קירור מצופי ניקל ומגדל בעל מניפות אלומיניום שמכיל אותם. כמיטב המסורת הוא מקושט משני הצדדים במאווררי 140 מילימטרים איכותיים של המותג מדגם NF-A15. מערכת עגינת המאווררים היא כמו בקירורים האחרים שלה, מאוד פשוט להסרה והתקנה.

תחתית הקירור היא החלק שבו מתקינים את המעבד בהכנה להתקנה בתושבת, תראו זאת בהמשך. לתושבות שרתים יש מנגנון מאוד מיוחד.

Noctua סיפרה לנו שיש לה שיתוף פעולה מוצלח עם יצרנית המארזים Antec ולכן הציע שנרכיב את השרת שלנו בתוך מארז FLUX PRO Noctua Edition. בדקנו את מימדי המארז והאפשרות שלו להתמודד עם החומרה שלנו ולאחר שוידאנו שהכל נכנס בקלות – המארז מצא את דרכו אצלנו.

מדובר במארז Antec סטנדרטי שקיבל גרסת צבעים של Noctua ומגיע גם עם מאווררי היצרנית שידועים באמינות ובשקט שלהם.

המוצר השלישי מבית Noctua בבניה המשוגעת הזאת הוא עוד שיתוף פעולה שלה, הפעם עם יצרנית ספקי המפורסמת Seasonic. על בסיס פלטפורמת ה-PRIME TX-1600, אנחנו מקבלים ספק כח בעל ערכת הנושא הידועה של Noctua ובשימוש מאוורר מתקדם שלה. מדובר בספק כח שמגיע עם 12 שנות אחריות והוא נמנה בין ספקי הכח המתקדמים ביותר בשוק.

החשבון הוא יחסית פשוט בחישוב ההספק הדרוש לשרת הזה. אם יש לנו ארבעה כרטיסים שהם 230W כל אחד, ומעבד שיכול להגיע ל-250W, אפילו מבלי להתחשב בפריפריה נוספת בחירה של ספק 1500W או יותר היא טבעית. שוב תודה ענקית ל-Noctua על השלמת הרכיבים לפרויקט המיוחד הזה. בזכות Noctua אנחנו גם מקבלים ערכת צבע מאוד לא שגרתית.

ספק הכח הזה מגיע עם כמות מאוד מרשימה של כבילה, גם במידה ונרצה לנסות מערכים אחרים של כרטיסי מסך.

תהליך הרכבת שרת ה-AI המפלצתי – הכנת לוח האם להתקנה

הצעד הראשון בכל תהליך של הרכבת מחשב הוא להכין את לוח האם. זה אומר להתקין בו את המעבד, הזיכרון וגוף הקירור. לוודא שכל מה שמחובר אליו מוכן להטמעה בתוך המארז.

על תפקיד לוח האם בפלטפורמה הספציפית הזאת לספק את חומרת העגינה המתאימה למעבדים. עם לוח האם מקבלים שני חלקים, אחד נקרא E2A והשני נקרא E2B. בתלות בדגם המעבד, צריך לבחור אחד מהשניים ולהתקין אותו על תחתית גוף הקירור:

מדובר במערכת שפיתחה אינטל ושיצרניות לוחות האם והקירורים צריכות לאמץ בשביל להתאים בצורה נכונה לעגינת המעבדים בתוך התושבות השונות דוגמת LGA4677 ו-LGA4710. מניחים את מתאם הפלסטיק הזה כפי שרואים בתמונה על תחתית הקירור.

אינטל דואגת לסמן על המעבדים עצמם איזה סוג עגינה הם צריכים. ה-Xeon 658X צריך את עגינת E2B.

ברגע שמחברים את המעבד עם קצת כח אל תחתית גוף הקירור, כל שיש לעשות הוא להוריד את הקירור עם המעבד בזהירות אל תוך התושבת. שימו לב לתחתית המעבד ולדפוס, יש להתאים אותו לדפוס המקביל בתושבת בשביל להבין כיצד לעגון אותו נכון. החלק האמצעי של תחתית המעבד הוא לא סימטרי, וכך גם התושבת.

בשלב הזה מתקינים גם את זיכרון המערכת ואמצעי האחסון. בשביל תאימות לגוף הקירור שמגיע עם לוח האם נאלצנו להסיר את גוף הקירור שהגיע עם ה-XPG MARS 980 PRO שלנו. בפירוש – אל תסירו את גוף הקירור לכונן ה-SSD שלכם, יתכן וזה יסיר ממנו את האחריות!

הכנת המארז להתקנת החומרה

הדבר הראשון שצריך לעשות כשמוציאים את המארז מהאריזה הוא… להסתכל עליו. להבין איפה כל דבר צריך להיות ממוקם, ולהסיר את הדלתות, מסנני האבק וכל דבר אחר שיכול להפריע לנו במהלך התקנת החומרה.

ה-FLUX PRO בגרסת Noctua מגיע עם חלק מאוד אלגנטי מקדימה שכולל שימוש בעץ אגוז.

זה מספיק רציני בשביל לכלול חתיכה קטנה והסבר על שימוש בעץ. אנחנו נמצאים בעידן מאוד מעניין של עיצוב חומרה, ואפשר בהחלט להגיד ששימוש בעץ הפך לטרנד.

החלק של "גרסת Noctua" מגיע גם עם שישה מאווררים לעגינה במארז. מדובר בערכה בשווי מאוד מכובד.

בגלל ששקט זה דבר חשוב, בחרנו להשתמש במתאמי הגומי הללו לעגינת המאווררים. בקדמת המארז אנחנו עושים שימוש בשלושה מאווררי 140 מילימטרים.

כך זה נראה מהצד השני. כל שעשינו הוא להכניס את אותם מתאמי עגינה ולמשוך מהצד השני. שמנו גם מאוורר אחד בגג במארז שימשיך את האוויר שמוציא גוף הקירור שעל המעבד.

לפני שמכניסים את לוח האם פנימה, חשוב להסתכל ולראות אם הכל נמצא במקום הנכון, אם ברגי ה-Standoff עליהם ישב לוח האם כולם נמצאים במקום תואם ואין כאלה שמותקנים ולא קיים להם חור בלוח האם. בתמונה הזאת יש אחד שצריך להסיר כי הוא לא קיים בלוח האם (עליון אמצעי). חשוב מאוד לעשות זאת, אחרת עלולים לגרום לקצר ולפגוע בחומרה.

שמים הכל בפנים

אל המארז נכנס לוח האם שלנו כאשר המעבד מותקן בו, גוף הקירור, הזיכרון והאחסון. לאחר מכן יש כמובן להבריג את כל הברגים של עגינת לוח האם. אנחנו כמובן אחרי השלב שוידאנו כי אין ברגים מורמים בתחתית שאין מולם חור.

כך זה נראה לאחר התקנת לוח האם במארז. הצעד הבא הוא להכין את ספק הכח.

ספקי כח מודולאריים מגיעים עם האפשרות להתקין איזה כבל שנרצה בשביל החומרה שלנו בהתאמה. מכיוון שאין לנו כרטיסי מסך שמשתמשים במחבר ה-12V 2×6, אין צורך לחבר כאלה. כן יש בקר מאווררים שמשתמש במחבר כח מסוג SATA אז נחבר כל כח SATA, וכן יש לנו ארבעה כרטיסי מסך שמשתמשים כל אחד במחבר 8PIN PCIE, ובלוח אם שרוצה שלושה כאלה.

חיברנו את כל כבלי ה-8PIN PCIE שקיבלנו באריזה, כבל SATA כח, כבלי 8PIN CPU וכבל לוח האם 24PIN.

הסדר הוא שקודם כל הולכים הכבלים למקומות הרחוקים בלוח האם בפינות ולמעלה. יש תעלות להעברה מסודרת שלהם. גם בקר המאווררים (משמאל למעלה) חובר. כבלי כרטיסי המסך נשארים מנותקים בשלב הזה.

כך זה נראה מהצד אחרי חיבור של הכבלים ללוח האם. התהליך הזה ממש זהה לתהליך הרכבה אחר של כל מחשב שולחני. לכל כבל יש יעוד ברור.

החיבור כולל גם את כבלי הפאנל העליון במארז, כמו כבל ה-USB 3.0 בצד, כבל הכפתורים (בתחתית) וכבל ה-USB 2.0.

עכשיו זה הזמן לחבר את ארבעת הכרטיסים. עדיף במצב הזה תמיד להתחיל מלמטה. מבריגים החוצה את כל הברגים משמאל ומתחילים להכניס אותם אחד אחרי השני מלמטה למעלה, כדי שנוכל לראות בקלות מה אנחנו עושים. לאחר שמוודאים שהכרטיס יושב נכון בתוך ממשק ה-PCI-Express X16, עוברים לכרטיס הבא.

בגב כרטיס מסך מחברים את כבל ה-8PIN PCIE מספק הכח. רצוי למתוח אותם מעט אחרי החיבור ולקשור אותם בצורה אלגנטית באמצעות אזיקונים או סקוטש שמקבלים עם המארז או ספק הכח.

כך זה נראה בגב המחשב, עם כל החיבורים חשופים. אנחנו משתמש באחד מכרטיסי המסך בשביל לקבל תצוגה. זה לא משנה איזה, אבל אפשר בעליון בשביל הסמליות. ספק הכח שלנו הינו בהספק גבוה ומשתמש בכבל מסוג C19 שנפוץ בספקי כח לשרתים או בהספקים גבוהים במיוחד. יש כאלה בחנויות.

כך זה נראה אחרי ההרכבה. שלושה מאווררים מקדימה, אחד בגג, ומערך כרטיסי מסך שלוקח אוויר וזורק אותו מאחורי המחשב. מאוד פשוט, עובד נהדר.

כך זה נראה בפנים אחרי הרכבת החומרה.

והנה מבט נוסף בזווית רחבה מבפנים.

הצעדים הבאים עם השרת הבייתי החדש

השלב הבא יהיה לבחור את מערכת ההפעלה הנכונה ולהתחיל ליישם את עקרונות המודל המקומי עם החומרה. אנו נגיש מבחני ביצועים ותובנות. יש לנו תוכניות נוספות עם הפלטפורמה הזאת גם כמובן מחוץ לעולם ה-AI, שכן שווה לחקור דברים גם בגזרת המעבד המיוחד הזה ופלטפורמת W890 עם לוח האם של Asus.

עלות המחשב הזה נכון לעת השקת הכתבה הזאת מעט קשה לחישוב, אבל בקירוב (לפני מיסים):

• ארבעה כרטיסים גרפיים – כל אחד מהם בכ-1,300 דולר
• מעבד שרתים 24 ליבות – כ-1,600 דולר
• קירור אוויר למעבד Noctua NH-U14S – כ-120 דולר
• לוח אם Asus Pro WS W890-SAGE – כ-1,000 דולר
• זיכרון DDR5 ECC 32GB X4 – כ-5,000 דולר
• מארז Antec FLUX PRO – כ-250 דולר (הגרסה שלנו עולה כ-350)
• ספק כח Seasonic PRIME TX1600 – כ-550 דולר (הגרסה שלנו עולה 650)
• אחסון 2TB NVMe – כ-350 דולר

זה אומר שעלות של שרת כזה נעה סביב 14,000 דולר לפני מיסים או כ-42,000 שקלים. אנחנו יודעים שעסקים רבים כיום משלמים סכומים גבוהים מכך מדי חודש על הוצאות AI ולכן יהיה מעניין לראות בהמשך מה אפשר להפיק ממנו.

שווה להשאר מעודכנים בעוד נספק גם השוואות ביצועים בין המערך הזה לבין חומרה אחרת ביחסי עלות תועלת. כבר יש לנו כמה רעיונות מאוד מעניינים.