שרת אימתני לצרכי CUDA

[spitzi]

שלום,

אני עובד בקבוצת מחקר של אוניברסיטה בדנמרק. אנחנו מבצעים הרבה למידה עמוקה, וזה אומר הרבה CUDA. בנוסף, אנחנו גם מבצעים חישובים כלליים שרצים על ה-CPU ותובעים זכרון.

לצרכים אלה, אנחנו רוצים להרכיב לעצמנו שרת אובונטו עם ארבעה כרטיסי מסך ומעבד מהחזקים שיש כרגע. אין לנו כוונה לבצע המהרה כרגע או בעתיד. מספיק לנו 0.5TB אחסון לעבודה יומיומית, ונרצה גם 2 עד 4TB לאחסון ביניים. יש לנו נסיון רע עם הארד דיסקים שמתים פתאום, אז אנחנו רוצים יתירות עם RAID.

להלן המפרט שהרכבנו לעצמנו עד כה. אשמח לדעת האם הבחירות שלנו סבירות, בהנחה שהתקציב שלנו הוא בערך 7000 USD (האוניברסיטה אמורה להיות פטורה ממע"מ). אני יודע שהמחירים בדנמרק ובישראל יכולים להיות שונים, אז למען הפשטות, צאו מנקודת הנחה שהמחשב נקנה בישראל, אלא אם כן בא לכם לשוטט באתר הדני דרכו הרכבנו את המפרט. יותר חשוב לנו לדעת האם אחד הרכיבים מאט את כל המערכת, האם כדאי מאוד לשדרג חלק מהרכיבים מבחינת ביצועים, האם הקירור שבחרנו מתאים למארז וכו'.

תודה.

 

רכיב	שם	מחיר ($) ללא מע"מ
CPU	Intel Core i7-6850K	343
Motherboard	ASUS X99-E WS / USB 3.1 Motherboard - Intel X99 - Intel LGA2011-V3 socket - DDR4 RAM - SSI CEB	490
RAM	G.Skill TridentZ DDR4-3200 C16 OC SB - 128GB	1425
GPUs	4x ASUS GeForce GTX 1080 Ti Strix OC - 11GB	3412
SSD	Samsung 850 EVO SSD - 500GB	158
Power Supply	EVGA SuperNOVA 1600 G2 Power Supply - 1600 Watt - 140 mm - 80 Plus Gold certified	357
Case	Corsair Carbide Air 740 - Cabinet - Cube - Black	136
HDDs (RAID 5)	3x  Seagate BarraCuda 3.5 "ST2000DM006 Hard Drive - 2TB - 3.5" - 7200rpm - SATA-600 - 64MB Cache	190
CPU Water Cooling (Optional)	Corsair Hydro H100i V2 High Performance CPU Cooler - Water Cooling - Max 37 dBA	99
		TOTAL 6612

[The_MichMan]

האם חובה 128GB זכרון ? האם אפשר להתספק ב 64 ולהשקיע יותר במעבד ? האם החישובים יהיו יותר מהירים ביותר זכרון או ביותר ליבות של המעבד ?

[spitzi]

ציטוט של The_MichMan

האם חובה 128GB זכרון ? האם אפשר להתספק ב 64 ולהשקיע יותר במעבד ? האם החישובים יהיו יותר מהירים ביותר זכרון או ביותר ליבות של המעבד ?

יתכן. איזה מעבד אתה מציע במקרה זה?

 

[The_MichMan]

אתה יכול ללכת על מעבד i9-7900x ומעלה ולוח מבוסס X299

 

[spitzi]

ציטוט של The_MichMan

אתה יכול ללכת על מעבד i9-7900x ומעלה ולוח מבוסס X299

 

רעיון יפה. יש באפשרותך להמליץ על X299 שיכול להחזיק בבת אחת 4 כרטיסי מסך PCI-E?

[The_MichMan]

זה הלוח הכי זול שמצאתי באתר למעלה שציננת:

 

https://www.proshop.de/Mainboard/MSI-X299-XPOWER-GAMING-AC-Mainboard-Intel-X299-Express-Intel-LGA2066-socket-DDR4-RAM-Erweiterte-ATX-/2609683

 

4 כרטיסים במרחקים שלא יפריעו אחד לשני.

 

ואחד יותר יקר של ASUS :

 

https://www.proshop.de/Mainboard/ASUS-ROG-RAMPAGE-VI-APEX-Mainboard-Intel-X299-Express-Intel-LGA2066-socket-DDR4-RAM-Erweiterte-ATX-/2614270

[djelectric]

ניסיתם שם קצת וולטה? TITAN V בעקרון תפור לדבר הזה.

[spitzi]

לגבי לוח האם של MSI: האם הוא מנצל בצורה מיטבית מעבד i9-7900X? למשל, האם המעבד והלוח ירויחו מעבודה עם זכרון 4X16GB Quad Channel?

 

לגבי הכרטיס הגרפי: לא עבדנו עם וולטה. אני רואה באתר של NVIDIA שכרטיס TITAN V עולה 3000$, בעוד שארבעה כרטיסי GTX 1080 Ti עולים 3400$. קראתי אונליין על הבדלי ביצועים בין ליבות פסקל לליבות וולטה ונראה שוולטה מהיר פי 2 בערך. אז בכרטיס וולטה אחד אני מקבל 5120P + 640V ליבות, שזה בערך 5120+1280=6400 ליבות פסקל. ואילו בארבעה כרטיסים מהסוג השני אני מקבל 4*3584=14336 ליבות פסקל, אם כי על כרטיסים נפרדים. עדיין נשמע שארבעה כרטיסים מהסוג השני נותנים הרבה יותר תמורה לכסף מאשר כרטיס וולטה אחד, לא?

 

[djelectric]

ממה שידוע לי, עבודה נכונה עם ה-tensor cores אמורה להביא לשיפור חד מאוד במהירות למידה, לפי אנשים באנוידיה אפילו  פי6-7 מאשר מה שתמצא ב-GTX 1080 TI. איפה שאני עובד כרגע בוחנים את האפשרות לעבור לגמרי למערכות כאלה אם TITAN V יתן אחרי קצת התאמה תוצאות נכונות.

 

למעבד חשיבות פחות או יותר... אפסית בקטע הזה אגב. כך גם לרוחב פס PCIE לכרטיסים אין כמעט השפעה בכלל בלמידה. אם יש אפשרית לקחת משהו מבוסס 7800X אפילו כל עוד יש תמיכה בארבעה כרטסים - הכל טוב. אם חוץ מלמידה יש דברים אחרים, אני מניח ש7900X זאת תשובה ראויה

 

לגבי זיכרון, במערכות עם ארבעה 1080 TI שאני מכיר יש 32GB זיכרון וזה מספיק. אבל פה זה כבר תלוי במה שאתם עושים עם המערכות הללו