כשמכניסים למשחק יכולות DL, שרק עכשיו מתחילים לגלות את קצה הקרחון שלהן עם טורינג, יש עוד אופק רחוק לארכיטקטורה.
רואים יפה איך NV מגדילה דרמטית ביצועים עבור אותו מספר טרנזיסטורים כבר שנים. המחסום התיאורטי ליעול הארכיטקטורה רחוק מזה של הליטוגרפיה בתצורה הנוכחית שלה. רחוק הרבה יותר.

שים לב שנכנסת עתה ל- GPU, ואנו מדברים על CPU כן. יש הבדל אינהרנטי:

עבודת עיבוד גראפית היא מקבילית בהגדרתה.

בשעה שעבודת אלגוריתם גנרית = CPU יכולה להיות מקבילית, ויכולה להיות שלא מקבילית, תלוי מה מחשבים.

דוגמא למקבילית תהא למשל חישוב המהלך הבא במשחק שחמט.

אפשר למקבל לא רע את האלגוריתם בכך ששולחים כמה פרוססים שכל אחד מהם בנפרד, יבדוק את כדאיותו של מהלך

הבא על הלוח. ואפשר למשל דוגמא לאלגוריתם לא מקבילי, שהוא חישוב סדרת פיבונצ'ה.

 

 

עכשיו,

בהתייחס ספציפית לנושא נוידאה, שכידוע לא מייצרת CPU אלא רק GPU , ולטענה שהעלת אודותיה:

איפה רואים שנוידאה הגדילה ביצועים ביחס למספר הטרנזיסטורים, למעט במעבר ל- maxwell ?

תראה לנו מקום אחד כזה מאז 12 השנים האחרונות (2006) ...

 

כל השיפורים חוץ ממקרה maxwell - הם תמיד רק בשל שפור בתדר הריצה, שנובע ממעבר לליטוגרפיה הבאה בתור.

ולכן מאותה כמות טרנזיסטורים בליטוגרפיה הישנה, הצליחו לחלץ יותר ביצועים. שוב, רק בגלל העליה בתדר העבודה

של השבב ולא שום סיבה אחרת.

 

ברוב רובם המכריע של המקרים, אחרי שפתחו שיטת רנדור מסוימת משך כמה שנים שעבדו עליה, די הגיעו לאופטימום

המעשי של אותה תצורה. קשה מאד למתמטיקאים לחשוב על שיטה יצירתית אחרת, שתחסוך טרנזיסטורים ותעשה את

אותו הדבר בדיוק.

 

במקרים המאד נדירים שזה קורה, מדובר בפריצת דרך מדעית. אלו מתרחשים רק אחת להרבה מאד זמן, שנים...

ככל שעובר הזמן ההזדמנות לפריצה שכזו הולכת וקטנה, שכן הקושי למציאתן הולך ועולה.

 

רוב השפורים שאנו מקבלים עם השנים (בעבוד גראפי בכל אופן אם לכך רצית לדון עתה), מתקיימים בשל ההתקדמות

הליטוגראפית, ובשל הוספת יכולות חדשות שלא היו קודם. maxwell היה מקרה חריג מאד, שבוצע בשל אילוץ שנחת

על היצרניות בתחום הגראפי, משום ש- TSMC לא הצליחה לספק להן את הדור הבא בליטוגרפיה, וחנקה אותם 4 וחצי

שנים באותה משבצת עם 28nm.

 

נוידאה שרצתה בכל זאת להפגין התקדמות ולייצר "דור חדש" יש מאין, חשבה הפעם לראשונה איך היא ברובד התכנון של

השבב (קרי הפריסה של הטרנזיסטורים) מצליחה מאותה פיסת סיליקון 28nm, לשפר נצילות. שעיקרה אגב הוא כל כולו

ביכולת לעלות בתדר העבודה. אין פה קסם חדש יש מאין - כי פשוט אי אפשר.

וזו העיקר של הגדולה שם - העוד 20% תדר לערך, עליה מאזור 1100-1200mhz שיא ב- kepler  לכדי 1500mhz שיא

ב- maxwell שעשו את כל ההבדל.

 

מה שמסביב כמו דחיסת זכרון מדור חדש, וכמו שיטת tile rendering שבאה לסייע בכך, או נלווים... אבל אלו לא חסכו

טרנזיסטורים אלא להפך, עלו אפילו עוד כמה. הם אפשרו להעלות תדר ולחסוך רוחב פס זכרון בעיקר.

 

רוצה לומר, ניקח את maxwell אבל נריץ אותו באותו תדר כמו של kepler, ובהנחה שרוחב פס זכרון לא חסר

במבחן שבודקים, נגלה שהמהירות/נצילות טרנזיסטורית שלה די זהה/קרובה/דומה ל- kepler. 

 

מבחן סינטטי שבו שתי הארכיטקטורות אופטמזו כנדרש מראה לנו זאת, כמו unigine או 3d mark מאותה תקופה.

 

לכן לא פלא שביום ש- maxwell נולד ב- 2014 ו- kepler עדיין לא הספיק להיפגע (בשל זניחת דרייברים),

כאשר בדקו gtx980 על 2048 ליבותיו בתדר 1500mhz, הוא התנהג מאד דומה ל- gtx780ti על 2880 ליבותיו כאשר

זה רץ בתדר 1060mhz.

 

שכן המכפלה ההספקית של שתי המערכות זהה זו לזו. משמע שהסיבה ש- maxwel בגודל שבב 400mm (להלן

gtx980) הצליח להתחרות מול kepler (להלן gtx780ti) בגודל שבב כמעט 600mm, נבעה בעיקר בשל פערי תדר הריצה,

ולא בגלל שהטרנזיסטורים עצמם דור maxwell "סודרו אלגוריתמית" בצורה יעילה יותר.

אז הנה לנו עוד נפוץ אשליה אודות ההתקדמות שלכאורה נוידיאה עשתה, גם במקום הדי יחידי שמדברים עליו בתעשיה.

ההתקדמות היא שוב, בשל תדר ולא משהו אחר. קרי שההתקדמות היא לא אלגוריתמית במהותה, אלא הנדסית-חשמלית

במהותה. 

 

 

 

שאנחנו בפורום של GPU ולכך להנחתי גם מתייחסת הכותרת אז די ברור שאנחנו מדברים על GPU..

 

אתה מסתכל על שיפורי ארכיטקטורה של NV מול עצמה ולא משווה ל-AMD. כאילו הם לא קיימים.
א. NV כמו שאמרת הצליחו לשפר מהותית ביצועים עבור אותו תהליך ייצור. גם את זה AMD לא עשתה כלל.
ב. הלכה למעשה, לא תיאוריות, עבור אותו תהליך ייצור הם מציגים ביצועים טובים יותר מהמתחרה. למה? התשובה היא ארכיטקטורה.
הם יודעים ליצור שבב שבזכות הארכיטקטורה המוצלחת שלו הוא יכול להיות קטן יותר, צורך פחות חשמל ובמתחים יותר נמוכים, קריר יותר ובעל יכולות OC גבוהות יותר מהמתחרה.
ג. AMD לא משקיע את העיקר בארכיטקטורה שלה (GPU) , מאי יכולת משאבים או רצון או שניהם, ולכן הם בנחיתות מול NV או אינטל (בכל מה שנוגע לבולדוזר, CPU). ברגע שהם השקיעו ושינו ארכיטקטורה, RAYZEN, הופ הם חזרו למפה. עבור אותו תהליך ייצור וכו וכו.

בכל הדוגמאות האלו, לארכיטקטורה יעילה יש תפקיד מפתח מכריע. כך גם יהיה בעתיד.
טכונלוגיות חדשות נכנסות כל הזמן ויש צורך "לביית" אותן כך שישתמשו ביכולות שלהן בצורה אופטימלית.
מי שידע לעשות את זה יותר טוב- יוביל.

מה שנסיתי להסביר לקוראים שאינם מגיעים מתחום מתמטי ומדעי המחשב, הוא וכרגע הנני מפשט על מנת שיובן קל יותר:

זה שלשפור אלגוריתמי יש חסם מלעיל.

 

משהו שהבנתי מדבריך, שאינו נהיר לך (כמי שלא בא מהתחום).

ולכן חשבת שניתן כל הזמן לשפר ארכיטקטורה (אלגוריתם) עד בלי די.

בפועל זה אינו עובד כך.

 

 

משמעות פרקטית:

ניתן לשפר אלגוריתם וליעל אותו, רק באם אנו כרגע עדיין לא עובדים בתצורה היעילה ביותר.

אך משהגענו ליעילה ביותר, אין עוד אפשרות לשפר.

 

וכמו שישנו (כנראה, אולי) חסם עליון לפיסיקה של השבב (לפחות בטכנולוגיה המוכרת היום),

כך ישנו חסם עליון לאלגוריתם (ארכיטקטורה).

מרגע שמיצינו את שניהם עד התקרה, זהו, אין עוד איך להשתפר אלא אם ימצאו שיטת יצור מעבד שונה טכנולוגית.

 

 

מקווה שדברי עתה מובנים טוב יותר.

אם חלילה עדיין לא, ארחיב ואספק דוגמאות נוספות... עד שזה יהיה צח כשלג.

 

ציטוט של nec_000

מה שנסיתי להסביר לקוראים שאינם מגיעים מתחום מתמטי ומדעי המחשב, הוא וכרגע הנני מפשט על מנת שיובן קל יותר:

זה שלשפור אלגוריתמי יש חסם מלעיל.

 

משהו שהבנתי מדבריך, שאינו נהיר לך (כמי שלא בא מהתחום).

ולכן חשבת שניתן כל הזמן לשפר ארכיטקטורה (אלגוריתם) עד בלי די.

 

הבנת לא נכון..

אז משוך את הטעון אודות כך,

שתמיד ניתן לעקוף את מגבלת הליטוגרפיה (שנגיד והגיעו לתקרת זכוכית בה) באמצעות שפורים בארכיטקטורה. זה מה שכתבת

ראה עמוד קודם וגם פה למעלה.

 

שכן כמו שזה כיום, גם ב- CPU וגם ב- GPU הגיעו (די בוודאות) לתקרת הזכוכית גם ברובד הזה. אחרי 70 שנות פיתוח.

 

במקרה של CPU אנחנו באמת בבעיה, משום שיש הרבה אלגוריתמים שלא ניתן למקבל, כך שעבורם נגיע לתקרת תדר ריצה וזה מה יש.

 

מזלנו לפחות שבתחום הגרפיקה העבוד מקבילי, כך שאפשר תמיד להוסיף עוד מעבדים לרוחב, וכך להתגבר על בעיית ההספק של תדר וליבה בודדת.

כל עוד שלא יהיה שינוי משמעותי במערכות ההפעלה, לרוב המשתמשים היום יספיק מחשבים ישנים..

אני עם לאפטופ בן 7 שנים יכול להריץ מספר סביבות פיתוח, לעיתים עם אמולטור.. (עם טאבים פתוחים ולעיתים גם וירטואלית..)

 

צריך תוכנה שתצדיק את השיפור בחומרה..

כמובן שצריך תמיד לשפר, אבל אולי הגיע הזמן שינסו לטפל מעט בצד של התוכנה..

 

מחילה על האופטופיק..

זה מה שאתה הבנתה ממה שרשמתי.

ציטוט של nec_000

 

שתמיד ניתן לעקוף את מגבלת הליטוגרפיה (שנגיד והגיעו לתקרת זכוכית בה) באמצעות שפורים בארכיטקטורה. זה מה שכתבת

ראה עמוד קודם וגם פה לעמלה.

זה מה שהבנתה אך זה לא מה שרשמתי, בטח לא מה שהתכוונתי אליו.
 

אוקי

ואחרי כל זה, איך זה שאנחנו כ"כ קרובים לתחילתו של הסוף (בשיפור טכנולוגיות המיזעור) ואף חברה לא קמה והתחילה לדבר על מה יעשה ב"יום הדין". לא נראה לכם מוזר?

ציטוט של huber

ואחרי כל זה, איך זה שאנחנו כ"כ קרובים לתחילתו של הסוף (בשיפור טכנולוגיות המיזעור) ואף חברה לא קמה והתחילה לדבר על מה יעשה ב"יום הדין". לא נראה לכם מוזר?

מן הסתם שלא, אם כבר זה היה מפתיע אם כן היו מדברים על כך. יש לנו, בתרחיש הכי אופטימי, 5-6 שנים למיצוי משני הצדדים. בשלב הזה אפשר יהיה לעשות מריחה של כמה שנים עם תדרים או בלי שיפורים של ממש ל-8-10 שנים, זה הרבה מאוד זמן, שאפשר למרוח עוד יותר עם מריחה איטית יותר של קפיצות בין ליטוגרפיות וארכיטקטורה. 

בסופו של דבר מדובר פה בלקחת את הגלגל ולהמציא אותו מחדש לגמרי והוא לא יכול להיראות לא כמו מלבן, לא משלוש, לא מעוין, לא טרפז, לא אליפסה, אלא מצולע שבחיים לא נתקלנו בו. רק שבמקום מצולעים פשוטים אנחנו מדברים על החזית הטכנולוגית שרק כדי להדביק את הפער מבחינת הבנה מעמיקה שלה לומדים 5-6 שנים באוניברסיטה, זה ממש לא פשוט לעשות דבר כזה, אולי אפילו לא ממש אפשרי.

ככה שהן ללא ספק מודעות לזה, הן הרי הרבה יותר מעורות בפרטים מאיתנו, אחרי הכל הן אלו שיוצרות את זה, פשוט אין להן שום פיתוח משמעותי ביד להראות ואין סיבה להגיד "התחלנו לחשוב על מוצר שאולי יצא מתישהו בעשורים הקרובים". 

לפי נוידיה, גם ה-RTX הוא פיתוח של 10 שנים בערך והוא עדיין ממש לא בשל, כשכאן מדובר על מצב הרבה יותר מסובך מארכיטקטורה חדשה.

5-6 שנים זה כלום במונחי/בזמן פיתוח. פיתוח מוצר לוקח 3-5 שנים בתחום הזה, כך שאם אכן הן לא עובדים על משהו חדשני, התחום הזה בצרות. אני עדיין מופתע שעדיין לא שמענו כלום על מה עומד להחליף את טכנולוגיית הייצור הנוכחית שעל פי כל הסממנין מגיע בקרוב מאוד למיצוי.

ציטוט של huber

5-6 שנים זה כלום במונחי/בזמן פיתוח. פיתוח מוצר לוקח 3-5 שנים בתחום הזה, כך שאם אכן הן לא עובדים על משהו חדשני, התחום הזה בצרות. אני עדיין מופתע שעדיין לא שמענו כלום על מה עומד להחליף את טכנולוגיית הייצור הנוכחית שעל פי כל הסממנין מגיע בקרוב מאוד למיצוי.

אנחנו לא מדברים על פיתוח משהו קיים, לא ליטו' ולא ארכיט', אנחנו מדברים פה על לזרוק הכל לפח ולהתחיל מההתחלה, כשכאמור יש 8-10 שנים שאפשר לסחוט במקרה הכי גרוע, ככה שאני בספק שמישהו קרוב לשלב מספיק מתקדם בפיתוח שהוא יכול לדבר על זה, כנראה שכשנגיע כבר לקשקש עוד כמה שנים, עם ה-3-4 נ"מ, נתחיל לשמוע יותר על העניין באופן יותר רשמי.

בדיוק זה מה שאני מנסה להגיד בת'רד הזה, התעשיה מגיע למיצוי בתחום הזה, יצטרכו להמציא משהו חדש לחלוטין, דבר שיכול לקחת זמן רב מאוד, ז"א שאם זה כבר לא בפיתוח (ואני בספק)התעשייה הזו בצרות. אז או שזה בפיתוח ואיכשהו שמרו על זה בסוד (גם מוזר, גם בתעשייה הזו הדלפות הן דבר שבשיגרה), או שאין באמת פיתוח בפועל וגם זה נראה לי לא הגיוני במצב הנוכחי.

 

גיגלתי קצת ומצאתי את זה, אני כרגע קורא:

 

https://semiengineering.com/7nm-last-major-node/

 

https://semiengineering.com/transistor-options-beyond-3nm/

שורה תחתונה בגדלים של מספר בודד של ננומטרים אפקט הquantom tunneling נכנס לפעולה בצורה מאד חזקה ואין כרגע דרך לתקן את זה, הדרך היחידה תהיה לשנות לחלוטין את התחום בין אם שינוי בחומר שבו משתמשים לשינוי דרך הבניה של השבב.