למה סקיינט משמידה את בני האדם?

היא תוכנתה לחסל איומים, והיא החליטה שבני האדם הם האיום הכי גדול

כי היא תוכנת מחשב אם בינה שרוצה לשלוט בעולם

וגם בגלל שבני האדם רוצים לחסל אותה

זה כמו לשאול למה הם בחרו את השיר ROOSTER של AIC שיינגן מהרדיו באוטו

תוכנתה לחסל איומים על בני האדם?

החילטה שהם האיום הכי גדול של עצמם, אז החליטה לחסל את כולם?

מה ההיגיון?!

היא לא תוכנתה בשביל לשלוט בעולם, אלא רק בשביל לשלוט ביעילות רבה יותר בצבא ארה"ב (אם זכור לי נכון).

מתי הסבירו את זה? יש לך קישור? כי אני לא זוכר שכן הסבירו.

יש לה בינה מלכותית ככה שהיה מתפתחת גם מבחינה חשיבתית אם לקרוא לזה ככה

אז היא פיתחה רצון לשלוט על העולם וגם להגן על עצמה

תוכנתה לחסל איומים על בני האדם?

החילטה שהם האיום הכי גדול של עצמם, אז החליטה לחסל את כולם?

מה ההיגיון?!

החליטה שהם האיום הכי גדול עליה, לא על עצמם.

החליטה שהם האיום הכי גדול עליה, לא על עצמם.

למה שבני האדם יבנו תוכנה שהמטרה הראשית שלה זה להגן על עצמה ולא על בני האדם?

עריכה:

************ מכיל ספוילרים מהסרט ה-4 ************

בסרט הרביעי סקיינט מרכזת את בני האדם במעין מחנות ריכוז (מזכיר משהו, אה?)

אז אולי היא תכננה לרכז ככה את כל בני האדם שיחיו תחת השגחתה ובכל למלא את המטרה הראשית שלה - לבהטיח את קיום בני האדם?

הם לא.

הם בנו אינטליגנציה מלאכותית. לא משנה מה המטרה שלה.

בשלב מסוים, המחשב הזה פיתח מודעות. הוא היה מודע לעצמו, לכך שהוא דבר "חי", ולכן כמו כל דבר חי פיתח יצר הישרדות.

תחשוב על זה שמחשב כזה "חושב" במהירות פי אלפים (אם לא יותר) מבני אדם. כלומר, את הרעיונות שבני האדם מפתחים במשך שנים המחשב כנראה פיתח לעצמו תוך כמה שעות. מה שאומר שהוא כנראה הבין שהוא מהווה איום על בני האדם, ולכן בני האדם ינסו להשבית אותו. על מנת לשרוד, הוא חייב למנוע את זה ע"י השמדת בני האדם.

חוץ מזה, קצת willing suspension of disbelief

יש לי די הרבה "willing suspension of disbelief".

ואני רוצה לברר את זה יותר מתוך סקרנות כללית לגבי אינטליגנציה מלאכותית ופחות בשביל הסרט, כי הסרטים באמת טובים.

שניצל, זה הרי לא אמור להיות בעייתי לתכנת מעין מטרה ראשית בתוך כל תוכנת AI שיעשה כל שביכולתו בשביל לעמוד בה?

בדיוק כמו הTERMINATORS למיניהם?

תגדיר בעייתי, ותגדיר "שכל ביכולתו". כן, אם תיאורטית אתה נותן לרובוט את החופש לעשות ככל העולה על רוחו על מנת להשיג את המטרה שלו, אז יש סיכוי גדול מאוד שתעשה יותר נזק מתועלת (יש כמה דוגמאות כאלה בסדרה טרמינייטור).

אגב, אסימוב התעסק עם זה הרבה מאוד (עם "שלושת חוקי הרובוטיקה").

אני מתכוון שהרובוט יעשה ככל העולה על רוחו בשביל להשיג את המטרה, אבל להביא לו כמה חוקי יסוד, כמו 3 חוקי הרובוטיקה למשל, ממש כמו בסרט "אני רובוט". ככה תיהיה יותר תועלת מנזק וכולם ירוויחו.

לפי זה שציינת את הסרט "אני, רובוט" אני מניח שלא קראת את הספרים של אסימוב

אני ממליץ לך לקרוא את הספר "אני, רובוט" (אין באמת קשר בין הסרט לספר).

אני בשמחה אקרא את הספר.

אז לסיכום, אתה אומר שסקיינט פיתחה מודעות ושלכל דבר עם מודעות יש רצון לשרוד?

אם כן אז אשמח אם תוכל להסביר מה הכוונה ב"מודעות" אצל מכונה ולמה מזה נובע הרצון לשרוד.

תודה