בסופו של דבר, מחשב יכול לפתח מודעות עצמית
אין ולו סרט או משחק אחד שהאשימו מחשבים באפוקליפסה מבלי להעניק להם חיים בצורה קסומה כלשהי. קשה לנו להבין מה חשב אובידיוס, האדם הראשון שהגה את הרעיון של חפצים דוממים המפתחים תודעה עצמית, לפני אלפיים ומשהו שנים. יש לנו הרגשה חזקה שכל העניין הוא תוצאה ישירה של מלחמת "למי יש יותר גדול" מול הבחור שהמציא את אפוקליפסת הזומבים, אבל אנחנו סוטים מהנושא. בכל מקרה, יותר קשה לנו להבין איך אנחנו כחברה דמוקרטית תומכים ברעיון המגוחך הזה.
תחשבו על זה לרגע. מישהו, בשלב כלשהו בחייו אמר לעצמו, "מחשבים הם מכשירים כל כך חכמים, שאני מתערב איתכם שיום אחד ה-Apple III שלי ינסה להרוג אותי!". רק שהוא לא דיבר לעצמו אלא נאם מעל פודיום בקונגרס האיחוד האירופאי, והקהל הריע לו והסכים איתו מייד. כנראה בגלל שהקונגרס נערך באמסטרדם…
| אי אפשר להגיד שהוא טעה לגמרי |
הרעיון שמחשבים ישיגו בסופו של דבר מודעות עצמית אם רק ניתן להם מספיק זמן, מושרש עמוק בתודעה הציבורית. וכן, אנחנו מצביעים כרגע על סקיינט מהסרט "טרמינייטור". לפני שאלפי ספקנים יקפצו עלינו ויגידו שסקיינט עוצבה מלכתחילה לטפל באופן עצמאי בארסנל הנשקים של הצבא האמריקני, נאמר שהיא אכן עוצבה לנהל כלי נשק, אך ממש לא עוצבה לחסל את האנושות.
ב"טרמינייטור", סקיינט היא לא יותר ממערכת תגובה מהירה לאיומים צבאיים. היא נבנתה כך שתדע לזהות טילים, כלי מלחמה ובני אדם עויינים, ולטפל בהם באופן הראוי, כלומר לפוצץ להם את הצורה. בסרט נאמר לנו שהבינה המלאכותית שלה נבנתה כך שהמערכת תדע לזהות איומים חיצוניים, ואין שום חלק בקוד של סקיינט שמזהה כוונה לכיבוי; אחרת, המערכת הייתה שולחת טילים גרעיניים לכל עבר בכל פעם שהייתה הפסקת חשמל או שהיה צורך לעשות אתחול מערכות. הסרט אומר לנו במפורש שסקיינט פיתחה מודעות עצמית לאחר שבועיים בלבד, ורק כשבני האדם הבינו את זה וניסו לנתק אותה מהחשמל היא החליטה להשמיד את כולם.
בטרילוגיית ה"מטריקס" הרעיון דומה: בני האדם בונים מכונות מתקדמות שיחליפו אותם במקומות העבודה, כי בני האדם הם יצורים עצלנים שכנראה זרקו את מוסר העבודה מהחלון ברגע שהבינו שמעגלים חשמליים מסוגלים לבצע את התפקיד שלהם ביעילות גבוהה יותר. אז המכונות התקוממו נגד הלוזרים וכבשו את העולם. מגיע להם.
אך יש שאלה אחת שאף אחד לא טרח לשאול, והיא "למה לעזאזל שמישהו יבנה בינה מלאכותית שכוללת מודעות וחשיבה עצמאית מכל סוג שהוא?". הרי מודעות וחשיבה עצמאית הן בדיוק שתי התכונות שבגללן בנינו את המכונות הללו מלכתחילה, אז איזו תועלת יש להן בדיוק בעולם התעשייתי? גם באינטראקציה עם אנשים, כמו נגיד רובוט ברמן, או רובוט פקיד ממשלתי, אין שום צורך בהפגנת רגשות אמיתיים כלשהם, בעיקר כשגם הפגנת רגשות חיבה אפשר לתכנת מבלי לכלול פיסת קוד של מודעות עצמית או חשיבה מפותחת.
בעצם, כשחושבים על זה, אנו חייבים לשאול את עצמנו האם אנחנו טועים לגמרי בכיוון, ושבעצם כבר קיים פרוייקט סודי של החלפת אנשים ברובוטים, כשהצעד הראשון של הפרוייקט הוא הכנסת רובוטים לנעליהם של פקידים ממשלתיים. אבל אנחנו שוב סוטים מהנושא.
גם במשחק Fallout 3 ישנו מחשב בעל מודעות עצמית אנושית, וכדי שלא יפלט לנו איזה ספויילר, רק נגיד שהוא מחשיב את עצמו אנושי למדי אם לא על-אנושי, ויש לו מודעות עצמית גבוהה מאוד. אפילו במשחקי MegaMan העתיקים אנחנו נלחמים מול רובוט שהגיע למודעות עצמית. הרעיון לא חדש, אבל זה לא הופך אותו לאפשרי.
הרי בינה מלאכותית היא לא יותר מאוסף גדול מאוד של תנאים או הגדרות ("if", בשפות התכנות) ותגובות. המחשב נתקל בסיטואציה כלשהי, בודק תחת איזו הגדרה היא נופלת ופועל בהתאם לרצף הפעולות שנכתב עבור אותה הגדרה. בינה מלאכותית נחשבת חכמה יותר ככל שנכתבים עבורה יותר תנאים ומוגדרות יותר פעולות.
אין שינוי מהותי במבנה של בינה מלאכותית ששולטת בכל כלי הנשק של מעצמה עולמית, לבין תוכנה פשוטה אשר מקבלת מספר כלשהו מהמשתמש ומודיעה לו האם המספר ראשוני או לא. זה הכל שאלה של כמה תנאים יש בתוכנה, כמה הגדרות היא יודעת לזהות ואילו פעולות היא מבצעת כאשר אחד מהתנאים מתקיימים.
לשם השוואה, AI (ר"ת: Artificial Intelligence, בינה מלאכותית) של משחק יריות יודע לזהות כאשר אנו יורים עליו, ומציב את עצמו מאחורי אובייקט כלשהו בכדי להימנע ממוות. בשום שלב לא יוכל ה-AI ללמוד להבדיל בין מחסה של שקי חול לזה של מכונית, אם הוא לא תוכנן להבדיל ביניהם מלכתחילה.
אנחנו אפילו לא מסוגלים עדיין ללמד מכוניות לנהוג בעצמן בכבישים מבלי לגרום לתאונות קטלניות, לכל הרוחות. לכן, גם אם נשאיר את המחשב דלוק ונסגור אותו לבד בחדר למשך עשרות שנים, כשנחזור לא נגלה שום התקדמות בבינה המלאכותית. לכל היותר נגלה שאנחנו צריכים למכור את הבית ולשלוח את האישה לעבוד ברחוב כדי לשלם את חשבון החשמל.
מחשבים עלולים להתפוצץ בכל מקרה של תקלה
אם יש דבר אחד משותף לאימהות ולחבר'ה הרעים בסרטים, הרי זה ששניהם לא מרשים לאף אחד להתקרב למחשב עם כוס שתייה. בסרטים, לפחות, לשתות מילקשייק ליד המחשב זה לכל הפחות משימת התאבדות, משום שבעולמה ההזוי של הוליווד, כל מחשב הוא פצצה מתקתקת שתרים את כל הבניין באוויר אם רק תתגרה בה. במציאות לאמא פשוט אין כוח לנקות אחריך.
| בפעם הבאה תשתה את כוס המים שלך במטבח! |
סרטים אוהבים להציג מחשבים כמכשירים קטלניים שמתפוצצים בכל פעם שמופעל עליהם עומס גובר כלשהו או כשנוצר שינוי מהיר ודרסטי בתוכנה. אפשר לראות את זה בכמות מגוחכת של סרטים וסדרות טלויזיה, כמו גם בכמה וכמה משחקי מחשב, אשר בהם כל מחשב בנוי מחומר נפץ פלסטי במקום ממעגלים חשמליים. בסדרת הטלויזיה הבריטית "דוקטור הו", למשל, עוזרו וחברו של הדוקטור, מיקי, גורם למחשבים בכיתת לימוד להתפוצץ על ידי הפעולה המסוכנת של ניתוק המחשבים מהחשמל.
הרישומים הראשונים למחשבים נפיצים בספרי ההיסטוריה מצביעים על סרטי "מסע בין כוכבים", בהם כל מכשיר אלקטרוני – בעיקר מקלדות – נמצא תמידית על סף התפוצצות ספונטנית. כל טלטלה קלה במבנה ספינת החלל, כל תקלה טכנית וכל מגע עם חומר נוזלי מעיפים את אנשי הצוות של האונייה לאחור במופע מרהיב של זיקוקי דינור זולים. מזל שמחשבים לא מתפוצצים מסיבות כאלו במציאות, אחרת ההתרסקויות של 'חלונות' היו גובים יותר קורבנות מאלה שגובות תאונות הדרכים.
גם "גולדן איי" בכיכובו של פירס ברוסנן, אחד מהג'יימס בונדים הטובים ביותר שראה העולם, מצייר תמונה עגומה בכל הנוגע ליציבותם של מכשירי חשמל. בסרט, בונד רודף אחר קרטל טרוריסטי שמתכנן להשתלט על תחנת חלל גרעינית בשם "גולדן איי". בחדר הבקרה של הלוויין, ג'יימס בונד סוחב איתו עט משוכלל שמכיל רימון (כמו כל תלמיד בבת-ים) וכשהרימון מתפוצץ, מחשבי הבקרה בכל התחנה מתפוצצים גם הם, כולל אלו שלא נמצאים בקרבת הרימון.
משחק המחשב בעל אותו השם, שרכב על הצלחת הסרט, המשיך את המסורת ואיפשר לשחקן לפוצץ כל חפץ במשחק שאינו המיפוי הגיאומטרי בעצמו, החל ממחשבים כמובן, חביות דלק כמיטב המסורת, מנורות, מסכים, כיסאות, שולחנות… למעשה, ישנם חפצים במשחק שתוכלו לפוצץ יותר מפעם אחת, מה שמביא אתכם למסקנה שכלי הנשק וודאי יורים מקלות דינאמיט קטנים במקום קליעים.
מנועי החיפוש יודעים בדיוק מה אתם מחפשים
אפשר להגיד בביטחון רב שלא פחות ממאה אחוזים מקהל הקוראים שלנו, נתקל בבעיה הבאה לפחות פעם אחת בחייו: אתם מחפשים משהו ב<הכנס מנוע חיפוש מועדף כאן> ופשוט לא מצליחים למצוא דף אינטרנט שיענה על הצרכים שלכם. בין אם זה מתכון נדיר לעוגת חצילים ובין אם זה ביקורת מקצועית על דגם מסויים של כרטיס מסך, לפעמים גוגל (כלומר, בינג, כלומר, יאהו, כלומר, בריטניקה) פשוט לא יודע למצוא לכם התאמה מושלמת. ושאלוהים יעזור לכם אם אתם במקרה צריכים לחפש תמונה כלשהיא, כי כולנו יודעים שבאיזשהו שלב במהלך החיפוש שלכם אחר תמונה, אפילו אם הנושא תמים לחלוטין כמו "נרקיסים בגשם", אתם תגיעו לפורנו.
| מחקרים סטטיסטיים מצביעים כי כ-86% מכם נתקלו בתמונה הזאת בעמוד השלישי של גוגל, כשמילת החיפוש היא "דשא" |
הוליווד? לה אין את הבעיות הללו. אם אתה חי בסרט, החיים שלך יפים, כי מנוע החיפוש ידע להציג לך בדיוק את מה שאתה מחפש, וזה לא משנה אם השתמשת בביטוי מורכב או במילים עמומות. גוגל (כלומר, הוטבוט) יבין בדיוק את כוונתך.
ב"משימה בלתי אפשרית", איתן האנט (טום קרוז) מנסה למצוא חפרפרת ב-CIA שגרמה למותם של כל חברי הצוות שלו. במהלך הסרט האנט מוצא את עצמו תלוי מתקרה מעל מחשב המכיל מידע סודי ביותר, ובזמן שהוא בין שמיים וארץ הוא פותח את המקבילה של גוגל במחשב ומחפש את המילים "file" ו-computer"". במקום להחזיר מאות אלפי דפים כמו מנוע חיפוש נורמאלי, האנט מגיע לדף המכיל 3 תוצאות בלבד. היינו מקנאים בו, אבל אחרי כל מה שראינו היום, אנחנו מעדיפים פשוט לכבות את המוח וללכת לעסוק בפעילות קלילה שלא דורשת שום מאמץ או חשיבה. כמו האקינג, למשל.
