עבור לתוכן

הדילמה: האם רובוט יכול לשאת נשק ולירות על אדם חמוש עם כוונות לבצע אקט של טרור?

Featured Replies

פורסם

שנית אנחנו ( אתה ' date=' אני והשאר ) די סגורים על הרעיון שזה הוא כלי שימושי ועוד יותר עם מגוון כלי נשק ובנוסף אפשרות לפיקוח אנושי בדרגה כזו או אחרת ,

[/quote']

שוב פעם, מערכות כאלו קיימות כבר מזמן.

נראה לי שהדיון המקורי היה לגבי מערכת אוטונומית לחלוטין - האמת יותר באספקט הפילוסופי אני חושב, יותר מההבט הטכני. האם לגיטימי לתת "למוח סיליקון" את הסמכות על חיים ומוות באופן אוטונומי לחלוטין. פותח הדיון גם העלה שאלה זאת לאור חוקי הרובוטיקה המפורסמים של אסימוב.

אסימוב, ביחד עם מדענים, פילוסופים וסופרים אחרים שחזו בעליית עוצמת החישוב האלקטרוני מסוף שנות הארבעים ואילך התחילו לחשוב על האספקטים הפילוסופיים של בינה מלאכותית. עלה חשש אמיתי "שמכונות חושבות" ישמידו את המין האנושי, לאו דווקא במזיד. מהירות התגובה הפוטנציאלית של מחשבים, בהנתן האלגוריתם המתאים, הופך כל עימות איתם לאבוד מראש. זמן התגובה המינימלי של אדם הוא 0.2 שניות, נצח במונחים של מחשב אלקטרוני מודרני (כרטיסי המסך המהירים של היום יכולים לבצע 300 מיליון פעולות נקודה צפה בזמן הזה), שלא לדבר על המחשבים העתידניים.

על מנת לנטרל את הסכנה הזאת, אסימוב (ואחרים - בדרכם הם) הגה את חוקי הרובוטיקה. מעבר לזה - הוא קבע שחוקים אלו "יצרבו בחומרה" באופן בלתי הפיך.

למרבה הצער, אין היום "מוחות פוזיטרוניים" שאפשר לצרוב חוקי יסוד במסילות שלהם. המעבדים בימנו הם מכונות חישוב אוניברסליות "טיפשות" ולכן האחריות מוטלת על המתכנתים והמפעילים. אדם הבונה ומתכנת מכונת נשק אוטונומית לחלוטין צריך להבין שהאחריות המוחלטת על כל מעשי המכונה הזאת מוטלת עליו, החל מרגע הפעלתה. לא ניתן להתנער מאחריות זאת והיא לא שונה משל חייל המפעיל נשק באופן בלתי אמצעי. אני חושש שבהנתן מגבלות האלגוריתמים הקיימים היום, בניית מכונה כזאת היא אקט לא מוסרי, משום שלא ניתן להבטיח מרווח בטחון מספק. גם בהנתן אלגוריתמים טובים יותר, אני מסופק אם בניית מערכת קטלנית אוטונומית לחלוטין היא אקט מוסרי.

אם אני אתיחס לתגובה שציטטי ' date=' אז "מגוון כלי נשק "

[/quote']

כן אני יודע, התגובה שלי לגבי ירי לכיוון הרגליים לא הייתה מכוונת אליך, אלא פשוט העלתי את העניין הזה באופן כללי. להזכיר שמדובר בדיון פתוח בפורום פתוח ולא בדיאלוג.

  • תגובות 76
  • צפיות 23k
  • נוצר
  • תגובה אחרונה
פורסם

להגיד את המילה מוסרי מבלי להציב אותה בהגדרה זה פחות או יותר לסמוך על ההבנה של העומד מולך ו /או ריב /ויכוח שעומד להתרחש , הכל רק עיניין של זמן ובמקרה דנן הזמן קצר מאוד ,

ברם אמרת מוסרי , להגדרתי מוסרי הוא כפי שנמסר , כלומר אמות המידה החברתיות שנמסרו מהדור הקודם ( ע"י דוגמה אישית וחינוך למשל ) ( יש להבדיל מוסר מהמילה חוק שהיא מוסכמה מוגדרת קבועה אשר מתפרשת על ידי הרשות השופטת וכו' וכמו להבדיל את המילה מוסר המילה צדק שהיא תפיסת היחיד ו / או קבוצה קרי תפיסה סוביקטיבית של שכר ועונש שלפעמים הולכת יד ביד עם הרשות השופטת ) ואם נתבונן בעליית נורמות חברתיות חדשות ובעיקר צורות התנהגות הנובעות מהתפתחות טכנולוגית אשר מביאה את האדם להיות ממוקד באספקטים נוספים אשר דוחקים את ה"מוסר" לדרגה נמוכה יותר ( זכור להגדרתי מוסר הוא אמות המידה של הדור הקודם ) אני יכול בהחלט לראות מצבים שבהם רובוט שמשמיד כל מטרה יהיה םמבוסס היטב ומעוגן היטב ביסודות "מוסריים" של הזמן בו הוא ( הרובוט ) יפעל , ( כבר היום אתה יכול לראות פעולות שאינן מוסריות בעליל מבוצעות תחת הסכמה של חלק ניכבד פחות או יותר של הציבור למשל כמעט כל הפעולות המלחמתיות ביננו לבין אחינו הערבים משני הצדדים . )

פורסם

שוב פעם, מבלי להכנס לתחום תורת המוסר, תחום שאני לא מבין בו יותר מדי (למדתי כמה קורסים באתיקה, אבל אני עדיין רחוק מאוד מלהיות בקיא ביסודות הפילוסופיים של המוסר).

שוב פעם, בניית מכונה אוטונומית מבלי להתחייב ב-100 אחוז (פחות אפסילון מאוד קטן) שהיא תעמוד ביעדים שהוגדו לה מראש ומבלי לסטות מהם, היא פעולה מאוד בעייתית. מכונה אוטונומית כזאת עשויה להיות, באופן היפותטי, בלתי ניתנת לעצירה ולחולל נזק עצום בהנתן שגיאת תוכנה בשוגג או במזיג.

בעיה חמורה נוספת טמונה גם בתפקוד תקין של המכונה אבל במתן פקודות בעייתיות. הבעיה לא טמונה דווקא במי המכונה תוגדר להרוג (חמושים, פרובוקטורים לא חמושים וכו'), שהרי המכונה תוגדר בדרך כלל באותו האופן שבו ינתנו הוראות פתיחה באש לחיילים הרגילים. הבעיה היא שלמכונה כזאת אין "מצפון" והיא פשוט תמלא הוראות (אתה בוודאי מכיר את המשפט "אני רק מלאתי הוראות" שהוזכר באי אלו משפטים של פושעי מלחמה). למכונה כזאת אין "דגלים שחורים". מפקד עשוי לתת, שוב פעם, במזיד או בשוגג, הוראה בעלת השלכות לא מוסריות בעליל, המכונה לא תזהה את הבעייתיות בהוראה ותבצע את ההוראה כלשונה.

מסיבות אלו, לכל הפחות (בוודאי יש יותר), נשק אוטונומי לחלוטין מעלה בעיות מוסריות כבדות ביותר (ולא משנה איך אתה מגדיר מוסר).

פורסם

זה בעייתי מפניי שאתה בוחן את הסיטואציה מנקודת זמן עכשוית ערכית שלך ולא מבחינת נקודת זמן בא יהיה אפשרות "מוסרית" להפעלה של רובוט כזה ( להלן מכונה שמשמידה את הכל ) .

אכן היום אם אינני טועה אפילו גדרות חשמליות הן בעיה מבחינה החוק הבן לאומי אך אני משער שעם "ירידת הערכים" יאפשרו יותר ויותר כניסה של חוקים שאינם ניתנים לפרשנות כמו למשל ,אם עברת את הגבול אתה מסתכן בחייך , זה דבר די טיבעי שאדם ישלם על טעות בחייו ומי כמוך יודע זאת .

זה שהוציא לפועל יהיה "רובוט" שמע עושים זאת היום לבעלי חיים רבים כמו תרנגולות וכו' ובעבר עשו זאת לבני אדם וגם היום עושים זאת לבני אדם אבל זה ליכאורה נעשה במדינות נחשלות בצורה ישירה ובמדינות מפותחות בצורה בילתי ישירה כגון הרעלה שך הציבור היום אנחנו רק קוראים לזה "אקולוגיה" , אתה יודע קורט וונוגוט קרא לעישון "הדרך התרבותית המקובלת חברתית להיתאבדות " מה שאני מנסה להגיד זה שאת ההרג חסר השפיטה שיעשה על ידי מכונה אין עם זה בעיה ( זה קורה כל יום ) ( מכונות הורגות בני אדם ) הבעיה היא ההסכמה של בני האנוש להיטבח ע"י מכונות , אבל לדעתי זה כבר קורה לנו , אז השכל יעשה "דילוג" מחשבתי ואיזה טריק להצדיק את הצבת הרובוט הזה , כמו למשל בגבול שמחדיר ימים ולילות ערמות של מחבלים שמתאבדים ברחובות ת"א , אני מבטיח לך שיהיו שם רובוטים בלי טיפה של "מחשבה" סינטטית אלא רק חיישנים של זיהוי וירוט .

לסיכום : הכל עיניין של ערכים וערכים הם אינם דבר קבוע .

פורסם

טוב , הבאתי את הכתבה הזו מהסיבה הפשוטה , מכונה איננה בן אדם , טוב את זה רובינו יודעים , אבל בהקשר של תרגום מילים ותרגום תנועות בשטח וזיהוי על פי פרמטרים משתנים ממש כמו תרגום של מילה שבהקשר כזה תהיה X ובהקשר שונה תהיה Y , גם הרובוט הזה יתקשה להחליט אם זה מקל רועים שמוחזק ביד ואולי זה כידון להורדת זקיף ( או אם זה טיל קאסם או אלונקה - זוכרים את תצלומי האוויר מעזה ) לכן הפיתרון המכני שאני מציע להלן מכונה של ירוט היא הפתרון הפשוט הקר והלא יקר ,

שויין , הכתבה בעיקרון אומר שבבילון מציעה תרגום אנושי לטקסטים ( להבדיל מהתרגום מכונה / אוטומטי )

http://www.ynet.co.il/articles/0,7340,L-3812722,00.html

( אהה כן פנקי לא אהבתי את התגובה שלך בתרד השני , לתשומת ליבך , כאן אתה בסדר ככול יכולתך - חחחח )

  • 4 חודשים מאוחר יותר...
פורסם
  • מחבר

חברים יקרים,

מאז פתחתי האשכול הזה, סיימתי פיתוח רובוט חדש.

ROBOCOM

הנה סרטון וידאו קצר:

רובוט פרסום הנע על מסילה בגובה 2.5 מטר הנושא עליו מחשוב+מסך LCD +בקרה ומערכת שליטה מרחוק. כולל מצלמות, מסך וחיישנים.

האפליקציות: תחום הפרסום: פרסום בתנועה ואינטראקציה עם הלקוח, הרובוט מראה בעזרת וידאו שמוזן לו מרחוק, כל פרסומת או מידע ללקוחות הרלוונטיים,(גם במרכזי כנסים ותערוכות)

אולם, חנות\סופר מרקט גדול בה מותקן רובוט כזה, אי אפשר להתעלם ממנו, וידאו וקול צלולים ותנועה חלקה ומעוררת עניין.

המטרה היא לגרום ללקוחות להרים מבט ולהחשף לפרסומת\מידע

חברות גדולות יכולות לבצע קמפיין מצליח בעזרת הרובוט.

לרובוט זרוע המשמשת למגוון אפליקציות, אחיזת מצלמת וידאו, חלוקת כרטיסי ביקור ודוגמאות מהמוצר הנמכר ללקוח.

הרובוט יכול לשמש גם כשומר(ANTI SHOP lifting ) בחנויות, ברחבי העולם, עסקים מאבדים חלק גדול מרווחיהם בשל גניבות, הרובוט המצויד במצלמות, משדר תמונה ומקליט כל תנועה במרחב הפעולה שלו, ממש כמו קצין בטחון- רק על מסילה ואינו צורך עלויות אחזקת קציני בטחון...מכאן גם חסכון במשכורות ופחות גנבות.

הרובוט הזה יהווה פריצת דרך בכל הקשור לפרסום דינאמי ואבטחה.

התחלנו לשווקו בימים אלו ופרסמנו סירטון זה ברחבי הרשת.

תודה,

רונן

יש מאות נגזרות(אפליקציות)שניתן לבצע עם הרובוט.

פורסם

לא דוחפים לנו מספיק פרסומות גם ככה?

  • 2 שבועות מאוחר יותר...
פורסם

+1

פורסם

כלומר, יצרת את הרובוט הראשון שיודע להציק באופן אקטיבי.

סחטיין על ההישג הטכני, ברצינות, אבל הכיוון שזה הולך אליו לא ממש מוצא חן בעיניי.....

פורסם
  • מחבר

המטרה בהצגת הרובוט הנ""ל אינה פרסומת של הרובוט,

זהו המשך טבעי לשאלה שהצגתי בפתיחת האשכול- האם רובוט יכול לשאת נשק ולירות.., אם לא הבנתם אז גם הפלטפורמה שאני מציג כאן הינה בעלת פוטנציאל לשאת נשק וגם לירות...

הנגזרות לפלטפורמה הינן רבות, כשהינדסתי את הרובוט הנ"ל לא תיכננתי רובוט פרסומות אלא רובוט שמסוגל לבצע מטלות שמירה על גדרות תוך כדי נסיעה על מסילה במהירות של עד 10 מטר בשניה זמן הגעה ליעד.

אם מפזרים רובוט על כל 60-70 מטר, זמן התגובה קצר ויעיל, אשמח לביקורות משכילות יותר.

הרובוקום- לא חיב בהכרך לשמור על גדרות, הרובוט יכול לשמור בחנויות נגד גניבה SHOP LIFTING, זו מכה שפוצעת קשות את בעלי המרכולים ובכך מעלה מחירי בסיס ללקוח הסופי, יש קציני בטחון סמויים ויכולים להיות גם רובוטים גלויים שתוך כדי הצגת"פרסומות" יבצעו משימות בילוש והרתעה(התמונות נשלחות לחדר בטחון ונשמרות בזכרון הרובוט)

לכל הסקפטים, מותר לכם :) אבל אני חושב שזה יצליח במתקונת זו או אחרת.

הרובוט מוצג באתר בחברה שלי: סנטורי-SENTORY

www.sentory.com

שבת שלום לכולם,

רונן.

פורסם

בלי להעליב..

אבל הרובוט הקודם שהצגת הייתה פלטה מסתובבת, אם אתה חושב שהחלק הקשה "ברובוט" שיודע לירות זה המערכת המכנית אז אתה חיי בסרט.

אתה צריך לפתח מערכת שיודעת לאתר ולזהות איום(בן אדם שמנסה לעבור גבול סגור למשל), לוודא באופן מוחלט שזה איום(יש לו נשק) ואז לפעול לפי סד"פ מוגדר.

לכתוב תוכנת עיבוד וזיהוי תמונה זה לא דבר פשוט, לכתוב OCR פשוט שיודע להתגבר על captcha זה משהו שאולי בוגר אחד או שניים מתוך מחזור שלם שהרגע של מדעי המחשב יכולים לכתוב, וגם בזה אני בספק אז שלא נדבר על זיהוי בן אדם חמוש מתוך קהל, חישוב המיקום המדוייק שלו ביחס "לרובוט" חישוב כל הנתונים הבליסטיים הדרושים לצורך נטרול האיום ועוד מספיק דברים שאני לא יכול לחשוב עליהם בחצי רגל.

הרובוט השני שלך שוב עם כל הכבוד הוא שום דבר מעבר למנגון תריסים חשמליים עם מסך ורמקול עליהם, תעשה לי טובה אבל מגמת הרובוטיקה בתיכונים היום יוצאים דברים הרבה הרבה הרבה יותר מתקדמים מזה. ואם אתה חושב שלזהות בן אדם עם נשק זה קשה, אז תחשוב מה זה לזהות בן אדם שמכניס מוצר לכיס שלו בצורה אוט'. ואם אתה חושב שרק המצלמה תועיל אז לא.היום בשביל מצלמת אבטחה כל מה שצריך זה מצלמת רשת והמחשב הכי מעפן שאפשר למצוא אבל מה רוב החנויות עשו חישוב פשוט שלשלם לבן אדם שיסתכל ויחפש גנבות בזמן אמת זה דבר הרבה הרבה יותר יקר מאשר להפסיד כמה מוצרים מסכנים בשבוע, וכל עוד הם לא שוכרים אנליסטים של ה-CIA הם גם סביר להניח שיפספו את רוב הגנבות.

פורסם
  • מחבר

זובי...זהו שמך נכון...

אם היו לי תקציביי הענק שמאפיינים פרוייקטים בטחוניים, הייתי גורם לרובוט לרחף באוויר בזירו גרויטי, אבל כשמפתחים משהו בתקציב עצמי(מכספי הפרטי), הגלגלים קצת חורקים בנסיעה.

כדי להציג רעיון, לפעמים זה נראה לא סקסי והגימור לא משהו, אבל הרעיון הוא התכלית.

אני מאלה המעדיפים שחיילים לא יסיירו על הגדר וייסכנו עצמם,

קל לשבת ולכתוב אלפי תגובות מקטרגות ולהראות שיש חיים אחרי ממר"ם או השק"ם ווט אוור...

כשהולכים לאופרה לעיתים השמנה הצורחת מצליחה להוריד כמה דמעות בעיניי הצופים, אני מניח שבשבילך היא סתם שמנה צורחת.

לסיכום:

אני מציע שתציג פה את יצירותיך כדי שנוכל להתרשם מיכולותיך שלך.

אני שמח שהאנשים והגופים שתמעניינים ברובוטים שאני מפתח, הינם יצירתיים מחשבתית קצת יותר ממך.(בעצם אתה כן יצירתי, רק מעדיף לקחת את זה לכיוון השלילי, המתגרה והפרובוקטיבי)

תהייה דובי טוב ולך שן שנת חורפ ארוכה מוקדמת....

בלי להעליב כמובן...

ועוד משהו.....הפרוייקט בהליכי משא ומתן למכירתו במצבו העכשווי..

דרך אגב, אני כתבתי תגובתי מבייג'ין זמן מקומי 10 בבוקר, מה התרוץ שלך לכתיבת ביקורת ב-3 וחצי לפנות בוקר?

בחייך, בין סופגנייה אחת לשנייה להשתלח כך באנשים?

שיים און יו...

פורסם

אני מניח של מערכת רואה יורה, ועל כל שאר המערכות שצה"ל מפעיל בגבול רצועת עזה, ומקומות אחרים שלא חושפות חיילים בפני סכנה, אלא את מדובר על carpal tunnel לא שמעת? חבל תראה חדשות...

שוב אתה יכול למכור את המערכת מבחינתי גם לצבא ארצות הברית שתגן על השק"ם שלה, זה לא משנה את העובדה ששום דבר שהצגת כביכול לא מרשים, לא פונקציאונלי(לפחות מהסרטונים שהצגת) מעבר לפועלה מכנית פשוטה והוא לא תפוס לגמרי למציאות כלשהי.

פורסם
  • מחבר

אני מניח ששוב קמת לאכול סופגנייה..

לא ראיתי שאתה מפרסם פרוייקטים שלך...

ממתין.

כולם ממתינים.

רוצים להתרשם מיכולותייך ולא רק מפיך המפיק מרגליות.

אל תהיי גיק ואל תהייה מצחיק זה פשוט לא אתה..

בלי להעליב כמובן.

פורסם

ניראה לי קצת טפשי

ונראהלי ששכחת בכלל את המתרה הראשונית של כל הקונספט הזה (שהיא אני מניח:להגן על חיי אדם ללא סיכון חילים)

ואני שואל , למה שאני לא פשוט יקח נשק אוטומטי ישים אותו על מתקן מסתובב לכל זוית אפשרית ונשלט בעזרת ג'וייסטיק

יתקע גם כמה מצלמות לכל אורך הגדר

ישב מחדר מרוחק מהמקום ב20 קילומטר

וייאלה ניראה אותך מתקרב למקום!

(להזכירך לא בזבזתי אפילו רבע מהסכום שאתה רק תשקיע בפיתוח של זה ואני לא בסיכון)

בתור מטאפורה אפשר להגיד פשוט שמרוב שחיבקת מישהו חזק מאהבה , מעכת לבן את הצורה

בכללי , כן. זה ניראה כמו מישהו שמפטרל מסביב לבית וכל שניה שומע איזה רחש ובשניה אחת מפנה את קנה האקדח למקום בו הרחש היה (בהנחה שזה גנב פורץ טרוריסט מפגע או ג.יפית)

ארכיון

דיון זה הועבר לארכיון ולא ניתן להוסיף בו תגובות חדשות.

דיונים חדשים