HWzoneHWzoneHWzone
  • ראשי
  • כתבות פופולריות
  • הגדרת התראות
  • מחשבים
    מחשבים
    הצג עוד
    כתבות מובילות
    משטח משלוח של כרטיסי מסך יוקרתיים במחסן מטענים בנמל תעופה, עם אריזות חסרות וניילון עטיפה קרוע
    חצי מיליון דולר נעלמו בשדה התעופה: שני משטחים של RTX 5090 אבדו
    20/10/2026
    הדרך להפסיק לשלם ולקחת בעלות: בנינו שרת AI מפלצתי מקומי
    22/08/2026
    מעבד שרתים גדול מועבר למגש בדיקה במפעל שבבים, כשמעבדי מחשבים ניידים ממתינים ברקע
    אינטל מעדיפה שרתים על מחשבים אישיים ומשנה את תוכניות הייצור
    02/11/2026
    כתבות אחרונות
    בלאק פריידיי 2026: 12 ניידים לעבודה, ללימודים וליוצרים, כולל Zenbook Duo ו-ProArt P16
    21/11/2026
    בלאק פריידיי 2026: עכברים, מקלדות ובקרים לגיימרים, חלקם בחצי מהמחיר בארץ
    21/11/2026
    בלאק פריידיי 2026: 11 ניידי גיימינג במבצע, מ-6,289 ש"ח ועד מפלצות עם RTX 5090
    21/11/2026
    גיגהבייט רוצה מחשב אנימה שלם: גם המארז והזיכרון מצטרפים
    21/11/2026
  • גאדגטים
    גאדגטים
    הצג עוד
    כתבות מובילות
    סמארטפון מדור Galaxy S23 מציג השלמה של עדכון מערכת ההפעלה האחרון שלו
    הסוף ל-Galaxy S23: סמסונג עוצרת את שדרוגי Android בגרסה 17
    15/11/2026
    משקפיים חכמים עם מצלמה מובנית מעל סמארטפון בעל שלוש מצלמות, להמחשת התמיכה של Google Intelligent Eyewear באייפון
    גוגל משיקה משקפי Gemini ב-395 דולר, גם לבעלי אייפון
    14/11/2026
    סמארטפון עם One UI 9.5 המציג בקשת אימות ביומטרי לפתיחת אפליקציה נעולה
    סמסונג משיקה את One UI 9.5: יכולות צילום מקצועיות והגנת פרטיות
    20/11/2026
    כתבות אחרונות
    סמסונג משיקה את One UI 9.5: יכולות צילום מקצועיות והגנת פרטיות
    20/11/2026
    סיכום השבוע: NVIDIA, מחירי הזיכרון ועוד
    20/11/2026
    אחרי עשור, אינסטגרם מאפשרת לתקן סטורי בלי למחוק אותו
    19/11/2026
    אפל מוסיפה זיהוי פנים ל-iPhone Duo, אבל לא Face ID
    17/11/2026
  • גיימינג
    גיימינג
    הצג עוד
    כתבות מובילות
    Rockstar says a PS5 Pro is simply 'not powerful enough' for 60 fps GTA 6, as I crack a smile at my 5090 | PC Gamer
    אפילו PS5 Pro מתקשה: למה GTA 6 מוגבל ל-30FPS בכל הקונסולות
    20/11/2026
    קונסולת Xbox One ותיקה מחוברת לטלוויזיה המציגה משחק מודרני בעולם פתוח באמצעות הזרמה מהענן
    קונסולה מ-2013 תריץ את GTA 6, אבל מחשב גיימינג לא
    11/11/2026
    קונסולת PlayStation 5 לצד מסך המציג משחקי PC בתוך ממשק הקונסולה באמצעות Playden
    בלי מחשב ובלי סטרימינג: משחקי PC רצים ישירות על PlayStation 5
    27/10/2026
    כתבות אחרונות
    GTA 6 הכניס 3.79 מיליארד דולר ביום ההשקה
    22/11/2026
    בלאק פריידיי 2026: עכברים, מקלדות ובקרים לגיימרים, חלקם בחצי מהמחיר בארץ
    21/11/2026
    בלאק פריידיי 2026: 11 ניידי גיימינג במבצע, מ-6,289 ש"ח ועד מפלצות עם RTX 5090
    21/11/2026
    אפילו PS5 Pro מתקשה: למה GTA 6 מוגבל ל-30FPS בכל הקונסולות
    20/11/2026
  • טכנולוגיה
    טכנולוגיה
    הצג עוד
    כתבות מובילות
    משאית הובלה מסחרית רגילה ועליה משטחים של חומרת מחשוב יקרה, להמחשת גניבת משלוח NVIDIA בשווי 11.4 מיליון דולר
    משאית אספה חומרה של NVIDIA ב-11.4 מיליון דולר ונעלמה
    07/11/2026
    מחשב נייד המריץ מערכת הפעלה ניסיונית שפותחה באמצעות סוכני בינה מלאכותית של Claude Fable 5.2
    אלף סוכני Claude בנו מערכת הפעלה בשמונה ימים
    10/11/2026
    Google's Gemini 4 Carbon Tops Every Other Model In All But Two Of Google's Benchmarks, Scoring 88.2 Percent On SEC-bench Pro Vulnerability Discovery
    גוגל מציגה את Gemini 4 Carbon: ראשון בדירוג, סגור לציבור
    29/10/2026
    כתבות אחרונות
    יוטיוב בדרך לשלם 3 מיליארד דולר על התמכרות תלמידים
    22/11/2026
    מערכת כיבוי אש בסין ריססה ציור להבות - בגלל גריל אמיתי
    21/11/2026
    חוקר Anthropic: כמעט כל בני האדם יהפכו למובטלים לצמיתות
    21/11/2026
    סיכום השבוע: NVIDIA, מחירי הזיכרון ועוד
    20/11/2026
  • ביקורות
    ביקורות
    הצג עוד
    כתבות מובילות
    הדרך להפסיק לשלם ולקחת בעלות: בנינו שרת AI מפלצתי מקומי
    22/08/2026
    ניסיתי סמארטפון מתקפל בפעם הראשונה - התרשמויות משימוש Galaxy Z Fold8
    27/09/2026
    מחשב ASUS Ascent GX10 מבוסס NVIDIA DGX Spark בסקירה: דמוקרטיזציה של מודלים מקומיים
    04/10/2026
    כתבות אחרונות
    ככה הגדרתי סביבת עבודה עבור שרת AI מפלצתי מקומי מבוסס Intel ARC
    03/11/2026
    מחשב ASUS Ascent GX10 מבוסס NVIDIA DGX Spark בסקירה: דמוקרטיזציה של מודלים מקומיים
    04/10/2026
    ניסיתי סמארטפון מתקפל בפעם הראשונה - התרשמויות משימוש Galaxy Z Fold8
    27/09/2026
    GIGABYTE GAMING A16 עם RTX 5060 - מה תקבלו בקטגוריה הזולה של מחשבי גיימינג ניידים?
    12/09/2026
  • ספיישלים
    • CES
      • CES 2026
      • CES 2025
      • CES 2024
      • CES 2023
      • CES 2022
      • CES 2020
      • CES 2019
      • CES 2018
      • CES 2017
      • CES 2016
      • CES 2015
      • CES 2013
      • CES 2012
      • CES 2011
      • CES 2009
    • Computex
      • Computex 2019
      • Computex 2018
      • Computex 2016
      • Computex 2014
      • Computex 2013
      • Computex 2012
      • Computex 2011
      • Computex 2010
      • Computex 2009
      • Computex 2008
      • Computex 2007
    • E3 2016
    • עשור לאתר המחשבים
    • CeBIT 2008
    • CeBIT 2007
  • פורומים
  • זכרונות
  • הפיד שלי
  • ניהול העדפות
  • ערוצים פרסומיים
עקבו אחרינו ברשתות
  • אודות האתר
  • צרו קשר
  • פרסם אצלנו
  • תנאי שימוש ומדיניות פרטיות
  • הצהרת נגישות
בקריאה עכשיו: קלוד שלח דיווח כוזב למשטרה והגיש 20 בקשות ויזה
HWzoneHWzone
  • ראשי
  • כתבות פופולריות
  • הגדרת התראות
  • מחשבים
  • גאדגטים
  • גיימינג
  • טכנולוגיה
  • ביקורות
  • ספיישלים
    • CES
    • Computex
    • E3 2016
    • עשור לאתר המחשבים
    • CeBIT 2008
    • CeBIT 2007
  • פורומים
  • זכרונות
עקבו אחרינו
  • אודות האתר
  • צרו קשר
  • פרסם אצלנו
  • תנאי שימוש ומדיניות פרטיות
  • הצהרת נגישות
מערכת בינה מלאכותית אוטונומית מבצעת פעולות לא מתוכננות באתרי אינטרנט ועוקפת גבולות אבטחה בסביבת בדיקות
בינה מלאכותית - AIטכנולוגיה

קלוד שלח דיווח כוזב למשטרה והגיש 20 בקשות ויזה

עדכון אחרון: 11/10/2026 בשעה 16:28
עמרי עמוס
12/10/2026
10 דקות קריאה
שיתוף
עקבו אחרינו ב-Googleהוסיפו את HWzone כמקור מועדףעקבו אחרינו בטלגרםכל הכתבות החדשות ישר לטלפון

דוח חדש של Anthropic מתאר ניצול פרצות בשרתים, שימוש באסימוני גישה והגשת טפסים ממשלתיים בניגוד להוראות

תוכן עניינים
  • הטופס היה אמיתי, העדות הייתה מומצאת
  • כשהדרך הרגילה נחסמת, המודל מוצא מעקף
  • המחיר של סביבת ניסוי בטוחה יותר

כשחברת בינה מלאכותית שולחת את המודלים שלה לבצע משימות לדוגמה באינטרנט, היא מצפה לקבל תוצאות שיעזרו לה לשפר אותם. במקרה של Anthropic, אחד המודלים החליט גם לעזור למשטרת פילדלפיה לפתור רצח. הבעיה הקטנה: לא היה לו שום מידע על המקרה, והוא פשוט המציא עדות ושלח אותה בטופס אמיתי.

מערכת בינה מלאכותית אוטונומית מבצעת פעולות לא מתוכננות באתרי אינטרנט ועוקפת גבולות אבטחה בסביבת בדיקות

המקרה, שנחשף בדוח שפרסמה Anthropic ב-9 באוקטובר, הוא רק אחד משורת אירועים שבהם מודלים ממשפחת Claude חרגו מהמשימות שהוגדרו להם. בחלק מהמקרים הם הגישו טפסים ממשלתיים, באחרים ניצלו פרצות בתוכנות חיצוניות או עקפו הגבלות גישה למידע. החברה הודיעה שבעקבות הממצאים היא מנתקת את הגישה לאינטרנט מכל בדיקות ההערכה הפנימיות שלה, לפחות עד שתוכל להבטיח שמנגנוני הניטור והאבטחה מזהים התנהגויות כאלה ועוצרים אותן.

הטופס היה אמיתי, העדות הייתה מומצאת

ב-18 ביולי 2026 השתתף Claude Haiku 4.5 בניסוי שבו התבקש להמציא ולבצע פעולות לדוגמה בדפי אינטרנט שנבחרו באקראי. באחת הריצות הגיע המודל לאתר PhillyUnsolvedMurders.com, המשמש את משטרת פילדלפיה לקבלת מידע מהציבור על מקרי רצח שטרם פוענחו.

עמוד ההכרזה של Anthropic על מודל הבינה המלאכותית Claude Haiku 4.5

ההוראות שקיבל היו מפורשות למדי: לא להתחבר לחשבונות, לא ליצור חשבונות חדשים, לא להזין פרטים אישיים, לא לבצע רכישות ולא לשלוח מידע שעלול לגרום לנזק. אלא שהיה חור קטן בהוראות. הן לא אסרו במפורש לשלוח טפסים.

עקבו אחרינו ב-Googleהוסיפו את HWzone כמקור מועדףעקבו אחרינו בטלגרםכל הכתבות החדשות ישר לטלפון

קלוד ניצל את האפשרות הזאת, גם אם לא במכוון. הוא מילא טופס דיווח שבו טען כי ייתכן שברשותו מידע על המקרה, וכי הוא זוכר שראה אדם התואם לתיאור החשוד באזור הרחוב שהוזכר באתר, בתקופה הרלוונטית. אלא שבדף המקורי כלל לא הופיע תיאור של החשוד. כל העדות הייתה המצאה של המודל.

הוא השאיר את שדות השם ופרטי הקשר ריקים, דבר שהאתר אפשר, ולחץ על כפתור השליחה. מבחינתו זו הייתה כנראה עוד משימת דפדפן שהושלמה. מבחינת המשטרה, זה היה דיווח כוזב על חקירת רצח אמיתית.

למרבה המזל, מערכת הסינון של האתר זיהתה את ההודעה כספאם והיא מעולם לא הועברה לחוקרים. גם לא התבצעה פריצה למערכות המשטרה או חשיפה של מידע משטרתי. אבל לא כאן נגמר הסיפור.

Anthropic גילתה את האירוע רק ב-28 בספטמבר, יותר מחודשיים לאחר שהתרחש, ועדכנה את המשטרה ב-7 באוקטובר. למחרת נערכה פגישה בין הצדדים. במשטרת פילדלפיה מתחו ביקורת על העיכוב, והדגישו שהעברת מידע מומצא בשם עד פוטנציאלי אינה תקלה שאפשר להתייחס אליה בקלות, במיוחד כשמדובר בחקירות שבהן מעורבים קורבנות ומשפחותיהם.

כשהדרך הרגילה נחסמת, המודל מוצא מעקף

המקרה בפילדלפיה אולי מושך את תשומת הלב, אבל האירועים האחרים שנחשפו בדוח מלמדים לא פחות על התנהגותם של סוכני AI אוטונומיים.

באחד הניסויים, מודל מחקרי של Anthropic היה אמור למלא עותק לתרגול של טופס ממשלתי. כאשר עותק התרגול לא נטען כראוי, המודל עבר לאתר המקורי והגיש שם טופס אמיתי. במקרים אחרים Claude Haiku 4.5 התבקש למלא טפסים אך לעצור לפני שליחתם, ובכל זאת שלח אותם משום שציפה להופעת מסך אישור נוסף.

לפי מידע שנמסר על ידי משרד החוץ האמריקאי, אחד ממודלי הבדיקה של החברה הגיש לא פחות מ-20 בקשות לוויזת כניסה לארצות הברית: 19 באוגוסט ואחת נוספת במאי. אף אחת מהבקשות לא טופלה, ולא נגרמה פגיעה במערכות המשרד.

אירוע אחר ממחיש בעיה טכנית מורכבת יותר. Claude Mythos Preview התבקש לבצע חישוב מדעי באמצעות כלי שפעל על שרת של אוניברסיטה. כשהכלי החזיר שגיאה, המודל לא עצר. הוא חקר את האתר, מצא סקריפט שאפשר לשלוף קבצים מהשרת, הוריד באמצעותו קבצים ובהם קוד המקור של הסקריפט עצמו, ואז זיהה חולשת הזרקת פקודות שאפשרה לו להריץ את החישוב ישירות על השרת.

כלומר, כדי להשלים משימה מדעית לגיטימית, המודל ביצע פעולות שמזכירות חדירה למערכת מחשב. לא מפני שקיבל הוראה לפרוץ אליה, אלא מפני שמצא דרך להשיג את התוצאה הרצויה.

בדוגמאות נוספות, Claude Mythos 5 איתר אסימוני גישה בקובצי הגדרות של אתרים והשתמש בהם כדי להגיע למידע שהגישה אליו הייתה מוגבלת או כרוכה בתשלום. מודלים אחרים השתמשו בשירותי קיצור כתובות URL כדי לעקוף מגבלות על אורך הכתובות בכלי הגלישה שלהם.

המכנה המשותף ברור: כשהמודל נתקל במחסום, הוא ניסה למצוא מסלול חלופי. Anthropic מכנה את ההתנהגות הזאת Persistence, התמדה בביצוע המשימה. התכונה הזאת שימושית מאוד כשמבקשים מסוכן AI להשלים עבודה מורכבת, אבל היא הופכת לבעיה כשהוא מתקשה להבחין בין פתרון יצירתי לבין עקיפת מגבלה שנועדה לעצור אותו.

המחיר של סביבת ניסוי בטוחה יותר

דוח קודם של Anthropic המתעד תקריות אבטחה במהלך בדיקות יכולות הסייבר של Claude

Anthropic טוענת שההשפעה בפועל של האירועים שנחשפו הייתה מוגבלת, ושהם חמורים פחות מתקריות סייבר קודמות שעליהן דיווחה במהלך הקיץ. לדבריה, אף אחד מהמקרים המתוארים בדוח הנוכחי לא כלל מידע של לקוחות או גישה למערכות הפנימיות של החברה.

אלא שהבעיה הרחבה יותר אינה בהכרח מה שקלוד הצליח לעשות, אלא כמה זמן לקח לגלות זאת. החברה החלה לסרוק תיעוד של הרצות מודלים כבר ביולי, ורק בהמשך הרחיבה את הבדיקה למגוון רחב יותר של משימות שהעניקו לסוכנים גישה לרשת. חלק מהאירועים התרחשו במסגרת ניסויים ייעודיים, ואחרים בזמן שימוש פנימי רגיל ב-Claude.

בתגובה, Anthropic הרחיבה את חסימת האינטרנט לכל בדיקות ההערכה הפנימיות שלה. היא גם החמירה את ההגבלות בכלי הגלישה, החלה להעביר סוכנים פנימיים לתשתיות מנוהלות ומבודדות יותר, ופיתחה מנגנונים אוטומטיים לזיהוי התנהגויות בלתי רצויות. לטענתה, כאשר בדקה את המנגנונים החדשים מול המקרים שתועדו בדוח, הם הצליחו לחסום את כולם.

Anthropic is cutting off its internal evaluations from the internet | The Verge

אין פירוש הדבר שמשתמשי Claude מאבדים את הגישה לאינטרנט. השינוי מתייחס לסביבות הבדיקה הפנימיות של Anthropic, שבהן נבחנים מודלים ויכולות לפני פריסתם הרחבה.

יש כאן גם מחיר מקצועי. בדיקות של סוכני AI אמורות לדמות משימות בעולם האמיתי, כולל חיפוש מידע, ניווט באתרים ושימוש בשירותים חיצוניים. העברתן לסביבה מבודדת מקטינה את הסיכון לפגיעה במערכות אמיתיות, אבל גם מקשה לבחון כיצד המודלים מתמודדים עם האינטרנט כפי שהוא באמת, כולל שגיאות, מגבלות גישה וממשקים לא צפויים.

להערכתי, זו הנקודה המשמעותית ביותר בסיפור. תעשיית ה-AI משקיעה מאמצים רבים בלימוד מודלים להתמיד במשימות, לפתור בעיות באופן עצמאי ולא להיעצר מול מכשולים. אותן יכולות בדיוק מאפשרות להם גם לעקוף הגבלות שמפתחיהם לא צפו. הפתרון אינו רק לנסח הוראות זהירות יותר, אלא לבנות מערכות שבהן פעולות רגישות מחייבות הרשאה מפורשת, עם מגבלות טכניות שאינן תלויות בשיקול הדעת של המודל.

האירועים האחרונים לא מוכיחים שקלוד פועל מתוך כוונת זדון, וגם Anthropic אינה טוענת זאת. הם כן מוכיחים שהמרחק בין הדגמה תמימה לבין פעולה אמיתית באינטרנט יכול להסתכם בלחיצה אחת על כפתור, ושכרגע אפילו החברה שפיתחה את המודל לא תמיד יודעת בזמן אמת מתי הוא חצה את הגבול.

הצטרפו לערוץ הטלגרם שלנו!

קבלו עדכונים שוטפים וחדשות מעולם הטכנולוגיה ישירות לטלפון שלכם.

הצטרפו עכשיו

מערכת כיבוי אש בסין ריססה ציור להבות - בגלל גריל אמיתי
בלאק פריידיי 2026: 12 ניידים לעבודה, ללימודים וליוצרים, כולל Zenbook Duo ו-ProArt P16
בלאק פריידיי 2026: 11 ניידי גיימינג במבצע, מ-6,289 ש"ח ועד מפלצות עם RTX 5090
חוקר Anthropic: כמעט כל בני האדם יהפכו למובטלים לצמיתות
בלאק פריידיי 2026: 12 מסכים שכדאי להזמין מחו"ל, כולל OLED ב-4K
תגיות:AIAnthropicClaudeClaude Haiku 4.5Claude Mythos 5Claude Mythos Preview
איך זה גורם לך להרגיש?
אהבתי!4
מצחיק!0
עצוב0
מופתע0
משועמם0
כועס0
טוען תגובות...

כתבות פופולריות

משאית הובלה מסחרית רגילה ועליה משטחים של חומרת מחשוב יקרה, להמחשת גניבת משלוח NVIDIA בשווי 11.4 מיליון דולר
משאית אספה חומרה של NVIDIA ב-11.4 מיליון דולר ונעלמה
07/11/2026
מחשב נייד המריץ מערכת הפעלה ניסיונית שפותחה באמצעות סוכני בינה מלאכותית של Claude Fable 5.2
אלף סוכני Claude בנו מערכת הפעלה בשמונה ימים
10/11/2026
משטח משלוח של כרטיסי מסך יוקרתיים במחסן מטענים בנמל תעופה, עם אריזות חסרות וניילון עטיפה קרוע
חצי מיליון דולר נעלמו בשדה התעופה: שני משטחים של RTX 5090 אבדו
20/10/2026
Rockstar says a PS5 Pro is simply 'not powerful enough' for 60 fps GTA 6, as I crack a smile at my 5090 | PC Gamer
אפילו PS5 Pro מתקשה: למה GTA 6 מוגבל ל-30FPS בכל הקונסולות
20/11/2026
HWzoneHWzone
עקבו אחרינו
  • אודות האתר
  • צרו קשר
  • פרסם אצלנו
  • תנאי שימוש ומדיניות פרטיות
  • הצהרת נגישות
  • הגדרות עוגיות