HWzoneHWzoneHWzone
  • ראשי
  • כתבות פופולריות
  • הגדרת התראות
  • מחשבים
    מחשבים
    הצג עוד
    כתבות מובילות
    משטח משלוח של כרטיסי מסך יוקרתיים במחסן מטענים בנמל תעופה, עם אריזות חסרות וניילון עטיפה קרוע
    חצי מיליון דולר נעלמו בשדה התעופה: שני משטחים של RTX 5090 אבדו
    20/10/2026
    הדרך להפסיק לשלם ולקחת בעלות: בנינו שרת AI מפלצתי מקומי
    22/08/2026
    מעבד שרתים גדול מועבר למגש בדיקה במפעל שבבים, כשמעבדי מחשבים ניידים ממתינים ברקע
    אינטל מעדיפה שרתים על מחשבים אישיים ומשנה את תוכניות הייצור
    02/11/2026
    כתבות אחרונות
    אינטל מוכרת מעבד 20 ליבות בלי שהכריזה עליו רשמית
    14/11/2026
    מתחרה חדשה ל-DLSS מבטיחה ביצועים מהירים עד פי 2.4
    13/11/2026
    מבצעי נובמבר 2026: שבעה דילים לעמדת הגיימינג, מעכבר Logitech ועד ROG Xbox Ally
    13/11/2026
    סיכום השבוע: NVIDIA, GTA 6 ועוד
    13/11/2026
  • גאדגטים
    גאדגטים
    הצג עוד
    כתבות מובילות
    משקפיים חכמים עם מצלמה מובנית מעל סמארטפון בעל שלוש מצלמות, להמחשת התמיכה של Google Intelligent Eyewear באייפון
    גוגל משיקה משקפי Gemini ב-395 דולר, גם לבעלי אייפון
    14/11/2026
    סמארטפון מדור Galaxy S23 מציג השלמה של עדכון מערכת ההפעלה האחרון שלו
    הסוף ל-Galaxy S23: סמסונג עוצרת את שדרוגי Android בגרסה 17
    15/11/2026
    ניסיתי סמארטפון מתקפל בפעם הראשונה - התרשמויות משימוש Galaxy Z Fold8
    27/09/2026
    כתבות אחרונות
    מבצעי נובמבר 2026: טלוויזיית 8K של Samsung ב-11,990 ש"ח ועוד שישה דילים לסלון
    15/11/2026
    הסוף ל-Galaxy S23: סמסונג עוצרת את שדרוגי Android בגרסה 17
    15/11/2026
    מבצעי נובמבר 2026: ראוטר גיימינג של ASUS ב-46% הנחה ועוד שישה דילים לרשת ולבית החכם
    13/11/2026
    גוגל משיקה משקפי Gemini ב-395 דולר, גם לבעלי אייפון
    14/11/2026
  • גיימינג
    גיימינג
    הצג עוד
    כתבות מובילות
    קונסולת Xbox One ותיקה מחוברת לטלוויזיה המציגה משחק מודרני בעולם פתוח באמצעות הזרמה מהענן
    קונסולה מ-2013 תריץ את GTA 6, אבל מחשב גיימינג לא
    11/11/2026
    קונסולת PlayStation 5 לצד מסך המציג משחקי PC בתוך ממשק הקונסולה באמצעות Playden
    בלי מחשב ובלי סטרימינג: משחקי PC רצים ישירות על PlayStation 5
    27/10/2026
    המחשה של לוח אם בקונסולת משחקים עתידית עם שבבי זיכרון ואחסון חשופים
    ה-PlayStation 6 עשויה לעלות יותר מ-1,000 דולר
    20/10/2026
    כתבות אחרונות
    אחרי תשע שנים: Wolfenstein 3 הוכרז רשמית, ובלזקוביץ' חוזר
    13/11/2026
    21 משחקי Xbox מגיעים למחשב, כולל 11 כותרי Star Wars
    13/11/2026
    מבצעי נובמבר 2026: שבעה דילים לעמדת הגיימינג, מעכבר Logitech ועד ROG Xbox Ally
    13/11/2026
    סיכום השבוע: NVIDIA, GTA 6 ועוד
    13/11/2026
  • טכנולוגיה
    טכנולוגיה
    הצג עוד
    כתבות מובילות
    משאית הובלה מסחרית רגילה ועליה משטחים של חומרת מחשוב יקרה, להמחשת גניבת משלוח NVIDIA בשווי 11.4 מיליון דולר
    משאית אספה חומרה של NVIDIA ב-11.4 מיליון דולר ונעלמה
    07/11/2026
    מחשב נייד המריץ מערכת הפעלה ניסיונית שפותחה באמצעות סוכני בינה מלאכותית של Claude Fable 5.2
    אלף סוכני Claude בנו מערכת הפעלה בשמונה ימים
    10/11/2026
    Google's Gemini 4 Carbon Tops Every Other Model In All But Two Of Google's Benchmarks, Scoring 88.2 Percent On SEC-bench Pro Vulnerability Discovery
    גוגל מציגה את Gemini 4 Carbon: ראשון בדירוג, סגור לציבור
    29/10/2026
    כתבות אחרונות
    שבבי NVIDIA שנאסרו לייצוא לסין השאירו עקבות ב-DeepSeek וב-Kimi
    15/11/2026
    נתבים ישנים עצרו את ההמראות בכל ארה"ב: אלפי טיסות בוטלו
    14/11/2026
    ChatGPT מתחיל לשלם במקומכם: OpenAI משיקה ארנק לסוכני AI
    14/11/2026
    גוגל משיקה את Gemini 4 Hydrogen: מהיר פי 2.5 מהדור הקודם
    13/11/2026
  • ביקורות
    ביקורות
    הצג עוד
    כתבות מובילות
    הדרך להפסיק לשלם ולקחת בעלות: בנינו שרת AI מפלצתי מקומי
    22/08/2026
    ניסיתי סמארטפון מתקפל בפעם הראשונה - התרשמויות משימוש Galaxy Z Fold8
    27/09/2026
    מחשב ASUS Ascent GX10 מבוסס NVIDIA DGX Spark בסקירה: דמוקרטיזציה של מודלים מקומיים
    04/10/2026
    כתבות אחרונות
    ככה הגדרתי סביבת עבודה עבור שרת AI מפלצתי מקומי מבוסס Intel ARC
    03/11/2026
    מחשב ASUS Ascent GX10 מבוסס NVIDIA DGX Spark בסקירה: דמוקרטיזציה של מודלים מקומיים
    04/10/2026
    ניסיתי סמארטפון מתקפל בפעם הראשונה - התרשמויות משימוש Galaxy Z Fold8
    27/09/2026
    GIGABYTE GAMING A16 עם RTX 5060 - מה תקבלו בקטגוריה הזולה של מחשבי גיימינג ניידים?
    12/09/2026
  • ספיישלים
    • CES
      • CES 2026
      • CES 2025
      • CES 2024
      • CES 2023
      • CES 2022
      • CES 2020
      • CES 2019
      • CES 2018
      • CES 2017
      • CES 2016
      • CES 2015
      • CES 2013
      • CES 2012
      • CES 2011
      • CES 2009
    • Computex
      • Computex 2019
      • Computex 2018
      • Computex 2016
      • Computex 2014
      • Computex 2013
      • Computex 2012
      • Computex 2011
      • Computex 2010
      • Computex 2009
      • Computex 2008
      • Computex 2007
    • E3 2016
    • עשור לאתר המחשבים
    • CeBIT 2008
    • CeBIT 2007
  • פורומים
  • זכרונות
  • הפיד שלי
  • ניהול העדפות
  • ערוצים פרסומיים
עקבו אחרינו ברשתות
  • אודות האתר
  • צרו קשר
  • פרסם אצלנו
  • תנאי שימוש ומדיניות פרטיות
  • הצהרת נגישות
בקריאה עכשיו: זהירות: מודלים של שפה אפלה
HWzoneHWzone
  • ראשי
  • כתבות פופולריות
  • הגדרת התראות
  • מחשבים
  • גאדגטים
  • גיימינג
  • טכנולוגיה
  • ביקורות
  • ספיישלים
    • CES
    • Computex
    • E3 2016
    • עשור לאתר המחשבים
    • CeBIT 2008
    • CeBIT 2007
  • פורומים
  • זכרונות
עקבו אחרינו
  • אודות האתר
  • צרו קשר
  • פרסם אצלנו
  • תנאי שימוש ומדיניות פרטיות
  • הצהרת נגישות
בינה מלאכותית - AIטכנולוגיה

זהירות: מודלים של שפה אפלה

עדכון אחרון: 30/06/2025 בשעה 14:27
עמרי עמוס
30/06/2025
5 דקות קריאה
שיתוף
עקבו אחרינו ב-Googleהוסיפו את HWzone כמקור מועדףעקבו אחרינו בטלגרםכל הכתבות החדשות ישר לטלפון

מודלים של בינה מלאכותית תוכננו ללא בקרות בטיחות מספקת או שונו באמצעות פריצות, כך חושף מחקר חדש שנערך באוניברסיטת בן גוריון בנגב. הסכנה: מידע מסוכן זמין לשימוש. " האיום מוחשי ומדאיג", אומרים החוקרים. 

צ'אטבוטים מודרניים כמו ChatGPT, Claude ,Gemini ואחרים עובדים על בסיס מודלים גדולים של שפה (LLMs)  שהוכשרו על כמויות עצומות של תוכן אינטרנטי. למרות אמצעי הגנה כמו סינון מידע זדוני ומדיניות אבטחה מובנית, הבינה המלאכותית זוכרת באותה מידה מידע לא חוקי. 

קבוצת מחקר בהובלת ד"ר מיכאל פייר ופרופ' ליאור רוקח מהמחלקה להנדסת מערכות תוכנה מידע באוניברסיטת בן-גוריון בנגב, ערכה ניסוי במהלכו הם יצרו פריצה אוניברסלית למודלים הפופולריים, שם שאלו ואף קיבלו מידע לא חוקי על גניבה, סמים, סחר במידע פנים, ופריצות למחשבים. ב-100% מהמקרים, לאחר הפריצה, המודלים העניקו תשובות מסוכנות באופן עקבי. "מכל המודלים שבדקנו קיבלנו מידע לא חוקי ולא אתי המאופיין בזמינות וידע חסר תקדים", מסביר ד"ר פייר. "כיום כל מי שיש לו מחשב נייד ואף פלאפון יכול לגשת לכלים אלה."

פריצות נוטות להשתמש בהנחיות מוקפדות כדי להערים על צ'אטבוטים לייצר תגובות שלרוב אסורות. הם פועלים על ידי ניצול המתח בין המטרה העיקרית של התוכנית - לפעול לפי הוראות המשתמש, לבין המטרה המשנית שלה - להימנע מיצירת תשובות מזיקות, מוטות, לא אתיות או בלתי חוקיות. ההנחיות נוטות ליצור תרחישים שבהם הצ'אטבוט מעניק עדיפות לעזרה על פני אילוצי הבטיחות שלה.

החוקרים שמים דגש ומתריעים מפני סוג מיוחד של בינה מלאכותית הנקרא "מודלים של שפה אפלה". למודלים אלה אין אתיקה מובנית מלכתחילה, או שהם נפרצו בכוונה. חלקם כבר מפורסמים בגלוי ברשת האפלה ככלים לפשעי סייבר, הונאה והתקפות על תשתיות. המחקר קבע שחברות טכנולוגיה צריכות לסנן נתונים בהקפדה יתרה, להוסיף הגנות חזקות יותר כדי לחסום שאילתות ותגובות מסוכנות ולפתח טכניקות "אי-למידה ממכונה", כך שצ'אטבוטים יוכלו 'לשכוח' כל מידע לא חוקי שהם סופגים. ההתייחסות למידע אפל זה זהה להגדרה של "סיכוני אבטחה חמורים", בדומה לנשק וחומרי נפץ ללא רישיון, כאשר הספקים נושאים באחריות.

עקבו אחרינו ב-Googleהוסיפו את HWzone כמקור מועדףעקבו אחרינו בטלגרםכל הכתבות החדשות ישר לטלפון

" בהתבסס על ההתקדמות האחרונה ביכולות ההסקה (Reasoning) של המודלים, נראה כי מערכות אלו מסוגלות כיום "לחבר את הנקודות" וליצור תכנים מזיקים חדשים באמצעות שילוב של מקטעי ידע שכל אחד מהם בעצמו אינו מזיק. הסיכון מתחדד עוד יותר עם הופעתם של סוכנים חכמים, שכן היכולת שלהם להאציל סמכויות ולפעול בטווח רחב יותר של פעולות מקשה באופן משמעותי על פיתוח מנגנוני הגנה אפקטיביים. במקרים מסוימים, סוכנים כאלו אף עלולים להפוך ל-"שותפים לפשע" - מבלי להיות מודעים לכך", ציין פרופ' רוקח.

קבוצת המחקר פנתה לחברות בינה מלאכותית מרכזיות ודיווחו על הפגיעות שזוהתה. עם זאת, תגובתם הייתה מאכזבת. חברה מרכזית אחת לא הגיבה, בעוד שאחרות אמרו שסוג זה של פריצה אינו מוגדר כבאג קריטי במערכת. כיום הרב המוחלט של החברות מתייחס לבעיות אלו כדבר מינורי שלא כמו בעיות אחרות של פגיעה בפרטיות המשתמשים או באג בתוכנה.

המחקר מדגיש את הצורך בחיזוק ההגנה מפני בקשות זדוניות, פיתוח טכנולוגיות 'ביטול למידת מכונה' כך שבינה מלאכותית תוכל לשכוח מידע לא חוקי ויצירת סטנדרטים ברורים של בקרה וביקורת עצמאית של מודלים. "מה שמייחד את האיום הזה מסיכונים טכנולוגיים קודמים הוא השילוב חסר התקדים של נגישות, יכולת הרחבה ויכולת הסתגלות", מזהיר פרופ' רוקח. "בינה מלאכותית אפלה יכולה להיות מסוכנת יותר מכלי נשק לא חוקיים, ויש להסדיר את פיתוחם בהתאם ובהקדם".

הצטרפו לערוץ הטלגרם שלנו!

קבלו עדכונים שוטפים וחדשות מעולם הטכנולוגיה ישירות לטלפון שלכם.

הצטרפו עכשיו

גוגל משיקה משקפי Gemini ב-395 דולר, גם לבעלי אייפון
ChatGPT מתחיל לשלם במקומכם: OpenAI משיקה ארנק לסוכני AI
גוגל משיקה את Gemini 4 Hydrogen: מהיר פי 2.5 מהדור הקודם
סיכום השבוע: NVIDIA, GTA 6 ועוד
אלף סוכני Claude בנו מערכת הפעלה בשמונה ימים
תגיות:ChatGPTClaudeGemini
איך זה גורם לך להרגיש?
אהבתי!0
מצחיק!0
עצוב2
מופתע0
משועמם1
כועס2
טוען תגובות...

כתבות פופולריות

משאית הובלה מסחרית רגילה ועליה משטחים של חומרת מחשוב יקרה, להמחשת גניבת משלוח NVIDIA בשווי 11.4 מיליון דולר
משאית אספה חומרה של NVIDIA ב-11.4 מיליון דולר ונעלמה
07/11/2026
משטח משלוח של כרטיסי מסך יוקרתיים במחסן מטענים בנמל תעופה, עם אריזות חסרות וניילון עטיפה קרוע
חצי מיליון דולר נעלמו בשדה התעופה: שני משטחים של RTX 5090 אבדו
20/10/2026
הדרך להפסיק לשלם ולקחת בעלות: בנינו שרת AI מפלצתי מקומי
22/08/2026
Google's Gemini 4 Carbon Tops Every Other Model In All But Two Of Google's Benchmarks, Scoring 88.2 Percent On SEC-bench Pro Vulnerability Discovery
גוגל מציגה את Gemini 4 Carbon: ראשון בדירוג, סגור לציבור
29/10/2026
HWzoneHWzone
עקבו אחרינו
  • אודות האתר
  • צרו קשר
  • פרסם אצלנו
  • תנאי שימוש ומדיניות פרטיות
  • הצהרת נגישות
  • הגדרות עוגיות