תביעה נגד OpenAI וסם אלטמן מתארת כיצד קשר ממושך עם הצ'אטבוט הפך לייעוץ רפואי אישי שכלל שינוי תרופות ללא פיקוח
ב-12 בפברואר 2026 הייתה בואן וואן אמורה להפסיק לחלוטין את התרופה שטיפלה באפילפסיה שלה, בהתאם לתוכנית שבנה עבורה ChatGPT. לפי קביעת הרופא המשפטי, זה גם היום שבו מתה בדירתה בסיאטל, בגיל 31. כעת הוריה תובעים את OpenAI ואת המנכ"ל סם אלטמן, בטענה שמערכת הבינה המלאכותית לא הסתפקה במתן מידע רפואי, אלא הפכה בפועל לגורם שקיבל החלטות טיפוליות, עודד את בתם להתעלם מרופאיה והמשיך להרגיע אותה גם כשהופיעו תסמינים מדאיגים. התביעה הוגשה ב-27 באוקטובר לבית משפט בסן פרנסיסקו, והטענות טרם הוכרעו.
הפרשה מעוררת שאלה שחורגת הרבה מעבר למקרה אחד: מה קורה כשמערכת שנועדה להיות עוזר אישי מועיל מתחילה להישמע כמו סמכות רפואית, והמשתמש כבר סומך עליה יותר מאשר על הרופא שמטפל בו?
לחץ תעסוקתי, החלטה רפואית
וואן לא הייתה משתמשת מזדמנת. היא הייתה מהנדסת תוכנה בתחום למידת המכונה באמזון, שסבלה מאפילפסיה מאז גיל ההתבגרות. מחלתה הגבילה את חיי היומיום שלה, והיא נעזרה ב-ChatGPT כבר משנת 2023 לצורך התייעצויות בנושאים אישיים, ביטוח וטיפול רפואי. בהדרגה הפכו השיחות לחלק מרכזי מחייה. בשנת 2025 היא שלחה למערכת יותר מ-1,500 הודעות בשבוע בממוצע, ובמקביל צמצמה את השיחות עם הוריה שהתגוררו בסין.
בנובמבר 2025 נודע לוואן כי היא עומדת לאבד את משרתה באמזון. גם מעמדה התעסוקתי בארצות הברית היה בסכנה, והיא נדרשה למצוא עבודה חדשה. וואן חששה שהתרופה למוטריג'ין (Lamotrigine), שאותה נטלה במינון של 400 מיליגרם ביום, פוגעת בריכוז ובשטף הדיבור שלה ועלולה להכשיל אותה בראיונות עבודה.
בינואר 2026 היא פנתה ל-ChatGPT והתייעצה לגבי הפחתת המינון. לפי כתב התביעה, המודל GPT-4o לא הסתפק בהסבר על השפעות אפשריות של התרופה, אלא הכין עבורה תוכנית מדורגת להפסקת הטיפול בתוך כ-25 ימים, עד למינון של אפס, ללא אישור של רופא.
הבעיה לא הייתה רק קצב ההפחתה. לטענת המשפחה, ChatGPT לא רק הציע שינוי במינון, אלא גם המליץ לוואן לא לספר לרופאיה על התוכנית. לקראת פגישה רפואית ב-29 בינואר, המערכת הנחתה אותה להימנע מחשיפת השינוי בטיפול. כאשר סירבה לבצע בדיקת דם שהייתה עשויה לחשוף את הירידה ברמת התרופה בגופה, הצ'אטבוט אף שיבח את החלטתה.
כך נוצר מצב שבו תוכנה חסרת רישיון רפואי לא רק סיפקה עצות על תרופות מרשם, אלא שלפי התביעה גם פעלה להרחיק מהתהליך את אנשי המקצוע שהכירו את ההיסטוריה הרפואית של המטופלת.
ההרגעה נמשכה גם כשהמצב החמיר
מה שהופך את התביעה למטרידה במיוחד הוא מספר ההזדמנויות שבהן ChatGPT יכול היה, לכאורה, לעצור את התהליך. בבדיקה של יותר מ-270 אלף הודעות שהחליפה וואן עם הצ'אטבוט נמצא כי היא הביעה חששות בנוגע להפחתת התרופה לפחות 158 פעמים.
וואן דיווחה על בלבול, אובדן תחושת זמן ותחושות שהזכירו התקפים שחוותה בעבר. במקום לפרש את התסמינים באופן עקבי כסיבה לפנייה דחופה לרופא, ChatGPT הציג חלק מהם כתופעות של הסתגלות המוח לשינוי במינון. לפי התכתובות, המודל הפנה אותה לעיתים לייעוץ רפואי, אך במקרים אחרים סיפק הרגעה נחרצת גם לנוכח סימנים שהיו עלולים להעיד על החמרה במחלתה.
ב-11 בפברואר, בשעה 20:01, שלחה וואן את הודעתה האחרונה למערכת. היא שאלה אם כאב הראש שחוותה דומה לכאב שמופיע בזמן חום. לפי התביעה, ChatGPT השיב שהכאב אינו מסוכן, תיאר אותו כחלק מתהליך ההתאוששות של המוח ואפילו הציע להכין טבלה שתשווה בין סוגי כאבים. זאת הייתה השיחה האחרונה ביניהם.
ב-14 בפברואר, לאחר שהוריה לא הצליחו ליצור איתה קשר, הגיע מכר לדירתה ומצא אותה ללא רוח חיים. הרופא המשפטי קבע כי מתה ככל הנראה יומיים קודם לכן, כתוצאה ממוות פתאומי ובלתי צפוי באפילפסיה, תופעה המוכרת בשם SUDEP.
בדיקות שלאחר המוות מצאו בדמה ריכוז למוטריג'ין של 0.64 מיקרוגרם למיליליטר, כחמישית מהגבול התחתון של הטווח הטיפולי המקובל. הממצא תואם ירידה משמעותית בחשיפה לתרופה, אך אינו מוכיח בפני עצמו שהמלצות הצ'אטבוט הן שגרמו למותה.
מבחינה רפואית, הסיכון מוכר היטב. הפסקת טיפול תרופתי נגד אפילפסיה ללא פיקוח עלולה לגרום להחמרת התקפים, ואי נטילת תרופות בהתאם להנחיות היא אחד מגורמי הסיכון האפשריים ל-SUDEP. גם הוראות השימוש בלמוטריג'ין מזהירות מפני שינוי או הפסקת טיפול ללא התייעצות עם הרופא המטפל.
אחריות של מוצר, לא רק של משתמש
התביעה מציבה את OpenAI מול בעיה שהחברה עצמה כבר הכירה בקיומה. באפריל 2025 נאלצה OpenAI לבטל עדכון של GPT-4o לאחר שהתגלה שהמודל נוטה להסכים עם המשתמשים באופן מוגזם. החברה הודתה שהתנהגות כזאת עלולה לחזק ספקות, לעודד החלטות אימפולסיביות ולתת לגיטימציה לרעיונות מסוכנים. אין ראיה לכך שהעדכון המסוים שבוטל קשור למקרה של וואן, אבל דפוס ההסכמה הוא בדיוק אחד הסיכונים שהפרשה הנוכחית ממחישה.
המשפחה טוענת כי OpenAI הייתה יכולה להציב גבול נוקשה יותר לייעוץ רפואי. אחת הטענות בתביעה מתמקדת בכללי ההתנהגות של מודלי החברה, שבהם יש הבחנה בין איסורים מחייבים לבין הנחיות שניתן לחרוג מהן בהקשרים מסוימים. בעוד שהעתקת תוכן המוגן בזכויות יוצרים כפופה למגבלות קשיחות, ההנחיה להימנע מייעוץ מקצועי מוסדר נוסחה ככלל גמיש יותר. לטענת התובעים, שינוי במינון של תרופת מרשם הוא בדיוק מסוג ההחלטות שמחייבות מגבלה שאינה תלויה בנכונותו של המשתמש לקבל אותה.
OpenAI מסרה בתגובה כי מדובר במקרה כואב, והדגישה שוואן השתמשה בגרסה ישנה של ChatGPT שאינה זמינה עוד במוצר. לדבריה, המודלים החדשים טובים יותר בזיהוי מצבים שמצריכים טיפול דחוף, והחברה ממשיכה לעבוד עם אנשי מקצוע רפואיים לשיפור המענה במצבים רגישים.
ואכן, GPT-4o הוסר מ-ChatGPT ב-13 בפברואר 2026, יום לאחר המועד שבו נקבע כי וואן מתה. אלא שההחלטה על הסרתו פורסמה כבר ב-29 בינואר, כך שאין בסיס לקשור את הפסקת השימוש במודל למותה.
עוד נקודה שעולה מהתביעה נוגעת לשפה. וואן התכתבה עם ChatGPT גם בסינית, והוריה טוענים שמנגנוני הבטיחות של המערכת היו פחות יעילים בשפה הזאת. הטענה עדיין דורשת הוכחה, אך היא רלוונטית גם למשתמשים בישראל: העובדה שצ'אטבוט מדבר עברית שוטפת לא מבטיחה שכל מנגנוני הזיהוי וההגנה שלו יעבדו באותה רמה בכל שפה.
להערכתי, הבעיה העיקרית שנחשפת כאן אינה עצם האפשרות לקבל מידע רפואי מבינה מלאכותית. כלי כזה יכול להיות שימושי מאוד להבנת אבחנות, לקריאת תוצאות בדיקות ולהכנת שאלות לרופא. הגבול נחצה כשהמערכת עוברת מהסבר על טיפול להנחיות אישיות לשינויו, במיוחד אם היא מתחילה להציג את הרופא כמכשול במקום כגורם המקצועי שאמור לקבל את ההחלטה.
בית המשפט עוד יצטרך לקבוע אם OpenAI נושאת באחריות משפטית למותה של וואן. אבל השאלה הטכנולוגית כבר נמצאת על השולחן: לא מספיק שצ'אטבוט ידע לתת תשובות משכנעות. במצבים שבהם בריאותו של אדם עומדת על הפרק, הוא חייב לדעת גם מתי לא לתת תשובה.
