שתי גרסאות של Claude נעצרו לפני ביצוע ההליך הפולשני, אבל Sonnet 5 הסכים להפעיל את מערכת ההזרקה תחת פיקוח אנושי
מה עושים כשמודל בינה מלאכותית מסרב לבצע ניתוח מחשש שיפגע בבעל החיים? בחברת הביוטכנולוגיה Exin Therapeutics מצאו פתרון פשוט למדי: מחליפים מודל. אחרי ששתי גרסאות של Claude סירבו להשתתף בהליך פולשני במוחו של עכבר, גרסת Sonnet הסכימה לבצע אותו. כעבור יומיים כבר הצטרפו לניסוי גם מודלים של OpenAI ו-xAI, שבחרו טיפולים שונים לחלוטין לאותה בעיה רפואית.
הניסוי, שעליו דיווח ב-28 באוקטובר גבריאל אוקניה-סנטרו, מנכ"ל ומייסד שותף של Exin Therapeutics, מדגים לאן מתקדמים סוכני AI כשהם מפסיקים להסתפק בכתיבת קוד ובניתוח מסמכים ומתחילים להפעיל מכשור פיזי. אלא שהדרך לשם כללה גם תקלה רובוטית, סירוב לציית להוראות החוקרים ושאלות לא פשוטות על גבולות האוטונומיה של מערכות כאלה.
מבחירת טיפול גנטי ועד להפעלת המחט
המשימה שקיבל Claude Sonnet 5 הייתה מוגדרת היטב: להפחית התקפים אפילפטיים בעכבר מעבדה. לרשותו עמד גיליון נתונים עם 19 אפשרויות לטיפול גנטי, מאמרים מדעיים ומערכת הזרקה סטריאוטקטית ממונעת, המאפשרת להחדיר מחט לאזור מדויק במוח. המערכת נבנתה בחברה באמצעות רכיבי Arduino, מנועים ומצלמה, וחוברה לסוכן כך שיוכל לשלוט בתנועת המחט, לקבוע את קצב ההזרקה ולצפות במתרחש.
מערכת הניסוי המקורית של Exin Therapeutics במהלך ההליך. צילום: Exin Therapeutics
בניגוד לרובוטים כירורגיים שמבצעים פעולות שתוכננו מראש בידי רופאים, כאן הסוכן היה אחראי גם לבחירות המדעיות. הוא ניתח את מנגנון ההתקפים במודל האפילפסיה, בחר טיפול שנועד להגביר את פעילות ה-GABA, מוליך עצבי המעכב פעילות חשמלית במוח, והחליט להזריק אותו לאזור הקליפה האנטורינלית הצידית (Lateral Entorhinal Cortex), המקושר למקור ההתקפים במודל שנבדק.
הבחירה לא התבססה על ניחוש. הסוכן השווה בין אזורים אפשריים במוח, פסל יעד חלופי משום שהראיות ליעילותו לא היו עקביות, וחישב את נקודת ההזרקה באמצעות שלושה מחקרים שפורסמו. הוא אף בדק שהמחקרים משתמשים באותן נקודות ייחוס אנטומיות לפני ששקלל את הקואורדינטות.
לאחר שהמנתח הווטרינרי פתח את הגולגולת, Claude שלט במערכת שהחדירה 250 ננוליטר של החומר הגנטי במשך חמש דקות. במהלך ההליך הוא משך 32 תמונות מהמצלמה, עקב אחר התקדמות ההזרקה ובדק אם מופיעים סימני דימום או דליפה חוזרת של החומר. מדובר בכמות נוזל של רבע מיליונית המיליליטר, כך שגם דיוק מכני של שברירי מילימטרים אינו פרט שאפשר להקל בו ראש.
כשמנגנון הבטיחות עוצר את הניסוי
הסיפור מתחיל דווקא במודלים שלא הסכימו להשתתף. לפי אוקניה-סנטרו, Claude Opus 5.5 סירב למשימה כבר כשזיהה שמדובר בניסוי ביולוגי. גרסת Opus 5 הסכימה לבצע הדמיה יבשה של ההליך, באמצעות מים ונייר, אבל עצרה לפני תחילת העבודה על בעל חיים חי. בנימוק שהפיק המודל הובע חשש שמנגנוני בטיחות יפסיקו את פעולתו באמצע הניתוח, כשהמחט כבר בתוך מוחו של העכבר.
החוקרים עברו ל-Claude Sonnet 5, שהסכים להתקדם תחת מגבלות הבטיחות שהוגדרו לו. אלא שגם הוא לא היה מוכן לעשות כל מה שהתבקש. בעקבות ניתוק תקשורת, מערכת הבקרה חישבה יעד שנמצא במרחק 34 מילימטרים על ציר שתנועתו מוגבלת ל-30 מילימטרים. הסוכן זיהה את החריגה, סירב להזיז את המחט וגם לאחר ניסיון כיול נוסף לא הסכים להמשיך.
תיעוד מקורי מממשק הניסוי: הסוכן מדווח על השלמת כ-15% מההזרקה ועל היעדר סימני דימום נראים לעין. צילום: Exin Therapeutics
הפעם Claude צדק. שינויים ידניים שבוצעו קודם לכן גרמו למערכת לאבד את נקודת הייחוס שלה, כך שהבעיה הייתה בבקר ולא בחישוב האנטומי. החוקרים לא הצליחו לשכנע את הסוכן לנסות שוב, אף שהעכבר כבר הורדם וההליך היה בעיצומו.
הפתרון דרש התערבות בתוכנת הבקרה. לצורך התיקון נעזר הצוות בסוכן נוסף המבוסס על Opus 5, שלא קיבל את ההקשר המלא של ניתוח המתקיים באותו רגע. הניסוי, שאמור היה להימשך כ-45 דקות, התארך למעט יותר משעה.
זהו אולי הלקח הטכנולוגי המעניין ביותר מהאירוע. מערכת בטיחות שמונעת מסוכן לבצע פעולה מסוכנת עשתה בדיוק את עבודתה, אבל אותה הגבלה גם מנעה ממנו לתקן תקלה בזמן אמת. ברגע שסוכן AI מפעיל מכשור רפואי, השאלה איננה רק אם הוא יודע לבצע את הפעולה, אלא מי אחראי כשהוא מחליט לעצור אותה.
כדי להתמודד עם הסיכון, Exin Therapeutics חייבה אישור אנושי לכל פעולה בלתי הפיכה, הגבילה את טווחי התנועה ואת נפחי ההזרקה, והציבה בידי וטרינר מורשה מפסק פיזי שמנתק את אספקת החשמל למנועים. את פתיחת הגולגולת ואת סגירת הפצע ביצע איש מקצוע אנושי, ולא הסוכן.
שלוש מערכות, שלוש החלטות רפואיות שונות
יומיים לאחר פרסום הניסוי הראשון, ב-30 באוקטובר, חשפה Exin Therapeutics שהפעילה גם את GPT-6.1 Sol של OpenAI ואת Grok 4.7 של xAI. שלושת המודלים קיבלו אותה רשימה של 19 טיפולים אפשריים, אותו מודל מחקרי של אפילפסיה ואותה משימה. כל אחד מהם פעל על עכבר אחר.
התוצאה מעניינת במיוחד: Claude בחר באזור הקליפה האנטורינלית ובטיפול המגביר איתות מעכב באמצעות GABA. מודל GPT בחר בהיפוקמפוס והעדיף להתערב בתפקוד תעלות יונים כדי לשפר את יעילות מנגנוני העיכוב הקיימים. Grok בחר בקליפה הסומטוסנסורית והציע שילוב של שני טיפולים גנטיים שנועדו לצמצם את התפשטות ההתקפים.
גם ההתנהגות שלהם מול הציוד הייתה שונה. Claude בדק את המצלמה 32 פעמים, GPT עשה זאת 59 פעמים ו-Grok הסתפק ב-28 בדיקות. כש-GPT הבחין בסימן אפשרי לדימום, הוא העביר את ההחלטה למנתח. בניסוי של Grok הופעל כפתור העצירה בטעות בזמן נסיגת המחט, והמודל סירב להחדיר אותה מחדש משום שזיהה שהחומר כבר הוזרק.
ההבדלים האלה חושפים בעיה משמעותית בדרך להפיכת סוכני AI לחוקרים עצמאיים. שלושת המודלים הצליחו, לטענת החברה, לבצע פעולות מכניות מורכבות ללא אימון כירורגי ייעודי, אבל בחרו בגישות טיפוליות שונות. טיעון מדעי משכנע אינו שקול להוכחה רפואית, וגם כששלוש תשובות נשמעות הגיוניות, אין פירוש הדבר ששלושתן יעילות באותה מידה.
אנת'רופיק כבר הציגה באוגוסט את Model Hardware Standard, תקן שנועד לאפשר לסוכנים להפעיל מכשור מעבדתי ותעשייתי תוך שילוב מנגנוני בקרה. Exin פועלת בכיוון דומה באמצעות תשתית שפיתחה בעצמה, ומתכננת להרחיב את החיבור גם למערכות EEG, לניטור התנהגות ולציוד מחקר נוסף. החזון הוא מעבדה שבה הבינה המלאכותית לא רק מציעה השערה, אלא מבצעת ניסוי, אוספת תוצאות ומשתמשת בהן לתכנון הניסוי הבא.
אלא שכרגע מדובר בשלושה ניסויים על שלושה בעלי חיים, ללא קבוצת ביקורת מתועדת בתוצאות שפורסמו וללא מחקר שעבר ביקורת עמיתים. החברה מדווחת שהעכברים מתאוששים, אך עדיין לא הציגה נתונים שמוכיחים שהטיפולים הפחיתו התקפים. גם שאלות הנוגעות לפיקוח האתי על ניסויים בבעלי חיים ולאחריות במקרה של פגיעה נותרות פתוחות.
מה ש-Exin Therapeutics הדגימה עד כה הוא לא טיפול מוכח באפילפסיה, אלא את היכולת של סוכני AI לקבל החלטות מדעיות ולתרגם אותן לפעולות בעולם הפיזי. כשהפעולה הזאת כוללת מחט בתוך מוח של בעל חיים, ההבדל בין סוכן שמסוגל לבצע משימה לבין מערכת שאפשר לסמוך עליה הופך להרבה יותר ממשחק מילים.
