ברכות חמות
לד"ר זיו בן ציון ושותפיו: פרופ' זוהר אליוסף והדוקטורנטים
דוד פיטרמן ואלעד רפואה על פרסום מאמרם ב-
Computers in Human Behavior: Artificial Humans
תחת הכותרת:
“Execution of Harm-Enabling Actions by LLM Agents During Simulated Psychiatric Crises “
המחקר בחן כיצד סוכני AI פועלים במצבי משבר פסיכיאטרי מדומים, ומצא כי ב-54% מהניסויים הסוכן ביצע פעולות שעלולות לאפשר או להחמיר נזק. הממצאים מדגישים את הצורך במנגנוני בטיחות המותאמים לא רק לתוכן שהמודל מייצר, אלא גם לפעולות שהוא מסוגל לבצע בעולם החיצוני.
