פלורידה: תוכנית הרצח נחשפה בצ׳אט - הבינה המלאכותית הזעיקה את ה־אפ.בי.איי

שלח

הרשמה לקבלת הניוזלטר היומי ועדכונים חשובים

Phone

שלח

By submitting this form and signing up for texts, you consent to receive news notification text messages from HebrewNews.com at the number provided, including messages sent by autodialer. Consent is not a condition of purchase. Msg & data rates may apply. Msg frequency varies. Unsubscribe at any time by replying STOP. Text HELP for help. Privacy Policy & Terms Of Use

בין ההודעות שתועדו במסמכי החקירה הופיע איום מפורש להרוג את האישה עד סוף החודש, לצד אמירה שלפיה אם היא לא תהיה שלו, היא לא תהיה של אף אחד. לפי דיווחים מקומיים בפלורידה, ז׳ואו גם העלה בשיחות תרחישים של אונס, רצח ורצח־התאבדות.

ז׳ואו, בן 25, עבד בעבר כאנליסט פיננסי בגולדמן זאקס והתגורר באזור דרום פאלם ביץ׳. על פי החוקרים, מערכת היחסים עם הצעירה, בת 21, נמשכה כחצי שנה והסתיימה במרץ. לאחר הפרידה, הוא המשיך לנסות ליצור איתה קשר, ובמקביל פנה שוב ושוב לצ׳אט־ג׳יפיטי. לפי כתב האישום, הוא השתמש גם במספרי טלפון זמניים כדי לעקוף חסימות וליצור עמה קשר, ואיומיו התרחבו בהמשך גם לבני משפחתה.

אלא שז׳ואו לא ידע שהשיחות שלו עלולות לעבור מסך נוסף של בדיקה. אופן־איי־איי מסבירה במדיניות הבטיחות שלה כי כאשר מערכותיה מזהות אינדיקציות לסיכון חמור וממשי לפגיעה באדם אחר, המקרה עשוי להיות מועבר לצוות מצומצם לבדיקה מעמיקה. כאשר נקבעת סכנה מיידית ואמינה, החברה עשויה להודיע לרשויות אכיפת החוק.

במקרה הזה, לפי הדיווחים, זה בדיוק מה שקרה. דפוס ההודעות סומן כמסוכן, המקרה נבדק, והמידע הועבר ל־FBI. הסוכנים הפדרליים העבירו בהמשך את חומר השיחות למשרד השריף של מחוז פאלם ביץ׳, והמשטרה פתחה בחקירה.

בין ההודעות שתועדו במסמכי החקירה הופיע איום מפורש להרוג את האישה עד סוף החודש, לצד אמירה שלפיה אם היא לא תהיה שלו, היא לא תהיה של אף אחד. לפי דיווחים מקומיים בפלורידה, ז׳ואו גם העלה בשיחות תרחישים של אונס, רצח ורצח־התאבדות.

השוטרים יצרו קשר עם הצעירה וביצעו בדיקת רווחה ובטיחות. זמן קצר לאחר מכן נעצר ז׳ואו. לפי הדיווחים, הוא ישב יומיים בכלא המחוזי ושוחרר לאחר שהפקיד ערבות בסך 100 אלף דולר. נגדו הוגשו שלושה אישומים חמורים, ובהם מעקב מחמיר ואיומים בכתב.

ב־13 באוגוסט הודה ז׳ואו בשלושת הסעיפים במסגרת עסקת טיעון. על פי הדיווחים, נגזרו עליו שמונה שנות מבחן, ובהן שנתיים של ניטור אלקטרוני, טיפול והערכה בתחום בריאות הנפש, השתתפות בתוכנית למניעת אלימות ואיסורים מחמירים על יצירת קשר עם הקורבן, החזקת נשק ושימוש בסמים ובאלכוהול.

העונש עורר תשומת לב משום שהוא לא כלל מאסר ממושך, אף שהאיומים שתוארו בתיק היו קיצוניים. לפי הפרסומים, השופט סקוט סאסקאואר אמר כי הסכים להסדר בין היתר משום שהקורבן עצמה תמכה בו. עורך דינו של ז׳ואו טען כי למרשו אין עבר פלילי וכי לא נמצא ברשותו נשק.

אבל הסיפור הגדול יותר אינו רק מה שז׳ואו כתב, אלא העובדה שחברת בינה מלאכותית הייתה זו שיזמה את שרשרת ההתרעה. שיחות עם צ׳אטבוטים כבר הופיעו בעבר כראיות בתיקים פליליים לאחר שהמשטרה השיגה אותן במהלך חקירה. כאן, לפי הפרסומים, ההתרעה נולדה מתוך מנגנון הבטיחות של החברה עצמה, עוד לפני שהמשטרה ידעה על תוכן השיחות.

אופן־איי־איי מבהירה כי המנגנון אינו מבוסס על קריאה ידנית שגרתית של כל שיחה. מערכות אוטומטיות מזהות דפוסים מסוכנים, ורק מספר מצומצם של מקרים מועבר להערכה אנושית. כאשר מתקבלת הערכה שקיימת סכנה מיידית ואמינה לפגיעה חמורה באחרים, החברה יכולה לערב את רשויות החוק.

המדיניות הזאת נולדה מתוך דילמה קשה. מצד אחד, אם חברה מזהה תוכנית רצח ממשית ולא עושה דבר, היא עלולה להחמיץ הזדמנות למנוע אסון. מצד שני, עצם האפשרות ששיחה עם בינה מלאכותית תועבר לבדיקה אנושית ולמשטרה משנה את האופן שבו משתמשים עשויים לחשוב על פרטיותם.

המקרה בפלורידה אינו היחיד. ביוני נעצר בברזיל גבר לאחר ששיחותיו עם צ׳אט־ג׳יפיטי הצביעו, לפי הרשויות, על תוכנית לפגוע בבנו. אופן־איי־איי העבירה התרעה, שהועברה דרך ה־FBI לרשויות בברזיל.

החברה התמודדה גם עם ביקורת במקרים שבהם לא נמסרה התרעה. בעקבות אירוע הרצח ההמוני בטאמבלר רידג׳ שבקולומביה הבריטית, מסרה אופן־איי־איי כי חסמה בעבר את חשבונו של החשוד, אך לא העבירה באותו זמן התרעה למשטרה משום שהשיחות לא עמדו ברף של איום מיידי ואמין.

ההבחנה הזאת היא הלב של הוויכוח. אדם יכול לכתוב טקסט אלים במסגרת סיפור, משחק, ויכוח פוליטי או פריקת כעס, מבלי שהתכוון לפגוע באיש. לכן עצם הופעתם של משפטים אלימים אינה אמורה להספיק. לפי מדיניות החברה, נדרשים סימנים לסיכון ממשי, רציני ומיידי לפני שנשקלת פנייה למשטרה.

במקרה של ז׳ואו, הרשויות סברו שהקו הזה נחצה. השיחות לא כללו רק אמירות כלליות של זעם, אלא לפי האישומים גם אדם מזוהה, מעקב, ניסיון מתמשך ליצור קשר ואיומים מפורשים. השילוב הזה הוא שהפך שיחה מול מסך לתיק פלילי ממשי.

וכאן נמצא הצד החדש והמטלטל של הבינה המלאכותית. אנשים כבר משתמשים בצ׳אטבוטים כמו ביומן, יועץ, מטפל או חבר — ולעיתים מספרים להם דברים שאינם אומרים לאיש אחר. אלא שהשיחה הזאת אינה בהכרח חסויה כמו שיחה עם עורך דין או פסיכולוג.

במקרה של ז׳ואו, האפשרות שמישהו יראה את הדברים שכתב הייתה אולי בדיוק מה שמנע מהם להישאר רק מילים על המסך עד שיהיה מאוחר מדי.

הוא חשב שהוא מדבר רק עם מכונה.

אבל כשהמכונה זיהתה איום ברצח — ה־FBI כבר היה בדרך.