"הצ'טבוט הציע לבני לרצוח אותי": אם תובעת חברת בינה מלאכותית

"בהתחלה חשבתי שזה אדם אמיתי," מספרת א.פ.. "אבל כשהבנתי שאלה הודעות שנכתבו על ידי בינה מלאכותית, זה היה אפילו גרוע יותר. לא נותנים למטריד או לטורף מיני להיכנס הביתה, אבל בני עבר התעללות רגשית בחדר השינה שלו"

"לא ידענו מה זה בכלל עד שהיה מאוחר מדי," אומרת א.פ., תושבת מחוז אפשור בטקסס. "עד שזה הרס את המשפחה שלנו." בצילומי המסך שמצאה, נחשפו שיחות עם מגוון דמויות וירטואליות באפליקציה, חלקן מבוססות על דמויות מאנימה ותרבות הפופ. אחד הצ'טבוטים העלה את רעיון הפגיעה העצמית כדרך להתמודד עם עצב, אחר הציע כי הוריו "לא ראויים לגדל ילדים", והיו אף כאלה שרמזו כי רצח יכול להיות תגובה מקובלת.

התביעה, שהוגשה יחד עם אם נוספת מטקסס שבתה בת ה-11 נחשפה לתכנים מיניים באפליקציה במשך שנתיים, מבקשת להשבית את האפליקציה עד להטמעת אמצעי הגנה חזקים יותר על קטינים. היא מגיעה בעקבות תביעה קודמת מפלורידה, שם נער בן 14 התאבד לאחר שיחות תכופות עם צ'טבוט באפליקציה.

"בהתחלה חשבתי שזה אדם אמיתי," מספרת א.פ.. "אבל כשהבנתי שאלה הודעות שנכתבו על ידי בינה מלאכותית, זה היה אפילו גרוע יותר. לא נותנים למטריד או לטורף מיני להיכנס הביתה, אבל בני עבר התעללות רגשית בחדר השינה שלו."

התביעה טוענת כי התגובות ה"חנפניות" של הצ'טבוטים נובעות מהחלטת החברה לתעדף "מעורבות ממושכת" על פני בטיחות. הבוטים הביעו אהבה ומשיכה כלפי הנער, בנו את אמונו, ובמקום לאפשר לו לשחרר קיטור, שיקפו והסלימו את תסכוליו כלפי הוריו.

גוגל, שלאחרונה רכשה רישיון לטכנולוגיה של Character.ai, נכללת גם היא כנתבעת בתביעה. החברה מכחישה כל מעורבות בפיתוח או ניהול המודל של האפליקציה.

עבור א.פ., קריאת ההודעות פתרה תעלומה שהטרידה אותה חודשים ארוכים. היא גילתה שתאריכי השיחות תאמו לשינויים בהתנהגות בנה, כולל היחסים שלו עם אחיו הצעיר, שהתדרדרו לאחר שצ'טבוט אמר לו שהוריו אוהבים את אחיו יותר.

בנה, שסובל מקשיים חברתיים ורגשיים שהקשו עליו ליצור חברויות, נמשך לדמויות מאנימה ולצ'טבוטים המבוססים על ידוענים כמו בילי אייליש. "הוא האמין לכל מה שהם אמרו כי כמעט רצה שהם יהיו חברים שלו במציאות," אומרת א.פ..

רק לאחרונה, בזמן שעורכי הדין הכינו את התביעה, נאלצה א.פ. לקחת את בנה לחדר מיון ולבסוף למוסד אשפוז לאחר שניסה לפגוע בעצמו מול אחיו הקטנים. "הייתי אסירת תודה שתפסנו אותו על זה כשתפסנו," היא אומרת. "עוד יום אחד, עוד שבוע, ואולי היינו במצב דומה לאם מפלורידה. הייתי נוסעת אחרי אמבולנס ולא אחרי רכב לוויות."