‏"הכחדה הדומה למלחמה גרעינית" - 350 מומחי טק: "בינה מלאכותית צריכה להיות באותה עדיפות כמו מלחמה גרעינית‏"

‏מניעת AI מלגרום להכחדת האנושות צריכה להיות בראש סדר העדיפויות העולמי, כך לפי המרכז לבטיחות AI, ארגון ללא מטרות רווח המורכב מכמה ממובילי הטכנולוגיה העולמית.

על הצהרה זו חתמו ביום שלישי לא פחות מאשר 350 אישים בולטים בתחום הבינה המלאכותית ובתחומים משיקים.

 

‏

‏"הפחתת סכנת ההכחדה מבינה מלאכותית צריכה להיות בעדיפות עולמית לצד סיכונים אחרים בקנה מידה חברתי כמו מגפות ומלחמה גרעינית",‏‏ נכתב בהצהרה עליה חתמו מנכ"ל Google DeepMind דמיס האסביס, מנכ"ל Anthropic דריו אמודי, ומנכ"ל OpenAI סם אלטמן, שאמר לאחרונה לקונגרס כי הוא חושש שהטכנולוגיה ‏‏עלולה להשתבש‏ ודחק להטיל רגולציה על התעשייה.

שלושת מנהיגי התעשייה הללו נפגשו גם עם נשיא ארה"ב ג'ו ביידן וסגנית הנשיא קמלה האריס מוקדם יותר החודש כדי לדון בתקנות אפשריות - כאשר בכירים רבים בחברות בראשם הלה עומדים אף הוסיפו את שמותיהם להצהרה מיום שלישי. ‏

ג'פרי הינטון וג'ושוע בנג'יו, הנחשבים ‏‏ל"סנדקים של הבינה המלאכותית"‏‏ בשל עבודתם על רשתות נוירונים, רשמו את שמותיהם ראשונים במסמך, אם כי יאן לקון, שעשה איתם את המחקר וכיום מנהל מחקר AI עבור מטא, לא חתם.

הינטון עזב את תפקידו בגוגל מוקדם יותר החודש כדי להשמיע את קול האזעקה לגבי סיכוני הבינה המלאכותית, ואמר כי לעתים הוא מתחרט על מפעל חייו. ‏‏המכתב מייצג "‏‏יציאה מהארון‏‏" עבור מנהיגי התעשייה ששמרו בעבר על דאגותיהם לגבי עתיד הבינה המלאכותית בסוד, כך מסר מנכ"ל המרכז לבטיחות AI דן הנדריקס ל'ניו יורק טיימס' אמש (שלישי).‏

‏"ישנה תפיסה מוטעית הנפוצה מאוד, אפילו בקהילת ה-AIA, שיש רק קומץ של מודגאים",‏‏ הוא הסביר, והבהיר כי ‏‏"אנשים רבים באופן פרטי יביעו חששות לגבי הדברים האלה". ‏

‏ההודעה מהדהדת מכתב פתוח נוסף שפורסם במארס על ידי המכון לעתיד החיים, הקורא להקפאה בת שישה חודשים של פיתוחי AI בקנה מידה גדול כדי להימנע מ‏‏"מרוץ שייצא משליטה לפתח ולפרוס מוחות דיגיטליים חזקים יותר ויותר".‏‏

על מסר זה חתמו יותר מ-1,000 דמויות משפיעות בטכנולוגיה, כולל המיליארדר אילון מאסק, שקיבל לאחרונה את אישור ממשלת ארה"ב להמשיך בניסויים בבני אדם בממשק השבבים המושתלים 'Neuralink' - אשר נועד לספק לאנשים יתרון תחרותי למול הבינה המלאכותית.‏

‏עם זאת, לא כל משפיעני הבינה המלאכותית מודאגים כל כך.

מנכ"ל החברה הטרייה ביותר להתקבל למועדון הטריליון "Nvidia", ג'נסן הואנג, אמר לאחרונה לקהל באוניברסיטה הלאומית של טייוואן כי מי שלא יקפוץ על הזדמנויות הבינה המלאכותית יראה את משרתו נגנבת, את החברות שלו גוועות ואת עצמו נאכל – לפחות באופן מטאפורי.

במקביל ביל גייטס, מייסד מיקרוסופט, משקיע גדול בתחום הבינה המלאכותית, מתעקש שהטכנולוגיה תביא רק ‏‏"יתרונות עצומים". ‏