‏מייסד שותף של OpenAI מזהיר כי יש לשלוט בבינה מלאכותית "סופר-אינטליגנטית" כדי למנוע הכחדה אנושית אפשרית‏

‏מייסד שותף בחברת OpenAI‏‏ מזהיר כי יש לשלוט בתבונת-העל שהינה תוצר של הבינה המלאכותית כדי למנוע את הכחדת המין האנושי. ‏

‏"תבונת-על תהיה הטכנולוגיה המשפיעה ביותר שהאנושות המציאה אי פעם, ותוכל לעזור לנו לפתור רבות מהבעיות החשובות ביותר בעולם".

"אבל כוחה העצום עלול גם להיות מסוכן מאוד, ולהוביל להחלשת האנושות או אפילו להכחדתה", כתב איליה סוצקבר בפוסט בבלוג ביום שלישי, בו טען כי הוא מאמיו שהתקדמות שכזו יכולה להגיע כבר בעשור הנוכחי. ‏‏לדבריו, ניהול סיכונים שכזה ידרוש הקמת מוסדות חדשים שימצאו פתרון למציאות של תבונת-על ויבטיחו שמערכות בינה מלאכותית חכמות בהרבה מבני אדם "יעקבו אחר הכוונה האנושית". ‏

‏"נכון לעכשיו, אין לנו פתרון להיגוי או לשליטה בבינה מלאכותית סופר-אינטליגנטית פוטנציאלית, שימנע השתוללות, הטכניקות הנוכחיות שלנו ליישור בינה מלאכותית, כגון חיזוק לימודי ממשוב אנושי, מסתמכות על יכולתם של בני אדם לפקח על בינה מלאכותית".

"אבל בני אדם לא יוכלו לפקח באופן אמין על מערכות בינה מלאכותית הרבה יותר חכמות מאיתנו, אנו זקוקים לפריצות דרך מדעיות וטכניות חדשות", כתב‏.

‏כדי לפתור את הבעיות הללו, בתוך תקופה של ארבע שנים, סוצקבר מוביל צוות חדש ומקדיש 20% מכוח המחשוב שהובטח עד כה למאמץ. ‏

‏"למרות שזהו יעד שאפתני להפליא ולא מובטח לנו שנצליח, אנו אופטימיים שמאמץ ממוקד ומרוכז יוכל לפתור את הבעיה הזו". ‏