הניסוי הכושל של אמזון: מודל לגיוס עובדים שהתבסס על אינטליגנציה מלאכותית התברר כשונא נשים

אמזון נמצאת בבעיה: מסתבר שמנוע גיוס העובדים החדש שלהם לא אוהב נשים. כך גילו צוותי ה-AI (אינטליגנציה מלאכותית) של החברה, שיצרו לפני ארבע שנים תוכנת מחשב שסוקרת את קורות החיים של מועמדים לעבודה במטרה לייעל את החיפוש אחר עובדים טובים. כך סיפרו לסוכנות הידיעות רויטרס חמישה יודעי דבר.

התוכנה דירגה נמוך קורות חיים עם המילה "נשים". אמזון 

תהליכים אוטומטיים הם הלחם והחמאה של אמזון. מחסני החברה מופעלים באמצעות רובוטים, והתמחור של מוצרים רבים נעשה על ידי תוכנות מחשב גם כן. תהליכי האוטומציה חדרו גם לתחום משאבי האנוש של החברה, והתוכנה שפיתחו אנשי החברה מעניקה ציונים מכוכב אחד ועד חמישה כוכבים למועמדים שונים, ממש כמו שלקוחות החברה מדרגים מוצרים באתר.

"כולם רצו את הגביע הקדוש הזה", אמר אחד המקורות לסוכנות הידיעות, "הם בפירוש רצו מנוע שיאפשר להכניס לו מאה קורות חיים, והוא יבחר את החמישה הטובים ביותר - והם יקבלו את התפקיד".

עם זאת, כבר בשנת 2015 החברה הבינה שהמחשבים שלה בוחרים עובדים לתפקידי פיתוח תוכנה ולתפקידים טכניים אחרים בצורה מוטה מגדרית.

הסיבה לכך היא שהמודלים שיצרה החברה לסינון העובדים אומנו לבחון קורות חיים באמצעות סקירת קורות חיים שהוגשו לחברה במשך עשור, ורוב המסמכים האלה הוגשו על ידי גברים.

למעשה, התוכנה של אמזון לימדה את עצמה שגברים הם מועמדים עדיפים. מסמכי קורות חיים שהכילו את המילה "נשים", כגון בתואר "נשיאת מועדון השחמט לנשים" - קיבלו ציון נמוך יותר. בנוסף, מועמדות שכתבו בקורות החיים שלהן שהן למדו בקולג'ים לנשים בלבד קיבלו גם הן ציון נמוך יותר.

לאחר שהבינו את הטעות, באמזון ניסו לתקן אותה כדי להפוך את גיוס העובדים להליך נייטרלי מבחינה מגדרית. עם זאת, המקורות ששוחחו עם רויטרס ציינו כי אין הדבר מבטיח שהמכונה תמשיך ללמוד מה הדרך היעילה ביותר לסנן מועמדים בצורה נייטרלית.

כנראה בשל כך, החליטו באמזון בסוף השנה שעברה להפסיק את השימוש הבלעדי במודלים הממוחשבים האלה לסינון עובדים. החברה המשיכה לבחון את הניקוד שהעניקו המחשבים למועמדים השונים, אך נבחנו גם קריטריונים אחרים.

התוכנה דירגה מועמדים לעבודה בכוכבים, כמו שהלקוחות מדרגים מוצרים

החברה לא התייחסה להליך גיוס העובדים או למחשבי משאבי האנוש, אך ציינה כי היא מחויבת ליצירת סביבת עבודה מגוונת ושיוויונית.

הניסוי של אמזון מעניק הצצה ייחודית למוגבלויות של למידת מכונה. הדבר מהווה גם לקח חשוב לעוד ועוד חברות ברחבי העולם שמעוניינות להפוך את הליך גיוס העובדים לאוטומטי יותר.

כ-55% ממנהלי משאבי האנוש בארצות הברית אמרו כי בינה מלאכותית תהפוך לחלק שגרתי בסביבת העובדה שלהם כבר בחמש השנים הקרובות. כך עלה בסקר שנערך בשנה שעברה.

מעסיקים חלמו כבר זמן רב על גיוס הטכנולוגיה כדי להרחיב את רשת הגיוסים שלהם ולצמצם את ההסתמכות על דעה סובייקטיבית של מגייסים אנושיים. עם זאת, מומחי מחשבים טוענים כי יש עוד דרך ארוכה לעשות.

"הדרך לוודא שהאלגוריתם הוגן, והדרך לוודא שניתן להסביר את האלגוריתם ולפרש אותו עדיין ארוכה", אמר ניהאר שאה, מורה ללמידת מכונה באוניברסיטת קרנגי-מלון.