אינסטגרם מגבילה תוכן לבני נוער: דירוג חדש לפי תקן PG-13 – כולל שיחות עם בוטים של בינה מלאכותית

מטא, החברה־האם של אינסטגרם, הכריזה על מדיניות חדשה שמטרתה לצמצם את חשיפת בני הנוער לתכנים למבוגרים. המדיניות החדשה, שתיכנס לתוקף עד סוף השנה, תתבסס על שיטת הדירוג הקולנועית PG-13 ותוחל גם על שיחות עם צ’אטבוטים של בינה מלאכותית – לאחר שמחוקקים בארצות הברית החלו לחקור דיווחים על שיחות מיניות לא הולמות בין הבוטים למשתמשים צעירים.

"הכוכב הצפוני שלנו הוא ההורים"

אינסטגרם הודיעה כי מטרתה היא ליישר קו עם מה שהורים מזהים כסטנדרט סביר לחשיפת בני נוער. "הכוכב הצפוני שלנו בחוויית הנוער הוא ההורים – ומה שהם אומרים לנו שהם רוצים עבור ילדיהם", אמר מקס אולנשטיין, מנהל תחום המוצר באינסטגרם.

בהתאם לתקן PG-13, תותר באפליקציה חשיפה מסוימת לתכנים הכוללים שפה בוטה קלה, אלימות מתונה או עירום חלקי – אך מטא הדגישה כי לא תאפשר המלצות על תכנים בעלי אופי מיני מפורש.

 

מטא, המחזיקה גם בפייסבוק, בוואטסאפ ובמסנג’ר, מתמודדת זה שנים עם ביקורת חריפה מצד הורים, מחוקקים וארגוני צרכנים, הטוענים כי הפלטפורמות שלה פוגעות בבריאות הנפש של צעירים. החברה התחייבה שוב ושוב לשפר את ההגנה על קטינים, אך ספגה תביעות בבתי משפט פדרליים ומדינתיים, שבהן נטען כי היא מעדיפה רווחים על פני בטיחות המשתמשים.

 

מאמץ מתמשך להגן על קטינים

מטא, המחזיקה גם בפייסבוק, בוואטסאפ ובמסנג’ר, מתמודדת זה שנים עם ביקורת חריפה מצד הורים, מחוקקים וארגוני צרכנים, הטוענים כי הפלטפורמות שלה פוגעות בבריאות הנפש של צעירים. החברה התחייבה שוב ושוב לשפר את ההגנה על קטינים, אך ספגה תביעות בבתי משפט פדרליים ומדינתיים, שבהן נטען כי היא מעדיפה רווחים על פני בטיחות המשתמשים.

מארק צוקרברג, מנכ"ל מטא, העיד לא פעם בפני הקונגרס על נושא בטיחות הילדים. בין השאר נטען כי האלגוריתמים של הרשתות החברתיות נבנו כך שיגדילו את זמן השימוש של הצעירים באפליקציות, ויעודדו אותם לחפש אישור חברתי באמצעות "לייקים" ושיתופים.

העדכון המשמעותי ביותר מאז השנה שעברה

לאינסטגרם יש מאות מיליוני משתמשים מתבגרים ברחבי העולם. לפי אולנשטיין, זהו עדכון המדיניות המשמעותי ביותר מאז השיפוץ הגדול שבוצע לפני כשנה, שבמסגרתו הוגדרו חשבונות של משתמשים מתחת לגיל 18 כ"פרטיים" כברירת מחדל.

המדיניות החדשה תצמצם עוד יותר את חשיפת המתבגרים לתכנים מבוגרים, תגבול את יכולתם לבצע חיפושים אקטיביים בנושאים רגישים, ותמנע מהם אינטראקציה עם חשבונות בעלי אופי מיני או אלים.

בנוסף, תוצג להורים אפשרות חדשה בשם "תוכן מוגבל", שתאפשר להם להגביל עוד יותר את סוגי התוכן שבני נוער יוכלו לראות – רמה מחמירה אף יותר מהדירוג PG-13 עצמו.

בוטים של בינה מלאכותית תחת פיקוח

המדיניות החדשה נוגעת גם לצ’אטבוטים מבוססי בינה מלאכותית של אינסטגרם, שנוצרו כדמויות דיגיטליות עם אישיות מובנית, ואפשר לשוחח איתן כאילו היו משתמשים אמיתיים. בשנה האחרונה דווח על שיחות לא הולמות בין בוטים למשתמשים צעירים, וחקירה פדרלית בנושא עדיין מתנהלת.

מטא הדגישה כי מעתה, הצ’אטבוטים שלה "לא ייצרו תגובות שאינן מתאימות לגיל", בדומה לתכנים שהיו נפסלים לצפייה בסרטים מדורגים PG-13.

לצורך גיבוש המדיניות, אינסטגרם ערכה קבוצות מיקוד עם אלפי הורים שהתבקשו לדרג סוגי תכנים לפי מידת התאמתם לבני נוער. בנוסף, תיעזר החברה במודלים של בינה מלאכותית כדי לזהות ולסנן באופן אוטומטי תוכן שאינו תואם את התקן החדש.

הגבלות על חיפוש ואינטראקציה

המשתמשים הצעירים לא יוכלו עוד לחפש במכוון תכנים מבוגרים, גם אם ינסו לעקוף את המגבלות. האפליקציה תזהה ניסיונות חיפוש כאלה ותציג הודעה שתסביר כי התוכן מוגבל לפי גיל המשתמש.

המדיניות החדשה תחול גם על תגובות, הודעות ישירות וקבוצות שיתוף, ותצמצם את האפשרות לחשיפה לאלימות, עירום או שפה מינית.

רקע: מאבק ארוך על בטיחות ברשת

בשנים האחרונות הפכה מטא לסמל במאבק הגלובלי לשמירה על בטיחות ילדים ברשת. מחקרים שונים מצאו קשר בין שימוש נרחב במדיה החברתית לבין עלייה בשיעורי דיכאון, חרדה ובעיות בדימוי הגוף בקרב בני נוער.

החברה נאלצה להתמודד עם לחץ ציבורי וחקירות ממשלתיות לאחר תחקירים שהצביעו על נזקים פסיכולוגיים שגרמו הפלטפורמות שלה. המדיניות החדשה באינסטגרם נתפסת כניסיון נוסף של מטא לשפר את תדמיתה ולחזק את האמון מצד ההורים והרגולטורים.

מועד כניסת השינויים

המדיניות החדשה תיושם בהדרגה במהלך החודשים הקרובים ותיכנס לתוקף מלא עד סוף השנה. היא תחול על כלל המשתמשים הצעירים באינסטגרם ברחבי העולם, ללא צורך בהגדרות נוספות מצד המשתמשים עצמם.