ביוטיוב מארחים שפע של סרטונים, הפונים למגוון רחב של קהלים, אך לעיתים סרטונים יכולים להיות מעט נגישים מדי. אנימציות למבוגרים כמו "ידידי עץ שמח" או "אל תחבק אותי אני מפחד" יכולות לפנות לילדים עם הצבעים הבהירים שלהם או לבובות דמויי החבובות, למרות שהם לא מתאימים לילדים. עם זאת, נראה כי פלטפורמת שיתוף הווידאו יכולה להתמודד עם תלונות עם גרסה מעודכנת של אפליקציית YouTube Kids שתפקח על ידי בני אדם בפועל, על פי דיווח של חדשות BuzzFeed. בקשתו של רומפר לתגובה מיוטיוב בנוגע לדיווחים על העדכון לא הוחזרה מייד.
הרעיון הוא שהאפליקציה החדשה הזו תתקיים לצד YouTube Kids, הניסיון המקורי של החברה להשתמש באלגוריתם כדי לסנן תכנים נגישים לילדים, על פי חדשות BuzzFeed. בכלי החדשות דווח שהוא ייתן להורים את האפשרות לכבות סרטונים שהוצעו באופן אלגוריתמי. במקום זאת, לילדים לא תהיה גישה לסרטון כלשהו שלא הוקרן על ידי אדם בשר ודם. זה הגיוני; אלגוריתמים יכולים להיות מעולים, אבל זו תוכנית מחשב וניתן לקודד אותה רק לקרוא ולסמן כל כך הרבה.
אפליקציית YouTube Kids פועלת לחסימה של חיפושים בסיסיים לסרטונים לא מתאימים; חיפוש אחר תוכן מפורש לא יביא תוצאות. בנוסף, להורים הייתה אפשרות להסיר את כפתור החיפוש במלואו ולהשאיר רק סרטונים שנבחרו מראש. אבל החששות סביב הסרטונים ש- YouTube ילדים הציעו לילדים קיימים כבר זמן מה, כפי שדיווח רדאר טק. אף על פי ש- YouTube Kids הוא ניסיון הגון לנסות לסנן מידע מזיק, היו מקרים שהאפליקציה הציעה לכאורה סרטוני קונספירציה לילדים, כפי שפורסם ב- Business Insider.
בסרטונים אחרים נכללו טענות שהעולם שטוח, נחיתת הירח הייתה מזויפת וכי הכוכב נשלט על ידי כלאיים של זוחלים-אנושיים, על פי Business Insider. עם זאת, YouTube Kids חווה בעיות גרועות יותר מתיאוריות קונספירציה מאז הקמתה בשנת 2015. פחות מחודשיים לאחר יציאת האפליקציה, במאי 2015, התלונן קמפיין ילדות ללא מסחר, קואליציה של קבוצות סנגור לילדים ולצרכנים. לנציבות הסחר הפדרלית (FTC). החששות שלהם כללו תוכן שהקבוצה כינתה "לא רק … מטרידה את הצפייה של ילדים צעירים, אלא גם עלולה להזיק."
באמצעות דמויות מצוירות פופולריות, כמו ספיידרמן ואלזה, YouTubers הצליחו לפתות ילדים לסרטונים פוגעניים. על פי פוליגון, הסרטונים התחילו להיות תקינים, אך עד מהרה הראו נסיכות, גיבורי על ומועדפים אחרים שהשתתפו במעשים מזויפים או אלימים. מכיוון שמערכת מבוססת אלגוריתם אינה סורקת את כל הווידיאו, YouTubers הצליחו לחצא את המערכת באמצעות שמות ותמונות ממוזערות שהאלגוריתם קורא כבטוח לילדים.
נושאים אחרים שרשימות הדו"ח מדווחים עליהם, כפי שפורסם על ידי פוליגון, כוללים: שפה מינית מפורשת שהוצגה בתוך אנימציה מצוירת, פרודיה נטולת גסות על הסרט קזינו המציגה את ברט וארני מרחוב סומסום, דיונים למבוגרים גרפיים על אלימות במשפחה, פורנוגרפיה והתאבדות ילדים, בדיחות על פדופיליה ושימוש בסמים ומודלים של התנהגויות לא בטוחות.
כאן ייכנס האפליקציה המדווחת. במקום להסתמך על אלגוריתמים שטויות שולל בקלות, יהיה צורך לסנן את כל התוכן דרך בני אדם אמיתיים. על פי הדיווחים, המקור אמר ל- BuzzFeed News כי ניתן לשחרר את האפשרות ברשימת ההיתרים של האפליקציה במהלך השבועות הקרובים. על פי חדשות BuzzFeed, יוטיוב לא הכחישה את התוכניות לאפליקציה, אולם לטענתה, "אנו תמיד עובדים כדי לעדכן ולשפר את ילדי YouTube, עם זאת איננו מגיבים לשמועות או להשערות."
אולם, מנכ"ל יוטיוב, סוזן וויצ'יצקי, אמרה כי החברה מרחיבה את חיל ההשכבה שלה ליותר מ -10, 000 קבלנים בשנת 2018, לפי פוליגון, והם יתמקדו בתוכן שעשוי להפר את המדיניות של יוטיוב. "הסוקרים האנושיים נשארים חיוניים גם להסרת תוכן וגם למערכות למידת מכונות מכיוון שהשיפוט האנושי הוא קריטי לקבלת החלטות על רקע תוכן", כתבה בפוסט בבלוג בדצמבר 2017.
ההצהרה הבאה שוחררה אז ב- YouTube לפוליגון:
תוכן שמטעה או מסכן ילדים אינו מקובל עלינו. יש לנו מדיניות ברורה נגד הסרטונים האלה ואנחנו אוכפים אותם באגרסיביות. אנו משתמשים בשילוב של למידת מכונה, אלגוריתמים וסימון קהילות כדי לקבוע תוכן באפליקציית YouTube לילדים. צוות YouTube מורכב מהורים שדואגים להם מאוד, ומחויבים לשפר את האפליקציה בכל יום.
למרות שיוטיוב טרם אישרה את פיתוח אפליקציה חדשה זו, נראה שהיא תעמוד במדיניות החברה ובתקינה שלה. יש לקוות, יוטיוב תמשיך להגיב לבעיות הנוגעות לילדים של YouTube, כך שהורים יכולים לסמוך על כך שילדיהם לא יכירו תוכן מטריד באפליקציה המשווקת לילדים.
