Это была типичная ночь в доме Стаси Бернса у Форт-Уэйн, штат Индиа. Она готовила обед, а ее трехлетний сын Исаак смотрел видео на YouTube Приложение для детей на iPad. Внезапно он закричал: «Мама, чудовище меня пугает!»
Когда мисс Бернс подошла, Айзек смотрел видео с изображением грубых изображений персонажей из «PAW Patrol», популярного шоу Nickelodeon среди дошкольников, крича в машине.
. 10-минутный клип, «Патрульные детеныши Паулоры, претендующие на самоубийство от Аннабель Гипнотизированный», был кошмарным подражанием анимационной серии, в которой мальчик и пачка спасательных собак защищает свое сообщество от неприятностей, таких как убегающие котята и горные горки. В видео, которое Исаак наблюдал, некоторые персонажи погибли, а один спустился с крыши после того, как был загипнотизирован подобием куклы, которой обладает демон.
«Мой первоначальный ответ был гнев», — сказала г-жа Бернс, медсестра , который приписывает приложение, помогая Исааку изучать цвета и буквы перед другими мальчиками своего возраста. «Мой бедный маленький невинный мальчик, он самый сладкий, и тогда есть такие ужасные, ужасные, злые люди, которые просто начинают пинать такие вещи, чтобы мучить детей».
Родители и дети с тех пор, как он был представлен в начале 2015 года, собрались в Google Kids Kids. Приложение более чем на 11 миллионов еженедельных зрителей обращается на его, казалось бы, бесконечную поставку клипов, в том числе из популярных шоу Disney и Nickelodeon, а также знание того, что приложение должно содержать только контент, удобный для детей, который автоматически фильтруется с основного сайта YouTube.
Но приложение также содержит темные углы, так как видео, которые беспокоят детей, проскальзывают мимо его фильтров, либо ошибка или потому, что дурные актеры нашли способы обмануть алгоритмы YouTube Kids.
В последние месяцы родители, такие как г-жа Бернс, жаловались, что их детям показали видео с известным персонажем в насильственных или непристойных ситуациях и других клипах с тревожными образами, иногда устанавливаемыми на детские стишки. Многие из них отправились на Facebook, чтобы предупредить других, а также поделиться видеороликами, показывающими моменты, начиная от человека-паука Claymation, мочащегося на Эльзу «Замороженные» персонажам-младшим в стрип-клубе.
Малик Дукард, глобальный YouTube глава семьи и учебный контент, сказал, что неприемлемые видеоролики были «крайней иглой в стоге сена», но это «делает семейство дружественных приложений очень важно для нас».
. В то время как оскорбительные видеоролики крошечная часть юниверсов YouTube Kids, они являются еще одним примером потенциальной возможности злоупотребления на цифровых медиа-платформах, которые полагаются на компьютерные алгоритмы, а не на людей, для того, чтобы полиция контента, который появляется перед людьми — в этом случае очень молодые люди
И они показывают, что в то время, когда Конгресс внимательно изучает технологических гигантов, как правила, которые регулируют хотя бы часть контента на детском телевидении, не распространяются на цифровой мир.
[1945] 9012] Когда видео загружаются на YouTube, алгоритмы определяют, подходят ли они для YouTube Kids. После этого видео постоянно отслеживаются, сказал г-н Дюкард, процесс, который «многослойный и использует много машинного обучения». Несколько родителей сказали, что они ожидают, что приложение станет более безопасным, потому что во время установки выяснилось, был ли их ребенок в дошкольном или старше.
г-н. Дукард сказал, что, хотя YouTube Kids может выделить какой-то контент, например, видео на Хэллоуин в октябре, «это не кураторский опыт». Вместо этого «родители находятся на водительском месте», — сказал он, указывая на способность блокировать каналы, устанавливать таймеры использования и отключить результаты поиска.
Родителям также рекомендуется сообщать о неприемлемых видеороликах, которые кто-то из YouTube просматривает вручную, сказал он. Он отметил, что за последние 30 дней «менее 0,005 процента» миллионов видеороликов, просмотренных в приложении, были удалены из-за неуместности.
«Мы стремимся, — добавил он, — сделать эту долю даже ниже. »
Холли Харт из Грей, штат Теннеси, сказала, что недавно читала, пока ее трехлетняя дочь была в комнате, когда она заметила, что персонажи Disney Junior в видео, на котором ее дочь смотрела, начали «Превращаясь в монстров и пытаясь прокормить друг друга аллигаторам». Предварительный просмотр видео в рекомендованном видео показал персонажей в провокационной позе.
«Для меня это было открытием», — сказала г-жа Харт, который загрузил приложение, потому что он использовался в местной начальной школе.
Не все неприемлемые видеоролики показывают мультфильмы. Алиса Кларк Вилкен из Вернала, штат Юта, сказала, что ее 4-летний сын недавно видел видео с семьей, играющей грубо с молодой девушкой, включая сцену, в которой ее лоб побрит, заставляя ее плакать и казаться кровоточащей.
Большинство видео, отмеченных родителями, были загружены на YouTube в последние месяцы анонимными пользователями с такими именами, как Kids Channel TV и Super Moon TV. Названия и описания видео содержат популярные названия персонажей и термины, такие как «образование» и «узнавать цвета».
Они независимо анимированы, по-видимому, избегать нарушений авторских прав и обнаружения. Некоторые клипы, загруженные еще в августе, имеют миллионы просмотров на основном сайте YouTube и запускают автоматически размещенные объявления, что говорит о том, что они являются финансово прибыльными как для создателей, так и для YouTube, которые разделяют доход от рекламы. Непонятно, сколько из этих просмотров появилось на YouTube Kids.
Одно видео на YouTube Kids со счета Subin TV показывает персонажей «PAW Patrol» в стрип-клубе. Один из них затем посещает врача и просит, чтобы ее мультяшные ноги были заменены длинными, провокационными человеческими ногами в стилетах . В описании учетной записи говорится: «Видео, созданное с целью обучения и развития детей!»
Учетная запись, которую выложили у сына мисс Бернс, называется Super Ares TV и имеет страницу на Facebook называемый PAW Patrol Awesome TV. Вопросы, отправленные туда, в основном игнорировались, хотя учетная запись действительно ответила: «Это симпатичный персонаж, а видео — забавная история, успокойся, вот и все».
. Счет Super Ares TV, похоже, связан с количество других каналов, предназначенных для детей с мультяшными имитациями, на основе их похожих канальных шрифтов, стиля анимации и названий, основанных на греческой мифологии, от Super Hermes TV и Super Apollo TV до Super Hera TV.
включала ссылку на торговый сайт под названием SuperKidsShop.com, который зарегистрирован в городе Хошимин, Вьетнам. На звонок по номеру телефона, указанному в регистрационных записях этого сайта, ответил человек, который отказался идентифицировать себя. Он сказал, что его партнеры отвечают за видео и что на них работала команда из примерно 100 человек. Он сказал, что отправит им электронные письма для комментариев. Эти письма остались без ответа.
Др. Майкл Рич, профессор педиатрии Гарвардской медицинской школы и директор Центра по медицине и здоровью детей, сказал, что такие видеоролики вызвали множество проблем для детей. «Это просто намного больше расстраивает тот факт, что персонажи, которых они считали, что они знают и которым доверяют, ведут себя таким образом», — сказал он.
Джош Голин, исполнительный директор кампании за коммерческое свободное детство, утверждал, что неприемлемые видеоролики на YouTube Kids показали опасности сегодняшней медиа-реальности.
«Алгоритмы не заменяют вмешательство человека, а когда дело доходит до создания безопасной среды для детей, вам нужны люди», г-н Голин сказал. Его группа и Центр цифровой демократии подали жалобу в Федеральную торговую комиссию в 2015 году, обвинив детей YouTube в обманом маркетинге с родителями на основе неприемлемых видеороликов.
Использование автоматизации для онлайн-рекламы превратило Google в бегемота, который стоит больше чем пол триллиона долларов. В прошлом году компания столкнулась с новой волной критики за отсутствие контроля над людьми после того, как ее системы непреднамеренно финансировали поддельные новостные сайты и ненавистные видео на YouTube и, скорее всего, продали объявления, связанные с выборами, на счетах, связанных с российским правительством.
Google в значительной степени защищал свои ошибки, указывая на огромное количество контента, которое он размещает, в том числе более 400 часов контента, загружаемого на YouTube каждую минуту.
Disney и Nickelodeon, основы детского программирования, работают с YouTube Kids познакомить детей с их персонажами. Но они также знают, что их содержание может быть смешано с тревожными подделками.
«Nickelodeon создает своих персонажей и шоу, чтобы развлекать детей, поэтому мы разделяем те же проблемы, что и родители, о неподходящем характере некоторых видеороликов «Дэвид Биттлер, представитель сети, принадлежащей Viacom.
Представитель Disney сказал, что YouTube Kids заверила компанию, что она« работает над путями более эффективно и активно предотвращает этот тип от ситуации ».
Некоторые родители взяли на удаление приложение.
«Это приложение для детей — оно предназначено для детей», — говорит Крисси Гиларх, мать двоих детей в Оклахоме , «И я просто не могу поверить, что с такой большой компанией у них нет людей, чья работа заключается в фильтрации и флагом».
