Сто сорок семь знаков доллара заполняют первые строки компьютерной программы. Каждая буква «$», окрашенная в ледяной синий цвет на матово-черном фоне, аккуратно расставлена так, чтобы все вместе они составляли имя: «H4xton».
Это своего рода подпись, а не тонкий. Фактический код не отображается до трети экрана.
Цель этого кода: отправлять массу сообщений о нарушениях содержания модераторам чрезвычайно популярного приложения для коротких видео TikTok. , с намерением удалить видео и запретить их создателей.
Это практика, называемая «массовые репортажи», и для потенциальных знаменитостей TikTok это то, что не дает вам уснуть по ночам.
Как и многие платформы социальных сетей, TikTok полагается на то, что пользователи сообщают о контенте, который, по их мнению, нарушает правила платформы. С помощью нескольких быстрых нажатий TikTokers может помечать видео как подпадающие под определенные категории запрещенного контента — вводящая в заблуждение информация, язык вражды, порнография — и отправлять их в компанию для проверки. Учитывая огромный объем контента, который публикуется в приложении, этот краудсорсинг является важным оружием в арсенале модерации контента TikTok.
Массовые репортажи просто увеличивают масштаб этого процесса. Вместо одного человека, сообщающего о сообщении в TikTok, несколько человек сообщают об этом сообща или — как это делают программы, подобные H4xton, — один человек использует автоматические скрипты для отправки нескольких отчетов.
H4xton, который описал себя будучи 14-летним парнем из Дании, он сказал, что видит в своем «репортажном боте TikTok» силу добра. «Я хочу устранить тех, кто распространяет ложную информацию или … высмеивает других», — сказал он, цитируя теории заговора QAnon и anti-vax. (Он отказался назвать свое настоящее имя, заявив, что его беспокоит возможность доксинга или распространения личной информации в Интернете; Times не смогла независимо подтвердить его личность.)
Но эта практика стала чем-то вроде пугала. в TikTok, где удаление видео может означать потерю шанса стать вирусным, создать бренд или привлечь внимание корпоративных спонсоров. Это особенно пугающая перспектива, потому что многие участники TikTokers считают, что массовые сообщения эффективны даже в отношении сообщений, которые на самом деле не нарушают правила. Они беспокоятся, что если о видео поступит слишком много сообщений, TikTok удалит его, независимо от того, были ли эти сообщения справедливыми.
Это очень опасный 2021 год. Контроль за созданным пользователями интернет-контентом стал актуальной проблемой в эпоху социально-опосредованной связи, противопоставляя сторонников свободы слова тем, кто стремится защитить интернет-пользователей от цифровой токсичности. Подстрекаемые опасениями по поводу дезинформации и экстремизма, а также таких событий, как восстание 6 января, многие демократы призвали компании, работающие в социальных сетях, более агрессивно модерировать пользовательский контент. Республиканцы ответили криками цензуры и угрозами наказать интернет-компании, которые ограничивают свободу выражения мнений.
Инструменты массового информирования существуют и для других платформ социальных сетей . Но популярность и темпы роста TikTok — самого загружаемого приложения в мире в прошлом году — повышают ставки того, что там происходит, для влиятельных лиц и других влиятельных пользователей.
Когда говорила The Times Этим летом, когда несколько Black TikTokers рассказали о своей борьбе в приложении некоторые из них выразили подозрение, что организованные кампании массовых репортажей нацелены на них из-за их расы и политической откровенности, в результате чего удалялись сообщения, которые не казались нарушать какие-либо политики сайта. Другие пользователи — от трансгендеров и евреев TikTokers до блоггера, сплетничающего Переса Хилтона и мега-инфлюенсера Беллы Поарч — также предполагали, что они » мне запретили использовать TikTok, или их контент был удален из него после того, как злоумышленники кооптировали систему отчетности платформы.
«У TikTok такой большой трафик, что мне интересно, достигает ли он определенного порога в люди, сообщающие [a video]что они просто снимают его », — сказал 29-летний Джейкоб Койн, участник TikToker, сосредоточенный на создании христианского контента, который борется с удалением видео, который, по его мнению, связан с кампаниями массовых репортажей.
H4xton опубликовал свой массовый репортаж. script на GitHub, популярном веб-сайте для размещения компьютерного кода, но это не единственное место, где можно найти такие инструменты. На YouTube ролики, настроенные на быструю электронную музыку, показывают любопытных зрителей, где найти и как запустить программное обеспечение для массовых репортажей. Форумы о взломе и пиратстве с такими названиями, как Leak Zone, ELeaks и RaidForums, предлагают аналогичный доступ. Под ссылками для скачивания сценариев массовых репортажей анонимные пользователи оставляют комментарии, в том числе «Мне нужна моя девушка вне TikTok» и «Я действительно хочу, чтобы мои одноклассники забанили меня».
Непрозрачность большинства модераторов контента в социальных сетях делает трудно понять, насколько серьезна проблема массового репортажа.
Сара Робертс, доцент кафедры информационных исследований Калифорнийского университета в Лос-Анджелесе, сказала, что пользователи социальных сетей воспринимают модерацию контента как сложную, динамичную, часто непрозрачную сеть политики, из-за которых «трудно понять или точно оценить», что они сделали неправильно.
«Хотя у пользователей есть такие вещи, как Условия обслуживания и Принципы сообщества, как они на самом деле реализуются в их детализации — в рабочих условиях с помощью модераторы контента — это часто считается конфиденциальной информацией », — сказал Робертс. «Поэтому, когда случается [content moderation]при отсутствии четкого объяснения пользователь может почувствовать, что существуют обстоятельства, замышляющие против него».
«Самое жуткое, — сказала она, — это то, что в некоторых случаях это может быть правдой ».
К таким случаям относятся случаи« бригады »или скоординированных кампаний преследования в форме враждебных ответов или голосов против. Такие форумы, как общеизвестно токсичный 8chan, исторически служили базой для таких усилий. Выдающиеся политики, включая Дональда Трампа и Теда Круза, также без каких-либо доказательств обвинили Twitter в «теневом запрете» или сокрытии доступа к учетным записям определенных пользователей, не сообщая им об этом.
TikTok преуменьшает риск, который массовые сообщения представляют для пользователей, и заявляет, что у него есть системы, предотвращающие успех этой тактики. В заявлении компании опубликованном в июле говорится, что, хотя определенные категории контента модерируются с помощью алгоритмов, модераторы-люди просматривают опубликованные сообщения. В прошлом году компания заявила, что более 10 000 сотрудников работают над обеспечением доверия и безопасности.
Компания также заявила, что массовые сообщения «не приводят к автоматическому удалению или большей вероятности увольнения» со стороны модераторы платформы.
Некоторые программисты, стоящие за автоматизированными средствами массовой отчетности, подтверждают это. H4xton, который разговаривал с The Times по поводу нескольких онлайн-приложений для обмена сообщениями, сказал, что его Reportation Bot может заблокировать только TikToks, которые законно нарушают правила платформы. По его словам, это может ускорить процесс модерации, который в противном случае мог бы занять несколько дней, но «не будет работать, если с видео все в порядке».
Филза Омран, 22-летний саудовский программист который назвал себя автором другого скрипта массовой отчетности, размещенного на GitHub, сказал, что если его инструмент будет использован для массового сообщения о видео, которое не нарушает ни одно из правил TikTok, самое большее, что, по его мнению, произойдет, это то, что указанный аккаунт будут на короткое время заблокированы для размещения новых видео. Через несколько минут Омран сказал через приложение для обмена сообщениями Telegram, TikTok подтвердит, что заявленное видео не нарушает никаких правил, и восстановит полный доступ пользователя.
Но другие люди, вовлеченные в эту теневую экономику, делают более широкие заявления. Один из скриптов, распространяемых на хакерских форумах, содержит описание: «Я сделал маленького быстрого бота. Массовые сообщения об учетной записи до ее блокировки, что занимает около часа ».
Пользователь The Times нашел в разделе комментариев ниже другой инструмент массовых сообщений, назвавшийся 18-летним венгром по имени Денис Зарфа Су сказал, что он лично использовал инструменты массового сообщения, «чтобы массово сообщать о хулиганских публикациях» и аккаунтах, торгующих сексуальным контентом. Он сказал, что ограничивающим фактором эффективности этих инструментов было то, насколько популярным был пост, а не то, нарушало ли оно какие-либо правила.
«Вы можете удалить практически все, — сказал Су в электронном письме, если только он не «безумно популярен».
И 20-летний программист из Курдистана, известный под псевдонимом Мохамед Линукс из-за проблем с конфиденциальностью, сказал, что созданный им инструмент массовых сообщений может удалять видео, даже если они не нарушал никаких правил.
Эти утверждения сложно доказать без внутреннего доступа к системе модерации TikTok — и Linux, который обсуждал его работу через Telegram, сказал, что его программа больше не работает, потому что TikTok исправил ошибку он эксплуатировал. (Times нашла код Linux на GitHub, хотя Linux сказал, что он просочился именно там и что он обычно продает его частным покупателям за 50 долларов.)
Однако отсутствие ясности в отношении того, насколько хорошо работает массовая отчетность, не помешал ему захватить воображение участников TikTokers, многим из которых не хватает более точных ответов на вопрос, почему их видео продолжают исчезать. В разделе комментариев ниже недавнее заявление о том, что TikTok сделал признавая озабоченность массовыми репортажами, толпы пользователей — некоторые из них с миллионами подписчиков — жаловались, что массовые репортажи привели к тому, что их сообщения и аккаунты были заблокированы за несправедливость. или полностью сфабрикованные причины.
В отсутствие четкого объяснения пользователь может подумать, что существуют обстоятельства, замышляющие против него.
Сара Т. Робертс, доцент кафедры информационных исследований, Калифорнийский университет в Лос-Анджелесе
Среди этих критиков был Аллен Поляков, геймер и создатель TikTok, связанный с киберспортивной организацией Luminosity Gaming, который написал, что платформа «удалила многие мои посты и стримы из-за того, что я стал известен массово». Разрабатывая эти жалобы позже, он сказал The Times, что массовые репортажи стали для него большой проблемой только после того, как он начал набирать популярность на TikTok.
«Летом прошлого года я начал видеть, что многие мои видео были сняты », — сказал 27-летний Поляков. Но он не мог понять, почему были удалены определенные видео:« Я выкладывал видео, где я играл в Fortnite, и оно было бы удалено »после того, как меня ошибочно пометили за то, что он содержит наготу или сексуальная активность.
На первый взгляд бессмысленная природа убийств привела его к мысли, что тролли массово публикуют его сообщения. Это тоже не было чистой спекуляцией: он сказал, что люди заходили в его прямые трансляции и хвастались успешными массовыми репортажами о его контенте, дразня его насмешками: «Мы удалили ваше видео» и «Каково это — потерять вирусное видео». видео? »
Поляков дал понять, что любит TikTok. «Это изменило мою жизнь и дало мне так много возможностей», — сказал он. Но платформа, похоже, придерживается принципа «виновен, пока не доказана невиновность», сказал он, который ошибается в части удаления видео, о которых поступает много сообщений, а затем оставляет на усмотрение создателей обжаловать эти решения постфактум.
Эти апелляции могут занять несколько дней, сказал он, что с таким же успехом могло бы быть тысячелетием, учитывая быстро меняющуюся культуру TikTok. «Я бы выиграл большинство своих апелляций, но поскольку он уже упал в течение 48–72 часов, тенденция могла бы исчезнуть; актуальность этого видео могла бы исчезнуть ».
Как и в случае со многими товарами и услугами, которые существуют на периферии приличного общества, нет никаких гарантий, что инструменты массового репортажа будут работать. Жалобы на неработающие ссылки и бесполезные программы распространены на хакерских форумах, где размещено такое программное обеспечение.
Но технические обзоры нескольких инструментов массовой отчетности, размещенных на GitHub, в том числе написанные H4xton, Omran и Linux, предполагают, что эта надомная индустрия — не только дым и зеркала.
Франческо Байло, преподаватель цифровых и социальных сетей в Технологическом университете Сиднея, сказал, что то, что эти инструменты «претендуют на выполнение, технически несложно».
«Они работают? Возможно, они работали, когда были впервые написаны », — сказал Байло в электронном письме. Но программы «похоже, не поддерживаются активно», что очень важно, учитывая, что TikTok, вероятно, «отслеживает и противопоставляет этот вид деятельности» в своего рода гонке вооружений кодирования.
Патрик Викстром, сообщение Профессор Технологического университета Квинсленда был столь же осмотрительным.
«Они могут работать, но им, скорее всего, потребуется много рук, чтобы хорошо выполнять работу», — сказал Викстром по электронной почте. По его словам, поскольку TikTok не хочет, чтобы отчеты о содержании отправлялись откуда-либо, кроме границ собственного приложения компании, массовые отчеты требуют некоторых технических уловок: «Я подозреваю, что им нужно много ручной работы, чтобы их не выгнали»
Но какими бы ненадежными ни были инструменты массовой отчетности — и сколь бы успешным ни был TikTok в отделении их жалоб от более законных, — влиятельные лица, включая Койна и Полякова, настаивают на том, что компания должна начать относиться к этой проблеме более серьезно.
«Это буквально единственная платформа, на которой у меня когда-либо были проблемы», — сказал Поляков. «Я могу опубликовать любое видео, которое у меня есть на TikTok, где угодно, и это не будет проблемой».
«Может, вы заметите, что какие-нибудь дети будут засранцами в комментариях?» он сказал. «Да, но у них нет возможности удалить ваш аккаунт».
