На протяжении всей истории люди создавали новые правительства по разным причинам: чтобы укрепить союзы, или расширить империи, или обеспечить индивидуальные свободы.
У Марка Бьюлака был вопрос о свитерах.
В частности, речь шла о давних спорах в офисах между мужчинами, которые хотят, чтобы кондиционер был включен, и женщинами, которые хотят его выключить. «Я думал, что следующим этапом этого аргумента должен быть вопрос:« Почему бы тебе не надеть свитер? »»
Но Бьюлак, дневной фотограф из Новой Англии , знал, что это щекотливая тема, и опасался «необоснованных обвинений». Поэтому в 2013 году он перешел на Reddit, обширную сеть тематических дискуссионных форумов, и основал новую группу (или «субреддит»), чтобы узнать мнение сторонних организаций о том, было бы грубо задавать кому-то вопрос о свитере.
Или, как он дал название своему новому сообществу: «Я что, мудак?»
«Я очень сожалею о выборе этого термина», — сказал Бьюлак. Но теперь, когда «AITA», как ее называют, размером с небольшую страну — с 2,6 миллионами членов, она имеет немного большее население, чем Соединенные Штаты в 1776 году — «Я действительно не могу переименуйте его ».
В первые дни в сообществе отсутствовали формальные правила, сказал Болак. Но по мере перехода от этики свитеров к другим повседневным моральным дилеммам количество членов выросло до нескольких тысяч человек, и Бьюлак собрал небольшую команду модераторов, чтобы все шло гладко.
Со временем эта команда создала тщательно продуманную правовую систему. , добавляя новые правила и изменяя старые по мере развития их видения сообщества. Сегодня 14 основных правил регулируют поведение на форуме (правило третье: принимайте суждение, которое дают вам коллеги; правило седьмое: публикуйте только сообщения о межличностных конфликтах; правило 14: никаких сообщений о коронавирусе). Между тем, около 30 модераторов — сгруппированы по строгой иерархии с Бьюлаком наверху — удаляют сообщения и блокируют пользователей в соответствии с пользовательскими правилами форума и условиями обслуживания Reddit.
Beaulac’s — это знакомая история на Reddit, где большая часть правил и правоприменения происходит снизу вверх и варьируется в зависимости от субреддита. Корпоративные администраторы иногда запрещают форумы, которые позволяют разжиганию ненависти и угрозам насилия выйти из-под контроля, но по большей части такие люди, как Бьюлак, могут свободно создавать и управлять новыми сообществами по своему усмотрению.
Этот квазидемократический подход Модерация контента отличает Reddit от большинства других крупных социальных сетей. Такие конкуренты, как Facebook, Instagram, Twitter, YouTube и TikTok полагаются на программы искусственного интеллекта и платных модераторов для обеспечения соблюдения единого (хотя часто очень сложного) набора корпоративных политик на всей территории. Даже недавние попытки Facebook переложить некоторые из самых сложных решений на третью сторону не возлагали ответственность на самих пользователей.
Децентрализованная модель Reddit предлагает гибкость, позволяя различным сообществам устанавливать свои собственные стандарты приемлемости и передает решения в руки людей, которые понимают контекст и заинтересованы в результате. Но у него есть и недостатки.
Не попадайте в 6-часовые новости
Вопросы самоуправления вплетены в ткань Интернета. «Хакерский дух» открытого доступа и самостоятельной работы стимулировал первые технические инновации; Влиятельная «Декларация независимости киберпространства » Джона Перри Барлоу выступила в защиту киберлибертарианства во время бума доткомов 90-х; и недавние эксперименты в области шифрования, краудсорсинга и распределенных сетей были направлены на то, чтобы встроить демократические ценности непосредственно в архитектуру новых платформ.
Но рост гегемонистских платформ подорвал некоторую часть раннего духа Интернета. Горстка компаний контролирует большие объемы онлайн-коммуникации, давая им право подвергать цензуре политически заряженные новости отключать альтернативные платформы и в одностороннем порядке выгнать пользователей — даже президентов — вне де-факто общественного форума Америки. После вторжения в Капитолий США 6 января последователей теории насильственного заговора количество призывов к разгрому платформ возросло.
Повстанцы, верные президенту Трампу, поднимаются на инаугурационную платформу на Западном фронте Капитолия США.
(Jose Luis Magana / Associated Press)
Основанный в 2005 году недавно оцененный в 6 миллиардов долларов Reddit развивался с учетом интересов и обычаев своих пользователей, но ему не всегда удавалось избежать вмешательства сверху вниз. В ответ на давление общественности он запретил субреддиты, в том числе один, посвященный «Creepshots» или обнажению без согласия, и участвовал в пост-янв. 6 деплатформинг путем запрета сабреддита «donaldtrump» . (Компания также запретила более ранний форум сторонников Трампа, «The_Donald».)
Но по большей части администраторы компании не вмешиваются, вместо этого предпочитая делегировать полномочия модератора пользователям .
«Модераторы Reddit считают, что администраторы ничего не будут делать, пока это не появится в новостях», — сказал Крис Уэнам, модерирующий «Оуу», субреддита, торгующего милыми изображениями животных и младенцы. «Вы должны подождать, пока он появится в шестичасовых новостях, и тогда Reddit что-то сделает».
Это означает, что он и Бьюлак могут формировать совершенно разные сообщества в рамках одной инфраструктуры Reddit. В репрезентативном посте на «Оууу» изображен крошечный кокер-спаниель, облизывающий ложку, с надписью «Это Бакстер. Ему 11 недель, и сегодня он открыл для себя арахисовое масло ». В репрезентативном сообщении на «AITA» спрашивается, виноват ли пользователь «в угрозе отдать щенка моей дочери на усыновление».
Мятежники пытаются прорваться через полицейский барьер у Капитолия 6 января.
(Джон Минчилло / Associated Press)
Неоплачиваемые модераторы пишут правила для каждого субреддита а затем используют подсказки, автоматические фильтры и ручной контроль, чтобы обеспечить их соблюдение. В то время как другие платформы обычно удаляют только сообщения, относящиеся к определенным категориям — угрозы, дезинформация, разжигание ненависти, — сабреддит может что-то удалить просто из-за того, что не соответствует темам и нормам, выбранным сообществом самостоятельно.
Степень демократичности этого процесса зависит от субреддита. Некоторые правила появляются в результате закулисных обсуждений и голосования только модераторов; другие являются продуктом открытых референдумов .
«Время от времени вы будете получать предложения от постоянных клиентов субмарины, которые звучат как хорошая идея, и мы реализуем ее, — сказал Уэнам. Но такое случается редко: «Мы не хотим, чтобы правила менялись все время. Из-за этого становится еще труднее обеспечить соблюдение того, что у нас есть ».
Процесс выбора самих модераторов также варьируется, но он меньше похож на демократию, чем на доброжелательную, самовоспроизводящуюся олигархию. Старые модераторы выбирают новых за их вклад в сообщество или за другие атрибуты.
Уэнам даже не использовал «Оуу», когда его выбрали, чтобы помочь запустить его. Вместо этого, модерируя фото-субреддит «Pics», он научился выявлять поддельные аккаунты «марионеток-носок», владельцы которых репостили вирусные фотографии, чтобы привлечь внимание, прежде чем продавать аккаунты мошенникам, которые используют их для обхода антибот-фильтров. . «Очевидно, это очень прибыльно, — сказал Уэнам.
Подобно Харрисону Форду в «Бегущем по лезвию», Уэнам стал профессионалом в поиске настоящих пользователей «Фото» у «фермеров». Он использовал обратный поиск изображений, чтобы идентифицировать переработанные или стоковые фотографии, и развил острый глаз на массово производимые имена пользователей (например, такие последовательности, как «ASDF» или «JKL», указывали на подход «разбивания клавиатуры» для быстрого создания легионов.
Несмотря на отсутствие связей с сообществом, «Оуу» был впечатлен работой Уэнама над «Pics» и нанял его, чтобы он помогал решать подобные проблемы. Сейчас он самый высокопоставленный участник форума.
«Меня не научили справляться с этим»
Волонтерство уборщиком на веб-сайте, который называет себя «первой страницей Интернета», не всегда красиво.
Из 10 модераторов Reddit The Times беседовали с ними для этой статьи, многие описывали свою работу как полезную, часто говоря о ней языком государственной службы или эмоциональной поддержки; но большинство также отказывались назвать свои настоящие имена, часто из страха быть «одураченным» или из-за того, что их личная информация будет распространена в Интернете и использована для преследования.
Эти опасения говорят о более темной стороне модели Reddit.
В Facebook, Twitter, YouTube и т.п. профессиональным подрядчикам платят за то, чтобы они разбирали худшие вещи, которые люди публикуют в Интернете — Нюхательные фильмы, отрицание Холокоста, жестокое обращение с животными — чтобы их можно было удалить до того, как это увидит слишком много пользователей. Работа оставляет многих из них травмированными.
Но модель Reddit означает, что когда такой же тревожный контент публикуется в субреддите, это может быть неоплачиваемый модератор сообщества, который первым имеет дело с ним. И, по словам Роба Аллама, модератора сабреддита оскорбительной комедии «RoastMe», они делают это без соответствующей подготовки или поддержки со стороны Reddit.
«У меня был один случай, который, я думаю, я умру, вспоминая», — сказал Аллам. «Мы закончили получать некоторое фактическое детское порно … а потом мы получили спам с ним повсюду. Нам пришлось привлечь ФБР ».
Работа в качестве модератора означала ежедневное наблюдение за« кровью, смертью, оскорблениями, сексизмом и расизмом », но это было совсем другое.
«Это было действительно разрушительно для моего психического здоровья», — сказал Аллам. До инцидента его аккаунты на Reddit были одними из самых успешных; по его оценке, он модерировал 60 миллионов пользователей в более чем 100 субреддитах. Но месяц или два после этого он не появлялся на сайте. «Я не подписывался на это [stuff]чувак. Меня даже не научили справляться с этим ».
Reddit в конечном итоге вмешался, чтобы удалить фотографии, и Аллам постепенно вернулся в онлайн, но он так и не вернулся к своему прежнему уровню участия. Reddit предоставил ему ценные возможности — он встретился со своим партнером в ветке комментариев и сказал, что своей карьерой обязан маркетинговым навыкам, которые он отточил на платформе, — но он по-прежнему скептически относится к тому, что модерирование платформы того стоит.
«Тратить столько времени на волонтерскую деятельность в ущерб собственному психическому здоровью и реальной безопасности… это не сводится к логическому уравнению», — сказал он. «Вы буквально являетесь буфером между всем шумом — а обычно шум не является позитивным — и компанией».
Даже модераторы с более позитивным мировоззрением выражали озабоченность по поводу того, какую поддержку предлагает им Reddit. Некоторые были разочарованы сексизмом на платформе или неясными ожиданиями относительно того, следует ли и как им проверять дезинформацию. Другие жаловались на отсутствие базовых инструментов безопасности.
Недавний запуск акций розничного продавца видеоигр GameStop, вызванный Reddit, высветил эти опасения, когда сабреддит WallStreetBets, стоящий за всплеском, прошел модерацию. инструменты сгибаются при увеличении посещаемости .
На вопрос о комментарии представитель Reddit направил The Times новый отчет компании о состоянии ее работы с модераторами-добровольцами; отметили недавние усилия по оснащению модераторов средствами психологической поддержки; и процитировал несколько дополнений, внесенных в список инструментов модераторов за последний год.
Но более важный вопрос, который делает Reddit важным примером в более широкой дискуссии о модерации, заключается в том, возможно ли дать онлайн-сообществам такой уровень самоопределения, не задействуя при этом их худшие импульсы.
То есть: может ли демократия или хотя бы что-то подобное работать в Интернете?
Другие совместные онлайн-проекты — Википедия; Лицензирование Creative Commons; краудсорсинговые научные исследования — продемонстрировали способность Интернета сосредоточить большие силы добровольцев на совместных проектах. Но социальные сети идут еще дальше, позволяя любому создавать собственное сообщество. Иногда результаты такие же забавные и безобидные, как «AITA». Иногда они столь же токсичны, как «Creepshots» и «TheDonald».
Децентрализованный подход Reddit к модерации может способствовать свободе слова и самоуправлению, сказала Шэрон Брэдфорд Франклин, директор по политике Института открытых технологий Новой Америки. «Такой подход означает, что могут процветать нишевые сообщества, характерные для определенных культур или интересов, но это включает создание пространства для сообществ, посвященных ненависти, теориям заговора и другому вредоносному контенту», — добавила она по электронной почте.
Ответственность за модерацию аутсорсинга также означает, что компания «может нести меньшую ответственность за реагирование в реальном времени в ситуациях, когда на платформе распространяется вредоносный контент», — продолжил Франклин.
Подобные проблемы могут возникать на других платформах, которые позволить пользователям организовывать подсообщества; ультраправые ополчения и заговор QAnon использовали группы в Facebook для организации и общения между собой, например.
Конечно, при правильных (или неправильных) обстоятельствах реальная демократия также может расширить возможности сторонников превосходства белых. Это говорит о том, что эти проблемы не уникальны для социальных сетей. Скорее, они опираются на гораздо более давние вопросы свободы, безопасности и власти, с которыми политические философы боролись на протяжении тысячелетий.
В конечном счете, любой, кто пытается создать идеальное онлайн-общество, должен решить вопрос: AITA?
