Фрэнсис Хаугенболее известный как разоблачитель Facebookрассказывает историю о своем бывшем боссе Марке Цукерберге, которая помогает объяснить, почему Facebook — а также Twitter и Reddit, если уж на то пошло — в наши дни кажется такой свалкой токсичных отходов.
В 2020 году члены правящей партии Индии Нарендры Моди опубликовали в Facebook посты, в которых мусульмане назывались грызунами и предателями, а говорят их надо расстрелять. Учитывая, что это явно ненавистнические высказывания и что такая пропаганда исторически является индикатором неминуемого этнического насилия, сотрудники технологического гиганта были уверены, что должны действовать.
«Тридцать с лишним человек в компании, — вспоминает Хауген в своей новой книге, —Сила одного», созванный для определения «условий, при которых Facebook должен вмешаться и прекратить высказывания политических деятелей». Команда разработала предложение, в котором «предоставлены подробные критерии того, что считается высказыванием, грозящим общественным насилием», и когда Facebook должен удалять такие сообщения.
Однако был камень преткновения: если Facebook удалит посты индийских политиков на почве этнической ненависти, компания может быть вынуждена удалить и посты Дональда Трампа.
Тем не менее, все в команде Хаугена ожидали, что это предложение получит зеленый свет — главный операционный директор Шерил Сандберг сама согласилась с тем, что посты должны быть закрыты. В конце концов, все они хорошо знали, что произошло в Мьянме, когда правящая партия обратилась к Facebook, чтобы распространять ненавистную, подстрекающую к насилию пропаганду.
«Люди убивали своих соседей, — сказал мне Хауген.
Поэтому она вместе с остальной частью своей команды Civic Integrity была поражена, когда Цукерберг отклонил предложение. Неважно, что на отладку этой политики было потрачено бесчисленное количество часов с участием десятков экспертов компании. Им нужна была новая политика, которую Цукерберг сам написал за один уик-энд. Хауген понял, что Цукерберг мог поставить себе такие жесткие сроки, «потому что его политика была проста: Facebook ни при каких обстоятельствах не касался речи любого политика».
И это было так. Всю работу команды в одно мгновение отменил одинокий безупречный руководитель.
История, которую Хауген подробно рассказала мне во время недавней остановки в своем книжном туре, иллюстрирует, почему она чувствовала, что у нее не было другого выбора, кроме как дать свисток, если она надеялась спровоцировать перемены. Это также поражает то, что разрывает остальную часть сети, какой мы ее знаем.
В конце концов, не только Facebook стал свидетелем мрачных перспектив, охваченных скандалами и омраченных сомнительные деловые решения. Твиттер рушитсяего доход снижение более чем на 50%. Пользователи Reddit находятся в открытом восстании. В прошлом году критики предсказывали, что эпоха соцсетей подходила к концу. С каждым днем все больше и больше кажется, что они были правы.
Возможно, мы уже давно видели грядущий крах. Потому что есть парадокс, который объединяет все эти так называемые компании Web 2.0, которые полагаются на пользователей в создании, распространении и даже модерировании контента, и это неумолимо ведет к их краху. Все они обещали цифровую демократию, а создали диктатуру.
Корпоративная структура Facebook известна недемократический; отчасти благодаря совету одного из первых инвесторов и члена совета директоров Питера Тиля, Цукерберг организовал его компания в некотором роде в результате он получил 58% голосов акционеров. Он имеет почти абсолютную власть над своей обширной империей социальных сетей. Он не один.
С тех пор как Илон Маск купил Twitter, приватизировал компанию и уволил большую часть персонала, сайт управлялся исключительно по его прихоти. Вот как заявления об «абсолютизме свободы слова» живут наряду с быстро удовлетворенными просьбами удалить несогласные с постами в автократических странах, таких как Турция и Индия Моди. Вот как терпят ненавистнические высказывания, но учетные записи, отслеживающие общедоступные данные о полетах, не.
Никто больше не верит, что какая-то сплоченная политическая структура управляет Twitter — чего хочет Илон, тот и получает. Если его оскорбляют аккаунты, выдающие себя за него, будьте уверены, что скоро будет введена политика, запрещающая такую практику. То же самое с продуктами конкурентов, такими как Substack Notes или Mastodon; если они будут рассматриваться как угроза, будет реализована политика, ограничивающая их распространение в Твиттере.
Даже новый исполнительный директор Линда Яккарино, нанятая в явной попытке вернуть убегающих рекламодателей, до сих пор относится к Маску как «босс». Понятно, кто всем заправляет. В этом он как Цукерберг.
Вы могли бы сказать, большое дело; эти люди являются руководителями крупных компаний. Это то, что они делают. Но Facebook и Twitter не похожи на другие компании. Это социальные сети, которые обеспечивают важнейшую цифровую инфраструктуру для сотен миллионов людей. И это компании, которые зарекомендовали себя как предвестники и посредники демократизация — Facebook заявление о миссии заключается в том, чтобы «дать людям возможность построить сообщество и сблизить мир». (Его Предыдущая было «сделать мир более открытым и взаимосвязанным»).цифровая городская площадь».
Но Маск и Цукерберг не обеспечивают демократию и не улучшают сообщества — они даже не управляют общественными организациями. Они делают что-то близкое к полярной противоположности.
Это противоречие между многогранными потребностями миллионов пользователей крупнейших социальных сетей Интернета и все более авторитарным способом управления ими, наконец, стало несостоятельным. Крайне сложные потребности сотен миллионов людей, сосуществующих в онлайн-пространстве, не могут и никогда не будут удовлетворены руководителями, которые в конечном счете нелюбопытны и нетерпимы к демократическим принципам в своих организациях.
И непонятно, что пользователи могут с этим поделать. В большинстве публичных компаний есть механизмы для отстранения потерявшего доверие топ-менеджера от власти — но не в Facebook. А поскольку Twitter является частной компанией, а платформа, на которой она работает, очень и очень общедоступна, Маск может управлять ею по своему усмотрению.
Благодаря утечкам Хаугена у нас есть представление изнутри о том, сколько раз люди в Facebook поднимали тревогу или разрабатывали тщательно продуманное решение для решения постоянной проблемы только для того, чтобы увидеть, как оно разлетается по ветру. Группы, пытающиеся обуздать токсичность или предотвратить будущие геноциды растворяются.
Что касается Твиттера, то в наши дни в нем даже чувствуется диктатура — мало того, что базовая инфраструктура разваливается, функции выходят из строя направо и налево, а политика создается на основе того, что разозлило Маска прошлой ночью, но и те кто присягает на верность лидеру, внося ежемесячную плату в администрацию, получает специальный значок и привилегию прыгать без очереди в ответах. (Это говорит о том, что наиболее значимой проверкой мощи Твиттера может быть Цукерберг в форме потоков, почти клона Твиттера, который набрал десятки миллионов пользователей с тех пор, как Facebook запустил его в среду.)
Хуже всего, пожалуй, то, что подход Маска и Цукерберга на данный момент побеждает. Стив Хаффман, исполнительный директор Reddit, который во многом стал возможен благодаря добровольному труду модераторов, которые управляют очень популярными форумами или сабреддитами сайтов, недавно решил радикально изменить политику и начать взимать непомерную плату за доступ к данным и функциям. раньше был бесплатным. Он прямо сказал, что его вдохновил Маск.
В результате многие из тех модераторов, которые так долго бесплатно работали над созданием сообществ на сайте, закрыли свои сабреддиты в знак протеста. Противоречия между генеральным директором и неоплачиваемыми добровольцами продолжаются и по сей день.
«Эта серия иллюстрирует основное напряжение, лежащее в основе парадигмы Web 2.0», — Бен Тарнофф, автор книги Интернет для людей, технический работник и соучредитель Logic Magazine, говорит мне. «С одной стороны, вам нужно добиться активного участия ваших пользователей, чтобы создать онлайн-среду, в которой люди хотят проводить время. Вам нужно создать «сообщество», другими словами — основную концепцию Web 2.0».
Так же, как Facebook и Twitter стремились сделать. Но это также вносит риск. «Пользователи могут начать обоснованно чувствовать, что, поскольку именно их деятельность поддерживает сайт, они должны иметь какое-то право голоса в том, как сайт работает», — говорит Тарнофф.
«Однако в конечном итоге они натолкнутся на ограничения по той же причине, по которой общественное самоуправление несовместимо со структурой собственности капиталистической фирмы и ее структурным императивом максимизировать прибыль».
Послушайте, этот императив был всегда там. Эти компании и близко не подошли к выполнению своих коммунитаристских и демократических обещаний — для этого не было денежного стимула. (Обратите внимание, что созданные пользователями веб-сайты, которые являются все еще процветают некоммерческие организации, такие как Википедия.)
В конечном счете, мотив прибыли, заложенный в Web 2.0 с самого начала, должен был вытеснить любой интерес к поддержанию сильных сообществ, и мы просто наблюдаем, как это проявляется наиболее резко в двух случаях, когда руководители наверху консолидировали наибольшую власть и меньше всего интересуются пользователями, которые проводят там время, или людьми в компании, пытающимися его улучшить.
Это признают даже инвесторы. «Неразумно концентрировать столько власти в одном человеке», — активист-акционер Йонас Крон. сказал на собрании акционеров Facebook в 2019 году, как часть обреченной попытки принять резолюцию об уменьшении власти Цукерберга. Большинство акционеров проголосовало за, но это не имело значения, потому что он владеет большим количеством акций.
И если бы существовал орган, способный ограничить неустойчивое поведение Маскса в сети, компания получила бы огромную прибыль — рекламодатели, которые приносили 90% доходов Twitter до Маска, вполне могли бы вернуться, во-первых. Но при диктатуре социальных сетей нет механизма для призыва к таким изменениям.
Или любые другие изменения. Последнее десятилетие дало нам целый ряд примеров токсичности, преследований, расизма, пропаганды, разжигания ненависти и подстрекательства к насилию, которые могут процветать в социальных сетях, когда ими управляют безответственные лидеры с недемократическими правилами. «Когда они распустили команду Civic Integrity, — сказал Хауген, — тогда я знал, что внутри ничего не изменится».
Ее разоблачение не привело к падению стен — на самом деле, в США Facebook до сих пор почти не столкнулся с прямыми юридическими последствиями, несмотря на многочисленные задокументированные правонарушения. Но это не значит, что он неуязвим.
«Есть поговорка, — сказал мне Хауген, перефразируя цитату Хемингуэя, — что все происходит медленно, а потом все сразу».
Да, диктатуры могут существовать долго. Они также могут стать ломкими, причем на удивление быстро. И они могут рухнуть.