Это был октябрь 2020 года, теории предвыборного заговора угрожали разорвать Америку по швам, а Джессика Гонсалес пыталась заполучить одну из самых влиятельных компаний в мире.
Все шло не так.
После нескольких месяцев попыток войти в их календарь Гонсалес — со-руководитель группы по защите интересов СМИ Free Press — наконец-то удалось организовать встречу с некоторыми сотрудниками Facebook, ответственными за соблюдение стандартов сообщества социальной платформы. Проблема: распространение вирусной дезинформации среди латиноамериканских и испаноязычных пользователей Facebook.
По всей стране поток вводящих в заблуждение СМИ распространял ложь и полуправду на английском и испанском языках. местные латиноамериканские общины. Иногда дезинформация отражала то, что видела остальная часть страны: разжигание страха по поводу почтовых бюллетеней и антифашистских линчевателей или теории заговора о глубинном государстве и COVID-19. В других случаях это касалось более специфических для латиноамериканцев проблем, таких как сравнение кандидата Джо Байдена с латиноамериканскими диктаторами или утверждение что активисты Black Lives Matter использовали brujería — то есть колдовство.
Логотип Facebook в Париже в 2017 году.
(Тибо Камю / Associated Press)
Большая часть фейковых новостей распространялась в социальных сетях, через YouTube, Twitter и, в основном, Facebook, WhatsApp и Instagram. Все три принадлежат одной и той же зонтичной компании, которая недавно переименовала в Meta.
«Те же самые темы, которые появлялись на английском языке, также проявлялись на испанском», — вспоминал Гонсалес. . «Но на английском их либо помечали, либо снимали совсем, а на испанском их оставляли; или, если их снимали, на их снятие уходили дни и дни ».
Free Press кратко отметила проблему в июле 2020 года во время встречи с генеральным директором Марком Цукербергом. Гонсалес потратил месяцы с тех пор, как пытался завязать еще один, более предметный разговор. Так вот, это действительно происходило.
На встрече присутствовали директор по общественной политике Facebook по борьбе с терроризмом и опасными организациями, глобальный директор по рискам и реагированию, а также несколько членов политической команды компании, согласно записям встречи, рассмотренной The Times.
Однако разговоры пошли не так, как надеялся Гонсалес.
На экране устройства в Саусалито, Калифорния, генеральный директор Facebook Марк Цукерберг объявляет новое название компании, Meta, во время виртуального мероприятия 28 октября.
(Eric Risberg / Associated Press)
«У нас было много конкретных вопросов, на которые они совершенно не ответили», — сказала она. «Например, мы спросили их, кто отвечает за обеспечение целостности модерации контента на испанском языке? Они не сказали бы нам ответа на этот вопрос, и даже если бы этот человек существовал. Мы спросили, сколько у вас модераторов контента на испанском? Они отказались [answer] на этот вопрос. Сколько людей, модерирующих контент на испанском, проживают в США? … Нет ответа ».
« Нас постоянно встречали почти так же, как и другие группы, работающие над дезинформацией или разжиганием ненависти », — добавила она:« С кучей пустых обещаний и отсутствием подробности ».
Не только« Свободная пресса »сочла Facebook менее чем идеальным партнером в борьбе с испаноязычной и латино-ориентированной дезинформацией. Через несколько дней после выборов он и почти 20 других групп по защите интересов, многие из которых ориентированы на латиноамериканский язык, направили Цукербергу письмо, в котором критиковали его «бездействие и поддержку таргетинга, манипуляции и лишения прав пользователей латиноамериканского языка» во время выборов, несмотря на « неоднократные попытки »подписавшихся предупредить его об их озабоченности.
« Facebook вообще не был прозрачным », — сказал Якобо Ликона, исследователь дезинформации из латиноамериканской группы взаимодействия с избирателями Equis Labs. Более того, по его словам, он «не сотрудничал с законодателями или организациями, обслуживающими латиноамериканцев», работающими над дезинформацией.
Но внутри Facebook сотрудники уже несколько месяцев поднимают собственные красные флаги, призывая к более сильным корпоративный ответ на кампании дезинформации, которые проводила их компания.
Это сквозная линия из множества корпоративных отчетов, заметок и журналов чатов, недавно обнародованных информатором и бывшим сотрудником Facebook Фрэнсис Хауген.
Бывшая сотрудница Facebook Фрэнсис Хауген выступает на слушаниях подкомитета Сената по торговле, науке и транспорту по защите потребителей, безопасности продуктов и безопасности данных на Капитолийском холме 5 октября в Вашингтоне.
( Алекс Брэндон / Ассошиэйтед Пресс)
«Мы не умеем обнаруживать дезинформацию на испанском языке или во множестве других типов носителей», — говорится в одном из таких документов, оценке рисков продукта от февраля 2020 года, включенной в раскрытие информации для ценных бумаг и бирж. Комиссии и предоставлены Конгрессу в отредактированном виде юрисконсультом Хаугена. Консорциум новостных организаций, в том числе Los Angeles Times, получил отредактированные версии, полученные Конгрессом.
В том же документе позже добавляется: «У нас все еще будут пробелы в обнаружении и обеспечении соблюдения, особенно. для испанского ».
В следующем месяце другой внутренний отчет предупредил, что у Facebook« нет политики защиты от целенаправленного подавления (например, ICE на избирательных участках) », намекая на опасения, что латиноамериканские избиратели будут отговорены от явки голосовать, если им ложно сказали, что иммиграционные власти будут присутствовать на избирательных участках.
Отчет имеет ярко-красную маркировку: высокий риск, низкая готовность.
Позже, в к оценке способности компании справляться с вирусной дезинформацией, в отчете добавлено: «Пробелы в обнаружении все еще существуют (например, различные типы СМИ, публикации на испанском языке и т. д.)»
В третьем внутреннем отчете указывается на расовые группы с низким уровнем исторические показатели участия избирателей в качестве одной из основных подгрупп пользователей Facebook, подвергающихся повышенному риску из-за усилий по лишению избирательных прав. Латиноамериканцы входят в число этих групп.
Эти опасения окажутся пророческими по мере приближения выборов.
«Дезинформация, направленная на латиноамериканцев на английском и испанском языках, происходила по всей стране, особенно в местах с более высоким населением латиноамериканцев», включая Калифорнию, Техас, Флориду, Нью-Йорк и Аризону, — сказал Ликона, исследователь дезинформации. «Facebook был и остается крупным игроком».
Представитель компании Кевин Макалистер сказал The Times, что Facebook предпринял «ряд шагов» перед выборами 2020 года для борьбы с дезинформацией на испанском языке.
«Мы создали испанскую версию нашего информационного центра для голосования, где люди могли найти точную информацию о выборах, расширили нашу политику вмешательства в голосование и ввели ее в действие на испанском языке и добавили двух новых партнеров из США по проверке фактов, которые просматривают контент на испанском языке в Facebook. и Instagram », — сказал Макалистер. «Мы вложили средства во внутренние исследования, чтобы помочь командам заранее определить, где мы могли бы улучшить наши продукты и политику в преддверии выборов в США в 2020 году».
Другие более широкие меры, объявленные в то время, включали отказ от принятия каких-либо новых политических объявлений в течение недели. до дня выборов и устранение дезинформации об условиях голосования за три дня до дня выборов.
Ко дню выборов компания сообщила об удалении более 265 000 сообщений в Facebook и Instagram, нарушающих ее политику вмешательства в процесс голосования, и добавила предупреждающие надписи к более чем 180 миллионам проверенных фактов дезинформации.
В июньском сообщении 2020 года на своей личной странице в Facebook Цукерберг пообещал «запретить сообщения, содержащие ложные утверждения о том, что агенты ICE проверяют иммиграционные документы на избирательных участках, что является тактикой, используемой для предотвращения голосования».
Компания также сообщила, что четыре из ее 10 партнеров по проверке фактов в США обрабатывают контент на испанском языке.
Однако проблемы, с которыми сталкиваются латиноамериканцы в Facebook, WhatsApp и Instagram, выходят за рамки какого-либо одного избирательного цикла, свидетельствуют утечки Хаугена.
Информатор Facebook Фрэнсис Хоген уходит после дачи показаний объединенному комитету по проекту закона о безопасности в Интернете в рамках планов правительства Великобритании по регулированию социальных сетей в здании парламента в Лондоне 25 октября.
(Мэтт Данхэм / Ассошиэйтед Пресс)
В 2019 году Facebook опубликовал внутреннее исследование, посвященное попыткам отговорить людей от участия в переписи населения США и тому, как пользователи восприняли реакцию компании на эти усилия.
Среди сообщений, о которых пользователи сообщали в Facebook, были сообщения, «говорящие латиноамериканцам [s] не заполнять форму»; «Запретить выходцам из Латинской Америки отвечать на вопросы о гражданстве»; заявив, что людям «грозит депортация, если они примут участие»; подразумевая, что правительство «получит» участвующих иммигрантов; и «отговаривать этнические группы» от участия.
Исследователи Facebook также изучили возможность того, что обилие антииммигрантской риторики на сайте сильно сказывается на психическом благополучии латиноамериканцев.
Обсуждая одно исследование с коллегами на внутренней доске сообщений, исследователь прокомментировал: «Мы действительно хотели оценить, пострадали ли уязвимые группы населения по-разному, поэтому мы сравнили, как себя чувствовали Latinx [users] по сравнению с остальными участниками, учитывая разоблачение враждебной антииммиграционной риторики. Мы обнаружили, что они выражали более высокий уровень разочарования и гнева, особенно после того, как увидели контент с нарушением правил ».
На других досках сообщений сотрудники беспокоились, что продукция компании может способствовать более широкому расовому неравенству.
«Хотя у нас, по-видимому, нет никакой политики, направленной на ущемление меньшинств, у нас определенно есть политика / », — написал один сотрудник на форуме под названием« Идеи добросовестности для борьбы с расовой несправедливостью ». «Мы должны всесторонне изучить, как наши решения и как механизмы социальных сетей поддерживают или не поддерживают сообщества меньшинств».
Другой пост в той же группе расовой справедливости призвал компанию стать более прозрачной в отношении XCheck, программы разработан, чтобы дать известным пользователям Facebook более качественную модерацию контента которая на практике освобождает многих от соблюдения правил. «XCheck — это наша техническая реализация двойного стандарта», — написал сотрудник
(За исключением нескольких руководителей высшего звена, имена отдельных сотрудников Facebook были отредактированы из документов, переданных The Times.)
Как следует из этих внутренних сообщений, Facebook — крупная компания с десятками тысяч сотрудников — не является монолитом. Утечка документов свидетельствует о существенном разногласии между персоналом по всем видам проблем, с которыми сталкивается фирма, включая дезинформацию.
Оценка риска продукта за 2020 год указывает на одну из таких областей несогласия. Отмечая, что обнаружение дезинформации на испанском языке остается «очень низкоэффективным», в отчете предлагается следующая рекомендация: «Просто продолжайте пытаться улучшаться. Добавление ресурсов не поможет ».
Не всех удовлетворил этот ответ.
« Для дезинфо это кажется неправильным… любопытно, почему мы говорим, что добавление ресурсов не поможет ? », — спросил один из сотрудников в комментарии. «Насколько я понимаю, у нас есть 1 неполный рабочий день [software engineer]посвященный обнаружению [Instagram] прямо сейчас».
Во втором комментарии добавлено, что целевая дезинформация «является большим пробелом. … Отметить, что сейчас у нас нет доступных ресурсов для поддержки любой работы, которая может здесь потребоваться ». (Из-за исправлений невозможно определить, стоит ли за обоими комментариями один и тот же сотрудник.)
В общении с внешним миром, в том числе с законодателями, компания подчеркивала силу своей модерации испаноязычного контента, а не опасения. воспитан собственными сотрудниками.
«Мы проводим проверку контента на испанском языке 24 часа в сутки на нескольких глобальных сайтах», — написала компания в мае в заявлении Конгрессу. «Испанский — один из наиболее распространенных языков, используемых на наших платформах, а также один из самых ресурсоемких языков, когда речь идет о проверке контента».
Марк Цукерберг, председатель и главный исполнительный директор Facebook, выступает на саммите генеральных директоров во время ежегодного форума Азиатско-Тихоокеанского экономического сотрудничества (АТЭС) в Лиме, Перу, в 2016 году.
(Эндрю Харник / Associated Press)
Два месяца спустя почти 30 сенаторов и членов Конгресса направили в компанию письмо в котором выражалось беспокойство по поводу того, что протоколы модерации контента все еще не в состоянии остановить поток дезинформации на испанском языке. .
«Мы призываем вас публиковать конкретные и четкие данные, демонстрирующие ресурсы, которые вы в настоящее время выделяете для защиты лиц, не говорящих по-английски, от дезинформации, дезинформации и незаконного контента на ваших платформах», — заявила группа Цукербергу, а также его коллеги из YouTube, Twitter и Nextdoor.
Ответ Цукерберга, который снова подчеркивал ресурсы и людские ресурсы, которые компания вкладывала в модерацию неанглоязычного контента, оставил их разочарованными.
«Мы получили ответ от Facebook, и на самом деле он был почти таким же — никаких конкретных, прямых ответов ни на один из наших вопросов», — сказал представитель палаты представителей Тони Карденас (D-Pacoima), один из он возглавлял подписантов этого письма.
В последующем интервью The Times сам Карденас сказал, что считает свои отношения с Facebook «в основном бесполезными». Во время слушаний в Конгрессе Цукерберг «пытался создать впечатление, будто они делают все, что могут: они делают огромные успехи; все, что они могут сделать, они делают; инвестиции, которые они делают, глубокие, большие и уместные ».
« Но когда вы просматриваете его ответы, в них очень мало деталей », — добавил Карденас. «Они были более вдохновляющими и слегка извиняющимися, но вовсе не основанными на фактах».
Это распространенное мнение на Капитолийском холме.
«Онлайн-платформы делают недостаточно, чтобы остановить» цифровую дезинформацию Сенатор Эми Клобучар (демократ от штата Миннесота) заявила в своем заявлении, что «когда дело доходит до неанглоязычной дезинформации, их послужной список еще хуже. … Вы все еще можете найти испаноязычные сообщения в Facebook за ноябрь 2020 года, пропагандирующие ложь о выборах без каких-либо предупреждений ».
Rep. Александрия Окасио-Кортес (DN.Y.) слушает выступление спикера Палаты представителей Нэнси Пелоси (демократ от Сан-Франциско) во время пресс-конференции 16 июня в Капитолии в Вашингтоне.
(J. Scott Applewhite / Associated Press )
«Я уже говорил это раньше и повторяю снова: кампании дезинформации на испанском языке стремительно набирают обороты в социальных сетях, таких как Facebook, WhatsApp и т. Д.», — сказала член палаты представителей Александрия Окасио. Кортез (DN.Y.) сказал в недавнем твите. «Это посрамляет кампании по дезинформации на английском языке в США».
Группы защиты латиноамериканцев также были критичны. UnidosUS (бывший Национальный совет Ла-Разы) недавно разорвал отношения с Facebook, вернув грант от компании из-за разочарования «ролью, которую платформа сыграла в преднамеренном сохранении продуктов и политик, наносящих вред латиноамериканцам. сообщества ».
Тем не менее, несмотря на всю озабоченность изнутри — и критику извне — испанский язык является относительно хорошо поддерживаемым языком — по стандартам Facebook.
Одна просочившаяся записка от 2021 года разбивает разные страны Под «охватом» — показатель, который Facebook использует для отслеживания того, сколько контента видят пользователи, на языке, поддерживаемом компанией « гражданский классификатор » (инструмент искусственного интеллекта, отвечающий за пометку политического контента для проверки людьми). Согласно этому отчету, единственная латиноамериканская страна, охват которой составляет менее 75%, — это Гаити, не говорящая по-испански. В США, со своей стороны, охват составляет 99,45%.
Отчет о расходах компании на 2020 год показывает, что второе место после английского по количеству часов, потраченных на работу, связанную с измерением и маркировкой языка ненависти, пошло на Контент на испанском языке.
Действительно, многие разоблачения, которые стали результатом утечек Хаугена, были сосредоточены на пробелах в охвате на других, менее обеспеченных ресурсами языках, особенно на Ближнем Востоке и в Азии.
Но чтобы те, кто стремится лучше защитить латиноамериканцев от целевой дезинформации, заявления Facebook о достаточных ресурсах — и обеспокоенность, высказываемая его собственными сотрудниками — поднимают вопрос, почему у него не все получается.
«Они всегда говорят:« Мы слышим вас, мы работаем над этим, мы пытаемся поправиться », — сказал Гонсалес. «А потом они просто ничего не делают».
