В августе, после мероприятия в Facebook, на котором в Кеноша, штат Висконсин, были застрелены двое протестующих, Марк Цукерберг назвал отказ компании ликвидировать страница мероприятия с просьбой к участникам боевиков принести оружие « оперативная ошибка ». Ранее в том же месяце была введена новая политика « ограничить » способность правых боевиков размещать сообщения или объединяться в группы, сказал генеральный директор Facebook, и в соответствии с этим правилом страница мероприятия должна была быть удалена .
BuzzFeed News, однако, стало известно, что Facebook также не смог обеспечить соблюдение отдельного годового призыва к политике в отношении вооружений, который конкретно запрещал страницам мероприятий поощрять людей приносить оружие для запугивания и преследования уязвимых лиц. Три источника, знакомые с практикой модерации контента в компании, сообщили BuzzFeed News, что Facebook не давал указаний сторонним модераторам контента применять часть своей политики призыва к вооружениям, которая была впервые введена в июне 2019 года.
«Что мы узнали. после того, как Кеноша говорит, что призыв Facebook к политике в отношении вооружений не просто провалился », — сказал Фархана Кера, исполнительный директор организации« Защитники мусульман », организации по защите гражданских прав, которая оказывала давление на Facebook с целью создания правила. «Он никогда не был изначально предназначен для правильного функционирования».
Отсутствие принуждения Facebook к его призыву к политике в отношении вооружений усугубило его неспособность предотвратить насилие в Кеноша, где ночью 25 августа вооруженные правые боевики прислушались к призыву в Facebook к контрпротестам против расстрела полицией 29-летнего чернокожего Джейкоба Блейка. Это также показывает, что, хотя Facebook рекламирует свою заявленную политику, соблюдение этих правил может быть бессистемным и затрудненным из-за внутренних ограничений, из-за которых его армия модераторов по контракту не может действовать перед лицом опасного контента и организаций.
On Понедельник, 15 сенаторов-демократов направили Цукербергу письмо в котором осудили Facebook за подстрекательство к насилию и разжиганию ненависти в отношении мусульман, а также за его неспособность обеспечить выполнение призыва к политике вооружений. Это прежнее правило было создано в значительной степени из-за давления со стороны мусульманских правозащитных групп, которые с 2015 года отметили несколько случаев, когда организаторы мероприятий в Facebook призывали последователей приносить оружие в мечети и другие места отправления культа.
«Мы понимаем, что подрядчики, просматривающие контент, сообщаемый пользователями, не имеют указаний обеспечивать соблюдение основного компонента призывов к политике в отношении вооружений», — писали Цукербергу сенаторы Крис Кунс, Элизабет Уоррен, Берни Сандерс и другие. «Не очевидно, что Facebook обеспечивает реальное соблюдение этой политики, и это неприемлемо».
Два источника, которые говорили на условиях анонимности, сказали BuzzFeed News, что после обсуждения с Facebook они узнали, что компания лишь выборочно применяла свой призыв к политике в отношении вооружений. Если, например, на странице мероприятия людей специально просили принести оружие в место отправления культа или в другое место с повышенным риском, сторонний модератор контента имел возможность отключить это событие.
Если однако на странице мероприятия людей просили принести оружие, но не было явного запугивания защищаемой группы или нацеливания на зону повышенного риска, сторонние модераторы не могли принять меры или принять решение в отношении страницы, сказали эти люди.
«Наша глобальная группа обозревателей контента обучена обеспечивать соблюдение наших политик, в том числе направленных против разжигания ненависти, насилия и подстрекательства, а также опасных организаций, но некоторые элементы наших политик требуют дополнительного контекста и опыта для обеспечения соблюдения, и в этих случаях это наши специализированные группы. которые просматривают этот контент и принимают соответствующие меры », — заявила представитель Facebook Лиз Буржуа.
Она не сказала конкретно, почему« специализированные команды »компании не предприняли действий с сообщениями, призывающими людей
Вы работаете в Facebook или другой технологической компании? Мы хотели бы услышать от вас. Обратитесь по адресу ryan.mac@buzzfeed.com craig.silverman@buzzfeed.com или через один из наших каналов концевой линии .
Отсутствие правоприменения в части политики призыва к вооружениям, которая была введена в июне 2019 года когда компания проходила аудит гражданских прав, является одной из причин, по которым мероприятие Kenosha в Facebook было приостановлено. онлайн спустя много времени после того, как это привело к гибели двух протестующих. Как ранее сообщал BuzzFeed News, пользователи Facebook отметили страницу мероприятия «Вооруженные граждане для защиты нашей жизни и собственности» в 455 раз раньше даты его начала в ночь на 25 августа, но четыре модератора сочла это «не нарушающим» каких-либо правил Facebook.
Во время общекорпоративного собрания в конце августа после ночи насилия Цукерберг признал, что компания допустила ошибку, не приняв участие в мероприятии. закрывается раньше, особенно потому, что она нарушила правило, в котором правые группы боевиков назывались «опасными людьми и организациями» за их празднование насилия.
Компания не поймала страницу, несмотря на сообщения пользователей, сказал Цукерберг, потому что Жалобы были отправлены подрядчикам по модерации контента, которые не разбирались в том, «как действуют определенные ополчения». «При второй проверке, сделав это более деликатно, группа, которая отвечала за опасные организации, признала, что это нарушает политику, и мы ее ликвидировали».
Цукерберг не упомянул призыв к политике в отношении вооружений, часть По словам Херы, Facebook не дал указание модераторам обеспечить соблюдение этого правила. Она рассказала BuzzFeed News, что вскоре после убийства в Кеноша представители мусульманских правозащитников позвонили членам команды по политике, контенту и опасным организациям Facebook, чтобы понять, что произошло.
«Основываясь на ответе Facebook, это стало ясно, что не только призыв к политике в отношении вооружений должен был применяться к странице мероприятия Kenosha Guard, но также и то, что люди, чья работа заключалась в получении жалоб на эту страницу, не были обучены обеспечивать соблюдение политики и не знали, что они должны были подавать жалобы на более высокий уровень насчет призыва к оружию », — сказала Хера. «В результате, когда начали поступать жалобы на Кеношу, рецензенты контента фактически отрицали их и ничего не усиливали».
Facebook теперь сталкивается с судебным иском от протестующих Black Lives Matter и партнер человека, убитого в Кеноша. В этом иске, который был подан в сентябре в федеральные суды штата Висконсин, утверждается, что Facebook допустил халатность, позволив группе боевиков Kenosha Guard остаться на своей платформе и в конечном итоге создать страницу мероприятия.
В предыдущих заявлениях Facebook сказал, что предполагаемый стрелок Кеноши не ответил на мероприятие Kenosha Guard и не подписался на его страницу. Остается неясным, просматривал ли он страницу или иным образом знал об этом событии.
«Кажется, это лишь вопрос времени, когда это повторится снова», — сказала Джоан Донован, директор по исследованиям Медиа-центра Шоренштейна. Политика и государственная политика. «Facebook должен противостоять своей бизнес-модели, которая отдает предпочтение масштабированию, а не общественному здоровью и благополучию».
Ожидается, что во вторник Цукерберг и генеральный директор Twitter Джек Дорси выступят с показаниями на судебных слушаниях в Сенате. об изучении цензуры и модерации платформ в крупнейших социальных сетях мира. В своем письме 15 сенаторов-демократов сигнализируют, что лидеру Facebook могут грозить многочисленные вопросы и критика во время мероприятия.
«Как члены Конгресса, глубоко обеспокоенные распространением этого разжигание ненависти на вашей платформе, мы призываем вас делать больше », — написали они.
Лектор Гарварда и исследователь модерации контента Эвелин Дук похвалила письмо сенаторов за попытку подчеркнуть разрыв между политическими объявлениями Facebook и их приложениями
«Мы дошли до того места, где для многих основных платформ их политика на бумаге в основном хороша и хороша», — сказала она. «Но всегда, всегда возникает вопрос:« Могут ли и будут ли они эффективно применять их? »
