Facebook в понедельник пообещал удалить некоторые «вводящие в заблуждение манипулируемые медиа»: видео, отредактированные или синтезированные способами, которые не очевидны для обычного человека, что, вероятно, ввело бы в заблуждение зрителей, полагавших, что субъекты видео говорят слова, которые они не сказал; продукты искусственного интеллекта или машинного обучения, которые объединяют, объединяют, заменяют или накладывают контент на видео, создавая фальшивое видео, которое кажется подлинным.
Новая политика не применяется к контенту, который является пародией или сатирой, или к видео, отредактированным, чтобы пропустить слова или изменить порядок произнесенных слов.
Видео, которые не соответствуют критериям удаления Facebook, по-прежнему могут быть просмотрены независимыми сторонними контролерами фактов Facebook — более 50 партнеров по всему миру, которые проводят проверку фактов на более чем 40 языках.
Facebook «значительно сократит» распространение в новостных лентах фотографий или видеороликов, отмеченных контролерами фактов. Такие фотографии или видео будут отклонены, если они показываются в качестве рекламы. Люди, которые видят, пытаются поделиться или уже поделились такими фотографиями или видео, будут предупреждены, что они ложные.
«Если бы мы просто удалили все манипулируемые видео, помеченные контролерами фактов как ложные, они все равно были бы доступны в других местах в Интернете или в экосистеме социальных сетей», — отметила Моника Бикерт, вице-президент Facebook по управлению глобальной политикой. «Оставляя их и помечая их как ложные, мы предоставляем людям важную информацию и контекст».
Однако программа проверки фактов не применяется к постам, истолкованным как политическая речь.
Содержание статьи
Крупные лазейки
Запрет также должен применяться к видео, отредактированным для пропуска слов или изменения порядка их произнесения, утверждает Роб Эндерле, главный аналитик группы Enderle.
«Любое изменение, кроме удаления фонового шума и артефактов за пределами контроля говорящего, эффективно изменяет запись и может изменить то, как люди видят говорящего или интерпретируют то, что они говорят», — сказал он E-Commerce Times.
В нынешнем виде запрет «подразумевает, что вы можете изменить видео с помощью видеоредактора, и тогда все будет в порядке», — сказал Эндерле. «Учитывая, что у нас есть государственные игроки, пытающиеся изменить восприятие и выборы, этого недостаточно, чтобы преодолеть препятствие для защиты от манипуляций и мошенничества».
Например, Twitter отказался удалить видео кандидата в президенты. Джо Байден манипулировал, чтобы показать, что он поддерживает белый национализм, отметила Лиз Миллер, главный аналитик в Constellation Research.
«Поскольку само видео не было фальшивкой и имело место редактирование контекста, они чувствовали, что оно не идет вразрез с их политикой», — сказала она E-Commerce Times.
Глубокая путаница
«Все пытаются это выяснить», — сказал Миллер. «Это становится сложной проблемой, ставшей еще более хаотичной из-за отсутствия понимания или реального понимания того, о чем говорят люди».
Когда видео отредактировано для удаления контекста и, таким образом, вводит в заблуждение подделка или мошенничество? она задавалась вопросом. Когда видео, в котором сохраняются слова и контекст, но при этом звук замедлен, чтобы объект казался пьяным, был фальшивым, специально созданным для того, чтобы вредить сатире?
Примечательно, что запрет не будет распространяться на распространил видео спикера палаты представителей Нэнси Пелоси со звуком, замедленным, чтобы искусственно размять ее речь, потому что она не была сгенерирована AI.
Тем не менее, Twitter предложил планы маркировать контент, который является фальшивым, вводящим в заблуждение или искусственно манипулируемым или созданным с использованием искусственного интеллекта, сказал Миллер.
«Фейсбук» изобразил свою борьбу с фальшивыми подделками как часть более масштабных усилий по борьбе с фальшивыми новостями и дезинформацией, которая включает в себя сотрудничество с различными организациями и высшими учебными заведениями, а также сторонними контролерами фактов.
В прошлом году компания запустила «Deep Fake Detection Challenge», чтобы стимулировать исследования и создание инструментов с открытым исходным кодом для обнаружения глубоких подделок.
Вопрос этики
«Существует вопрос этического производства и явного мошенничества. В мире, который не может самостоятельно регулировать этическое поведение, необходимо установить направляющие», Миллер сказал.
«Фейсбук становится землёй тех, кто занимается этим, частной жизнью и безопасностью», — отметила она. «Если бы они действительно хотели бороться с поддельными новостями и дезинформацией, они бы попросили стороннего аналитика или исследовательскую группу проанализировать каждый источник, проверяющий факты, чтобы дать безупречную оценку правдивости и способности дать фактический ответ».
Фальшивый запрет Facebook «будет настолько эффективен, насколько эффективны инструменты, применяемые для его применения. Если они применяют надежный алгоритм и имеют по-настоящему нейтральных оценщиков, проверяющих точность, то у них есть шанс на эффективность», — отметил Миллер.
«Я думаю, что они не знают, как правильно назвать свободу слова и цензуру», — сказал Рэй Ванг, главный аналитик Constellation Research.
«Избирательный подход делает его непонятным», — сказал он E-Commerce Times.
В Facebook есть технология, позволяющая реализовать свою стратегию, сказал Ван. «Я думаю, что они поправятся со временем». 
