Facebook объявил о том, что удалит видео, измененные с помощью искусственного интеллекта, известного как deepfakes, со своей платформы.
Deepfakes — это сгенерированные компьютером клипы, которые разработаны так, чтобы выглядеть реально.
Компания соцмедиа заявила в блоге что эти видеоролики искажают реальность и представляют собой «серьезную проблему» для технологической индустрии.
Хотя глубокие подделки все еще относительно редки в в интернете они становятся все более распространенными.
Программное обеспечение искусственного интеллекта создает глубокие подделки людей — часто политиков или знаменитостей — путем слияния, замены или наложения контента на видео таким образом, чтобы оно выглядело реальным.
Facebook сказал, что удалит видео, если обнаружит, что они были отредактированы способами, которые не были очевидны для обычного человека, или если они вводили зрителя в заблуждение, заставляя его думать, что человек в видео сказал слова, которые он не сделал на самом деле сказать.
«Есть люди, которые занимаются манипулированием СМИ, чтобы ввести в заблуждение», — пишет в своем блоге Моника Бикерт, вице-президент по управлению глобальной политикой в Facebook.
Сотрудники Facebook и независимые проверщики фактов будут использоваться для оценки подлинности видео.
Новая политика не будет применяться к пародийным или сатирическим видео.
«Сложная область»
В сентябре прошлого года Facebook объявил что он внес 10 млн долларов (7,6 млн фунтов) в фонд для улучшения технологий обнаружения фальшивых поддельных устройств.
Марк Цукерберг, исполнительный директор Facebook, сам снялся в фальшивом видео. В клипе была представлена компьютерная версия Цукерберга, приписывающая скрытную организацию успеху социальной сети.
Уильям Тунсталь-Педо, ученый-компьютерщик, который продал свою компанию ИИ Amazon, сообщил BBC News, что Facebook заслуживает заслуга в попытке справиться с «трудной областью».
«Тот факт, что видео является фальшивым и намеревается ввести в заблуждение, является ключевым моментом для меня», — сказал он. «Используются ли сложные методы искусственного интеллекта или менее сложные методы», не имеет значения ».
Другие компании, такие как Google и Microsoft, также пытаются бороться с подделками.
Facebook заявил, что планирует работать с научными кругами, правительством и бизнесом, чтобы разоблачить людей, скрывающихся за мошенниками.
Калифорнийский технологический гигант добавил, что он будет продолжать удалять все видео, которые включают обнаженные тела, графическое насилие, подавление избирателей и ненавистнические высказывания.
Измененное видео американского политика
Facebook подвергся критике за отказавшегося удалить измененное видео спикера Палаты представителей США Нэнси Пелоси, которое стало вирусным прошлым летом. Видео отредактировано, чтобы оно выглядело так, как будто она излагает свои слова.
Однако Facebook сообщил Reuters что не будет снимать видео в соответствии с новой политикой.
«Видеозапись спикера Пелоси не соответствует стандартам этой политики и не будет удалена», — говорится в сообщении компании.
«Только видео, созданные искусственным интеллектом для изображения людей, рассказывающих выдуманные вещи, будут сняты».
