Более 680 000 женщин понятия не имеют, что их фотографии были загружены в бота в приложении для обмена сообщениями Telegram для создания фотореалистичных смоделированных изображений обнаженной натуры без их ведома или согласия. по данным технических исследователей.
Инструмент позволяет людям создавать дипфейк, компьютерное изображение жертвы из одной фотографии.
Sensity, компания по разведке визуальных угроз со штаб-квартирой в Амстердаме обнаружил сеть Telegram, состоящую из 101080 участников 70% из которых, судя по всему, проживали в России или Восточной Европе.
«Это уникальное, потому что это не просто люди разговаривают или делятся людьми контент, он на самом деле встроен в Telegram, и мы не нашли ничего подобного », — сказал Джорджио Патрини, генеральный директор и главный научный сотрудник Sensity.
В приложение было опубликовано около 104 852 изображения женщин, из которых 70% фотографий из социальных сетей или частных источников. Некоторые из этих жертв оказались несовершеннолетними. По словам исследователей, остальные изображения, вероятно, были предоставлены в частном порядке.
В отличие от алгоритмов, которые создают дипфейк-видео, в том числе сексуальные видео без согласия, бот Telegram не нуждается в тысячах изображений для работы. Ему нужен только один, «что на самом деле является причиной того, почему так много частных лиц подвергается нападению, потому что для этого достаточно всего одной фотографии профиля из Facebook», — сказал Патрини.
Это преследование, похоже, происходит без знание или согласие сфотографированных женщин, подавляющее большинство которых являются частными лицами, а не знаменитостями или влиятельными лицами.
«Как только вы поделитесь своими изображениями или видеороликами, вы, возможно, не будете так осведомлены о конфиденциальности », — сказал Патрини, — сказал Патрини.
Нина Янкович, автор кто может его увидеть, кто может его украсть, кто может загрузить без вашего ведома, это действительно открывает возможность нападения на вас. «Как проиграть информационную войну» говорит, что это приложение показывает, что дипфейки выходят за рамки политики. По мнению Янковича, опасения по поводу последствий для национальной безопасности убедительного фальшивого видео обходят тот факт, что технология в основном используется для жестокого обращения с женщинами.
«Это действительно беспокоит, насколько она доступна», — сказал Янкович. «Откровенно говоря, то, что мы видели как свидетельство растущего феномена глубоких фейков, — например, маленькие глупые видео с Джо Байденом, которыми поделился президент Трамп, — гораздо менее изощренно, чем то, о чем вы говорите.
Янкович сказал, что приложение имеет огромное значение для женщин во всем мире, особенно в более социально консервативных странах, таких как Россия. Жертвы могут оказаться под угрозой потери работы и средств к существованию, если будет обнародована убедительная, но фальшивая фотография обнаженной натуры. Некоторые могут столкнуться с насилием со стороны партнера.
«По сути, эти дипфейки используются либо для того, чтобы воплотить в жизнь какую-то болезненную фантазию замкнутого любовника или парня, либо просто полнейшего чудака», — сказал Янковиц. используются в качестве материала для потенциального шантажа ».
Приложение и легкость доступа говорят о более широких темах онлайн-домогательств и жестокого обращения, с которыми женщины сталкиваются в сети — с чем Янкович имеет опыт не понаслышке.
« Это является неотъемлемой частью более широкого насилия и домогательств, с которыми женщины сталкиваются в онлайн-среде, будь то троллинг или гендерное и сексуальное насилие, исходящее со всех сторон политического спектра », — сказал Янкович. «Его используют как орудие вытеснения женщин из публичной сферы. Это просто продолжение этого ».
Хотя Патрини и его команда не нашли доказательств того, что эти изображения использовались для вымогательства женщин, они опасаются, что такая возможность быстро приближается.
Deepfake обнаженные часто нацелены на знаменитостей но эта сеть, похоже, больше ориентирована на людей, которые не известны. Согласно опросу, проведенному Sensity среди людей, использующих инструмент, 63% тех, кто использовал его, заявили, что их интересуют женщины, которых они знают.
«По крайней мере, в отрасли это известная проблема до некоторой степени. , — сказал Патрини, — но мне действительно трудно поверить, что на уровне частных лиц это известно кому-либо ».
Согласно Sensity,« все конфиденциальные данные, обнаруженные в ходе расследования, подробно описанного в этом отчете, были раскрыты. с Telegram, [Russian social media site] VK и соответствующими правоохранительными органами. Мы не получили никакого ответа от телеграмм или ОК на момент публикации этого доклада.»
Patrini отметил, что так называемый„порно бот“ перейти к терминам, Телеграмма в эксплуатации.
Бот рекламировался в ВК, а активность по поиску Sensity находилась на 380 страницах сайта.
Этот инструмент, название которого BuzzFeed News отказывается назвать, позволяет людям создавать дипфейки на мобильных телефонах, генерируя удаленно изображения перед отправкой их обратно пользователю. Бот, который работает только с изображениями женщин, предоставляет изображения с водяными знаками бесплатно и изображения без водяных знаков за плату в размере около 1,50 доллара США. Клиенты также могут зарабатывать деньги, направляя других в службу.
«Это феномен превращения этой технологии в товар», — сказал Патрини. «Не требуются технические навыки, специализированное оборудование, специальная инфраструктура или доступ к конкретным службам, до которых трудно добраться».
Согласно Sensity, семь каналов Telegram, использующих бота, к концу привлекли в общей сложности 103 585 участников. июля, года с момента запуска инструмента, с самым посещаемым каналом, на котором присутствовало 45 615 человек.
Патрини повторил, что в то время как многие люди опасаются того, что технология deepfake может быть использована в политике , его фактическое широкое распространение — эксплуатация женщин в сети.
«Это не проблема высокой системы демократии, по крайней мере в первую очередь. Это проблема не только для общественных деятелей и знаменитостей, но, к сожалению, довольно скоро, это станет проблемой для всех », — сказал Патрини. «Это уже сегодня проблема для сотен тысяч людей».
