Видеть не верить уже очень давно. Фотографии подделывались и манипулировались почти столько же, сколько существует фотография.
Теперь для того, чтобы фотографии выглядели подлинными, не требуется даже реальность — достаточно искусственного интеллекта, реагирующего на подсказку. Даже эксперты иногда затрудняются сказать, настоящий он или нет. Не могли бы вы?
Стремительное появление искусственного интеллекта вызвало тревогу: технологии, используемые для обмана людей, развиваются гораздо быстрее, чем технологии, которые могут распознавать уловки. Технологические компании, исследователи, фотоагентства и новостные организации изо всех сил стараются наверстать упущенное, пытаясь установить стандарты происхождения контента и прав собственности.
Достижения уже подпитывают дезинформацию и используются для разжигания политических разногласий. Авторитарные правительства создали, казалось бы, реалистичные новостные агентства для достижения своих политических целей. В прошлом месяце некоторые люди влюбились в изображения, на которых Папа Франциск в пухлой куртке от Balenciaga и землетрясение на северо-западе Тихого океана, хотя ни одного из этих событий не произошло. Изображения были созданы с помощью Midjourney, популярного генератора изображений.
Во вторник, когда бывший президент Дональд Дж. Трамп явился в офис окружного прокурора Манхэттена для предъявления уголовных обвинений, на Reddit появились изображения, созданные искусственным интеллектом, на которых актер Билл Мюррей является президентом Белого дома. Другое изображение, на котором г-н Трамп марширует перед большой толпой с американскими флагами на заднем плане, было быстро опубликовано в Твиттере без раскрытия, которое сопровождало исходный пост, отметив, что на самом деле это не фотография.
Эксперты опасаются, что технология может ускорить подрыв доверия к СМИ, правительству и обществу. Если любое изображение можно создать — и им можно манипулировать — как мы можем верить всему, что видим?
«Инструменты будут улучшаться, они будут дешеветь, и наступит день, когда нельзя будет поверить ничему, что вы видите в Интернете», — сказал Васим Халед, исполнительный директор Blackbird.AI, компании, которая помогает клиенты борются с дезинформацией.
Искусственный интеллект позволяет практически любому создавать сложные произведения искусства, подобные тем, которые сейчас выставлены в художественной галерее Гагосяна в Нью-Йорке, или реалистичные изображения, стирающие грань между реальностью и вымыслом. Добавьте текстовое описание, и технология может создать связанное изображение — никаких специальных навыков не требуется.
Часто есть намеки на то, что вирусные изображения были созданы компьютером, а не запечатлены в реальной жизни: например, у папы в роскошной одежде были очки, которые, казалось, сливались с его щекой, и расплывчатые пальцы. Художественные инструменты ИИ также часто создают бессмысленный текст. Вот некоторые примеры:
Однако быстрое развитие технологии устраняет многие из этих недостатков. Последняя версия Midjourney, выпущенная в прошлом месяце, способна изображать реалистичные руки, что, очевидно, ускользало от ранних инструментов визуализации.
За несколько дней до того, как г-н Трамп сдался, чтобы предстать перед судом в Нью-Йорке, фотографии его «ареста» распространились по социальным сетям. Они были созданы Элиотом Хиггинсом, британским журналистом и основателем Bellingcat, исследовательской организации с открытым исходным кодом. Он использовал Midjourney, чтобы представить арест бывшего президента, суд, заключение в оранжевом комбинезоне и побег через канализацию. Он разместил изображения в Твиттере, четко обозначив их как творения. С тех пор они получили широкое распространение.
Изображения не предназначались для того, чтобы кого-то обмануть. Вместо этого г-н Хиггинс хотел привлечь внимание к мощности инструмента — даже в зачаточном состоянии.
Новое поколение чат-ботов
Дивный новый мир. Новое поколение чат-ботов, работающих на базе искусственного интеллекта, спровоцировало борьбу за определение того, может ли эта технология перевернуть экономику Интернета, превратив сегодняшние электростанции в бывших и создав новых гигантов отрасли. Вот боты, которых нужно знать:
По его словам, изображения Midjourney прошли проверку в программах распознавания лиц, которые Bellingcat использует для проверки личности, как правило, россиян, совершивших преступления или другие правонарушения. Нетрудно представить, что правительства или другие гнусные деятели производят изображения, чтобы беспокоить или дискредитировать своих врагов.
В то же время, по словам г-на Хиггинса, инструмент также изо всех сил пытался создать убедительные изображения с людьми, которые не так широко фотографируются, как г-н Трамп, такими как новый премьер-министр Великобритании Риши Сунак или комик Гарри Хилл, «который вероятно, мало известен за пределами Великобритании».
Мидджорни ни в коем случае не был удивлен. Он заблокировал учетную запись г-на Хиггинса без объяснения причин после того, как изображения распространились. Компания не ответила на запросы о комментариях.
Ограничения генеративных изображений делают их относительно легко обнаруживаемыми новостными организациями или другими лицами, настроенными на риск — по крайней мере, на данный момент.
Тем не менее, стоковые фотокомпании, правительственные регулирующие органы и торговые группы музыкальной индустрии приняли меры для защиты своего контента от несанкционированного использования, но мощная способность технологий имитировать и адаптироваться усложняет эти усилия.
Некоторые генераторы изображений с искусственным интеллектом даже воспроизводили изображения — тошнотворная дань уважения «Твин Пикс»; Уилл Смит горстями ест макароны с искаженными версиями водяных знаков, используемых такими компаниями, как Getty Images или Shutterstock.
В феврале Getty обвинил Stability AI в незаконном копировании более 12 миллионов фотографий Getty вместе с подписями и метаданными для обучения программного обеспечения, лежащего в основе его инструмента Stable Diffusion. В своем иске Getty утверждала, что Stable Diffusion ослабила ценность водяного знака Getty, включив его в изображения, которые варьировались «от причудливых до гротескных».
Гетти сказал, что «наглое воровство и фрирайд» были совершены «в ошеломляющих масштабах». Стабильность ИИ не ответила на запрос о комментарии.
Иск Гетти отражает опасения, высказанные многими отдельными артистами, о том, что компании, занимающиеся искусственным интеллектом, становятся конкурентной угрозой, копируя контент, на использование которого у них нет разрешения.
Нарушения прав на товарные знаки также стали проблемой: искусственно сгенерированные изображения воспроизводили логотип NBC в виде павлина, хотя и с неразборчивыми буквами, и показывали знакомый изогнутый логотип Coca-Cola с дополнительными буквами O в названии.
В феврале Бюро регистрации авторских прав США взвесило искусственно сгенерированные изображения, когда оно оценивало дело «Зари рассвета», 18-страничного комикса, написанного Кристиной Каштановой с иллюстрациями, созданными Midjourney. Правительственный администратор решил обеспечить защиту авторских прав на текст комикса, но не на его оформление.
«Из-за значительной дистанции между тем, что пользователь может указать Midjourney для создания, и визуальным материалом, который Midjourney фактически производит, пользователи Midjourney не имеют достаточного контроля над сгенерированными изображениями, чтобы их можно было рассматривать как «основной разум», стоящий за ними», — пояснил офис в своем решении. .
По словам Микки Х. Остеррайхера, главного юрисконсульта Национальной ассоциации фотожурналистов, угроза для фотографов быстро опережает развитие правовой защиты. Редакции новостей будут все чаще бороться за аутентификацию контента. По его словам, пользователи социальных сетей игнорируют ярлыки, которые четко идентифицируют изображения как искусственно созданные, предпочитая верить, что это настоящие фотографии.
Генеративный ИИ также может упростить создание поддельных видео. На этой неделе в сети появилось видео, в котором Нина Шик, автор и эксперт по генеративному ИИ, объясняет, как технология создает «мир, где тени ошибочно принимают за реальность». Затем лицо мисс Шик дернулось, когда камера отодвинулась, показывая на ее месте двойника.
В видео поясняется, что дипфейк был создан с согласия г-жи Шик голландской компанией Revel.ai и калифорнийской компанией Truepic, которая занимается более широкой проверкой цифрового контента.
Компании описали свое видео со штампом, указывающим, что оно создано компьютером, как «первый дипфейк с цифровой прозрачностью». Данные криптографически запечатаны в файл; фальсификация изображения нарушает цифровую подпись и предотвращает появление учетных данных при использовании доверенного программного обеспечения.
Компании надеются, что значок, который будет предоставляться за плату для коммерческих клиентов, будет принят другими создателями контента, чтобы помочь создать стандарт доверия с использованием изображений ИИ.
«Масштаб этой проблемы будет увеличиваться настолько быстро, что это очень быстро повлияет на просвещение потребителей», — сказал Джефф МакГрегор, исполнительный директор Truepic.
Truepic является частью проекта Coalition for Content Provenance and Authenticity, созданного в рамках альянса с такими компаниями, как Adobe, Intel и Microsoft, для лучшего отслеживания происхождения цифровых медиа. Производитель чипов Nvidia заявил в прошлом месяце, что работает с Getty, чтобы помочь в обучении «ответственных» моделей ИИ с использованием лицензионного контента Getty, при этом гонорары выплачиваются художникам.
В тот же день Adobe представила свой собственный продукт для создания изображений Firefly, который будет обучаться с использованием только изображений, которые были лицензированы или взяты из ее собственных запасов или больше не защищены авторскими правами. Дана Рао, директор по доверительному управлению компании, заявил на своем веб-сайте, что инструмент будет автоматически добавлять учетные данные контента — «например, этикетку питания для изображения», — которая идентифицирует, как было сделано изображение. Adobe заявила, что также планирует выплатить компенсацию участникам.
В прошлом месяце модель Крисси Тейген написал в твиттере что она была обманута пухлым пиджаком папы, добавив, что «я никоим образом не переживу будущее технологий».
На прошлой неделе а серия новых изображений ИИ показал папу, снова в своем обычном одеянии, наслаждающегося высоким стаканом пива. Руки выглядели в основном нормальными, если не считать обручального кольца на безымянном пальце понтифика.
Дополнительная постановка Жанны Нунан ДельМундо, Аарон Кролик и Майкл Андре.