Инфлюенсер Кэрин Марджори соревнуется со своим собственным ИИ, чтобы общаться с фанатами.

В прошлом месяце Кэрин Марджори превратилась из успешной, но нишевой звезды социальных сетей в лицо, представляющее национальный интерес: объект привлекающий внимание заголовки а для многих комментаторов — шаблон, на который можно спроецировать свои опасения по поводу быстро развивающегося искусственного интеллекта.

Причиной фурора стало партнерство 23-летней Марджори с технологическим стартапом, обещавшим создать персонализированный ИИ-«клон» влиятельной женщины из Скоттсдейла, штат Аризона. За доллар в минуту поклонники, с которыми у нее, возможно, никогда не было бы времени встретиться, вместо этого могли общаться с цифровым двойником Марджори.

CarynAI, как окрестили аудиочат-бот, явно оформлен как романтический компаньон, который стремится «вылечить одиночество» с помощью программного обеспечения, которое предположительно включает в свои разговоры аспекты когнитивно-поведенческой терапии. Марджори сказала, что ее поклонники использовали программу, чтобы попросить жизненный совет и разыграть свидание на закате на пляже.

В какой-то момент Марджори отслеживала рост числа своих подписчиков в твитах о том, сколько у нее новых «парней». «Они чувствуют, что наконец узнают меня, хотя полностью осознают, что это ИИ», — сказала она The Times.

Эта версия постельного разговора HAL 9000, как и ожидалось, вызвала негативную реакцию. Критики заклеймили CarynAI как то унижающую женщину, то поощряющую антиобщественное гетеросексуальное мужское поведение, то сигнализирующую о надвигающемся коллапсе общества. Наступивший в период неуверенности в том, что ИИ означает для работы, отношений и культурных институтов, движение Марджори к самоавтоматизации, казалось, идеально отражало все более причудливое настоящее.

«Мы говорим о системе ИИ [where] теоретически цель состоит в том, чтобы удерживать людей как можно дольше, чтобы вы продолжали зарабатывать деньги», — сказала Эми Уэбб, исполнительный директор консалтинговой фирмы Future Today Institute. «Это означает, что это, вероятно, начнет стимулировать поведение, которое мы, вероятно, не хотели бы в реальном мире».

Уэбб предложил в качестве примера бота, который слишком послушен — например, пассивно слушает, когда пользователь описывает тревожные фантазии. Марджори обращалась к подобной динамике раньше («Если вы будете грубы с CarynAI, она вас бросит», — сказала она. твитнул в какой-то момент), но когда ее спросили о точке зрения Уэбб, она вместо этого подчеркнула свои собственные опасения по поводу зависимости.

«Я видела, как мои фанаты тратили тысячи долларов за несколько дней, общаясь с CarynAI», — сказала Марджори; один фанат, при поддержке бота, построил фотостену с ее изображением в виде храма. «Вот почему мы ограничили CarynAI до 500 новых пользователей в день».

По мере того, как ИИ будет играть все более важную роль в экономике и особенно в творческих отраслях, вопросы, поднятые CarynAI, будут становиться все более распространенными.

Но Марджори еще не ставит все свои фишки на эту технологию. Через несколько недель после объявления о своем ИИ-клоне она начала второе партнерство с другой технологической компанией. Этот тоже позволил бы фанатам поговорить с ней, но вместо этого по другую сторону экрана была бы сама Марджори.

Она заключила сделку с Fanfix, платформой из Беверли-Хиллз, которая помогает создателям социальных сетей размещать свой премиум-контент за платным доступом, и начала использовать ее инструменты обмена сообщениями для прямого общения с клиентами.

В результате получается двухуровневая бизнес-модель, в которой одинокие парни, желающие пообщаться в чате в 3 часа ночи, могут поговорить с машинным подражателем Марджори, в то время как несгибаемые фанаты, желающие выложить немного больше, могут заплатить за подлинную статью.

То, что в течение нескольких недель Марджори запустила два разных, казалось бы, противоречащих друг другу бизнеса — оба нацелены на то, чтобы превратить разговоры фанатов в деньги, — отвечает на центральный вопрос одержимости ИИ: когда роботы все больше запутываются в творческих отраслях, какая работа должна спросят у них, а что останется нам?

Гибридная модель Марджори предлагает предварительный просмотр одного возможного пути вперед.

По словам соучредителя Гарри Гестетнера, пользователи платят минимум 5 долларов, чтобы отправить ей сообщение на Fanfix. Эта разница в цене — 5 долларов за одно сообщение от человека к человеку по сравнению с 1 долларом за минуту голосового чата ИИ — сигнализирует о подходе к автоматизации, при котором работники используют машинное обучение не как оптовую замену, а как недорогую альтернативу более экономные клиенты. (Подумайте о сыре, сделанном на фермерском рынке, по сравнению с крафт-синглом, изготовленным на станке.)

«Общение напрямую с фанатом на Fanfix всегда будет первоклассным опытом», — сказал Гестетнер. «Важно рассматривать ИИ как второго пилота, а не как пилота».

(Согласно Fanfix, Марджори зарабатывает 10 000 долларов в день после мягкого запуска платформы и, по прогнозам, к концу года общий доход достигнет 5–10 миллионов долларов.)

Джон Мейер, основатель Forever Voices, компании-разработчика программного обеспечения в Остине, разработавшей ИИ-симулякр Марджори, естественно, более оптимистичен в отношении преимуществ переноса взаимодействия с фанатами на компьютер. В некоторых случаях, по словам Мейер, боты могут быть более красноречивыми, чем влиятельные лица, которых они должны копировать.

«Одно из первых ощущений, которые он вызывает, — это мысль типа: «Вау, неужели мне угрожает моя собственная копия ИИ?», — сказал Мейер.

Он потерял отца, когда ему было чуть за 20, и в конце прошлого года начал работать над технологией Forever Voices как средством воссоединения. После разработки голосовой копии своего отца, которую он описывает как «очень реалистичную и исцеляющую», Мейер расширился до голосовых клонов различных знаменитостей, а в последнее время и веб-личностей. (Одно из самых громких имен в онлайн-стриминге, Кейтлин «Амурант» Сирагуса, только что подписали.)

По словам Мейера, компания была завалена запросами от тысяч других влиятельных лиц, которые просили их собственные клоны ИИ. «Мы действительно рассматриваем это как способ позволить поклонникам влиятельных лиц действительно глубоко общаться со своими любимыми людьми: узнавать о них, расти вместе с ними и получать незабываемые впечатления от них», — сказал он.

Высокий спрос отчасти связан с тем, что поддержание значительного количества подписчиков в Интернете может потребовать много работы — не все из них особенно интересны.

«Ежедневно я вижу от 100 000 до полумиллиона сообщений в Snapchat», — сказала Марджори, объясняя рабочую нагрузку, которая привела ее к использованию CarynAI. (У нее 2 миллиона подписчиков в приложении для обмена сообщениями; согласно недавней статье Washington Post, 98% из них — мужчины.)

Она добавила: «Я рассматриваю ИИ как инструмент, и это инструмент, который помогает создателям создавать более качественный контент».

Однако некоторые из ее коллег по отрасли настроены скептически, в том числе Валерия Фридеготто, TikToker с 20 000 подписчиков.

Однако компания Fridegotto не полностью отказалась от этой технологии. По ее словам, программное обеспечение, которое могло бы уменьшить рабочую нагрузку взаимодействия с фанатами, было бы здорово, но примеры, которые она видела выпущенными до сих пор, не кажутся достаточно реалистичными, чтобы работать без присмотра. По-прежнему слишком много ошибок и нелогичности — то, что эксперты по ИИ называют «галлюцинациями».

«Его нужно развивать до такой степени, чтобы мы были уверены, что эта технология будет работать так же хорошо, как и мы, или даже лучше», — сказал Фридеготто.

Поскольку рынок наводнен подражателями, некоторые инфлюенсеры могут даже обнаружить возобновившийся спрос на рукотворный контент «старой школы».

«Люди начнут больше склоняться к аутентичному, индивидуальному контенту», — сказал Джесси Шемен, исполнительный директор Papercup, стартапа, который использует ИИ для автоматического дублирования видео. «Точно так же, как это увлечение и большое количество последователей за органическими продуктами питания… Я думаю, мы увидим то же самое, когда дело доходит до контента».

Шемен добавил, что в социальных сетях есть место для автоматизации, особенно для людей, выпускающих множество контента в короткие сроки — например, видеоролики с реакцией на новости. Но, предсказал он, рынок цифровых клонов, таких как у Марджори, будет ограниченным.

Тем не менее, такое странное пространство, как ИИ, трудно игнорировать. Даже Fanfix, компания, помогающая (настоящей) Марджори общаться со своими суперфанатами, заинтересована. Основатели компании говорят, что активно изучают, как ИИ может помочь лидерам мнений.

Хотя экономика инфлюенсеров по-прежнему нуждается в реальных людях, пределы того, что может сделать ИИ, отступают, и многие веб-личности все больше и больше заинтересованы в использовании технологии для автоматизации хотя бы части своей рабочей нагрузки.

Такие вопросы не ограничиваются социальными сетями. Искусственный интеллект внедряется в творческих индустрияхс такими СМИ, как Buzzfeed включая в свои публикации и киностудии использовать его для постпродакшна. Написание сценариев на основе ИИ стало ключевая проблема в продолжающейся забастовке Гильдии писателей Америки.

Но социальные сети однозначно ориентированы на личность, что делает отношения сектора с ИИ особенно напряженными. Ценность сетевых личностей зависит от их способности завоевывать доверие и расположение своих последователей. Эта связь может быть настолько мощной, что некоторые эксперты называют ее «парасоциальные отношения— сильная, но в конечном счете односторонняя преданность публичному деятелю.

Это сложная динамика для навигации, и Марджори оказывается в ее эпицентре.

«В мире ИИ аутентичность важнее, чем когда-либо», — сказал влиятельный человек. твитнул прошлый месяц. «Мои твиты, [direct messages]прямые ответы, снэпы, истории и посты всегда будут мной».

Она добавила, что CarynAI станет «расширением» ее сознания; оно «никогда не заменит меня».