Дэймон Линделоф и Тара Эрнандес не думали о человекоподобных чат-ботах или галлюцинирующих алгоритмах, когда вынашивали идею телесериала о мощном искусственном интеллекте, который очаровал пользователей по всему миру.
Это было в начале 2020 года, и они думали о том, кем мы все были: действительно ли мне нужно дезинфицировать мои посылки с Amazon или носить маску, когда я иду к почтовому ящику?
Разговаривая по телефону, пока они выгуливали своих собак, Эрнандес пошутила, что хотела бы, чтобы было приложение, которое могло бы просто сказать им, что делать. Это заставило их заговорить, вспоминает Линделоф: «Хотел бы я, чтобы это тоже существовало. Но я бы не стал этому доверять, потому что все приложения, которые существуют на моем телефоне, предназначены для того, чтобы продавать мне вещи. Как должно выглядеть доброжелательное приложение? И что мне нужно, чтобы довериться ему?»
Три года спустя результат «Mrs. Дэвис», делает его создателей довольно прозорливыми. Шоу, которое начало транслироваться на Peacock на этой неделе, появляется так же, как генерация текста OpenAI. ChatGPT достигает пика ажиотажа, Google запускает собственную программу искусственного интеллекта, Bard и другие технологические гиганты следуют их примеру. Это происходит, когда миллионы людей, которые пережили десятилетие злоключений с большими технологиями — десятилетие борьбы с дезинформацией Facebook, с несправедливостью алгоритмических режимов работы Amazon и Uber, с крипто-крахами и монополистической практикой, — задаются вопросом: что является этот сейчас? Мы даже хотеть ИИ везде?
На премьере шоу на прошлой неделе в Театре Гильдии режиссеров в Голливуде актеры дали этому вопросу реальную иллюстрацию: мужчины в красивых костюмах с прижатыми к ушам устройствами, которые обращались к прибывшим гостям и спрашивали, не возражают ли они, если они «проксированный» — так титульный ИИ говорит через своих пользователей в шоу — вызывая смех и дискомфорт в равной мере.
Шоу создание достаточного шума и хорошие отзывы, шоураннер Эрнандес — выпускник «Теории большого взрыва», а соавтор Линделоф — человек, стоящий за «Остаться в живых» и «Хранители».
Я, например, был задет. Это было шоу о всемогущем ИИ, которое больше TikTok, чем SkyNet, программа, которая стремится погрузить и развлечь, а не убить или угнетать, шоу, которое хорошо понимает почему мы используем приложения и потребительские технологии, которые мы делаем, почему мы впускаем их в свою жизнь и почему мы становимся одержимыми — и это отправляет героя на миссию, чтобы закрыть все это.
Это мощная идея прямо сейчас, и она также имеет реальную параллель — некоторые из самых влиятельных технических личностей в мире, включая Илона Маска и соучредителя Apple Стива Возняка, недавно подписали открытое письмо, призывающее к шестимесячная остановка разработки ИИ. Намерения подписантов могут быть чистыми, а могут и нет (Маск разрабатывает своего собственного чат-бота с искусственным интеллектом, даже призывая других остановиться), но у нас редко бывают такие важные моменты. Не только для того, чтобы рассмотреть, будет ли та или иная технология полезной или плохой для общества, но Хотим ли мы потворствовать этому вообще.
«Это было наше беспокойство, беспокойство о том, что мы можем добраться до этого места», — рассказывает Эрнандес о том, что она и Линделоф говорили в своих ранних разговорах. «Я не знаю, обязательно ли мы предсказывали, что это произойдет в апреле 2023 года, и, о чудо, мы выпускаем наше шоу в то же время, но это, безусловно, казалось возможным».
В то время как «миссис. Дэвиса», зловещие заголовки крупных технологических компаний были о скандале Facebook с Cambridge Analytica и о том, как сайты социальных сетей собирают данные «не только для того, чтобы продавать нам вещи, но и для того, чтобы продавать нам идеи», — говорит Линделоф.
У миссис Дэвис мире пользователи обращаются к вездесущему ИИ так, как если бы «она» была человеком, а главная героиня Сестра Симона продолжает их поправлять: «Не она»,это». («Никто не называет Facebook «Даг»!» — плюется один из лидеров сопротивления против ИИ.)
Но люди склонны доверять другим людям, а не машинам, и чем более человечной кажется программа, тем больше мы будем хотеть в ней участвовать. Это повествовательный выбор, который кажется особенно заметным сейчас, учитывая появление чат-ботов с искусственным интеллектом, чья сила в значительной степени заключается в их способности убедить пользователей в том, что они обладают как безграничными знаниями, так и узнаваемой личностью, сила, которую технологические компании будут использовать, чтобы продать , среди прочего, идеи для своих пользователей.
Ослепительные новые технологии могут казаться неотличимыми от магии, как однажды заметил Артур Кларк, и сценические иллюзионисты играют большую роль в «Миссис. Дэвис». Линделоф говорит, что их присутствие подчеркивает одну из самых больших опасений создателей по поводу технологий: «Нас «вынуждают» в том, как маги используют «силы», чтобы заставить нас выбирать карты, что эти решения, которые мы принимаем, на самом деле генерируются алгоритмически, а не по нашей собственной воле?»
После того, как миссис Дэвис драматически отправляет Симону на поиски Святого Грааля, она узнает, что ИИ постоянно делает такие вещи. Пытаясь заинтересовать свою пользовательскую базу, миссис Дэвис создает квесты и выбирает «главных персонажей», на которых нужно сосредоточить внимание, а монахиня, которая презирает ИИ, создает отличный контент. Поскольку повествование о поиске Грааля встречается во многих массивах данных, алгоритм также часто использует его — ИИ любит клише.
Я не могу сказать вам, как сильно я люблю это. Я просмотрел восемь эпизодов, когда позволял мой график. Отчасти это было связано с тем, что в сюжете происходят настоящие повороты — шоу сумасбродное, сюрреалистическое и сатирическое, — а отчасти потому, что было приятно оказаться в руках сценаристов, которые понимали (и критиковали) свои технологии.
Но больше всего я радовался тому, что Симона, по сути, луддитка. И большинство людей поймите луддитов неправильно. «Миссис. Дэвис» нет.
«Симона, по сути, стала нашим способом создания концепции: «Может ли кто-нибудь прийти и решить, следует ли включить эту штуку или выключить — но, черт возьми, я надеюсь, что она действительно ее выключит!» — говорит Линделоф. «Потому что нам нужен кто-то, кто сделает это за нас».
Теперь я провел последние три года, изучая и пишу книга о машинных выключателях которые устроили восстание в начале промышленной революции, так что я могу сказать вам, насколько это редкость. Согласно популярной мифологии, луддиты не были идиотами, выступающими против технологий, которые ломали машины, потому что не понимали их. Как и у Симоны, у них были особые претензии к тому, как особый технологии преобразовывали общество, унижали их рабочие места и навязывали им контроль — и сопротивлялись преднамеренно и стратегически. Когда я упоминаю луддитов, параллельных Линделофу и Эрнандесу, они загораются.
«Это происходит, когда вы находитесь вне зоны действия мобильного телефона и у вас нет баров, — говорит Линделоф. «Вы испытываете 10 минут паники, и сразу после паники наступает облегчение. Это то, к чему стремились луддиты, — к облегчению. Воссоединение с природой, воссоединение друг с другом. Это то, чего мы действительно жаждем — мы понимаем, что многие наши аргументы в пользу технологий пусты».
По его словам, существует общая культурная жажда того, что, по сути, означает способность сказать «нет», как это сделали луддиты, возможно, доминированию социальных приложений и такой сущности, как миссис Дэвис, которая наполнит их ИИ. На протяжении всего разговора Линделоф упоминает интеллектуальный анализ данных, рекламу, дезинформацию и, что особенно важно, зависимость от экрана. «Каждый родитель, с которым я разговариваю, говорит: «Мне кажется, что мой ребенок слишком много времени проводит на экране, и я чувствую, что Я на моем экране слишком много, и это выходит из-под контроля, и я не знаю, как получить контроль». У нас нет институциональной власти».
В «Миссис. Дэвис», Симона и повстанцы борются за такую власть.
«Может быть, мы хотели бы чаще видеться в физическом мире, если бы у нас не было этих вещей», — говорит Линделоф. «Но никто больше даже не пытается привести этот аргумент; мы все просто смирились с этим. И нам всем важно остановиться, перевести дух и сказать, что это, старая пословица во всяких разных рассказах? «То, что мы можем, означает ли это, что мы должны?»
В конце концов, этот внезапный всплеск ИИ вызывает множество законных опасений. Недавняя статья показал, как подавляющее большинство услуг ИИ сосредоточено всего в нескольких крупных технологических компаниях, которые контролируют системы и то, как они развернуты, и получают от них наибольшую прибыль. Генераторы текста и изображений с искусственным интеллектом угрожать сбить зарплату для копирайтеров, бухгалтеров, иллюстраторов и бесчисленного множества других, поскольку они в процессе крадут свою интеллектуальную собственность. Дезинформация, плохой код и кража личных данных могут распространяться со скоростью лесного пожара, в то время как низкооплачиваемые модераторы-люди отчаянно пытаются сдержать худший контент. Другими словами, есть множество причин присоединиться к Симоне и повстанцам сопротивления.
Подобно Симоне и луддитам, это не означает, что Линделоф и Эрнандес выступают против все использование технологий или даже все виды использования ИИ — это далеко не так. Линделоф говорит, что в их собственной отрасли, которая готовится к появлению генеративного ИИ, он открыт для «интересных полумер», таких как использование ChatGPT для распространения идей в комнате писателя и общие эксперименты. «Это старый молоток как инструмент, верно? Вы можете использовать его, чтобы построить дом, или вы можете использовать его, чтобы вышибить кому-то мозги. Это в наших руках. И что мы будем делать с этой штукой? ChatGPT не хотеть снимать фильмы, это ничего не хочет. Мы хочу вещи». Люди должны быть на первом месте.
«Не существует искусственного интеллекта, который сделает лучший в мире чизбургер, если только человек не сделает лучший в мире чизбургер, а затем вы не запрограммируете код для воспроизведения этой идеи», — говорит Линделоф. «Потому что для того, чтобы сделать лучший в мире чизбургер, вам нужно проявить творческий подход, вам нужно провести бета-тестирование, и вам нужно, чтобы люди попробовали его, а это то, чего ИИ никогда не сможет сделать — попробовать чизбургер».
«Я просто добавлю, что лучший в мире чизбургер делает существуют, — вмешивается Эрнандес, — и это бургер In-N-Out.
«Миссис. Дэвис» — это много вещей — мы даже не говорили о религиозных аспектах шоу, которые вызывают вопросы о том, какие другие структуры «заставляют» нас принимать решения, и задолго до потребительских технологий. Но осознание шоу того, что ИИ никогда не попробует In-N-Out, резонирует после того, как пошли титры. Что мы может противодействовать массовому распространению этого не обращающего внимания на гамбургеры ИИ, что это полностью в наших силах, если мы того пожелаем.
Даже когда это похоже на тяжелую битву. После того, как в конце премьеры зажегся свет, люди начали двигаться к проходам. Доверенных лиц в красивых костюмах нигде не было видно, и до того, как все прямоугольники засветились по всему театру, оставалось всего несколько секунд.
