Может ли бот написать это вступление? Ажиотаж вокруг ИИ выдвинул этот вопрос в центр общественного обсуждения. Разговорные боты, такие как ChatGPT, и автоматические генераторы изображений, такие как DALL-E, созданные OpenAI, появляются повсюду.
Несмотря на несколько оптимистичных тематических исследований их потенциала, текущие модели ограничены, а результаты, которые они дают, глубоко ошибочны. Но, похоже, не имеет значения, что технология, стоящая за ИИ, не готова к прайм-тайму. Модели должны только рассказать убедительную историю людям, подписывающим чеки, — и они это делают.
Microsoft, разработавшая собственного чат-бота для Bing, инвестировала в OpenAI 13 миллиардов долларов. Только в прошлом году венчурные компании на ранней стадии вложили 2,2 миллиарда долларов в генеративный ИИ, а в этом году Salesforce объявила о создании фонда в размере 250 миллионов долларов для инвестиций в эту область. Заголовки и учреждения объявляют ИИ будущим работы, готовым, в частности, заменить писателей и художников. То, что эти затаившие дыхание прогнозы опережают качество самой технологии, многое говорит о нашем культурном моменте и о нашей давней тенденции обесценивать творческую работу.
Предполагаемое обещание будущего ИИ — эффективный и обильный контент. Офисные работники теперь могут создавать целые презентации с помощью запроса или щелчка. Креативные агентства используют генераторы изображений для моделирования концепций клиентов. Даже литературные журналы сообщают, что их засыпают сообщениями, созданными ИИ, и да, редакторы публикуют статьи и иллюстрации, созданные ИИ.
Но модели ИИ снова и снова доказывают, что они увековечивают предубеждения, неправильно понимают культурный контекст и отдают предпочтение убедительности, а не правде. Они опираются на наборы данных творческой работы людей, подход, который в противном случае можно было бы назвать плагиатом или интеллектуальным анализом данных. А модели, управляющие ChatGPT и DALL-E, — это черные ящики, поэтому происхождение данных технически невозможно отследить.
Сегодня эти и другие модели требуют, чтобы люди (со своими предубеждениями) обучали их достижению «хороших» результатов, а затем в конце проверяли их работу. Поскольку инструменты созданы для сопоставления с образцом, их результаты часто повторяющиеся и тонкие, эстетика сходства, а не изобретения.
Таким образом, стимул к замене рабочих-людей исходит не от возможностей технологии. Это связано с годами, когда большие и малые компании — особенно в издательском деле, технологиях и средствах массовой информации — закручивали винты на творческой работе, чтобы тратить все меньше на работников.
В условиях сегодняшнего финансового кризиса даже технологические компании сокращают расходы за счет массовых увольнений (включая сокращение групп по этике ИИ), финансируя и продавая инструменты ИИ. Но ситуация еще более ужасна для писателей, художников и музыкантов, которые долгое время боролись за жизнь.
Оплата труда писателей, редакторов и иллюстраторов в этой стране за последние два десятилетия не изменилась. Некоторые страны начали относиться к искусству как к общественному благу: Ирландия экспериментирует с платой художникам за создание искусства, а другие страны субсидируют публику для искусства. Но в США государственное финансирование искусства позорно низкое по сравнению с другими богатыми западными странами, а во время пандемии оно еще больше сократилось. Многим художникам необходимо переходить из одного приложения для социальных сетей в другое, чтобы создать аудиторию для своей работы и получить доход.
Между тем, вездесущие потоковые подписки и алгоритмические каналы с их лазерным фокусом на получении максимальной вовлеченности превратили креативность в бесконечный список посредственных, повторяющихся стилей — неустойчивая модель для оригинальной работы.
Автоматизация — следующая глава в этой истории о постоянно удешевляющемся контенте. Насколько может снизиться стоимость искусства? Зачем платить творческим работникам прожиточный минимум, если можно запрограммировать машины для производства взаимозаменяемых единиц контента?
Да потому, что эти модели не заменят человеческого творческого труда. Если мы хотим вырваться из повторяющихся шаблонов, стремиться избавиться от предубеждений и создать новые возможности, работа должна исходить от людей.
Опасность сведения творческой работы к виджетам для аутсорсинга заключается в том, что мы теряем этапы размышлений и итераций, которые создают новые связи. Модели изучения языка, лежащие в основе чат-ботов, предназначены для предоставления единого авторитетного ответа, заключающего мир в объем информации, которую они уже получили.
С другой стороны, человеческий мозг обладает уникальной способностью к рекурсивной обработке, которая позволяет нам интерпретировать идеи вне набора правил. Каждый шаг творческого процесса — каким бы медленным, маленьким или скучным он ни был — это масштабный акт, переносящий концепцию в новое место и воображающий более широкий мир, чем тот, что существует сегодня.
Поглощение ИИ не является неизбежным, несмотря на то, что говорят некоторые лидеры бизнеса и технологий. Это не первый цикл технологической шумихи, и некоторые регуляторы, профсоюзы и художники уже дают отпор. После краха криптовалюты Федеральная торговая комиссия создала Технологический отдел для поддержки правоприменения в новых технологических областях, и агентство выпустило несколько публичных предупреждений о том, что ложные заявления о возможностях ИИ продуктов будут оспорены.
Гильдия писателей Америки, которая готова объявить забастовку, предложила меры защиты и нормативные стандарты в отношении использования ИИ при написании сценариев. САГ-АФТРА, Профсоюз киноактеров и работников телевидения и радио заявил, что если студии захотят использовать ИИ для имитации выступлений актеров, им придется вести переговоры с профсоюзом. Некоторые исследователи создают инструменты для защиты работы визуальных художников от поглощения моделями для генераторов изображений, а другие запустили системы с открытым исходным кодом, чтобы выявить предвзятость в моделях ИИ.
Но более широкий призыв к действию носит культурный характер: признать, что творческая работа — это не просто товар или контент, а необходимая и высококвалифицированная практика, которая заслуживает надежного финансирования и поддержки. Творчество — это то, как смысл конструируется в культуре. Это задача, которую не могут выполнить машины, и ее не должны контролировать компании, которые их производят. Бот может быстро написать окончание этой истории, но мы должны спросить себя: чьи голоса нам действительно нужны?
Ребекка Акерманн писала о технологиях и культуре для MIT Technology Review, Slate и других источников. Ранее она работала дизайнером в таких технологических компаниях, как Google и Nerd.ВтAllet.
