Вы, наверное, уже слышали: грядет ИИ, он вот-вот все изменит, а человечество не готово.
Искусственный интеллект сдает экзамены на адвоката, занимается плагиатом курсовых работ, создает дипфейки, которые достаточно реальны, чтобы одурачить массы, а апокалипсис роботов уже близок. Правительство не готово. Ни вы.
На этой неделе основатель Tesla Илон Маск, соучредитель Apple Стив Возняк и сотни исследователей ИИ подписали открытое письмо. призывая приостановить развитие ИИ прежде чем он станет слишком мощным. «ИИ может быстро поглотить всю человеческую культуру», — написали три технических специалиста по этике в журнале. Газета «Нью-Йорк Таймс ред. Кустарная индустрия дельцов с искусственным интеллектом вышла на Twitter, Substack и YouTube, чтобы продемонстрировать огромный потенциал и мощь искусственного интеллекта, собирающие миллионы просмотров и репостов.
Роковой свиток продолжается. обозреватель газеты «Таймс» была серия разговоров с Бингом и испугался за человечество. В отчете Goldman Sachs говорится, что ИИ может заменить 300 миллионов рабочих мест.
Беспокойство проникло и во власть. В понедельник сенатор Кристофер С. Мерфи (штат Коннектикут) твитнул, «ChatGPT научился делать продвинутую химию. Он не был встроен в модель. Никто не запрограммировал его на изучение сложной химии. Он решил научить себя, а затем сделал свои знания доступными для всех, кто попросит».
«Что-то грядет. Мы не готовы».
Ничего подобного, конечно, не произошло, но винить сенатора трудно. Прогнозы ИИ сейчас абсолютно везде. Именно этого хочет OpenAI, компания, которая получает наибольшую выгоду от того, что все верят в то, что ее продукт способен переделать — или разрушить — мир.
OpenAI стоит за самой шумной и популярной службой искусственного интеллекта, текстовым генератором ChatGPT, и его технология в настоящее время используется в новой поисковой системе Microsoft Bing с искусственным интеллектом, продукте сделки стоимостью 10 миллиардов долларов. ChatGPT-3 можно использовать бесплатно, премиум-уровень, гарантирующий более стабильный доступ, стоит 20 долларов в месяц, и есть весь портфель доступных услуг для покупки, чтобы удовлетворить потребности любого предприятия в генерации текста или изображений.
Сэм Альтман, исполнительный директор OpenAI, заявил, что он был «немного напуган» технологией, которую он в настоящее время помогает создавать и стремится распространять с целью получения прибыли как можно шире. Главный научный сотрудник OpenAI Илья Суцкевер сказал на прошлой неделе что «в какой-то момент будет довольно легко, если захотеть, причинить большой вред» с моделями, которые они делают доступными для всех, кто готов платить. И новый отчет, подготовленный и выпущенный компанией, провозглашает, что ее технология поставит «большинство» рабочих мест под некоторую степень риска ликвидации.
Давайте на секунду задумаемся над логикой, стоящей за этими утверждениями: зачем вам, генеральному директору или руководителю крупной технологической компании, неоднократно возвращаться на публичную сцену, чтобы заявить, как вы беспокоитесь о продукте, который вы создаете и продаете?
Ответ: Если апокалиптические предрассудки об ужасающей силе ИИ служат вашей маркетинговой стратегии.
ИИ, как и другие, более простые формы автоматизации, не является традиционным бизнесом. Отпугивание клиентов не является проблемой, когда то, что вы продаете, является устрашающей силой, которую обещает ваш сервис.
OpenAI годами работала над тем, чтобы тщательно культивировать свой образ как команды защищенных от шумихи ученых-гуманитариев, занимающихся ИИ на благо всех, а это означало, что, когда наступит его момент, общественность будет хорошо подготовлена к тому, чтобы принять его апокалиптический ИИ. прокламации доверчиво, как страшные, но невозможно игнорировать истины о состоянии технологий.
OpenAI была основана как исследовательская некоммерческая организация в 2015 году благодаря крупному гранту Маска, известного сторонника искусственного интеллекта, с целью «демократизации» искусственного интеллекта. Компания уже давно культивирует атмосферу достойной сдержанности в своих усилиях по искусственному интеллекту; его заявленная цель состояла в том, чтобы исследовать и развивать технологию ответственным и прозрачным образом. сообщение в блоге, анонсирующее OpenAI заявил, что «наша цель — продвигать цифровой интеллект таким образом, чтобы он, скорее всего, приносил пользу человечеству в целом, не ограничиваясь необходимостью получения финансовой отдачи».
В течение многих лет это заставляло прессу и ученых в области искусственного интеллекта относиться к организации как к исследовательскому учреждению, что, в свою очередь, позволяло ей пользоваться большим уважением в средствах массовой информации и академическом сообществе — и подвергаться меньшему контролю. Компания снискала расположение, поделившись примерами того, насколько мощными становятся ее инструменты — OpenAI боты выигрывают чемпионат по киберспортуранние примеры целых статей, написанных его ИИ GPT-2, призывая к необходимости быть осторожным и сохраняя свои модели в секрете и из рук плохих актеров.
В 2019 году компания перешла на «ограниченную» коммерческую компанию, в то время как продолжая настаивать его «основная фидуциарная обязанность — перед человечеством». Однако в этом месяце OpenAI объявила, что берет ранее открытый исходный код, который делал ее ботов доступными для частных лиц. Обоснование: ее продукт (который в настоящее время доступен для покупки) был просто слишком мощным, чтобы рисковать попасть в чужие руки.
Тем не менее некоммерческий опыт OpenAI наполнил его ореолом респектабельности, когда на прошлой неделе компания выпустила рабочий документ с исследователями из UPenn. Исследование, которое, опять же, было проведено самой OpenAI, пришло к выводу, что «большинство профессий» теперь «демонстрируют некоторую степень воздействия» больших языковых моделей (LLM), таких как та, что лежит в основе ChatGPT. В высокооплачиваемых профессиях больше задач с высоким риском. И «примерно 19% рабочих мест» увидят как минимум половина всех задач, из которых они состоят, подвергаются LLM.
Эти результаты были должным образом освещены в прессе, в то время как критики, такие как Дэн Грин, доцент Колледжа информационных исследований Университета Мэриленда, указывали, что это было не столько научной оценкой, сколько самоисполняющимся пророчеством. «Вы используете новый инструмент, чтобы предсказать свою судьбу», он сказал. «Суть не в том, чтобы быть «правильным», а в том, чтобы обозначить границы для публичных дебатов».
Независимо от того, намеревалась ли OpenAI стать коммерческой компанией, конечный результат один и тот же: развязывание научно-фантастического маркетингового безумия, не похожего ни на что в недавней памяти.
Теперь преимущества этого апокалиптического маркетинга ИИ двояки. Во-первых, это побуждает пользователей попробовать упомянутую «страшную» услугу — что может быть лучше, чтобы вызвать шумиху, чем настаивать с определенной долей вероятности на том, что ваша новая технология настолько эффективна, что может разрушить мир, каким мы его знаем?
Второй более приземлен: основная часть дохода OpenAI вряд ли будет поступать от обычных пользователей, платящих за доступ премиум-уровня. Экономическое обоснование случайной оплаты ежемесячной платы за доступ к чат-боту, который немного более интересен и полезен, чем, скажем, Google Search, крайне недоказан.
OpenAI знает это. Он почти наверняка делает ставку на более долгосрочное будущее на большее количество партнерских отношений, таких как партнерство с Microsoft, и корпоративные сделки, обслуживающие крупные компании. Это означает, что нужно убедить больше корпораций в том, что если они хотят пережить грядущие массовые потрясения под руководством ИИ, им лучше подняться на борт.
Корпоративные сделки всегда были там, где процветали технологии автоматизации — конечно, горстка потребителей может быть заинтересована в оптимизации своей повседневной рутины или автоматизации задач здесь и там, но основной целью продаж программного обеспечения для повышения производительности, автоматизированных киосков или робототехники является управление.
И большой движущей силой, побуждающей компании покупать технологии автоматизации, был и всегда был страх. Историк техники Дэвид Ноубл продемонстрировал в своем исследования промышленной автоматизации что волна автоматизации рабочих мест и производственных цехов, прокатившаяся по 1970-м и 80-м годам, была в значительной степени вызвана тем, что менеджеры подчинялись широко распространенному явлению, которое сегодня мы называем FOMO. Если компании считают, что трудосберегающая технология настолько мощна или эффективна, что их конкуренты обязательно ее примут, они не хотят упустить ее — независимо от конечной полезности.
Большое обещание набора услуг искусственного интеллекта OpenAI заключается в том, что компании и частные лица сэкономят на затратах на рабочую силу — они могут быстро и дешево создавать рекламные копии, иллюстрации, презентации слайдов, маркетинг по электронной почте и процессы ввода данных.
Это не означает, что генераторы изображений и текста OpenAI не способны создавать интересные, удивительные или даже тревожные вещи. Но противоречивая гениальная фишка, которую Альтман и его группа OpenAI придумывают, иссякает. Если вы искренне обеспокоены безопасностью своего продукта, если вы серьезно хотите быть ответственным распорядителем разработки инструмента искусственного интеллекта, который, по вашему мнению, является сверхмощным, вы не шлепаете его в поисковую систему, где он может быть доступным для миллиардов людей; вы не открываете шлюзы.
Альтман спорит что технология потребности быть выпущенным на этой относительно ранней стадии, чтобы его команда могла совершать ошибки и устранять потенциальные нарушения, «пока ставки довольно низки». Однако в этом аргументе имплицитно подразумевается, что мы должны просто доверить ему и его недавно затворнической компании, как лучше всего это сделать, даже если они работают, чтобы выполнить прогнозы по доходам в размере $1 млрд в следующем году.
Я не говорю, что не стоит нервничать из-за натиска сервисов ИИ, но я говорю, что нервничайте по правильным причинам. Есть много поводов для беспокойства, особенно учитывая перспективу того, что компании наверняка сочтут коммерческое предложение заманчивым, и независимо от того, сработает оно или нет, многие копирайтеры, программисты и художники внезапно обнаружат, что их работа не обязательно заменена, но обесценена другими. предлагаемые вездесущие и гораздо более дешевые услуги искусственного интеллекта. (Есть причина, по которой художники уже подал коллективный иск утверждая, что системы ИИ были обучены их работе.)
Но заламывание рук всемогущего «искусственного общего интеллекта» и подстрекательская шумиха, как правило, затмевают эти более близкие виды проблем. Специалистам по этике ИИ и исследователям нравится Тимнит Гебру и Мередит Уиттакер Был кричать в пустоту что абстрактный страх перед неминуемым Скайнетом пропускает лес за деревьями.
«Один из самых больших недостатков больших языковых моделей вызван УТВЕРЖДЕНИЕМ, что LLM обладают «человеко-конкурентным интеллектом», — сказал Гебру. Существует реальная и законная опасность того, что эти материалы приведут к предвзятым или даже дискриминационным результатам, будут способствовать распространению дезинформации, нападению на интеллектуальную собственность художников и т. д., особенно потому, что многие крупные технологические компании просто уволили свои команды по этике ИИ.
Вполне законно бояться мощи новой технологии. Просто знайте, что OpenAI — и все другие ИИ-компании, которые хотят нажиться на шумихе — очень хотят, чтобы вы были такими.
