Силиконовая долина десятилетиями предвкушала момент, когда появится новая технология и все изменит. Он объединил бы человека и машину, возможно, к лучшему, но, возможно, и к худшему, и разделил бы историю на части. до и после.
Название этой вехи: Сингулярность.
Это могло произойти несколькими способами. Одна из возможностей состоит в том, что люди добавят вычислительную мощность компьютера к своему врожденному интеллекту, став сверхмощными версиями самих себя. Или, может быть, компьютеры станут настолько сложными, что смогут по-настоящему мыслить, создав глобальный мозг.
В любом случае результирующие изменения будут радикальными, экспоненциальными и необратимыми. Самоосознающая сверхчеловеческая машина могла разрабатывать свои собственные усовершенствования быстрее, чем любая группа ученых, вызывая взрыв интеллекта. Столетия прогресса могут происходить за годы или даже месяцы. Сингулярность — это рогатка в будущее.
Искусственный интеллект будоражит технологии, бизнес и политику, как ничто в последнее время. Прислушайтесь к экстравагантным заявлениям и диким утверждениям, исходящим из Силиконовой долины, и кажется, что долгожданный виртуальный рай наконец-то близок.
Сундар Пичаи, обычно сдержанный генеральный директор Google, называет искусственный интеллект «более совершенным, чем огонь, электричество или все, что мы делали в прошлом». Рид Хоффман, миллиардер-инвестор, говорит: «Возможность вносить позитивные изменения в мир вот-вот получит самый большой импульс, который он когда-либо имел». А соучредитель Microsoft Билл Гейтс заявляет, что ИИ «изменит то, как люди работают, учатся, путешествуют, получают медицинскую помощь и общаются друг с другом».
ИИ — это новейший продукт Силиконовой долины: превосходство по требованию.
Но есть темный поворот. Это как если бы технологические компании представили беспилотные автомобили с оговоркой, что они могут взорваться, прежде чем вы доберетесь до Walmart.
«Появление общего искусственного интеллекта называется сингулярностью, потому что очень сложно предсказать, что произойдет после этого», — сказал в прошлом месяце CNBC Илон Маск, управляющий Twitter и Tesla. Он сказал, что, по его мнению, наступит «эпоха изобилия», но есть «некоторый шанс», что она «уничтожит человечество».
Самым большим сторонником ИИ в техническом сообществе является Сэм Альтман, исполнительный директор OpenAI, стартапа, вызвавшего нынешнее безумие своим чат-ботом ChatGPT. Он говорит, что ИИ станет «величайшей силой для расширения экономических возможностей и многие люди становятся богатыми мы когда-либо видели».
Но он также говорит, что г-н Маск, критик ИИ, который также основал компанию по разработке интерфейсов мозг-компьютер, возможно, прав.
Апокалипсис — знакомая и даже любимая территория Кремниевой долины. Несколько лет назад казалось, что у каждого руководителя технического отдела есть полностью укомплектованный бункер на случай апокалипсиса где-то в отдалении, но досягаем. В 2016 году г-н Альтман сказал, что он собирает «оружие, золото, йодистый калий, антибиотики, батареи, воду, противогазы от израильских сил обороны и большой участок земли в Биг-Суре, на который я могу летать». Пандемия коронавируса на какое-то время заставила технических специалистов чувствовать себя оправданными.
Теперь они готовятся к Сингулярности.
«Им нравится думать, что они разумные люди, делающие мудрые комментарии, но они больше похожи на монахов 1000 года, говорящих о Восхищении», — сказал Бальдур Бьярнасон, автор «Иллюзии разума», критического исследования ИИ. немного пугающе, — сказал он.
Корни превосходства
Интеллектуальные корни сингулярности восходят к Джону фон Нейману, новатору в области информатики, который в 1950-х годах говорил о том, что «постоянно ускоряющийся прогресс технологий» приведет к «некоторым существенным сингулярностям в истории расы».
Ирвинг Джон Гуд, британский математик, который помог расшифровать немецкое устройство Enigma в Блетчли-парке во время Второй мировой войны, также был влиятельным сторонником. «Выживание человека зависит от раннего создания сверхразумной машины», — писал он в 1964 году. Режиссер Стэнли Кубрик консультировал мистера Гуда по поводу HAL, доброкачественного, ставшего злонамеренным компьютера в фильме «2001: Космическая одиссея». ранний пример проницаемых границ между информатикой и научной фантастикой.
Ханс Моравек, адъюнкт-профессор Института робототехники Университета Карнеги-Меллона, считал, что ИИ будет благом не только для живых: мертвые тоже будут восстановлены в Сингулярности. «У нас будет возможность воссоздать прошлое и взаимодействовать с ним реальным и непосредственным образом», — написал он в книге «Дети разума: будущее роботов и человеческого интеллекта».
В последние годы предприниматель и изобретатель Рэй Курцвейл был самым большим сторонником сингулярности. Г-н Курцвейл написал «Эпоху разумных машин» в 1990 году и «Сингулярность близко» в 2005 году, а сейчас пишет «Сингулярность ближе».
К концу десятилетия он ожидает, что компьютеры пройдут тест Тьюринга и станут неотличимы от людей. Он подсчитывает, что через пятнадцать лет после этого наступит истинное превосходство: момент, когда «вычисления станут частью нас самих, и мы увеличим свой интеллект в миллион раз».
К тому времени мистеру Курцвейлу исполнится 97 лет. С помощью витаминов и добавок он планирует дожить до этого.
Для некоторых критиков Сингулярности это интеллектуально сомнительная попытка воспроизвести систему верований организованной религии в царстве программного обеспечения.
«Все они хотят вечной жизни без неудобств, связанных с верой в Бога», — сказал Родни Брукс, бывший директор Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института.
Инновация, которая подпитывает сегодняшние дебаты о сингулярности, — это большая языковая модель, тип системы искусственного интеллекта, на которой работают чат-боты. Начните разговор с одним из этих LLM, и он может быстро, связно и часто давать ответы с достаточной степенью освещения.
«Когда вы задаете вопрос, эти модели интерпретируют его значение, определяют, что должен означать его ответ, а затем переводят это обратно в слова — если это не определение общего интеллекта, то что?» сказал Джерри Каплан, давний предприниматель в области ИИ и автор книги «Искусственный интеллект: что нужно знать каждому».
Г-н Каплан сказал, что скептически относится к таким широко разрекламированным чудесам, как беспилотные автомобили и криптовалюта. Он подошел к последнему буму ИИ с теми же сомнениями, но сказал, что его покорили.
«Если это не «сингулярность», то это, безусловно, сингулярность: преобразующий технологический шаг, который в целом ускорит развитие искусства, науки и человеческого знания — и создаст некоторые проблемы», — сказал он.
Критики возражают, что даже впечатляющие результаты LLM далеки от огромного глобального интеллекта, давно обещанного Сингулярностью. Часть проблемы точного отделения рекламы от реальности заключается в том, что движущие силы этой технологии становятся скрытыми. OpenAI, который начинался как некоммерческая организация с открытым исходным кодом, теперь является коммерческим предприятием, которое, по словам критиков, фактически является черным ящиком. Google и Microsoft также предлагают ограниченную видимость.
Большая часть исследований в области ИИ проводится компаниями, которые могут извлечь большую выгоду из результатов. Исследователи из Microsoft, инвестировавшей в OpenAI 13 миллиардов долларов, в апреле опубликовали статью, в которой пришли к выводу, что предварительная версия последней модели OpenAI «демонстрирует многие черты интеллекта», включая «абстракцию, понимание, видение, кодирование» и «понимание человеческих мотивов и эмоции».
Райлан Шеффер, докторант в области компьютерных наук в Стэнфорде, сказал, что некоторые исследователи ИИ нарисовали неточную картину того, как эти большие языковые модели демонстрируют «эмерджентные способности» — необъяснимые возможности, которые не были очевидны в меньших версиях.
Вместе с двумя коллегами из Стэнфорда, Брандо Мирандой и Санми Койеджо, г-н Шеффер изучил этот вопрос в исследовательской статье, опубликованной в прошлом месяце, и пришел к выводу, что возникающие свойства были «миражом», вызванным ошибками в измерениях. По сути, исследователи видят то, что хотят видеть.
Вечная жизнь, вечная прибыль
В Вашингтоне, Лондоне и Брюсселе законодатели обсуждают возможности и проблемы ИИ и начинают говорить о регулировании. Г-н Альтман участвует в роуд-шоу, стремясь отразить раннюю критику и продвигать OpenAI как пастыря сингулярности.
Это включает в себя открытость для регулирования, но как именно это будет выглядеть, неясно. Силиконовая долина обычно придерживается мнения, что правительство слишком медлительно и глупо, чтобы контролировать стремительное развитие технологий.
«В правительстве нет никого, кто мог бы все исправить», — сказал Эрик Шмидт, бывший исполнительный директор Google. сказал в интервью «Meet the Press» в прошлом месяце, аргументируя аргументы в пользу саморегулирования ИИ. «Но промышленность может примерно понять это правильно».
ИИ, как и Сингулярность, уже описывают как необратимый. «Чтобы остановить это, потребуется что-то вроде глобального режима наблюдения, и даже это не гарантирует работу», — писали г-н Альтман и некоторые из его коллег в прошлом месяце. Они добавили, что если Силиконовая долина не выживет, это сделают другие.
Меньше обсуждается огромная прибыль, которую можно получить от загрузки мира. Несмотря на все разговоры об искусственном интеллекте как о неограниченной машине для создания богатства, богатеют в основном те, кто уже богат.
В этом году рыночная капитализация Microsoft выросла на полтриллиона долларов. Nvidia, производитель чипов для систем искусственного интеллекта, недавно стала одной из самых ценных публичных компаний США, когда заявила, что спрос на эти чипы резко вырос.
«ИИ — это технология, которую мир всегда хотел», — написал г-н Альтман в Твиттере.
Это, безусловно, технология, которую технический мир всегда хотел получить в самое лучшее время. В прошлом году Кремниевая долина переживала увольнения и рост процентных ставок. Криптовалюта, предыдущий бум, была связана с мошенничеством и разочарованием.
Следуйте за деньгами, сказал Чарльз Стросс, соавтор романа «Восторг ботаников», комедийного взгляда на сингулярность, а также автор «Акселерандо», более серьезной попытки описать то, что жизнь может вскоре быть будто.
«Настоящее обещание здесь заключается в том, что корпорации смогут заменить многие из своих ущербных, дорогих, медленных, человеческих подразделений по обработке информации битами программного обеспечения, тем самым ускорив работу и сократив свои накладные расходы», — сказал он.
Сингулярность долгое время представлялась космическим событием, буквально умопомрачительным. И еще может быть.
Но это может проявиться в первую очередь — отчасти благодаря одержимости сегодняшней Силиконовой долины чистой прибылью — как инструмент для сокращения численности корпоративной Америки. Когда вы спешите увеличить свою рыночную капитализацию на триллионы, Небеса могут подождать.
