Технологическая индустрия любит истории о гаражных стартапах. От Hewlett-Packard до Google рассказы о компаниях-самоучках, которые превратились в гигантов, вдохновляли поколения предпринимателей.
Но огромные суммы денег и вычислительная мощность, необходимые для стартапов, пытающихся добиться успеха с помощью самых современных технологий, искусственного интеллекта, используемого в чат-ботах, таких как ChatGPT и Google Bard, могут сделать эти вдохновляющие истории делом прошлого.
В 2019 году Эйдан Гомес и Ник Фросс покинули Google, чтобы создать в Торонто стартап по искусственному интеллекту под названием Cohere, который мог бы конкурировать с их бывшим работодателем. Несколько месяцев спустя они снова обратились к Google и спросили, не продаст ли компания им огромные вычислительные мощности, которые потребуются им для создания собственной технологии искусственного интеллекта. После того, как исполнительный директор Google Сундар Пичаи лично одобрил соглашение, технический гигант дал им то, что они хотели.
«Это «Игра престолов». Вот что это такое», — сказал Дэвид Кац, партнер Radical Ventures, первого инвестора Cohere. Он добавил, что крупные компании, такие как Google, Microsoft и Amazon, контролируют чипы. «Они контролируют вычислительную мощность», — сказал он. «Они выбирают, кому это достанется».
Создание новаторского стартапа ИИ сложно без поддержки «гиперскейлеров», которые контролируют огромные центры обработки данных, способные запускать системы ИИ. И это снова поставило гигантов отрасли на место водителя, что, по мнению многих, станет самым важным сдвигом в технологической отрасли за последние десятилетия.
OpenAI, стартап ChatGPT, недавно привлек $10 млрд от Microsoft. Большая часть этих денег будет перекачиваться обратно в Microsoft, поскольку она будет оплачивать время на массивных кластерах компьютерных серверов, которыми управляет более крупная компания. Охватывая тысячи специализированных компьютерных чипов, эти машины необходимы для улучшения и расширения возможностей ChatGPT и аналогичных технологий.
Конкуренты не могут идти в ногу с OpenAI, если они не получат аналогичное количество вычислительной мощности. Недавно Cohere привлекла 270 миллионов долларов, в результате чего общий объем финансирования превысил 440 миллионов долларов. Большая часть этих денег будет потрачена на покупку вычислительной мощности у таких компаний, как Google.
Другие стартапы заключили аналогичные договоренности, в первую очередь компания Кремниевой долины под названием Anthropic, основанная в 2021 году группой бывших исследователей OpenAI; Character.AI, основанный двумя ведущими исследователями из Google; и Inflection AI, основанная бывшим руководителем Google. На прошлой неделе Inflection привлекла финансирование в размере 1,3 миллиарда долларов, в результате чего его общая сумма составила 1,5 миллиарда долларов.
В Google г-н Гомес был частью небольшой исследовательской группы, которая разработала Transformer — фундаментальную технологию, используемую для создания чат-ботов, таких как ChatGPT и Google Bard.
Трансформер — яркий пример того, что ученые называют нейронной сетью — математической системой, которая может обучаться навыкам путем анализа данных. Нейронные сети существуют уже много лет, помогая управлять всем, от говорящих цифровых помощников, таких как Siri, до сервисов мгновенного перевода, таких как Google Translate.
Трансформер перенес эту идею на новую территорию. Работая с сотнями или даже тысячами компьютерных чипов, он мог анализировать гораздо больше данных и гораздо быстрее.
Используя эту технологию, такие компании, как Google и OpenAI, начали создавать системы, которые обучались на огромном количестве цифрового текста, включая статьи в Википедии, электронные книги и журналы чатов. По мере того как эти системы анализировали все больше и больше данных, они научились самостоятельно генерировать текст, включая курсовые работы, сообщения в блогах, поэзию и компьютерный код.
Эти системы, называемые большими языковыми моделями, теперь лежат в основе чат-ботов, таких как Google Bard и ChatGPT.
Задолго до появления ChatGPT г-н Гомес покинул Google, чтобы основать собственную компанию вместе с г-ном Фросстом и другим предпринимателем из Торонто, Иваном Чжаном. Цель состояла в том, чтобы построить большие языковые модели, конкурирующие с Google.
В Google он и его коллеги-исследователи имели доступ к почти неограниченному количеству вычислительной мощности. После ухода из компании ему нужно было что-то подобное. Поэтому он и его соучредители приобрели его у Google, который продает доступ к тем же чипам через сервисы облачных вычислений.
В течение следующих трех лет Cohere построил большую языковую модель, которая может соперничать практически с любой другой. Теперь он продает эту технологию другим предприятиям. Идея состоит в том, чтобы предоставить любой компании технологию, необходимую им для создания и запуска собственных приложений ИИ, от чат-ботов до поисковых систем и персональных наставников.
«Стратегия состоит в том, чтобы создать платформу, на основе которой другие смогут экспериментировать», — сказал г-н Гомес.
OpenAI предлагает аналогичную услугу под названием GPT-4, которую многие компании уже используют для создания чат-ботов и других приложений. Эта новая технология может анализировать, генерировать и редактировать текст. Но вскоре он будет обрабатывать изображения и звуки. OpenAI готовит версию GPT-4, которая может исследовать фотографию, мгновенно описывать ее и даже отвечать на вопросы о ней.
Исполнительный директор Microsoft Сатья Наделла сказал, что соглашение компании с OpenAI — это своего рода взаимовыгодные отношения, которые она давно поддерживает с более мелкими конкурентами. «Я вырос в компании, которая всегда заключала такие сделки с другими компаниями», — сказал он The New York Times в начале этого года.
В то время как индустрия стремится соответствовать GPT-4, предприниматели, инвесторы и эксперты спорят о том, кто в конечном итоге станет победителем. Большинство согласны с тем, что OpenAI лидирует в этой области. Но Cohere и небольшая группа других компаний создают аналогичную технологию.
Технологические гиганты находятся в сильной позиции, потому что у них есть огромные ресурсы, необходимые для продвижения этих систем дальше, чем кто-либо другой. Google также владеет патентом на Transformer, основополагающую технологию систем искусственного интеллекта, которую создают Cohere и многие другие компании.
Но есть дикая карта: программное обеспечение с открытым исходным кодом.
Meta, еще один гигант с вычислительной мощностью, необходимой для создания следующей волны ИИ, недавно открыл исходный код своей последней большой языковой модели, что означает, что любой может повторно использовать ее и строить на ее основе. Многие в этой области считают, что такое бесплатное программное обеспечение позволит любому конкурировать.
«Коллективный разум каждого исследователя на Земле превзойдет любую компанию», — сказал Амр Авадалла, исполнительный директор стартапа Vectara и бывший руководитель Google. Но им все равно придется платить за доступ к центрам обработки данных гораздо более крупного конкурента.