Сотни лидеров технологической отрасли, ученых и других общественных деятелей подписали открытое письмо, в котором предупреждали, что развитие искусственного интеллекта (ИИ) может привести к исчезновению, и заявляли, что контроль над технологиями должен быть главным глобальным приоритетом.
«Снижение риска исчезновения из-за ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война», — говорится в заявлении, опубликованном Центром безопасности ИИ в Сан-Франциско.
Краткое заявление в письме читается почти как вина за технологию, о которой ее создатели теперь объединяются, чтобы предупредить мир.
По иронии судьбы, среди наиболее видных подписавших в начале письма были Сэм Альтман, генеральный директор OpenAI, компании, которая создала чрезвычайно популярный чат-бот с генеративным искусственным интеллектом ChatGPT, а также Кевин Скотт, технический директор Microsoft, крупнейшего инвестора OpenAI. К ряду основателей и руководителей OpenAI также присоединились руководители, инженеры и ученые из исследовательской лаборатории искусственного интеллекта Google DeepMind.
Джеффри Хинтон, считающийся отцом ИИ за его вклад в технологию за последние 40 лет или около того, также подписал сегодняшнее письмо. Во время вопросов и ответов в Массачусетском технологическом институте в начале этого месяца Хинтон зашел так далеко, что сказал, что люди — не более чем переходный этап в развитии ИИ. Он также сказал, что в 70-х и 80-х годах было вполне разумно проводить исследования о том, как создавать искусственные нейронные сети. Но сегодняшние технологии — это как если бы генные инженеры решили улучшить медведей гризли, позволив им говорить по-английски и повысить их «IQ до 210».
Однако Хинтон сказал, что не сожалеет о том, что сыграл важную роль в создании ИИ. «На самом деле это было невозможно предвидеть — эту стадию этого нельзя было предвидеть. До недавнего времени я думал, что до этого экзистенциального кризиса еще далеко. Так что у меня нет никаких сожалений о том, что я сделал», — сказал Хинтон.
Авторское право © 2023 IDG Communications, Inc.
