Иногда раввин Джошуа Франклин точно знает, о чем он хочет говорить в своих еженедельных субботних проповедях, а иногда не очень. Именно в один из тех не очень дней холодным днем в конце декабря духовный лидер Еврейского центра Хэмптона решил обратиться к искусственному интеллекту.
38-летний Франклин с темными волнистыми волосами и дружелюбной атмосферой знал, что новая программа OpenAI ChatGPT может писать сонеты в стиле Шекспира и песни в стиле Тейлор Свифт. Теперь он задался вопросом, сможет ли он написать проповедь в стиле раввина.
Поэтому он дал ему подсказку: «Напишите проповедь голосом раввина, около 1000 слов, связывая раздел Торы на этой неделе с идеей близости и уязвимости, цитируя Брене Браун» — автор бестселлеров и исследователь, известный своей работать над уязвимостью, стыдом и эмпатией.
Результат, которым он поделился в тот вечер в современном святилище синагоги из светлого дерева, а позже размещено на Vimeoбыла связная, хотя и повторяющаяся речь, которую многие в его собрании догадались, что она была создана известными раввинами.
«Вы аплодируете», — сказал Франклин после того, как сообщил, что проповедь, которую он только что произнес, была составлена компьютером. «Я в ужасе.»
По мере того как эксперименты, подобные эксперименту Франклина, и недавний тревожный разговор между обозревателем технологий и новым чат-ботом Microsoft демонстрируют, насколько устрашающе похожими на людей стали некоторые программы ИИ, религиозные мыслители и учреждения все чаще вступают в дискуссию об этическом использовании быстро развивающейся технологии, которая может однажды развить собственное сознание — по крайней мере, согласно ее апостолам из Силиконовой долины. Призыв к широкому спектру мифов от Икара к Вавилонская башня к рассказу о джинне, который может исполнить все наши желания с катастрофическими последствиями, звучит древнее предупреждение о том, что происходит, когда люди пытаются играть в Бога.
Прежде чем произнести проповедь, написанную ChatGPT, раввин Франклин сказал своей пастве, что то, что он собирался прочитать, было плагиатом.
«Друзья, — начал он, читая проповедь, написанную искусственным интеллектом, — сегодня мы собираемся, чтобы изучать часть недели Торы, Вайгашдавайте задумаемся о важности развития близости в наших отношениях с другими».
Далее роботизированная проповедь рассказывала историю о том, как Иосиф, сын Иакова, спустя много лет воссоединился со своими братьями. Хотя в прошлом они предали его, Джозеф приветствовал их с теплотой и любовью.
«Подходя к ним с открытостью и уязвимостью, он может залечить старые раны и создать более глубокие и значимые связи со своими братьями и сестрами», — читал Франклин. «Это важный урок для всех нас».
Это была адекватная проповедь, но не та, которую написал бы Франклин. «Что было упущено, так это идея о том, как мы находим Бога в значимых встречах с другими», — сказал он позже. «Как сообщество и отношения создают Бога в нашей жизни». Другими словами, ощущение, что проповедь возникла из живого опыта тоскующего, ищущего, страдающего человека, а не из алгоритмической формулы.
Вполне возможно, что когда-нибудь духовных лидеров заменят роботы, поскольку ИИ продолжает совершенствоваться (все возможно).
Но большинство теологов говорят, что другие этические проблемы, связанные с ИИ, более насущны. Они обеспокоены растущим финансовым неравенством, поскольку автоматизация сокращает тысячи рабочих мест, и они сомневаются в нашей способности проявлять свободную волю, поскольку мы все больше полагаемся на компьютерные алгоритмы, которые принимают решения за нас в медицине, образовании, судебной системе и даже в том, как мы водим наши машины и что мы делаем. смотреть по телевизору.
На более экзистенциальном уровне, чем лучше ИИ имитирует человеческий интеллект, тем больше он ставит под сомнение наше понимание чувств, сознания и того, что значит быть человеком. Хотим ли мы, чтобы управляемые искусственным интеллектом роботы стали нашими слугами? Будут ли у них чувства? И обязаны ли мы относиться к ним так, как если бы они относились к ним?
Эти этические дилеммы могут показаться новыми, но по своей сути они представляют собой проблемы, с которыми религиозные традиции, такие как иудаизм, ислам и христианство, боролись на протяжении тысячелетий, говорят религиозные лидеры.
По словам о. Джеймс Кинан, католический богослов из Бостонского колледжа.
«Есть определенные способы сказать, что все эти великие традиции проблематичны, но в них также есть свое понимание и мудрость», — сказал он. «У них есть история, к которой стоит прикоснуться».
С самых первых дней исследований ИИ в 1950-х годах желание создать человекоподобный интеллект сравнивали с легендой о големе, мифическом существе из еврейского фольклора, созданном могущественными раввинами из грязи и магии для выполнения приказов своего хозяина. . Самый известный голем, как утверждается, был сделан раввином 16-го века Иудой Лоу бен Безулелем из Праги для защиты еврейского народа от антисемитских нападений. Голем также послужил источником вдохновения для Франкенштейна Мэри Шелли.
На протяжении веков представление о созданном человеком одушевленном существе, лишенном божественной искры или души, было частью еврейского воображения. Раввины спорили о том, можно ли считать голема человеком, можно ли его засчитать в миньяне (кворум из 10 человек, необходимый для традиционной еврейской общественной молитвы), можно ли его убить и как с ним следует обращаться.
В результате этих раввинистических дискуссий этическая позиция в отношении искусственного интеллекта возникла задолго до изобретения компьютеров, сказал Нахсон Гольц, профессор права в Университете Эдит Коуэн в Австралии, написавший о Еврейский взгляд на ИИ. Хотя создание искусственных сущностей для помощи нам в выполнении наших задач считается допустимым, «мы должны помнить о своей ответственности сохранять контроль над ними, а не наоборот», — написал он.
Раввин Элиэзер Симха Вайс, член Главного совета раввинатов Израиля, поддержал эту идею в недавней речи. «В каждой истории о големе голем в конце концов уничтожается или разбирается», — сказал он. «Другими словами, урок, который преподают раввины, заключается в том, что все, что делает человек, должно контролироваться человеком».
Раввины также пришли к выводу, что, хотя голема нельзя считать полноценной личностью, все же важно относиться к нему с уважением.
«То, как мы относимся к этим вещам, влияет на нас», — сказал Гольц. «То, как мы относимся к ним, определяет развитие нашего собственного характера и определяет будущий курс нашего собственного проявления моральной свободы воли».
Еще одна предостерегающая история из еврейского и мусульманского фольклора вращается вокруг джинна, нечеловеческого существа, состоящего из бездымного огня, которого люди иногда могут связать и приковать к своей воле. Таково происхождение истории о джинне, который может дать нам все, что мы пожелаем, но его нельзя загнать обратно в бутылку.
«Истории о джиннах — это пример того, что происходит, когда вы просите нечеловека исполнить человеческие желания», — сказал Дэмиен Уильямс, профессор философии и науки о данных в Университете Северной Каролины в Шарлотте. «То, что выходит с другой стороны, кажется шокирующим и карательным, но если вы на самом деле проследите это, они просто исполняют эти желания в полной мере их логических последствий».
Ислам предоставляет еще одну этическую линзу, через которую можно смотреть на развитие ИИ. Юридическая максима исламской юриспруденции гласит, что отражение вреда всегда имеет приоритет над получением выгоды. С этой точки зрения технология, которая помогает одним людям, но оставляет других без работы, будет считаться неэтичной.
«Большинство этих технологий разрабатываются и внедряются во многих случаях ради этого, и возникающий вред иногда является вероятностным», — Джунаид Кадир, профессор электротехники в Катарском университете, который организовал конференцию по исламской этике и ИИ. «Мы не знаем, что это будет, у технологий есть свои непредвиденные последствия».
В целом, исламская традиция поощряет осторожный подход к новым технологиям и их использованию, сказал Аасим Падела, профессор экстренной медицины и биоэтики в Медицинском колледже Висконсина.
«То, что пытается заставить вас соперничать с Богом, не рассматривается как цель для достижения», — сказал он. «Пытаясь достичь бессмертия посредством переноса мозга или сделать тело лучше, чем то, которое у вас есть, эти импульсы следует сдерживать. Бессмертие в загробной жизни, а не здесь».
«Правило святого Бенедикта», книга, написанная в VI веке как руководство к монашеской жизни, предлагает ответ на вопросы о том, как этически мы можем взаимодействовать с ИИ как сейчас, так и в будущем, когда мы можем столкнуться с роботами с человеческими особенности, говорит Норин Херцфельд, профессор богословия и компьютерных наук в Университете Св. Иоанна и Колледже Св. Бенедикта в Миннесоте.
В разделе книги, обращенном к келарю — лицу, заведовавшему монастырским продовольствием, — св. Бенедикт велит келарю относиться ко всякому приходящему к нему с добрым словом, а ко всем неодушевленным предметам, находящимся в его кладовой, относиться «как к они были посвященными сосудами жертвенника».
«Для меня это то, что мы можем применить к ИИ», — сказал Херцфельд. «Люди всегда на первом месте, но мы должны относиться к ИИ с уважением, с осторожностью, потому что ко всему земному нужно относиться с уважением. То, как вы относитесь к вещам, является частью того, что определяет ваш собственный характер и то, как вы относитесь к Земле и другим людям. “
Католическая церковь была особенно активна в продвижении этики ИИ, которая приносит пользу человечеству, центрирует человеческое достоинство и не имеет своей единственной целью увеличение прибыли или постепенную замену людей на рабочем месте.
«Действительно, если технический прогресс увеличивает неравенство, это не настоящий прогресс», — сказал Папа Франциск в Видео за ноябрь 2020 г. объявляя о своем молитвенном намерении, чтобы робототехника и искусственный интеллект всегда могли служить человечеству.
Цель Ватикана не в том, чтобы замедлить развитие искусственного интеллекта, но церковь считает, что осторожность необходима, сказал Паоло Бенанти, монах-францисканец и один из главных советников Папы по новым технологиям.
«С одной стороны, мы не хотим ограничивать какие-либо преобразовательные импульсы, которые могут привести к большим результатам для человечества; с другой стороны, мы знаем, что у всех преобразований должно быть направление», — написал он в электронном письме. «Мы должны осознавать, что если ИИ плохо управляется, это может привести к опасным или нежелательным преобразованиям».
С этой целью лидеры Ватикана помогли создать Римский призыв к этике ИИ, обязательство, впервые подписанное в 2020 году представителями Папской академии жизни, IBM, Microsoft и Министерства инноваций Италии, среди прочих, отстаивать создание прозрачных, инклюзивных и беспристрастных технологий искусственного интеллекта. 10 января лидеры еврейских и исламских общин собрались в Ватикане, чтобы поставить свои подписи.
Просить технологические компании отдавать приоритет гуманитарным целям, а не корпоративным интересам, может показаться маловероятным предложением, но влияние религиозной иерархии на этику ИИ не следует недооценивать, считает Бет Сингер, профессор цифровых религий в Цюрихском университете.
«Это может помочь массам верующих критически мыслить и использовать свои голоса», — сказала она. «Чем больше в разговоре будут участвовать значимые харизматичные голоса, такие как Папа Римский, это только увеличит вероятность того, что люди на низовом уровне смогут оценить то, что происходит, и что-то с этим сделать».
Бенанти согласился.
«Миллиарды верующих, населяющих планету, могут стать огромной силой для превращения этих ценностей во что-то конкретное при разработке и применении ИИ», — сказал он.
Что касается Франклина, раввина из Хэмптона, он сказал, что его эксперимент с ChatGPT в конечном итоге заставил его почувствовать, что рост ИИ может иметь положительную сторону для человечества.
По его словам, хотя искусственный интеллект может имитировать наши слова и даже читать наши эмоции, ему не хватает способности чувствовать наши эмоции, понимать нашу боль на физическом уровне и глубоко общаться с другими.
«Сострадание, любовь, сопереживание — это то, что мы умеем лучше всего», — сказал он. «Я думаю, что чат GPT заставит нас отточить эти навыки и стать, даст Бог, более человечными».
