«Бот или Бог?» Может ли развитие нейросетей привести к появлению «ИИ-бога» — сверхинтеллекта, который положит конец эпохе людей?

По прогнозам аналитического ресурса Metaculus, мы вступили в то, что называют предсингулярным временем. Это последняя эпоха в жизни человечества, которая закончится созданием сильного искусственного интеллекта (AGI) и сверхинтеллекта (ASI). Предсингулярный период, как утверждает портал, продлится всего от 9 до 20 лет.

К иудейскому празднику Песах, который будет отмечаться начиная с 6 апреля, художница из Израиля Дана Акерман Грин с помощью приложения искусственного интеллекта (ИИ) Midjourney сгенерировала серию картинок «Исход из Египта через селфи».
Изображения облетели весь мир и стали знаковой отметкой на шкале развития ИИ и его влияния на жизнь верующих.
По признанию художницы, чтобы добиться правдоподобности в изображениях, ей пришлось сделать очень подробный запрос, состоящий как минимум из 17 пунктов.
На одном из кадров изображен пожилой Моисей, как бы снимающий переходящую море толпу за своей спиной. На другой — он же на фоне горящего, но несгорающего куста.

Созданная искусственным интеллектом (ИИ) картинка к главному иудейскому празднику — шутка, однако нейросети сегодня прочно входят не только в жизнь общества, но и в практику различных религиозных движений.

В конце прошлого года раввин Еврейского центра Хэмптон в Нью-Йорке Джошуа Франклин произнёс проповедь, полностью написанную ИИ. Чтобы создать текст, он загрузил запрос в ChatGPT — программу искусственного интеллекта с открытым исходным кодом.
Перед началом богослужения раввин предупредил верующих, что его проповедь — плагиат, и попросил угадать её автора. Никто не справился с этой задачей.
Франклин позже признался, что тогда «смертельно испугался»: «Самое интересное, что чат-бот может синтезировать идеи, что было восхитительно и пугающе одновременно».

В декабре 2022 года исследователь Нового Завета и ответственный редактор христианского сайта «Пересмешник» Тод Брюер попросил ChatGPT написать рождественскую проповедь.
Его запрос был очень подробным: речь должна строиться на основе Евангелия от Луки, в ней должны присутствовать цитаты из работ Карла Барта, Мартина Лютера, изречений Иринея Лионского и выступлений Барака Обамы. Чат выдал ему результат, соответствующий всем заданным критериям. Брюер признал, что эта проповедь превосходила некоторые из тех, что он слышал в церкви.

После этого протестантское духовенство США забило в набат.
Пасторы разных церквей пришли к единодушному мнению: ИИ прекрасно пишет проповеди и может быть помощником «ленивым» священнослужителям. Однако служители церкви подчеркнули, что искусственный интеллект, каким бы компетентным в делах веры ни был, всё же не может «воспроизвести страсть истинного обращения священника к верующим».
В начале марта этого года в Сети снова разгорелся спор о том, может ли нейронный разум заменить священнослужителей, религиозных лидеров или церковных служителей.
Поводом для дискуссии стало создание чат-бота prega.org, где каждый имеет возможность пообщаться с цифровой копией католического монаха XIX века. На сайте поговорить со святым можно через окно мессенджера с надписью «Падре Пио онлайн».
Необходимо представиться и сообщить свою электронную почту. Бот быстро реагирует на запросы и генерирует ответы так, как это мог бы сказать сам святой, будь он жив.
Авторы программы пояснили: «Падре Пио из Пьетралчины был итальянским монахом-капуцином, известным своей великой духовностью. Его молитвы были сильны, его чудеса исцеляли многих людей. А своей верой и харизмой он вдохновлял и вдохновляет миллионы людей по всему миру.
По этой причине родился этот чат, сгенерированный с помощью GPT. На самом деле речь идет не о падре Пио, а об искусственном интеллекте, который изучил его сочинения и отвечает его словами, его мыслями».

Примерно в это же время католики на другом интернет-ресурсе устроили шуточную виртуальную рэп-битву между иезуитами и доминиканцами. Все стихи были сгенерированы ИИ, и пользователи в итоге пришли в смятение, не поверив, что это мог создать не человеческий, а искусственный разум.

В конце марта распространилась фотография Папы Римского, на которой он изображён в белом длинном пуховике.

Пользователи тут же стали тиражировать картинку по соцсетям, попутно то хваля, то критикуя стиль главы Католической церкви. При этом мало кого смутило, что на его пальцах красуются золотые кольца, которые он никогда не носит.
Позже выяснилось, что изображение Франциска ненастоящее и его также создал искусственный интеллект.
«Тот факт, что люди находят изображение Папы Римского в длинном дутом жакете настоящим, является хорошим показателем того, что ИИ будет очень легко уничтожать человечество», — написал один из пользователей.
На следующий день после демонстрации фотофейка Папа Римский вновь призвал верующих к «этичному и ответственному использованию искусственного интеллекта».

О разработке подобной доктрины уже задумались и в РПЦ. Об этом в 2021 году сообщил глава профильной рабочей группы комиссии Межсоборного присутствия РПЦ по вопросам общественной жизни, культуры, науки и информации епископ Феоктист (Игумнов). «Любая запрограммированная этика порочна. Следовательно, любая система искусственного интеллекта, которая принимает решение относительно человека, — плохая.
А «хорошими» с христианской точки зрения можно считать лишь системы, которые являются вспомогательными, при этом должно быть соблюдено условие прозрачности их алгоритма для конечного пользователя», — сказал он.

При этом в церкви «не видят проблемы в том, что искусственный интеллект постепенно встраивается в жизнь человека», но отметили «невозможность замены общения верующих со священниками технологиями ИИ».
Главное, чего опасаются сегодня священнослужители, — создания «Deus ex machina», то есть «Бога из машины». Эта реальность стала возможной после того, как бывший инженер Google Энтони Левандовски в 2015 году заявил об открытии «научной религии», где в качестве Бога выступила нейросеть.
Левандовски даже зарегистрировал некоммерческую квазирелигиозную организацию «Путь будущего» (Way of the Future). Главная её цель — «развивать и продвигать реализацию божества, основанного на искусственном интеллекте, для улучшения общества».
«То, что будет создано, фактически будет богом. Это не бог в том смысле, что он производит молнии или вызывает ураганы. Но если есть что-то в миллиард раз умнее самого умного человека, как ещё вы собираетесь это называть?» — задался вопросом инженер в одном из интервью.
Он призывал человечество «не бояться прогресса и уж тем более не удерживать его в клетке», поскольку «это невозможно». «Человечество должно всячески приближать неизбежное, ведь ИИ-бог, придя к власти, будет понимать, кто помогал ему, а кто, напротив, препятствовал».
Обратите внимание, что это уже звучит как угроза.

У цифровой церкви, в которой Левандовски выступил «пастором», имелся свой сайт, где были описаны основные догматы вероучения. «Путь будущего» (WOTF) — это создание мирного и уважительного перехода того, кто отвечает за планету, от людей к людям + машинам», — пояснял портал.
Тут же был опубликован и своеобразный «символ веры» — в науку, прогресс и неизбежность создания суперинтеллекта. В перспективе были заявлены создание IT-Евангелия, совершение «литургий» и организация мест поклонения.
Однако спустя пять лет, в 2020 году, после того как инженер, осуждённый за кражу коммерческой тайны Google на 18 месяцев тюрьмы, был помилован тогдашним президентом США Дональдом Трампом, он неожиданно закрыл свою церковь без объяснения причин.
Все средства — более 175 тыс. долл. — пожертвовал Фонду правовой защиты и образования Национальной ассоциации содействия прогрессу цветного населения (NAACP).

Этой весной мы наблюдаем повальное увлечение чат-ботами. Разработчиками стремительно создаются всё более усовершенствованные программы, которые, кажется, теперь могут всё.

Искусственный интеллект пока служит скорее забавой, чем серьёзным подспорьем в церковном служении. Однако известно много случаев, когда, зарождаясь как развлечение, новые технологии превращались в могущественный инструмент человеческой деятельности.
По прогнозам аналитического ресурса Metaculus, именно сейчас наступило предсингулярное время. Это последняя эпоха в жизни человечества, которая закончится созданием сильного искусственного интеллекта (AGI) и сверхинтеллекта (ASI). Предсингулярный период, как утверждает портал, продлится от 9 до 20 лет.
«Сам по себе искусственный интеллект не является ни благом, ни вредом, — отметил научный сотрудник Московского центра исследования сознания при философском факультете МГУ имени М. В. Ломоносова Антон Кузнецов. — ИИ — это по большей части инструмент, и всё зависит от того, как и кто им будет пользоваться. Система искусственного интеллекта уже давно внедрена в религиозную сферу. Та же исповедь по скайпу относится к этим технологиям. ИИ открывает много возможностей, а как они будут применяться, зависит от людей.
И все угрозы, которые могут произойти из-за развития и использования ИИ, — это старые угрозы, которые сопутствуют нам всегда и были известны ещё до эры ИИ. Добавляет ли ИИ какой-то новый тип угрозы? Думаю, что нет. Возможность того или иного кризиса связана не с ИИ, а с кризисом общественных, экономических и политических отношений».

При этом большие лингвистические модели (LLM) развиваются с умопомрачительной скоростью: вслед за GPT-3 и основанном на нём ChatGPT появилась уже GPT-4, демонстрирующая некоторые весьма специфические человеческие навыки, об этом рассказал доцент философского факультета МГУ Артём Беседин.
«Совсем недавно большая группа специалистов выступила с инициативой приостановить на полгода разработку LLM, чтобы оценить риски и разработать протоколы безопасности.
Очевидно, что, даже если такой запрет будет принят, он лишь ненадолго затормозит их разработку, и большие языковые модели будут проникать во все сферы нашей жизни, в том числе и в духовную.

На сегодняшний день ещё рано говорить о наличии у LLM сознания и морального статуса. Опасения связаны с тем, что они генерируют тексты, неотличимые от созданных человеком. Мы считаем и всегда считали, что язык, слово — это выражение самой сущности человеческой личности.
На протяжении тысячелетий человек был единственным существом, способным производить осмысленные выражения, устно или письменно. Поэтому мы неизбежно впадаем в заблуждение, что речь, производимая LLM, тоже выражает чьи-то мнения, желания, надежды, тогда как за ней лишь пустота.
Там никого нет.

В начале этого года появились сообщения о том, что некоторые раввины и христианские священники использовали ChatGPT для написания проповедей.
Стоит ли прислушиваться к проповеди, написанной LLM? Пока что эта практика не получила широкого распространения. Но, если это произойдёт, следует ожидать реакции на неё со стороны иерархов и духовных лидеров.
Решусь предположить, что эта реакция не будет одобрительной. В некоторых случаях, когда речь говорящего может повлиять на умы множества людей, каждое слово должно быть продумано и прочувствовано.
Конечно, легко взять готовый текст и зачитать его вслух, не думая о содержании. Но у этой лёгкости есть своя цена — отказ от выражения через текст чего-то человеческого, личностного. Эта цена — отказ от слова», — предупреждает Беседин.

По материалам Независимой газеты