Папа Римский Лев XIV опубликовал 15 мая 2026 г. один из важнейших для церкви документов – энциклику (encyclical), которую полностью посвятил искусственному интеллекту (ИИ). В тексте «Magnifica Humanitas» («Великолепная человечность») объемом 42 300 слов, ИИ, фактически, охарактеризован не столько как инновационная технология, сколько как растущая угроза. Понтифик призвал правительства, экспертов и корпорации к более жесткому регулированию, замедлению и даже ограничению развития и использования ИИ.
Энциклика (encyclical) – один из наиболее значимых поучительных документов, которые может издать Папа Римский. Традиционно написанные в виде писем католическим епископам и церкви в целом, энциклики предлагают авторитетные указания по основным моральным, социальным или политическим вопросам и часто формируют католическую мысль на протяжении поколений, влияя даже на дискуссии, выходящие далеко за пределы Ватикана.
Комментарии, выпущенные в последние несколько дней крупнейшими мировыми СМИ и аналитиками, часто проводят параллель с другим аналогичным документом – «Rerum Novarum» («О новых вещах»). Написанный Папой Римским Львом (какое совпадение?!) XIII в мае 1891 г., та энциклика провозглашала промышленную революцию как угрозу. В ней говорилось, что быстрая индустриализация будет ущемлять права трудящихся и усиливать экономическое неравенство, что приведет к негативным социальным последствиям. Тогда глава католической церкви призывал к необходимости регулирования капитализма (впрочем, и социализма тоже) и защите прав трудящихся.
И вот теперь, спустя 135 лет, кажется, что история с попытками церкви остановить очередной технологический виток, повторяется. В целом католическая церковь всегда имела сложные и скорее негативные отношения с изобретателями, инновациями и распространением новых технологий. Достаточно вспомнить историю печатного станка Гутенберга, не говоря уже о Джордано Бруно. Очевидно, выраженный консерватизм и беспокойство в первую очередь о потенциальном негативном эффекте, чем о положительных изменениях и неизбежности прогресса, остается одной из главных традиций.
Однако в «Magnifica Humanitas» четко прослеживается попытка найти баланс между признанием неизбежности развития ИИ и рассмотрением возникающих в этой связи опасностей, что, конечно, вызывает уважение осторожности и отказу церкви от радикальных формулировок.
Например, в документе говорится, что ИИ — это «дар, способный облегчить страдания и открыть новые возможности», но при условии, что он будет направлен на ценности, ориентированные на человека, а не на прибыль или концентрированный контроль. Поэтому «технологию [ИИ] не следует рассматривать как силу, враждебную человечеству». Еще одна цитата: «Призывы к осмотрительности, тщательной оценке и даже, порой, замедлению темпов внедрения ИИ не означают противодействия прогрессу. Напротив, это проявление ответственной заботы о человечестве».
Несмотря на эти в целом правильные, мягкие и откликающиеся фразы, тем не менее создается подозрение что одна из их целей – это сократить риски, что церковь снова будет восприниматься как стопор и ретроград на пути развития технологий, как бы заранее сказать, что «мы конечно в целом «за», но немножко «против».
Как бы то ни было, главный акцент в опусе – это все-таки размышления об опасностях, рисках и даже разрушительном характере ИИ (то, что мы называем disrupt). Вот, например, что глава Римской церкви выделил в этой части:
- Быстрая автоматизация может привести к вытеснению рабочих и изменению рынков труда таким образом, что многие окажутся в «вынужденной бездеятельности», что подорвет как человеческое достоинство, так и социальную стабильность.
- Создаваемая с помощью ИИ дезинформация будет негативно влиять на детей и молодёжь.
- Развитие ИИ будет усиливать концентрацию власти в руках небольшого числа технологических корпораций.
- Развитие ИИ приведет к росту рисков военных конфликтов, которые за счет автономного ИИ будет проще разжигать, но они менее будут подтверждены человеческому контролю.
Рассматривая эти и некоторые другие опасности, Лев XIV призывает правительства не оставлять будущее ИИ на усмотрение частных компаний-разработчиков или «невидимой руки» рынка. Так, в документе говорится: «Стремление к большей прибыли не может оправдать решения, которые систематически приводят к сокращению рабочих мест». Понтифик призывает к созданию «надежных правовых рамок, независимого надзора, информированных пользователей и политической системы, которая не отказывается от своей ответственности», чтобы гарантировать, что технология служит общему благу.
Утверждая, что «мы не можем считать ИИ морально нейтральным», он также говорит о том, что «ответственность должна быть четко определена на каждом этапе», чтобы можно было определить, «кто должен „отчитываться“ за принятые решения, обосновывать их, контролировать их и, при необходимости, оспаривать их и устранять причиненный вред».
Помимо нормативных гарантий, он призывает к «разоружению» ИИ путем «освобождения» его от экономической и военной конкуренции и «монополистического контроля», а также путем предоставления ему возможности для более широкого обсуждения и дебатов.
«Необходимо, — пишет Папа Римский, — более активное политическое участие, способное замедлить темпы развития событий, когда все ускоряется, и защитить возможности для сообществ по-прежнему участвовать и задавать вопросы».
Как бы мы ни воспринимали эту энциклику, нужно признать – что тот факт, что один из ключевых церковных документов, способный повлиять на миллионы граждан, их суждения и в конечном счете действия, посвящен этическим вызовам, возникающим из-за технологий ИИ, говорит о все возрастающей роли и влиянии технологии на все человечество. И к этим мыслям нужно безусловно прислушаться, обдумать и может быть действительно скорректировать что-то в бешеной гонке за ИИ-будущее.