Папа Римский Лев XIV цитирует Толкина в энциклике об искусственном интеллекте

В своей первой энциклике «Magnifica humanitas», опубликованной в понедельник, Папа Римский Лев XIV ожидаемо сослался на известных святых и предшествующих понтификов. Однако особое внимание многих читателей привлекло имя, неразрывно связанное с жанром высокого фэнтези: Дж.Р.Р. Толкин, католический автор «Властелина колец». Энциклика – это папское письмо, содержащее духовные наставления и руководство.

Обеспокоенность ИИ и технологическим прогрессом

Основная тема письма Папы Льва XIV посвящена «защите человеческой личности во времена искусственного интеллекта» – это ключевая тема его первого года во главе Католической церкви. Следуя за своим предшественником, Папой Франциском, он предостерегает от «растущего доминирования технократической парадигмы», способной «превратить творение в объект эксплуатации, а людей – в простые винтики в системе, стремящейся к постоянно растущей эффективности». Понтифик снова сравнивает рост ИИ с промышленной революцией, охватившей период с середины XVIII до начала XX века, намекая на учения своего тезки, Папы Льва XIII, который в своей энциклике 1891 года отстаивал важность прав и достоинства трудящихся во время технологических потрясений и формирования капиталистической империи. Обширный текст лишь укрепляет позицию Папы Льва как скептика в отношении искусственного интеллекта.

Толкин и противоречивые интерпретации

Однако отсылка к Толкину особенно примечательна, учитывая некоторые, по мнению критиков, «обратные» интерпретации мифологии Средиземья правыми миллиардерами, такими как Питер Тиль и Илон Маск, которые давно высмеиваются другими поклонниками «Властелина колец». Некоторые обозреватели предположили, что это может быть своего рода иронией или вызовом со стороны понтифика. Ватикан не предоставил комментариев по этому вопросу.

Очевидно, что Папа обеспокоен мотивами технологических олигархов, стремящихся к разработке универсального искусственного интеллекта (AGI), превосходящего человеческие возможности. Действительно ли они мечтают использовать этот инструмент для лечения болезней и решения проблем изменения климата, или же строят машины для безграничной прибыли и культурного доминирования? Именно когда речь заходит о нашей личной ответственности в противостоянии таким «темным силам», Папа Лев заимствует мудрое прозрение у знаменитого волшебника Толкина, Гэндальфа: «Нам не дано управлять всеми течениями мира, но мы можем сделать то, что в наших силах, чтобы помочь тем годам, в которые мы живем, искореняя зло на известных нам полях, чтобы те, кто придет после нас, могли возделывать чистую землю». Этот урок существенно отличается от того, как, по-видимому, интерпретируют шедевр Толкина Маск и Тиль.

«Палантир» и «Прелесть» Питера Тиля

Питер Тиль назвал свою компанию по анализу данных Palantir, в честь магического шара-кристалла, используемого для шпионажа предателем-волшебником Саруманом в саге. Сообщается, что свою венчурную фирму Founders Fund он называет «моя прелесть» – так извращенный и жадный персонаж Голлум называет Единое Кольцо, магическое средство тоталитарной власти. Практически любой, кто знаком с творчеством Толкина (или его адаптациями), понимает, что автор писал о развращающем влиянии подобной власти – в романах искушение править неизбежно губит любого, кто поддается ему. Тем не менее, Тиль, по всей видимости, наслаждается теми же возможностями авторитарного контроля и всеведения, что и злодеи.

Спорная интерпретация Илона Маска

Илон Маск, со своей стороны, предположил, что эпопею Толкина можно прочесть как «антииммигрантскую притчу о строительстве стен»: «Когда Толкин писал о хоббитах, он имел в виду джентри английских графств, которые не осознают ужасов, происходящих далеко», — написал он в X* в октябре. «Они могли жить своей жизнью в мире и спокойствии, но только потому, что их защищали суровые люди Гондора». Он представил эту, по мнению критиков, неточную интерпретацию «Властелина колец» в защиту исламофобского ультраправого британского активиста Томми Робинсона.

Истинный посыл Толкина и критика Папы

На самом деле, описания Толкином мародерствующих армий, разоряющих земли, были вдохновлены ужасами милитаризации и индустриализации – двумя явлениями, хорошо знакомыми англичанам поколения Толкина. Его опыт механизированных ужасов Первой мировой войны широко признан как ключевое вдохновение для кампании Сарумана, основанной на уничтожении древнего леса ради топлива и рабском труде жестоких орков. Эта аллегория, скорее, лучше соответствует критике Папы Льва в адрес технологической элиты, которая сеет разногласия и неравенство, направляет свои ресурсы на войны, опустошает окружающую среду и захватывает власть любой ценой. Ни Тиль, ни Маск не предоставили оперативных комментариев по поводу энциклики.

Действия миллиардеров и их противоречия

Тиль, по крайней мере, кажется несколько самокритичным в этом вопросе, учитывая его любимые отсылки к Толкину и сотрудничество Palantir с Иммиграционной и таможенной полицией США (Immigration and Customs Enforcement, ICE). Маск, даже если он видит себя одним из героев истории, руководил расформированием Агентства США по международному развитию (USAID), что привело к сотням тысяч предотвратимых смертей по всему миру и, вероятно, к миллионам других в будущем. Оба продолжают поддерживать администрацию Трампа, которая использовала ИИ для всего, от расистской пропаганды до планирования бомбардировок в Иране — и, конечно, использовали «Властелина колец» для продвижения и героизации ICE. В этом контексте цитирование Гэндальфа Папой Львом можно расценить как очень обдуманный шаг. Цитата этого любимого персонажа в трактате, осуждающем общество, которое ценит эффективность превыше всего и концентрирует огромную власть и богатство в руках немногих, звучит как прямое послание этим людям — намеренно это или нет. Однако, учитывая расхождения в трактовках, остается открытым вопрос, будет ли это послание услышано теми, кому оно адресовано.

* — деятельность компании запрещена на территории РФ