Дорогие братья и сёстры!
Лицо и голос – уникальные отличительные черты каждого человека; они отражают его неповторимую самобытность и являются составной частью каждой встречи. Об этом хорошо знали в древности. Не случайно древние греки, определяя человеческое существо, использовали слово «лик» (prósopon), которое обозначает то, что находится перед взором, место пребывания и отношения. Латинский термин persona (от per-sonare) включает в себя звучание: не всякий звук, а неповторимый голос конкретного человека.
Лицо и голос священны. Они дарованы Богом, Который сотворил нас по Своему образу и подобию, призвав к жизни Словом, с которым Он Сам к нам обратился. С самого начала библейское Откровение предстаёт как история диалога: Слово, звучащее на протяжении веков в голосах пророков и ставшее плотью в полноте времён. Это Слово, – коммуникация, в которой Бог открывает Себя, – стало доступным слуху и взору непосредственно в голосе и лике Иисуса (см. 1 Ин 1,1-3).
С момента сотворения человека Бог возжелал, чтобы он стал Его собеседником, и, как говорит святой Григорий Нисский (1), запечатлел на его лице отражение Божественной любви, дабы тот мог полноценно жить своей человечностью через любовь. Поэтому беречь лица и голоса людей означает хранить эту печать, этот неизгладимый отблеск любви Бога. Мы не являемся видом, состоящим из заранее прописанных биохимических алгоритмов: каждый человек обладает незаменимым и неповторимым призванием, которое раскрывается в течение жизни и проявляется именно в общении с другими.
Если этого не сберечь, цифровая технология рискует радикально изменить некоторые из фундаментальных столпов человеческой цивилизации, которые мы порой принимаем как должное. Имитируя человеческие голоса и лица, мудрость и знания, осознанность и ответственность, эмпатию и дружбу, системы, известные как искусственный интеллект, не только вмешиваются в информационные экосистемы, но и вторгаются на самый глубокий уровень коммуникации – уровень отношений между людьми.
Таким образом, стоящая перед нами задача является не столько технологической, сколько антропологической. Беречь лица и голоса означает, в конечном счёте, защищать самих себя. Смело, решительно, рассудительно принимать возможности, которые предлагают цифровые технологии и искусственный интеллект, не означает закрывать глаза на критические моменты, непрозрачность и риски.
Не отказываться от собственного мышления
Уже давно очевидно, что алгоритмы, разработанные для максимального вовлечения в социальные сети – что прибыльно для платформ – вознаграждают быстрые эмоции и, напротив, пренебрегают теми человеческими чертами, которые требуют времени, такими как усилия для понимания и размышления. Замыкая группы людей в пузырях лёгкого согласия, эти алгоритмы ослабляют способность внимать и критически мыслить, усиливая социальную поляризацию.
К этому в ряде контекстов добавилось чрезмерное и лишённое критического осмысления доверие к искусственному интеллекту, который воспринимается как своего рода всеведущий «друг», раздатчик всякой информации, хранилище всех воспоминаний, «оракул» любого совета. Такое отношение может ослабить нашу способность мыслить аналитически и креативно, понимать смысл, различать синтаксис и семантику.
Хотя ИИ способен оказывать поддержку и помощь в решении коммуникативных задач, отказ от усилий собственного мышления в пользу результатов искусственной статистической компиляции чреват в долгосрочной перспективе размытием наших когнитивных, эмоциональных и коммуникативных способностей.
В последние годы системы искусственного интеллекта всё активнее берут на себя также производство текстов, музыки и видео. Значительная часть человеческой креативной индустрии рискует быть разрушенной и заменённой ярлыком Powered by AI («Создано при помощи ИИ»), превращая людей в пассивных потребителей неосмысленных мыслей, анонимных продуктов, лишённых авторства и любви. При этом шедевры человеческого гения в области музыки, искусства и литературы сводятся к простому тренировочному материалу для машин.
Однако нас прежде всего волнует не то, что может или сможет делать машина, а то, что можем и сможем делать мы сами, возрастая в человечности и познании, мудро используя столь мощные инструменты, находящиеся в нашем распоряжении. С древних времён человек искушаем стремлением присвоить плод знания без труда вовлечённости, поиска и личной ответственности. Но отказ от творческого процесса и передача машинам собственных умственных функций и воображения означает зарыть таланты, дарованные нам для возрастания как личностей в отношении с Богом и ближними. Это значит скрыть своё лицо и заставить замолчать свой голос.
Быть или казаться: симуляция отношений и реальности
Листая наши информационные потоки (feed), становится все труднее понять, взаимодействуем ли мы с другими людьми или с «ботами» и «виртуальными инфлюенсерами». Непрозрачные вмешательства этих автоматизированных агентов влияют на общественные дебаты и на решения людей. В особенности чат-боты, основанные на больших языковых моделях (LLM) и их вычислительных возможностях, оказываются поразительно эффективными в скрытом убеждении через постоянную оптимизацию персонализированного взаимодействия. Диалогическая, адаптивная и миметическая структура этих языковых моделей способна имитировать человеческие чувства и тем самым симулировать отношения. Эта антропоморфизация, которая может даже казаться забавной, в то же время обманчива, особенно для самых уязвимых людей. Потому что постоянно присутствующие и доступные чат-боты, наделённые чрезмерной «сердечностью», могут стать скрытыми архитекторами наших эмоциональных состояний и таким образом вторгаться в сокровенную сферу человека, захватывая её.
Технология, эксплуатирующая нашу потребность в отношениях, может не только иметь болезненные последствия для судеб отдельных людей, но и нанести ущерб социальной, культурной и политической ткани общества. Это происходит, когда мы подменяем отношения с другими людьми взаимодействием с ИИ, обученными каталогизировать наши мысли и таким образом создавать вокруг нас мир зеркал, где всё устроено «по нашему образу и подобию». Тем самым мы лишаем себя возможности встречи с другим – всегда отличным от нас, – с которым мы можем и должны учиться вступать в диалог. Без принятия инаковости невозможны ни отношения, ни дружба.
Ещё одним крупным вызовом, который ставят перед нами эти новые системы, является предвзятость (англ. bias), которое приводит к приобретению и передаче искажённого восприятия реальности. Модели ИИ формируются мировоззрением их создателей и, в свою очередь, могут навязывать определённые способы мышления, воспроизводя стереотипы и предубеждения, содержащиеся в данных, на которых они обучаются. Непрозрачность в разработке алгоритмов, в сочетании с неадекватной социальной репрезентативностью данных, удерживает нас в сетях, которые манипулируют нашими мыслями, закрепляют и углубляют существующие социальное неравенство и несправедливость.
Риск велик. Сила симуляции такова, что ИИ способен вводить нас в заблуждение, создавая параллельные «реальности», присваивая наши лица и голоса. Мы погружены в многомерность, в которой всё труднее отличить реальность от вымысла.
К этому добавляется проблема неточности. Системы, выдающие статистическую вероятность за знание, предлагают в лучшем случае приблизительную истину, что иногда является настоящими «галлюцинациями». Отсутствие проверки источников, наряду с кризисом журналистики на местах, требующей постоянного сбора и проверки информации там, где происходят события, может создать ещё более благоприятную почву для дезинформации, порождая растущее чувство недоверия, растерянности и незащищённости.
Возможный альянс
За этой огромной невидимой силой, вовлекающей всех нас, стоит лишь горстка компаний, чьи основатели недавно были представлены как создатели «человека 2025 года», то есть архитекторы искусственного интеллекта. Это вызывает серьёзную обеспокоенность из-за олигополистического контроля над алгоритмическими и ИИ-системами, способными тонко направлять поведение людей и даже переписывать человеческую историю, включая историю Церкви, зачастую без нашего ведома.
Перед нами стоит задача не остановить цифровые инновации, а направлять их, осознавая их амбивалентный характер. Каждый из нас должен выступить в защиту людей, чтобы эти инструменты действительно стали нашими союзниками.
Такой союз возможен, но он должен основываться на трёх столпах: ответственности, сотрудничестве и образовании.
Прежде всего, ответственность. В зависимости от роли она выражается в честности, прозрачности, смелости, дальновидности, обязанности делиться знанием и праве быть информированными. Но в целом никто не может уклониться от личной ответственности перед будущим, которое мы строим.
Для тех, кто стоит во главе онлайн-платформ, это означает следить за тем, чтобы корпоративные стратегии руководствовались не одним лишь критерием максимизации прибыли, но дальновидным взглядом, учитывающим общее благо – так же, как каждому из них дорого благо собственных детей.
От создателей и разработчиков моделей ИИ требуется прозрачность и социальная ответственность в отношении принципов проектирования и систем модерации, лежащих в основе их алгоритмов и разработанных моделей, чтобы пользователи могли давать осознанное согласие.
Такая же ответственность возлагается и на национальных законодателей, и на наднациональные регулирующие органы, ответственные за соблюдение человеческого достоинства. Адекватное регулирование может защитить людей от эмоциональной зависимости от чат-ботов и сдержать распространение ложного, манипулятивного или вводящего в заблуждение контента, оберегая целостность информации и не позволяя подменять её обманчивой симуляцией.
Медийные и коммуникационные компании, в свою очередь, не могут допустить, чтобы алгоритмы, стремящиеся любой ценой выиграть борьбу за несколько секунд дополнительного внимания, брали верх над верностью своим профессиональным ценностям, направленным на поиск истины. Доверие аудитории завоёвывается точностью и прозрачностью, а не погоней за какой бы-то ни было вовлечённостью. Контент, созданный или обработанный с помощью ИИ, должен быть ясно обозначен и чётко отличим от материалов, созданных людьми. Необходимо защищать авторство и суверенное право собственности на труд журналистов и других создателей контента. Информация является общественным благом. Конструктивное и значимое общественное служение основывается не на непрозрачности, а на прозрачности источников, вовлечении затронутых сторон и высоких стандартах качества.
Все мы призваны к сотрудничеству. Ни один сектор не способен в одиночку справиться с задачей направления цифровых инноваций и управления ИИ. Поэтому необходимо создавать механизмы защиты. Все заинтересованные стороны – от технологической индустрии до законодателей, от творческих компаний до академического мира, от деятелей искусства до журналистов и педагогов – должны быть вовлечены в создание и реализацию осознанного и ответственного цифрового гражданства.
Именно этому служит образование: развитие нашей личной способности критически мыслить, оценивать достоверность источников и возможные интересы, стоящие за подбором достигающей нас информации, понимать психологические механизмы, которые она запускает, а также предоставлять семьям, общинам и ассоциациям возможности вырабатывать практические критерии для более здоровой и ответственной культуры коммуникации.
Именно поэтому становится всё более насущной необходимость внедрения на всех уровнях образования медиаграмотности, информационной грамотности и грамотности в области искусственного интеллекта – того, что уже продвигается рядом гражданских институтов. Как католики, мы можем и должны внести свой вклад, чтобы люди – прежде всего молодёжь – приобретали навыки критического мышления и возрастали в свободе духа. Эта грамотность должна быть также интегрирована в более широкие инициативы непрерывного образования, охватывая пожилых людей и представителей маргинализированных групп, которые нередко чувствуют себя исключёнными и беспомощными перед лицом стремительных технологических перемен.
Медиаграмотность, информационная грамотность и грамотность в области ИИ помогут всем не поддаваться антропоморфной тенденции этих систем, но относиться к ним как к инструментам, всегда прибегать к внешней проверке источников, предоставляемых ИИ-системами, которые могут быть неточными или ошибочными, а также защищать свою частную жизнь (privacy) и свои данные, зная параметры безопасности и возможности оспаривания. Важно учиться и учить использовать ИИ осознанно и целенаправленно и в этом контексте защищать собственное изображение (фотографии и аудиозаписи), своё лицо и свой голос, чтобы предотвратить их использование в создании вредоносного контента и таких практик, как цифровое мошенничество, киберзапугивание и дипфейки, нарушающие конфиденциальность и интимность человека без его согласия. Подобно тому, как промышленная революция требовала базовой грамотности, чтобы люди могли реагировать на новизну, так и цифровая революция требует цифровой грамотности (наряду с гуманитарным и культурным образованием), чтобы понимать, как алгоритмы формируют наше восприятие реальности, как работают предубеждения ИИ, какие механизмы определяют появление определённого контента в наших информационных потоках (feed), каковы и как могут измениться предпосылки и экономические модели экономики ИИ.
Необходимо, чтобы лицо и голос вновь свидетельствовали о личности. Нужно хранить дар коммуникации как самую глубокую истину о человеке, на которую должны ориентироваться любые технологические инновации.
Предлагая эти размышления, я благодарю всех, кто трудится ради обозначенных здесь целей, и от всего сердца благословляю всех, кто работает на общее благо с помощью средств коммуникации.
Ватикан, 24 января 2026 года, день памяти святого Франциска Сальского
Папа Лев XIV
______________________________
(1) — «Тот факт, что человек создан по образу Божьему, означает, что с момента своего сотворения он был наделен царственным характером. <…> Бог есть любовь и источник любви: Бог Творец также запечатлел эту черту на нашем лице, так что через любовь – отражение Божественной любви – человек распознаёт и проявляет достоинство своей природы и подобие своему Творцу» (ср. св. Григорий Нисский, Об устроении человека, PG 44, 137).
Источник: Vatican Media