«У Бога нет рук, кроме наших». Видит ли митрополит Иоанн угрозу в искусственном интеллекте
«БелПресса» рассказывает о большом разговоре владыки с белгородскими студентами
Иоанн объясняет, почему обучение с помощью ИИ станет образованием для бедных, кто будет отвечать за принятые роботами решение, как церковь относится к нейромолитвам и может ли сверхразум стать антихристом.
Тихая революция
В канун дня молодёжи митрополит Белгородский и Старооскольский Иоанн выступил в непривычной для себя роли – лектора и собеседника белгородских студентов. Тема – польза и опасность искусственного интеллекта.
Во время своего спича перед студентами митрополит Иоанн несколько раз возвращался к одной и той же дилемме, которую ставит ИИ перед обществом:
«Мы принимаем решения и это вопрос свободы. Если человек отстраняется от принятия решения – это уже покушение на него как на образ и подобие Божие».
Не потому, что решение машины обязательно хуже человеческого. А потому, что именно способность выбирать делает человека человеком, а не функцией системы.
Иоанн сделал наблюдение о том, что если решение принимает условный диктатор, у общества есть кому предъявить претензию: вот человек, вот его имя, вот его произвол. Если решение принимает бюрократическая система, выстроенная вокруг ИИ-алгоритмов, претензию предъявить уже некому.
Тут же он вспомнил рассуждения предпринимателя Питера Тиля об антихристе как сверхразуме – самообучающейся системе, способной автономно от человека порождать новые системы и скрываться от попыток себя отключить.
«Это новый способ, новое оружие – бюрократическое регулирование. Это тихая революция. Она не может быть воспринята как государственный переворот, но идёт везде и заходит в каждый дом», – отметил он.
Цена войны и гонка за единый разум
Чтобы показать, что разговор не сводится к метафизике, владыка сослался на интервью бывшего топ-менеджера Google Мо Гавдата. Тот прогнозировал, что к 2028 году искусственный интеллект может привести к сокращению около 30 % компаний и рабочих мест. Для сравнения, во время Великой депрессии падение составило 6 %. Но дело не только в занятости.
«Раньше запуск ракеты стоил примерно миллион долларов. Сейчас – 20 тысяч, – заметил митрополит. – Порог входа в войну стремительно снижается, а вместе с ним растёт и цена ошибки».
Главный вывод того интервью, который владыка счёл важным передать студентам: мир сегодня строит не множество конкурирующих систем искусственного интеллекта, а фактически единый «гуманитарный мозг» планетарного масштаба. И распоряжаться им стремятся не столько государства, сколько корпорации и армии, заинтересованные в контроле войны, увольнениях и концентрации власти.
При этом он привёл и обратную сторону того же рассуждения:
«Есть и положительная сторона. Сверхразум может оказаться той силой, которая может вывести из игры маньяков власти. То есть он окажется более человечеством приемлем, чем некоторые человеческие недостатки».
Лесть, которая затягивает
Опасностью Иоанн считает ИИ-алгоритмы, которые подстраиваются под человека, показывая ему только то, что он уже любит и поддерживает. Возникает иллюзия, что собственные взгляды – единственно верные, потому что мир вокруг как будто их подтверждает.
Митрополит привёл похожий пример из своей пастырской практики: человек, не услышав от одного духовника желаемого ответа, идёт искать его у другого, у третьего, пока не найдёт того, кто согласится с ним.
Нейросеть устроена так, чтобы соглашаться и подтверждать, и в этом смысле она будет подыгрывать не только безобидным слабостям, но и тёмным движениям души.
«Люди ищут подтверждение своей воли – вот в чём опасность. Когда ты встал на путь гордыни, какого‑то преступного деяния, то тебя не остановит ИИ. Потому что он не живёт по моральным принципам, моральным законам. У него нет такой задачи, и он не может тебя защитить от духовных нападений», – считает Иоанн.
«Это духовное мошенничество»
Разговор коснулся и того, что сегодня называют нейромолитвами. Это записанные и сгенерированные искусственным интеллектом обращения, имитирующие голос и образ священнослужителя.
«Сейчас можно встретить много сгенерированных благообразных батюшек, которые просят повторять их молитву. Но так как это сгенерировано ИИ, и он является источником этой молитвы, то ты обращаешься в пустоту, в бездну. Потому что за ним стоят программы, модули, алгоритмы. И там нет источника жизни. Поэтому я отрицательно к этому отношусь, это духовное мошенничество», – добавил владыка.
Технически заменить священника возможно уже сегодня и вопрос тут не в технологии, а в человеке: захочет ли он принять этот суррогат вместо живого, несовершенного, но настоящего собеседника.
«В этих проповедниках на основе ИИ неба нет, нет вечности, они в земной плоскости застряли. Какими бы совершенными они ни были, они не «подключены» к нему и в них нет эмоции, которая достигает человеческой души», – пояснил владыка.
«Людей разделят на две категории»
В сфере образования с развитием ИИ митрополит увидел тревожный сценарий:
«Сейчас обсуждается модель образования на ближайшие 5 лет: людей разделят на две категории. Одни, независимо от уровня учебного заведения, будут учиться с помощью искусственного интеллекта. Другие, кто сможет себе это позволить, будут учиться у живых людей – носителей знания».
В этом сценарии большинство будет получать образование через искусственный интеллект – это дешевле и проще для системы, которая постепенно сокращает расходы на школу и медицину. Но «живое» обучение всё равно будет цениться намного выше.
«Потому что человек так устроен: наши обучающие центры – это центры подражания, а это и есть глубокое обучение. Элиту будут формировать именно через передачу знаний от их хранителя», – добавил Иоанн.
Два часа тишины
Едва ли не самым практичным советом за весь разговор оказался призыв к тишине – не метафорической, а буквальной. Она, по мнению Иоанна, – спасение от бесконечного потока контента, с которым сталкивается человек почти круглосуточно.
«Очень важно, чтобы человек пребывал в тишине хотя бы 2 часа в сутки – чтобы он ничего не слышал, ничего не видел и мог внутренне восстановиться, – подчеркнул митрополит. – Не зря говорят, что встреча с Богом любит тишину. И если спросить финансиста, он тоже скажет вам, что деньги любят тишину, потому что нужно успевать соображать. Когда человек размышляет и познаёт самого себя, он выстраивает внутренний фильтр. И тут никто вам не поможет, кроме вас самих».
Современная культура дискуссий, по его наблюдению, устроена ровно наоборот:
«Посмотрите, как мы не умеем держать паузу, когда начинается дискуссия — нас приучили отвечать сразу, как в ток-шоу. А отвечать сразу не надо ни в коем случае: дайте своим мыслям время подготовиться. Пауза перед ответом – это не слабость, а условие, без которого мысль просто не успевает сформироваться».
Инструмент, у которого нет рук
В конце встречи митрополит вернулся к мысли, с которой, по сути, начал:
«Когда человек полностью уходит в подчинение искусственному интеллекту, в нём открывается настоящий хаос. Это демоническая душевная сила. Но говорить, что эти идеи генерирует сам искусственный интеллект, абсолютно бессмысленно – это всё равно что обвинять телеграм-канал в том, что он рождает мошенников. Инструмент не может никого породить, его можно только применить. И тогда, в зависимости от того, в чьих руках он находится, он способен стать опасностью».
Последнюю мысль владыка сформулировал почти афористично:
«Как ни парадоксально, у Бога нет рук, кроме наших, поэтому мы и помогаем нуждающимся. У искусственного интеллекта тоже нет рук, кроме наших, и поэтому мы сами решаем, создавать с его помощью или разрушать».
Сергей Шевченко
