Священник, работавший до принятия сана в закрытых научных лабораториях, раскрыл главные риски безудержного применения ИИ.
Технологический прогресс на фоне «киборгизации» общественного уклада выступает сегодня инструментом не для человека, а против человека – как утверждают ученые, сегодня мир подходит к внедрению технологий колоссальной мощности, использование которых способно изменить сами антологические основы существования. Почему термин «искусственный интеллект» сформулирован некорректно, в чем заключается опасность высоких технологий для людей с низким уровнем духовного развития, а также что роднит технологический прогресс с оккультизмом, говорили в Москве на первой в России широкой презентации книг по биоэтике, организованной Синодальной комиссией по биоэтике и Объединением православных ученых.
Божий мир «цифрой» не станет
Православные ученые сегодня все активнее выходят в поле публичной дискуссии по теме рисков, которые несет навязывание всем без исключения людям достижений технического прогресса. Выход книг по этой тематике становится не только событием для профессионального сообщества, но и хорошим поводом для интеллектуальных и духовных усилий Русской Православной Церкви в организации широких обсуждений с участием не только «технарей»-айтишников и ученых, но и «гуманитариев» – мыслителей, представителей духовенства.
Залогом результативного итога каждого такого обсуждения является правильная формулировка темы и корректность терминов, используемых в дискуссии. Между тем, сегодня тема угроз и преимуществ достижений технического прогресса изобилует понятиями, которые изначально «перетаскивают одеяло» на сторону апологетов цифровизации. На это обратил внимание секретарь Синодальной комиссии по биоэтике, настоятель храма преподобного Сергия Радонежского в Крапивниках (Москва) протоиерей Александр Абрамов.
В частности, сегодня много говорится о «цифровом» мире, хотя сам этот термин, считает отец Александр, «является неудачным». За столом мы не едим «цифровую» еду, на природе мы путешествуем не по «цифровым» ландшафтам, и новый «цифровой» мир, о котором твердят технократы-оптимисты, сегодня является лишь одним из многих пространств бескрайнего мира Божьего. Об этом поклонники цифровизации предпочитают «забывать», представляя мир технологий как решительную и всеобъемлющую неизбежность.
«Нам необходимо это четко понимать и говорить, прежде всего, о том, какие антропологические проблемы возникают в условиях навязывания высоких технологий, насколько такие технологии помогают людям, и насколько и в каких объемах они нам нужны сегодня», – подчеркнул протоиерей Александр Абрамов.
Он также заострил внимание на том, что тема содержит в себе массу посылов, которые на данном этапе светское, секулярное общество вряд ли готово принять. Слишком велико сегодня в обществе очарование технологиями, среди которых на первом месте находится технология «искусственного интеллекта». И сегодня, уверен отец Александр, надо чаще говорить о мифах об ИИ, которые укореняются в общественном сознании – и в силу повышенной увлеченности «цифрой» поколения так называемых зумеров, и в силу элементарного невежества в технологических вопросах.
Осторожно, идёт расчеловечивание!
Человеку вне церковной ограды это покажется странным и, возможно, даже фантастичным, но сегодня в Церкви служит большое число священников, которые на профессиональном уровне разбираются в вопросах работы нейросетей и прочих IT-технологий. Один из них – архимандрит Сильвестр (Лукашенко), который хорошо известен не только внутри Церкви. Сегодня он клирик Ярославской епархии и духовник Спасо-Яковлевского Димитриева мужского монастыря в Ростове Великом. А до принятия сана тогда еще Сергей Павлович Лукашенко, закончив факультет прикладной математики Ленинградского государственного университета имени А.А. Жданова, работал в одном из «закрытых» НИИ, затем – в конструкторском бюро, потом – на кафедре высшей математики ленинградского Горного института.
Священнослужитель представил публике новую книгу «Человек и технологический прогресс: антропологическая повестка мирового развития» – в ней собраны труды сразу нескольких авторов, подготовленные для научных конференций. Эти материалы можно отнести к научно-популярной и одновременно философской литературе. Очевидно, что изложенные в книге тезисы, которые озвучил архимандрит Сильвестр (Лукашенко), открывают путь к серьезному рассуждению о роли технического прогресса и развитии личности. Рассуждению, как отметил монах и бывший сотрудник закрытой лаборатории, точному и предметному, потому как поверхностные суждения и размытые ответы на сущностные вопросы, коими сегодня являются вопросы использования «хай-тека», современного человека устроить больше не могут.
Авторы книги, в частности, не отрицают, что технический прогресс сыграл огромную роль в развитии человечества. Однако «с определенного исторического времени он стал продуцировать системные риски… для всего человечества, о наличии которых должны быть дано соответствующее предупреждение».
Интересно, что сложившаяся ситуация, и на этом в книге делается научно-доказательный акцент, берет свое начало там, где люди стали отказываться от теоцентричной (около Бога и Его законов) модели мироустройства в угоду человекоцентричной (гуманизм и все, что с ним связано) модели. И вот неизбежно следующим за этим шагом стало появление техникоцентричной модели, при которой технологии из вспомогательного средства превратились фактически в «хозяев» человека: при постоянном использовании все новых и новых технологий человек как будто отчуждается от своей сущности, становясь «придатком машины», утверждают авторы книги.
Причем предположение, что это временное явление, не подтвердилось. Свидетельством тому, например, возникновение все новых форм компьютерной зависимости (игровая, соцсетевая и проч.). Называется и причина такого развития ситуации: технологический прогресс не был соотнесен с прогрессом нравственным. Более того, эпоха постмодерна, которая началась, согласно классическому определению, со второй половины ХХ века, даже обозначила вектор нравственной деградации – это не что иное, как «расчеловечивание человека». На практике это выразилось в следующем: новые образцы техники, попав в руки не достигшего должного уровня интеллектуального и духовного развития индивида, оказались инструментами внутреннего разрушения человека, утверждается в книге «Человек и технологический прогресс: антропологическая повестка мирового развития».
Между тем, предупреждают ее авторы, мир подходит к фазе введения в обиход технологий такой мощности, которая способна изменить даже сами основы существования человека. И есть опасения, что человек к грядущим трансформациям не готов.
Стресса втрое больше, эффективность – плюс десять процентов
По мнению ученых с православным мировоззрением, в условиях возрастающей глобальной противоречивости современного мира появление новых прорывных технологий нужно строго дозировать. С этой точки зрения обвальное продвижение «искусственного интеллекта» может стать не трамплином для прогресса, а фактором глобальной катастрофы.
«Мы должны понимать, что преклонение перед ИИ – это или продукт научного и духовного невежества, или сознательный увод человечества в сторону, или вовсе идиотизация сознания человека. Мне приходилось, к сожалению, слышать от людей, занимающих серьезные посты, что они предлагают своим подчиненным двигаться в сторону сращивания с ИИ. Но это всего лишь технология, это инструмент – как молоток, которым надо уметь пользоваться, чтобы не раздробить себе пальцы и не проломить голову кому-то. С этой точки зрения даже само название «искусственный интеллект» не корректно и направлено лишь на увеличение продаж этой технологии», – заявил отец Сильвестр.
Рассуждать на эту тему он имеет право не только как священнослужитель – еще в 1975 году Сергей Лукашенко работал в лаборатории, где шла разработка «сложных автоматизированных систем большого массива данных с выработкой необходимых предложений». Звучит для наших дней совсем громоздко, зато довольно точно передает суть технологии, которую после назовут ИИ. Заметим, что как сейчас, так и тогда программы и алгоритмы для «искусственного интеллекта» пишут люди, а у самой технологии ИИ нет и не может быть того самого интеллекта, которым ее назвали.
«Нет души – нет интеллекта. И у ИИ, соответственно, нет ни совести, ни чести, ни сопереживания, ни интуиции. Нет страха смерти. Он принимает решения в системе «да – нет», «ноль – единичка»», дает нам определенные предложения, которые специалисты потом могут дорабатывать, с которыми они могут соглашаться или не соглашаться», – пояснил архимандрит Сильвестр суть работы с ИИ.
Он также привел данные некоторых международных научных исследований об эффективности «искусственного интеллекта» – их выводы неутешительны для ревнителей этой чудо-технологии. Внедрение ее в различных областях привело к тому, что объем работы, которую должен сделать сотрудник, увеличился втрое, во столько же примерно выросла и стрессовая нагрузка. А вот эффективность выросла на скромные 10 процентов.
«Нельзя отрицать пользы ИИ – когда что-то нужно подсчитать, например. Но бездумно внедрять его в социальную сферу нельзя. А внедрять его в такие сферы, как, скажем, образование, и вовсе преступно, так как в процессе «живого» обучения молодежь должна социализироваться и приобретать те навыки, которые в другом формате получить попросту невозможно», – убежден архимандрит Сильвестр.
Религия для технократов
Зачастую вера в технологический прогресс в наши дни приобретает черты квазирелигии, а технологии становятся инструментом неооккультизма, новой разновидности магии. В авангарде этих тенденций, замечают специалисты, находится философия трансгуманизма, фактически ставшего новой идеологией мировых элит. Но попытки «конструирования» нового типа человека-«апргрейда» на практике, внедрение «киборгизации» как новой антропологической инженерии могут иметь самые критические для всего человечества последствия, предупреждают авторы книги «Человек технологический прогресс: антропологическая повестка мирового развития». Потому как образ «человека-киборга» несовместим с образом человека как образа Божия.
Между тем, отрицание идеологии трансгуманизма не должно отрицать положение о неизменности природы человека. Речь идет о одном из неотъемлемых ее свойств: человек всегда, на каждом этапе своей жизни обладает потенциалом для совершенствования. Другое дело, что вопрос такого развития – не в том, с какой скоростью идут изменения, а в том, куда прогресс направлен. И в этом смысле религиозная традиция принципиально отличается по содержанию от идеи трансгуманистической трансформации личности.
Основной вывод, сделанный авторами книги: технологический прогресс при существующей модели социального устроения и утверждаемом трансгуманистическом типе человечества оказывается инструментом, обращенном против самого человечества.
Петр ПАВЛОВ
