(Давиде Манискалько, юрист и глава AIDR Sicily Region) «Если есть« альгократия », должна быть и« алгоритмика »». Монсеньор Винченцо Палья, президент Папской академии жизни, не сомневается: «Технологический аспект служит человечеству, иначе дискриминация удвоится». Поэтому Ватикан тоже задается вопросом о перспективах искусственного интеллекта. В то время как Европейская комиссия объявила о презентации «Белой книги» по искусственному интеллекту от 19 февраля, католическая церковь настаивает на том, чтобы призвать к чувству ответственности в важном «этическом вопросе» технического прогресса. Вместе с цифровыми гигантами, Microsoft и IBM, он принял вызов по поддержке всех участников научного, политического и социального сообщества, задействованных в различных сферах, в предприятии по построению нового и справедливого «цифрового гуманизма» на основе человеческих ценностей.
Во время интервью со ссылкой на Офск.отчетМонсеньор Палья обсудил роль католической церкви в эпохальном изменении нашей современной реальности. «Прогресс становится развитием, когда он управляется этическим выбором, - пояснил он, - по этой причине очень важно прояснить семантическое значение этики, потому что, если вы точны в отклонении значения, вы становитесь согласованными с лингвистическими выражениями« этическое измерение »и« подход » антропоцентрический ». Таким образом, при полной прозрачности новые технологии также должны приближаться к цифровой революции, которая представляет собой эпоху Возрождения или новый гуманизм. «Мы разрабатываем Призыв к этике, - добавил он, - который приведет к критической оценке воздействия этих технологий, рисков, которые они влекут за собой, возможных способов регулирования, в том числе на образовательном уровне». Документ в рамках проекта будет посвящен проблемам этики, регулирования и здравоохранения и будет представлен Microsoft и IBM во время мероприятия «RenAIssance: для гуманистического искусственного интеллекта», которое состоится 28 февраля в Аудитории Папская академия жизни.
Итак, как далеко могут зайти технологии и какова граница, за которой эволюция больше не прогрессирует? В этом отношении монсеньор Палья следует ориентации: «Допустим, сегодня мы оказались в беспрецедентной ситуации. Мы переживаем последнюю фазу того, что мы можем определить как «изменение возраста», - подчеркивает он. - За последние 70 лет мы разработали метод, который позволяет нам уничтожать все с помощью ядерной энергии. А это военная техника. Фактически, мы это осознали и немедленно заключили договоренности, чтобы исправить это. Второе соображение касается экономического аспекта, в частности бессмысленной эксплуатации энергоресурсов. Создана другая мировая опасность - разрушение климата и, следовательно, человечества. Нас уже предупредили, и мы не смогли. Затем, четыре года назад все главы правительств собрались в Париже, чтобы открыть банк. До сих пор военными методами и методами капиталистической эксплуатации можно было управлять очень прямо: достаточно было не производить их больше или не применять. После Парижа мы все более внимательны, даже если совесть еще очень слабая ». Затем президент Папской академии жизни выделяет «третью волну». «Мы сталкиваемся с новыми« возникающими и конвергентными »технологиями, - подчеркивает он, - и у нас есть возможность« технически »вмешаться в человеческую расу. Так что существует не только риск разрушения, но и самодегуманизации, настолько большой, что некоторые говорят о постгуманизме или улучшенном человеке. Или, опять же, возможность создания своего рода нового рабства на основе капитализма, который на этот раз владеет не нефтью, а большими данными. Столкнувшись с этим, мы призваны на моральный, политический, я бы сказал просто человеческий «толчок». В этом смысле, столкнувшись с прогрессивным развитием технологий, если мы не вмешаемся решительным и адекватным образом, мы рискуем новым взрывом, последствия которого мы не знаем. Конечно, как первое следствие, существует риск того, что неравенство, вызванное экономикой и развитием промышленности, будет гораздо более серьезным, если оно будет производиться с помощью алгоритмов ».
Верховный прелат неоднократно говорил о лечении, которое может быть хуже болезни.
Насколько этично вы заботитесь о технологическом развитии в медицинской и научной областях?
«Вот несколько соображений. Давайте начнем с более грубой, более грубой. Начнем с предложения японского ученого (Хироши Ишигуро, ред.) О создании клона человека. Здесь мы сталкиваемся с пугающей перспективой, - предупреждает президент Папской академии жизни, - когда этот ученый выступал в прошлом году на ассамблее по робототехнике, он говорил о нынешнем человеческом развитии как о последнем биологическом, органическом поколении. Это, однако, пугающее будущее. Это правда, что технологическое развитие может предложить огромные и экстраординарные возможности исцеления, и все это - самые логические ворота, и я тоже за. Но я все равно хочу сделать предпосылку. Технологическое развитие происходит от человека, и человек делает это для меня, верующего, потому что он получил силу, способность и разум от самого Бога. Итак, технический прогресс - это результат наших рук. Что является ключевым моментом в этом контексте? Это осознание предела, - продолжает монсеньор Палья. - Более того, когда в книге Бытия говорится: «Вы можете есть что угодно, кроме (...)», в творении подтверждается концепция осознания предела. Если мы сжигаем осознание, мы подходим к искушению Прометея, то есть к тому, чтобы верить, что мы действительно боги. Так что одно дело знать и заботиться, другое - знать и создавать. В том смысле, что не все, что можно сделать, должно быть сделано. Вот почему мы должны мудро и разумно воспринимать прогрессивное технологическое развитие, зная, что техника предназначена для человека, а не наоборот. И вот предупреждение, которое несколько мыслителей дали нам с 50-х годов. Более того, сам Хайдеггер, когда сказал, что только Бог может спасти нас, он сказал это не для христианского Бога, а для причины Бога. Только разум может спасти нас. Это значит, внимание: техника должна быть на службе у человека, а не наоборот. Так что, пока открытие помогает узнать, как лечить и быть всегда «человеком», мы находимся на пути, который я бы назвал достойным развития. Мы должны быть осторожны, когда нужно воздействовать на человека и манипулировать им. Теперь здесь, на мой взгляд, наступает самый решающий момент. Технологии развиваются настолько быстро по сравнению с этическими и антропологическими знаниями, что мы рискуем опоздать, не имея возможности больше тормозить машину, которая уже находится в головокружительном спуске. Проблема в том, что мы должны оставаться в машине с самого начала и не дойти до определенного момента, когда, возможно, это будет сложно. В этом смысле причина интереса Папской Академии Жизни к этим вопросам объясняется, чтобы вставить их в более сложный, более мудрый горизонт ». А затем монсеньор Палья подчеркивает: «Прежде всего, говоря лично, я бы добавил еще один элемент, чтобы понять это. Поскольку существует не только человеческая личность, существует человеческая семья. Итак, в то время, когда технологии глобальны, связи и коммерция глобальны, мы должны помнить, что измерение технологий не может не служить и всему человечеству. Интегральное развитие касается как отдельных людей, так и всей человеческой семьи.
Фактически Ватикан хочет сосредоточиться именно на проблеме возможной дискриминации, связанной с развитием технологий. «Неравенство, порожденное экономическим развитием, более серьезное, чем то, что считалось немного более упрощенной идеологией, идеологией прилива: если благосостояние повышается, оно повышается как на океанском лайнере, так и на лодке. На самом деле этого не произошло. Некоторые лайнеры еще больше поднялись, другие почти затонули. В этом смысле это расхождение, которое является одной из проблем кризиса нашего современного общества, может превратить расхождение в полное рабство. Вместо этого управление большими данными рискует сделать все больше и больше океанских лайнеров в ущерб лодкам. Например, - продолжает он, - с распознаванием лиц больше нет богатых и бедных, но есть абсолютные тираны и абсолютные субъекты. Кто владеет золотом, большими данными, может вас уничтожить. Поэтому я считаю, что для этого необходимо двойное этическое подкрепление. Недостаточно сказать, как в прошлом, что нам нужно только перераспределить богатство. Есть потребность в росте знаний, в законе, в участии. Поэтому, что касается католической церкви, мы не можем сегодня предлагать взгляды извне. Мы должны оставаться внутри, чтобы понять изнутри потенциал, а также опасности новых технологий. Здесь проблема заключается не только в конечном использовании технологий, но и в том, чтобы уделять внимание обязанностям каждого в ходе исследования, экспериментов, конструирования, распространения, личного использования и специального использования этих технологических устройств. и признание ».
Насколько ощущается эта ответственность и насколько обеспокоен риск принесения в жертву свободы человеческого самоопределения? «Я считаю, - признает архиепископ, - что« вторжение »алгоритмов в некотором роде невозможно остановить. Дело в том, что есть те, кто говорит об альгократии. Сказав это, ясно, что если мы хотим спасти человеческое достоинство, демократию, полис в самом широком смысле, необходимо использовать терминологию Французской революции, чтобы сохранить примат свободы, равенства и братства. Достоинство человека и человеческой семьи должно быть обогащено, а не порабощено. Итак, если есть альгократия, должен быть также алгоритм, чтобы сплести две точки зрения вместе. Если бы я мог представить его как ткань, он должен состоять из нитей алгоритмов и нитей этики одновременно. В этом смысле свобода, равенство и братство - это три светских и одинаково евангелических аспекта, которые могут понять все: те, кто верит, и те, кто не верит.
В этом смысле мы, католическая церковь, должны быть «сторожами» тех, кто подделывает эти огромные массивы данных, имея в виду, что свобода должна быть гарантирована, равенство должно быть гарантировано, а братство также должно поощряться. Следовательно, техника должна все это предлагать, а не отрицать. Это означает, что перед лицом этих новых технологий необходимо, чтобы они были окружены и пронизаны всеми определяющими реальностями общества, политики, экономики, этики, религии, рабочего класса, всех институтов, всех наук. Очень важно способствовать коллегиальному заражению. Различные науки и разные социальные реальности также должны совпадать. В этом смысле я бы сказал о незаменимом общем пути. Фактически, это лично произвело на меня впечатление, потому что как ученые мы обнаружили, что продвигаем этот процесс не по собственной инициативе, а по просьбе одной из крупнейших транснациональных корпораций ». Таким образом, монсеньор Палья рассказывает, как ИТ-гиганты хотели привлечь Ватикан к актуальной этической теме для церкви, такой как развитие искусственного интеллекта. «Президент Microsoft пришел, чтобы сказать нам, - вспоминает он, - что все мы инженеры, и поэтому мы обречены создавать новые продукты каждую неделю, чтобы оставаться на рынке. Мы знаем, что можем делать отличные вещи, например, в медицине, но также и драматические вещи. На этом этапе нам нужно не проводить с вами какую-то конференцию, но мы хотели бы спросить вас, могли бы вы сопровождать нас в этом процессе ». Это запрос, который тоже может быть отмечен двусмысленностью (нам нужен штамп). Но здесь есть «духовный алгоритм», который называется доверием. Потому что давайте не будем забывать, что искусственный интеллект - это просто математика. Доверие - это не математика. Доверие убедило меня в том, что, имея полную свободу аккомпанировать без каких-либо условий, мы можем принять вызов, потому что последствия технологического развития настолько важны, что, как мы думали, католическая церковь не может оставаться в стороне. В этом смысле уместен пример социального вопроса. Католическая церковь в конце девятнадцатого века, с промышленным развитием, которое, очевидно, положило конец крестьянской экономической культуре, чувствовала ответственность войти в мир труда с новой доктриной, новой мыслью. Точно так же в этот исторический момент мы больше не можем стоять снаружи и смотреть, потому что, если вы снаружи, вы не можете понять свыше, вы можете прийти слишком поздно, и тогда парадигма также изменилась. То есть, если вы не участвуете напрямую, я считаю, что реальность понять очень сложно. Мы окажемся в другом мире, который может говорить, диктовать правила, говорить на языке и стоять в позиции, которая является совершенно внешней, неслышной, неэффективной и, следовательно, бесполезной и, на мой взгляд, греховной.
Каковы могли быть причины, по которым Microsoft запросила участие Академии? Этическая дилемма, что-то, что их потрясло?
«Я считаю, - комментирует прелат, - что новое руководство Microsoft (а на самом деле я также заметил, что и IBM) отличается от руководства их фонда. И это лидерство создавало моральные проблемы, и это гуманистическое измерение вовлекало их более непосредственно. Это было основной причиной, потому что они прекрасно понимают, что без правил это проблема даже для самой компании. А вот пример, который дал мне Президент Брэд Смит. По сравнению с распознаванием лиц, которое, очевидно, также может быть разработано другими конкурентами, если мы не найдем правовое регулирование среди всех нас, мы все упадем в пропасть. Конфликты с этими устройствами намного опаснее и проще, чем с ядерной энергетикой. Следовательно, потребность в правовом и этическом регулировании возрастает все сильнее, поскольку потенциал технологий растет до такой степени, что оба гиганта соглашаются подчиняться определенным этическим, правовым и образовательным правилам. Это похоже на ситуацию с климатом. Здесь в некотором смысле это даже сильнее, потому что здесь мы воздействуем непосредственно на человека, а не на окружающую среду. И именно поэтому этический, а также юридический шаг навязывается в большей степени, и быть в одиночестве управлять такой шокирующей революцией непросто. Вы также чувствуете необходимость быть в компании или, по крайней мере, иметь возможность контролировать другого. Ясно, что необходимо будет вмешаться для этического и правового регулирования использования алгоритма на международном уровне, иначе анархия в управлении большими данными может стать очень опасной даже для выживания компании в конце концов. Я бы сказал, давайте объединим два: немного гуманизма, немного предсказуемого риска и страха перед ядерной энергетикой. Страх разрушения, возможно, определил моральный вопрос так же, как климат ».
Есть ли конкретная осведомленность на глобальном уровне?
«В Microsoft - да, - без колебаний отвечает президент Папской академии жизни, - на глобальном уровне я все еще думаю, что нет. Я убежден, что, как и в случае с двумя другими проблемами между ядерной энергией и климатом, если мы не ударим их головой, мы не будем полностью осознаны. Правда, внимание постепенно растет. Это должно спровоцировать скачок в участии и выработке правил, как этических, так и юридических, а также образовательных. Однако, поскольку технологии работают очень быстро, а подотчетность - медленнее, мы должны ускориться на этом фронте, чтобы помочь правительствам не просто гарантировать технологию, но и получить истинное видение полиса. Здесь я еще несколько слов об ответственности Европы, потому что у нее есть гуманистическое наследие, которого нет ни на Дальнем Востоке, ни на Дальнем Западе. Неслучайно в нашем мероприятии мы использовали выражение гуманизм ».
Европа объявила, что использование технологий распознавания лиц государственным или частным сектором будет запрещено на период времени (от трех до пяти лет), в течение которого методология оценки воздействия этих технологии и возможные меры по снижению рисков могут быть определены и разработаны. В частности, презентация Белой книги по искусственному интеллекту объявлена 19 февраля. Но был ли этот документ каким-то образом уже распространен среди всех участников «Призыва к этике»?
«Присутствие Дэвида Сассоли в Европейском парламенте демонстрирует явный интерес Европы, а также интерес ФАО, и я могу сказать, что есть другие правительства, которые через свои посольства просят нас распространить этот призыв на международном уровне и Конечно, мы будем, - говорит монсеньор Палья. - Слава Богу, есть важное эхо, знак того, что есть важное понимание того, что чем больше оно расширяется, тем больше затрагивает политический уровень ».
Насколько важны промежуточные органы в этом?
«Промежуточные тела - это способ предотвратить индивидуализацию общества, заставляющую себя искать« Спасителя ». Слава богу, есть только один «Сальваторе», и он уже спас нас. Таким образом, в этом смысле помощь, побуждение передать ответственность промежуточным телам, которые есть, не в том, что их нет, а в том, что они безответственно разжижаются, является фундаментальным. Каждый должен внести свой вклад, и в этом промежуточные органы, безусловно, могут помочь в расширении прав и возможностей, - отмечает монсеньор Палья. - Это точка сближения и взаимопонимания между всеми, потому что это способствует росту осведомленности каждого и позитивному неиндивидуальному вмешательству. но множественное число ".
Между тем, в связи с собранием Папской академии жизни от 26-28 февраля стало известно о расширении состава группы ученых, разделенной на рядовых, почетных корреспондентов, молодых людей.
Является ли это также признаком обновленного подхода католической церкви к этическим вызовам, связанным с техническим прогрессом?
Эти назначения, заключает монсеньор Палья, соответствуют указаниям Папы, то есть «обновлению двойной логики расширения и углубления. Новизна, конечно же, не заключается в изменении объекта: католическая доктрина, евангельская мудрость в отношении огромного дара человеческой жизни, должна и впредь глубоко вдохновлять нашу приверженность, освещать все аспекты человеческого опыта и культуры жизнь. Но благая весть о Евангелии о человеческой жизни требует быть источником вдохновения и темой культурного, политического и социального диалога, а также, прежде всего, с теми, кто не мыслит точно так же, как мы, но, как и мы, имеет в сердце жизнь и человеческое общество ".
Таким образом, назначение перенесено на 26 февраля, день открытия Ассамблеи Папской Академии Жизни, посвященной искусственному интеллекту, которая будет проходить в PAV Auditorium in via della Conciliazione n. 1.