Новости

Папа Франциск выступил на саммите G7

Фото: vaticannews.va

Ватикан, 17 июня. Папа Франциск обратился к лидерам саммита G7, став первым понтификом, который принял участие в такой встрече, сообщает Vatican News.

Выступая в рамках специального круглого стола, Франциск призвал обеспечить защиту человеческого достоинства при разработке и использовании искусственного интеллекта, предупредив, что столь мощные технологии рискуют превратить сами человеческие отношения в алгоритмы.

Бог даровал людям Своего Духа, чтобы они трудились «с мудростью, разумением, ведением и всяким искусством», и наука и техника – это необычайное порождение творческого потенциала человека: с этой мысли Папа Франциск начал свое обращение к участникам саммита G7, одна из главных тем которого – искусственный интеллект.

ИИ – это «чрезвычайно мощный инструмент», отметил Папа: сфера его применения охватывает медицину, культуру, коммуникацию, образование и политику. Несомненно, развитие искусственного интеллекта содействует «созданию новой общественной системы, охарактеризованной сложными эпохальными преобразованиями». Например, использование ИИ может расширить доступ к знаниям, способствовать быстрому развитию науки, делегировать машинам тяжелые работы; с другой стороны, Однако ИИ может усугубить неравенство между развитыми и развивающимися странами, между господствующими и угнетаемыми социальными группами. Искусственный интеллект – это «привлекательный и в то же время устрашающий инструмент», не всегда обращенный к благу.

«Мы обречем человечество на безнадежное будущее, если отнимем у людей способность решать за себя и за свою жизнь, обречем его на зависимость от решений машины. Мы нуждаемся в гарантии и защите пространства значительного человеческого контроля за процессом выбора программ ИИ: от этого зависит сама участь человеческого достоинства».

Папа упомянул о применении ИИ в вооруженных конфликтах, в особенности в «автономных смертоносных системах», использование которых должно быть полностью запрещено.

Папа предостерег от так называемого «генеративного ИИ, который, по сути, вовсе не “генерирует“ ничего нового, но “упаковывает“ в запрашиваемой форме имеющуюся у него информацию». «Генеративный ИИ» не разрабатывает новых концепций: чем больше у него в распоряжении повторяющихся определений и гипотез, тем больше он считает их законными и допустимыми:

«Это не столько “генеративный“, сколько “закрепляющий“ ИИ, в том смысле, что он переформировывает уже существующий контент, помогая ему закрепиться, нередко без какого-либо контроля ошибок и предвзятости». Таким образом есть риск не только узаконить любые фейковые новости, но и упрочить преобладание господствующей культуры, угрожая самому процессу становления человека.

Папа подчеркнул, что в эпоху, когда концепция человеческой личности ослабевает, одной из наиболее уязвимых сторон ИИ является «слабый этос», связанный с восприятием ценности и достоинства человека. Системы искусственного интеллекта должны быть наделены этикой – в последних документах Ватикана она получила название «алгорэтики».

В конце своей речи Папа Франциск поделился мыслями о важности «здравой политики» для того, чтобы с надеждой и доверием смотреть на будущее, и констатировал, что «структурные недостатки» нельзя исправить «заплатками или поспешными, разовыми решениями»: в некоторых вещах следует «менять основные настройки», подчеркнул понтифик.