Новости

Священники и ученые обсудили этические аспекты использования искусственного интеллекта

Фото: scbioethics.ru

Москва, 19 декабря. В здании Синодальной комиссии по биоэтике состоялось первое заседание объединенной рабочей группы СКБ-ТК164 по стандартизации вопросов, связанных с предотвращением угроз негативного влияния искусственного интеллекта на духовно-нравственные ценности, сообщает «Патриархия.ru». 

Заседание открылось выступлениями сопредседателей рабочей группы протоиерея Александра Абрамова, секретаря Синодальной комиссии по биоэтике, и С.В. Гарбука, и.о. директора ВИНИТИ РАН, председателя Технического комитета по стандартизации ТК 164/МТК 566 «Искусственный интеллект».

Протоиерей Александр Абрамов отметил, что вклад Синодальной комиссии по биоэтике в деятельность объединенной рабочей группы по стандартизации вопросов, связанных с предотвращением угроз негативного влияния ИИ на духовно-нравственные ценности, может состоять в «предложении нравственного подхода, связанного с многовековыми традициями Церкви».

С.В. Гарбук высказал слова признательности Синодальной комиссии по биоэтике за поддержку идеи создания совместной рабочей группы по осмыслению проблематики ИИ. Он отметил, что особенностью современных технологий ИИ, основанных на методах машинного обучения, является высокая субъективная правдоподобность выдаваемых результатов для человека. Это правдоподобие влечет за собой зачастую не подкрепленное объективными техническими основаниями доверие к системам ИИ.

Заседание продолжилось выступлениями членов рабочей группы. в которых особо была отмечена важность недопустимости восприятия ИИ как личности (субъекта), а также опасности деструктивного воздействия ИИ на человека (например, при общении с ИИ как с психологом или преподавателем).

Участники заседания подчеркнули, что технологии ИИ – это «технологии влияния», в связи с чем важна оценка рисков их применения в среднесрочной и долгосрочной перспективах. Поэтому большую значимость приобретает регулирование границ и сфер применения технологий ИИ. Так, рабочей группе предстоит ответить на следующие основные вопросы: «Что мы хотим защитить?»; «Чего мы хотим избежать?».

Также в ходе заседания были рассмотрены существующие определения термина ИИ, вопросы ответственности за некорректную работу систем ИИ, стандартизации применения технологий ИИ.

В заседании объединенной рабочей группы по стандартизации вопросов, связанных с предотвращением угроз негативного влияния искусственного интеллекта на духовно-нравственные ценности приняли участие протоиерей Александр Абрамов, секретарь Синодальной комиссия по биоэтике Русской Православной Церкви, С. В. Гарбук, и.о. директора Всероссийского института научной и технической информации РАН, председатель Технического комитета по стандартизации ТК 164/МТК 566 «Искусственный интеллект»; священник Дмитрий Федоров, сотрудник Синодальной комиссии по биоэтике, М. Р. Млякова, заведующая лабораторией качества технологий искусственного интеллекта Всероссийского института научной и технической информации РАН; члены группы от Синодальной комиссии по биоэтике: А. И.Аветисян, академик РАН, директор ИСП РАН; Е. Е. Жуковская, доцент Сретенской духовной академии, руководитель научно-исследовательского проекта «Религия. Этика. Искусственный интеллект»; протоиерей Константин Константинов, доцент СПбДА; Е. Б. Прохорчук, член-корреспондент РАН, декан медико-биологического факультета РНИМУ им. Н. И. Пирогова; члены группы от Технического комитета 164: Ю. П. Зинченко, член-корреспондент РАН, декан факультета психологии МГУ им. М.В. Ломоносова, президент Российского психологического общества; М. А. Пенкова, начальник Управления международной деятельности ВИНИТИ РАН; Ю. Ю. Петрунин, заведующий кафедрой математических методов и информационных технологий в управлении Факультета государственного управления МГУ им. М.В. Ломоносова; Д. В. Ушаков, академик РАН, директор Института психологии РАН.