Специалисты Центра искусственного интеллекта Новосибирского госуниверситета разработали проект госстандарта, предполагающий гуманитарную экспертизу с оценками рисков и возможностей, которые получает человек при массовом внедрении разработок в сфере искусственного интеллекта, сообщили в НГУ.
Предполагается, что проект госстандарта "Гуманитарная экспертиза внедрения систем ИИ в практики развития умных городов" в случае его одобрения станет частью комплексной оценки решений, разрабатываемых в России на базе искусственного интеллекта, и станет первым регламентирующим документом в международной практике, в котором будет учтена гуманитарная составляющая ИИ-проектов. Пилотная апробация проекта состоялась в августе 2025 года на международном форуме технологического развития "Технопром".
"Сейчас проекты по искусственному интеллекту представлены как инженерные или технические системы с разным функционалом… При этом в разработках антропология проекта фактически никак не учитывается. Особенно, когда речь идет о том, что будет происходить с человеком, его способностями, здоровьем, нравственными устоями, ориентирами, смыслами, если этот проект будет массово внедряться в структуры нашей повседневной жизни, такие как образование, наука, управление, здравоохранение. Поэтому появилась необходимость так называемой гуманитарной экспертизы, которая предполагает оценку гуманитарных рисков и возможностей, которые мы получаем при массовом внедрении этих разработок", - рассказал об идее стандарта ведущий сотрудник Центра Сергей Смирнов.
Он пояснил, что в ходе разработки нового государственного стандарта специалисты ориентировались на уже разработанные к настоящему времени госстандарты, в том числе в сфере искусственного интеллекта, а также на многолетний опыт внедрения этической экспертизы в биотехнологиях, медицине, здравоохранении, генетике, где этот вопрос особенно стал актуален, когда встала проблема клонирования человека и редактирования генома.
В рамках гуманитарной экспертизы разработан опросник, используемый в качестве инструмента для оценки гуманитарных возможностей и рисков внедрения системы ИИ. Он включает такие вопросы, как: "Помогает ли проект решить какую-то социальную, гуманитарную проблему?", "В какую сторону меняется комфортность среды обитания, безопасность и здоровье людей при внедрении системы?" и другие.
"Опросник предполагает учет разных позиций - жители, целевая профессиональная группа (пользователи сервиса), представители городской власти, инвесторы, эксперты и сами разработчики. Каждый пункт оценивается по десятибалльной шкале. Все ответы суммируются и выводится агрегированный показатель отдельно по гуманитарным рискам и гуманитарному потенциалу", - рассказали в вузе. При выведении агрегированного показателя в рамках гуманитарной экспертизы учитываются также еще два критерия. Это индекс умных городов, внедренный Минстроем РФ, и индекс качества городской среды, утвержденный правительством.
"Институт (практика) гуманитарной экспертизы должен быть включен как нормативный документ в деятельность муниципальной власти. Гуманитарная экспертиза должна стать такой же обязательной, как, например, экологическая экспертиза на химическом производстве, стать нормой при принятии решения о внедрении любого сервиса с использованием ИИ", - подчеркнул Смирнов. Он надеется, что госстандарт гуманитарной экспертизы станет частью разрабатываемого в настоящее время в России проекта закона в сфере ИИ.
Обсудить