3.7 Оценка воздействия алгоритмов: от технологий к правам человека

Для определения этических и правовых последствий внедрения технологий ИИ, формирования адекватного правового регулирования необходимо применять методы оценки воздействия, которая является ключевым инструментом «умного» регулирования (smart regulation) во всем мире. Наиболее распространенной является оценка регулирующего воздействия (regulatory impact assessment), однако ее методология, в том числе в РФ, недостаточно учитывает особенности развития технологий и связанных с этим вызовов.

В сфере развития и внедрения новых технологий, в том числе цифровых, все большее развитие получают специализированные виды оценки, которые интегрируются в государственное управление и нормотворческий процесс (рисунок 10).

За рубежом формирование подходов к оценке воздействия технологий на развитие общественных отношений, экономики, государственного управления и, наоборот, к оценке воздействия регулирования на развитие технологий активно идет с 1970-х годов в рамках института технологической оценки (technology assessment). Ее осуществляют специальные подразделения аппаратов парламентов или отдельные исследовательские организации, которые объединены в Европейскую сеть парламентской оценки технологий (European Parliamentary Technology Assessment, EPTA Network). В 2017—2019 годах указанные подразделения и организации опубликовали следующие доклады по теме ИИ:

Оценка воздействия на права человека (Human rights impact assessment) как самостоятельный институт впервые отмечена в Руководящих принципах предпринимательской деятельности в аспекте прав человека ООН, которые были одобрены Советом по правам человека в июне 2011 года. Данные Руководящие принципы рекомендуют бизнесу внедрить оценку воздействия на права человека во все соответствующие внутренние бизнес-функции и процессы. Оценку воздействия на права человека следует выполнять

В рамках Совета Европы оценка воздействия на права человека получила даже большее развитие, чем в ООН. Рекомендация CM/Rec (2016)3 Комитета Министров Совета Европы о правах человека и бизнесе предписывает проводить данную оценку не только самим компаниям, но и государствам — членам Совета Европы при осуществлении законодательного регулирования и иных мер.

В январе 2017 года Консультативный комитет Конвенции Совета Европы по защите прав физических лиц при автоматизированной обработке персональных данных (T-PD) принял Руководящие принципы по защите физических лиц в отношении обработки персональных данных в мире больших данных. Приоритетом объявлено этичное использование данных, которое не должно противоречить этическим ценностям соответствующего сообщества, включая защиту прав человека. В качестве особой меры для внедрения оценки воздействия на права человека Руководящие принципы предусматривают создание специальных комитетов по этике всеми операторами ПД. В январе 2019 года тот же Комитет принял Руководящие принципы по искусственному интеллекту и защите данных. Разработчикам, производителям и поставщикам услуг ИИ предписано проводить оценку воздействия на права человека.

В мае 2019 года комиссар Совета Европы по правам человека опубликовал рекомендацию «Искусственный интеллект: 10 шагов для защиты прав человека». Государства — члены Совета Европы должны создать правовую базу, с тем чтобы она устанавливала процедуры проведения государственными органами оценки воздействия на права человека (Human Rights Impact Assessments) систем ИИ, которые приобретены, разработаны и/или развернуты этими органами. Процедуры оценки воздействия на права человека должны быть внедрены и введены в действие аналогично другим формам оценки воздействия, проводимым государственными органами.

Особое внимание к воздействию цифровых технологий, в том числе ИИ, на права человека привело к идее сформировать специальную оценку воздействия алгоритмических систем (Algorithmic impact assessment). Алгоритмическая оценка характеризует риски для прав человека, этических и социальных последствий действия алгоритмических систем. При этом существуют различные модели такой оценки. В частности, GDPR выполняет оценку воздействия на то, как защищаются данные (Data Protection Impact Assessment), в то время как Совет Европы продвигает концепцию оценки воздействия на права человека в целом. Различия моделей алгоритмической оценки также связаны с определением субъекта, проводящего ее. В рамках оценки воздействия на защиту данных алгоритмическую оценку проводит сам оператор (контроллер) данных, в рамках оценки воздействия на права человека ― внешняя третья сторона или отдельный орган по аккредитации. Открытым пока остается вопрос об обязательности или добровольности такой оценки. Методология алгоритмической оценки должна обеспечивать реальную защиту прав человека и быть удобной для проводящих ее фирм и других организаций, чтобы не стать дополнительным бюрократическим бременем.

В настоящее время Комитет Министров Совета Европы разрабатывает Рекомендации о воздействии на права человека алгоритмических систем. Данный проект предусматривает, что оценку воздействия на права человека проводят как органы государственной власти, так и бизнес. Особенностью данного документа является выделение алгоритмических систем с высокими рисками для прав человека. Оценка воздействия таких систем должна включать оценку возможных трансформаций существующих социальных, институциональных или управленческих структур и четкие рекомендации, как предотвратить или смягчить высокие риски для прав человека.

На сегодняшний день перспективным является внедрение оценки воздействия алгоритмических систем как специальной оценки в рамках процедур оценки регулирующего воздействия проектов НПА и оценки фактического воздействия и мониторинга правоприменения действующих НПА. Вместе с тем она должна быть включена не только в систему правового регулирования, но и в цифровую трансформацию государственного управления в целом. Последнее предполагает, что ее будут использовать при стратегическом и текущем планировании в государственном управлении, при реинжиниринге управленческих процессов и административных процедур, при оценке результативности и эффективности цифровой трансформации государственного управления.