3.8 Регулирование искусственного интеллекта в мировой практике
Автор раздела
Незнамов А. В.
Время чтения — 9 минут
Развитие технологий ИИ поставило вопрос о необходимости принятия первых законодательных актов в этой сфере. В каждой стране он решается индивидуально, с учетом особенностей местной правовой системы. К 2020 году в разных странах накоплен собственный опыт законодательного регулирования отношений, возникающих в связи с развитием ИИ, — от национальных стратегий ИИ до принципов применения ИИ в конкретных сферах. Описания заслуживают основные виды документов, посвященных правовым аспектам ИИ.
3.8.1 Национальные документы стратегического развития
По разным оценкам, сегодня национальные стратегии в том или ином виде есть более чем в тридцати странах, включая Китай, Корею, Канаду, США, Великобританию, Францию и, что отрадно, Россию (с 2019 года). В документах стратегического развития, как правило, содержится описание подходов к развитию технологий ИИ, представлены:
существующий уровень развития технологий ИИ в мире, ключевые отрасли их внедрения;
ожидания по поводу развития технологий в краткосрочной, среднесрочной и долгосрочной перспективах;
ключевые этапы, задачи и цели развития технологий ИИ в конкретной стране;
основные проблемы и сложности развития технологий ИИ;
план основных мероприятий, направленных на развитие технологий в целом;
планы финансовой поддержки отрасли;
основные этические сложности и вопросы;
целевое состояние развития технологий.
См., например, обзоры в разных источниках, где выделяется от 20 до 40 таких документов:
The Global AI Strategy Landscape // Holon IQ.
National and international AI Strategies // Future of Lise Institute.
Building an AI World: Report on National and Regional AI Strategies // CIFAR.
Карелов С. Каким будет место России в мире реализованных ИИ-стратегий // Российский совет по международным делам.
Dutton T., Barron B., Boskovic G. Building an AI World Report on National and Regional AI Strategies // CIFAR.
The Global AI Strategy Landscape // Holon IQ.
National and international AI Strategies // Future of Lise Institute.
Building an AI World: Report on National and Regional AI Strategies // CIFAR.
Карелов С. Каким будет место России в мире реализованных ИИ-стратегий // Российский совет по международным делам.
Dutton T., Barron B., Boskovic G. Building an AI World Report on National and Regional AI Strategies // CIFAR.
Приведем несколько национальных документов:
Национальная стратегия развития ИИ France IA (Франция, 2018);
Общеканадская стратегия искусственного интеллекта (Канада, 2018);
Национальная стратегия по искусственному интеллекту (Дания, 2019).
国务院关于印发新一代人工智能发展规划的通知/国务院. Перевод на англ.: Notice of the State Council Issuing the New Generation of Artificial Intelligence Development Plan// Foundation for Law and International Affairs.
National Strategy for Artificial Intelligence // Ministry of Finance and Ministry of Industry, Business and Financial Affairs.
3.8.2 Законы и подзаконные акты
В мире пока нет комплексных нормативных актов с нормами непосредственного действия, посвященных только ИИ. Сравнительно близко к их созданию подошли Южная Корея и Европейский Союз. Еще в 2008 году в Южной Корее был принят акт, формально посвященный робототехнике, а именно специфической разновидности — роботам, оснащенным ИИ.
지능형로봇개발및보급촉진법 (약칭: 지능형로봇법) /산업통상자원부(기계로봇과).URL: http://www.law.go.kr/법령/지능형로봇개발및보급촉진법/(13744,20160106). Перевод на англ.: Intelligent robots development and distribution promotion act // Korea Law.
В феврале 2017 года Парламент Е С принял резолюцию 2015/2103(INL) Civil Law Rules on Robotics. Документ касается прежде всего робототехники, но по содержанию и логике очевидно, что имеются в виду и технологии ИИ. В резолюции намечены подходы к регулированию ответственности за причиняемый вред, предложено создать европейскую систему регистрации «умных» роботов. Особую известность резолюция получила благодаря идее наделить роботов с ИИ статусом электронных личностей.
Civil Law Rules on Robotics. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) // Official Journal of the European Union.
В других странах есть акты, посвященные конкретным разновидностям систем ИИ, которые применяются в автоматизированных автомобилях, здравоохранении, при реализации концептов «умного» города, в финансовой сфере. Первые примеры регулирования непосредственно технологий ИИ относятся к медицине и государственному управлению. Также следует обратить внимание на другие акты:
Руководство по испытаниям автоматизированных транспортных средств (Австралия, 2017);
Пробный свод правил для испытания автономных транспортных средств на территории Китая (2018);
Директива об автоматизированном принятии решений для федеральных учреждений (Канада, 2019).
Germany Permits Automated Vehicles // White & Case.
Automated vehicle trial guidelines // National Transport Commission.
Résolution visant à interdire l'utilisation, par la Défense belge, de robots tueurs et de drones armés // Chambre des représentants de Belgique.
3.8.3 Исследования этики ИИ
Зачастую разработке национальных стратегий предшествует большая исследовательская работа, которую выполняют различные экспертные группы или научные учреждения. Подходы к регулированию ИИ рассматриваются в Рекомендациях по беспилотным автомобилям, разработанных Комиссией по этике при Министерстве транспорта и цифровой инфраструктуры Германии (2017). В Рекомендациях предложены принципы применения беспилотных технологий в области транспорта. На наднациональном уровне значимы доклады экспертов Всемирной комиссии по этике научных знаний и технологий ЮНЕСКО (доклады об этике робототехники (2017), об этике ИИ (2019)), а также следующие примеры:
доклад Палаты лордов «Алгоритмы в общественном бизнесе и принятии решений» и Сводный отчет Комитета по искусственному интеллекту Палаты лордов (Великобритания, 2018).
3.8.4 Этические документы в области ИИ
Долгое время разработка этических документов по правилам применения ИИ являлась ключевым трендом их регулирования. К концу 2019 года по всему миру принято не менее сотни различных актов, руководств, принципов и кодексов, посвященных этике ИИ. В большинстве из них приведено несколько ключевых принципов: безопасность, соблюдение конфиденциальности, недискриминация, контролируемость и т. д. Одним из самых известных примеров являются «Азиломарские принципы ИИ» (2017). Среди прочих примеров:
Asilomar AI Principles // Future of Life.
Montréal Declaration: Responsible AI // Université de Montréal.
Ethics guidelines for trustworthy AI // European Commission.
3.8.5 Стандарты и доктринальные источники
В рамках Международной организации по стандартизации (ISO) создан специальный технический комитет по искусственному интеллекту (SC № 42). Комитет планирует принять почти два десятка стандартов, посвященных ИИ и большим данным.
К началу 2020 года будут разработаны стандарты ISO/IEC, регулирующие работу с большими данными, а также стандарты ISO по работе с ИИ, включая ограничение предвзятости ИИ и т. д. К другим примерам стандартизации относятся:
Доклад «Разработка стандартов для искусственного интеллекта: Слышать голос Австралии» (Австралия, 2019).
В зарубежной юридической литературе уже несколько десятков лет достаточно последовательно формируется «робоправо», или «право роботов», как самостоятельная предметная область исследования. Рассматриваются прежде всего проблемы ответственности, правосубъектности, обеспечения алгоритмической прозрачности, контролируемости систем ИИ, проблемы авторского и патентного права и многие другие.
ISO/IEC 20546:2019(en) Information technology — Big data — Overview and vocabulary // ISO.
ISO/IEC TR 20547-2:2018 [ISO/IEC TR 20547-2:2018] Information technology — Big data reference architecture — Part 2: Use cases and derived requirements // ISO.
ISO/IEC TR 20547-5:2018. Information technology — Big data reference architecture — Part 5: Standards roadmap.
ISO/IEC TR 20547-2:2018 [ISO/IEC TR 20547-2:2018] Information technology — Big data reference architecture — Part 2: Use cases and derived requirements // ISO.
ISO/IEC TR 20547-5:2018. Information technology — Big data reference architecture — Part 5: Standards roadmap.
ISO/IEC CD 22989 [ISO/IEC CD 22989] Artificial intelligence — Concepts and terminology // ISO.
ISO/IEC NP TR 24027 [ISO/IEC NP TR 24027] Information technology — Artificial Intelligence (AI) — Bias in AI systems and AI aided decision making // ISO.
ISO/IEC NP TR 24027 [ISO/IEC NP TR 24027] Information technology — Artificial Intelligence (AI) — Bias in AI systems and AI aided decision making // ISO.
Ethically Aligned Design // IEEE.
Developing Standards for Artificial Intelligence: Hearing Australia's Voice // Standards Australia.
Ryan C. Robot Law / Ed. by R. Calo, A. M. Froomkin, I. Kerr. Cheltenham, UK: Edward Elgar Publishing, 2016;
Pagallo U. The Laws of Robots Crimes, Contracts, and Torts. Dordrecht: Springer Science+Business Media, 2013;
Palmerini E., Bertolini A., Battaglia F. et al. RoboLaw: Towards a European framework for robotics regulation // Robotics and Autonomous Systems. 2016. Vol. 86. P. 78–85.
BalkinJ. M. The Path of Robotics Law // Yale University — Law School. 2015. N 536.
Pagallo U. The Laws of Robots Crimes, Contracts, and Torts. Dordrecht: Springer Science+Business Media, 2013;
Palmerini E., Bertolini A., Battaglia F. et al. RoboLaw: Towards a European framework for robotics regulation // Robotics and Autonomous Systems. 2016. Vol. 86. P. 78–85.
BalkinJ. M. The Path of Robotics Law // Yale University — Law School. 2015. N 536.
3.8.6 Международные акты по этике ИИ
Проводя исследования в сфере регулирования ИИ, авторы часто приходили к выводам о необходимости выработки международных правил взаимодействия людей в связи с развитием систем ИИ, в том числе этики применения ИИ. К 2020 году эта идея получила значительную поддержку на самых разных уровнях.
Доклад по этике ИИ (2019) Всемирной комиссии по этике научных знаний и технологий ЮНЕСКО посвящен рекомендациям по структуре и содержанию такого возможного международного документа. ЮНЕСКО может дополнить многочисленные руководящие принципы и указания по этике, которые в настоящее время разрабатываются государственными органами, компаниями и общественными организациями, междисциплинарным, универсальным и целостным подходом к развитию ИИ на благо человечества и во имя мира и устойчивого развития.
Report of COMEST on robotics ethics // UNESDOC.
Сегодня лидером в определении подходов к регулированию ИИ является Совет Европы. Только за 2019 год усилиями различных экспертных комитетов этой организации разработаны:
рекомендации Комиссара С Е по правам человека «10 шагов для защиты прав человека при использовании ИИ» и т. д.
Для создания полноценного нормативного документа в сфере ИИ в 2019 году Советом Европы был сформирован Специальный комитет по ИИ. К другим документам в этой сфере относятся:
Принципы И И и рекомендации по национальной политике Экспертной группы по искусственному интеллекту (ОЭСР, 2019);
Проект рекомендаций Совета министров о влиянии алгоритмов на права человека (Совет Европы, 2019).
European Ethical Charter on the use of artificial intelligence (AI) in judicial systems and their environment // European Commission for the Efficiency of Justice.
Guidelines on Artificial Intelligence and Data Protection // Council of Europe.