3.5 Стандарты на этичный искусственный интеллект

Этика И И предполагает, что с этической и правовой точек зрения функционирование технической ИАС будет обеспечено не хуже, чем если бы такой системой управлял человек. Общественные интересы требуют, чтобы решение этих вопросов не оставалось на усмотрение производителей. Предстоит создать этическую систему координат для соответствующей техники, но крайне важно не допустить чрезмерного регулирования: жесткие этические стандарты для всех систем ИИ затормозят развитие отрасли, если не сведут его на нет. Подходы к созданию такой системы могут быть различными, и общие рекомендации по этим подходам закреплены в ряде международных, государственных и отраслевых документов (см. раздел 3.8). Одна из наиболее примечательных инициатив этой области связана с созданием целого ряда стандартов, регулирующих этически обусловленное проектирование интеллектуальных и автономных систем.

Стандарты разрабатываются крупной международной организацией ― Институтом инженеров в области электротехники и электроники (Institute of Electrical and Electronics Engineers, IEEE), который объединяет не только классических специалистов-электротехников и электронщиков, но и представителей смежных областей — специалистов по компьютерной технике, программированию, ИИ и др.

Исторически сложилось, что IEEE — одна из крупнейших международных организаций, которая среди многих своих задач ставит разработку технических стандартов. Как правило, стандарты IEEE ратифицируются в большинстве стран, в том числе в России. Вся электроника, которая нас окружает, соответствует этим стандартам.

Инициатива по стандартизации в области ИИ и данных зародилась благодаря стремлению многих специалистов из разных областей науки определить позицию по поводу этики при работе с системами ИИ. Первый установочный документ Ethically Aligned Design описывает в целом существующие в этой сфере вопросы, затрагиваемые области науки и рекомендует дополнительные источники по теме. В создании документа участвовало более 700 экспертов со всего мира: не только программисты и специалисты по ИИ, но и философы, культурологи, психологи, нейроученые и др., представившие взгляды на проблему с разных сторон. Свой вклад вносит Российская междисциплинарная рабочая группа по этике ИИ, в частности, она участвует в разработке стандартов P7011 и P7013.

Стандарты IEEE не ограничивают и не запрещают разработку ИИ, программ, математических методов, появление новых идей из гуманитарных областей, но задают им направление (карточки). В большинстве областей не используются жесткие запреты, за исключением атомной энергетики и некоторых других. Стандарты IEEE не противоречат тем стандартам, которые сейчас обсуждают в ООН (см. раздел 3.8). Проекты стандартов IEEE — это не попытка перекрыть или сузить бурный «поток прогресса», а сознательные усилия, направленные на то, чтобы отвести этот поток от близлежащей деревни, которую он может затопить.

Кроме того, с большой вероятностью в течение ближайших лет этичность систем ИИ станет конкурентным преимуществом даже в ситуации, когда стандарты на этичные системы еще не будут приняты. Уже сейчас отдельные производители позиционируют свое ПО как более «независимое», безопасное в плане слежки за пользователями и «этичное». «Этичность», «ответственность» и «независимость» ПО и ИС — это тренд следующих лет, если не десятилетия.