7.4 Этика цифровых технологий в полиции

Внедрение цифровых технологий в полицейскую деятельность во многом обусловлено необходимостью противостоять преступному миру, который все лучше вооружается. Криминальный мир активно использует последние достижения четвертой промышленной революции: технологии блокчейна, дроны, ИИ и т.п., а последствия преступлений становятся все более масштабными и тяжелыми, что необходимо учитывать в работе полиции. К современным полицейским структурам предъявляется новое требование — быть открытыми и прозрачными для граждан. Применение цифровых технологий позволяет полиции более эффективно выполнять свои прямые функции, а также повысить доверие граждан и снизить вероятность коррупции.

Чтобы эффективно бороться и с традиционной, и с киберпреступностью, правоохранительным органам нельзя отставать, а лучше идти на шаг впереди правонарушителей в использовании технических достижений. Преимуществом полиции будут прежде всего сбор и обработка огромного объема данных, многие из которых накапливаются уже сейчас, но не обрабатываются и не используются. При этом на первый план выходит предиктивная полицейская деятельность (рredictive policing).

Основные этические проблемы предиктивной полицейской деятельности связаны не столько с информационными, сколько с социальными технологиями, в частности с методами сбора данных и принятием решений о судьбе граждан, для которых ИИ предсказал высокую вероятность совершения преступления.

На Западе полицейские службы и судебные органы активно разрабатывают и используют отдельные элементы цифровизации и целые системы ИИ. По данным Интерпола и Европола, более чем в 70 странах полицейские на практике используют те или иные виды предиктивной аналитики (рисунок 25).

Помимо узконаправленных систем ИИ для полицейской работы создаются универсальные комплексные системы, помогающие при расследовании и предотвращении преступлений.

Этические проблемы использования цифровых технологий в полицейской деятельности обусловлены как несовершенством самих технологий, так и человеческим фактором. Как и в любой другой области, одной из ключевых проблем является предубежденность алгоритмов.

В социологии существует мнение, что все базы данных, сведения для которых собраны в процессе конкретных действий полицейских, например досмотров на улицах, содержат предубеждения. Кроме того, криминальная статистика не отражает реальный уровень преступлений, а лишь указывает, о каком количестве преступлений стало известно государству, и представляет только ряд социальных характеристик конкретного сообщества (стратификацию, интенсивность и близость взаимодействий и т. д.). Опора на собранные таким образом данные может приводить к неправильным прогнозам, злоупотреблениям по отношению к меньшинствам и группам с низким социальным статусом. Особенно опасно то, что такие прогнозы будут легитимизированы, поскольку считается, что технологии объективны, точны и не подвержены влиянию человеческого фактора.

Использование цифровых технологий в полицейской деятельности обнаруживает существование стигматизации.

Использование систем персонального скоринга, алгоритмов ИИ для предсказания совершения преступления отдельным лицом, применение систем корпоративной безопасности для отслеживания нетипичного и «опасного» сотрудника могут привести к тому, что его заранее будут стигматизировать. Это станет дополнительным фактором риска и увеличит вероятность совершения преступления, которого в иных обстоятельствах человек мог и не совершать.

Несанкционированное использование ПД как этическая проблема наиболее очевидно и вызывает общественные дискуссии, особенно в тех случаях, когда полиция в своих расследованиях использует сведения о гражданах, полученные разными способами. Чаще всего речь идет о видеонаблюдении и слежке. Повсеместная установка видеокамер (на улице и в офисах) позволила создавать системы ИИ с использованием алгоритмов анализа видеоизображений.

Другой источник ПД — профили в социальных сетях и иная информация, которую граждане сами размещают в интернете. Полиция использует в работе специально разработанные программно-аналитические системы, осуществляющие автоматизированную слежку за социальными сетями и семантический анализ сообщений.

Иногда для целей полицейского расследования используются сведения о гражданах, которые предоставляют коммерческие организации: телекоммуникационные компании (данные биллинговых систем), банки, сервисы такси и другие компании. За счет сбора больших данных они знают о гражданах порой гораздо больше государства.

Практика запросов в компанию Google о местонахождении пользователя впервые была использована федеральными агентами в 2016 году в Северной Каролине и с тех пор распространилась по всей стране. База данных Sensorvault хранит подробные записи о местонахождении сотен миллионов устройств по всему миру за последние десять лет, инструмент обслуживания бизнес-процессов компании Google постепенно превращается в цифровую сеть для правоохранительных органов. По запросу полиции Google выгружает из Sensorvault информацию об устройствах, отвечающих заданным параметрам. Эта практика вызывает опасения и критику общественности и юристов. Орин Керр, профессор права в Университете Южной Калифорнии, считает, что конфиденциальность невиновных людей, попадающих в поле зрения полиции благодаря цифровым технологиям, — это новая правовая проблема, которую следует решать.

Помимо названных выше этических проблем отметим несколько особенно актуальных вопросов, которые требуют дальнейшего общественного обсуждения и изучения.

Влияние внедрения ИИ и других цифровых технологий на численность полиции. Кажется, что цифровизация значительно сократит штат полиции, как это происходит, например, в банковских структурах. Однако благодаря расширению и усложнению системы видеонаблюдения полиция будет получать существенно больше информации о противоправных действиях, которым надо давать уголовно-процессуальную оценку. Потребуется увеличить штат оперативных работников, дознавателей, следователей, экспертов. Уже сейчас предстоит подготовить много аналитиков больших данных.

Разные этические рекомендации для применения ИИ в полиции и судебной системе. В большинстве недавно принятых документов по вопросам использования ИИ приводятся одни и те же рекомендации и ограничения для полицейских и судей. Однако на самом деле в полиции и в судебной системе надлежит по-разному применять этические принципы. Принцип прозрачности в отношении судебных баз данных не вызывает возражений. Для полицейских данных, полученных в ходе оперативно-розыскных мероприятий, имеются серьезные ограничения. Степень прозрачности сильно зависит от уровня секретности и возможных негативных последствий для источников информации, потерпевших, подозреваемых и обвиняемых.

Критерии, используемые полицией при сборе информации о гражданах с помощью инструментов ИИ. Важен консенсус между полицией и гражданским обществом в отношении целей использования этих данных. Если речь идет о предотвращении и раскрытии терроризма, коррупции, других преступлений, то такой консенсус достижим. Собранная информация будет использоваться для прогнозирования преступных действий на основе соответствующих криминологических и криминалистических критериев. Если же информация станет основанием для ограничения прав и свобод граждан, для построения рейтингов социального кредита, то полиция и гражданское общество вряд ли придут к согласию.

Чтобы минимизировать этические проблемы, возникающие при использовании полицией цифровых технологий, предлагается несколько подходов:

• обеспечить прозрачность ИИ;
• использовать возможности цифровых технологий для выявления предрассудков и предубеждений;
• учитывать интересы всех заинтересованных сторон при использовании цифровых технологий, в частности интересы государства, гражданского общества и рядовых граждан;
• обеспечить нормативное регулирование использования цифровых технологий в полицейской и судебной деятельности.

Европейский cоюз демонстрирует пример наиболее сбалансированного на сегодняшний день учета интересов всех сторон. Глобальный инновационный центр Интерпола (Interpol Global Complex for Innovation) и Межрегиональный научно-исследовательский институт ООН по вопросам преступности и правосудия (United Nations Interregional Crime and Justice Research Institute) называют нахождение справедливого баланса между обеспечением безопасности, с одной стороны, и защитой частной жизни и конфиденциальности — с другой, ключевой этической проблемой.

Полицейским органам надлежит использовать цифровые технологии под контролем государственных органов и общественных организаций. Каждый гражданин должен иметь возможность контролировать хранение и использование своих ПД, и это условие в настоящее время не соблюдается в полной мере ни в одной стране мира отчасти из-за недостаточного нормативного регулирования и неравномерного доступа к технологиям разных групп населения. Для этичного использования ИИ правоохранительными органами предстоит создать систему государственного и общественного надзора. Ее задачи — предупредить превышение полномочий сотрудниками полиции и следователями и обеспечить верификацию данных, используемых для обучения алгоритмов ИИ.

В МВД России внимательно относятся к рекомендациям Управления ООН по наркотикам и преступности (United Nations Office on Drugs and Crime), Международного научно-исследовательского института ООН по вопросам преступности и правосудия, его подразделения — Центра искусственного интеллекта и робототехники (UNICRI Centre for Artificial Intelligence and Robotics), Глобального инновационного центра Интерпола, а также Европола. Вопросы применения ИИ в работе полиции неоднократно рассматривались на межведомственных конференциях («Большие данные на службе полиции», 4 декабря 2018 года, Москва; «Искусственный интеллект на службе полиции», 8 ноября 2019 года, Москва, в обоих случаях организаторы — Академия управления МВД России, Главный информационно-аналитический центр МВД России).

В рамках нормативного регулирования цифровых технологий в полицейской и судебной деятельности национальные и международные органы разработали ряд документов. Основополагающим документом подобного рода можно назвать Европейскую этическую хартию использования искусственного интеллекта в судебной и правоохранительной системах (European Ethical Charter on the use of artificial intelligence in judicial systems) Европейской комиссии по эффективности правосудия (The European Commission for the Efficiency of Justice). Хартия содержит значимые положения в сфере регулирования использования ИИ и больших данных, поддерживает использование ИИ для повышения эффективности и качества правоохранительной работы. Целенаправленно отмечена необходимость соблюдать права личности, изложенные в Европейской конвенции о защите прав человека и основных свобод, Конвенции о защите физических лиц при автоматизированной обработке персональных данных и других нормативных актах. Хартия провозглашает пять принципов использования ИИ в судебной и правоохранительной системах:

В условиях цифровизации полиция использует все более сложные технологии, которые могут нести потенциальную угрозу информационной безопасности граждан и нормам общественной морали. Для того чтобы предупредить формирование негативных тенденций, общество должно следить, является ли деятельность полиции максимально открытой и подконтрольной. Этические проблемы, связанные с работой полиции, могут быть решены с помощью совершенствования технологий, соответствующего регулирования и общественного контроля.