7.5 «Умный» город: этические проблемы

Термин «умный город» используется с середины 1990-х годов. Существует два основных подхода к его толкованию: «умный» в значении «инновационный» и в значении «разумный» (таблица 14). По мере развития технологий все больше влияние приобретает первый подход, ориентированный на внедрение самых современных технологий.

Каждый «умный» город отличается от остальных в силу разного набора технологий, климата, истории, окружающего пространства. Как правило, проекты «умных» городов затрагивают различные сферы городской жизни (рисунок 26).

Не существует единого шаблона для создания «умного» города, в каждом случае предстоит определить цели для конкретного города и найти свой путь. В одном городе интеллектуализацию управления можно начать с внедрения видеонаблюдения, для которого используется технология распознавания лиц, чтобы повысить безопасность на улицах; в другом — с вывоза и более эффективной переработки твердых отходов для благоустройства и улучшения экологической обстановки; в третьем — с установки «умных» светофоров и оптимизации дорожной сети.

Предположим, что со временем все города в мире превратятся в «умные». При этом трансформация потребует отличающихся наборов технологий и будет осуществляться с разной скоростью. Возможно ли создание «умного» города без обязательного использования самых современных технологий, например повсеместного ИВ, видеонаблюдения, без использования цифровых двойников, без цифровых госуслуг и т.п.? Скорее всего, уже сегодня такой город будет нежизнеспособным, поскольку у него не будет автономности и способности поддерживать коммуникации с миром из-за технологического разрыва.

Сегодня в «умных» городах наибольшим спросом пользуются ИВ и массовое видеонаблюдение. С ними связано много этических вопросов (таблица 15). Технология распознавания лиц на видео нарушает право граждан на личную жизнь, хотя, как считается, повышает уровень безопасности в городе. Большие данные, которые собираются устройствами ИВ, содержат не только значимую информацию о состоянии городской инфраструктуры, но и ПД и личную информацию горожан. В ближайшем будущем более широкое применение найдет ИИ, пока он задействован в основном в системах поддержки принятия решений.

С ростом городов и числа жителей увеличивается нагрузка на инфраструктуру, которая создавалась десятилетия, а порой и столетия назад и вовсе не рассчитана на нынешнюю плотность населения и количество транспорта. Во многих проектах «умных» городов уделяется большое внимание оптимизации транспортной инфраструктуры, развитию системы общественного транспорта, снижению нагрузки на дороги любыми способами.

В качестве средства обеспечить безопасность горожан на улицах города и в других публичных местах наиболее популярно повсеместное видеонаблюдение с функцией распознавания лиц.

«Умный» город сам по себе не создает, но может увеличить и закрепить дискриминацию жителей, возникающую из-за любых причин и ошибок, эффект масштабируется в зависимости от численности населения. Скоринговые системы и технологии ИИ способны не только выявлять нуждающихся в социальной помощи (после чего органы соцобеспечения могут предоставить им адресную помощь), но и оказаться средством для дискриминации и ограничения свобод жителей со стороны властей.

Цифровизация всех госуслуг, безусловно, ускоряет и упрощает их предоставление населению. В то же время часть горожан, которым было удобно лично обращаться к госслужащему за той или иной услугой, оказываются исключенными из жизни в условиях «умного» города. Дороговизна многих технологических решений и инноваций для конечного покупателя и сейчас создает разные уровни доступа к технологиям. Если семья будет иметь за счет этого больше возможностей и прав только благодаря проживанию в «умном» доме, такой разрыв очень быстро приведет к цифровому неравенству (см. разделы 6.1 и 6.2).

С развитием новых технологий будут появляться новые способы нарушения прав личности, ограничения свобод, дискриминации по конкретным признакам, например ограничение действий некоторых или всех горожан с помощью массового видеонаблюдения и видеоаналитики с целью подавить цифровую демократию. Для этого также пригоден контроль интернета (ограничение властями доступа в интернет на территории всего города или региона), системы государственного скоринга и ограничения в правах за любые нарушения правил, как это происходит в системе социального рейтинга, разновидности которого внедряются в Китае в течение последних нескольких лет.

«Умные» города не свободны от объективно существующих экологических проблем, на них тоже влияют потепление и иные изменения климата, увеличение твердых бытовых отходов (особенно электронных и пластиковых), засухи, наводнения и т. п. Очевидно, что если не удается справиться с природными катастрофами и ухудшением экологической обстановки, то придется развивать системы предиктивной аналитики для их своевременного предупреждения и предусматривать защиту горожан и города в экстренных ситуациях. В этой области весь комплекс технологий, входящих в понятие «умного» города, чрезвычайно востребован и может вывести заботу об экологии на принципиально новый уровень.

Управление «умным» городом предполагает гораздо большее, чем раньше, вовлечение горожан в принятие решений. В то же время обычный горожанин вряд ли разбирается в технологическом обеспечении жизни города, например не знает, как устроены датчики в системе водоснабжения, собирающие данные об авариях. Для принятия компетентных решений необходимо привлекать экспертные группы, которые будут учитывать общественное мнение.

В странах Евросоюза местные власти сталкиваются со многими сложностями в развитии «умных» городов: дефицитом специалистов с необходимыми компетенциями (и в целом кадровые ресурсы муниципалитетов ограничены), конфликтом локальных задач с общенациональными фреймворками, нехваткой финансирования и невозможностью изменить порядок сбора и перераспределения налогов. Чем меньше полномочий у регионального центра и города, тем сложнее им внедрять технологии и реализовать идеи «умного» города.

Тесное сотрудничество государства с крупным компаниями, например в формате государственно-частного партнерства, позволяет гораздо быстрее реализовать крупные проекты, чем если бы их развитием занимались исключительно государственные органы.

Большое количество данных обо всех сторонах жизни города и его жителей, включая персональные и другие личные данные, создает огромные возможности для предиктивной аналитики. Это имеет и оборотную сторону: данные о жителях являются ценным активом для дата-корпораций и всех компаний, которые зарабатывают на обработке и продаже данных. Недостаточная защита данных приводит к серьезным утечкам, особенно выгодным мошенникам. Итак, данные могут быть использованы не только для решений во благо жителей, но и для манипуляций.

Технологии развиваются столь стремительно, что фактически невозможно предугадать, какое нормативное правовое обеспечение понадобится «умным» городам в ближайшем будущем. Нормативное регулирование зарождающихся и быстро развивающихся отраслей (например, ИИ) требует глубокого знания отрасли и современного состояния технологий, в противном случае появляется риск закрепить в нормативных актах нереалистичные требования, неэффективные способы защиты, оставить без регулирования значимые области и допустить возможности для мошенничества. Нормативное регулирование пока касается применения отдельных технологий и разработки стратегий, проектов, рекомендаций, при этом этическая сторона развития «умных» городов, как правило, не рассматривается.

Оптимальный вариант — дать отрасли возможность самостоятельно развиваться, анализировать успехи, недостатки, а затем утверждать лучшие практики в качестве нормы. Возможно, тогда будут широко востребованы регулятивные «песочницы». С их помощью удастся быстрее разрабатывать актуальные законы и на практике выявлять подводные камни, в том числе непредвиденные этические проблемы.

Каждому государству или даже каждому «умному» городу придется искать наиболее комфортный и стабильный баланс прав и ограничений. Скорее всего, со временем роль государства в «умном» городе будет постепенно уменьшаться, а участие горожан в управлении городом, наоборот, расти. На другом полюсе — максимальная власть государства, срастание государства с крупным бизнесом и внедрение систем социального рейтинга.

В самом низу находится инфраструктура ИКТ, чтобы обеспечить повсеместное подключение к системе (на этом этапе важны развитие ИИ и сетей 5G, энергоэффективность городских систем). Чуть выше расположены способы обеспечения цифровой и физической безопасности с помощью новых технологий, в частности «умной» слежки и ИИ. Безопасность и стабильность важны не только для горожан, но и для бизнеса. Ближе к вершине помещено сотрудничество публичного и частного секторов в процессе цифровизации. Например, компания Huawei в тесном сотрудничестве с местными властями внедрила в Шэньчжэне «умную» систему контроля дорожного движения.

На вершине пирамиды — собственный цифровой «мозг» города. Эта система будет собирать данные со всего города, от всех городских служб и коммерческих организаций, чтобы использовать их для общественной пользы. В самом Шэньчжэне система только формируется, но уже сегодня координирует данные более чем из 2000 источников (более 4 млрд элементов данных в базе, до 80 млн элементов в день) в реальном времени.

Важно отметить, что ни «умный» город, ни технологии сами по себе не создают указанные выше проблемы, последние возникают только при применении технологий в конкретных проектах и ситуациях. Достаточно вспомнить ядерные технологии, которые можно использовать как для создания ядерной бомбы и убийства миллионов, так и для запуска атомных электростанций и обеспечения миллионов людей электроэнергией.

Ответственность за этичное применение тех или иных технологий во многом возложена на государственных и муниципальных служащих, а именно на тех, кто принимает решения о внедрении одних и ограничении других проектов. В одних случаях этичным окажется использование технологии в конкретной сфере «умного» города, в других — наоборот, отказ от нее или значительное ограничение в использовании (например, отказ от сбора видеоданных о гражданах, пока не будет налажена надежная система защиты и ограничения доступа к собранным данным).