Этика разработчика

Тюрин Владислав Владимирович, эксперт Центра подготовки руководителей цифровой трансформации ВШГУ РАНХиГС

При всей сложности и субъективности, мораль и нравственность при цифровой трансформации приобретают принципиальное значение для сбалансированного и динамичного развития экономической системы, социальной сферы и секторов государственного управления. Задачи и проблемы этики в цифровую эпоху имеют достаточно сложные предпосылки. И прежде всего это связано со значительными изменениями, вызванными активным применением целого комплекса цифровых, управленческих и потребительских технологий. Разработчики цифровых продуктов и сервисов, оказавшись на передовой научно-технического развития, вынуждены решать для себя ряд непростых проблем с юридической и моральной ответственностью. Посмотрим на две непростые этические задачи разработчика.

Первая «внешняя» этическая задача, которую должен для себя решить разработчик – как оставаться в действующем правовом и морально-нравственном поле с учетом повышенной сложности, скорости и неопределённости внешней среды. Вторая «внутренняя» этическая задача, которая неизбежно возникает у разработчика – как стратегически, структурно, функционально и ресурсно подстроить внутреннюю среду под новую реальность и удержать целостную команду, при возрастающей ценности каждого отдельного специалиста.

Особенность ускоряющейся цифровой трансформации в том, что комплексно и связанно создается, развивается и воплощается в продуктах и сервисах множество разнообразных технологий. Это касается не только информационных технологий нового качества, т.н. цифровых. Активно развиваются и применяются новые управленческие и новые потребительские технологии. При этом их совместное использование всё чаще сопровождается синергетическим эффектом и порой имеет серьезные последствия как для отдельных рынков, так и для некоторых социальных направлений или для ряда секторов государственного управления. Совершенно закономерно в этой связи осмысливается такой феномен как «подрыв рынка» (disruption) – кардинальные, порой катастрофические изменения в связи с появлением нового технологически сильного игрока. Такой новый лидер, получив необходимый синергетический эффект от интегрированного пакета цифровых, управленческих и потребительских технологий, уже в краткосрочном периоде резко перестраивает рынок (или отдельный его значимый сегмент). Не только серьезно меняется ценовая политика в отношении существующих продуктов или сервисов, но и предоставляется более высокая ценность конечному потребителю через новые заманчивые предложения. А когда лидер резко снижает цену за продукты или сервисы на подрываемом рынке, спрос растет экспоненциально. Потребление бьёт рекорды за счет новых объемов старых клиентов и ещё больше за счет появления новых клиентов, для которых предлагаемые товары и услуги стали доступней по цене и условиям сделки. У подобного успешного лидера искушение слишком велико, чтобы в момент экспоненциального роста заботиться об этических аспектах своего поведения. При всём при этом он имеет возможность действовать широко и агрессивно, но оставаясь в рамках действующего законодательства. Либо он имеет возможность умело скрывать свои противоправные или аморальные действия. Так проблема этики при цифровой трансформации резко обостряется.

Писанные правила общества и государства – это законы. Неписанные правила – это мораль и нравственность. Понуждение к соблюдению правил реализуется через институты и механизмы государства и общества. За несоблюдение писанных законов должна наступать юридическая ответственность, а за несоблюдение неписанных норм и правил – морально-нравственная. Но только за нарушение формализованных и зафиксированных в нормативно-правовых актах (и иных документах) прав и обязанностей физических и юридических лиц может последовать реальная юридическая ответственность, которую призваны в первую очередь обеспечить органы государственной власти. И только в случае нарушения конкретных положений законов и подзаконных актов, инструкций и регламентов, указаний и рекомендаций может последовать указание регулятора предотвратить или устранить нарушение. Только тогда органы власти или уполномоченные общественные структуры могут жестко отрегулировать подрываемый рынок, могут придержать лидера, могут ограничить распространение сомнительных продуктов или сервисов, могут запретить использование тех или иных технологии и т.д. Однако при отсутствии необходимых зафиксированных норм права государственные или общественные регуляторы начинают руководствоваться собственными или даже личными принципами морали и нравственности со всеми вытекающими из этого последствиями.

Цифровая трансформация обусловила новый серьезный вызов для правовой системы.

Во-первых, кратный рост количества и резкое усложнение объектов, субъектов, событий, фактов, действий, связей и явлений, которые не формализованы и не зафиксированы в виде законов. Таким образом, резко и постоянно увеличивается доля того, что вынуждено уходить в область регулирования неписанными правилами. Причем скорости развития и комбинирования технологий таковы, что сложность растет очень высокими темпами, если не сказать экспоненциально.

Во-вторых, сами институты и механизмы правового регулирования, которые призваны формализовать права и обязанности, а затем обеспечить их реализацию пока остаются в парадигме традиционной правовой системы. Но она технологически на данный момент отстает от тех возможностей, которыми обладают субъекты, пребывающие в её рамках. Как минимум, государство на сегодня не способно адекватно обеспечить необходимыми качественными законодательными нормами всю ту нарастающую трансформационную сложность и специализацию. А как максимум, даже ускоренная разработка и принятие законов (иных нормативно-правовых актов) на следующем же этапе упирается в проблему их применения. Определить наступление юридической ответственности достаточно сложно, если тот, кого проверяют на один-два порядка технологически опережает того, кто его проверяет. Но дело даже не том, что трудно проверить, взять под контроль или наказать одного-двух технологических лидеров. Дело в том, что таких лидеров всё больше на разных рынках. Они не просто оперируют миллиардами малых персонализированных сделок и триллионами транзакций, а они уже интенсивно обмениваются большими объемами данных. Понимая, что проверить все их массивы операций контрольно-надзорные органы физически и технологически на данный момент не в состоянии, цифровые лидеры и разработчики вполне себе могут позволить слукавить в определенных ситуациях. Тем самым делая непростой моральный выбор между полной подлинной открытостью перед государством и обществом и ощутимым мощным конкурентным преимуществом в целевом сегменте отрасли. Разработчики цифровых продуктов и сервисов в итоге получают полную возможность самостоятельно, и чаще в свою пользу, трактовать принимаемые законы и руководствоваться собственными морально-нравственным принципам. Они фактически становятся неподконтрольны обществу и государство просто благодаря тому, что нет таких квалифицированных инструментов и должностных лиц, которые способных произвести проверку их действий в разумные сроки и с разумными издержками.

Юридическая ответственность по множеству технологических решений в силу двух обозначенных причин стремительно перетекает в морально-нравственную. И это означает потерю реального и объективного контроля над развивающейся ситуацией со стороны государственных органов и гражданского общества. Для каких-то стран пока всё остается на грани нормы, а для каких-то становится уже ощутимой проблемой. Но при расширяющемся поле вопросов, которые в силу отсутствия формального регулирования, приходится решать, руководствуясь только моральными и нравственными нормами, проблема этики выходит на первый план. Потому что:

• теперь только от морали и нравственности лидера рынка или разработчика, претендующего на лидерство, зависят его дальнейшие действия в отрасли по количеству и качеству предлагаемых клиентам цифровых продуктов и сервисов –
но планируемая сверхвыгода достаточно серьезно способна исказить представление об этичном поведении;

• теперь только от морали и нравственности общества зависит готовность принять те или иные предлагаемые к потреблению цифровые продукты и сервисы – но ожидаемая сверхценность достаточно серьезно искушает поступиться ранее принятыми этическими нормами не без выгоды для себя;

• теперь только от морали и нравственности государства зависит политика и стратегия развития высоко технологичного бизнеса и доступности цифровых продуктов и сервисов для граждан – но желаемые быстрые победы и некоторый личный интерес отдельных должностных лиц могут перевесить любые доводы в пользу принятия этичных решений.

В этой связи ключевой необходимостью представляется запуск и обеспечение обратного процесса – возврат большей части вопросов развития и применения цифровых, управленческих и потребительских технологий из морально-нравственной плоскости в правовую. Что в принципе невозможно сделать на технологическом уровне ниже, чем тот который обуславливается текущим научно-техническим развитием. А следовательно, придется работать по двум основным направлениям:

1. технологическое усиление институтов и механизмов, отвечающих за создание и исполнение законов, т.е. квалифицированная цифровая трансформация правовой системы, используя, например:

• алгоритмическое (автоматизированное) регулирование цифровых продуктов и сервисов, стратегий и политик разработчиков, поведения потребителей;
• регулятивные цифровые песочницы;
• организацию и поддержку развития цифровых отраслевых экосистем;
• создание информационных систем управления государственными стратегиями;
• интегрированные системы управления рисками.

2. технологическое усиление институтов и механизмов, отвечающие за формирование и следование общественно-значимым морально-нравственным правилам и принципам, т.е. квалифицированная цифровая трансформация гражданского общества, используя, например:

• сетевые инструменты объединения в профессиональные сообщества для обсуждения и исследования проблем этики;
• специализированные образовательные цифровые платформы по проблемам этики и цифровой грамотности;
• платформенные решения по гражданскому контролю общественного мнения и проблем граждан при использовании цифровых продуктов и сервисов;
• инструменты формирования и постепенной формализации морально-нравственных правил и принципов для участников рынков, социальных групп, государственных органов с перспективой имплементации отдельных положений в правовую систему.

Первое направление призвано обеспечить адекватный технологический уровень правовой системы, повысив её эффективность в условиях цифровой трансформации. Для того, чтобы она была способна справиться с возросшей сложностью и забрать на себя регулирование большей части возникающих проблем и вопросов применения новых цифровых, управленческих и потребительских технологий.

Второе направление должно обеспечить адекватный технологический уровень для работы с задачами и проблемами этики в цифровую эпоху для того, чтобы последовательно и постепенно совершенствовать морально-нравственное состояние общества в условиях динамичного мира, насыщенного информацией, цифровыми продуктами и сервисами.

При отсутствии соизмеримых технологически полноценных решений, которые балансируют развитие бизнеса, социальной сферы и государства, всем участникам приходится действовать в силу своего понимания и выработанных принципов. И в этом случае не только государство или общество попадает в достаточно сложную ситуацию. Разработчики технологически сложных и комплексных решений, производители и поставщики цифровых продуктов и сервисов вынуждены как-то осуществлять выбор и решать для себя вопросы юридической и морально-нравственной ответственности. И в большей степени приходится действовать на нерегулируемой законами территории, т.е. в пространстве где действуют мораль, нравственность и субъективное мнение отдельных должностных лиц.

Сложность аппаратно-программных решений, скорость изменений, количество доступных и переиспользуемых компонент достигли того уровня, когда проблема ответственности разработчика может стать значимым фактором, сдерживающим дальнейшее развитие.

Ответственным разработчиком программного или аппаратного решения может быть конкретный специалист (конструктор, дизайнер, исследователь или технолог) или команда, государственное или частное, коммерческое или социальное предприятие. Как правило, такой разработчик стремится предложить безопасное и эффективное решение для удовлетворения какой-либо актуальной потребности, создать полезный продукт или предложить удобный сервис. Разработчик ориентирован на работу в правовом поле и не избегает юридической или этической ответственности за свои ошибки. Вместе с тем у ответственного разработчика все чаще возникают определенные проблемы из-за возможных последствий применения тех решений, которые он создает и предлагает пользователям. Вот, например, три ключевых фактора, которые усугубляют эти проблемы:

1. Переиспользование данных и кода. Чем больше разработчик повторно использует данные и код, особенно, взятые у внешних поставщиков, тем чаще оказывается, что у него не хватает компетенций и ресурсов контролировать их в полном объеме. Ему приходится отвечать не только за качество данных и кода, взятых для своего решения, но и за их правильное использование. Ведь переиспользование зачастую означает существенное изменение контекста, что может приводить к ошибкам и некорректным результатам даже выверенных данных и отлаженного кода. И чем больше переиспользуемых компонент в продукте или сервисе, тем сложней обеспечить контроль ответственности. Тем сложнее найти ошибку, чтобы выявить истинное ответственное лицо или распределить ответственность между несколькими лицами. Применительно к некоторым пакетам данных и/или кода перенести ответственность на поставщика невозможно в силу действующего лицензионного соглашения, на основе которого они распространяются (раздел об ограничении ответственности).

В итоге ответственный разработчик вынужден брать на себя всю формальную и моральную ответственность за свои данные и код и за те, которые он взял у сторонних поставщиков и использует в своем продукте или сервисе.

2. Вероятностные данные и алгоритмы. Активно развиваются многочисленные решения, которые относятся к классу технологий искусственного интеллекта и осуществляют вычисления, реализуют условия выбора на основе неполных данных (выборки, усреднения, моделирование) и т.п. Но встраивание подобных решений в продукты и сервисы может повышать вероятность возникновения неблагоприятных ситуаций при их использовании. Проблема объяснимости искусственного интеллекта только усугубляет ситуацию с определением ответственности разработчика. Действительно ли обученная нейронная сеть допустила предсказуемую и приемлемую погрешность или само машинное обучение было произведено некачественно и с ошибками, без должного тестирования и апробирования. Причиной ошибки и неблагоприятного развития событий может оказаться не только сам алгоритм, но и исходные данные. Расследование инцидентов и определение ответственного лица значительно затрудняются, а в ряде случаев просто невозможны.

Получается, что разработчик вынужден брать всю формальную и моральную ответственность за используемые в его продукте или сервисе неполные данные и/или технологии искусственного интеллекта, пусть даже в отношении последних изначально принимается, что с некоторой долей вероятности могут возникнуть неблагоприятные события.

3. Цикличность разработки. Динамика изменений рынков, технологий, компетенций и специализации обуславливает необходимость итеративной разработки, основанной на гибких методах. Для цифровых продуктов и сервисов перечисленное выше особенно характерно из-за их нематериальной природы и низкой стоимости внесения изменения в каждый конечный реализованный экземпляр. При этом для каждой версии делаются допущения о наличии явных и/или скрытых ошибок. Безусловно, ответственный разработчик, выпускающий новую версию продукта или сервиса, стремится закрыть большинство обнаруженных проблем. Однако сложность решений не всегда позволяет делать это с удовлетворительными параметрами качества и сроков. С одной стороны, гибкие методы разработки направлены, в том числе, на максимальное выявление и устранение ошибок в данных и/или коде. С другой стороны, ограниченность ресурсов и заданная цикличность выпуска новых версий не всегда позволяют быстро обновлять решения с целью устранить проблемы, которые обнаружились при их эксплуатации. Да и само обновление, ликвидирующее одну ошибку, вполне может повлечь за собой другую или даже несколько.

В итоге разработчик вынужден брать на себя всю формальную и моральную ответственность за возможные скрытые или явные ошибки в очередной версии продукта или сервиса, на устранение которых требуется время, даже если он уведомил потребителей.

Вполне можно понять тех ответственных разработчиков, которые говорят о невозможности принять на себя полную ответственность. У разработчика/продавца/поставщика особо сложных продуктов и сервисов возникает потребность снять с себя ту часть юридической, а особенно моральной ответственности, которая связана с его некоторыми действиями или бездействием (особенно в части переиспользования данных и программ, применения вероятностных данных и алгоритмов, цикличности выпуска обновлений). Из этого выводится некоторыми заинтересованными лицами предложение перенести ответственность с разработчика на владельца или даже на сам продукт или сервис. Сегодня подобный трансфер допустим только в части неправильного или неправового использования. Возможно ли передать часть ответственности за конструкционные, технологические, эргономические и иные характеристики продукта или сервиса на того, кто его приобрел и использует. Для лучшего понимания стоит задаться вопросом о том, кто, например, несет ответственность за ошибку в проектировании тормозной системы автомобиля: производитель или владелец автомобиля. Кажется несправедливым, что одно лицо отвечает за действия другого, когда речь идет о разработке продукта или сервиса. Пользователь, если он выполняет все предписанные производителем действия, не может брать на себя ни юридическую, ни моральную ответственность за какие-либо недоработки в продукте. Единственно правильным представляется следующий подход: по факту какого-либо нарушения прав (инцидента) проводится объективное расследование и определяются виновные, а также устанавливается степень их юридической и морально-нравственной ответственности за совершенные действия или бездействие.

Обозначенные факторы показывают, настолько серьезны проблемы с ответственностью разработчиков и с определением виновных лиц. Их игнорирование не способствует дальнейшему эффективному технологическому развитию. На сегодня поставщики ряда решений не могут дать стопроцентную гарантию и взять на себя полную ответственность, потому что создают и предлагают потребителям продукты и сервисы, включающие множество встроенных решений других поставщиков, используют «вероятностные» технологии и вынуждены постоянно вносить изменения в аппаратную и, особенно, в программную части в рамках цикла разработки.

Возникшее противоречие необходимо устранить, причем желательно в рамках того технологического стека, который доступен и адекватен задаче и среде. При этом ключевыми условиями являются:

• управление ответственностью всего множества поставщиков, предоставляющих данные и код (в открытом или закрытом режимах) для конкретного решения (одновременно решаются вопросы управления авторскими правами);
• квалифицированный контроль разработки особо сложных решений с помощью независимых систем с целью снять с разработчиков ответственность за определенного типа действия или бездействие при создании и развитии конкретного решения;
• постоянный мониторинг и аудит циклов разработки и поставки новых версий продуктов и сервисов, особенно в том, что касается принятия, исследования, устранения и тестирования выявленных ошибок в их работе или непредсказуемых результатов работы, которые могут свидетельствовать о скрытых ошибках.

Указанные условия вынуждают разработчиков обращаться к достаточно непростым моделям, методикам, технологиям и инструментам, рассматривать такие решения, как цифровые платформы и цифровые экосистемы, обеспечивать упорядочивание и автоматизацию работы экспертных сообществ, алгоритмическое регулирование, регулятивные песочницы и т.п.

Проблема ответственности не существует для безответственного разработчика, но неизбежна и критически значима для тех, кто пользуется результатами его труда. Следовательно, одна из приоритетных задач развития цифровой экономики — это формирование такой среды, в которой разработчик стремится стать ответственным. Предстоит не только выстроить соответствующую цифровую инфраструктуру, но и формировать такую экономическую и социально-культурную среду, которая мотивирует субъектов оставаться в рамках принятых обществом норм права и морали.

Рассматривая проблему юридической и моральной ответственности разработчика, необходимо учесть еще и внешние факторы, которые оказывают все большее влияние на субъектов в цифровой экономике, заставляя меняться внутри.

Фактор первый: углубление и существенное переформатирование системы разделения труда. Каждый отдельный бизнес и каждый профессионал приобретают все более узкую специализацию. Кооперация между компаниями усложняется и усиливается, как и зависимость организаций от квалифицированных кадров и зависимость специалистов друг от друга. И это уже становится новой нормой, которая диктует переход к другой организационной культуре. В условиях усиления конкуренции за квалифицированные кадры недостаточно мотивировать сотрудников высокой зарплатой. Все чаще компании учитывают личностные качества и внутренние убеждения соискателей при найме. Следовательно, рост профессиональной ценности уникального специалиста в условиях цифровой экономики одновременно повышает и значимость его морально-этических ценностей. Для того чтобы научиться работать в новой реальности, необходимы:

• усилия по изучению организационных культур и внедрения культур, ориентированных на этические ценности;
• выделение в отдельный блок «мягких» компетенций (soft skills);
• следование стратегиям экологической безопасности;
• информационная открытость компаний перед гражданским обществом и государственными органами;
• дискуссии о критической значимости человеческого капитала;
• расширение сектора социального предпринимательства;
• поиск оптимальных методов (например, гибких) управления командами и проектами и др.

Фактор второй: развитие цифровой инфраструктуры. Безусловно, цифровая инфраструктура обеспечивает мобильность и функциональную обособленность каждого отдельного бизнеса и специалиста. Благодаря ей становится возможна их тесная интеграция для реализации комплексных и ресурсоемких стратегий и проектов. В рамках развивающейся цифровой инфраструктуры становятся доступны экспоненциально растущие объемы данных. Их многократное использование, фрагментация до любого требуемого уровня и высокая скорость обработки и передачи приводят к необратимым изменениям в разных отраслях экономики и секторах социальных сферы. Прежде всего, это касается режимов и условий получения доступа к информации, открытости экономических субъектов. Но в случае снятия ресурсных ограничений мы сталкиваемся с другого рода ограничениями – ценностными. Имея возможность использовать информацию как угодно, приходится делать выбор между несколькими предпочтительными вариантами. И если предпочтения далеки от морально-нравственных норм общества и расходятся с действующим законодательством, то сформированная инфраструктура позволяет скрыться в нелегальный сегмент интернета DarkNet. При этом информационные технологии помогают успешно скрывать свою личность и идентичность в Сети. Достаточно подыскать более сильные и менее этичные решения для обхода систем безопасности, чем те, что направлены на ее обеспечение.

Другой аспект развития цифровой инфраструктуры — многократность использования одних и тех же данных, алгоритмов и решений, которая позволяет проводить многочисленные недорогие эксперименты. Массовое сетевое тестирование цифровых продуктов и сервисов стало реальностью благодаря развитию технологий и инфраструктуры. Вопросы этики при проведении цифровых экспериментов на порядок сложнее, чем в традиционных научных экспериментах. Риски увеличиваются из-за сетевых эффектов, которые сложно поддаются контролю, и проблемы обратимости распространения информации. Казалось бы, безобидные эксперименты могут вызвать достаточно серьезные последствия для контрагентов и/или клиентов. Вспомним ранее обозначенные ключевые факторы, влияющие на ответственность разработчика (переиспользование данных, вероятностные алгоритмы, цикличность разработки), и добавим к ним проблемы с идентификацией экспериментаторов. Риски реальны и достаточно высоки. В качестве примера можно привести широко известный проект Bitcoin. Понимая высокую вероятность развития неблагоприятных ситуаций, во многих странах регуляторы всерьез задумались о контролировании подобного рода экспериментов. Одно из решений — регулятивные песочницы. Учитывая существующее развитие инфраструктуры и ту логику реализации, которая пока применяется для этих режимов экспериментирования, пока можно говорить только о том, что «песочницы» предназначены для ответственных разработчиков и немного смягчают опасения и тревогу регуляторов. Безответственные же разработчики, очевидно, предпочтут оставаться вне правовых экспериментов и в большинстве случаев успешно скроют свои проекты от общества и государства.

Фактор третий: рост совокупной ценности создаваемых цифровых продуктов и сервисов. Развитие цифровой инфраструктуры и трансформация системы разделения труда позволяют предлагать комплексные решения для удовлетворения нескольких потребностей. Причем потребности отдельного клиента или некоторого сообщества (группы) могут быть сколь угодно сильно или слабо связанными, четко обозначенными или неосознанными, примитивными и нереалистичными. Чем дальше экономика и государственное управление продвигаются по пути цифровой трансформации, тем более сложные продукты и сервисы, комплексно удовлетворяющие группы потребностей, удается создавать и делать доступными для использования.

Сетевые структуры обеспечивают предельную скорость распространения новых продуктов и сервисов. И контролировать это становится все труднее. Постепенно формулируется запрос на трансформацию не только отдельных управляемых процессов, но и самих систем управления бизнесами и государственными структурами. Важно отметить, что чем более персонализированные потребности удовлетворяются с помощью создаваемых продуктов и сервисов, тем больше вероятность обнаружить влияние личных предпочтений и этических принципов потребителя. Если речь идет о том, что цифровой продукт или сервис способен дать клиенту совокупную ценность (удовлетворить целый комплекс его потребностей), неизбежно придется учесть его предпочтения и принципы. Здесь важно отметить два обстоятельства:

• глобальность и связанность мировой экономики: необходимо учитывать культурные и исторические особенности разных групп потребителей даже внутри одного государства, одного города;
• тотальную интеграцию цифровых продуктов и сервисов: разработка нового продукта, сервиса или технологии в любом случае будет связана со множеством других развивающихся продуктов, сервисов и технологий или зависима от них.

Даже когда стоит задача сделать исключительно узконаправленный и специализированный компонент, все чаще приходится думать о том, какую роль он сыграет в совокупной ценности, которую получит клиент. Как это происходит на практике, показывает пример с Huawei: совокупная ценность смартфона снижается, если ряд важных компонентов в его операционной системе отсутствует.

Под воздействием указанных внешних факторов внутри организации постепенно формируются качественно новые отношения между руководством и исполнителями. Складывается новая модель организационной культуры. Руководители являются профессионалами в сфере управления и отвечают за разработку и организацию реализации стратегии. Специалисты в соответствующих предметных областях отвечают за реализацию направлений стратегии с применением тех знаний и компетенций, которыми они обладают. Казалось бы, команда неизбежно синхронизирует цели и ценности индивидуумов. Тогда максимальные усилия каждого квалифицированного специалиста в команде будут способствовать достижению общего результата. От слаженности и эффективности командных действий, принимаемых и разделяемых этических норм и правил будет зависеть успех. Развитие технологий и аппаратно-программных решений на их основе станет способствовать такому подходу. Например, с помощью корпоративных информационных систем или цифровых платформ становится возможным:

• эффективно распределять и контролировать задачи, права и ответственность, помогать преодолевать проблемные ситуации, в том числе с учетом индивидуальных особенностей членов команды;
• эффективно перепроектировать и оптимизировать сложные задачи, объекты, процессы, события, а также использовать информационные технологии нового качества для поиска и выбора наилучших доступных вариантов, для поддержки принятия решений и т.п.;
• эффективно управлять информационными потоками и уровнями доступа не только для обеспечения безопасности в заданном контуре, но и для постоянного повышения результативности бизнес-модели, оптимального управления межличностным взаимодействием членов команды.

Скорее всего, перечисленными возможностями воспользуется ответственный разработчик. Противоположный сценарий предпочтет безответственный разработчик или разработчик, который очень плохо разобрался в изменениях, характерных для цифровой экономики. Негативный сценарий заключается в том, чтобы изолировать уровень руководства от уровня исполнения и держать в неведении конкретных специалистов в отношении истинной стратегии, реализуемой компанией. Как ни парадоксально, но здесь также придут на помощь новые информационные, управленческие и потребительские технологии. Например, можно:

• распределять задачи, права и ответственность так, чтобы истинные цели, ресурсы и участники проекта не были бы понятны отдельным исполнителям;
• скрывать реальную противоправную деятельность или неэтичное поведение непосредственных исполнителей от них же самих, демонстрируя через интерфейс специальным образом сгенерированную ложную информацию (например, геймификация);
• использовать максимально мощные решения, блокирующие распространение нежелательной информации, в том числе за счет дискредитации источников информации или вброса больших объемов информации, в которых нежелательная для распространения не будет воспринята).

Перечисленные действия не могут считаться этичными, поскольку направлены на то, чтобы использовать квалифицированного специалиста вслепую, возможно, даже для не совсем законной деятельности или для деятельности, противоречащей гуманитарным и общечеловеческим принципам. Скорее всего, со временем специалист поймет, что его держат в неведении относительно реальных целей. В таком случае неизбежен внешний, внутренний или личностный конфликт. Как этот конфликт будет решен — зависит только от того, насколько сильно противоречие взглядов конкретного гражданина и навязываемых ему морально-этических принципов. Управлять подобными конфликтами и их последствиями в условиях действия упомянутых факторов достаточно трудно, все чаще тайное становится публичным. Яркие примеры тому — истории Эдварда Сноудена и Джулиана Ассанжа.

Технологии развиваются и становятся качественно другими. Рынки кардинальным образом преобразуются. Экономика трансформируется, в ней обнаруживается все больше точек внутреннего экспоненциального роста. Государства переосмысливают ценности и стратегии развития. Этика становится другой только потому, что у общества появились новые впечатляющие возможности — экономические, гуманитарные, научные, технологические. И эти возможности помогают лидерам мнений и активистам гражданского общества ставить настолько сложные и важные вопросы, о которых раньше даже и думать было бессмысленно. Другие эффективность и скорость, другие сложность и синергия позволяют не только решать материальные проблемы, но и переходить к формулированию и проектированию решений нового уровня, устраняющих морально-нравственные проблемы.