5.2 Капитализм слежки
Авторы раздела
Бегтин И. В.
Коршунова С. В.
Время чтения — 13 минут
Сейчас практически все мобильные устройства, частные устройства ИВ, веб-сайты, онлайн-платформы, мобильные приложения и любые социальные сети собирают цифровые следы пользователей в режиме 24/7. В капитализме слежки косвенно заинтересованы и государства, которым выгодно получать такой объем данных о людях.
5.2.1 Что такое капитализм слежки?
Еще в 2014 году крупный эксперт в области криптографии Брюс Шнайер счел слежку бизнес-моделью современного интернета, добавив: «Корпорации называют это маркетингом». В 2019 году в своей книге «Эра капитализма слежки» Шошана Зубофф подробно описала это явление, назвав его капитализмом слежки, или капитализмом наблюдения (англ. surveillance capitalism), поставившим себе на службу цифровые технологии.
В любом обществе, которое переходит к капитализму слежки, происходит разделение на тех, кто наблюдает, и тех, за кем наблюдают. Последними оказываются практически все пользователи, граждане, чьи данные беспрепятственно собирают дата-корпорации (см. раздел 2.2.1). По словам Ш. Зубофф, модель нового капитализма выглядит так: «Капитализм слежки в одностороннем порядке провозглашает человеческий опыт как бесплатное сырье для последующей переработки в поведенческие данные. Несмотря на то что часть этих данных используется для улучшения сервисов, остальные объявляются поведенческим профицитом данных (излишками данных), который принадлежит компаниям. Эти излишки скармливают передовым производственным процессам, известным как машинный интеллект, чтобы произвести продукты, способные предугадывать, что вы сделаете сейчас, вскоре и позднее. В итоге эти предиктивные продукты продаются на рынке нового типа, который я называю „рынок поведенческих фьючерсов“. Торговля на этом рынке принесла капиталистам слежки невероятное богатство, поскольку многие компании желают заплатить за ставку на наше поведение в будущем».
Google и Facebook доминируют на мировых рынках социальных медиа, мессенджеров, поиска в интернете, видео, веб-браузеров, мобильных платформ, онлайн-рекламы. Исключение составляет китайский рынок. В Китае запрещены сервисы американских дата-корпораций, зато процветают аналогичные свои, работающие по тому же принципу (WeChat, Weibo, Baidu и т. д.). В остальном мире Facebook — глобальный монополист на рынке соцмедиа и мессенджеров (сама социальная сеть Facebook, а также Instagram, Whatsapp, Messenger). 90% рынка поисковых систем, одного из важнейших современных средств поиска информации, — у Google, а Google Android — самая распространенная в мире мобильная операционная система.
Цифровой след — это совокупность данных обо всех действиях пользователя, совершенных им в цифровом пространстве, и основной источник информации для предиктивной аналитики. IP-адрес устройства, время посещения, параметры устройства, длительность пребывания на каждой странице, паттерн движения курсором в процессе чтения страницы и т. п. — тысячи параметров собираются как большие данные. Не оставлять цифровой след технически невозможно, удалить его из баз данных дата-корпораций почти невозможно, а передача минимума данных вместо объема «по умолчанию» требует тонкой настройки используемых приложений и мобильных устройств, что удается только самым подкованным пользователям.
Цифровой след активно используется в целях предиктивной аналитики. Предиктивная аналитика — анализ больших данных с целью составить прогноз относительно наиболее вероятных сценариев поведения, желаний и потребностей пользователей для управления их вниманием с высокой точностью в интересах третьих лиц (бизнеса, политиков, спецслужб). Чем больше данных о человеке есть у системы, тем лучше она «знает» его и с большей вероятностью может предполагать его действия в будущем.
Цифровой след не обязательно влечет за собой манипулирование пользователями. Это в первую очередь полезный инструмент понимания пользовательского поведения и, соответственно, радикального улучшения качества цифровых продуктов и услуг. Например, в образовательной сфере он применяется для разработки индивидуальных образовательных траекторий и персонализации процесса обучения.
Цифровой след активно используется в целях предиктивной аналитики. Предиктивная аналитика — анализ больших данных с целью составить прогноз относительно наиболее вероятных сценариев поведения, желаний и потребностей пользователей для управления их вниманием с высокой точностью в интересах третьих лиц (бизнеса, политиков, спецслужб). Чем больше данных о человеке есть у системы, тем лучше она «знает» его и с большей вероятностью может предполагать его действия в будущем.
Цифровой след не обязательно влечет за собой манипулирование пользователями. Это в первую очередь полезный инструмент понимания пользовательского поведения и, соответственно, радикального улучшения качества цифровых продуктов и услуг. Например, в образовательной сфере он применяется для разработки индивидуальных образовательных траекторий и персонализации процесса обучения.
Компании предоставляют сервисы и услуги пользователям бесплатно, но в процессе их использования собирают всевозможные данные о пользователях. С помощью различных технологий обработки данных (в том числе ИИ) они анализируют данные и метаданные, создавая новую информацию (выводы), группируют людей по множеству признаков, делают предположения (предсказания) об их интересах, характеристиках и поведении, особенно будущем поведении: что человек мог бы купить и при каких условиях, как поступить (за кого проголосовать, куда поехать, ко мнению каких людей прислушиваться и т. д.).
Чем больше собрано данных о человеке из разных источников, тем точнее можно предвидеть его поведенческие шаблоны и предпочтения. Результаты анализа конвертируются в прибыль, в
первую очередь от продажи рекламы с возможностями таргетинга. Благодаря новым участникам в экосистеме появились новые способы получения доходов в рамках бизнес-модели слежки:
первую очередь от продажи рекламы с возможностями таргетинга. Благодаря новым участникам в экосистеме появились новые способы получения доходов в рамках бизнес-модели слежки:
продажа данных в качестве посредника (информационные брокеры);
разработка и продажа устройств (мобильных и устройств ИВ), способных собирать данные, и приложений для этих устройств;
разработка инструментов для анализа данных, скоринговых систем;
мошенничество с использованием данных;
манипулирование общественным мнением и др.
Весь рынок мобильных приложений, особенно бесплатных, основан на слежке за пользователями. В самом лучшем случае за пользователем следит только разработчик приложения, в худшем — каждое приложение следит за всеми другими приложениями на устройстве. Счетчики посещаемости сайта и кнопки «Поделиться» от разных соцсетей — очень распространенные способы сбора цифрового следа. Например, с помощью кнопки Like Facebook собирает и хранит цифровой след человека, даже если он не был залогинен в соцсети в процессе или вообще при отсутствии у него регистрации в любом сервисе, принадлежащем компании Facebook.
5.2.2 Дилемма: приватность или комфорт
Что важнее: сохранять приватность или пользоваться выгодами цифровой среды? На рисунке 14 описаны преимущества и недостатки как отказа от интернета, так и продолжения пользования им с постоянным сбором данных. Вопрос, возможен ли компромиссный третий вариант, выгодный для всех сторон, пока остается без ответа.
Рисунок 14
Дилемма интернет-пользователей: согласие на сбор данных или отказ от интернета
Дилемма интернет-пользователей: согласие на сбор данных или отказ от интернета
На рисунке 15 представлены примеры того, как крупнейшие экосистемы мобильных устройств собирают избыточные данные. Фактически единственным способом прекратить постоянный сбор данных в конкретной экосистеме (например, Apple) становится полный отказ от ее использования. Но экосистем, которые бы не собирали данных, на рынке нет.
5.2.3 Слежка нарушает приватность
При помощи алгоритмов можно определить настроение, этническую принадлежность, сексуальную ориентацию, политические взгляды, любого рода слабости конкретного человека. Из полученных метаданных формируются новые данные о человеке, которые тоже являются персональными, поскольку позволяют идентифицировать конкретного пользователя. Согласие на обработку ПД часто включает согласие на передачу их третьим лицам, и чаще всего люди не знают, кому и с какими целями ПД передаются.
Присвоив себе право на большие пользовательские данные, дата-корпорации получили потенциально очень мощный инструмент влияния на общество, экономику, на сами государства в будущем. С каждым днем дата-корпорации знают о пользователях все больше, тогда как пользователи не стали получать больше информации о дата-корпорациях и других компаниях, собирающих их данные. Устранение дисбаланса сил возможно только при участии государства в качестве регулятора.
Уголовное наказание за злоупотребления ПД. В Сенат США внесен на рассмотрение проект дополнения к закону о защите ПД, предусматривающего уголовное наказание сроком 10−20 лет для топ-менеджмента компаний, уличенных в халатном отношении с ПД. Поводом для внесения законопроекта стал пример Марка Цукерберга, который избежал персональной ответственности за неэтичное обращение с ПД в его социальной сети Facebook.
Сбором данных для предиктивной аналитики только в США занимаются десятки тысяч (!) мелких информационных брокеров: Spokeo, Whitepages, PeopleFinder и др. Они непосредственно не предоставляют услуги взамен на данные, не являются крупными публичными компаниями, не публикуют свои отчеты о прозрачности и фактически скрыты от внимания пользователей, а значит, удалить свои данные из их баз очень сложно. Существуют даже сервисы DeleteMe, Abine и др., которые за сумму порядка 100 долл. в год следят за тем, чтобы информация о пользователе не появлялась в списках указанных инфоброкеров.
5.2.4 Регулирование интернет-компаний и дата-корпораций — обязанность государства
Можно ли представить цифровую экономику сейчас и в будущем без капитализма слежки? Шошана Зубофф считает, что это возможно при соблюдении некоторых условий. В первую очередь необходимо разработать соответствующее законодательство, значительно ограничивающее монополию дата-корпораций на большие данные. Основными приоритетами должны стать, во-первых, соблюдение прав человека, во-вторых, обеспечение интересов и безопасности общества.
На практике регулирование является очень сложной задачей, поскольку трудно соблюсти баланс между чрезмерным регулированием (что снизит качество оказываемых услуг) и недостаточной защитой прав граждан. Государствам сложно контролировать ИТ-гиганты, пока выгоды от нарушения законодательства значительно превышают ущерб от возможных исков (см. раздел 5.1). В 2019 году Федеральная торговая комиссия США (US Federal Trade Commission) вынудила Facebook внести изменения в политику приватности компании, но это никак не повлияло на работу по прежней бизнес-модели слежки. Повсеместная слежка стала возможной отчасти именно потому, что в США действует политика невмешательства.
Дата-корпорации все же платят за нарушение приватности и неэтичный сбор данных о пользователях.
700 тыс. руб. штрафа уплатила компания Google в России за невыполнение обязанностей по удалению ссылок с запрещенной информации из поисковой выдачи в 2019 году, а в 2018 — 500 тыс. руб. за то, что компания не подключилась к федеральной государственной информационной системе, содержащей реестр запрещенных интернет-ресурсов. В Европе и США Google платит совершенно другие суммы, например до 200 млн долл. за сбор персональных данных несовершеннолетних на YouTube.
700 тыс. руб. штрафа уплатила компания Google в России за невыполнение обязанностей по удалению ссылок с запрещенной информации из поисковой выдачи в 2019 году, а в 2018 — 500 тыс. руб. за то, что компания не подключилась к федеральной государственной информационной системе, содержащей реестр запрещенных интернет-ресурсов. В Европе и США Google платит совершенно другие суммы, например до 200 млн долл. за сбор персональных данных несовершеннолетних на YouTube.
Пока страны действуют в привычном формате «государство — государство», дата-корпорации давно стали транснациональными и выгодно используют свое положение, поскольку могут выбирать свое местонахождение и юрисдикцию. Например, европейские офисы Google, Microsoft, Facebook зарегистрированы в Ирландии 299, где действуют самые низкие налоги, а компания Apple для снижения налогообложения организовала дистрибуцию музыки и видео через Люксембург.
Реагируя на давление недовольного общества в лице отдельных граждан и некоммерческих организаций, а также государственное регулирование, сами дата-корпорации пытаются защитить свою репутацию и будущие прибыли посредством принятия кодексов этики и публикации отчетов о прозрачности. Предполагается, что кодексы этики, разработанные компаниями, менее строги, чем государственное регулирование. Важно помнить, что у таких компаний в принципе нет мотивации отказаться от использования данных. Более того, сегодня бизнес-модель слежки уже вряд ли можно полностью исключить из цифровой экономики: слишком много стран и граждан уже не представляют своей жизни без интернет-продуктов. Цифровым предстоит стать государству, при этом оно должно ориентироваться на гражданина как клиента, максимально удовлетворять его потребности в рамках четко обозначенных этических норм и контролировать соблюдение тех же этических норм другими участниками рынка данных.
Zuboff S. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power.New York: PublicAffairs, 2019.
Surveillance giants: how the business model of Google and Facebook threatens human rights // Amnesty International.
NoBody's Business But Mine: How MenstruationApps Are Sharing Your Data // Privacy International.
Apple Tencent // A Few Thought on Cryptographic Engineering;
Parker T. Apple Safari browser sends some user IP addresses to Chinese conglomerate Tencent by default // Reclaim the Net.
Parker T. Apple Safari browser sends some user IP addresses to Chinese conglomerate Tencent by default // Reclaim the Net.
Schneier B. Data and Goliath: The Hidden Battlesto Collect Your Data and Control Your World. New York: W. W. Norton&Company, 2015.
Компания Google оплатила штраф за невыполнение обязанностей по удалению ссылок с запрещенной информации из поисковой выдачи // Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций.
Компания Google оштрафована на 500 тысяч рублей за несоблюдение российского законодательства // Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций.
Google To Pay Up To £165m Fine For YouTube Children's Privacy Violations // Silicon.co.uk.
Минфин решил заставить Google делиться доходами // TheBell;
Агеева О. Минфин предложил изменить подход к налогообложению Google и Facebook // РБК.
Агеева О. Минфин предложил изменить подход к налогообложению Google и Facebook // РБК.
Целый ряд примеров усилий по саморегулированию приводится в книге президента Microsoft, чей опыт многолетнего взаимодействия с регуляторами одной из крупнейших ИТ-компаний в мире. См.: Потеев П. Надежда и опасность цифровой эпохи. Рецензия Павла Потеева на книгу президента Microsoft;
Roberts P. Tools or Weapons? Microsoft president's new book balances costs, benefits of digital revolution // The Seattle Times.
Roberts P. Tools or Weapons? Microsoft president's new book balances costs, benefits of digital revolution // The Seattle Times.