II. Справедливость на новых рубежах власти

Если святилищу суждено уцелеть, то для этого необходимы синтетические декларации – альтернативные пути, ведущие к более человечному будущему. Нам нужно заняться стеной, а не тоннелями. Пока что американские законы о неприкосновенности частной жизни не поспевают за поступью инструментаризма. Подходы к «вторжению в частную жизнь», по словам правоведа Аниты Аллен, делится на «несколько очевидных категорий». Аллен противопоставляет «физическую приватность» (иногда называемую пространственной) «информационной приватности». Она отмечает, что физическая приватность нарушается, «когда человек безуспешно пытается уединиться или скрыться». Информационная приватность компрометируется, «когда данные, факты или разговоры, которые человек желает сохранить в тайне или анонимизировать, тем не менее кем‑то приобретаются или раскрываются»[1212].

В эпоху Большого Другого эти категории гнутся и трещат по швам. Физические пространства, включая наши дома, все сильнее насыщаются информационными нарушениями, пока наша жизнь оцифровывается в качестве поведения и экспроприируется как излишек. В некоторых случаях мы сами навлекаем это на себя, обычно потому, что не знаем о закулисных операциях или не понимаем все их последствия. Другие нарушения просто навязываются нам, как в случае с говорящей куклой, слушающим телевизором, сотнями приложений, запрограммированных на тайную оцифровку, и так далее. Мы видели уже многие объекты и процессы, предназначенные надзорным капиталом быть умными, чувствительными, активирующими действия, соединенными в сеть и подключенными к интернету. К тому времени, как вы будете читать эти строки, их станет больше, а потом еще больше. Это ученик чародея, обреченный постоянно подзаряжаться и движимый безграничными притязаниями, утверждающими его право на все.

Когда американские ученые и юристы оценивают то, как цифровые возможности бросают вызов существующему законодательству, основное внимание уделяется доктрине Четвертой поправки, ограничивающей отношения между индивидом и государством. Конечно, жизненно важно, чтобы защита Четвертой поправки шла в ногу с XXI веком, защищая нас от информационного обыска и конфискации способами, отражающими современные реалии производства данных[1213]. Проблема в том, что даже расширенная защита со стороны государства не защищает нас от наступления на святилище, ведомого инструментарной властью и вдохновляемого экономическими императивами надзорного капитализма[1214]. Четвертая поправка в ее современном истолковании не поможет в этом. Не предвидится никакого чародея, готового приказать надзорным капиталистам, словами Гёте: «В угол, веник. Сгиньте, чары».

Юридическая наука только начинает осмысливать эти факты. Статья 2016 года об «интернете вещей», написанная специалистом по Четвертой поправке Эндрю Гатри Фергюсоном, приходит к выводу:

Если миллиарды датчиков, переполненных персональными данными, окажутся за рамками защиты, предоставляемой Четвертой поправкой, то мы получим крупномасштабную сеть надзора, существующую без каких‑либо конституционных ограничений[1215].

Как мы уже видели, мы уже ее получили. Голландские ученые приводят аналогичные доводы в пользу неадекватности голландского законодательства, не поспевающего за Большим Другим и уже не способного эффективно отстаивать святость жилища от агрессивных действий бизнеса или государства: «Стены больше не могут эффективно защитить человека от поползновений извне в его стремлении <…> к личной жизни без вторжений…»[1216].

Сегодня много надежд возлагают на новый корпус законодательных норм ЕС, известный как Общий регламент по защите данных (General Data Protection Regulation, GDPR), вступивший в силу в мае 2018 года. Подход ЕС принципиально отличается от американского тем, что компании должны обосновывать свои действия с данными в рамках нормативной базы GDPR. Регламент вводит несколько ключевых материальных и процессуальных новшеств, в том числе требование уведомлять людей о взломе персональных данных; строгое понимание «согласия», ограничивающее компаниям возможность опираться на эту тактику получения одобрения на использование персональных данных; действующий по умолчанию запрет на публикацию персональных данных; требование закладывать конфиденциальность при разработке систем; право на удаление данных; расширенную защиту от принятия автоматизированными системами решений, имеющих «серьезные» последствия для жизни человека[1217]. Новая нормативно‑правовая база также предусматривает за нарушения значительные штрафы, которые могут достичь 4 % глобальных доходов компании, и позволяет возбуждать коллективные иски, в которых пользователи могут объединяться для утверждения своих прав на конфиденциальность и защиту данных[1218].

Это крайне важные и необходимые достижения, и для нашей истории ключевым вопросом будет то, станет ли этот новый режим регулирования трамплином для оспаривания легитимности надзорного капитализма и в конечном счете преодоления его инструментарной власти. Со временем мир узнает, сможет ли GDPR выйти вперед Большого Другого, восстановив разделение знания, соответствующее ценностям и чаяниям демократического общества. Такая победа будет зависеть от того, сможет ли общество отвергнуть рынки, основанные на изъятии человеческого опыта как средства прогнозирования и контроля человеческого поведения с целью извлечения прибыли для других.

Ученые и специалисты спорят о последствиях этих радикальных новых правил, при этом одни предвидят неизбежность решительных перемен, другие считают преемственность более вероятной по сравнению с драматическими изменениями положения дел[1219]. Однако кое‑что мы знаем. Ни один человек, который борется с мириадами сложностей, связанных с защитой собственных данных, не сможет в одиночку противостоять ошеломляющей асимметрии знания и власти надзорного капитализма. Если последние два десятилетия нас чему‑то и научили, так это тому, что один человек не вынесет бремени этой борьбы на новых рубежах власти.

Пример тому – одиссея бельгийского математика и активиста защиты данных Пола‑Оливье Дайе, который в декабре 2016 года инициировал запрос на получение своих персональных данных, собранных через «пользовательские аудитории» Facebook и инструменты отслеживания Pixel, которые позволили бы выявить веб‑страницы, на которых Facebook его отслеживал. Дайе, вероятно, знал больше о мошеннических операциях с данными в Cambridge Analytica, чем кто‑либо в мире, не считая ее персонала и вдохновителей. Его целью было расследование «снизу», раскрывающее секреты незаконных способов изменения политического поведения.

Первым шагом было определение того, что о нем знает Facebook, особенно тех данных, которые стали бы актуальными в контексте выборов и, таким образом, сделали бы его и других уязвимыми перед скрытыми маневрами того рода, которые использовала Cambridge Analytica. Дайе хотел понять, как гражданин может узнать о данных, сбор которых, судя по всемирному возмущению по поводу разоблачений тайных политических манипуляций в интернете, создал то, что многие считают весьма «серьезной» угрозой. Он тщательно задокументировал все свои шаги, надеясь, что его опыт будет полезен журналистам, гражданам и сообществам, настроенным на понимание масштабов деятельности Facebook и создаваемых ею политических уязвимостей. Дайе пишет:

Конечно, очень сложно общаться с такой компанией, как Facebook, в качестве частного лица, поэтому к апрелю 2017 года мне пришлось передать вопрос ирландскому комиссару по защите данных. К октябрю 2017 года, после моих многочисленных понуканий, ирландский комиссар по защите данных наконец согласился предпринять первые действия в связи с моим делом и запросил у Facebook комментарий. К декабрю 2017 года он, очевидно, получил ответ, но по состоянию на март 2018 года он все еще «оценивает» его, несмотря на мои постоянные напоминания. Очень трудно не увидеть, что правоприменение здесь буксует[1220].

В марте 2018 года, через пятнадцать месяцев после своего первоначального запроса, Дайе наконец получил электронное письмо от Отдела операций с конфиденциальной информацией Facebook. Ему сказали, что информация, которую он ищет, «недоступна через наши инструменты самообслуживания», но хранится в «области хранения журналов» Facebook под названием Hive (улей), где она сохраняется для «анализа данных» и не смешивается с «базами данных, которые обеспечивают работу сайта Facebook». Компания настаивала на том, что для доступа к данным ей пришлось бы преодолеть «огромные технические проблемы». «Эти данные, – пишет компания, – также не используются для непосредственного обслуживания веб‑сайта Facebook, который видят пользователи»[1221].

На нашем языке информация, которую хотел получить Дайе, требовала доступа к «теневому тексту», включая, в частности, подробный анализ таргетинга, который определял рекламу, которую ему показывали в Facebook. Ответ корпорации указывает на то, что данные Hive являются частью этого эксклюзивного «второго текста», в котором поведенческий излишек стоит в очереди на изготовление прогнозных продуктов[1222]. Этот процесс полностью отделен от «первого текста», «который видят пользователи».

Facebook ясно дает понять, что теневой текст недоступен пользователям, несмотря на продвижение своих инструментов самообслуживания, которые должны предоставить пользователям доступ к их личным данным, хранящимся в компании. В самом деле, конкурентная динамика надзорного капитализма делает теневой текст важнейшим проприетарным преимуществом. Любая попытка взломать его содержание будет восприниматься как угроза жизненным интересам; ни один надзорный капиталист добровольно не предоставит данные из теневого текста. Только закон может бросить этот вызов патологическому разделению знания.

После скандала с Cambridge Analytica в марте 2018 года Facebook объявил, что расширит диапазон персональных данных, которые позволит выгружать пользователям, но даже эти данные целиком и полностью лежат в рамках первого текста, состоящего главным образом из информации, которую предоставили сами пользователи, включая информацию, которую они удалили, – друзья, фотографии, видео, рекламные объявления, по которым они кликнули, посещенные страницы, сообщения, местоположения и т. д. Эти данные не включают поведенческий излишек, прогнозные продукты и судьбу этих прогнозов, используемых для модификации поведения, покупаемых и продаваемых. Когда вы выгружаете свою «личную информацию», вы получаете доступ к сцене, а не к закулисью – к ширме, не к волшебнику[1223].

Ответ Facebook Дайе иллюстрирует еще одно важное последствие крайней асимметрии знания. Компания настаивала на том, что доступ к запрашиваемым данным требовал преодоления «огромных технических проблем». По мере того как потоки поведенческого излишка сливаются вместе в рамках основанных на машинном обучении производственных процессов, сам объем исходных данных и методов анализа начинает выходить за рамки человеческого понимания. Рассмотрим такую тривиальную вещь, как подбор машинами Instagram изображений для показа вам. Расчеты основаны на различных потоках поведенческого излишка от искомого пользователя, затем других потоков от сети друзей этого пользователя, затем идут потоки от действий людей, которые подписаны на те же учетные записи, что и искомый пользователь, затем данные и социальные связи этого пользователя в Facebook. Когда он, наконец, применяет логику ранжирования, чтобы предсказать, какие изображения пользователь захочет увидеть дальше, этот анализ также использует данные о прошлом поведении пользователя. В Instagram этим «обучением» занимаются машины, потому что люди на такое не способны[1224]. В более «судьбоносных» случаях операции будут, скорее всего, не менее, а более изощренными.

Это напоминает наш разговор о «движке прогнозирования» Facebook FBLearner Flow, где машины получают десятки тысяч точек данных, извлеченных из поведенческого излишка, ставя под сомнение само понятие права на оспаривание «автоматического принятия решений». Чтобы действительно оспорить алгоритм, потребуются новые серьезные полномочия и власть, в том числе машинные ресурсы и экспертиза, способные проникнуть в ключевые области машинного интеллекта и разработать альтернативные подходы, доступные для проверки, обсуждения и противодействия им. Действительно, один эксперт уже предложил создать правительственное агентство – аналог Управления по надзору за качеством пищевых продуктов и медикаментов, но для алгоритмов» – для надзора за разработкой, распространением, продажей и использованием сложных алгоритмов, утверждая, что существующие законы «окажутся не в силах решать сложнейшие загадки регулирования, которые ставят алгоритмы»[1225].

Опыт Дайе – это всего лишь одна из иллюстраций самоподдерживающегося характера патологического разделения знания и неподъемного бремени, которое ложится на людей, пытающихся оспорить его несправедливость. Дайе – активист, и его целью было не только получить доступ к данным, но и задокументировать трудность и даже абсурдность этого начинания. Учитывая эти реалии, он предполагает, что правила защиты данных сопоставимы с законами о свободе информации. Процедуры запроса и получения информации в соответствии с этими законами несовершенны и обременительны, и, как правило, их задействуют юристы, но тем не менее они необходимы для демократической свободы[1226]. Несмотря на то что для эффективного оспаривания потребуются решительные личности, один человек не сможет вынести бремя справедливости, так же как отдельный работник в первые годы XX века не мог нести бремя борьбы за справедливую заработную плату и условия труда. Эти проблемы XX века требовали коллективных действий, и сегодняшние требуют того же[1227].

Антрополог Лора Нейдер, рассуждая о «жизни закона», напоминает нам, что закон предусматривает «возможность демократического расширения прав и возможностей», но что эта возможность осуществляется только тогда, когда граждане активно оспаривают несправедливость, используя закон как средство достижения высших целей. «Жизнь закона – в истце», – пишет Надер, и мы видели, что эту истину воплощают в жизнь граждане Испании, заявившие о своем праве на забвение. «Место закона в историческом процессе определяется тогда, когда истцы и их адвокаты оспаривают с помощью закона совершенную по отношению к ним несправедливость»[1228]. И истцов не следует рассматривать в изоляции; они выступают от имени гражданского коллектива как необходимого средства противодействия коллективной несправедливости.

Это возвращает нас к GDPR и вопросу об его потенциальной роли. Единственно возможный ответ – что все зависит от того, как европейские общества будут интерпретировать новый режим регулирования в процессе законотворчества и в судах. На эти интерпретации повлияют не формулировки норм, а народные движения на местах. Столетие назад рабочие сорганизовались для коллективных действий и в конечном итоге склонили чашу весов в свою пользу, и сегодняшние «пользователи» должны будут мобилизоваться по‑новому, так, чтобы это отражало наши собственные уникальные «условия существования» в XXI веке. Нам нужны синтетические декларации, которые закреплены в новых центрах демократической власти, экспертизы и конкуренции, которые бросают вызов сегодняшней асимметрии знания и власти. Если мы в конечном итоге сумеем заменить беззаконие законами, утверждающими право на святилище и право на жизнь в будущем времени как необходимые для эффективной человеческой жизни, то нам не обойтись без коллективных действий такого рода.

Уже различимо рождение нового понимания важности коллективных действий, по крайней мере в сфере приватности. Один из примеров – некоммерческая организация «Не ваше дело» (None of Your Business, NOYB) во главе с активным защитником приватности Максом Шремсом. После многих лет юридической борьбы в 2015 году Шремс вошел в историю, когда его вызов практикам сбора и хранения данных в Facebook – которые, как он утверждал, нарушают законодательство ЕС о неприкосновенности частной жизни – привел к тому, что Суд Европейского союза признал недействительным соглашение о «Безопасной гавани» (Safe Harbor), регулировавшее обмен данными между США и ЕС. В 2018 году Шремс запустил NOYB в качестве средства «профессиональной помощи в обеспечении приватности». Идея была в том, чтобы подталкивать регулирующие органы к сокращению разрыва между писаными нормативными актами и реальной корпоративной практикой в области приватности, используя угрозу значительных штрафов для изменения действующих в какой‑либо компании процедур. NOYB хочет стать «стабильной европейской правоприменительной платформой», которая объединяет группы пользователей и помогает им в процессе судебного разбирательства, создавая коалиции и продвигая «специально отобранные и стратегически важные судебные процессы ради максимизации воздействия „на право на частную жизнь“»[1229]. Как бы ни сложилась судьба этого начинания, для нас ключевой момент – то, как оно указывает на социальную пустоту, которая должна быть заполнена новыми творческими формами коллективных действий, если жизнь закона обернется против надзорного капитализма.

Только время покажет, станет ли GDPR катализатором новой фазы борьбы, которая оспорит и укротит незаконный рынок поведенческих фьючерсов, питающие его операции с данными и инструментарное общество, к которому он нас ведет. В отсутствие новых синтетических деклараций мы, вероятно, будем разочарованы неприступностью статус‑кво. Если прошлое можно считать прологом, то законов о неприкосновенности частной жизни, защите данных и антимонопольном регулировании будет недостаточно, чтобы остановить надзорный капитализм. Объяснения, которые мы перебрали, отвечая на вопрос «Как им сошло это с рук?», предполагают, что безмерность и запутанность структур надзорного капитализма с его императивами потребуют более прямого вызова.

Прошедшее десятилетие позволяет сделать по крайней мере один вывод: несмотря на гораздо более строгие законы о приватности и защите данных в ЕС по сравнению с США, а также решительную приверженность антимонопольным мерам, Facebook и Google продолжают процветать в Европе. Так, в период с 2010 по 2017 год совокупный годовой темп роста ежедневных активных пользователей Facebook составлял в Европе 15 % по сравнению с 9 % в США и Канаде[1230]. В этот же период выручка компании росла в совокупном годовом выражении на 50 % в обоих регионах[1231]. В период с 2009 по первый квартал 2018 года доля Google на рынке поиска в Европе сократилась примерно на 2 %, в то время как в США она увеличилась примерно на 9 %. (Доля Google на европейском рынке оставалась высокой – 91,5 % в 2018 году в сравнении с 88 % в США.) Однако в том, что касается мобильных телефонов на Android, доля рынка, приходящаяся на Google, увеличилась на 69 % в Европе по сравнению с 44 % в США. Браузер Google Chrome увеличил свою рыночную долю на 55 % в Европе и на 51 % в США[1232].

Как показывает наш перечень причин, по которым «это сошло им это с рук», такие темпы роста – не случайная удача. Признавая этот факт, европейский инспектор по защите данных Джованни Буттарелли заявил газете New York Times, что эффект GDPR будет зависеть от регуляторов, которые «будут противостоять хорошо финансируемым командам лоббистов и юристов»[1233]. В самом деле, в тот момент корпоративные юристы уже оттачивали стратегии противодействия возможным изменениям привычного порядка вещей и готовили почву для предстоящих битв. К примеру, один официальный документ, опубликованный известной международной юридической фирмой, уже бросил корпорациям клич с призывом объединить усилия в вопросе обработки данных, утверждая, что перспективный способ обхода новых нормативных препятствий предоставляет правовая концепция «законного интереса»:

Законный интерес может быть наиболее серьезным основанием для обработки [данных] во многих контекстах, так как он требует оценки и взвешивания рисков и преимуществ обработки для организаций, отдельных лиц и общества в целом. Законные интересы контролера или третьей стороны могут также включать в себя другие права и свободы. Поиск правильного баланса будет также иногда учитывать <…> свободу выражения мнений, право заниматься экономической деятельностью, право на защиту прав интеллектуальной собственности и т. д. Эти права также должны учитываться при сопоставлении их с правом отдельных лиц на неприкосновенность частной жизни[1234].

Экономические императивы надзорного капитализма пришли в движение уже в конце апреля 2018 года, в ожидании вступления GDPR в силу в мае того года. Перед этим в апреле глава Facebook объявил, что корпорация будет придерживаться «духа» GDPR по всему миру. На практике, однако, компания вносила изменения, чтобы гарантировать, что GDPR не будет ограничивать большую часть ее операций. До тех пор 1,5 миллиарда ее пользователей, в том числе в Африке, Азии, Австралии и Латинской Америке, руководствовались соглашением об условиях обслуживания, выпущенным международной штаб‑квартирой компании в Ирландии, что означало, что эти условия подпадали под действие законов ЕС. В конце апреля Facebook без лишнего шума выпустил новое соглашение об условиях предоставления услуг, переместив эти 1,5 миллиарда пользователей под действие американских законов о приватности и тем самым лишив их возможности подавать иски в ирландские суды[1235].