I. Экономия за счет действия

«Сегодня сила – действие, – сказал мне один старший инженер‑программист. – Интеллект, присущий „интернету вещей“, означает, что датчики могут быть также активаторами». Директор по разработке программного обеспечения для компании, которая играет важную роль в «интернете вещей», добавляет:

Речь идет уже не просто о повсеместной компьютеризации. Настоящая цель сегодня – повсеместное вмешательство, действие и контроль. Настоящая власть в том, что теперь вы можете изменять действия в реальном времени в реальном мире. Подключенные к сети интеллектуальные датчики могут регистрировать и анализировать любое поведение, а затем вычислить, как его изменить. Аналитика в реальном времени превращается в действие в реальном времени.

Ученые и инженеры, с которыми я беседовала, называют эту новую способность «активацией» (actuation) и описывают ее как критический, хотя и почти не обсуждаемый поворотный момент в эволюции аппарата повсеместности.

Способность к активации определяет новый этап развития императива прогнозирования, на котором важнее всего экономия за счет действий. На этом этапе в арсенал добавляются новые способы изменения поведения, что представляет собой решительный и необходимый шаг в развитии «средств производства» надзорного капитализма в направлении к более сложной, многослойной и могущественной экономической системе. Это важнейшее достижение в погоне за гарантированными результатами. При надзорном капитализме цели и операции автоматической модификации поведения разрабатываются и контролируются компаниями, стремящимися достичь своих собственных целей с точки зрения прибыли и роста. Один старший инженер сказал мне:

C помощью датчиков изменять поведение людей так же легко, как и поведение устройств. Благодаря «интернету вещей» можно сделать много хороших вещей, например снизить температуру во всех домах на вашей улице, чтобы не перегружать трансформатор, или оптимизировать весь промышленный техпроцесс. Но на индивидуальном уровне это также означает способность принимать меры, которые могут перевесить то, что вы делаете, или даже заставить вас приняться за то, о чем вы и не помышляли.

Ученые и инженеры, с которыми я беседовала, выделили три ключевых подхода к экономии за счет действия, каждый из которых направлен на изменение поведения. Первые два я называю «подстройка» (tuning) и «понуждение» (herding). Третий – известное явление, которое психологи‑бихевиористы называют «обусловливанием» (conditioning). Стратегии, применяемые для экономии за счет действия, различаются тем, как именно сочетаются эти подходы и какое место отводится каждому из них.

«Подстройка» происходит разными способами. Она может состоять в сигналах подсознанию, призванных тонко подправить поток поведения в определенное место и в определенное время, точно рассчитанное для максимально эффективного воздействия. Другой тип подстройки подразумевает то, что поведенческие экономисты Ричард Талер и Касс Санстейн называют «подталкиванием» (nudge), которое они определяют как «любой аспект архитектуры выбора, предсказуемо влияющий на поведение людей»[804]. Термин «архитектура выбора» относится к тому, как те или иные ситуации заранее структурированы, чтобы направлять внимание и формировать действия. В некоторых случаях эти архитектуры специально предназначены, чтобы побудить к нужному поведению, например школьный класс, в котором все стулья обращены к учителю, или онлайн‑бизнес, который вынуждает вас открывать множество непонятных страниц, чтобы отказаться от его отслеживающих файлов cookie. Использование этого термина – еще один способ сказать на бихевиористском языке, что социальные ситуации всегда насыщены всяческой «подстройкой», остающейся большей частью вне нашего сознания.

Поведенческие экономисты отстаивают взгляд на мир, в основе которого лежит представление о том, что человеческое мышление хрупко и чревато ошибками, ведущими к иррациональным решениям, неадекватно учитывающим всю структуру вариантов действия. Талер и Санстейн призывают правительства активно разрабатывать «подталкивания», которые должным образом направляют процессы индивидуального принятия решений к таким результатам, которые максимально соответствуют интересам самих этих индивидов, как их понимают эксперты. Классический пример, часто приводимый Талером и Санстейном, – директор школьной столовой, который подталкивает учеников к выбору более полезных блюд, выставляя фруктовый салат на видное место, впереди пудинга; другой пример – автоматическое продление полиса медицинского страхования как средство защитить тех, кто недооценивает важность действий по возобновлению страховки в конце каждого года.

Надзорные капиталисты приспособили к своим нуждам многие из весьма спорных допущений поведенческих экономистов, используя их в качестве еще одного прикрытия, легитимирующего их практическую приверженность односторонней коммерческой программе изменения поведения. Разница в том, что в этом случае «подталкивания» заставляют принимать решения, выгодные для архитектора, а не для самого индивида. В результате специалисты по данным, обученные экономии за счет действия, считают совершенно нормальным овладевать искусством и наукой «цифрового подталкивания» ради коммерческих интересов своей компании. Так, главный специалист по данным одной национальной сети аптек рассказывает, как его компания разрабатывает автоматические цифровые «подталкивания», которые тонко подводят людей к определенному поведению, желаемому компанией:

С помощью этой технологии вы можете заставлять людей что‑то сделать. Даже если это всего 5 % людей, то вы заставили 5 % людей совершить действие, которое они иначе бы не совершили, так что в некоторой степени здесь присутствует элемент потери самоконтроля со стороны пользователя.

Второй подход, основанный на контроле ключевых элементов в непосредственном окружении человека, – «понуждение». Пример техники понуждения – «недоговор». Выключение двигателя автомобиля необратимо меняет непосредственные обстоятельства водителя, понуждая его выйти из машины. Понуждение позволяет дистанционно управлять человеческой ситуацией, исключая альтернативные действия и тем самым направляя поведение по пути повышенной вероятности, которая приближается к определенности. «Мы пытаемся писать музыку, а затем пусть музыка сама заставит их поплясать», – объясняет разработчик программного обеспечения для «интернета вещей», добавляя:

Мы можем спроектировать контекст вокруг определенного поведения и вынудить изменить поведение в нужную сторону. Данные, учитывающие контекст, позволяют нам связать воедино ваши эмоции, ваши когнитивные функции, ваши жизненные показатели и так далее. Мы можем знать, что вам не следует садиться за руль, и можем просто отключить вашу машину. Мы можем сказать холодильнику: «Эй, запрись‑ка, потому что ему не следует есть», или мы говорим телевизору выключиться, чтобы заставить вас немного поспать, или стулу, чтобы он начал дрожать, потому что вам не стоит так долго сидеть, или крану, чтобы он включился, потому что вам нужно пить больше воды.

«Обусловливание» – это хорошо известный подход к изменению поведения, связанный прежде всего с известным гарвардским бихевиористом Б. Ф. Скиннером. Он утверждал, что изменение поведения должно имитировать эволюционный процесс, в котором условия окружающей среды «отбирают» самые успешные виды естественного поведения. Вместо более ранней, более упрощенной модели стимула/реакции, связанной с такими бихевиористами, как Уотсон и Павлов, Скиннер предложил третью переменную: «подкрепление». В своей лабораторной работе с мышами и голубями Скиннер научился наблюдать у экспериментальных животных различные виды естественного поведения, а затем подкреплять конкретное действие или «оперант», которое он хотел, чтобы животное воспроизводило. В конечном итоге он освоил замысловатые схемы или «графики» подкрепления, которые могли надежно формировать точные поведенческие последовательности.

Скиннер назвал применение подкреплений для формирования желаемого поведения «оперантным обусловливанием». Его проект в целом был известен как «модификация поведения» или «поведенческая инженерия», в ходе которой поведение непрерывно формируется ради усиления одних действий за счет других. В конце концов голубь учится, например, дважды нажимать на кнопку, чтобы получить кусочек корма. Мышь учится пробираться через сложный лабиринт и обратно. Скиннер предвидел повсеместную «технологию поведения», в рамках которой можно было бы применять такие методы на людских сообществах.

Как сказал мне главный специалист по данным из очень известной образовательной компании Кремниевой долины, «обусловливание в большом масштабе крайне важно для новой науки о массовом проектировании человеческого поведения». Он считает, что смартфоны, носимые устройства и весь набор постоянно подключенных сетевых узлов в целом позволяют его компании изменять существенный диапазон поведения своих пользователей и управлять им. По мере того как цифровые сигналы отслеживают повседневную деятельность человека, компания постепенно нащупывает и совершенствует схему подкреплений – вознаграждений, похвал и просто упоминаний об успехе, которые могут надежно приводить к конкретным действиям пользователей, избранным компанией для распространения:

Цель всего, что мы делаем, – массовое изменение реального поведения людей. Мы хотим выяснить, как организовать изменение человеческого поведения, а затем хотим изменить то, как множество людей принимают свои повседневные решения. Когда люди используют наше приложение, мы можем фиксировать их поведение и выявлять хорошее и плохое [поведение]. Затем мы разрабатываем «методы вмешательства» или «кусочки данных», которые помогают отбирать хорошее поведение. Мы можем проверить, насколько действенны наши сигналы для них и насколько выгодны определенные виды их поведения для нас.

Хотя и можно представить себе автоматизированную модификацию поведения без участия надзорного капитализма, невозможно вообразить надзорный капитализм без модификации поведения вкупе с технологическими средствами для автоматизации этого процесса. Эта связка совершенно необходима для экономии за счет действия. Скажем, можно представить себе фитнес‑трекер, автомобиль или холодильник, данные с которого и управление которыми доступны исключительно их владельцам, чтобы помочь им чаще выполнять физические упражнения, более безопасно управлять автомобилем или правильнее питаться. Но, как мы уже видели на множестве примеров из множества самых различных областей, возвышение надзорного капитализма уничтожило идею простой цепочки обратной связи, характерной для цикла реинвестирования поведенческой стоимости. В конце концов, дело не в самих устройствах; дело в веберовской «экономической ориентации», которая теперь определяется надзорным капитализмом.

Соблазнительность надзорных доходов ведет к непрерывному накоплению все более и более прогностических форм поведенческого излишка. Самый надежный источник предсказаний из всех – поведение, которое уже должным образом изменено в сторону гарантированного исхода. Слияние новых цифровых средств модификации поведения и новых экономических целей дает целый ряд новых методов создания и привлечения этих новых форм излишка. Показательно исследование под названием «Методы изменения поведения, реализованные в электронных консультантах по образу жизни». Ученые из Университета Техаса и Университета Центральной Флориды изучили тринадцать таких приложений и пришли к выводу, что устройства для мониторинга образа жизни «содержат широкий спектр методов изменения поведения, обычно используемых при клинических вмешательствах». Исследователи пришли к выводу, что операции по изменению поведения расширяются в результате их распространения на цифровые устройства и подключения к интернету. Они отмечают, что сама возможность простой обратной связи, разработанной потребителем и для потребителя, кажется безнадежно ускользающей, что приложения, изменяющие поведение, «поддаются <…> различным типам надзора» и что «официальных методов» безопасной и простой передачи данных «в этих приложениях, по‑видимому, в настоящее время не существует»[805].

Вспомним, что экономист Google Хэл Вэриан нахваливал «новые применения» для больших данных, которые исходят из повсеместных компьютерных транзакций. Среди них он назвал возможность «непрерывного экспериментирования». Вэриан отмечал, что команда инженеров и специалистов по обработке данных Google постоянно проводит тысячи А/B‑экспериментов, которые используют рандомизацию и контрольные группы для оценки реакций пользователя на сотни вариантов параметров страницы от макета до кнопок и шрифтов. Вэриан поддержал и превознес эти самозваные эксперименты, предупредив, что все данные мира «могут измерить лишь корреляцию, а не причинность»[806]. Данные показывают, что произошло, но молчат о том, почему это произошло. В отсутствие знания о причинно‑следственных связях даже самые лучшие прогнозы являются лишь экстраполяциями прошлых закономерностей.

Отсюда понятно: последний решающий элемент, необходимый для построения высококачественных прогнозных продуктов – то есть таких, которые приближаются к гарантированным результатам, – зависит от знания причинно‑следственных связей. Как говорит Вэриан, «если вы действительно хотите понять причинность, вы должны проводить эксперименты. И если вы проводите эксперименты непрерывно, вы можете непрерывно совершенствовать свою систему»[807].

Поскольку «система» должна поставлять прогнозы, «непрерывное совершенствование системы» означает сокращение разрыва между прогнозом и наблюдением с целью приближения к достоверности. В аналоговом мире подобные амбиции были бы слишком дороги, чтобы думать о практическом осуществлении, но, как замечает Вэриан, в сфере интернета «эксперименты могут быть полностью автоматизированы».

Вэриан щедро разрешает надзорным капиталистам взять на себя роль экспериментаторов, и это преподносится как очередной свершившийся между делом факт. В действительности же это отражает последний критический шаг надзорных капиталистов в радикальном утверждении за собой новых прав. На этом этапе развития императива прогнозирования надзорные капиталисты заявляют о своем праве на изменение чужого поведения с целью извлечения прибыли, проводимого методами, которые работают без ведома людей, обходя личное право на принятие решений и весь комплекс процессов саморегулирования, которые мы обобщенно именуем такими словами, как автономия и самоопределение.

Теперь я расскажу две истории о надзорных капиталистах как об «экспериментаторах», использующих асимметрию знаний, чтобы навязать свою волю ничего не подозревающим испытуемым, каковыми являются их пользователи. Экспериментальные данные, накопленные с помощью их односторонних зеркал, имеют решающее значение для разработки, тонкой настройки и изучения дальнейших перспектив развития коммерческих способов модификации поведения каждой из этих фирм. В экспериментах над пользователями, проведенных Facebook, и в игре дополненной реальности Pokémon Go (задуманной и выращенной в Google) мы видим, как прямо на наших глазах развиваются коммерческие средства изменения поведения. И то и другое совершенно по‑новому сочетает в себе компоненты экономии за счет действия и методы подстройки, понуждения и обсусловливания, показывая нам воинов, притаившихся глубоко внутри троянского коня, – экономическую ориентацию, скрытую под завесой цифры.