I. Персонализация как завоевание

 

Генеральный директор Microsoft Сатья Наделла представил Кортану, «персонального цифрового помощника» корпорации, на ежегодной конференции Ignite в 2016 году:

 

Это персональный цифровой помощник нового типа – это «среда выполнения», новый интерфейс. Она понимает ввод текста. Она понимает речь. Она хорошо знает вас. Она знает ваш контекст, вашу семью, вашу работу. Она знает мир. Она безгранична. Другими словами, речь о вас, а не о каком бы то ни было устройстве. Она всегда с вами. Она доступна на любом телефоне: iOS, Android, Windows – не имеет значения. Она доступна во всех приложениях, которые вы будете использовать в своей жизни[680].

 

Это новый рубеж поведенческого излишка, где ради чужих прибылей на свет божий извлекается темный континент данных вашей внутренней жизни – ваши намерения и мотивы, значения и потребности, предпочтения и желания, настроения и эмоции, личность и склонности, правдивость или жульничество. Суть не в том, чтобы помочь вам, а в том, чтобы оцифровать его весь в качестве неизмеримо крошечных частичек поведения, которые можно будет включить в расчеты, так чтобы каждая заняла свое место на конвейерной ленте, идущей от сырья к разработке продукта, производству и продажам.

Вторжение машин в человеческие глубины идет под лозунгом «персонализация», который показывает, с каким смаком и цинизмом решается мрачная задача эксплуатации потребностей и опасений второго модерна ради получения сверхприбыли. С точки зрения императива прогнозирования персонализация – средство «индивидуализации» поставок, необходимых для обеспечения непрерывного потока поведенческого излишка из самых глубин. Этот процесс может идти успешно только в условиях нашей непрекращающейся жажды признания, благодарности и особенно поддержки.

Напомним, что наметить этот курс помог главный экономист Google, Хэл Вэриан. «Персонализация и кастомизация» – это третье из «новых применений» компьютеризации взаимодействий. Вместо того чтобы ждать ваших вопросов, Google должен «понять, что вы хотите узнать, и сообщить это вам, прежде чем вы успеете спросить». Эта задача была поставлена перед Google Now, первым цифровым помощником корпорации. Вэриан предупреждал, что людям придется давать Google еще большую часть себя, чтобы использовать все возможности приложения: «Google Now должен много знать о вас и вашей среде, чтобы предоставлять эти услуги. Некоторых это тревожит». Он старается развеять любые опасения, утверждая, что передача личной информации Google ничем не отличается от сообщения разного рода деликатных сведений врачам, юристам и бухгалтерам. «Почему я готов поделиться всей этой личной информацией? – спрашивает он. – Потому что я получаю что‑то взамен <…> Такие цифровые помощники будут настолько полезны, что каждый захочет их иметь». Вэриан уверен, что потребности людей второго модерна подорвут любое сопротивление оцифровке личного опыта, как условию выполнения обещания менее напряженной и более эффективной жизни[681].

В действительности персонализация, как ее понимает Вэриан, – полная противоположность тем отношениям с доверенными специалистами, на которые он ссылается. Врачи, бухгалтеры и адвокаты связаны по рукам и ногам взаимозависимостями и обязательствами, обусловленными глубокой институционализацией в виде профессионального образования, кодексов поведения и процедур оценки и надзора. Нарушители этих норм рискуют навлечь на себя наказания как со стороны профессионального сообщества, так и со стороны закона. Google и его собратья по надзорному капитализму не несут таких рисков.

Замечания Вэриана представляют собой один из тех редких случаев, когда туман технологической риторики рассеивается ровно настолько, чтобы можно было разглядеть полезность социального и экономического неравенства для стратегических целей надзорного капитализма. Согласно рассуждениям Вэриана, неравенство позволяет поднять ставки в сделке, в рамках которой Google обещает шанс на полноценную жизнь. Он говорит, что один из способов предсказать будущее – обратить внимание на то, что есть у богатых, потому что это также и то, чего захочет и средний класс, и бедные. «Что есть сегодня у богатых? – риторически вопрошает он. – Личные помощники».

То, что предметы роскоши одного поколения или класса становятся предметами первой необходимости для следующего, было одним из основополагающих факторов эволюции капитализма в течение последних пяти столетий. Историки описывают «потребительский бум», который спровоцировал первую промышленную революцию в Великобритании в конце XVIII века, когда благодаря таким провидцам, как Джозайя Веджвуд, и вследствие развития мануфактур пробившиеся в средний класс семьи начали приобретать фарфор, мебель и ткани, которыми до этого могли похвастать только богатые. Эта новая «склонность к потреблению» считается «беспрецедентной по глубине проникновения в низшие слои общества…»[682] В 1767 году политэконом Натаниэль Форстер беспокоился, что «модная роскошь» распространяется «как зараза», и жаловался на «вечное неодолимое стремление всех людей низшего звания возвыситься до уровня тех, кто чуть выше их…»[683] Адам Смит подробно писал об этом социальном процессе, отмечая, что предметы роскоши высшего сословия со временем могут превратиться в «предметы необходимости». Это происходит по мере того, как «устоявшиеся правила приличия» меняются, отражая новые обычаи, введенные верхами, что провоцирует изобретение более экономных способов производства, которые превращают прежде недостижимое в ставшие вдруг доступными товары и услуги[684]. «Модель Т» Форда – выдающийся пример этой последовательности в XX веке.

Вэриан представляет персонализацию как современный эквивалент этой исторической динамики, новый «предмет первой необходимости» для изможденных масс, страдающих от тягот, связанных со стагнацией роста зарплат, трудностью распределения обязанностей в семье, где оба родителя работают, равнодушными корпорациями и выхолощенными жесткой экономией институтами государства. Вэриан ставит на то, что цифровой помощник будет настолько важным ресурсом в борьбе за полноценную жизнь, что обычные люди согласятся заплатить требуемую им цену. «Джина не загнать обратно в бутылку, – настаивает Вэриан, уверенный в неизбежности такого развития. – Каждый будет понимать, что за ним следят и за его действиями наблюдают, поскольку преимущества с точки зрения удобства безопасности и обслуживания будут столь велики <…> постоянный мониторинг будет нормой»[685]. Каждый – за исключением тех, кто достаточно богат или достаточно упрям, чтобы достичь эффективной жизни без помощи Google и, таким образом, избежать наиболее вопиющих крайностей оцифровки. Когда привилегиями богатых станут права на принятие решений и на самоопределение, что Вэриан будет отвечать тем, кто возжелает того же?

Исторически прорыв к производству более доступных товаров и услуг вызвал взрывное расширение производства и занятости, рост заработной платы и повышение уровня жизни для многих. Вэриан не предусматривает подобной взаимности. Вместо этого он тычет пальцем в открытую рану тревог второго модерна и запрягает нашу боль для выполнения задач надзорного проекта. У Вэриана жажда новых предметов первой необходимости истолковывается как подходящая возможность заняться изъятием, тем более что она удобно обеспечивает оправдание подобного изъятия вплоть до самых глубин.

Google Now был первым шагом, хотя позже он будет выглядеть, скорее, как фигура прикрытия и способ вызвать привыкание, прокладывая путь тому, что ждет впереди. Окрещенный «интеллектуальным поиском», он объединил в себе все системы, когда‑либо созданные Google, в том числе достижения корпорации в области голосового поиска и нейронных сетей, ее знания о мире, представленные в насчитывающем миллиард единиц «графе знаний», и непревзойденные возможности ее машинного интеллекта. Вся эта огневая мощь была сконцентрирована для того, чтобы учиться на вашем контенте, контексте и поведении не только через поиск, электронную почту и календарь, но и с помощью данных вашего телефона, включая перемещение, местоположение, действия, речь и приложения. На этот раз целью было не только продать рекламу, но и «предугадать, какая информация вам понадобится в каждый данный момент», по мере вашего передвижения по реальному миру[686].

Как похвалялись в рекламном ролике, «Google Now всегда на шаг впереди, поэтому вы можете чувствовать себя более уверенно в ваших делах <…> с прогнозирующей силой Now вы получаете именно то, что хотите знать, именно тогда, когда нужно». Один автор назвал новую услугу «поисковиком, который стал частью вас»[687]. Информационные карточки приложения всплывают на домашнем экране вашего телефона, предугадывая ваши нужды: уведомление об изменении времени полета, погоде и пробках, близлежащих ресторанах и магазинах, о том музее, который вы хотели посетить. Один из руководителей Google рассуждал, что, поскольку Google уже знает о вас все это, то он вполне может превратить его в сервис, который откроет компании доступ к еще большей информации:

 

Google будет знать, когда мой рейс, пришла ли уже посылка и где моя жена и сколько времени ей понадобится, чтобы добраться до дома сегодня вечером… Конечно, Google знает все эти вещи[688].

 

Прогнозирующие возможности Google Now следуют шаблону, который мы неоднократно видели: они основаны на машинных процессах, обученных на непрерывных потоках виртуального и реального поведения. Почему Google выделил столько машинных мощностей и ценных излишков, чтобы так заботливо помогать вам в течение дня? Причина в том, что в лице Google Now к нам пришло новое поколение прогнозных продуктов.

Революционный сканер Google сделал возможной молниеносную индексацию всемирной паутины, повсеместный «аппарат» сделал возможными новые операции по сканированию реальности, и теперь, на этом третьем этапе, требуются особые операции обеспечения поставок, чтобы сканировать наши жизни. В Google Now можно увидеть первую вылазку в это новое пространство, в ходе которой способность веб‑сканера находить информацию сочетается с новыми операциями по сканированию жизни, цель которых – оцифровать, предугадать и, как мы увидим, в конечном итоге изменить ваше поведение. Поведенческий излишек, собранный онлайн и офлайн, – содержимое электронной почты, где вы были днем, что сказали, что сделали, как себя чувствовали, – объединяется в прогнозные продукты, пригодные для нового рынка, где на продажу выставлены все стороны вашей повседневной реальности.

Еще один пример этого нового этапа – «M» от Facebook, запущенный в 2015 году как часть приложения Messenger. Он был представлен как «персональный цифовой помощник <…> который выполняет задачи и находит за вас информацию <…> основанный на искусственном интеллекте, обученном и контролируемом людьми»[689]. Вице‑президент Facebook, отвечающий за приложения обмена сообщениями, так охарактеризовал назначение M: «Мы начинаем улавливать все ваши намерения, исходя из того, что вам необходимо сделать. Намерения часто приводят к покупке чего‑либо или к сделке, и с течением времени это даст нам возможность [зарабатывать деньги]». Самое главное, подчеркнул вице‑президент, это то, что «М учится на человеческом поведении»[690]. Машины корпорации будут обучаться на излишках, полученных от 700 миллионов ежедневных пользователей Messenger. Со временем, надеялись в Facebook, деятельность М будет полностью автоматизирована и не потребует людей‑инструкторов.

К 2017 году Facebook умерил свои амбиции в области искусственного интеллекта и сосредоточил усилия личного помощника на его основной задаче: коммерции. «Команда, занятая помощником, сейчас ищет способы активировать коммерческие намерения пользователя внутри Messenger», – сообщал один из руководителей Facebook[691]. Идея в том, чтобы «отдать приоритет коммерческой составляющей пользовательского опыта» и разработать для пользователей новые способы «быстрой покупки» без обременительного ввода информации о кредитной карте, листания страниц или запуска приложений. Каждый раз, когда во время вашего разговора с друзьями система выявляет возможное «коммерческое намерение», появляется всплывающая кнопка. Чтобы что‑то заказать, купить или забронировать, просто нажмите на нее – и система сама сделает все остальное[692].

Тем самым «персональный цифровой помощник» раскрывается как инкарнация рынка, как еще один троянский конь, в котором решимость оцифровать и монетизировать вашу жизнь преподносится как «помощь» и расцвечивается поэзией «персонализации». Его дружеские рекомендации, советы и готовность действовать от вашего имени едва скрывают новый агрессивный рыночный космос, нависающий над каждым аспектом вашей повседневной жизни. Он может состоять из ресторанов, банков, сантехников, торговцев, продавцов билетов, авиакомпаний и бесконечной очереди всевозможных незнакомцев, которых приведет к вам их интерес к вашему поведению: прямо сейчас, в ближайшем или более отдаленном будущем. Они стоят наготове, чтобы успеть заработать на вашем пути на работу, вашем разговоре с ребенком‑подростком или ваших стареньких кроссовках. Цифровой помощник может перенять ваши склонности и предпочтения, но это будет другое существо, в неизвестной степени искаженное и изуродованное невидимыми рыночными методами и конкуренцией, которые оно призвано скрыть.

Google присоединился к другим технологическим компаниям, решившим утвердить «разговор» в качестве главного средства, с помощью которого люди взаимодействуют с «аппаратом». Со временем одержимость голосом может отойти на второй план или к ней добавится что‑то другое, так что простая мысль или движение пальца будет переводиться в действие или инициировать его. Но на данный момент есть веские причины для гонки за произнесенным словом. Первая из них очевидна: надежное распознавание голоса может трансформировать обширный ландшафт взаимодействий с сервисами в недорогой автоматизированный процесс теоретически неограниченного масштаба и охвата – факт, давно известный тем, кто занимается экономикой труда[693]. Конкурентную гонку между представителями нового поколения «персональных цифровых помощников» лучше всего понимать именно под этим углом. Голос, который выйдет в ней победителем, Единый Голос, станет самым колоссальным каналом поставок поведенческого излишка, дающим потенциально непреодолимое конкурентное преимущество в своей способности завлечь и прибрать к рукам львиную долю человеческого опыта.

«Разговор» уникален в своем обещании доминирования в поставках сырья, и обладателя Единого Голоса ждет астрономическая награда. Неформальный диалог помогает стереть грань между «этим» – «аппаратом», насыщенным коммерческими агентами – и нами. Разговор предполагает дружественность. Чем больше мы представляем себе аппарат в качестве нашего доверенного лица, няни, гувернантки и системы поддержки – бестелесной, всепроникающей личной «миссис Даутфайер», – тем больше опыта мы позволяем ему оцифровать и тем богаче становятся его операции по обеспечению поставок. Общение – первая из человеческих радостей, и голосовой интерфейс ценится за легкость, с которой простое высказывание может вызвать действие, особенно рыночное: «Да будет свет». «Да будут новые кроссовки». Что может больше напоминать волшебный сон, чем ты сказал – и так оно и стало? Старший вице‑президент Amazon комментирует управляемые голосом домашние устройства компании:

 

Приятная вещь в бизнесе устройств Amazon состоит в том, что, когда мы продаем устройство, люди в целом начинают покупать больше синих джинсов. И маленьких черных платьев. И обуви. Так что это хорошо.

 

«Голосовой шопинг», заключает он, хорош для бизнеса и хорош для прогнозирования бизнеса[694].

В «разговоре», обращенном к цифровому устройству, в отличие от разговора в магазине, слова могут возникать на лету, с большей легкостью и меньшим усилием; там меньше сдержанности, раздражения и сравнений; меньше беспокойства о состоянии своего банковского счета или о том, откуда поставляется продукт или услуга; меньше сомнений и колебаний; меньше воспоминаний и сожалений. Говорящий чувствует себя в центре плавно текущей вселенной. Все швы спрятаны за кулисами, где машины сталкиваются и преодолевают упрямые источники трения, такие как отдельные приложения и объекты; непокорные административные службы, системы дистрибуции, платежей и доставки; препятствия и границы, которые угрожают потокам желания и удовлетворения. Спонтанное и текучее, всеохватное журчание ваших «разговоров» превращает нового личного цифрового помощника в голос, который располагается между вашей жизнью и новыми рынками, где она продается, между вашим опытом и аукционами, где делают на него ставки – «среда выполнения, новый интерфейс», создающие ощущение вашего всемогущества, хотя на самом деле вы лишаетесь последних его следов.

В этом коммерческом сновидении слова, которые когда‑то воспринимались как сказанные «за закрытыми дверями», с готовностью оцифровываются в качестве поведенческого излишка. Эти новые операции снабжения преобразуют ваш разговор в излишек двумя способами. Первый строится на том, что вы говорите, второй – как вы это говорите. Устройства «умного дома», такие как Amazon Echo или Google Home, оцифровывают целые реки случайных разговоров, тонкий контент‑анализ которых выдает затем улучшенные прогнозы, «предугадывающие» ваши нужды. На конференции разработчиков в 2016 году Google представил публике диалоговую реинкарнацию Google Now, переименованного теперь в «Ассистента» и интегрированного во все устройства, сервисы, инструменты и приложения компании. «Мы хотим, чтобы пользователи вели постоянный двусторонний диалог с Google. Мы хотим помогать вам в ваших делах в реальном мире, и мы хотим делать их за вас, – пояснил генеральный директор Google Сундар Пичаи. – Скажем, вы стоите перед тем сооружением в Чикаго и спрашиваете Google: „Кто это придумал?“ Вам не нужно говорить „Фасолинка“ или „Клауд‑Гейт“. Мы понимаем контекст и отвечаем, что скульптуру создал Аниш Капур»[695].

Google‑ассистент пришел уже интегрированным в новый мессенджер Google под названием Allo, где он может искать информацию, выполнять задачи или даже составлять от вашего имени простые сообщения. Самое главное, Ассистент оживляет домашнее устройство фирмы, Google Home[696]. Идея в том, что со временем устройство (или его преемник) сможет претендовать на оцифровку теоретически безграничных объемов одушевленных и неодушевленных домашних процессов: разговоры, лампочки, запросы, режим дня, движение, планирование поездки, системы отопления, покупки, безопасность дома, медицинские проблемы, музыку, связь с другими людьми и многое другое.

Было время, когда вы искали в Google, но теперь Google обыскивает вас. В рекламе Google Home фигурируют любящие семьи, которые ведут занятую, сложную жизнь, но с видимым облегчением возвращаются домой и падают в объятия этого всезнающего, эффективного смотрителя. Эта сбывшаяся мечта второго модерна требует необычайно высокую плату за обещание более полноценной жизни. Чтобы каждый пользователь мог, как хочет Пичаи, иметь свой собственный личный Google, Google должен иметь каждого пользователя[697].

Способность смотрителя эффективно вам служить полностью зависит от того, в какой степени ваша жизнь, знаете вы об этом или нет, оцифрована ради его служения. Ширина и глубина оцифрованной жизни соответствуют масштабу рыночных действий, которые могут быть инициированы и опосредованы Ассистентом. Между различными инкарнациями «персонализации» и «помощи», предлагаемыми техническими гигантами, существуют определенные различия, но они тривиальны по сравнению с коллективным стремлением к тотальному знанию – знанию о ваших внутренних состояниях, контексте реального мира и конкретных повседневных жизненных действиях – и все это ради успешного обучения машин, чтобы они могли лучше нацеливать рыночные операции на каждый момент вашей жизни.

Все потенциальные действия рынка, связанные с тем, что вы говорите, зависят от голосовой активации, распознавания голоса и голосового ответа. Все это, в свою очередь, – продукт сложнейших машинных систем, обученных на безграничных глобальных запасах произнесенных слов. Чем лучше эти машины структурируют разговорный излишек, тем больше продаж обеспечивает его контент. Это значит, что всю ценность того, что вы говорите, нельзя реализовать без машин, которые смогут извлекать информацию из того, как вы это говорите. Эта форма излишка основана на структуре вашей речи – словарном запасе, произношении, интонации, модуляциях, темпе, диалекте.

Соперничество за поставки слов превращает ваши фразы в эту вторую форму излишка, по мере того как компании, настроенные на развитие и совершенствование голосовых возможностей, прочесывают весь мир в поисках человеческой речи. «Amazon, Apple, Microsoft и китайский Baidu открыли всемирную охоту за терабайтами человеческой речи, – сообщает издание Bloomberg Businessweek. – Microsoft построил в городах всего мира демонстрационные „квартиры“ для записи голосов добровольцев в домашней обстановке». Технологические компании фиксируют потоки разговоров со своих умных интеллектуальных устройств и смартфонов, записывая и сохраняя ваши слова. Китайская поисковая фирма Baidu собирает речь на каждом диалекте: «Затем они берут все эти данные и обучают на них свои компьютеры понимать слова и отвечать на команды и запросы»[698].

Записи ваших разговоров регулярно и массово рассылаются сторонним фирмам, которые проводят «аудиосверку», в процессе которой виртуальным оценщикам поручается оценить степень соответствия между машинным текстом и исходным фрагментом человеческой речи, прослушивая аудиозаписи, сохраненные со смартфонов, приложений‑мессенджеров и цифровых помощников. Такие компании, как Amazon, Google и Microsoft, используют этот аудиоанализ для совершенствования алгоритмов своих голосовых систем. Технологические компании настаивают, что такие записи полностью анонимны и представляют собой не более чем безымянные голоса. «У партнеров нет возможности связать образцы голоса с конкретными людьми», – заявил представитель Microsoft. Но одна журналистка, которая нанялась на работу в качестве виртуального оценщика аудиозаписей, пришла к совершенно противоположному выводу, слушая записи, полные страсти, интимных деталей и легко идентифицируемой личной информации:

 

В самих записях пользователи охотно выдают личную информацию – информацию, которая особенно ценна в процессе оценки, поскольку она настолько специфична. Необычные имена, города и поселки с труднопроизносимыми названиями, гиперлокальные особенности <…> Я слышала, как люди называют свои полные имена, чтобы инициировать звонок или предлагают информацию, выдающую местонахождение, назначая встречу с врачом <…> на этих записях люди говорят вещи, которые они не хотели бы, чтобы кто‑то когда‑то услышал, анонимно или нет <…> И ничто особенно не удерживает людей, которые слушают эти записи, от того чтобы поделиться ими с кем‑то еще[699].

 

На распознавание речи направляются также немалые капиталовложения, и Smart TV от Samsung иллюстрирует некоторые из этих закулисных процессов. Бизнес‑аналитики регулярно предсказывают устойчивый рост рынка устройств с интернет‑подключением, и Samsung входит в небольшую группу лидеров этого рынка. Его устройства используют платформу операционной системы Android, и еще на ранних этапах фирма создала альянсы с Nest (дочерней компанией Alphabet/Google) и с Cisco. «Наша первоочередная миссия – добавить в вашу сетевую жизнь ваш дом», – объяснял в 2014 году один из высших руководителей фирмы[700]. В 2015 году защитники конфиденциальности обнаружили, что умные телевизоры корпорации даже слишком умны и записывают все сказанное в непосредственной близости от них – дай, пожалуйста, соль; у нас кончился стиральный порошок; я беременна; давайте купим новую машину; мы собираемся в кино; у меня редкая болезнь; она хочет развода; ему нужна новая коробка для завтрака; ты меня любишь? – и отправляют все эти разговоры для транскрибирования другому лидеру рынка систем в области распознавания голоса, компании Nuance Communications[701].

«Политика надзора» этого телевизора – да‑да, даже к телевизору сегодня прилагается политика надзора – раскрывает несколько уровней надзора и коммерческого интереса, действующих неведомо для нас в наших домах. Samsung признает, что голосовые команды, предназначенные для запуска функций распознавания голоса на телевизоре, отправляются третьей стороне, и добавляет: «Пожалуйста, имейте в виду, что, если произнесенные вами слова содержат личную или другую конфиденциальную информацию, то эта информация окажется среди данных, записанных и переданных третьей стороне при использовании Распознавания голоса»[702]. Samsung отказывается от ответственности за политику сторонних фирм, как это делают почти все «политики надзора», включая политику той фирмы, которая фактически собирает и переводит разговоры своих ничего не подозревающих клиентов. Samsung рекомендует: «Вам следует проявлять осторожность и просматривать заявления о конфиденциальности, относящиеся к сторонним веб‑сайтам и услугам, которыми вы пользуетесь»[703]. Отважный потребитель, решившийся изучить эти документы, не найдет никакой подмоги в политике конфиденциальности Nuance, только тот же самый катехизис, который предлагает Samsung и почти любая другая компания. Samsung также побуждает вас ознакомиться с политикой конфиденциальности тех компаний, которым он продает ваши разговоры, и так далее: принудительный марш, ведущий к безумию или к капитуляции[704].

По крайней мере в Калифорнии законодатели приняли закон, запрещающий подключенным к интернету телевизорам собирать голосовые данные без соответствующей «информации на видном месте», а также запрещающий использование таких данных для сторонней рекламы[705]. Однако, как мы знаем из нашего исследования цикла изъятия, экономические императивы, побуждающие надзорных капиталистов собирать поведенческий излишек, остановить не так‑то легко. К 2016 году Samsung с новым усердием продолжил развивать тайную оцифровку и сеть каналов поставок поведенческого излишка на основе Smart‑TV, позиционируя свои новые модели в качестве центра новой «экосистемы умного дома Samsung Smart Things на открытой платформе, поддерживающей тысячи устройств», включая вентиляторы, светильники, термостаты, камеры видеонаблюдения и замки, – и все это с помощью одного универсального пульта дистанционного управления, способного понять любую вашу устную команду[706].

В 2017 году Федеральная торговая комиссия достигла урегулирования на сумму 2,2 миллиона долларов по иску, возбужденному Управлением генерального прокурора Нью‑Джерси в отношении компании Vizio, одного из крупнейших в мире производителей и дистрибьюторов умных телевизоров с поддержкой интернета. По всей видимости, Vizio ведет даже более агрессивные операции по поставкам излишка, чем Samsung. Следователи установили, что «каждую секунду Vizio берет часть пикселей на экране и сопоставляет с базой данных телевидения, фильмов и коммерческого контента». Затем компания собирала дополнительные данные о просмотре, исходя из «провайдера кабельного телевидения или широкополосной связи, телевизионной приставки, устройства потокового вещания, DVD‑плеера и эфирной передачи». Все это давало в сумме до 100 миллиардов наблюдений в день только с 11 миллионов телевизоров, указанных в документе[707]. Vizio маскировал свои операции по обеспечению поставок поведенческого излишка за настройкой под названием «Интеллектуальная интерактивность», которая характеризовалась для потребителей как опция, «позволяющая предлагать и рекомендовать передачи» без какого‑либо указания на ее действительные функции.

В необычно живом сообщении в своем блоге Федеральная торговая комиссия так описывает прямые продажи Vizio этого поведенческого излишка:

 

Vizio затем превращал эту гору данных в наличные, продавая пользовательские истории просмотра рекламодателям и другим организациям. И давайте скажем ясно: мы не говорим о сводной информации о тенденциях просмотра в стране. Согласно жалобе Vizio перешел на личности. Компания предоставляла IP‑адреса потребителей агрегаторам данных, которые затем сопоставили адрес с конкретным потребителем или домохозяйством. Соглашения Vizio с третьими сторонами запрещали повторную идентификацию потребителей и домохозяйств по имени, но допускали множество других личных данных – например, пол, возраст, доход, семейное положение, размер домохозяйства, образование и домовладение. И Vizio позволял этим компаниям отслеживать своих потребителей на разных устройствах и нацеливать на них рекламу[708].

 

В одновременно сделанном заявлении исполняющая обязанности председателя ФТК Морин К. Олхаузен подчеркивает, что урегулирование вышло на новый рубеж, поскольку в нем утверждалось, что «индивидуальная история просмотра телевизионных программ подпадает под определение конфиденциальной информации», которая заслуживает защиты со стороны ФТК[709]. Такая мера не сможет остановить лавину других подобных вторжений, поскольку императив прогнозирования устроил настоящую охоту на еще не известные разговоры из повседневной жизни. Оцифровка захватила даже самые невинные источники излишка, такие как игрушки, которые стали теперь «игрушками‑шпионами». Интерактивные куклы и игрушечные роботы нового поколения, включая куклу по имени «Моя подруга Кайла», оказываются центрами снабжения детским поведенческим излишком, подвергая маленьких детей и смартфоны их родителей «постоянному надзору <…> без каких‑либо значимых мер по защите данных»[710].

Популярные игрушки, продаваемые компанией Genesis Toys, привязаны к мобильному приложению, которое после установки на смартфон «обеспечивает обработку данных», позволяя игрушке записывать и понимать все, что говорит ребенок[711]. По ходу дела приложение получает доступ к большинству функций телефона, включая такие, которые не имеют отношения к работе игрушки, вроде списка контактов и камеры. Приложение через Bluetooth связывает игрушку с интернетом и записывает и выгружает речь, по мере того как игрушка активно вовлекает ребенка в разговор. Одна кукла, о которой шла речь в жалобе, систематически побуждает детей предоставлять личные данные, в том числе информацию о том, где они живут.

Разговоры ребенка переводятся в текст с помощью стороннего программного обеспечения для распознавания голоса, снова от Nuance Communications, и эта информация используется для получения ответов на вопросы ребенка с помощью Поиска Google и других веб‑источников. Исследователи обнаружили, что аудиофайлы с детской речью (Nuance называет их «диалоговыми блоками») загружаются на серверы компании, где они анализируются и хранятся[712]. Как и следовало ожидать, эти диалоговые блоки продолжают жизненный путь уже в виде поведенческого излишка, примерно так же, как звуки, записанные телевизорами Samsung, продаваясь вновь и вновь поставщикам «других услуг и продуктов», как и указано в соглашении об условиях предоставления услуг Genesis.

Тем временем идет в наступление одна из крупнейших в мире компаний по производству игрушек, Mattel, со своими инновациями по части интерактивных, подключенных к интернету и управляемых машинным интеллектом игрушек, во главе с новой умеющей вести диалог куклой Барби и ее Домом мечты[713]. Умный, управляемый голосом кукольный домик знает более сотни команд, таких как «опустить лифт» и «включить диско‑шар» – новый способ вызывать привыкание, нацеленный на нормализацию «повсеместности» в домашнем пространстве. «Новый умный дом Барби разложил все по полочкам, – ликовал журнал Wired. – Идеальная детская кроватка Барби управляется голосом <…> Вот каким должен быть настоящий умный дом: все великолепно работает с помощью универсального голосового управления вместо мешанины разнородных приложений, съедающих место на вашем телефоне <…> Будущее подано»[714].

В этом будущем дети знакомятся с Единым Голосом – средой выполнения, новым интерфейсом. Он доступен везде, чтобы выполнять их команды, предугадывать их желания и формировать их возможности. Вездесущность Единого Голоса с его капризным и нетерпеливым «вашим личным торговым центром», скрытым под его оболочкой, многое меняет. Интимность, какой мы ее себе представляли, нарушена, если не устранена совсем. Уединение удалено в корзину. Сначала дети узнают, что между «я» и рынком нет никаких границ. Позже они будут удивляться, как могло быть иначе.

Когда в январе 2017 года в Mattel наняли нового генерального директора, неудивительно, что он оказался выходцем из Google, который раньше отвечал за коммерческие и рекламные операции Google по Северной и Южной Америке[715]. Большинство аналитиков сошлись на том, что это назначение ознаменовало приверженность Mattel ее инновациям в области интернет‑игрушек и виртуальной реальности, но назначение лучше позволяет смену приоритетов: компания теперь занимается не созданием замечательных продуктов для вас, а сбором замечательных данных о вас.

Кукла, которая когда‑то была любимым зеркалом безграничного детского воображения, вместе со всеми другими игрушками в ящике для игрушек – а также сам ящик, и комната, в которой находится ящик, и дом, в котором находится комната, – все стоит в очереди на оцифровку, расчет, подключение к интернету и получение прибыли. Уже не просто вещи, теперь это носители миллиона коммерческих возможностей, штампуемых из блоков наших диалогов и разнородного золотого песка.

В 2017 году немецкое Федеральное агентство по сетям запретило использование куклы Кайлы, признав ее незаконным устройством для слежки, и призвало родителей уничтожить любые такие куклы, которые у них имеются. В США Федеральной торговой комиссии еще только предстоит предпринять какие‑либо действия против этой куклы или Genesis Toys. Между тем «подключенный» кукольный домик готовит наших детей и наши семьи к «подключенной» комнате (об этом проекте Mattel объявила в январе 2017 года, но девять месяцев спустя, когда родители и защитники конфиденциальности подняли шум, положила его на полку), что открывает путь к «подключенному» дому, производители которого надеются притупить наши чувства по отношению к «подключенному» миру, пока мы идем по пути к предопределенной «повсеместности» и обещанным ею надзорным доходам[716].

В погоне за что и как голосового излишка логика конкуренции состоит в том, чтобы заманивать к себе как можно большее его количество. Этот позыв к тотальности создает конкурентное давление, требующее от каждого стать той самой «средой выполнения» и тем самым «новым интерфейсом» – доминирующей, если не единственной, средой, через которую мы получаем доступ к «аппарату» и задействуем его, в то время как он задействует нас. Это гонка за то, чтобы прибрать к рукам все «разговоры» как необходимое условие достижения привилегированного статуса Единого Голоса, который наделяет победителя способностью предвидеть и монетизировать каждый момент жизни каждого человека в течение каждого дня.

Мессианское устремление к тотальности и превосходству проявляется в риторике и стратегиях ключевых участников этой гонки. Хотя и Google, и Microsoft, и Amazon, и Samsung претендуют на доминирование в захвате голоса, самый показательный пример – это Amazon, его машинный ассистент Alexa и его растущая линейка узлов Echo и колонок Dot. Похоже, что Alexa стала пороговым событием, которое определит Amazon не только в качестве агрессивного капиталиста, но и в качестве надзорного капиталиста[717].

Amazon агрессивно открывал Alexa для сторонних разработчиков, чтобы расширить спектр «навыков» помощника, таких как чтение рецептов или заказ пиццы. Он также открыл свою платформу для производителей устройств умного дома, от систем освещения до посудомоечных машин, превратив Alexa в единый голос для управления вашими домашними системами и приборами. В 2015 году Amazon объявил, что Alexa будет продаваться ка<