III. Надзорный капитал и два текста

 

Можно провести важные параллели с концом XIX и началом XX века, когда разделение труда впервые стало главным принципом социальной организации в зарождающихся индустриальных обществах Европы и Северной Америки. Этот опыт может послужить нам руководством к действию и напоминанием о том, что поставлено на карту. Например, когда молодой Эмиль Дюркгейм писал «О разделении общественного труда», само название было спорным. Разделение труда понималось как важнейшее средство достижения высокой производительности труда посредством специализации задач. Адам Смит оставил памятные слова об этом новом принципе промышленной организации в своем описании фабрики по производству булавок, и разделение труда оставалось темой обсуждения и споров в экономике на протяжении всего XIX века. Дюркгейм признавал производительность труда экономическим императивом промышленного капитализма, который доведет разделение труда до его самых крайних проявлений, но не это занимало его больше всего.

Дюркгейм сосредоточил внимание на социальных преобразованиях, которые уже развернулись вокруг него, заметив, что «специализация» приобретает «влияние» в политике, администрации, судебной системе, науке и искусстве. Он пришел к выводу, что разделение труда больше не замыкается на промышленных рабочих местах. Вместо этого оно прорвалось сквозь фабричные стены, став важнейшим организационным принципом индустриального общества. Это также пример эдисоновской прозорливости: принципы капитализма, изначально нацеленные на производство, в конечном итоге начинают формировать социальную и моральную среду в целом. «Как бы ни относиться к разделению труда, – писал Дюркгейм, – для всякого очевидно, что оно существует и все больше становится одной из фундаментальных основ общественного строя»[511].

Экономические императивы предсказуемо предписывали разделение труда в производстве, но каков смысл разделения труда в обществе? Этот вопрос мотивировал анализ Дюркгейма, и его выводы столетней давности все еще актуальны для нас сегодня. Он утверждал, что разделение труда отвечает за те взаимосвязи и взаимозависимости, которые объединяют многочисленных и непохожих друг на друга членов современного индустриального общества в рамках более широкой социальной солидарности. Взаимопомощь порождает взаимную потребность, участие и уважение, и все это наделяет этот новый упорядочивающий принцип моральной силой.

Другими словами, разделение труда было принесено в общество в начале XX века быстро меняющимися обстоятельствами новых людей первого модерна, которых мы обсуждали в главе 2. Это было сутью их ответа на новые «условия существования». Когда люди вроде моих прадедушки и прабабушки присоединились к походу в современный мир, старые источники смысла, которые связывали сообщества в пространстве и времени, растаяли. Что могло бы скреплять общество воедино в отсутствие норм и ритуалов клана и рода? Ответом Дюркгейма было разделение труда. Потребности людей в едином новом источнике смысла и структуры были причиной, а следствием стал упорядочивающий принцип, обеспечивающий и поддерживающий здоровое современное общество. Как объяснял молодой социолог,

 

Наиболее поразительное следствие разделения труда состоит не в том, что оно увеличивает производительность разделенных функций, но в том, что оно делает их солидарными. Роль его <…> не просто в том, чтобы украшать или улучшать существование общества, но в том, чтобы сделать возможными общества, которые без него не существовали бы <…> Результат <…> бесконечно превосходит сферу чисто экономических интересов, ибо он состоит в установлении социального и морального порядка sui generis[512].

 

Ви́дение Дюркгейма не было ни бесплодным, ни наивным. Он признавал, что вещи могут принять мрачный оборот, и часто его принимают, приводя к тому, что он назвал «аномальным» (в некоторых переводах – «патологическим») разделением труда, которое порождает социальную дистанцию, несправедливость и разобщенность вместо взаимосвязей и взаимозависимости. В этом контексте Дюркгейм выделял разрушительное влияние социального неравенства на общественное разделение труда, особенно того, что он считал наиболее опасной формой неравенства – крайней асимметрии власти, которая делает «сам конфликт невозможным», «отказываясь признать право на сопротивление». Подобные патологии могут быть излечены только политикой, которая отстаивает право людей оспаривать, бросать вызов и одерживать верх перед лицом неравной и незаконной власти над обществом. В конце XIX века и на протяжении большей части XX века эта борьба велась профсоюзами и другими общественными движениями, которые утверждали социальное равенство через такие институты, как коллективные переговоры и государственная система образования.

Преобразование, которое мы наблюдаем в наше время, перекликается с этими историческими наблюдениями, поскольку разделение знания следует тем же путем из экономической в социальную сферу, который прошло разделение труда. Теперь уже разделение знания «превосходит сферу чисто экономических интересов», поскольку оно устанавливает основу нашего социального порядка и его моральное содержание.

Для нас, представителей второго модерна, разделение знания имеет то же значение, какое имело разделение труда для наших дедушек и прадедушек, первопроходцев первого модерна. В наше время разделение знания выходит из экономической сферы как новый принцип социального порядка и отражает первичность знания, обучения и информации в сегодняшнем стремлении к полноценной жизни. И точно так же, как Дюркгейм предостерегал свое общество сто лет назад, сегодня наши общества находятся под угрозой, по мере того как разделение знания дрейфует в сторону патологии и несправедливости в тисках беспрецедентных асимметрий знания и власти, достигнутых при надзорном капитализме.

Власть надзорного капитализма над общественным разделением знания начинается с того, что я называю «проблемой двух текстов». Специфические механизмы надзорного капитализма неизбежно ведут к созданию не одного, а двух «электронных текстов». Если речь идет о первом тексте, то его авторы и читатели – мы. Этот обращенный к публике текст хорошо знаком и славится морем информации и связей, которые он открывает нам несколькими прикосновениями пальцев. Поиск Google систематизирует информационный контент всемирной паутины. Лента новостей Facebook скрепляет воедино наши связи. Многое в этом общедоступном тексте состоит из того, что мы сами вписываем на его страницы: это наши сообщения, блоги, видео, фотографии, чаты, музыка, истории, наблюдения, «лайки», твиты – все размеренное гудение нашей жизни, собранное и переданное другим.

При режиме надзорного капитализма, однако, этот первый текст не существует сам по себе; за ним неотрывно тянется его тень. Первый текст, полный обещаний, фактически служит источником сырья для второго текста – теневого текста. Все, что мы вносим в первый текст, каким бы тривиальным или мимолетным оно ни было, становится мишенью для извлечения излишка. Этот излишек заполняет собой страницы второго текста. Этот текст скрыт от наших глаз: он предназначен «только для чтения» надзорных капиталистов[513]. В этом тексте наш опыт конфискуется в качестве сырья, которое накапливается и анализируется ради достижения рыночных целей других людей. Теневой текст – это стремительно растущий резервуар поведенческого излишка и результатов его анализа, и он говорит о нас больше, чем мы можем знать о себе сами. Хуже того, отказаться от участия в написании теневого текста становится делом все более трудным и, вероятно, невозможным. Он автоматически питается нашим опытом, когда мы заняты обычной и необходимой рутиной участия в социальной жизни.

Еще загадочнее то, как надзорные капиталисты применяют информацию, полученную из своего эксклюзивного теневого текста, для формирования в своих интересах публичного текста. Существует бесчисленное количество откровений о том, как Google и Facebook манипулируют информацией, которую мы видим. Пока я просто укажу на то, что основанные на поведенческом излишке алгоритмы Google отбирают и упорядочивают результаты поиска, а основанные на поведенческом излишке алгоритмы Facebook отбирают и упорядочивают содержимое ленты новостей. В обоих случаях, как показали исследования, эти манипуляции отражают коммерческие цели этих двух корпораций. Как говорит правовед Фрэнк Паскуале:

 

Решения в «Гуглплексе» принимаются за закрытыми дверями <…> власть включать, исключать и ранжировать – это власть определять, какие впечатления останутся в публичной памяти, а какие – промелькнут мимо <…> Несмотря на заверения в объективности и нейтральности, они постоянно принимают ценностные, спорные решения. Они помогают создать мир, который, по их утверждениям, они лишь «проецируют» нам[514].

 

Если мы говорим о теневом тексте, то законы движения надзорного капитализма диктуют и его скрытность, и его непрерывный рост. Предмет его повествования – мы, но его уроки скрыты от нас. Как источник, из которого проистекают все сокровища, этот второй текст – про нас, но не для нас. Вместо этого он создается, поддерживается и эксплуатируется без нашего ведома, ради чужой выгоды.

Результатом оказывается то, что разделение знания становится и восходящим принципом социального порядка нашей информационной цивилизации, и одновременно заложником привилегированного положения надзорного капитализма как доминирующего составителя, владельца и хранителя электронных текстов. Способность надзорного капитализма кроить и контролировать эти тексты создает беспрецедентную асимметрию знания и власти, которые действуют именно так, как опасался Дюркгейм: относительная свобода действий, предоставленная этой форме рынка, и изначально никому не понятный характер ее действий позволили ей установить существенный контроль над разделением знания, без нашего ведома и без средств противодействия. Когда дело доходит до главных вопросов, надзорный капитал накопил достаточно сил и приобрел достаточно полномочий, чтобы предоставлять все ответы. Однако даже полномочий было бы недостаточно. Только надзорный капитал владеет материальной инфраструктурой и мозгами экспертов, необходимыми для управления общественным разделением знания.

 

IV. Священная каста

 

Ученые предупреждают, что способность мира производить информацию уже значительно превосходит его способность обрабатывать и хранить информацию. Надо понимать, что наша техническая память удваивается приблизительно каждые три года. В 1986 году только 1 % всей мировой информации существовал в цифровом виде, а в 2000 году – 25 %. К 2013 году прогресс в области цифровизации и датафикации (применения программного обеспечения, позволяющего компьютерам и алгоритмам обрабатывать и анализировать необработанные данные) в сочетании с новыми и более дешевыми технологиями хранения данных позволил перевести 98 % информации в мире в цифровой формат[515].

Информация оцифрована, но ее объем превышает нашу способность улавливать ее смысл. В качестве решения этой проблемы, специалист по информации Мартин Гилберт предлагает: «Единственный способ разобраться во всех этих данных, который мы сами себе оставили – это вышибать клин клином», используя «компьютеры с искусственным интеллектом» для «просеивания этих огромных объемов информации <…> Facebook, Amazon и Google пообещали <…> создавать стоимость из огромных объемов данных с помощью интеллектуального вычислительного анализа»[516]. Рост надзорного капитализма неизбежно делает совет Гилберта опасным предложением. Сам не осознавая этого, Гилберт хочет просто закрепить привилегированное положение надзорных капиталистов и асимметрию власти, которая позволяет им подчинять разделение знания своим интересам.

Асимметричная власть Google опирается на все социальные источники, которые мы рассмотрели: на его декларации, его оборонительные укрепления, эксплуатацию им законодательства, наследие надзорной чрезвычайщины, стремления людей второго модерна и так далее. Но его власть не работала бы без гигантской материальной инфраструктуры, которую позволили выстроить доходы от надзора. Google – пионер в области «гипермасштабирования», который считается «самой крупной компьютерной сетью в мире»[517]. Гипермасштабируемые операции можно встретить в компаниях, работающих с большими объемами информации, таких как телекоммуникационные компании и фирмы, занимающиеся глобальными платежами, где для центров обработки данных требуются миллионы «виртуальных серверов», экспоненциально увеличивающих вычислительные возможности без существенного расширения физического пространства, систем охлаждения или потребностей в электроэнергии[518]. О машинном интеллекте, лежащем в основе мощного доминирования Google, сказано, что «на 80 % это инфраструктура» – система, включающая в себя специально построенные центры обработки данных, каждый размером с большой склад, разбросанные по 15 точкам земного шара, и в 2016 году, по оценкам, 2,5 миллиона серверов на четырех континентах[519].

Инвесторы считают, что Google «догнать труднее, чем когда‑либо», потому что в своем сочетании масштабной инфраструктуры и научной экспертизы он не имеет себе равных. Google известен как «компания полного цикла в области искусственного интеллекта», которая использует свои собственные хранилища данных «для обучения своих собственных алгоритмов, работающих на собственных чипах, развернутых в собственном облаке». Его доминирование дополнительно усиливается благодаря тому, что машинное обучение настолько интеллектуально, насколько это позволяет объем данных, на которых оно обучается, и Google располагает самым большим количеством данных[520]. К 2013 году в компании осознали, что ее переход к «нейронным сетям», определяющим нынешние передовые рубежи искусственного интеллекта, существенно увеличит вычислительные требования и потребует удвоения мощностей дата‑центров. Как сказал Урс Хельцле, старший вице‑президент Google по технической инфраструктуре, «страшная тайна [ИИ] в том, что ему требуется безумное количество вычислений только для обучения сети». Если бы компания пыталась взвалить растущую вычислительную нагрузку на традиционные процессоры, пояснил он, «нам пришлось бы удвоить все присутствие Google – количество дата‑центров и серверов – просто чтобы обеспечить три минуты или две минуты распознавания речи на каждого пользователя Android в день»[521].

Когда строительство центров обработки данных стало крупнейшей статьей расходов компании, а затраты на электроэнергию – основным источником текущих издержек, Google нашел новый выход из этого инфраструктурного кризиса. В 2016 году он объявил о разработке нового чипа для «логики глубокого обучения» под названием тензорный процессор (tensor processing unit, TPU). TPU должен был значительно расширить возможности машинного интеллекта Google, потреблять лишь небольшую часть энергии, необходимой для существующих процессоров, и снизить как капитальные расходы, так и текущие издержки, обучаясь при этом эффективнее и быстрее[522].

Ожидается, что глобальная выручка с товаров и услуг искусственного интеллекта вырастет в 56 раз, с 644 миллионов долларов в 2016 году до 36 миллиардов долларов в 2025 году[523]. Научные исследования, необходимые для использования этих небывалых возможностей, и материальная инфраструктура, которая позволила бы их реализовать, спровоцировали «гонку вооружений» среди технологических компаний, которые начали охоту примерно за 10 000 профессионалов, имеющихся на планете, знающими, как обращаться с технологиями искусственного интеллекта, чтобы выманить знание из того, что иначе осталось бы невразумительной какофонией огромного континента данных. Самым агрессивным скупщиком технологий и талантов ИИ остается Google/Alphabet. В 2014–2016 годах он приобрел девять компаний, связанных с искусственным интеллектом, что вдвое больше, чем у его ближайшего конкурента – Apple[524].

Концентрация талантов из сферы искусственного интеллекта в Google отражает более широкую тенденцию. По оценкам, в 2017 году на участие в гонке за талантами в области искусственного интеллекта американские компании выделили более 650 миллионов долларов, при более чем 10 000 вакансий у лучших работодателей по всей стране. У пяти ведущих технологических компаний капитала достаточно, чтобы вытеснить конкурентов – стартапы, университеты, муниципалитеты, крупные корпорации других отраслей, и не столь богатые страны[525]. В Британии руководители университетов уже говорят о «потерянном поколении» специалистов по данным. Огромные зарплаты в технологических гигантах сманили столько профессионалов, что учить следующее поколение студентов просто некому. Как сказал один ученый:

 

Настоящая проблема в том, что эти люди не рассеяны по всему обществу. Интеллект и знания сконцентрированы в небольшом ряде компаний[526].

 

Благодаря своей щедрости при привлечении кадров Google за последние несколько лет утроил свой контингент ученых, специализирующихся в области машинного интеллекта, и стал ведущим поставщиком авторов самых престижных научных журналов – в четыре‑пять раз больше, чем в среднем в мире в 2016 году. При режиме надзорного капитализма ученые этой корпорации заняты не решением проблемы голода в мире или отказа от углеводородного топлива. Вместо этого весь их гений направлен на штурм бастионов человеческого опыта, превращение опыта в данные и преобразования его в нового рыночного колосса, создающего богатство путем предсказания человеческого поведения, влияния на него и управления им.

Более шестисот лет назад печатный станок передал письменное слово в руки простых людей, позволив сэкономить на молитвах, обойти духовенство и открывая возможности духовного общения непосредственно молящимся. Мы привыкли считать само собой разумеющимся, что интернет обеспечивает беспрецедентные возможности для распространения информации, обещая больше знаний для большего числа людей – могучая демократизирующая сила, которая в геометрической прогрессии реализует революцию Гутенберга в жизнях миллиардов людей. Но это грандиозное достижение заслонило от наших глаз другую историческую тенденцию, выходящую за пределы досягаемости и видимости, устроенную так, чтобы исключать, запутывать и скрывать. В рамках этой скрытой тенденции конкурентная борьба за надзорные доходы возвращается к до‑гутенберговским порядкам, по мере того как общественное разделение знания клонится к своей патологической форме, находящейся в руках священной касты работающих в частных фирмах компьютерных специалистов, их находящихся в частных руках машин и экономических интересов, на службу которым поставлены их алгоритмы.