IV. Слияние как отношения между машинами

 

Для того чтобы прочувствовать подлинный вкус инструментарного общества, оставим в стороне шелуху «века волшебства» и вместо этого сосредоточимся на практиках прикладного утопизма и образе общества, который они предполагают. Наделла предоставил нам ценную возможность, когда представил серию практических приложений, подразумевающих широкое новое видение машинных отношений как шаблона для социальных отношений новой эры.

Откровения начинаются с рассказа Наделлы о сотрудничестве Microsoft со шведским производителем высокоточного металлорежущего оборудования с полуторавековой историей, который в XXI веке изобрел себя заново. Этот проект – новейшая иллюстрация того, что Наделла называет «фундаментальным сдвигом в парадигме приложений, которые мы создаем, изменение в мировоззрении <…> от <…> мобильного и облачного мира к новому миру, который будет состоять из интеллектуального облака и интеллектуальной технологии (intelligent edge)». Искусственный интеллект, говорит он, «учится на информации и взаимодействует с физическим миром», тем самым ссылаясь на возможности, необходимые для экономии за счет действия[1045].

Сначала Наделла описывает машины, в рамках новой заводской среды связанные между собой с помощью телеметрии, которые непрерывно передают данные в «центр интернета вещей» в «облаке», где анализ Microsoft выявляет аномалии, которые могут подвергать машины риску. Каждая аномалия прослеживается по потоку данных до ее причины, и машинный интеллект в центре учится выявлять причинно‑следственные связи, с тем чтобы превентивно отключать находящееся под угрозой оборудование, примерно за две секунды, прежде чем успеет произойти потенциально опасное событие.

Затем Наделла описывает новый «прорыв», когда компьютерный «активирующий действия» датчик встраивается непосредственно в машину, что резко сокращает время до превентивного отключения: «Эта логика теперь работает локально, поэтому нет необходимости обращаться к облаку». «Интеллектуальная технология» немедленно понимает, что машина столкнулась с событием, которое предвещает будущую аномалию, и отключает оборудование в течение 100 миллисекунд после получения этого результата, «20‑кратное улучшение». Это превозносится как «сила облака, работающая в гармонии с интеллектуальной технологией», чтобы предвидеть и упреждать отклонения от нормы «до того, как они произойдут»[1046].

Возможности машинного обучения растут в геометрической прогрессии, поскольку устройства учатся на опыте друг друга, подпитываясь интеллектом центра и опираясь на него. При таком сценарии дело не в том, что целое больше суммы его частей; скорее, частей уже нет. Целое повсюду, полностью явленное в каждом устройстве, встроенном в каждую машину. Наделла переводит эти факты в плоскость практического применения, замечая, что, когда вокруг вас накапливается достаточно много устройств, «импровизированный центр обработки данных» создается «на производстве, дома или в любом другом месте… Вы можете превратить что угодно в безопасное управляемое искусственным интеллектом место»[1047].

После этого утверждения, наконец, становится ясно, что «безопасный» означает «автоматически лишенный аномалий». На фабрике Наделлы на смену незнанию мгновенно приходит машинное знание, подгоняя все машинное поведение под заранее установленные нормы. Вместо того чтобы беспокоиться об умножении рисков и цепной реакции отказов в случае, если с машинным обучением что‑то пойдет не так, Наделла восхваляет синхронность и универсальность гарантированных исходов, когда все машины будут одинаковыми и работающими в унисон.

Как и столетие назад, когда логика массового производства и связанная с ним управленческая вертикаль стали прототипом индустриального общества и всей связанной с ним цивилизационной среды, так и фабрика нового века, какой она видится Наделле, оказалась лабораторией для его социального видения – надзорно‑капиталистического видения – инструментарного общества, ставшего возможным благодаря новой форме коллективного действия. Машинное обучение представляется здесь коллективным разумом – разумом улья, – в котором каждый элемент учится и действует в согласии с любым другим элементом, модель коллективного действия, в которой все машины в сетевой системе плавно идут к слиянию, обладая одним и тем же пониманием и согласованно работая с максимальной эффективностью ради достижения одних и тех же результатов. Слияние действий означает, что «свобода» каждой отдельной машины уступает место знанию, которым она делится между собой. Как и предсказывали бихевиористы – Планк, Мейер и Скиннер – эта жертва означает тотальную войну со случайностью, ошибкой и непредсказуемостью в целом.

Наделла берет эту схему новых отношений между машинами и применяет ее для иллюстрации работы более сложной системы, состоящей из людей и машин, хотя все еще из «сферы экономики». На этот раз это строительная площадка, где поведение человека и машины настроено в соответствии с заранее заданными параметрами, установленными вышестоящими инстанциями и называемыми политикой. Алгоритмические «недоговоры» применяют правила и заменяют собой социальные функции, такие как надзор, переговоры, общение и решение проблем. Каждый человек и единица оборудования занимают место среди эквивалентных объектов, каждый из которых «узнаваем» для «системы» через устройства с искусственным интеллектом, распределенные по всей стройплощадке.

Например, квалификация каждого человека, уровень допуска, история трудоустройства и другая справочная информация немедленно отображаются в системе. «Политика» может оговаривать, что «отбойный молоток могут использовать только сотрудники, обладающие соответствующим допуском». Если к инструменту подходит сотрудник, не имеющий разрешения на работу с отбойным молотком, передается сообщение о возможном нарушении и отбойный молоток испускает сигнал тревоги и мгновенно отключается.

Важно отметить, что не только объединенные действия неодушевленных предметов на площадке выстраиваются в соответствии с «политикой». Мобилизуется и слияние человеческих действий, когда в упреждающей работе по предотвращению аномалий запускаются процессы социального влияния. В случае с отбойным молотком люди на площадке мобилизуются, чтобы броситься к месту ожидаемого искусственным интеллектом аномального проступка, чтобы «быстро решить вопрос». «Интеллектуальная технология, – сказано разработчикам Microsoft, – это интерфейс между компьютером и реальным миром <…> вы можете находить в реальном мире людей, объекты и действия и применять к ним политики …»[1048].

Как только люди и их отношения будут оцифрованы и предстанут отчужденными, эквивалентными друг другу «объектами в облаке», можно будет мобилизовать 25 миллиардов компьютерных устройств, способных активировать действия, для формирования поведения вокруг безопасных и гармоничных параметров, заданных в «политиках». Самый «глубокий сдвиг», объяснил Наделла, заключается в том, что «люди и их отношения с другими людьми теперь являются в облаке объектом первостепенной важности. Не только люди, но и их отношения, их отношения ко всем рабочим артефактам, их графикам, планам проектов, их документам – все это теперь отражается в графе Microsoft». Эти потоки тотальной информации являются ключом к оптимизации «будущей производительности», восторгался Наделла[1049].

В инструментарном обществе Microsoft фабрики и рабочие места напоминают лаборатории Скиннера, а машины заменяют собой голубей и крыс. Именно там архитектура инструментарной власти и присущий ей стремительный образ действий подготавливаются к переводу в общество, к строительству «Второго Уолдена» цифровой эпохи, когда машинные отношения станут моделью социальных отношений. Стройплощадка Наделлы иллюстрирует грандиозное слияние, в котором машины и люди становятся объектами в облаке, в равной степени подчиненными аранжировке и оркестровке, заданной «политиками». Блеск «политик» заключается именно в том, что они появляются на сцене в виде гарантированных результатов, которые автоматически навязываются, контролируются и поддерживаются «системой». Они изначально заложены в операции Большого Другого, в бесконечную вереницу «недоговоров», оторванных от каких бы то ни было социальных процессов, связанных с частным или государственным управлением – конфликтов и переговоров, обещаний и компромиссов, согласия и общих ценностей, демократической состязательности, легитимации и авторитета.

В результате «политики» оказываются функционально эквивалентны планам, в соответствии с которыми Большой Другой направляет действия людей и машин. От них зависит, будут ли заблокированы или разблокированы двери, замолчат или оживут автомобильные двигатели, просигналит ли отбойный молоток свое «нет» в самоубийственном самопожертвовании, будет ли рабочий придерживаться норм, ринется ли группа устранять аномалию. Мы все будем в безопасности, когда каждый организм будет мирно трудиться в гармонии со всеми остальными организмами, не столько обществом, сколько населением, сливающимися воедино из ничем не замутненных потоков, управляемых средствами изменения поведения, которые ускользают от нашего сознания и потому не вызовут ни возмущения, ни сопротивления.

Так же, как в XX веке разделение труда распространилось из экономической сферы на общество в целом, стройплощадка Наделлы является экономической чашкой Петри, в которой, мутируя, рождается новое разделение знания, готовое к переносу на все общество. В XX веке важнейшие факторы успеха промышленного капитализма – эффективность, производительность, стандартизация, взаимозаменяемость, детальное разделение труда, дисциплина, внимание, планирование, конформизм, иерархическое управление, разделение знания и действия и т. д. – были открыты и доведены до ума на производстве и затем перенесены в общество, где были институционализированы в школах, больницах, семейной жизни и чертах личности. Как подтверждает уже не одно поколение ученых, общество стало напоминать фабрику, чтобы мы могли обучать своих детей, воспитывая в них соответствие новым требованиям массового производства.

Мы заново вступили в этот цикл, но теперь цель состоит в том, чтобы преобразовать общество XXI века в «вещь первостепенной важности», организованную по образу машинного улья, чтобы обеспечить определенность для других. Связи, к которым мы когда‑то стремились ради личной поддержки и эффективности, преобразуются в средство распространения нового вида власти и социального слияния, которое ведет к гарантированным результатам.

 

V. Слияние как общество

 

Ученые Microsoft годами работают над тем, чтобы создать способы взять ту же логику автоматического упреждающего контроля, которая применяется на передовом крае сетевых технологий, и перенести ее на социальные отношения. Как заметил Наделла в 2017 году, если «мы» можем сделать это в «физическом месте», это можно сделать «повсеместно» и «где угодно». Он советовал собравшимся прикладным утопистам: «Вы можете начать рассуждать о людях, об их связях с другими людьми, с находящимися в этом месте вещами…»[1050]

Творческий диапазон этого нового мышления демонстрирует заявка Microsoft на патент от 2013 года, обновленная и переизданная в 2016 году под заголовком «Мониторинг поведения пользователя на компьютеризированном устройстве»[1051]. Подкрепленное нескрываемо скудной теорией в сочетании с богатой практикой, запатентованное устройство призвано отслеживать поведение пользователя с целью упреждающего обнаружения «любого отклонения от нормального или приемлемого поведения, которое могло бы повлиять на психологическое состояние пользователя. Прогностическую модель, охватывающую признаки одного или нескольких психологических состояний, можно сравнить с признаками, основанными на текущем поведении пользователя».

Ученые предлагают приложение, которое можно встроить в операционную систему, сервер, браузер, телефон или носимое устройство, и оно будет постоянно отслеживать поведенческие данные человека: взаимодействие с другими людьми или компьютерами, сообщения в социальных сетях, поисковые запросы и онлайн‑действия. Приложение может активировать датчики для записи голоса и речи, видео и изображений, движения и обнаруживать, например, «когда пользователь слишком много кричит, проверяя телефонные звонки пользователя и сравнивая соответствующие характеристики с прогностической моделью».

Все эти поведенческие данные хранятся для будущего ретроспективного анализа с целью улучшения прогностической модели. Если пользователь обычно ограничивает громкость своего голоса, то внезапный громкий крик может указывать на некое «психосоциальное событие». В другом варианте поведение может быть оценено в отношении «распределения признаков, представляющих нормальное и/или приемлемое поведение для среднестатистического представителя популяции <…> статистически значимое отклонение от этого базового уровня поведения указывает на ряд возможных психологических событий». Вначале предполагается, что в случае обнаружения аномалии устройство будет предупреждать «доверенных лиц», таких как члены семьи, врачи и лица, обеспечивающие уход. Но по мере углубления в детали патента этот круг расширяется. Ученые отмечают полезность подобных сигналов для медицинских учреждений, страховых компаний и сотрудников правоохранительных органов. Это новая возможность «надзора как услуги», предусматривающая предотвращение любого поведения на выбор клиентов.

Патент Microsoft возвращает нас к Планку, Мейеру и Скиннеру, а также к точке зрения Другого. В их восходящем в своих истоках к физике представлении о человеческом поведении, аномалии – это «случайности», которые называются свободой, но на самом деле указывают на незнание; они просто еще не могут быть объяснены фактами. Планк/Мейер/Скиннер полагали, что утрата этой свободы – необходимая цена за «безопасность» и «гармонию» общества, свободного от аномалий, в котором все процессы оптимизированы для достижения наибольшего блага. Скиннер надеялся, что при правильной технологии поведения знание будет превентивно устранять аномалии, подгоняя все поведение под заранее установленные параметры, которые соответствуют социальным нормам и целям. «Если бы мы могли показать, что члены нашего общества предпочитают жизнь во Втором Уолдене, – говорит Фрейзер‑Скиннер, – это было бы наилучшим возможным доказательством того, что мы достигли безопасной и продуктивной социальной структуры»[1052].

В этой модели социальных отношений поведенческая модификация действует за порогом человеческого сознания, чтобы побуждать, поощрять, подталкивать, наказывать и подкреплять поведение в соответствии с «правильной политикой». Так, Facebook обнаруживает, что может предсказуемо отклонять стрелки общественного мнения в том, что касается моделей голосования, эмоциональных состояний или чего‑то еще, на выбор. Niantic Labs и Google обнаруживают, что они могут предсказуемо пополнить кошельки McDonald’s или любых других своих клиентов. В каждом случае корпоративные цели определяют «политику», в направлении которой гармонично течет слияние поведений.

Машинный улей – слитое воедино сознание, созданное машинным обучением, – это материальное средство для окончательного устранения хаотических элементов, которые не дают гарантированных результатов. Эрик Шмидт и Себастьян Трун, гуру машинного интеллекта, который когда‑то руководил X Lab в Google и помогал руководить разработкой Просмотра улиц и беспилотного автомобиля Google, говорят именно об этом, когда отстаивают самоуправляемые машины Alphabet. «Давайте перестанем психовать каждый раз, когда речь заходит об искусственном интеллекте», – пишут они.

Шмидт и Трун подчеркивают «решающее отличие между тем, как учится искусственный интеллект и как учится человек»[1053]. Вместо типичных заверений в том, что машины можно конструировать так, чтобы они больше походили на людей и, значит, были бы менее угрожающими, Шмидт и Трун утверждают нечто прямо противоположное: людям необходимо стать более похожими на машины. Машинный интеллект возводится на трон как апофеоз коллективных действий, в котором все машины в сетевой системе плавно движутся к слиянию, разделяя одно понимание и тем самым работая в унисон с максимальной эффективностью для достижения одного и того же результата. Отбойные молотки не оценивают ситуацию самостоятельно; каждый из них знает то, что знают они все. Каждый из них одинаково реагирует на неуполномоченные руки, их мозги одинаково служат «политике». Машины справляются или не справляются вместе, правы или ошибаются вместе. Шмидт и Трун сокрушаются:

 

За рулем люди в основном учатся на собственных ошибках, а на ошибках других – редко. Взятые в целом, люди раз за разом совершают одни и те же ошибки. В результате каждый год сотни тысяч людей во всем мире гибнут в дорожно‑транспортных происшествиях. Искусственный интеллект развивается иначе. Когда один из беспилотных автомобилей совершает ошибку, на ней могут научиться все беспилотные автомобили. По сути, каждый новый беспилотный автомобиль рождается уже с полным набором навыков своих предков и сверстников. Так что, взятые в целом, эти машины могут учиться быстрее, чем люди. Благодаря таким знаниям, беспилотные автомобили за короткое время благополучно вписались в наши дороги наряду с водителями‑людьми, продолжая постоянно учиться на ошибках друг друга <…>. Сложные инструменты на основе искусственного интеллекта позволят нам лучше учиться на опыте других <…>. Урок беспилотных автомобилей заключается в том, что коллективно мы можем научиться большему и сделать больше[1054].

 

Это сжатое, но необычайно важное изложение машинной модели социальных отношений инструментарного общества. Суть этих фактов заключается в том, что, во‑первых, машины – это не люди, а во‑вторых, что мы должны быть больше похожи на машины. Машины подражают друг другу, значит и нам надо так делать. Машины работают в согласии, образуя единый поток вместо множества ручейков, значит, и нам надо так делать. Каждой машиной управляет один и тот же ход мысли и все они движутся к одной и той же цели, значит, и мы должны быть так же устроены.

Инструментарное будущее неизбежно включает в себя подобный симбиоз, в котором машинный и социальный миры действуют в гармонии, царящей и внутри, и между «видами», когда люди подражают превосходящим их процессам обучения умных машин. Это подражание не имеет в виду возврат к массовому производству эпохи тейлоризма или бедному чаплинскому рабочему, поглощаемому механическим порядком. Симбиоз избирает другой путь, при котором человеческое взаимодействие отражает отношения умных машин, и люди учатся мыслить и действовать, подражая друг другу, подобно беспилотным машинам или отбойным молоткам, свято чтущим «политику».

Таким образом, машинный улей становится образцом для подражания для нового человеческого улья, в котором мы все мирно шагаем в ногу в одном и том же направлении, основываясь на одном и том же «правильном» понимании, строя мир, где никто не ошибается, не оступается и не попадает в беду. В этом мире «правильные» результаты известны заранее и гарантированы в действии. Та же всеобщая заданность и прозрачность, которые определяют машинную систему, должны определять и социальную систему, которая, в конце концов, является просто еще одним способом описания основной истины инструментарного общества.

В этом человеческом улье личная свобода отдана в обмен на коллективное знание и коллективное действие. Негармоничные элементы превентивно преследуются интенсивной подстройкой, понуждением и обусловливанием, на службе которых вся искушающая сила социального убеждения и влияния. Мы шагаем в полной определенности, как умные машины. Мы учимся жертвовать своей свободой ради коллективного знания, навязываемого другими ради гарантированных результатов для себя. Это лейтмотив третьего модерна, предложенного надзорным капиталом как его ответ на наше стремление к эффективной жизни сообща.

 

 

Глава 15

Инструментарный коллектив

 

 

Вот век и пролетел. И весь тот вымер род –

В постелях, одряхлев, недвижны и несчастны;

Теперь они одни, и жизнь их безопасна:

Тень исполинских ног на луг их не падет.

 

У. Х. Оден, Сонеты из Китая, X [1055]