IV. Средства изменения поведения в недавнем прошлом

 

Новые глобальные средства модификации поведения, которые, как мы видим, разрабатывают в Facebook и Niantic, представляют новую регрессивную эпоху автономного капитала и гетерономных индивидов, в то время как сами возможности демократического процветания и человеческого созидания зависят от обратного. Это беспрецедентное положение дел – нечто более важное и всеобъемлющее, чем споры об «Общем правиле». Оно подрывает самую основу нашей приверженности идеалам демократического общества, какими бы труднодостижимыми они ни были.

Что при этом упускают, так это то, что «Общее правило» возникло в результате аналогичного вызова принципам индивидуальной автономии и подлинной демократии. Оно стало одним из результатов непримиримой борьбы, в которой демократически настроенные государственные чиновники объединились с общественными активистами, учеными и юристами, чтобы противостоять разработке и внедрению поведенческой модификации от имени государственной власти. Не так уж давно американское общество сумело мобилизоваться, чтобы противостоять средствам изменения поведения, поставить их в правовые рамки и взять под контроль, и именно на эту историю мы можем теперь опереться, чтобы заново обрести ориентиры и понимание происходящего.

В 1971 году Подкомитет Сената по конституционным правам, возглавляемый сенатором от Северной Каролины Сэмом Эрвином и имевший в своем составе таких тяжеловесов со всего политического спектра, как Эдвард Кеннеди, Берч Байх, Роберт Бёрд и Стром Турмонд, начал многолетнее расследование «разнообразных программ, призванных прогнозировать, контролировать и изменять человеческое поведение». Эрвин был консервативным демократом и экспертом по конституционному праву, неожиданно превратившимся в героя‑защитника гражданских свобод, когда в качестве председателя Сенатского комитета по Уотергейту отстаивал демократию во время уотергейтского кризиса. На этот раз Подкомитет по конституционным правам впервые подвергнет принципы и возможные применения изменения поведения тщательному анализу с точки зрения конституционного права, поставив под сомнение и в конечном итоге отвергнув использование изменения поведения в качестве орудия государственной власти.

Сенатское расследование было вызвано растущим со стороны общественности чувством тревоги по поводу распространения психологических техник контроля над поведением. Отправных точек было много, но наиболее заметной была холодная война и порожденный ею целый диапазон психологических методов и программ изменения поведения. Корейская война обнародовала коммунистические методы «промывания мозгов», которые, согласно недавно назначенному тогда директору ЦРУ Аллену Даллесу, вводили американских военнопленных в состояние роботоподобной пассивности, когда мозг жертвы «превращается в фонограф, играющий пластинку, поставленную на него внешней силой, на которую он не в состоянии повлиять»[856]. Казалось, враги Америки вот‑вот овладеют искусством и наукой «контроля над сознанием» с помощью психологических и фармакологических методов, неизвестных американским военным. Были сообщения о китайских и советских достижениях в области удаленного изменения умственных способностей субъекта и нейтрализации его «свободной воли»[857]. Даллес поручил агентству провести оперативное исследование и разработку возможностей «контроля над сознанием», от «разрушения» (de‑patterning) и «переписывания» личности заново до формирования взглядов и действий целой страны[858].

Так началась болезненно захватывающая, нередко причудливая глава в истории американского шпионского ремесла[859]. Большая часть этой новой работы проводилась в рамках засекреченного проекта ЦРУ «МК‑Ультра», в задачу которого входило «исследование и разработка химических, биологических и радиологических материалов, пригодных для использования в тайных операциях по контролю над поведением человека». Согласно показаниям, данным в 1975 году в ходе сенатского расследования секретных операций внешней и военной разведки ЦРУ, в отчете об «МК‑Ультра», составленном Генеральным инспектором в 1963 году, отмечалось несколько оснований для засекречивания программы, но главным из них был тот факт, что изменение поведения виделось незаконным. «Многие специалисты в области медицины и смежных областях считают, что исследования в сфере манипулирования поведением человека являются нарушением профессиональной этики, и следовательно репутация профессиональных участников программы „МК‑Ультра“ в этом случае подвергается опасности», – говорится в отчете. В нем также отмечается, что многие мероприятия программы незаконны, нарушают права и интересы американских граждан и способны оттолкнуть общественное мнение[860].

С нашей точки зрения ключевой интерес представляет развитие и совершенствование модификации поведения как расширения политической власти. С этой целью «спрос» со стороны ЦРУ вызывал к жизни все более и более смелое предложение в части научных исследований и практического применения методов изменения поведения со стороны ученых‑психологов. Специалисты по медицине и психологии взялись демистифицировать китайские методы «промывания мозгов», переосмысливая их в привычных рамках изменения поведения.

Эти исследования пришли к выводу, что «контроль над сознанием» лучше понимать как комплексную систему обусловливания, основанную на непредсказуемых схемах подкрепления, что согласовывалось с важными открытиями Б. Ф. Скиннера по оперантному обусловливанию. По словам гарвардского историка Ребекки Лемов, исследователи «контроля над сознанием» оказали мощное влияние на ЦРУ и других силовиков. Представление о том, что «человеческий материал изменчив» – что личность, идентичность, сознание и способность к автономному поведению могут быть сломлены, устранены и заменены внешним контролем, – породила новое чувство паники и уязвимости:

 

Если мир действительно полон угроз не только для внешней, но и внутренней целостности человека, то специалисты в этих сферах нужны как никогда. Многие достойные и доброжелательные профессора – специалисты по «человеческой инженерии», как называли себя некоторые их них, – приняли участие в программах ЦРУ, чтобы добиться постепенных или резких изменений в умах и поведении людей[861].

 

К тому времени, когда в 1971 году собрался сенатский Подкомитет по конституционным правам, перенос методов изменения поведения с военных на гражданские применения шел полным ходом. Методы модификации поведения начали распространяться из финансируемых государством (обычно ЦРУ) психологических лабораторий и армейских подразделений на целый ряд институциональных применений. В каждом случае это вдохновлялось необходимостью скорректировать личностные дефекты людей, находящихся в зависимом положении, в условиях, которые предлагали «тотальный контроль» или были близки к этому – в тюрьмах, психиатрических палатах, учебных классах, учреждениях для людей с проблемами в психическом развитии, школах для детей с аутизмом, на производстве.

Подкомитет подтолкнула к действию обеспокоенность общественности, переросшая в негодование при виде того, как подобные программы изменения поведения начали становиться обычным делом. Историк психологии Александра Резерфорд отмечает, что практики изменения поведения в духе Скиннера в 1960‑х и 1970‑х годах быстро расширялись, добившись некоторых «примечательных успехов», но также и подвергнув тех, кто был в них занят, пристальному вниманию часто враждебно настроенной общественности. Методы изменения поведения освещались в ряде журналистских материалов; усердие, с которым применялись эти методы, и ощущение, что они унижают тех, кто им подвергается, нарушают этические нормы и ущемляют фундаментальные гражданские свободы, вызывали тревогу[862].

Другим фактором был выход в 1971 году книги провокационных социальных размышлений Б. Ф. Скиннера «По ту сторону свободы и достоинства». Скиннер предписывал будущее, основанное на поведенческом контроле, отвергнув саму идею свободы (вместе со всеми принципами либерального общества) и объявив понятие человеческого достоинства проявлением своекорыстного нарциссизма. Скиннер представлял себе всепроникающие «технологии поведения», которые однажды откроют возможность применять методы модификации поведения в масштабах целых обществ.

Последовавшая буря споров сделала «По ту сторону свободы и достоинства» международным бестселлером. «Наука Скиннера о человеческом поведении, будучи вполне бессмысленной, равно близка как либертарианцам, так и фашистам, – написал Ноам Хомский в широко известной рецензии на книгу. – Утверждать, что, поскольку обстоятельства можно устроить таким образом, что поведение станет вполне предсказуемым – как, например, в тюрьме или <…> в концентрационном лагере <…> то не стоит тревожиться о свободе и достоинстве „автономного человека“, было бы не просто абсурдно, но и глубоко гротескно»[863]. (В Гарварде середины 1970‑х годов, где Скиннер был профессором, а я училась в аспирантуре, многие из нас называли эту книгу «К рабству и унижению».)

С первых же строк предисловия к отчету подкомитета 1974 года, написанного сенатором Эрвином, любому пленнику надзорного капитализма XXI века должно быть очевидно, что американское общество претерпело социальный сдвиг более глубокий, чем можно было бы предположить, если судить только по датам. Стоит прочитать собственные слова Эрвина, чтобы прочувствовать всю страсть, с которой он соотносит деятельность подкомитета с ключевыми идеями Просвещения, обещая встать на защиту либеральных идеалов свободы и достоинства:

 

Когда отцы‑основатели создали нашу конституционную систему правления, они основали ее на своей фундаментальной вере в святость личности <…> Они понимали, что самоопределение есть источник индивидуальности, а индивидуальность – фундамент свободы <…> Однако в последнее время развитие технологии привело в разработке новых методов контроля над поведением, способных изменить не только действия человека, но и саму его личность и образ мышления <…> поведенческие технологии, которые разрабатываются сегодня в Соединенных Штатах, затрагивают самые глубокие источники индивидуальности и саму суть личной свободы <…> самая серьезная угроза <…> это власть, даваемая этой технологией одному человеку навязывать свои взгляды и ценности другому <…> Понятия свободы, частной жизни и самоопределения по своей сути несовместимы с программами, призванными контролировать не только физическую свободу, но также и источник свободной мысли <…> Вопрос встает еще острее, когда эти программы осуществляются, как это происходит сегодня, в отсутствие строгого контроля. Какую бы тревогу ни вызывало изменение поведения в теоретическом плане, неконтролируемый рост практической технологии поведенческого контроля – повод для еще большей озабоченности[864].

 

Критика изменения поведения, содержащаяся в отчете, на редкость актуальна для нашего времени. Она начинается с вопроса, который должны задать и мы: «Как это сошло им с рук?» Они ссылаются на «чрезвычайщину» той эпохи. Подобно тому как надзорный капитализм смог изначально укорениться и расцвести под защитой так называемой войны против террора и вызванной ею жажды предсказуемости, в середине XX века средства изменения поведения переместились из лабораторий в большой мир прежде всего под прикрытием тревог холодной войны. Позже, в 1960‑х и 1970‑х годах, профессионалы по изменению поведения понадобились и на гражданской службе, затребованные обществом, напуганным многими годами городских беспорядков, политических протестов и роста преступности и «противоправного поведения». Сенаторы пришли к выводу, что призывы к «законности и порядку» толкали к поискам «немедленных и эффективных средств контроля над насилием и другими формами антиобщественного поведения. Стремление обуздать насилие вытеснило собой требующие более длительного времени усилия понять его источники».

Поскольку многие программы по изменению поведения были нацелены на подневольных обитателей тюрем и психиатрических учреждений, сенаторы признали, что средства изменения поведения должны считаться формой государственной власти, и поставили под сомнение конституционное право правительства на «контроль» над поведением и мыслями граждан. В своем обзоре правительственных учреждений подкомитет обнаружил, что «в настоящее время в Соединенных Штатах под эгидой федерального правительства <…> используется широкий спектр методик изменения поведения», и отметил, что «в условиях быстрого распространения методов изменения поведения особую обеспокоенность вызывает то, что было предпринято мало реальных попыток рассмотреть важнейшие вопросы индивидуальной свободы и <…> фундаментального конфликта между индивидуальными правами и поведенческими технологиями»[865].

Однако самые сильные слова сенаторы приберегли для того, что они сочли двумя самыми крайними и пагубными методами изменения поведения. Первым из них была психохирургия. Вторым – «электрофизиология», определяемая как «использование механических устройств для контроля над различными сторонами поведения человека». С особым ужасом в отчете говорится об «устройствах», предназначенных для ношения субъектом ради «непрерывного наблюдения и контроля за его поведением c помощью компьютера» и «для недопущения нежелательного поведения».

Первая поправка к конституции, утверждал подкомитет, «должна в равной степени защищать право человека на генерирование идей», а право на неприкосновенность частной жизни должно защищать граждан от вторжений в их мысли, поведение, личность и идентичность, если мы не хотим, чтобы эти понятия «потеряли всякий смысл». Именно в этом контексте для критического анализа была выбрана поведенческая инженерия Скиннера:

 

Крупный сегмент новых технологий поведенческого контроля связан с обусловливанием, посредством которого различные формы убеждения используются для стимулирования определенных типов поведения и одновременного подавления других[866].

 

Предвосхищая будущие методы геймификации как средства изменения поведения, в докладе подкомитета также с тревогой отмечаются более «мягкие» подходы, основанные на «позитивном подкреплении», от «стимулов в виде простых „звездочек“ для учеников начальной школы» до сложных систем поощрений, нацеленных на «перестройку личности с помощью искусственно применяемых методик». Всеобщая одержимость контролем над насилием также породила методы «прогнозирования поведения», которые «поднимают фундаментальные вопросы, касающиеся надлежащей правовой процедуры, неприкосновенности частной жизни и индивидуальных свобод». Психолог, писавший в 1974 году в журнале Monitor, выпускаемом Американской психологической ассоциацией, озвучил эту тревогу, предостерегая коллег, которые похвалялись способностью «контролировать поведение», что теперь на них «смотрят с растущим подозрением, если не с отвращением, и угрожают ограничениями <…> Социальный контроль над поведенческим контролем уже в действии»[867].

Деятельность подкомитета возымела серьезные долгосрочные последствия. Не только группы по защите прав заключенных и пациентов получили мощную поддержку в своих усилиях по прекращению поведенческого угнетения, применявшегося в этих государственных учреждениях, но и психологи также начали обсуждать необходимость профессионализации своей дисциплины, что подразумевало разработку четких этических стандартов, процедур аккредитации, программ обучения и карьерных лестниц[868]. Национальный закон о научных исследованиях, принятый в 1974 году, предусматривал создание при исследовательских институтах комиссий по этике и заложил основу для разработки и институционализации «общего правила» этического обращения с участниками исследований, от соблюдения которых, как известно, освободил себя Facebook. В том же году конгресс учредил Национальную комиссию по защите людей, принимающих участие в биомедицинских и поведенческих исследованиях. Когда пять лет спустя комиссия опубликовала свои выводы в виде «Отчета Белмонта», они стали профессиональным стандартом этических принципов, применяемым ко всем финансируемым из федерального бюджета исследованиям на людях в США[869].

Активное правовое сознание 1970‑х годов изгнало поведенческую модификацию из гражданской жизни, или по крайней мере заставило слегка померкнуть ее звезду. Сотрудник Федерального бюро тюрем рекомендовал руководителям программ избегать использования «термина „изменение поведения“, вместо этого говоря о положительном вознаграждении и подкреплении в ответ на такое поведение, которое мы пытаемся привить». Другой сотрудник сказал: «Мы делаем то, что всегда делали <…> но называть это „поведенческой модификацией“ – значит только усложнять ситуацию»[870]. «Научно‑популярная» книга Скиннера 1976 года под названием «О бихевиоризме», написанная им, чтобы рассеять то, что он считал заблуждениями общественности, сложившимися после жесткой реакции на «По ту сторону свободы и достоинства», не смогла привлечь к себе достаточного внимания публики. По словам биографа Скиннера, «битва достигла кульминации». Публика, которая сделала «По ту сторону свободы и достоинства» бестселлером, «не менее единодушно отвергла доводы Скиннера, что есть более важные культурные вопросы, чем сохранение и расширение индивидуальной свободы»[871].

Самое удивительное то, что в течение всех этих многолетних лет споров и тревог невозможно было представить какие‑либо иные средства изменения поведения, кроме принадлежащих государству и используемых им: это казалось привилегией государственной власти. Автор статьи в журнале Harvard Law Review за 1966 год, посвященной вопросам электронной слежки, надзора и поведенческого контроля, рассуждал: «мы рассмотрим правительственные попытки изменять поведение, поскольку они кажутся более вероятными, чем попытки со стороны частных лиц»[872]. Демократический импульс американского общества, которое отталкивали эксцессы его спецслужб, поддержка ими преступных действий, предпринятых администрацией Никсона, и проникновение поведенческой модификации как средства дисциплинарного контроля в государственные учреждения, привел к отказу от техник изменения поведения как проявления государственной власти.

Сенаторы, ученые, правозащитники, юристы и многие другие граждане, выступавшие против антидемократического вторжения поведенческой инженерии, не знали, что методы поведенческой модификации не исчезли. Весь проект всплыл вновь в виде совершенно неожиданной инкарнации в качестве творения рынка, его беспрецедентных цифровых возможностей, масштаба и охвата, расцветших сегодня под флагом надзорного капитализма. В те же самые годы, когда демократические силы США объединились, чтобы противостоять изменению поведения как форме государственной власти, передовые отряды капитализма уже вели работу внутри общества. Корпорация должна была пользоваться правами личности, но быть свободной от демократических обязательств, правовых ограничений, моральных доводов и социальных соображений. По крайней мере в американском случае ослабленное государство, выборные должностные лица которого зависят от корпоративного богатства в ходе каждого избирательного цикла, не проявляет особого рвения в сопротивлении поведенческой модификации как рыночному проекту, не говоря уже о том, чтобы встать на защиту моральных императивов автономного индивида.

В своей последней инкарнации поведенческая модификация оживает как глобальная цифровая рыночная архитектура, не сдерживаемая географией, независимая от конституционных ограничений и формально безразличная к рискам, которые она представляет для свободы, достоинства или поддержания либерального порядка – всего того, что намеревался защитить подкомитет Эрвина. Этот контраст еще более удручающ в свете того факта, что в середине XX столетия средства модификации поведения были направлены на отдельных лиц и группы, которые конструировались как «они»: военных врагов, заключенных и других узников закрытых дисциплинарных режимов.

Сегодняшние средства модификации поведения откровенно направлены на «нас». Этот новый рыночный невод захватывает всех и вся, включая психодрамы обычных, ничего не подозревающих подростков, которых тревожат приближающиеся выходные. Все известные каналы связи работают на нужды частной власти, захватывающей поведение с целью извлечения прибыли. Куда делся молот демократии сегодня, когда угроза исходит от вашего телефона, цифрового помощника, вашего логина Facebook? Кто сегодня поднимется на защиту свободы, когда Facebook грозится уйти в тень, если мы посмеем стать той силой трения, которая тормозит экономию за счет действия, тщательно сконструированную, детально продуманную и дорого обошедшуюся, все ради того, чтобы эксплуатировать нашу естественную эмпатию, ускользать от нашего внимания и лишить нас всякой возможности самоопределения? Если мы не обратим на это внимания сейчас, сколько у нас времени до того, как мы потеряем чувствительность к этому и всем последующим вторжениям? До того, как мы перестанем что‑либо замечать? До того, как мы забудем, кем мы были до того, как они нами завладели, склонившись в тусклом свете над старыми текстами о самоопределении, укутавшись в шаль, с лупой в руке, словно расшифровывая древние иероглифы?

В этих главах мы вернулись к основным вопросам, определяющим разделение знания: Кто знает? Кто принимает решения? Кто определяет, кому принимать решения? Что касается того, кто знает, мы видели исполинские залежи знаний о нашем поведении в теневом тексте, от широких закономерностей, касающихся целых обществ, до интимнейших подробностей жизни отдельного человека. Эти новые информационные территории являются частными и привилегированными, известными только машинам, прикрепленной к ним священной касте специалистов и участникам рынка, которые платят за игру в этих новых пространствах. Хотя совершенно очевидно, что мы отстранены от этих возможностей, потому что это знание предназначено не для нас, эти главы раскрыли более глубокую структурную основу нашего отстранения. Теперь мы знаем, что способность надзорных капиталистов держать нас в неведении – необходимое условие производства знания. Мы отстранены, потому что мы – сила трения, препятствующая развитию теневого текста и, вместе с ним, доминированию надзорного капитализма над знанием.

Что касается того, кто принимает решения, то это разделение знания было достигнуто декларациями и вторжениями владельцев частного надзорного капитала в качестве еще одного необходимого условия накопления, которому способствовало нежелание государства утверждать демократический контроль над этой тайной сферой. Остается вопрос, кто определяет, кому принимать решения. Пока что это делает асимметричная власть надзорного капитализма, не сдерживаемая законом.

Превращение поведения в товар в условиях надзорного капитализма толкает нас к будущему обществу, в котором эксклюзивное разделение знания защищено недоступностью для понимания, секретностью, и экспертизой. Даже когда знания, полученные из вашего поведения, возвращаются вам в первом тексте в качестве «благодарности» за участие, параллельные секретные операции теневого текста собирают излишки для создания прогнозных продуктов, предназначенных для других рынков, которые про вас, а не для вас. Этим рынкам вы нужны разве что в качестве, во‑первых, источника сырья, из которого извлекают излишек, и, во‑вторых, мишени для гарантированных результатов. У нас нет формального контроля, потому что мы не важны для этих рыночных действий. В этом будущем мы изгнанники из нашего собственного поведения, нам отказано в доступе или контроле над знанием, полученным из нашего опыта. Знания, полномочия и власть – у надзорного капитала, для которого мы просто «полезные ископаемые».

 

 

Глава 11