Самая важная характеристика технологии – это то, как она меняет людей

Джарон Ланир

Вы не гаджет. Манифест

 

 

Джарон Ланир

Вы не гаджет. Манифест

 

Эта книга посвящается моим друзьям и коллегам по цифровой революции.

Благодарю вас за конструктивное обсуждение моих задач – для этого друзья и нужны.

 

 

Благодарю Лили за то, что тосковала по мне,

Эллери за эксцентричность,

Лену за планирование всего и вся

и Лилибел, которая заново научила меня читать.

 

Предисловие

 

На дворе начало XXI века – значит, эти слова будут читать в основном не личности – автоматы или бесчувственные толпы людей, которые больше не действуют как личности. Предложения распадутся на разобщенные ключевые слова поисковых систем в составе промышленных вычислительных облаков, расположенных в отдаленных, часто засекреченных местах по всему миру. Их миллионы раз скопируют с помощью алгоритмов, разработанных для показа рекламы тем, кто заинтересуется каким‑либо фрагментом того, что я сказал. Эти слова просмотрят, перефразируют и неправильно поймут толпы быстрых и небрежных читателей, которые немедленно занесут их в «Вики»; они автоматически будут агрегированы в потоки текстовых сообщений (SMS).

Реакция на них будет все больше деградировать в последовательность бездумных и анонимных оскорблений и невнятных дискуссий. Алгоритмы найдут связи между теми, кто прочитал мои слова, и их покупками, романтическими увлечениями, долгами и уже скоро – генами. В конце концов эти слова внесут свой вклад в состояния тех немногих, кто сумел поставить себя в положение властителей вычислительных облаков.

В подавляющем большинстве случаев распространение этих слов будет происходить в безжизненном мире голой информации. Лишь крайне редко их прочтут глаза живого человека.

И все же я надеюсь обратиться к вам, к редкому представителю личностей среди моих читателей.

Слова этой книги написаны для людей, а не для компьютеров.

Я хочу сказать, вы должны что‑то представлять собой, прежде чем сможете делиться собственным опытом.

 

Часть первая

Что такое личность?

 

Глава 1

Пропавшие личности

 

Программное обеспечение выражает идеи всего, от природы музыкальной ноты до природы личности. Оно же является объектом очень жесткого процесса «фиксации». Таким образом, идеи (в сегодняшнем мире, когда человеческая деятельность все больше управляется программным обеспечением) стали более подвержены «фиксации», чем в предыдущие эпохи. До сих пор основная часть «фиксированных» идей была не слишком плоха, но некоторые из так называемых идей 2.0 никуда не годны, и нам стоит от них отказаться, пока мы еще можем это сделать.

 

«Речь – отражение души; как человек говорит, таков он и есть».

ПУБЛИЛИЙ СИР

 

Фрагменты – это не люди

 

Примерно на рубеже веков с цифровой революцией что‑то пошло не так. Всемирную паутину наводнили мелкие проекты, иногда называемые веб 2.0. Такая идеология пропагандировала радикальную свободу в пространстве Сети, но, по иронии, это скорее свобода для машин, чем для человека. Тем не менее ее иногда называют открытой культурой.

Анонимные комментарии в блогах, безвкусные видеошутки и легковесные мэшапы могут показаться тривиальными и безвредными, но в целом эта распространенная практика фрагментарного, обезличенного общения принизила роль межличностного взаимодействия как такового.

Сегодня коммуникации часто представляются сверхчеловеческим феноменом, находящимся выше отдельных личностей. Выросло новое поколение со сниженными ожиданиями того, чем может быть личность и кем способен стать отдельный человек.

 

Оптимизм

 

Для любого человека, не говоря о технологе, было бы трудно вставать утром без веры в то, что будущее может оказаться лучше прошлого.

В 1980‑е, когда Интернет был доступен небольшому числу первопроходцев, мне часто приходилось спорить с людьми, которые боялись, что странные технологии вроде виртуальной реальности, над которыми я работал, смогут породить демонов человеческой природы. Не станут ли люди зависимыми от виртуальной реальности, как от наркотика? Не окажутся ли они запертыми в ней, будучи не в состоянии вырваться наружу, в физический мир, где живем мы все? Некоторые вопросы были глупыми, но некоторые оказались провидческими.

 

Счастливая неожиданность

 

Возникновение Всемирной паутины было редким примером того, как мы получили новую, позитивную информацию о человеческом потенциале. Кто мог предположить (по крайней мере вначале), что миллионы людей вложат так много в проект без рекламы, угрозы коммерческого наказания, харизматичных фигур, политики идентичности, эксплуатации страха смерти и других, классических для человечества мотиваторов? Огромное количество людей делало что‑то, потому что это казалось хорошей мыслью и было красивым.

Самые эксцентричные представители цифрового мира угадали, что так и случится, но все равно, когда это случилось, был шок. Оказывается, даже оптимистичная, идеалистическая философия может быть реализована. Заложите в программное обеспечение философию счастья, и, очень может быть, она станет реальностью!

 

Воцарение племени

 

Мы оказались там, где сейчас находимся, потому что одна субкультура технологов в последнее время приобрела больше влияния, чем остальные. У победившей субкультуры нет формального названия, я иногда называю членов этой группы кибернетическими тоталистами или цифровыми маоистами.

В число предков племени входят представители мира открытой культуры Creative Commons, сообщества Linux, люди, связанные с подходом к информатике с позиций искусственного интеллекта, приверженцы веб 2.0, сторонники обмена файлами вне контекста и другие. Их столица – Кремниевая долина, но у них есть базы по всему миру, везде, где создается цифровая культура. Их любимые блоги – Boing Boing, TechCrunch и Slashdot, а их посольство на родине – журнал Wired.

Естественно, я сгущаю краски; не каждый из членов перечисленных мною групп разделяет веру в то, что я критикую. Более того, проблема, которая меня беспокоит, в головах не столько самих технологов, сколько пользователей инструментов, пропагандируемых кибернетическими тоталистами.

Главной ошибкой современной цифровой культуры является то, что она раскалывает сообщество людей настолько мелко, что остаются лишь помехи. Потом вы начинаете заботиться о сетевой абстракции больше, чем о реальных людях, входящих в эту Сеть, несмотря на то что Сеть сама по себе ничего не значит. Значимыми всегда были лишь люди.

Когда я упоминаю племя, я не имею в виду каких‑то отдаленных «их». Членами племени являются мои старые друзья, учителя, коллеги и попутчики. Многие мои знакомые со мной не согласны. Их заслуга в том, что я могу свободно выражать свои мысли, зная, что по‑прежнему являюсь желанным членом нашего сообщества.

С другой стороны, я знаю, что в информатике существует очень четко выраженная гуманистическая традиция. Некоторые из известных личностей этой традиции – Джозеф Вейценбаум, Тед Нельсон, Терри Виноград, Алан Кэй, Билл Бакстон, Дуг Энглебарт, Брайан Кантвелл Смит, Генри Фукс, Кен Перлин, Бен Шнайдерман (он придумал «кликать» ссылку) и Энди ван Дам, наш старый учитель, повлиявший на поколения своих протеже, в том числе на Рэнди Поша. Другой важной фигурой гуманистической информатики является Дэвид Гелернтер, воплотивший в жизнь большую часть технической стороны того, что стало называться облачными вычислениями, а также многие потенциально полезные приложения облаков.

Необходимо упомянуть, что гуманизм в информатике, по‑видимому, не связан ни с одним из культурных течений. Так, Тед Нельсон – дитя 1960‑х, автор того, что могло стать первым рок‑мюзиклом (Anything & Everything), немного бродяга и фигура контркультуры, если такая вообще когда‑либо была. Дэвид Гелернтер, напротив, культурный и политический консерватор, который пишет для Commentary и преподает в Йеле. Тем не менее работы и того и другого вдохновляют меня.

 

Ловушка для племени

 

Намерения племени кибернетических тоталистов – добрые. Просто они следуют по пути, который ранее был с добрыми намерениями освещен фрейдистами и марксистами. И говорю я это не в уничижительном смысле. Я думаю о самых ранних воплощениях марксизма, например до того, как сталинизм и маоизм погубили миллионы.

Движения, связанные и с Фрейдом, и с Марксом, заявляли, что основа всего – рациональность и научное понимание мира. И те и другие считали себя воинствующими противниками сверхъестественных, манипуляторских религиозных фантазий. И тем не менее фантазии, которые породили обе идеологии, оказались не менее потусторонними.

То же самое происходит снова. Самопровозглашенное материалистическое движение, пытающееся основываться на науке, быстро становится похожим на религию. Очень скоро оно порождает свою собственную эсхатологию и свои откровения о том, что происходит на самом деле, – о важных событиях, которые не может понять никто, кроме посвященных. Сингулярность и ноосфера, идея о том, что коллективное сознание возникает благодаря всем пользователям Всемирной паутины, повторяют марксистский социальный детерминизм и фрейдистский анализ извращений. Мы торопимся вперед, на свой страх и риск пренебрегая скептической, научной работой, совсем как марксисты и фрейдисты.

Те, кто спешит сдернуть со всего покровы таинственности, как марксисты и фрейдисты, не могут договориться. Они просто не способны поверить, что я нахожу что‑то общее между членами племени. К примеру, для них Linux и UNIX – совершенно разные системы, тогда как для меня они являются совпадающими точками на обширном холсте возможностей, даже если о большей части холста сегодня практически не помнят.

В любом случае будущее религии определится особенностями программного обеспечения, которое «зафиксируется» в ближайшие десятилетия, так же как будущее музыкальных нот и понятия личности.

 

Где мы сейчас находимся

 

Время сформулировать некоторые выводы. С возникновением Всемирной паутины произошло кое что удивительное. Когда замечательно открытый и неструктурированный информационный инструмент стал доступен большому числу людей, вера в доброе начало человека получила подкрепление. На данный момент эту открытость можно считать в значительной мере «зафиксированной». Ура!

В то же время не слишком замечательные идеи о жизни и ее смысле, такие как лишенная нюансов концепция музыкальных звуков MIDI и неспособность UNIX работать со временем так, как его воспринимает человек, тоже «зафиксированы».

Это допустимые жертвы, то, что я бы назвал потерей чувства прекрасного. Однако им противостоят и некоторые эстетические достижения. Цифровой мир выглядит лучше, чем звучит, потому что сообщество активистов, включая людей из Xerox Parc (особенно Алана Кэя), Apple, Adobe и академических кругов (особенно Дона Кнута из Стэнфорда), приложило немало усилий, чтобы избавить нас от ужасных шрифтов и других визуальных элементов, с которыми в противном случае мы были бы вынуждены жить.

Еще есть недавно придуманные элементы будущего опыта человека, вроде уже «зафиксированной» идеи файла, которая фундаментальна настолько же, насколько воздух, которым мы дышим. Файл теперь будет одним из базовых элементов истории человека, как гены. Мы никогда не узнаем, что это значит или что могли бы значить альтернативы.

В целом мы просто замечательно справились! Но сегодня на повестке дня стоят задачи, не похожие на предыдущие. Новые, готовые «зафиксироваться» конструкции веб 2.0 активно требуют от людей снизить самооценку. Одно дело – выдвинуть ограниченную концепцию музыки или времени в конкуренции с другими философскими идеями, которые также претендуют на «фиксацию». И совсем другое – сделать это с самой идеей личности.

 

Почему это важно

 

Если вам нравятся инструменты, которыми вы пользуетесь, то кто я такой, чтобы указывать, будто вы что‑то делаете не так? Но примите к сведению следующее.

 

● Подчеркивать роль толпы означает снижать значимость индивидуальности в архитектуре общества. И когда вы просите людей перестать быть людьми, они возвращаются к поведению банд. Это ведет не только к власти троллей, но и к недружественному, неконструктивному сетевому миру в целом.

● Вычислительные облака изменили мир финансов. Финансовый успех все больше становится результатом манипуляций с облаками, а не разумных финансовых принципов.

● Есть предложения реформировать науку на похожих принципах. После этого ученые будут хуже понимать, что они делают.

● Поп‑культура вошла в стадию ностальгического недуга. В сетевой культуре доминируют тривиальные мэшапы того, что существовало до появления мэшапов, и любители, реагирующие на сокращающиеся оплоты центральных массмедиа. Это культура реакции без действия.

● Духовность совершает самоубийство. Сознание пытается заставить себя перестать существовать.

 

Кажется, будто я составляю каталог всего плохого, что может случиться в будущем культуры по мере ее изменения технологией, но это не так. Все примеры на самом деле просто различные аспекты одной большой ошибки.

Глубокий смысл личности уничижается иллюзией битов. Поскольку отныне люди неизбежно будут соединяться друг с другом посредством компьютеров, мы должны найти альтернативу.

 

МЫ ДОЛЖНЫ ЗАДУМЫВАТЬСЯ О ТОМ, КАКИЕ ЦИФРОВЫЕ ОСНОВЫ ЗАКЛАДЫВАЕМ СЕГОДНЯ, ЧТОБЫ ПРИНЕСТИ ПОЛЬЗУ БУДУЩИМ ПОКОЛЕНИЯМ. МЫ ДОЛЖНЫ ВЕРИТЬ, ЧТО ЦИВИЛИЗАЦИЯ ПЕРЕЖИВЕТ ЭТОТ ТРУДНЫЙ ВЕК, И ПРИЛОЖИТЬ НЕКОТОРЫЕ УСИЛИЯ К СОЗДАНИЮ НАИЛУЧШЕГО ИЗ ВОЗМОЖНЫХ МИРОВ ДЛЯ ТЕХ, КТО УНАСЛЕДУЕТ НАШИ ДОСТИЖЕНИЯ.

 

По сравнению с множеством проблем, стоящих сегодня перед миром, дебаты о сетевой культуре могут показаться несвоевременными. Нам надо решать проблему глобального потепления, перехода на новый энергетический цикл, избежать войн с применением оружия массового поражения, поддержать стареющее население, придумать, как пользоваться преимуществами свободного рынка без того, чтобы быть подверженными его разрушительным сбоям, а также заняться другими насущными делами. Но цифровая культура и связанные с ней темы, такие как будущее частной жизни и прав интеллектуальной собственности, касаются того общества, в котором мы будем жить, если переживем вышеперечисленные угрозы.

У любой идеи из разряда «спасем мир вместе» есть список того, что каждый из нас может сделать: ездить на работу на велосипеде, собирать вторсырье и т. д. Я могу предложить подобный список в отношении проблем, о которых говорю.

 

● Не пишите анонимно, если только ваша жизнь на самом деле не находится под угрозой.

● Если вы участвуете в создании «Википедии», приложите еще больше усилий вне «Вики», пользуясь своим голосом и выражая свои мысли для привлечения людей, еще не осознавших, что им интересны темы, которые вы развиваете.

● Сделайте сайт, рассказывающий о том, кто вы такой, и не укладывающийся в образцы, доступные вам на сайтах социальных сетей.

● Время от времени размещайте видео, создание которого заняло у вас во сто крат больше времени, чем его продолжительность.

● Напишите пост в блоге, на который потребовались недели размышлений, прежде чем вы услышали внутренний голос, требующий самовыражения.

● Если вы пишете в Twitter, изобретайте, чтобы найти способ описать свое внутреннее состояние, а не просто внешние события. Это позволит избежать опасности поверить в то, что объективно описанные события определяют вас, так же как они определяют машину.

 

Вот лишь некоторые поступки, которые вы можете совершить, чтобы остаться личностью, а не стать источником фрагментов, эксплуатируемых другими.

Во всем этом программном обеспечении есть аспекты, которые можно сохранить более гуманистическими. Программа, обладающая особенностью Twitter предоставлять фоновый непрерывный контакт между людьми, наверное, могла бы избавиться от любви Twitter к фрагментам. Мы на самом деле этого не знаем, поскольку ниша еще не исследована и таких программ никто не создавал.

До тех пор пока вас определяет не программное обеспечение, вы помогаете расширять состав идей, которые будут использованы грядущими поколениями. Обычно нет ничего плохого в том, что человек любит среду, в которой ему приходится работать. Любите краски, если вы художник; любите кларнет, если вы музыкант. Любите (или ненавидьте) английский язык. Любовь к этим вещам – это любовь к тайне.

Но в случае цифровых творческих материалов вроде MIDI, UNIX и даже Всемирной паутины разумно быть скептически настроенным. Эти инструменты объединились лишь недавно, в них есть элемент случайности. Не попадите в наезженную колею, в которую они вас подталкивают. Если вы любите среду, состоящую из программного обеспечения, существует опасность, что вы окажетесь в ловушке чьих‑то поспешных, незрелых мыслей. Боритесь с этим!

 

Будущее

 

Истинная природа Интернета является наиболее распространенной темой сетевых дискуссий. Примечательно, что Интернет достаточно вырос, чтобы содержать большое количество комментариев о своей собственной природе.

Продвижение поздней техно‑политико‑культурной ортодоксальности, которую я критикую, стало непрекращающимся и всепроникающим. The New York Times, к примеру, ежедневно продвигает так называемую политику открытой цифровой культуры, даже несмотря на то, что этот идеал и движение, стоящее за ним, разрушают саму газету и все остальные бумажные СМИ.[6] Кажется, перед нами пример журналистского стокгольмского синдрома.

Еще не было адекватного публичного представления альтернативного видения мира, противостоящего новой ортодоксальности. Чтобы оппонировать ей, мне нужно было нанести не один удар. Мне также пришлось построить альтернативную интеллектуальную окружающую среду, достаточно просторную, чтобы путешествовать в ней. После долгого погружения в традиционализм человеку нелегко обрести перспективу – для этого фигура и фон в его восприятии должны поменяться местами. Этого не добиться несколькими альтернативными идеями, нужна новая всеобъемлющая архитектура взаимосвязанных идей, которая способна дать человеку другой взгляд на мир.

Так что в своей книге я начал длинный рассказ о вере в альтернативы вычислительному подходу к мышлению, о ноосфере, сингулярности, веб 2.0, «длинном хвосте» как успешной бизнес‑модели в Интернете и всем остальном. Надеюсь, сила моих контраргументов позволит зародиться альтернативной умственной среде, где сможет появиться замечательная способность начать создавать новый цифровой гуманизм.

Неизбежным побочным эффектом этого проекта «распрограммирования путем погружения» является то, что я буду постоянно направлять поток отрицания на критикуемые мною идеи. Читатель, будь уверен: отрицание со временем ослабнет, последние несколько глав пропитаны оптимизмом.

 

 

Глава 2

Апокалипсис самоотречения

 

Идеи, которые, надеюсь, не будут похоронены на основании философской позиции, названной мною кибернетическим тотализмом. Эта позиция применяет метафоры некоторых разделов информатики в отношении человека и вообще реальности. В настоящей главе изложены практические возражения такой философии.

 

 

Яблоко падает снова

 

Это заблуждение, имеющее примечательные истоки. Его сформулировал Алан Тюринг незадолго до того, как покончил с собой.

В научных кругах самоубийство Тюринга – щекотливая тема. Об этом избегают говорить, поскольку мы не хотим, чтобы один из отцов‑основателей выглядел как герой таблоидов и чтобы необычные обстоятельства его смерти затмевали память о нем.

Наследие Тюринга‑математика превыше любых сенсаций. Его вклад поистине элегантен и фундаментален. С его помощью были сделаны огромные скачки в развитии, в том числе, математических основ цифровых вычислений. Высшая награда в области информатики, наша Нобелевская премия, названа в его честь.

Однако также необходимо признать Тюринга и культурной фигурой. Прежде всего надо понимать, что он был одним из величайших героев Второй мировой войны. Он был первым хакером – человеком, использовавшим компьютер для взлома систем безопасности врага. Например, он применил один из первых компьютеров для взлома нацистского шифра «Энигма», который математики считали неприступным. Сами нацисты декодировали «Энигму» с помощью механического устройства размером с сигарную коробку. Тюринг взломал шифр, преобразовав его в последовательность битов, которую можно было проанализировать с помощью компьютера. Кто знает, в каком мире мы бы сейчас жили, если бы Тюрингу не удалось взломать «Энигму»?

Второе, что надо знать о Тюринге, – он был геем в те времена, когда это было противозаконно. Британские власти, полагая, что совершают очень благородное дело, принудили его пройти шарлатанские медицинские процедуры, которые предположительно должны были скорректировать его гомосексуальность. Странно, но они заключались во введении больших доз женских гормонов.

Чтобы понять, как они додумались до такого плана, стоит вспомнить, что до того, как появились компьютеры, широко распространенной метафорой понимания природы человека был паровой двигатель. Сексуальное давление нарастало и приводило к поломке машины, поэтому противоположная сущность, женского рода, должна была сбалансировать механизм и снизить давление. Пусть эта история послужит предостережением. Всеобщее использование компьютеров, как мы их понимаем сегодня, в качестве источника моделей и метафор нас самих, по‑видимому, настолько же оправданно, как и использование для этих целей парового двигателя годы назад.

У Тюринга выросла грудь и появились другие женские признаки, а также развилась тяжелейшая депрессия. Он покончил с собой, пропитав яблоко цианидом и съев его в своей лаборатории. Незадолго до смерти он опубликовал духовный текст, который нужно оценивать отдельно от его технических достижений. Это знаменитый тест Тюринга. По‑настоящему новые духовные идеи появляются крайне редко, и то, что Тюринг сформулировал ее, – еще один пример его гения.

Тюринг представил идею в виде мысленного эксперимента, основанного на популярной викторианской салонной игре. Мужчина и женщина прятались, а арбитр должен был определить, кто есть кто, основываясь только на текстах передаваемых записок.

Тюринг заменил женщину компьютером. Сможет ли арбитр определить, где человек (мужчина)? Если нет, то имеет ли компьютер сознание? Разум? Заслуживает ли он равных прав с человеком?

Мы не можем знать, какую роль сыграла пытка, которой Тюринг подвергался, когда работал над этим текстом. Но невозможно отрицать, что одного из людей, сыгравших ключевую роль в разгроме фашизма, после окончания войны уничтожили мы сами, и лишь потому, что он был геем.

Неудивительно, что в своем воображении он задавался вопросами прав странных существ.

Ко времени смерти Тюринга программное обеспечение находилось в столь ранней стадии развития, что никто не мог себе представить, каким запутанным оно станет в будущем. Тюринг придумал чистую, кристаллизованную форму существования в цифровом мире, и, думаю, было облегчением представить себе форму жизни, отдельную от страданий плоти и политики сексуальности. Примечательно, что компьютером ученый заменил именно женщину и что самоубийство Тюринга повторило падение Евы.

 

Или рассмотрим шахматы

 

Возобладают ли в науке, экономике или культуре основанные на идее облака модные процессы над традиционными, требующими человеческого осмысления? Нет, поскольку лишь осмысление человеком позволяет существовать содержимому облака.

Культура освобождения фрагментов с затаенным дыханием ожидает будущего технологического триумфа, который приведет к сингулярности или другим подобным воображаемым событиям. Но уже существует несколько примеров того, как тест Тюринга был практически пройден, снижая степень персонификации. Одним из таких примеров служат шахматы.

Игре в шахматы присуще редкое сочетание качеств: очень просто понять правила, но очень трудно хорошо играть. И, что самое важное, попытки повысить мастерство игры кажутся бесконечными. Игроки добиваются все более высоких результатов, однако ни один из них не будет утверждать, что достиг высочайшего уровня.

Компьютеры и шахматы имеют общие корни. И те и другие возникли как орудия войны. Шахматы появились как симуляция битвы, мысленное боевое искусство. Конструкция шахмат даже напоминает о еще более отдаленном прошлом – временах нашего грустного животного наследия субординации и соперничающих кланов.

Аналогично и современные компьютеры были разработаны для управления ракетами и взлома секретных военных шифров. И шахматы, и компьютеры – прямые потомки насилия, которое движет эволюцию в живой природе, сколь бы абстрактным и санированным это насилие ни было в контексте цивилизации. Соревновательный дух практически осязаем и в информатике, и в шахматах, а когда их совмещают, адреналин просто захлестывает.

Для исследователей в области информатики шахматы привлекательны именно потому, что мы плохо в них играем. С нашей точки зрения, мозг человека обычно выполняет задачи, которые кажутся невыполнимыми, например распознает предложения, – однако мы не проводим состязаний по распознаванию предложений, поскольку эта задача кажется нам слишком простой и тривиальной.

Похожим образом нас очаровывают и расстраивают компьютеры. Научиться программировать могут и дети, тем не менее хорошо программировать чрезвычайно трудно даже для признанного профессионала. Несмотря на очевидный потенциал компьютеров, мы слишком хорошо знаем, что еще не придумали лучших программ для него.

Но всего этого недостаточно, чтобы объяснить выражение страха в обществе по случаю победы Deep Blue в мае 1997 года над чемпионом мира по шахматам Гарри Каспаровым как раз в тот момент, когда веб впервые начал оказывать заметное влияние на массовую культуру. Несмотря на шумиху в старых средствах массовой информации, было понятно, что публика реагировала искренне, и это чувство было глубоким. Тысячелетия мастерство игры в шахматы означало наивысший, наиболее чистый вид разума – а теперь компьютер мог играть лучше самого искусного человека.

Было много разговоров о том, остаются ли человеческие существа особенными и не становятся ли компьютеры равными нам. Сегодня такого рода новости не попали бы на первые полосы газет – способ мышления искусственного интеллекта настолько вбит в человеческую голову, что эти новости выглядели бы устаревшими. Но способ подачи события в стиле искусственного интеллекта был неудачен. На самом деле команда ученых построила очень быструю машину и нашла лучший способ представления проблемы выбора следующего хода в шахматной игре. Люди, а не машины сделали возможным это достижение.

Главной победой команды Deep Blue были ясность и элегантность мышления. Чтобы компьютер смог победить чемпиона мира по шахматам, необходимо, чтобы совпали два рода достижений: рост вычислительной мощности оборудования и повышение сложности и четкости, с которыми ведение шахматной игры представлено в программном обеспечении. Этот двойной путь затруднил предсказание точного времени, но не неизбежности триумфа компьютера.

Если бы команда Deep Blue не была столь успешна в решении программной задачи, компьютер все равно бы победил позже – просто за счет огромной вычислительной мощности. Таким образом, интрига была не в том, выиграет ли когда‑либо компьютер у лучшего игрока‑человека, а в том, какую роль в этом будет играть элегантность программирования. Deep Blue победил быстрее, чем мог бы, заработав тем самым очко в пользу элегантности.

Реакция общества на проигрыш Каспарова поставила важный вопрос перед сообществом исследователей в области информатики. Стоит ли описывать компьютеры как разумные или человекоподобные в каком‑либо смысле? Проясняет ли такое представление истинную роль компьютеров в нашей жизни или, наоборот, размывает ее?

Всякий раз, когда компьютер представляют разумным, люди игнорируют некоторые аспекты проблемы, чтобы исключить из рассмотрения все, к чему компьютер слеп. В случае турнира Deep Blue – Каспаров это случилось с шахматами.

У шахмат есть аспект, который несколько роднит их с покером, – наблюдение за оппонентом, проекция уверенности. Несмотря на то что написать программу для «игры» в покер сравнительно просто по сравнению с программой для игры в шахматы, покер остается игрой, где главную роль несут тонкости невербальной коммуникации между людьми – блеф, искусство скрывать эмоции и понимать психологию оппонента и знание того, как вести себя в соответствии с полученной информацией. В результате победы Deep Blue покерную часть шахмат затмил абстрактный, алгоритмический аспект, хотя, по иронии, Каспаров проиграл именно в покерном аспекте.

По‑видимому, Каспаров позволил компьютеру запугать себя, даже после того, как он показал, что способен иногда и выигрывать. Он мог выиграть, если бы играл с человеком, обладающим такими же способностями выбора хода, что и Deep Blue (по крайней мере Deep Blue версии 1997 года). Вместо этого Каспаров увидел каменное лицо там, где на самом деле абсолютно ничего не было. Хотя состязание не задумывалось как тест Тюринга, оно стало им, и Каспаров был обманут.

Как я уже упоминал, идея искусственного интеллекта переместила психологическую проекцию хороших качеств с программного обеспечения на другой объект: компьютер + толпа. Поэтому в 1999 году собралась википодобная группа, включая чемпионов по шахматам, чтобы сыграть с Каспаровым в онлайн‑игру под названием «Каспаров против всех». Каспаров победил, и многие полагают, что лишь благодаря разногласиям участников группы. Мы, технологи, непрестанно интересуемся ритуалами, в которых пытаемся представить себе, что люди устарели.

Приписывание разума машинам, скоплениям фрагментов или другим божествам умников скрывает больше, чем показывает. Когда людям говорят, что компьютер разумен, они склонны изменять себя, чтобы казалось, будто компьютер работает лучше, а не требовать изменения компьютера для улучшения его работы. Люди уже склонны уступать компьютерам, виня себя в том, что цифровым гаджетом или онлайн‑сервисом неудобно пользоваться.

Рассмотрение компьютера в качестве разумной, автономной сущности приводит к перевертыванию процесса разработки с ног на голову. Мы не можем себе позволить настолько почитать свои собственные творения.

 

Круг сопереживания

 

Самое важное, что надо знать о любой технологии, – как она меняет людей. Чтобы ответить на этот вопрос, я много лет пользовался мысленным приемом, который называю «круг сопереживания». Может быть, он окажется полезным и для вас. (Философ из Принстона Питер Сингер, часто упоминаемый в связи с правами животных, пользуется похожей терминологией и идеей, что на первый взгляд кажется простым совпадением.)

Воображаемый круг сопереживания каждый для себя строит сам. Этот круг ограничивает расстояние вокруг человека и включает те сущности, которые заслуживают сопереживания. Мне нравится термин «сопереживание», потому что в нем есть духовные нотки. Термины вроде «симпатия» или «лояльность» могли бы быть более точными, но я хотел, чтобы мой термин был слегка мистическим. Он должен как бы намекать, что мы не способны полностью осознать то, что происходит между нами и другими, что мы всегда должны оставлять возможность представления отношений в цифровой базе данных.

Если кто‑то попадает в ваш круг сопереживания, вы вряд ли захотите увидеть, как его или ее убьют. Но то, что вне круга, – законный объект нападения. Например, многие поместят всех остальных людей внутрь круга, но большинство будет радо смерти бактерий, например, когда мы чистим зубы. И уж совершенно точно никто не будет беспокоиться по поводу бездушного камня, отброшенного с тропы.

Подвох в том, что некоторые сущности находятся близко к границе круга. Главные противоречия часто вызывает вопрос, должно ли что‑то находиться внутри круга или сразу за ним. Например, идея рабства основана на том, что раба помещают вне круга, таким образом как бы делая его неодушевленным. Расширение круга так, чтобы включить всех людей и покончить с рабством, – одно из главных эпических противостояний в человеческой истории, и оно еще не вполне завершено.

Множество других противоречий хорошо описываются этой моделью. Борьба вокруг абортов по существу есть поиск ответа на вопрос, должен плод или эмбрион быть помещен внутрь круга или нет. Спор о правах животных задает тот же вопрос относительно братьев наших меньших.

Когда вы меняете содержимое вашего круга, вы меняете и концепцию самого себя. Центр круга смещается по мере того, как меняется его периметр. Либеральным импульсом является расширение круга, тогда как консерваторы стремятся ограничить рост круга или даже обратить этот рост вспять.

 

Ограничение круга

 

То, что мы не можем точно определить, где должны располагаться границы круга сопереживания, не означает, что мы не в состоянии узнать о нем вообще ничего. А то, что мы можем быть лишь приблизительно моральны, не означает, что вообще не надо стремиться быть моральным. Термин «мораль» обычно используется для описания нашего отношения к другим людям, но в данном случае я применяю его в равной степени и к нам самим.

Доминирующая открытая цифровая культура придает обработке информации роль эмбриона в понимании религиозного права или бактерий в моей доведенной до абсурда фантазии. Это классическая ошибка, но последствия у нее новые. Я опасаюсь, что мы начинаем изменять себя таким образом, чтобы подходить под цифровые модели нас, и меня беспокоит вымывание сопереживания и человечности в ходе этого процесса.

Права эмбриона основаны на экстраполяции, тогда как права нормальной взрослой личности очевидны настолько, насколько вообще возможно, ведь личность говорит сама за себя. Существует множество примеров, когда трудно решить, что делать с верой в личность, поскольку обсуждаемая сущность, возможно, и заслуживает сопереживания, но не способна говорить сама за себя.

Должны ли права животных быть такими же, как права людей? Существуют и особенные опасности, когда некоторые люди слышат голоса, которые не слышат другие, и расширяют свой круг сопереживания. Это как раз те случаи, которые надо оставить людям, близким к конкретной ситуации, если такое вообще возможно. В противном случае мы погубим общую свободу, навязывая друг другу метафизические идеи.

В случае рабства оказалось, что рабы, как только у них появился шанс, не просто смогли говорить за себя, но сделали это очень хорошо. Несомненно, Моисей был личностью. Потомки более поздних рабов, как Мартин Лютер Кинг, демонстрировали необыкновенные красноречие и сопереживание.

Новое веяние в Кремниевой долине выражается в том, что некоторые люди – очень влиятельные люди – верят, будто слышат, как алгоритмы, толпы и другие нечеловеческие, существующие в Сети сущности говорят сами за себя. Однако я таких голосов не слышу и уверен, что те, кто слышит, обманывают себя.

 

Больше Борхеса

 

Вот второй мысленный эксперимент. Он касается того же вопроса, но с другой стороны. Вместо того чтобы менять программу в компьютере, он меняет его конструкцию.

Для начал