Что делать, когда технологи безумнее луддитов?

Сингулярность – апокалиптическая идея, изначально предложенная Джоном фон Нейманом, одним из создателей цифровых вычислений, и разъясненная такими деятелями, как Вернор Виндж и Рэй Курцвейл. Существует множество версий фантазии о сингулярности.

Например, вот что говорил Марвин Мински за обеденным столом в начале 1980‑х: скоро, возможно во втором или третьем десятилетии XXI века, компьютеры и роботы смогут создавать свои копии, причем эти копии будут совершеннее оригинала благодаря интеллектуальному программному обеспечению. Второе поколение роботов создаст третье, и этот процесс пройдет быстрее благодаря усовершенствованиям, внесенным во второе поколение. Следующие поколения будут становиться все умнее, а процесс их создания начнет ускоряться. У людей будет сохраняться ощущение, что они контролируют ситуацию, пока в один прекрасный день скорость усовершенствования не достигнет критического порога и не появится суперинтеллект, который станет править на Земле.

В некоторых версиях истории роботы представали микроскопическими созданиями, «серой слизью», пожирающей Землю, либо сама Сеть вдруг оживала и объединяла все связанные ею компьютеры в армию, чтобы контролировать то, что происходит на планете. В результате люди получали возможность наслаждаться бессмертием в виртуальной реальности, поскольку глобальный мозг оказывался настолько огромным, что не составляло труда – не требовало мозгов, простите за каламбур – сохранить все наши индивидуальные личности навечно.

Грядущая сингулярность популярна в технологическом обществе. Книги о сингулярности так же привычны в разделе компьютерных дисциплин, как образы Апокалипсиса в евангелических книжных магазинах. (В том случае, если вы не знакомы с понятием Апокалипсиса, – это красочное представление о конце света, бытующее в американской евангелической культуре. В моем детстве в сельской местности Нью‑Мехико изображения Апокалипсиса можно было частенько встретить на бензозаправках и в скобяных лавках. Обычно это были автомобили, врезающиеся друг в друга, потому что их добродетельных водителей призвали на Небеса перед тем, как на Земле воцарится ад. В чрезвычайно популярных романах серии «Оставленные» также описан подобный сценарий.)

В идеях, связанных с сингулярностью, возможно, и есть определенная доля истины в самом широком понимании реальности. Действительно, на некоем безграничном космическом уровне неизбежно будут возникать более высокие формы сознания, пока вся вселенная не превратится в мозг или что‑то вроде того. Даже в более скромном масштабе миллионов или тысяч лет гораздо интереснее представлять, что человечество эволюционирует до некоего изумительного состояния, которое мы сейчас не способны представить. Единственной альтернативой такому сценарию может быть полное вымирание или глубокий застой, что явилось бы большим разочарованием, так что давайте надеяться на будущее совершенствование человечества.

Различие между здравым смыслом и фанатизмом состоит в том, насколько верующий в состоянии не спутать масштабы последствий. Если вы верите в Апокалипсис, в близость второго пришествия или иные чудеса, едва ли решение проблем нашей жизни будет для вас приоритетным. Вы даже можете с готовностью принимать войны, допускать существование бедности и болезней, поскольку они создают условия для приближения Апокалипсиса. Аналогично, если вы верите в скорый приход сингулярности, то можете прекратить разрабатывать технологии для служения человеку, вместо этого готовясь к великим переменам.

В любом случае никто никогда не узнает, были ли вы правы. Технологии, слаженно работающие во имя совершенствования условий жизни человечества, всегда на виду – например, в оптимистичных фантастических произведениях типа сериала «Звездный путь».

Сингулярность, однако, влечет физическую гибель людей и загрузку их сознаний в компьютер, где они продолжат осознавать себя, или даже аннигиляцию человечества в тот неуловимый миг, который предшествует воцарению на Земле сверхразума. Общим у Апокалипсиса и сингулярности является то, что живых свидетелей их пришествия не останется.