Врезка H. На грани этически допустимого

Технологические достижения подвели нас к новым этическим границам. Должны ли мы использовать ошеломляющие достижения в области биологии только для лечения болезней и устранения последствий травм, или нам стоит также заняться усовершенствованием человека?

Если мы примем второй вариант, то рискуем превратить родительство в еще одно проявление общества потребления, и в этом случае наши дети могут превратиться в товар, сделанный на заказ по нашим пожеланиям. А что значит «быть лучше»? Быть свободным от болезней? Жить дольше? Быть умнее? Бегать быстрее? Иметь определенную внешность?

Такие же сложные, подводящие нас к границам допустимого вопросы встают перед нами в отношении искусственного интеллекта. Задумайтесь о возможности того, что машины будут думать быстрее нас или даже успешнее нас. У Amazon и Netfix уже есть алгоритмы, позволяющие предсказывать, какие фильмы и книги мы можем захотеть посмотреть и почитать. Сайты знакомств и сайты для поиска работы предлагают нам возможных партнеров или рабочие места в нашем районе или в любых регионах мира, которые с точки зрения этих систем будут наиболее для нас подходящими. Что же делаем мы? Станем ли мы доверять рекомендациям, которые даст нам некий алгоритм, или советам членов нашей семьи, друзей или коллег? Будем ли мы обращаться за помощью к доктору-роботу, снабженному искусственным интеллектом, чьи диагнозы отличает идеальная или почти идеальная точность, или продолжим приходить к врачу-человеку, умеющему своим поведением успокоить пациента, врачу, который знает нас уже много лет?

Когда мы рассматриваем эти примеры и их последствия для человека, то вступаем на неизведанную территорию, наблюдаем зарю преобразования человека, которое не похоже ни на что из того, что человечество переживало прежде.

Другой важнейшей проблемой является потенциал предсказания будущего, которым обладает искусственный интеллект и устройства, снабженные функциями самообучения. Если наше собственное поведение в любой ситуации становится предсказуемым, то сколько личной свободы у нас останется, и не будем ли мы чувствовать, что должны действовать так, чтобы прогноз не оправдался? Может ли такой процесс развития привести к ситуации, когда сами люди начнут действовать, как роботы? Это также подводит нас к более философскому вопросу: как нам сохранить свою индивидуальность, на основе которой становятся возможными демократия и разнообразие людей, в цифровую эпоху?

Подключенность человека

Как становится ясно из рассмотрения этических проблем, описанных выше, чем больше мир базируется на цифровых и передовых технологиях, тем больше растет потребность ощущать участие человека, поддержку, которую дают нам близкие отношения и социальные связи. Все чаще высказываются опасения, что по мере того, как четвертая промышленная революция будет углублять наши личные и коллективные отношения с технологией, будут ухудшаться наши социальные навыки и способность к эмпатии. Мы видим, что это уже происходит. Проведенное в 2010 году научной группой в Университете штата Мичиган исследование показало снижение показателя эмпатии среди сегодняшних студентов колледжей на 40 % (по сравнению со студентами, учившимися два или три десятка лет назад), причем значительная часть этого спада пришлась на период после 2000 года[64].

По данным Шерри Теркл из Массачусетского технологического института, 44 % подростков никогда не отключаются от Интернета, даже во время занятий спортом или за едой с семьей или друзьями. Беседу лицом к лицу вытесняет общение в режиме онлайн, и есть опасения, что целое поколение молодых людей, увлеченных социальными медиа, будет с большим трудом слушать собеседника, поддерживать с ним контакт глазами или понимать язык жестов и поз[65].

Примером этого могут служить наши отношения с мобильными технологиями. Тот факт, что мы всегда подключены к сети, лишает нас, возможно, одной из наших самых важных ценностей: времени, которое мы могли бы посвятить тому, чтобы остановиться, задуматься и душевно поговорить без применения технологий и социальных медиа. Теркл ссылается на исследования, показывающие, что во время беседы двух человек само присутствие телефона на столе между ними или в поле их периферийного зрения меняет и то, что они говорят, и степень их включенности в разговор[66]. Это не означает, что нам следует отказаться от телефонов, но стоило бы «более осмысленно» их использовать.

Другие специалисты выражают обеспокоенность в отношении сходных проблем. Николас Кар, автор работ, посвященных технологии и культуре, утверждает, что, чем больше времени мы проводим, погрузившись в воды цифрового пространства, тем больше снижаются наши познавательные способности по причине того, что мы прекращаем контролировать наше внимание: «Интернет по самому своему устройству является системой, где происходит вмешательство; машиной, ориентированной на то, чтобы отвлекать внимание. Когда нас часто отвлекают, наши мысли рассеиваются, наша память ослабевает, и мы испытываем напряжение и тревогу. Чем сложнее ход мысли, в который мы погружены, тем больший ущерб может быть причинен, если нас что-либо отвлечет»[67].

Еще в 1971 году Герберт Саймон, который получил Нобелевскую премию в области экономики в 1978 году, предупреждал: «Богатство информации приведет к убогости внимания». Сегодня ситуация стала намного хуже, особенно для лиц, принимающих решения. Они, как правило, перегружены слишком большим объемом «материала», из-за чего не могут сосредоточиться и работают «на повышенной передаче», в состоянии постоянного стресса. «В эпоху ускорения ничто не может вызывать большей радости, чем медленное движение, – пишет Пико Айер, эссеист и автор путевых заметок. – Во времена, когда кругом столько всего отвлекает наше внимание, ничто не сравнится с роскошью сосредоточиться на чем-то одном. В эпоху безостановочного движения ничто не требуется нам так остро, как остановиться и спокойно посидеть на одном месте»[68].

Существует риск, что наш мозг, уделяющий внимание всем цифровым приборам, которые обеспечивают нам круглосуточное подключение к сетям, превратится в вечный двигатель, постоянно пребывающий в состоянии лихорадочного возбуждения. Мне часто случается общаться с руководителями, которые рассказывают мне, что у них больше не находится времени на то, чтобы сделать паузу и задуматься, не говоря уже о такой «роскоши», как прочесть от начала до конца даже короткую статью. Во всех странах мира создается впечатление, что лица, принимающие решения, все более измотаны. Они настолько перегружены многочисленными конкурирующими друг с другом требованиями, что их сначала охватывает фрустрация, потом у них опускаются руки, а иногда они испытывают отчаяние. В нашу новую цифровую эпоху действительно сложно сделать шаг назад, хотя это и не совсем невозможно.