Опасности компьютерных технологий

 

Любые широкоприменяемые технологии несут с собой как блага, так и опасности. Так, помимо тех очевидных преимуществ, которые дают нам компьютеры, с быстрым развитием этой технологии связано и множество потенциальных угроз обществу. Одной из главных проблем, по-видимому, является чрезвычайная сложность всех совокупностей взаимосвязей, с которыми мы сталкиваемся благодаря компьютерам, — она приводит к тому, что ни один отдельно взятый индивидуум сегодня просто не в состоянии охватить разумом ни происходящее в целом, ни его последствия. И дело не только в самих компьютерах и их технических возможностях, но еще и в почти мгновенной глобальной связи между объединенными в сеть компьютерами по всему миру. Часть возможных проблем находит отражение в нестабильном поведении фондового рынка, где сделки теперь совершаются практически мгновенно на основании общемировых компьютерных прогнозов. Здесь, пожалуй, проблема заключается не столько в недостатке понимания каждым отдельным человеком всей взаимосвязанной системы как единого целого, сколько в нестабильности (не говоря уже о несправедливости), изначально заложенной в систему, которая идеально приспособлена для того, чтобы отдельные ее пользователи мгновенно сколачивали себе состояния путем опережения соперников в скорости счета или быстроте получения информации. Впрочем, вполне вероятно и то, что причиной различного рода нестабильностей и потенциальных опасностей станет одна лишь сложность системы как целого.

Подозреваю, что найдутся люди, которым возможный в недалеком будущем выход уровня сложности системы взаимосвязей за пределы человеческого понимания не покажется такой уж серьезной проблемой. Такие люди, возможно, верят в то, что когда-нибудь компьютеры и сами приобретут необходимое понимание системы. Однако, как мы могли убедиться, понимание отнюдь не относится к тем качествам, на которые компьютеры когда-либо окажутся способны, так что помощи с той стороны ждать не приходится.

Из одного лишь факта чрезвычайно быстрого развития компьютерных технологий (приводящего к тому, что компьютерная система чуть ли не на следующий день после своего появления на рынке становится морально устаревшей) вытекают и многие другие дополнительные проблемы. Необходимость в непрерывной модернизации и использование систем, зачастую не прошедших под давлением конкуренции надлежащих испытаний. — это лишь малая их часть, и в будущем ситуация вряд ли изменится к лучшему.

Глубинные же проблемы, с которыми мы только начинаем сталкиваться в новом высокотехнологичном, компьютеризованном и стремительно меняющемся мире, слишком многочисленны, и было бы безрассудством с моей стороны пытаться охватить их здесь все. Среди прочего в голову приходят разглашение частной информации, промышленный шпионаж и компьютерные диверсии. Еще одна тревожная возможность — «подделка» внешнего вида человека с целью использования, скажем, в телевизионной передаче для выражения мнений, какие «оригинал» ни в коем случае выражать не собирался100. Возникают и всевозможные социальные проблемы, не являющиеся непосредственно компьютерными, но с компьютерами так или иначе связанные — например, благодаря способности компьютеров замечательно точно записывать и затем воспроизводить музыку и изображение, таланты небольшой избранной группы исполнителей можно без труда распространить по всему миру, что, вероятно, поставит в весьма невыгодное положение остальных, не столь именитых артистов. С аналогичной проблемой мы сталкиваемся и в случае с так называемыми «экспертными системами», позволяющими поместить мастерство и опыт нескольких избранных специалистов — скажем, от юриспруденции или медицины — в код компьютерной программы, что может привести к нанесению ущерба остальным практикующим врачам и юристам. Впрочем, думаю, что заменить специалиста-человека такие компьютерные экспертные системы вряд ли смогут (их удел — специалисту помогать), поскольку они не способны на понимание, которое может дать только личное общение.

Разумеется, есть у всех этих разработок и «светлая сторона» — если все сделано правильно. Плоды мастерства других (неважно, художников или ремесленников) сегодня более доступны, и их может оценить гораздо большее количество людей. Что касается проблемы сохранности частной информации, то уже сейчас существуют так называемые «шифры с открытым ключом» (см. [138]), которыми могут пользоваться как отдельные индивидуумы, так и небольшие компании (при этом не менее эффективно, нежели компании крупные), и которые, по-видимому, обеспечивают абсолютную защиту от «подслушивания». Использование таких шифров стало возможным лишь теперь, при наличии быстрых и мощных компьютеров — хотя эффективность этого способа шифрования до сих пор ограничена вычислительной сложностью факторизации больших чисел (возможно, здесь на смену обычным придут квантовые вычисления; некоторые идеи, указывающие на возможность создания в будущем квантовых компьютеров, изложены в §7.3, см. также [277, 278]). Как я упоминал в §8.1, возможно, что скоро для защиты от подслушивания мы будем использовать квантовую криптографию, эффективность которой также зависит от скорости выполнения значительных объемов вычислений. Очевидно, что нет однозначного способа оценить преимущества и опасности, порождаемые любой новой технологией, будь она непосредственно связана с компьютерами или нет.

В качестве заключительного комментария к таким компьютерно-социальным проблемам я хочу представить читателю небольшую вымышленную историю, которая в некотором роде выражает то беспокойство, которое я ощущаю в связи с возникновением целой новой области потенциальных проблем. Насколько мне известно, об этом новом классе «компьютерных» опасностей еще никто не говорил, однако мне они представляются весьма серьезными.

 

Неправильные выборы

 

Приближается день долгожданных выборов. На протяжении последних недель были проведены многочисленные опросы общественного мнения. Результаты почти единодушно предсказывают отставание правящей партии по голосам на три-четыре процента. Как и ожидалось, имеются некоторые колебания и отклонения от этой цифры в ту или иную сторону — ожидалось, поскольку цифры в опросах базируются на относительно малых выборках (где-то в пределах нескольких сотен избирателей за раз), тогда как по населению в целом (несколько десятков миллионов человек) наблюдаются существенные изменения от места к месту. В самом деле, предел погрешности каждого из опросов и сам может составить те самые три-четыре процента, так что ни на один из опросов в действительности полностью положиться нельзя. И все же в совокупности свидетельства производят куда более выгодное впечатление. Взятые вместе, результаты опросов демонстрируют гораздо меньшую погрешность, а согласие между ними нарушается как раз таким разбросом, какой предсказывает статистическая теория. Усредненным результатам теперь, наверное, вполне можно доверять, причем погрешность составляет менее двух процентов. Поговаривают, правда, что в канун дня выборов цифры в опросах заметно сместились в пользу правящей партии; а в сам день выборов кое-кого из ранее воздержавшихся (или даже из активных противников) вполне могут «уговорить» отдать-таки правящей партии свой голос. Однако даже если так, это смещение не принесет правящей партии большой пользы, разве что полученный в результате отрыв от ближайшего соперника составит не менее 8% голосов, поскольку только в этом случае правящая партия получит то минимальное большинство голосов, которое необходимо для того, чтобы предотвратить объединение своих противников в коалицию. Впрочем, опросы — это всего лишь предварительные прикидки, разве нет? Только подлинное голосование выразит действительную волю народа, а какова эта воля, мы узнаем из подсчета голосов в день выборов.

День выборов настал… и прошел. Голоса подсчитали, и результат почти для всех оказался полной неожиданностью — особенно для организаций, проводивших опросы и вложивших в них так много сил и умения (не говоря уже о репутации). Правящая партия остается у власти, получив вполне удовлетворительное большинство голосов — те самые 8% преимущества над ближайшими соперниками. Огромное количество избирателей пребывает в полном недоумении — и даже в ужасе. Другие, хотя и удивлены не меньше, но весьма довольны. Однако результаты выборов не соответствуют истине. Они были фальсифицированы с помощью хитроумных средств, и никто ничего не заметил. Заранее наполненных урн для голосования там не было, бюллетени никто не терял, не подменивал и не дублировал. Люди, занятые в подсчете голосов, сделали свое дело добросовестно и по большей части без ошибок. И все же результаты выборов оказались чудовищно подтасованы. Как же так получилось, и кто это сделал?

Не исключено, что весь кабинет правящей партии в полном составе понятия не имеет о том, что произошло. Не факт, что кто-то из них является непосредственным виновником преступления, однако в выигрыше в результате оказываются они все. За кулисами скрываются другие, те, кто имеет основания опасаться за собственное существование, если правящей партии случится потерпеть поражение. Они входят в состав некоей организации, которая пользуется большим доверием у правящей партии (и не без причины!), чем у оппозиции, — партия не только строго и бережно хранит тайну темных делишек этой организации, но и способствует расширению ее деятельности. Хотя сама организация вполне законна, многое из того, чем она занимается, законным не назовешь, не чурается она и незаконных политических игр. Возможно, члены организации искренне (заблуждаться тоже можно искренне) опасаются, что противники правящей партии разрушат страну или даже «предадут» ее во имя чуждых идеалов иностранных держав. Есть в организации и свои эксперты — непревзойденные мастера — в области создания компьютерных вирусов!

Помните, что способен натворить компьютерный вирус? Ближе всего нам знакомы те, что в некий заранее назначенный день уничтожают всю информацию на дисках компьютера, этим вирусом зараженного. Бывает так, что пользователь сидит и с ужасом наблюдает, как буквы на дисплее его компьютера ссыпаются со своих мест в нижнюю часть экрана и исчезают. Бывает, на экране появляется какое-нибудь непристойное сообщение. В любом случае данные могут оказаться потерянными безвозвратно. Более того, если вставить в такой компьютер дискету и попробовать ее прочитать, то дискета тоже подхватит заразу и передаст ее при случае на другой компьютер. Замеченный вирус можно, в принципе, уничтожить с помощью антивирусной программы, но только в том случае, если природа вируса известна заранее. Если же вирус успел нанести удар, то поделать уже ничего нельзя.

Такие вирусы обычно создают хакеры-любители, зачастую этими хакерами становятся разочаровавшиеся в жизни программисты, желающие кому-нибудь насолить по тем или иным причинам, иногда вполне объяснимым, иногда нет. Однако члены упомянутой организации — отнюдь не любители; им немало платят, и в своей области они настоящие профессионалы. Возможно, многие из их действий продиктованы подлинной заботой об интересах родной страны, но бывает, несомненно, и так, что по указанию своих непосредственных начальников они делают вещи, менее простительные с точки зрения морали. Созданный программистами организации для известной цели вирус невозможно засечь стандартными антивирусными программами, и сработать он должен лишь однажды, в заранее назначенный день — вождь правящей партии, конечно же, знает, на какой день назначены выборы, знают об этом и те, кому вождь доверяет. После того, как задание будет выполнено, ~ а на этот раз задание предстоит куда более тонкое, чем просто стереть данные, — вирус самоуничтожится, не оставив после себя ни единого следа, если не считать, разумеется, самого преступления.

Для того, чтобы такой вирус надлежащим образом сработал на выборах, необходимо, чтобы какой-то этап в подсчете голосов происходил без участия людей (считающих либо вовсе без применения техники, либо с помощью карманного калькулятора). (Вирус может инфицировать только универсально программируемые компьютеры.) Допустим, содержимое отдельных урн считают люди и считают правильно; однако результаты этих подсчетов необходимо складывать. Насколько же эффективнее, точнее, да и современнее складывать эти числа — а их там, может быть, сотни — на компьютере, нежели вручную или с помощью калькулятора! Разумеется, никаких ошибок здесь просто быть не может. Чей бы компьютер ни использовался для подсчета общей суммы, результат будет одинаковым. Члены правящей партии получат в точности тот же результат, что и их главные противники, равно как и любая из третьих заинтересованных партий или вовсе нейтральный наблюдатель. Они даже могут использовать компьютеры разных моделей или марок, на результат это никоим образом не повлияет. Экспертам нашей зловещей организации об этих разных компьютерах известно все — и для каждого заготовлен свой вирус. По своей структуре вирусы для разных систем несколько отличаются друг от друга, однако последствия их «работы» будут одинаковыми, а согласие между результатами, полученными с помощью различных машин, убедит даже самых упрямых скептиков.

Несмотря на то, что все машины дадут одинаковые цифры, цифры эти все до единой будут неверными. Все цифры хитроумно фабрикуются в соответствии с некоей точной формулой, зависящей до некоторой степени от реального распределения голосов, — отсюда, согласие между результатами, полученными с помощью различных компьютеров, и смутное правдоподобие этих самых результатов, — с тем, чтобы дать правящей партии именно то преимущество, в котором она нуждается; и хотя доверчивость избирателей при этом подвергается некоторому испытанию, общий результат представляется вполне приемлемым. Все выглядит  так, будто значительное число избирателей в последнюю минуту решило проявить осторожность и проголосовать за правящую партию.

В гипотетической ситуации, описанной в этой истории, избиратели на самом деле вовсе не передумывали в последний момент, и результаты выборов оказались весьма далеки от истинного положения дел. Хотя на написание ее меня вдохновили наши последние (1992 год) выборы в британский парламент, я должен особо подчеркнуть, что официально принятая в Великобритании система подсчета голосов возможность такого рода мошенничества полностью исключает. На всех этапах подсчет выполняется вручную. Может, конечно, показаться, что этот метод неэффективен и давно устарел, однако отказываться от него еще, как мне представляется, рано — по крайней мере, до тех пор, пока не будет создана система, снабженная простыми и исключающими малейшее подозрение средствами защиты от подобного мошенничества.

С другой, более положительной, стороны, современные компьютеры предлагают замечательные возможности для введения систем голосования, в которых мнение избирателей будет представлено гораздо объективнее, чем сейчас. Здесь, разумеется, не место вдаваться в подробное обсуждение этих вопросов, однако суть такова, что новые системы позволяют избирателю не просто отдать свой голос за одного-единственного кандидата, но сообщить и множество иных сведений. Все эти сведения компьютерная система способна проанализировать мгновенно, и результат можно будет получить сразу же после окончания процедуры голосования. Однако, как показывает рассказанная выше история, применять такую систему следует крайне осторожно, даже если в ней предусмотрены всесторонние и общедоступные проверки, убедительно предотвращающие любое такое техническое мошенничество.

Осторожность следует проявлять не только на выборах; «вирусный» метод можно применить и в других ситуациях, например, подпортить банковские счета компании-соперника. Можно придумать множество различных способов вредоносного использования специально разработанных, незаметных и коварных компьютерных вирусов. Надеюсь, что моя история убедит читателей в том, что все действия компьютеров — даже самые очевидных действия даже самых надежных компьютеров — должны постоянно контролироваться человеком. И дело здесь не столько в том, что компьютеры ничего не понимают, сколько в том, что они крайне подвержены манипуляциям со стороны тех немногих людей, кто понимает все тонкости специфики их программирования.

 

Физический феномен сознания

 

Во второй части книги мы, не выходя за пределы научно объяснимого, попытались отыскать, если можно так выразиться, место в физике, пригодное для размещения субъективного опыта. Как выяснилось, для успеха такого поиска сегодняшние границы научного понимания придется расширить. Я почти не сомневаюсь в том, что то фундаментальное изменение, которому неминуемо должна подвергнуться наша традиционная картина физической реальности, придет откуда-то со стороны феномена редукции квантового состояния. Прежде чем физика сможет смириться с чем-то, настолько чуждым всем современным физическим представлениям, как феномен сознания, следует ожидать полного пересмотра самих основ всех существующих философских воззрений на природу реальности. По этому поводу у меня есть кое-какие краткие замечания, которые я приведу очень скоро — в следующем, последнем, параграфе. А пока давайте попробуем ответить на несколько более простой вопрос: где в известном физическом мире, учитывая предложенные на этих страницах доказательства, можно надеяться отыскать сознание?

Необходимо с самого начала внести полную ясность: выводы из упомянутых доказательств и прочих моих рассуждений носят, по большей части, «отрицательный» характер. Мы убедились, например, что современные компьютеры сознанием не обладают, но мы по-прежнему слабо представляем себе, что именно в объекте приводит к возникновению у него сознания. Основываясь на собственном опыте, мы полагаем (по крайней мере, пока), что феномен этот обычно присущ биологическим структурам. На одном конце шкалы у нас люди, и тут, конечно же, сомнений почти нет — что бы ни представляло собой в действительности сознание, оно, в нормальном своем состоянии, так или иначе связано с бодрствующим (а возможно, и со спящим) человеческим мозгом.

Что же мы видим на другом конце шкалы? Я убежден, что фокус нашего внимания следует переместить с нейронов на микротрубочки цитоскелета: именно там, вероятнее всего, возникают коллективные (когерентные) квантовые эффекты — а без такой квантовой когерентности не будет и новой OR -физики, которая, как мне представляется, должна стать необходимым невычислительным условием для объяснения феномена сознания в научных терминах. Однако цитоскелеты есть у всех эукариотических клеток — клеток, из которых состоят растения и животные; эукариотами являются и одноклеточные организмы, такие как парамеции и амебы, но не бактерии. Следует ли из этого, что парамеция также обладает некоторым зачаточным сознанием? Возможно ли, чтобы парамеция «знала» (в любом смысле этого слова), что делает? А что же отдельные клетки человеческого тела — клетки мозга, например, или клетки печени? Может быть, когда мы поймем физическую природу процесса осознания настолько хорошо, что будем в состоянии ответить на эти вопросы, нам придется признать, что ничего такого уж нелепого в этих предположениях нет. Я не знаю. Знаю я лишь то, что проблема эта является целиком и полностью научной, а это значит, что когда-нибудь решение неизбежно будет найдено, вне зависимости от того, насколько далеки мы от этого решения сейчас.

Иногда утверждают — исходя из общих философских принципов, — что узнать, обладает ли способностью к осознанию какое бы то ни было существо, отличное от тебя самого, принципиально невозможно, не говоря уже о том, чтобы выяснить, нет ли каких-нибудь зачатков сознания у парамеции. Думаю, такая позиция чересчур узка и пессимистична. В конце концов, когда речь идет об установлении факта наличия у некоего объекта того или иного физического свойства, никто же не настаивает на абсолютной уверенности. Настанет время, и на вопросы, касающиеся способности к осознанию, мы будем отвечать с той же степенью уверенности, с какой сегодняшние астрономы высказываются о небесных телах, удаленных от нас на многие световые годы. Еще совсем недавно ученые утверждали, что нам никогда не узнать, из чего состоят Солнце и звезды и что находится на обратной стороне Луны. Сегодня у нас есть подробные карты обратной стороны Луны (фотосъемка из космоса), а состав Солнца изучен до мельчайших подробностей (наблюдение линий солнечного спектра, а также тщательное и подробное моделирование физических процессов, происходящих внутри Солнца). Известен нам и подробный состав далеких звезд, причем с очень хорошей точностью. Мы можем даже сказать (и в некоторых отношениях — сказать точно), из чего состояла вся Вселенная на начальных этапах ее развития (см. конец §4.5).

Однако в отсутствие необходимых теоретических идей суждения относительно обладания сознанием не выходят (по большей части) из разряда предположений. Мое собственное предположение по этому поводу таково: с некоторых пор я совершенно уверен, что на планете Земля сознание не является исключительной прерогативой человека. В одной из наиболее захватывающих телевизионных программ Дэвида Аттенборо101 был эпизод, после просмотра которого зрителям было трудно не поверить не только в то, что слоны, например, способны на сильные чувства, но и в то, что чувства эти не так уж далеки от тех, из каких в человеческих обществах возникают религии. Вожак стада — самка, потерявшая около пяти лет назад сестру, — ведет стадо на место ее гибели, значительно отклоняясь от обычного маршрута; прибыв на место и обнаружив останки, вожак очень осторожно поднимает с земли череп, а затем слоны начинают передавать его друг другу, поглаживая хоботами. То, что слоны способны и на понимание, убедительно, хотя и жутковато, показано в другой телевизионной программе102. Фильм, отснятый с вертолета, участвующего в операции, деликатно называемой «отбраковкой», очень хорошо передает ужас, охватывающий слонов, когда они до конца осознают, что происходит, и понимают, что никто из стада живым отсюда не уйдет.

Множество свидетельств имеется и в пользу наличия сознания (и самосознания) у человекообразных обезьян, и я почти не сомневаюсь, что феномен сознания присущ и животным формам, значительно менее «высокоорганизованным». Например, в еще одной телевизионной программе103 — рассказывающей о чрезвычайной ловкости, решительности и изобретательности белок (некоторых) — меня особенно поразил фрагмент, в котором белка сообразила, что перекусив проволоку, она сможет освободить контейнер с орехами, подвешенный на некотором расстоянии от нее. Вряд ли этот акт понимания был инстинктивным или вытекал из какого-то прошлого опыта белки. Для того, чтобы оценить, насколько положительным окажется результат ее действия, белка должна была понять хотя бы на элементарном уровне топологию всей конструкции (см. также §1.19). Мне представляется, что в данном случае мы наблюдали проявление подлинного воображения — а для этого, разумеется, необходимо сознание!

Почти не остается сомнений и в том, что сознание может «присутствовать» в разной степени — между «в полном сознании» и «без сознания» возможны и другие состояния. О себе, например, я могу сказать совершенно определенно: иногда я чувствую себя более «в сознании», иногда — менее (скажем, во время сна сознание присутствует в гораздо меньшей степени, чем когда я бодрствую).

Насколько же далеко мы должны зайти в наших поисках? На этот счет существуют самые различные мнения. Что касается меня, то я с трудом представляю себе, что сознанием (в какой бы то ни было степени) могут обладать насекомые — особенно после того, как я увидел документальный фильм о жизни насекомых, где было показано, как некий жук с жадностью пожирает другого жука, совершенно, по всей видимости, не обращая внимания на то, что его самого в это время ест третий. Тем не менее, как упоминалось в §1.15, поведение простого муравья отличается чрезвычайной сложностью и точностью. Надо ли полагать, что замечательно эффективные управляющие системы муравья работают вовсе без участия того принципа (каким бы он ни был), благодаря которому мы сами получаем способность понимать? Управляющие нейроны муравья также не лишены цитоскелетов, и если в этих цитоскелетах имеются микротрубочки, способные поддерживать квантовокогерентные состояния, которые, согласно моему предположению, играют ключевую роль в процессе осознания, то не следует ли из этого, что муравей является счастливым обладателем того же самого неуловимого сознания, что и мы с вами? Если же микротрубочки в человеческом мозге и в самом деле обладают той неимоверной сложностью, что необходима для поддержания коллективных квантовокогерентных процессов, то не совсем понятно, почему естественный отбор развил такую способность только в нас и в наших ближайших многоклеточных родственниках (в некоторых из них, по крайней мере). Такие квантовокогерентные состояния могли оказаться весьма полезными и для первых эукариотических одноклеточных, хотя в чем эта полезность могла бы состоять, мы можем только предполагать.

Одной лишь макроскопической квантовой когерентности для возникновения сознания, разумеется, недостаточно — иначе сознанием обладали бы и сверхпроводники! Однако вполне вероятно, что такая когерентность является частью того, что для сознания необходимо. Мозг обладает чрезвычайно сложной организацией, и поскольку сознание, по-видимому, представляет собой результат глобальной координации всевозможных мыслительных процессов, следует искать когерентность в масштабах, гораздо более крупных, нежели отдельные микротрубочки или даже целые цитоскелеты. Должна существовать существенная квантовая сцепленность между состояниями, поддерживаемыми внутри отдельных цитоскелетов во многих нейронах, — т.е. нечто вроде коллективного квантового состояния, охватывающего обширные области мозга. Однако и этого недостаточно. Для того, чтобы в системе могли происходить какие бы то ни было полезные невычислимые процессы — что я считаю существенной частью сознания, — необходимо, чтобы система была способна специфическим образом задействовать подлинно неслучайные (невычислимые) аспекты OR -процедуры. Предположение, которое я сделал в §6.12, дает нам (по крайней мере) некоторое представление о соответствующих масштабах, начиная с которых можно говорить о каком-то существенном действии точной и математически невычислимой OR -процедуры.

Таким образом, предложенные мною в настоящей книге соображения дают в некотором роде основу для высказывания правдоподобных догадок (пока, во всяком случае) относительно уровня, на котором можно ожидать возникновения способности к осознанию. Процессы, которые могут быть адекватно описаны в рамках вычислимой (или случайной) физики, не могут, согласно моей точке зрения, иметь отношения к сознанию. С другой стороны, даже существенное участие точной невычислимой OR -процедуры само по себе вовсе не обязательно подразумевает наличие сознания — хотя и является, на мой взгляд, необходимым для этого условием. Разумеется, критерию не достает определенности, однако ничего лучшего на данный момент у меня нет. Посмотрим, далеко ли он нас заведет.

Будем исходить из сделанных в §6.12 предположений относительно того, где должна проходить граница между классическим и квантовым уровнями, а также из изложенных в §§7.5-7.7 биологических умопостроений, согласно которым эту границу, возможно, следует искать где-то в области сопряжения внутренних и внешних процессов в системах микротрубочек клетки или совокупности клеток. В качестве существенного дополнения заметим, что если редукция вектора состояния происходит просто потому, что рассматриваемая система оказывается сцеплена с слишком большим объемом окружения, то процедуру OR можно считать эффективно случайным процессом, для описания которого вполне пригодна стандартная FAPP-аргументация (представленная в общих чертах в §6.6); процедура OR в данном случае полностью идентична процедуре R. Необходимо, чтобы эта редукция происходила в точности тогда, когда начинают действовать невычислительные (и пока неизвестные) правила нашей гипотетической OR -теории. Хотя об этих правилах мы ничего не знаем, мы можем (по крайней мере, в принципе) составить некоторое представление о том уровне, на котором теория начинает соответствовать реальности. Таким образом, для того, чтобы упомянутые невычислимые аспекты процедуры OR смогли сыграть свою роль, необходимо, чтобы та или иная квантовая когерентность поддерживалась до тех пор, пока перемещение вещества (вследствие взаимодействия между внутренними и внешними микротрубочковыми процессами) не достигнет определенного предела, как раз достаточного для того, чтобы OR -процедура произошла прежде, чем успеет вмешаться случайное окружение.

Что касается микротрубочек, то я предлагаю следующую картину: внутри трубок происходят «квантовокогерентные колебания», слабо связанные с вычислительной «клеточноавтоматной» активностью, обусловленной конформационными переходами димеров тубулина на внешней поверхности трубок. Пока квантовые колебания остаются изолированными, уровень для OR слишком низок. Однако, поскольку процессы внутри и снаружи связаны, квантовое состояние вскоре захватывает тубулины, и на некотором этапе происходит редукция (OR). Необходимо, чтобы OR происходила прежде, чем с квантовым состоянием окажется сцеплено микротрубочковое окружение, потому что как только возникает такая сцепленность, невычислимые аспекты OR -процедуры теряются, и она превращается в «обычную» R -процедуру.

Итак, остается лишь выяснить, достаточна ли конформационная активность тубулина в отдельной клетке (в парамеции, например, или в клетке человеческой печени) для того, чтобы обусловленное ею перемещение масс удовлетворило бы критерию из §6.12 и процедура OR произошла бы именно тогда, когда нужно, или же этой активности недостаточно, и OR задержится до тех пор, пока окружение и в самом деле не возмутится, — и игра (призом в которой невычислимость) будет проиграна. Судя по первому впечатлению, так оно и есть — конформационная активность тубулина перемещает слишком малое количество вещества, и на требуемом уровне никакой OR -процедуры не происходит. Если же клеток много, ситуация выглядит гораздо более многообещающей.

Возможно, глядя на такую картину (в ее теперешнем виде) действительно не остается ничего другого, как предположить, что невычислительные условия для появления сознания могут возникнуть только в больших совокупностях клеток, что мы и имеем в случае достаточно большого мозга104. Однако я порекомендовал бы соблюдать (по крайней мере, на данном этапе) известную осторожность. Как физические, так и биологические аспекты предлагаемой картины сформулированы слишком приблизительно, чтобы можно было прямо сейчас делать какие-то однозначные выводы в отношении следствий из той точки зрения, которую я здесь представляю. Очевидно, что даже с учетом рассмотренных выше конкретных предложений потребуется еще немало исследований, как физических, так и биологических, прежде чем мы сможем сделать сколько-нибудь обоснованное предположение относительно места сознания в материальном мире.

Следует обратить внимание и на некоторые другие вопросы. Например, какая часть мозга действительно задействована в поддержании состояния сознания? Вероятнее всего, весь мозг для этого не требуется. Похоже на то, что многие функции мозга с сознанием никак не связаны. Взять хотя бы мозжечок (см. §1.14), который, как это ни поразительно, работает абсолютно бессознательно. Именно мозжечок отвечает за координацию и точность наших действий в тех случаях, когда эти самые действия выполняются без участия сознания (см., например, НРК, с. 379-381). Из-за полной бессознательности его функций мозжечок часто называют «просто компьютером». Было бы, несомненно, весьма поучительно выяснить, есть ли какие-нибудь различия (и если есть, то какие именно) между клеточной или цитоскелетной организациями мозжечка и головного мозга, поскольку именно с последним, по всей видимости, гораздо более тесно связано сознание. Интересно, что если судить лишь по количеству нейронов, то разница между мозгом и мозжечком невелика — в мозге нейронов всего лишь в два раза больше, чем в мозжечке, причем отдельные клетки в мозжечке образуют, в общем случае, значительно больше синаптических связей, чем клетки мозга (см. §1.14 и рис. 1.6). Очевидно, простым подсчетом нейронов тут не обойтись, следует искать глубже[59].

Возможно, что-либо поучительное удастся извлечь и из изучения процесса «научения», посредством которого движения, первоначально осознаваемые мозгом, переходят под бессознательный мозжечковый контроль. Не исключено, что «обучающие процедуры» мозжечка окажутся очень похожими на те, с помощью которых приверженцы коннекционистской философии обучают искусственные нейронные сети. Впрочем, даже если так оно и есть и даже если верно также то, что в терминах таких процедур можно объяснить (хотя бы частично) работу мозжечка — что подразумевается, например, в коннекционистском подходе к исследованию зрительной коры105 — нет никаких оснований полагать, что то же непременно окажется верно и в случае тех аспектов деятельности головного мозга, которые связаны с сознанием. В самом деле, как свидетельствуют представленные в первой части книги доказательства, для объяснения высших когнитивных функций, непосредственно связанных с сознанием, необходимо нечто, в корне отличное от коннекционизма.

 

Три мира и три загадки

 

Попробуем свести все вышесказанное вместе. На протяжении всей книги мы пытаемся найти ответ на главный вопрос: как можно соотнести феномен сознания с нашим научным мировоззрением? Надо признать, я мало что могу сказать о сознании вообще. Поэтому я сосредоточился (в первой части) на одном частном ментальном качестве: способности к сознательному пониманию, в частности, к математическому пониманию. Только на примере этого ментального качества я смог достаточно убедительно показать, что возникновение способности к пониманию в результате какой бы то ни было чисто вычислительной активности решительно невозможно, вычислением нельзя даже адекватно моделировать такую способность — особо следует отметить, что ничто в моих рассуждениях не указывает и на то, что математическое понимание в чем бы то ни было принципиально отличается от прочих видов понимания. Отсюда вывод: какая бы активность мозга ни отвечала за сознание (по крайней мере, в этом конкретном его проявлении), она должна основываться на физических процессах, описать которые численное моделирование неспособно. Во второй части мы попытались найти область в науке для соответствующего физического процесса, действительно способного вывести нас за пределы чистой вычислительности. Для того чтобы охватить встающие перед нами при этом фундаментальные проблемы, я воспользуюсь в дальнейшем метафорой трех различных миров и трех «великих загадок», связывающих эти миры вместе. Миры в чем-то похожи на те, что описывал Поппер (см. [309]), однако акценты я расставляю совершенно иначе.

Наиболее близок нам мир наших сознательных восприятий — знание об этом мире мы получаем самым непосредственным образом и о нем же мы знаем меньше всего в смысле точного научного описания. В этом мире есть счастье, боль и цвет. В нем хранятся наши самые ранние детские воспоминания и ждет своего часа страх смерти. В нем — любовь, понимание, знание различных фактов, а