Закомпьютеризованный Мистер Джонс

Садапута даса

 

Писатели-фантасты часто пытаются решить проблемы старости и смерти, пользуясь идеей о том, что человек, в сущности, сложная машина.

В одной из типичных сцен доктора и техники обследуют голову умирающего Сэмюэла Джонса «цереброскопом», высоко чувствительным инструментом, который во всех деталях регистрирует синаптические связи нейронов в его мозгу. Затем компьютер систематически трансформирует эту информацию в программу компьютера, достоверно воспроизводя данный рисунок внутренней деятельности этого мозга.

При прогоне программы на подходящем компьютере подлинная личность Мистера Джонса как бы оживает посредством машины. «Я избежал смерти!» – восхищается компьютер через свой электронный звуковой генератор. Обследуя комнату стереоскопической вмонтированной телекамерой, закомпьютеризованный Мистер Джонс кажется несколько растерянным в своем новом воплощении. При беседе же со старыми друзьями «он» демонстрирует личные черты «Мистера Джонса» во всех деталях. В рассказе «Мистер Джонс» живет опять в форме компьютера. Теперь у него одна проблема – как бы его не стерли из памяти компьютера.

Хотя этот рассказ может показаться фантастичным, некоторые наиболее влиятельные мыслители из мира современной науки принимают очень серьезно основные принципы, заложенные в нём. В самом деле, исследователи, занимающиеся наукой о жизни, почти повсюду предполагают, что живое существо – всего лишь чрезвычайно сложная машина, построенная из молекулярных компонентов. В области философии и психологии это предположение ведет к неизбежному выводу, что ум представляет собой не более, чем биофизическое функционирование мозга. Согласно этой точке зрения, все слова, которые мы обычно применяем к человеческой личности, такие как сознание, восприятие, смысл, цель и ум, мы можем определить исключительно механистическими терминами.

Подобным умозаключениям всегда сопутствуют праздные размышления о создании машин, которые смогут проявить эти черты личности.

Но сейчас все это вышло за пределы одного только размышления. Приход современных электронных компьютеров дал нам новое поле для научного исследования, посвященного реальному созданию такой машины. Это поле исследования искусственного интеллекта или «познавательной инженерии», в котором ученые исходят из предположения, что цифровые вычислительные машины (ЦВМ) достаточной скорости и сложности могут, в самом деле, воспроизводить все аспекты сознающей личности. Так, в 1979 году университетский ежегодник Массачусетского технологического института объявил, что познавательная инженерия заключает в себе подход к вопросам ума и интеллекта, который «полностью отличается от подхода философов и психологов тем, что познавательная инженерия пытается создать интеллект».

В этой статье мы рассмотрим вопрос, может ли машина обладать сознательным «я», которое воспринимает самого себя видящим и действующим. Наш тезис: компьютеры, в принципе, могут генерировать сложный паттерн поведения, сравнимый с тем, который проявляет человек, но не могут обладать сознательным самосознанием без вторжения в принципы природы, которые выше принципов, известных современной науке. Ради смеха мы можем привести внушительные доказательства в поддержку этого тезиса на основе тех же концепций, которые служат фундаментом для исследований в области искусственного интеллекта. Что касается компьютеров, наиболее резонное заключение, к которому можно прийти на основе этих доказательств, однозначно гласит – компьютеры не могут быть сознательными. Когда эти аргументы применяются к машине человеческого мозга, они поддерживают альтернативное, немеханистическое понимание сознательного «я».

Для начала поднимем несколько вопросов о гипотетическом компьютере, обладающем интеллектом и сознательным самосознанием на человеческом уровне. Этот компьютер не должен копировать ум определенного человека, как наш Мистер Джонс, он должен просто как и мы обладать способностью осознавать мысли, чувства и то, что воспринимается посредством чувств.

Сначала давайте коротко рассмотрим внутреннее устройство нашего ощущающего компьютера. Так как он принадлежит к роду ЦВМ, он состоит из хранилища информации, или памяти; аппарата, называемого центральным процессором (ЦП); и различных приспособлений для обмена информацией с окружением.

Память – это просто пассивное средство для записи обширного количества информации в форме чисел. Мы можем изобразить типичную память компьютера как серию маркированных отделений, каждое из которых может хранить число. Некоторые из отделений обычно содержат закодированные числами команды, определяющие программу действия компьютера. Другие содержат различного рода данные, а третьи хранят промежуточные ступени вычислений. Эти цифры могут быть физически представлены в памяти как узор зарядов на микроминиатюрных конденсаторах, узор магнитных полей на маленьких магнитах или многими другими способами.

ЦП выполняет все активные операции компьютера, которые состоят из ограниченного числа простых операций манипулирования с символами. Эти операции в типичных случаях включают следующие ступени: первая, из определенного места (или «адреса») памяти ЦП находит кодированную инструкцию, сообщая какую операцию следует выполнить.

Согласно этой инструкции, ЦП может достать дополнительные данные из памяти. Затем ЦП исполняет саму операцию, это может включать ввод (передача числа в память из внешнего приспособления) или вывод (передача числа из памяти во внешнее приспособление). Операция может включать передачу числа в соответствии с каким-то простым правилом или перемещения числа из одного отдела памяти в другой. В любом случае заключительная ступень операции включает отбор адресов памяти, где надо искать следующую закодированную команду.

Деятельность компьютера состоит лишь из ступеней такого рода, исполняемых одна за другой. Коды команд, хранящиеся в пассивной памяти уточняют операции, которые ЦП должен произвести. Функция ЦП состоит в их последовательном исполнении. Физическая конструкция ЦП, как и конструкция памяти, может включать многие разнородные компоненты, от микроминиатюрных полупроводников до электромеханических реле. Только логическое устройство этих компонентов, а не их особая физическая конструкция определяет функционирование ЦП.

 

Тезис Черча

 

Легче понять операцию компьютера на простом примере. Рисунок 1. иллюстрирует программу команд компьютера для вычисления квадратного корня какого-то числа.¹

 

(1) | (2) | (3) | (4) | (5) |

 

1. Написать 0 в (2).

2. Увеличить (2).

3. Написать 0 в (3).

4. Скопировать (2) в (4).

5. Если (4) равно 0, идти к ступени 12.

6. Уменьшить (4).

7. Скопировать (2) в (5).

8. Если (5) равно 0, идти к ступени 15.

9. Уменьшить (5).

10. Увеличить (3).

11. Идти к ступени 8.

12. Если (3) не больше, чем (1), идти к ступени 2.

13. Уменьшить (2).

 

Рис. 1. Компьютерная программа для вычисления квадратного корня числа. Чтобы имитировать операцию компьютера, поставьте число в отделение (1) и следуйте инструкции, начиная со ступени 1. Когда ступень 13 будет заполнена, квадратный корень числа (округленный до целого) будет в отделении (2). (В этих инструкциях «увеличение числа» означает прибавление к нему единицы, а «уменьшение числа» означает отнимание от него единицы).

 

Тринадцать пронумерованных предложений соответствуют списку закодированных команд, хранящихся в памяти компьютера. (Здесь, для ясности, они написаны по-русски). Пять отделений соответствуют участкам памяти, которые хранят данные и промежуточные вычислительные ступени. Чтобы имитировать операцию компьютера, поместим, например, число 9 в отделение (1). Затем просто следуйте инструкциям. Когда вы исполните последнюю инструкцию, квадратный корень вашего первичного числа будет в отделении (2). В компьютере каждая из инструкций будет исполнена ЦП. Они иллюстрируют элементарные операции, выполняемые современными компьютерами (хотя эти операции не совсем соответствуют работе какого-то определенного компьютера).

Метод вычисления квадратного корня, данный в нашем примере, может показаться нескладным и неясным, но именно так действует компьютер: Вообще, практическое применение компьютеров основано на одном наблюдении. Оно состоит в том, что каждая фиксированная схема вычислений, когда-либо сформулированная, может быть сведена к списку простых операций, как в нашем примере, это наблюдение, обычно известное под названием тезиса Черча, впервые было проведено различными математиками в 30-ых и 40-ых годах нашего века, он предполагает, что, в принципе, любая схема манипулирования с символами, которую мы можем точно определить, может быть исполнена современным ЦВМ.

Теперь давайте рассмотрим наш гипотетический ощущающий компьютер. По мнению сторонников искусственного интеллекта, сложное поведение, присущее человеку, является лишь чрезвычайно сложной схемой манипулирования символами. Используя тезис Черча, мы можем разбить эту схему на программу команд, подобную нашему примеру на рисунке 1.

Единственная разница состоит в гом, что эта программа будет чрезвычайно длинной и сложной, она может доходить до миллионов ступеней.

Конечно, вплоть до теперешнего времени никто даже близко не подошел к произведению формального посимвольного описания человеческого поведения. Но ради аргумента давайте предположим, что такое описание написано и выражено в виде программы для компьютера.

Теперь, полагая, что компьютер исполняет такую чрезвычайно сложную программу, посмотрим, что мы можем понять о возможных состояниях сознания компьютера. Исполняя эту программу, ЦП выполняет только одну команду в любой заданный момент, а миллионы команд, содержащих остальную программу, будут существовать только как пассивная запись в памяти компьютера. Интуитивно кажется сомнительным, что всего лишь пассивная запись может иметь какое-то отношение к сознанию. Где в таком случае помещается сознание компьютера? В любой данный момент ЦП просто исполняет некоторые элементарные операции, такие как «Скопировать цифру отделения (16087002) в отделение (99945603)». Каким образом можно привести в соответствие эту деятельность с сознательным восприятием мыслей и чувств?

У исследователей искусственного интеллекта есть ответ на этот вопрос, базирующийся на идее уровней организации в компьютерной программе. Краткое объяснение и исследование этого ответа займет у нас несколько параграфов. Сначала нам надо узнать, что такое ‹уровни организации». Поэтому давайте еще раз рассмотрим простую программу компьютера на рисунке 1. Затем применим понятие уровней организации к программе нашего «ощущающего» компьютера и посмотрим, какой свет это понятие прольет на связь между сознанием и внутренними физическими состояниями компьютера.

 

Уровни организации

 

Хотя программа вычисления квадратного корня на рисунке 1, может показаться бесформенным списком команд, на самом деле она обладает определенной структурой, которая очерчена на рисунке 2, эта структура состоит из четырех уровней организации. На высшем уровне функция программы описана единственным предложением, в котором используется символ «квадратный корень». На следующем уровне значение этого символа определяется описанием метода, который программа использует, чтобы вычислить квадратный корень. В этом описании применяется символ «в квадрате», который таким же образом определяется на следующем более низком уровне в терминах другого символа, «сумма». Наконец, символ ‹сумм а» определяется на самом нижнем уровне в терминах комбинации элементарных операций, действительно используемых для вычисления сумм в программе. Обычно для описания каждого уровня используются только символы для обозначения элементарных операций или символы высшего уровня, определяемые на следующем нижнем уровне, а мы на рисунке 2., для ясности, использовали русские предложения.

 

1. Найдите квадратный корень Х.

2. Квадратный корень Х на единицу меньше, чем первое число Y, причем Y в квадрате больше, чем Х.

3. Y в квадрате есть сумма Y копий Y.

4. Сумма Y и другого числа есть результат увеличения этого числа Y раз.

 

Рис. 2. Уровень организации программы рис. 1. Программа на рисунке 1 может быть представлена в виде иерархии абстрактных уровней. Уровень элементарных операций находится внизу, и каждый следующий уровень пользуется символами (например «в квадрате»), которые определяются предыдущим уровнем.

 

Эти расположенные по степеням символические описания, на самом деле, определяют программу таким образом, что если мы начнем с первого уровня разворачивать каждый символ высшей ступени в терминах его определения на нижнем уровне, мы кончим переписью списка элементарных операций на рис. 1. Эти описания полезны, т.к. они сообщают доступным языком, что произошло в программе. Таким образом, мы можем сказать, что на одном уровне числа возводятся в квадрат, на другом они прибавляются, а на третьем они увеличиваются и уменьшаются. Уровни организации программы являются лишь абстрактными характеристиками списка операций, приведенного на рис. 1. Когда компьютер исполняет программу, уровни не существуют в каком-либо действительном смысле, т.к. компьютер, по сути, исполняет только элементарные операции списка.

На самом деле, мы можем пойти еще дальше, заявив, что последнее утверждение не совсем правильно, потому что так называемые «элементарные операции» сами являются символами, как увеличить (3), которые относятся к абстрактным характеристикам механизма, находящегося в основе компьютера. Когда компьютер производит операции, происходит следующее – материя и энергия претерпевают определенные изменения, согласно схеме определенной физической структурой компьютера.

В общем, любая программа компьютера, которая исполняет какие-то сложные задачи, может быть разложена в иерархии уровней описаний, подобных вышеприведенным. Исследователи искусственного интеллекта, в общем, представляют себе будущие «разумные» и «ощущающие» программы в терминах примерно такой иерархии: на нижнем уровне предполагают описание программы в терминах элементарных операций. Затем следуют несколько последовательных уровней, включающих математические процедуры большей и большей сложности и изощренности. После этого следует уровень, на котором они надеются определить символы, относящиеся к основным составляющим мыслей, чувств и ощущений. Затем следует серия уровней, включающая более и более сложные характеристики интеллекта, кульминирующие на уровне эго, или «я».

Вот как исследователи искусственного интеллекта понимают отношение между операциями компьютера и сознанием: сознание связано с высшими уровнями операции «ощущающей» программы – уровнями, на которых происходят символические трансформации, что прямо соответствует высшим чувствительным процессам и трансформациям мыслей. С другой стороны, нижние уровни не ввязаны с сознанием. Их структуру можно изменять, не влияя на сознание компьютера, пока символы высшего уровня даны равнозначными определениями. Обращаясь вновь к нашей программе вычисления квадратного корня, мы видим, что эта идея подтверждается тем, что процесс нахождения квадратного корня, содержащийся на уровне 2 рисунка 2, остается, в сущности, таким же, даже если мы определим операцию возведения в квадрат: на уровне 3 каким-то другим, но эквивалентным образом.

Если мы примем строго бихевиористическое использование слова сознание, тогда это понимание компьютеризованного сознания могло бы быть удовлетворительным, с тем допущением, конечно, что кто-то, действительно, способен создать программу с необходимой организацией на высшем уровне. Используя этот критерий, мы должны определить особые формы поведения как «сознательные», а другие – нет. В общем, последовательность актов поведения должна была быть довольно длинной, чтобы быть признанной «сознательной». Например, длинная речь может выявить сложные черты, которые определяю г ее «сознательной», но никакое из слов или коротких фраз, из которых она состоит, не будут достаточно длинны, чтобы отобразить такие черты. Подходя с таким критерием, хотелось бы пометить некоторые операции компьютера «сознательными», т.к. он обладает определенными абстрактными свойствами высшего уровня. Тогда можно было бы проанализировать общее поведение компьютера как «сознательное» в терминах этих свойств, а любая отдельная элементарная операция была бы слишком короткой, чтобы быть признанной «сознательной».

 

Определение сознания

 

Нас, однако, интересуют не категоризация форм поведения на «сознательные» или «несознательные», а скорее понимание действительного субъективного опыта сознательного осознания. Чтобы яснее отличить это понимание сознания от бихевиористического, мы коротко остановимся, на описании и определении этого понятия как предмета серьезного изучения. Под сознанием мы подразумеваем осознание мыслей и ощущений, которое мы прямо воспринимаем и знаем, что мы воспринимаем. Так как другие люди такие же, как и мы, естественно предположить, что у них такое же сознание, ели с этим согласиться, то из этого следует, что сознание является объективно существующей чертой действительности, которая имеет тенденцию ассоциироваться с определенными материальными структурами, такими, как тела живых людей.

Итак, когда человек слышит, что компьютер может быть сознательным, он, естественно, склонен истолковывать это утверждение вышеописанным образом. Так он представит себе, что компьютер может иметь субъективный сознательный опыт, соответствующий его собственному. По крайней мере, эта идея лежит в основе рассказа, с которого мы начали статью. Мы представляем, себе как закомпьютеризованный «Мистер Джонс» осматривает комнату через компьютерную телекамеру, пораженный своим удивительным превращением.

Если бы закомпьютеризованный Мистер Джонс мог иметь такой субъективный опыт, тогда перед нами была бы ситуация, изображенная на рисунке 3.

 

Сознательное осознавание мыслей, чувств и ощущений.

 

«Эго»

«Мысли», «чувства»

И «ощущения»

Основные чувствительные конструкции.

Утонченные математические процедуры.

Высшие операции.

Элементарные операции.

Компьютерная аппаратура.

 

 

Рис. 3 Отношение между сознанием и физическими структурами гипотетического ощущающего компьютера. Если мы предположим, что компьютер обладает сознанием, тогда и содержание сознания компьютера, и физическая компьютерная аппаратура реальны. Однако содержание сознания может соответствовать только абстрактным свойствам высшего порядка этой аппаратуры. Эти свойства представлены в заштрихованной секции иерархией символов. Такие свойства существуют только в абстрактном смысле – на самом деле они не существуют в физической аппаратуре компьютера.

 

С одной стороны, это значило бы, что существует сознательный опыт компьютера – его субъективный опыт цветов, звуков, мыслей и ощущений был бы подлинной реальностью. С другой стороны, существовала бы физическая структура компьютера. Однако мы не можем прямо провести соотношение сознания с действительным физическим процессом, протекающем в компьютере. Мы также не можем сопоставить сознание с выполнением отдельных элементарных операций, приведенных на рис. 1.

Согласно исследователям искусственного интеллекта, сознание должно соответствовать высшему порядку абстрактных свойств физических состояний компьютера, описываемых символами «мысль» И «чувство», которые находятся на вершине высочайшей пирамиды абстрактных определений. В самом деле, эти абстрактные свойства – единственно постижимые черты нашего ощущающего компьютера, которые могли бы иметь какое-то прямое отношение к содержанию сознания.

Так как сознание реально, а абстрактные свойства не реальны, мы можем только заключить, что что-то должно существовать в природе, которое каким-то образом «считывает» эти свойства с физических состояний компьютера. Это существо представлено на рис. 3 стрелкой, соединяющей реальное содержание сознания с высшими уровнями в иерархии абстрактных символов ощущающего компьютера. Это существо должно иметь следующие черты.

(1) Оно должно обладать достаточной различающей способностью, чтобы распознавать особые высокоабстрактные паттерны организации в структурах материи.

(2) Оно должно быть в состоянии устанавливать связь между сознанием и такими структурами материи. В частности, оно должно видоизменять содержание сознательного опыта в соответствии с изменениями, которые со временем претерпевают эти абстрактные свойства и структура материи.

Ясно, что для такого существа нет места в нашем теперешнем представлении о том, что происходит в компьютере. Мы можем заключить только, что это существо должно соответствовать черте природы, совершенно неизвестной современной науке.

Такое заключение напрашивается само собой, если мы предположим, что компьютер может быть сознательным. Конечно, мы можем избежать такого заключения, предположив, что ни один компьютер не может быть сознательным, что, возможно, так оно и есть. Но, не касаясь компьютеров, что мы можем сказать о соотношении между сознанием и физическим телом человека? С одной стороны, мы знаем, что люди обладают сознанием, а с другой стороны, современная наука учит нас, что человеческое тело является необыкновенно сложной машиной, состоящей из молекулярных частиц. Можем ли мы прийти к пониманию человеческого сознания, не требуя введения такого рода существа, которое описано в пунктах (1) и (2)?

Как это ни смешно, если мы пытаемся обосновать наше понимание на современной научной теории, то ответ будет отрицательным. И причиной тому является то, что все современные научные попытки понять человеческое сознание зависят прямо или косвенно от аналогии между человеческим мозгом и компьютером. На самом деле, научная модель человеческого сознания – машинное сознание!

 

Сознательное осознавание мыслей, чувств и ощущений.

 

«Эго»

«Мысли», «чувства» и «ощущения»

Основные сенсорные конструкции.

Наивысшие операции.

Основные нейронные операции.

Мозговая аппаратура.

 

 

Рисунок 4. Отношение между сознанием и физической структурой мозга. Содержание сознания и физические структуры реальны, но содержание сознания может соответствовать только абстрактным свойствам этих структур высшего порядка. Как и на рис. 3 эти свойства представлены иерархией символов в заштрихованной секции.

 

Механический мозг

 

Современные ученые считают мозг тем местом, где находится сознание. Они считают, что мозг состоит из множества различного характера клеток, каждая из которых является молекулярной машиной. Известно, что среди них нервные клетки, или нейроны, проявляют электромеханическую активность, грубо говоря, аналогичную той, которая имеется в логических переключательных элементах, используемых в схемах компьютера. Хотя в настоящее время ученые имеют довольно туманное представление о механической деятельности мозга, они, в общем, согласны в том, что эти нейроны образуют информационно-обрабатывающую сеть, эквивалентную той, что имеется в компьютере.

Эти предположения естественно ведут к картине мозга, изображенной на рис. 4. Здесь мысли, ощущения и чувства должны соответствовать высшим уровням деятельности мозга, которые похожи на высшие уровни организации сложной компьютерной программы. Высшие уровни деятельности мозга должны быть так же абстрактны, как и высшие уровни такой программы. В действительности они не существуют, так как все, что на самом деле происходит в мозгу, является физическим процессом, как, например, накачивание ионов натрия через стенки нервных клеток. Если мы попробуем объяснить существование человеческого сознания в рамках этой картины мозга, мы должны заключить (на основании прежней аргументации), что для объяснения связи между сознанием и абстрактными свойствами состояний мозга должно существовать некое существо, описанное в пунктах (1) и (2).

Далее, если мы тщательно рассмотрим настоящее научное мировоззрение, то увидим, что его понимание мозга как компьютера зависит не только от каких-то поверхностных деталей нашего понимания мозга. Скорее, на более глубоком уровне, это понимание исходит из механистического мировоззрения. Механистические объяснения явлений, естественно, базируются на системах калькуляций. По тезису Черча, все системы калькуляций могут, в принципе, быть представлены в терминах компьютерных операций. В результате, все объяснения явлений в современном научном мировоззрении могут быть выражены или в терминах компьютерных операций, или в равнозначных им терминах символических схем.

Это означает, что все попытки описать человеческое сознание в рамках современной науки непременно ведут к тем же проблемам, с которыми мы столкнулись при анализе машинного сознания². Чтобы объяснить сознание, мы неизбежно натолкнемся на существо, описанное в пунктах (1) и (2). И все-таки, в теоретической системе современной науки мы не найдем ни в мозге, ни в цифровой вычислительной машине ничего, что соответствовало бы этому существу. Действительно, современная теоретическая система никогда не смогла бы предусмотреть такое существо, потому что любое механистическое добавление к современному представлению, скажем, о мозге просто составило бы другую часть механистической системы и все равно потребовалось бы существо, удовлетворяющее пункты (1) и (2).

Очевидно, что если мы хотим объяснить природу сознающих существ, нам придется пересмотреть основной теоретический подход современной науки. Если мы не можем сделать это в механистических терминах, тогда мы должны быть готовы к какому-то другому образу научных объяснений.