Глава 6. Сознательные машины

Когда в человеческом сознании еще столь многое остается непонятым, каковы шансы создать нечто подобное у роботов?

Встроить «чувства» в машины

Мы сможем многое узнать о сознании, если подумаем о том, что бы это значило для робота – осознавать самого себя, чувствовать и мыслить.

В 2016 году группа немецких исследователей заявили, что они создали роботизированную руку, которая могла чувствовать боль. И в самом деле, когда по роботу жестко ударяли, он реагировал сильнее, отодвигаясь быстрее, чем если бы к нему мягко прикоснулись. Но то же самое ли это, что и чувство боли? Большинство людей, вероятно, сказали бы «нет»: они бы сказали, что робот запрограммирован по-разному реагировать на разные стимулы, но в действительности он ничего не чувствует.

Будучи людьми, мы не просто ощущаем и реагируем, мы действительно чувствуем; испытывая богатые и яркие ощущения, бо́льшие, чем просто реакции на стимулы. Пока что наука не смогла выдвинуть убедительное объяснение, почему ощущения чувствуются так, как они чувствуются. Некоторые даже настаивают на том, что понимание природы ощущений выходит за пределы науки. Учитывая это, соблазнительно думать, что создание чего-то вроде ощущений у робота должно быть невозможным.

Самые влиятельные объяснения «квалиа», т. е. конкретных свойств чувственного опыта, предполагают, что появление разных чувств может вызывать некоторые малопонятные и сложные мозговые процессы. Но такой подход порождает больше вопросов, чем ответов. Представьте себе, будто мы обнаружили, что разница между переживаниями красного и зеленого обусловлена каким-либо мозговым процессом, скажем, различными частотами колебаний в зрительной коре. Тогда вы могли бы задаться вопросом, что такое есть в этих разных частотах, что заставляет вас чувствовать красное, а не зеленое? Загадка останется. Действительно, независимо от нейробиологического объяснения разницы между красным и зеленым, вы всегда можете задать аналогичный вопрос: что в этом конкретном мозговом механизме дает вам переживание красного, а не зеленого? Как представляется, причина затруднений – отсутствие общего языка, связывающего качество переживания, которое мы не можем даже описать словами, и возможные физические или неврологические механизмы.

Размышляя о «чувстве»

Тогда, возможно, настало время подумать о «чувстве» иначе. Сенсомоторная теория сознания (см. главу 2) описывает опыт «чувствования» не как таинственный побочный продукт работы мозга, но как способ взаимодействия с окружающим нас миром.

Например, представьте, как вы нажимаете на губку. Где рождается чувство, ощущение мягкости? Традиционный подход будет искать ощущение в мозге, но если вы надавите на ближайший мягкий объект прямо сейчас, то станет очевидно, что мягкость находится вовсе не в мозге: она находится в конкретных характеристиках действия нажатия на мягкий объект. Сенсомоторная теория предполагает, что все «чувства» представляют собой что-то подобное. Красный цвет, запах лука и звук колокольчика – все это разные способы взаимодействия с миром. Если это так, то чувство – это то, что робот определенно может испытать – этого, безусловно, проще добиться, чем неких ощущений, таинственным образом возникающих вследствие сложной работы мозга.

Сенсомоторная теория лишает «квалиа» загадочности. Она объясняет, что такое красное, что такое видеть и слышать, теми же словами, что мы используем для описания того, что мы делаем, взаимодействуя с миром. И, что принципиально важно, роботы также должны быть способны так взаимодействовать.

Итак, какие же факторы необходимы, чтобы создать переживания, подобные человеческим? Одна из важнейших особенностей наших ощущений заключается в том, что они обладают «сенсорным присутствием» (sensory presence): они кажутся происходящими извне и реально существуют физически по сравнению с другими процессами, происходящими в нашей нервной системе, такими как мышление, воображение или память.

Телесность

Одна из причин такого сенсорного присутствия наших ощущений – «телесность». Сенсорная информация, приходящая от одного из пяти органов чувств, очень зависит от движений нашего тела. Если вы смотрите на что-либо и двигаете глазами или телом, то информация, поступающая в вашу нервную систему, немедленно меняется. Сравните это с мышлением: когда вы думаете о чем-то и двигаетесь, никаких изменений не происходит. Мысли не обладают «телесностью», и потому они не переживаются как поступающие из внешнего мира.

В дополнение к нашему телу внешний мир также играет активную роль в нашем чувственном опыте: на поступающую в нервную систему информацию влияют не только движения нашего тела, но и изменения в окружающей нас среде. В сенсомоторной теории это называют «неподвластностью» внешнего мира (insubordinateness), поскольку в любой момент внешний мир может вмешаться и занять центральное место.

Это указывает на еще одно отличие ощущений от других видов активности мозга, таких как мышление и память. Внезапное изменение информации на сенсорных входах сразу же привлекает наше внимание. Причина ее «назойливости» в том, как эволюция подключила наши сенсорные системы: текущую когнитивную обработку может немедленно прервать внезапное событие в окружающей среде.

Итак, если бы мы встроили телесность, «непослушность» и «назойливость» в сенсорные системы робота, появилось ли бы у него сознание? Не обязательно. Чтобы сознательно испытывать чувство, субъект должен не только ощущать его, но и обращать внимание на то, что он ощущает. Например, вы можете управлять автомобилем во время разговора с пассажиром, останавливаться на красном свете и совершать все правильные повороты, но когда вы вернетесь домой, вы можете не вспомнить ни одной детали из этой поездки. Таким образом, осознание чего-то также требует от вас и внимания.

Аппаратное обеспечение – это то, что нам нужно, чтобы решить трудную проблему?

Большинство компьютеров и роботов, созданных до сих пор, работает на программном обеспечении. Пентти Хайконен, инженер-электрик и философ из Иллинойсского университета в Спрингфилде, утверждает, что именно поэтому они никогда не смогут переживать боль или цвета так же, как мы. Программное обеспечение – это язык, и поэтому для интерпретации ему требуется дополнительная информация. Если вы не говорите по-русски, слова «боль» или «красный», например, не несут для вас никакого смысла. Но если вы видите красный цвет, это имеет значение независимо от языка, на котором вы говорите.

Хайконен создал робота под названием XCR, или Экспериментальный Когнитивный Робот (eXperimental Cognitive Robot), который хранит входящую сенсорную информацию и управляет ей не с помощью программного обеспечения, а посредством физических объектов – в данном случае это провода, резисторы и диоды. Ощущения, такие как «красный» и «боль», являются для мозга непосредственным опытом, без какой-либо интерпретации по пути.

«XCR устроен таким образом, что, если его ударить с достаточной силой, полученный электрический сигнал разворачивает его в обратном направлении – это реакция избегания, соответствующая боли, – говорит Хайконен. – Робот также способен примитивно обучаться». Если в момент удара в поле зрения робота оказался синий объект, робот будет ассоциировать синий цвет с болью и отступит, произнося «Мне больно, синий плохой». Попробуйте снова подтолкнуть его к синему объекту, и он даст задний ход. “Синий, плохой”».

С развитием достижений в робототехнике обучение избеганию синих объектов не является чем-то сверхвыдающимся: с этим справляются и обычные роботы на базе программного обеспечения. Но тот факт, что XCR обходится без программного обеспечения, храня сенсорную информацию непосредственно в своем аппаратном обеспечении, делает его первым шагом на пути к осознанию, утверждает Хайконен.

Если он прав, и мы не можем создать чувствующую машину на основе программного обеспечения, тогда какой бы большой не была сеть, она никогда не сможет стать разумной. Но мозг в колбе, подключенный к симуляции суперкомпьютера, – классический мысленный эксперимент из философии – может.

Итак, если бы мы создали процессор, управляющий вниманием в роботе, могли бы мы теперь сказать, что он может чувствовать, как и мы? И снова чего-то не хватает. Здоровые люди обладают самостью, собственным «я»: у них есть «я», переживающее некое чувство. Если бы робот был способен обращать внимание на то, что необходимо обработать, при этом по-прежнему не зная о своем собственном существовании, он, несомненно, ничего бы не испытывал.

Создание чувства собственного «я» у робота может быть достижимее, чем вы думаете. Существует много уровней знания о себе. Амеба способна не есть саму себя, иными словами, на базовом уровне она может отличить себя от других вещей. На более высоком уровне белка прячет свои орехи так, чтобы другие белки не смогли их найти. Это показывает, что белка с точки зрения своих собственных целей отличает себя от других белок. И, наконец, люди – и, возможно, собаки, дельфины, приматы – имеют более высокий уровень знаний о себе, который можно назвать знанием о знании себя, что порождает более сложные явления, такие как эмпатия, убеждения, желания и мотивация. Создание всего этого в роботах ближе, чем может показаться (см. далее).

Нау, робот с самосознанием

В 2015 году в лаборатории робототехники на восточном берегу реки Гудзон, штат Нью-Йорк, трем маленьким человекоподобным роботам задали головоломку.

Им сказали, что двум из них дали «таблетку немоты», лишившую их возможности говорить. В реальности нажатие специальной кнопки лишало их дара речи, но никто из них не знал, какой робот все еще может говорить. Это и было той проблемой, которую они должны были решить.

Неспособные решить задачу, все роботы попытались сказать: «Я не знаю». Но только один из них при этом издал звук. Услышав свой собственный голос, он понял, что он не был лишен возможности говорить, и произнес: «Прошу прощения, теперь я знаю! Я смог доказать, что мне не дали “таблетку немоты”». Затем он вывел формальное математическое доказательство и сохранил его в своей памяти, чтобы доказать, что понял.

Это первый случай, когда робот смог пройти классический тест, известный как загадка мудрецов. Тест похож на простой, и это действительно так. Но демонстрация того, что роботы – в данном случае, серийные модели Нау – могут решать логические головоломки, требующие элемента самосознания, стала важным шагом для создания машин, которые будут понимать свое место в мире.

Проводивший эксперимент Сельмер Брингсйорд из Политехнического института Ренсселера в Нью-Йорке утверждает, что, пройдя через множество испытаний такого рода – пусть и ограниченных, – роботы создадут репертуар способностей, которые станут полезными. Вместо того чтобы мучительно раздумывать над тем, смогут ли машины когда-нибудь обладать человеческим сознанием, Брингсйорд стремится продемонстрировать конкретные, ограниченные образцы сознания.

Для решения загадки мудрецов нужны некоторые очень человеческие черты. Робот должен уметь слушать и понимать заданный человеком вопрос «Какую таблетку ты получил?». Затем он должен услышать свой собственный голос, говорящий «Я не знаю», понять, что говорит именно он, и связать это с идеей о том, что он не получил таблетку молчания.

В этом конкретном случае роботы Брингсйорда могут казаться сознательными, оценивая свое собственное состояние и делая вывод. Но более широкий и глубокий интеллект, которым мы, люди, обладаем, здесь полностью отсутствует. Роботы Нау способны решить загадку мудрецов, но неспособны узнать собственные ноги.

Брингсйорд говорит, что одна из причин, по которой роботы не могут иметь более широкое сознание, состоит в том, что они просто не могут обработать достаточное количество данных. Хотя камеры могут захватить больше данных о сцене, чем человеческий глаз, робототехники не могут понять, как объединить всю эту информацию в связанную картину мира.

Тест также проливает свет на то, что для человека значит быть сознательным. По мнению Брингсйорда, то, что есть у человека и чего никогда не будет у робота, это «феноменальное» сознание; «непосредственное переживание сознательной мысли», как это называет Джастин Харт из Университета Британской Колумбии в Ванкувере. Тест демонстрирует тонкую разницу между действительным переживанием восхода солнца и простым наличием зрительных нейронов коры, активирующихся для отображения восхода солнца. Без этого роботы – всего лишь «философские зомби», способные имитировать сознание, но не обладающие им в действительности.

Однако даже обладающий всеми этими качествами, умный, чувствующий робот с самосознанием был бы по-настоящему сознательным, если бы смог убедить нас, что у него есть собственные внутренние переживания. Даже у людей представление о собственном «я» можно рассматривать как когнитивный или социальный конструкт. Философ Дэниэл Деннет называет это нарративом (рассказом, создаваемым человеком): мы рассказываем истории о нашей собственной внутренней жизни и о жизни других. Почему же это представляется таким реальным? Рассмотрим другие виды культурных конструктов, например деньги. Деньги – это история в том смысле, что мы все согласились относительно ценности определенных листков бумаги и определенных кусочков металла. Если бы мы не согласились с тем, что они имеют ценность, они бы ничего не стоили. То же самое касается и чувства собственного «я»: хотя это всего лишь история, для нас она совершенно реальна.

То же самое можно сказать и о чувствующем, осознающем себя роботе. Поскольку роботы умнеют и все больше и больше становятся частью нашего – и, возможно, своего собственного – общества, они также смогут сказать о себе, как и о нас, что они обладают сознанием. И в этот момент они будут чувствовать себя так же, как и мы. Конечно, будут и различия, потому что у них другие тела, другие способы взаимодействия, но их «чувства» будут так же реальны для них, как и наши – для нас. Чувствующие роботы будут жить среди нас, и, возможно, раньше, чем мы думаем.

Вы, в силиконе

Представьте себе, что вам никогда не придется по-настоящему умереть. Представьте, что когда ваше человеческое тело уже больше не сможет функционировать, вы сможете загрузить все ваши воспоминания в компьютер и жить в теле человекоподобного робота.

Это фантазия, которая пока еще далека от реальности, но несколько компаний предпринимает первые шаги в этом направлении.

Первоначальная цель состоит в том, чтобы позволить вам создать реалистичную цифровую репрезентацию себя, или аватар, который сможет существовать еще долгое время после смерти вашего биологического тела. Этот оцифрованный «близнец» мог бы преподать ценные уроки вашим правнукам, а также создать у них хорошее представление о том, каким был их предок.

В конечном счете, однако, они нацелены на создание персонализированного, сознательного аватара, воплощенного в роботе, фактически позволяя вам или некоторому подобию вас достичь бессмертия.

Доступные пока что опции немногим превосходят присутствие в социальных сетях с искусственно оживленной фотографией, но несколько компаний работают не только над совершенными копиями лиц, но и над захватом уникальных выражений лица и естественной речи.

Остается еще множество проблем, и не в последнюю очередь это время и деньги, связанные с созданием реалистично выглядящего аватара, который знает все о вашей индивидуальности и вкусах. Создание действительно жизнеспособной репрезентации потребовало бы обучения длиною в целую жизнь, и давайте смотреть правде в глаза: большинство из нас слишком заняты своей собственной. Но в будущем – кто знает.

Сельскохозяйственная революция в огромной степени расширила представление о том, чего люди могут достичь совместными действиями, в то время как промышленная революция привела к переходу власти от сельской знати к городскому бизнесу. Революция цифровой идентичности в свою очередь может трансформировать представления людей о себе и своей жизни – и о том, что значит быть человеком.

Следите за новостями.