Возможно ли создать машину-младенца?

 

Это давно и широко известная мечта: создать машину, которая поначалу будет учиться простыми способами, а затем начнет развивать в себе более сложные – и так до тех пор, пока не станет разумной.

 

Предприниматель: Почему бы не построить «машину-младенца», которая всему, что ей нужно, научится на собственном опыте? Дайте роботу сенсоры и двигатели и запрограммируйте его, чтобы он мог учиться, взаимодействуя с реальным миром – так, как это делают человеческие дети. Он может начать с простых схем вида «если ® то», а уж потом вывести более сложные.

 

На самом деле уже появлялось несколько реальных проектов с такой целью, и каждая из их систем сначала развивалась, но в конечном итоге прекращала свое обучение[64]. Подозреваю, обычно это происходит потому, что программе не удается разработать новые надежные способы репрезентации знаний. В самом деле, изобретение качественных методов представления знаний уже давно является одной из важнейших задач информатики. Однако, даже когда такие способы появляются, их редко начинают сразу же широко применять, поскольку необходимо также наработать навыки для эффективной работы с ними. И поскольку развитие таких навыков требует времени, пользователям придется терпеть достаточно долгие периоды, в течение которых производительность не повышается, а понижается[65] (см. разделы 6.7 и 9.4). Так или иначе, но пока еще не существует машины-младенца, которая умела бы непрерывно разрабатывать новые эффективные типы репрезентаций.

Еще одна проблема с «машинами-младенцами» заключается в том, что если система будет заучивать новые правила слишком неосмотрительно, то, скорее всего, накопит много бесполезной информации, отчего пострадает ее производительность. В разделе 8.5 утверждается, что, если обучение не осуществлять выборочно, путем присвоения соответствующих коэффициентов релевантности, из большей части своего личного опыта машина не сумеет выудить необходимой информации.

 

Предприниматель: Вместо того чтобы пытаться создать систему, которая учится сама, почему бы не сделать такую, которая просматривала бы интернет и извлекала знания из миллионов страниц содержательных текстов?

 

Это, безусловно, заманчивая идея, ведь во Всемирной паутине наверняка содержится больше знаний, чем способен когда-либо выучить человек. Однако нигде в Сети не указано, какие знания необходимы, чтобы все эти тексты понимать[66]. Рассмотрим, например, вот такую ситуацию, описанную в обычной детской книжке:

 

Мэри пригласили к Джеку на праздник. Она решила, что ему, наверное, понравится воздушный змей. Взяла свою копилку и потрясла. Та не издала никакого звука.

 

Типичный читатель предположит, что у Джека намечается праздник на день рождения и Мэри волнуется, потому что ей нужно будет принести Джеку подарок[67]. Хороший подарок на день рождения – это что-то, что понравится его получателю, и предположение, что Джеку может понравиться воздушный змей, также предполагает, что Джек – ребенок и что змей может быть подходящей игрушкой. Упоминание о копилке предполагает, что Мэри думает купить змея и ей нужны деньги, чтобы заплатить за него. Кроме того, копилка бы зазвенела, если бы в ней были монеты; это означает, что Мэри теперь столкнулась с финансовыми трудностями. Но если читатель не знает всех этих фактов, то подобная «простая» история покажется ему бессмыслицей, поскольку между предложениями нет явной связи.

 

Невролог: Почему бы не попытаться сделать копию мозга, используя то, что ученым известно о функциях различных его участков?

 

Мы узнаем новые подробности каждую неделю, но наших знаний пока еще не хватает даже для того, чтобы создать копию паука или змеи.

 

Программист: А как насчет альтернатив, таких как создание очень больших машин с огромными библиотеками статистических данных?

 

Такие системы могут научиться приносить пользу, но мне думается, что им никогда не развить особенного интеллекта, потому что они используют для репрезентации всех получаемых знаний числовые методы. Поэтому, пока мы не оснастим их возможностью высокоуровневой рефлексии, они не смогут репрезентировать концепции, необходимые для понимания того, что эти цифры означают.

 

Эволюционист: Раз мы не знаем, как сконструировать более совершенную машину-младенца, возможно, нам удастся заставить ее развиваться самостоятельно. Сначала можно написать программу, которая пишет другие программы, а затем вносит в них различные виды мутаций – и заставляет эти программы конкурировать за выживание в условиях, напоминающих реальные.

 

Нам потребовались сотни миллионов лет, чтобы эволюционировать от самых ранних позвоночных рыб, и вся эта вечность ушла на развитие структур, которые превратились в высокие уровни рефлексии, описанные в главе пятой. В следующих главах будут изложены аргументы в пользу того, что каждый ребенок активно использует эти высокоуровневые структуры при развитии уникальных человеческих методов репрезентации новых знаний и процессов. Мне кажется очевидным, что именно поэтому попытки создать «машину-ребенка» потерпели неудачу: нельзя научиться тому, что вы не можете репрезентировать.

 

Если вы хотите научить машину понимать абстракцию, скорее всего, машина должна быть способна репрезентировать эту абстракцию некоторым относительно простым способом.

Джон Маккарти, 1959

 

Я не пытаюсь отрицать все перспективы создания машины-младенца, но у меня есть подозрения, что любая система подобного рода будет развиваться слишком медленно, если только (или пока) ее не снабдят надлежащими методами репрезентации знаний; мы поговорим об этом в главе восьмой. В любом случае кажется довольно очевидным, что человеческий мозг с рождения оснащен весьма развитыми методами научения (некоторые из них начинают действовать лишь спустя значительный период времени после рождения). Исследователи, которые пытались создавать такие машины, использовали немало гениальных схем, но, как мне кажется, все они зашли в тупик потому, что у них не было способа преодолеть одну или более из перечисленных ниже проблем:

 

Парадокс оптимизации. Чем лучше система работает сейчас, тем более вероятно, что любое изменение ухудшит ситуацию, – поэтому ей становится все труднее отыскивать новые способы совершенствования.

Принцип привычки. Чем лучше работает некий процесс, тем больше мы будем полагаться на него и тем менее будем склонны разрабатывать новые альтернативы – особенно если новый метод не принесет хороших результатов, пока с ним не освоишься.

Барьер сложности. Чем больше взаимодействуют части системы, тем более вероятно, что каждое изменение будет вызывать неожиданные побочные эффекты.

 

Эволюция часто описывается как процесс выбора  полезных изменений, но по большей части эволюция заключается в отказе от изменений, имеющих негативные последствия! Именно поэтому большинство видов в процессе эволюции занимает узкие специализированные ниши, границы которых кишат всевозможными опасностями и ловушками. Мы слишком редко говорим о том, что, хотя генетическая эволюция может «учиться» избегать наиболее распространенных ошибок, она практически неспособна заучить большое количество очень необычных ошибок. И действительно, лишь немногие «высшие животные» сумели избежать этого, развив сходные с языковыми системы, посредством которых они могут сообщать своему потомству о событиях, произошедших с родственниками их предков.

Все это говорит о том, что машине будет сложно продолжать развиваться, если только она не выработает способа защиты от изменений, вызывающих отрицательные побочные эффекты. Отличным методом достижения этой цели, как в области инженерии, так и в биологии, стало разделение всей системы на части, способные к более независимому развитию. Именно поэтому все живые существа превратились в собрание отдельных частей (которые мы называем органами), каждая из которых имеет сравнительно небольшое количество связей с другими частями.

 

Неструктурированная система

 

«Орган- изованная» система

 

В организованной структуре изменение одного органа будет иметь меньшее отрицательное влияние на то, что происходит в других органах. В частности, возможно, именно поэтому ресурсы нашего мозга в процессе эволюции оказались орган-изованы в более или менее отдельные центры и уровни.

 

Нельзя ожидать, что мы найдем хорошую детскую машину с первой же попытки. Нужно поэкспериментировать с обучением одной такой машины и посмотреть, насколько хорошо она учится. Затем можно попробовать с другой и посмотреть, лучше ли выходит или хуже, [но] выживание наиболее приспособленного – это очень медленный способ измерять преимущества. Экспериментатор, используя свой интеллект, должен уметь ускорить его, [ведь] если он сможет проследить причину некоего недостатка, то, вероятно, сможет придумать и мутацию, которая его исправит.

Алан Тьюринг, 1950

 

 

Вспоминание

 

Когда нам в голову приходит новая идея или новый способ решения проблемы, у нас есть возможность сохранить их, сделав ментальную запись. Но такие записи бесполезны, если вы не умеете вызывать в памяти те из них, которые имеют отношение к стоящей перед вами задаче. По моему мнению, для этого требуются сложные механизмы.

 

Читатель: Если вспоминать – так сложно, то почему нам это кажется легким, простым и естественным процессом? Каждая идея напоминает мне о сходных, а те, в свой черед, тянут за собой все, что с ними связано, – и так, пока я не вспомню то, что мне нужно.

 

Почему «вспоминание» обычно кажется таким легким делом? Всю жизнь, насколько хватает памяти, вы всегда могли вызвать в памяти все, что с вами происходило. Однако вы вряд ли особенно хорошо помните свои ранние годы – в частности, развитие базовых способностей. Предположительно, в то время вам еще не хватало навыка, необходимого для создания таких воспоминаний. [См. Джонстон (1997)].

Из-за этой младенческой амнезии все мы вырастаем с упрощенным представлением о том, что такое воспоминания и как они работают. Возможно, собственная память кажется вам чем-то вроде блокнота, куда можно мысленно добавлять заметки. Или, быть может, вы храните каждую значимую единицу информации в отдельном ящичке, а позже, когда она вам нужна, каким-то образом вытаскиваете «ее» из ящичка – если посчастливилось найти. Но какие структуры мы используем для репрезентации этих «единиц» и как вызываем их в памяти, когда они нужны? Воспоминания были бы бесполезны, если бы (1) они не были привязаны к нашим целям и (2) мы не умели вспоминать то, что нам нужно, тогда, когда нужно.

В целях быстрого доступа к информации компьютерный специалист мог бы предложить, чтобы мы хранили все свои воспоминания в единой «базе данных» и использовали стандартную технику поиска по «совпадению». Однако большинство таких систем все же классифицируют вещи с точки зрения их признаков, а не с точки зрения целей, которых они способны достичь. Это чрезвычайно важно, ведь обычно мы меньше знаем о том, какую единицу ищем, чем о задаче, которую хотим с ее помощью выполнить, – потому что перед нами постоянно встают некие препятствия и мы пытаемся понять, как их преодолеть.

Поэтому, подозреваю, вместо того чтобы использовать какой-то «общий» метод поиска, каждый ребенок учится связывать любой новый фрагмент знаний с конкретными целями, достижению которых тот может служить, таким образом отвечая на следующие вопросы:

 

Для каких целей предназначена эта единица? Какие проблемы она поможет решить? Какие препятствия поможет преодолеть?

В каких ситуациях она может пригодиться? В каких контекстах может помочь? Каких подцелей нужно достичь сначала?

Как она применялась в прошлом? Какие в прошлом были аналогичные случаи? Какие еще записи могут быть здесь полезны? См. параграф «Коэффициент релевантности» в разделе 8.5.

 

Каждому фрагменту знаний могут еще требоваться связи с информацией о его недостатках – а также о риске и цене его использования:

Каковы его наиболее вероятные побочные эффекты? Чего он принесет больше – вреда или пользы?

Какова плата за его использование? Будет ли он стоить потраченных на него сил?

Каковы самые распространенные исключения и ошибки? В каких контекстах он может подвести и какие существуют хорошие альтернативы?

 

Мы также связываем каждый пункт с информацией о его источниках и тем, что могут знать другие люди.

 

Поступили ли эти данные из надежного источника? Некоторые осведомители могут просто ошибаться, а другие, возможно, специально обманывают.

Скоро ли они устареют? Вот почему в этой книге по большей части не обсуждаются современные теории о том, как работает человеческий мозг.

Кому еще они могут быть известны? Успешная социализация очень зависит от знания того, что могут понять другие люди.

 

Это вызывает вопросы о том, как мы создаем столько двухсторонних связей с каждым новым фрагментом знаний. Подозреваю, все это невозможно делать сразу, – и действительно, есть свидетельства того, что обычно для создания нового долгосрочного воспоминания требуется несколько часов или дней (в том числе несколько периодов сна со сновидениями). Кроме того, мы наверняка добавляем новые связи каждый раз, когда извлекаем фрагмент знаний, потому что обычно спрашиваем себя: «Как это знание помогло (или помешало) мне преодолеть препятствие?» В самом деле, исследования последних лет предполагают, что наши так называемые долгосрочные воспоминания не так постоянны, как мы привыкли думать; судя по всему, они могут меняться под влиянием предположений и опыта.

Всем известно, что память порой подводит. Кое-чего мы вообще вспомнить не можем. А иногда вспоминаем не то, что на самом деле произошло, а версию событий, которая кажется более правдоподобной. Бывает и так, что мы не можем вспомнить что-то важное и лишь потом – через несколько минут или дней – ответ внезапно возникает в голове, заставляя воскликнуть: «Какой же я дурак, я ведь это знал!» (Такое может происходить либо потому, что поиск существующей единицы занял много времени, либо потому, что ее и не было, а вам пришлось создать новую путем рассуждений.)

Так или иначе, подобные «пробелы» ожидаемы, ведь воспоминания должны быть избирательными; в разделе 4.4 уже упоминалось, как неудобно было бы постоянно помнить все: держать в памяти все те миллионы фактов, которые нам известны, – слишком большая нагрузка на мозг. Однако у нас до сих пор нет ответа на вопрос о том, как мы извлекаем знания, необходимые в конкретный момент. Я подозреваю, что суть главным образом состоит в том, чтобы наладить описанные выше связи заранее. Но для их построения требуются дополнительные навыки, которые мы обсудим в разделе 8.5.

В начале этого раздела прозвучал вопрос о том, как мы вызываем в памяти необходимые знания. Следующий раздел попытается доказать, что ответ отчасти кроется в тех связях с целями, которых каждый фрагмент знаний способен достичь. Чтобы это утверждение стало более наглядным, следующие несколько разделов мы посвятим тому, что такое цели и как они функционируют.

 

Намерения и цели

 

Никто не воображает, что качество симфонии должно повышаться по ходу ее исполнения или что весь смысл музыкального произведения заключается в достижении его финала. Суть музыки раскрывается в каждом моменте исполнения и восприятия. Точно так же, мне кажется, и с большей частью нашей жизни: чрезмерно поглощенные ее улучшением, мы можем вовсе забыть ее прожить.

Алан Уоттс, 1960

 

Иногда мы как будто действуем пассивно, просто реагируя на то, что с нами случается, но в другое время берем ситуацию под контроль и чувствуем, что сами выбираем свои цели. Подозреваю, это чаще всего случается, когда две или несколько целей становятся активными одновременно и тем самым приводят к конфликту. Ведь, как мы отметили в разделе 4.1, когда наше повседневное мышление сталкивается с трудностями, включается высокоуровневая рефлексия.

Например, под влиянием гнева или жадности мы можем сделать что-то, что позже, возможно, вызовет у нас чувство стыда или вины. Тогда мы начнем оправдываться, используя фразы вроде: «Порыв оказался таким сильным, что перед ним было не устоять» или «Я понял, что делаю это вопреки себе». Подобные оправдания намекают на конфликт между нашими сиюминутными целями и высшими идеалами, и каждое общество старается научить своих членов противостоять побуждению нарушать его правила. Мы называем это развитием «самоконтроля» (см. раздел 9.2), и в каждой культуре существуют афоризмы на тему таких чувств.

 

Моралист: В том, что сделано из корыстных побуждений, не может быть никакой заслуги.

 

Психиатр: Нужно учиться контролировать свои бессознательные желания.

 

Юрист: Чтобы преступление было тяжким, оно должно быть умышленным.

 

Тем не менее преступник может возразить: «Я не собирался этого делать», – как будто человек не «ответственен» за действие, которое не было преднамеренным. Но какое поведение позволяет предположить, что человек сделал что-то «преднамеренно», а не под влиянием неподконтрольных ему психических процессов?

Чтобы разобраться, полезно будет заметить, что похожим образом мы думаем и о предметах; обнаружив, что какую-то вещь трудно контролировать, мы иногда представляем себе, что у нее есть цель, – и говорим: «Этот пазл не хочет складываться» или «Моя машина, кажется, решила не заводиться». Почему мы так думаем, если нам известно, что у предметов нет таких намерений?

То же самое может произойти и в человеческом разуме, когда одна из целей обретает такую важность, что становится трудно думать о чем-то еще. Тогда может показаться, что она появилась не по вашей воле, а каким-то образом навязана вам. Но что может заставить вас преследовать цель, которая словно бы не совпадает с вашими желаниями? Такое бывает, когда конкретная цель конфликтует с высокоуровневыми ценностями или когда у вас есть одновременно несколько разнонаправленных целей; так или иначе, нет причин ожидать, что абсолютно все цели конкретного человека будут последовательны.

Однако это все еще не отвечает на вопрос, почему цель может казаться физической силой, как во фразе «Стремлению невозможно было противостоять». И действительно, «мощная» цель как будто бы отталкивает другие в сторону, и, даже когда вы пытаетесь ей противиться, она может победить, если вы сопротивляетесь недостаточно сильно. Таким образом, получается, что у сил и целей есть некоторые общие особенности:

 

И те и другие имеют определенную направленность.

«Сопротивляются», когда мы пытаемся от них отказаться.

Могут ощущаться как «мощные» или «интенсивные».

Обычно сохраняются до тех пор, пока не исчезнет их причина.

 

Например, предположим, что к вашей руке приложена внешняя сила, достаточная для того, чтобы вызвать боль, – и ваш мозг А реагирует, отстраняясь (или удаляясь), – но, что бы вы ни делали, она продолжает действовать на вас. Мозг Б может увидеть в этом лишь последовательность отдельных событий. Но более высокие уровни рефлексии, возможно, распознают их как соответствующие такому шаблону:

 

Что-то сопротивляется моим попыткам унять боль. Я вижу в этом процесс, характеризующийся настойчивостью, целеустремленностью и находчивостью.

 

Далее вы можете заметить аналогичную модель в собственном сознании – когда какие-то ресурсы принимают решение, которое остальная часть разума не может контролировать, и выходит, будто вы делаете что-то «против воли». Опять же, может показаться, что на вас действует какая-то внешняя сила. Поэтому репрезентация намерений в виде помощников или даже антагонистов выходит очень наглядной.

 

Ученик: Но разве описание цели как силы – это не всего лишь метафора? Мне кажется, не стоит называть одними и теми же словами феномены, обладающие такими разными характеристиками.

 

Слова «всего лишь» не стоит употреблять по отношению к метафорам, ведь именно в этом и заключается суть описания. Очень редко можно сказать, что что-то является именно чем-то, обычно мы можем только описывать, на что оно походит, – то есть описывать объект с точки зрения других вещей, которые, как нам кажется, обладают подобными свойствами, – а затем отмечать различия. Затем мы помечаем его тем же или сходным именем, отныне наделяя это более старое слово или фразу дополнительным смыслом. Вот почему большинство наших слов – «слова-чемоданы». В разделе 9.4 высказывается предположение, что многозначность слов – это, быть может, величайшее из сокровищ, доставшихся нам от предков.

Мы уже не раз упоминали в данной книге о целях, но до сих пор так и не поговорили о том, как они функционируют. Поэтому давайте перейдем от вопроса о том, какие ощущения вызывает цель, к тому, что это такое на самом деле!

 

Разностные машины

 

Разногласия возникают и тогда, когда получают другое, то есть не то, к чему стремились, ибо не получать того, к чему тянет, все равно что ничего не получать [68].

Аристотель

 

Иногда люди ведут себя так, будто у их действий нет никакого направления или цели. В других случаях – как будто бы есть. Но что такое цель и как ее можно иметь? Пытаясь ответить на подобные вопросы простыми словами, например «Цель – это то, чего вы хотите достичь», вы попадете в порочный круг, потому что следом придется спросить, что такое «хотеть», – и вы обнаружите, что пытаетесь описать этот глагол с помощью других слов, таких как «мотив», «желание», «назначение», «намереваться», «надеяться», «желать», «стремиться» и «жаждать».

В общем, вы обязательно попадете в эту ловушку, если попытаетесь описать состояние ума посредством других «психологических слов», потому что они никогда не приводят к разговору о лежащих в основе механизмах. Однако из круга можно вырваться с помощью следующего утверждения:

 

Система будет выглядеть как имеющая цель, если продолжит применять различные методы решения задачи до тех пор, пока ее текущая ситуация не превратится в некие другие условия.

 

Оно выводит нас из сферы психологии, наталкивая на вопрос о том, какие механизмы на это способны. Вот пример того, как мог бы работать подобный процесс.

 

Целеустремленность: Он начинается с описания конкретной возможной ситуации в будущем. Он также способен регистрировать некоторые различия между ситуацией, в которой он находится сейчас, и теми «некими другими условиями».

 

Находчивость: Он также оснащен средствами устранения этих различий.

 

Настойчивость: Если процесс будет упорно применять эти средства, то с точки зрения психологии мы посчитаем, что он пытается изменить нынешнюю ситуацию на то, чего он «хочет».

 

Настойчивость, целеустремленность и находчивость! Следующие несколько разделов рассказывают, как с помощью этой троицы свойств можно было бы объяснить работу того, что мы называем мотивами и целями, дав нам ответы на вопросы, озвученные в разделе 2.2:

 

Что делает одни цели важными, а другие – нет?

С какими чувствами они связаны?

Что может сделать порыв «слишком сильным, чтобы ему сопротивляться»?

Что «активирует» определенные цели в конкретный момент?

Чем определяется то, как долго они останутся активными?

 

Ни одна машина не демонстрировала все три этих черты – пока в 1957 году Аллен Ньюэлл, Клиффорд Шоу и Герберт Саймон не разработали компьютерную программу под названием «Универсальный решатель задач». Вот упрощенный вариант того, как она работала; назовем его «Разностной машиной»[69].

 

 

На каждом этапе этот процесс сравнивает свои описания текущей и определенной будущей ситуации, в результате чего формируется список различий между ними. Затем он фокусируется на самом серьезном различии и применяет определенный метод, разработанный для устранения этого конкретного различия. Если ему это удается, программа затем пытается устранить то, что теперь кажется самым серьезным различием. Однако всякий раз, когда такой шаг усугубляет ситуацию, система возвращается назад и пробует другую технику.

Как мы упоминали в разделе 2.2, каждый ребенок рождается с двумя системами поддержания «нормальной» температуры тела: если ему слишком жарко, он будет потеть, тяжело дышать, вытягиваться в кроватке, начнется расширение сосудов (вазодилатация); в случае холода он будет съеживаться, дрожать, сжигать калории, сосуды будут сужаться (вазоконстрикция).