Всякое общество имеет такой искусственный интеллект, которого заслуживает

Йоша Бах

Когнитивист, медиалаборатория Массачусетского технологического института, Гарвардская программа по изучению эволюционной динамики

Много веков тому назад некоторые философы стали рассматривать человеческий разум как механизм, и вокруг этой идеи (в отличие от механистического представления о Вселенной) горячие споры не утихают до сих пор. Благодаря формализации вычислений механистическое представление получило новое теоретическое обоснование: идея о разуме как о машине для обработки информации обеспечила нас эпистемологией и методологией для понимания природы нашего мышления путем его воссоздания. Несколько первопроходцев в области вычислительных методов собрались вместе 60 лет назад и создали новую дисциплину для изучения разума – искусственный интеллект.

ИИ оказался, возможно, самой продуктивной технологической парадигмой Информационного века, но, несмотря на серию впечатляющих достижений на начальном этапе, так и не сумел оправдать надежды. Он стал областью инженерного дела, создающей полезные абстракции и узкоспециализированные приложения. Однако сегодня он, похоже, опять изменился. Более совершенная аппаратура, новые парадигмы обучения и репрезентации, вдохновленные нейробиологией, и поступательное развитие самого искусственного интеллекта привели к множеству эпохальных достижений. Прорывы в области распознавания изображений, анализа данных, автономного обучения и конструирования масштабируемых систем открыли такие возможности практического применения, которые казались недостижимыми 10 лет назад. Благодаря возобновлению финансирования из частных и государственных фондов исследователи в области искусственного интеллекта сейчас обратились к созданию систем, способных демонстрировать воображение, креативность и внутреннюю мотивацию, а также усваивающих языковые навыки и знания примерно так, как это делают люди. ИИ как научная дисциплина, похоже, прошел полный круг.

Новое поколение систем ИИ все еще очень далеко от того, чтобы воспроизвести универсальность человеческого разума, и трудно предположить, сколько на это уйдет времени. Но все яснее становится тот факт, что фундаментальных преград на пути к человекоподобным разумным системам нет. Мы начали разделять разум на части, как пазл, и в сущности каждого из них, по-видимому, можно разобраться. Но если мы просто соберем все эти кусочки в единую рабочую модель, то разум, подобный человеческому, у нас не получится.

В отличие от биологических систем, технология масштабируется. Скорость самой быстрой птицы не стала предельной скоростью для самолетов, а искусственные разумы будут быстрее, точнее, внимательнее, сознательнее и содержательнее, чем их человеческие аналоги. ИИ заменит людей, принимающих решения, администраторов, изобретателей, инженеров, военных стратегов, дизайнеров, рекламистов и, конечно, программистов, работающих с ИИ. Таким образом, искусственные интеллекты могут стать самосовершенствуемыми, и тогда они окончательно превзойдут человеческие разумы по всем направлениям. Я не думаю, что это произойдет одномоментно (иначе важно было бы только то, у кого окажется первый из них). Пока у нас не появится универсально разумный, самосовершенствующийся ИИ, перед нами пройдет множество примеров специализированных под определенные задачи неуниверсальных ИИ, к которым мы сможем приспособиться. Очевидно, это уже происходит.

Когда универсально разумные машины станут реализуемой технологией, их производство будет относительно дешевым и они появятся у каждой корпорации, у каждого правительства, то всякой крупной организации придется создавать и использовать такие машины, чтобы не проиграть в конкуренции.

Что случится, когда искусственный интеллект обретет собственное мнение?

Разум – это ящик с инструментами, который мы используем, чтобы решить ту или иную задачу, но, строго говоря, он не определяет мотивов и целей сам по себе. Стремление человека к самосохранению, власти и опыту – это результат работы не разума, а эволюции приматов, переведенный в эпоху усиления стимулов, массовых взаимодействий, символических удовольствий и нарративной перегрузки. Мотивами наших искусственных разумов (по крайней мере, первое время) будут мотивы организаций, корпораций, групп или отдельных людей, использующих эти разумы. Если бизнес-модель компании не отличается благими намерениями, то ИИ потенциально может сделать ее по настоящему опасной. Подобным образом если организация стремится делать жизнь людей лучше, то ИИ повысит ее эффективность в плане реализации благонамеренного потенциала.

Мотивация наших искусственных интеллектов будет возникать из уже существующих социальных кирпичиков; всякое общество будет иметь такой ИИ, которого заслуживает.

Наши нынешние общества в этом смысле не очень хорошо организованы. Наши способы производства расточительны, а распределение ресурсов разорительно – и наши институты управления непригодны для решения такого рода проблем. Наша цивилизация – это агрессивно разрастающаяся воронка энтропии, которая разрушает на своих границах больше, чем создает в центре.

ИИ может сделать эти деструктивные тенденции более эффективными, а следовательно, более катастрофическими, равно как может помочь нам решить экзистенциальные проблемы нашей цивилизации. Создание благонамеренного искусственного интеллекта тесно связано с задачей построения общества, обеспечивающего правильную мотивацию своих элементов. Наступление новой эпохи мыслящих машин может заставить нас в корне пересмотреть наши институты управления, распределения и производства.

Звери острова ИИ

Квентин Харди

Заместитель технического редактора New York Times; преподаватель в Школе информационных технологий Калифорнийского университета в Беркли

Когда-то на удивительных неизвестных землях средневековых карт жили разные существа. Эти животные были порождены причудливой комбинацией слухов и недомолвок: безголовые люди с лицом на торсе или люди, у которых человеческие черты смешаны с чертами льва или собаки, – своеобразное связующее звено между человеком и животным. Они были выражением страхов и надежд относительно того, что находится за гранью изведанного. Сегодня мы представляем себе мыслящие машины.

Помимо самосознания, воображаемые звери с острова ИИ владеют способностями к вычислению и предсказанию, свободой мысли и всей информацией, которую собрали их создатели. Пессимисты опасаются, что эти машины могут рассмотреть наше дело и вынести нам смертельный приговор. Оптимисты надеются, что ИИ будут руководствоваться благими намерениями и способствовать просвещению и спокойствию людей.

Ни одна из версий столкновения с самостоятельным рукотворным разумом не выглядит основательной. Это не значит, что они как таковые неинтересны. Старые карты рисовались во времена примитивных технологий мореходства. Мы начинаем исследовать мир, полный компьютерных чар. Существа с острова ИИ соединяют в себе черты человека и машины в той же мере, в какой их предшественники соединяли черты человека и животного. Если бы они умели петь, то пели бы песни о нас.

Что мы имеем в виду, когда говорим о разуме, который может взглянуть на человечество и возжелать его смерти или обеспечить ему такое просвещение, которого не бывало ранее? Определенно, мы подразумеваем нечто большее, чем то, что дает машине возможность выигрывать в шахматы. У нас есть подобная машина, и после ее появления в мире не произошло никаких заметных изменений, кроме разве что еще одной причины славить совершенно человеческий интеллект создателей Deep Blue. Существа с острова ИИ умеют кое-что куда более интересное, чем победа над Каспаровым. Им хочется играть в шахматы. Им знакомо радостное возбуждение, доставляемое стимуляцией ума, и муки, вызываемые ее обратной стороной – скукой. Это подразумевает создание ПО, в котором прописано осознание того, что у существа есть только одна конечная жизнь, что почему-то имеет огромное значение для некой неуловимой субъектности. Это ПО практически сводит с ума отсутствие определенной стимуляции – возможно, игры в шахматы. Или уничтожения человечества.

Как и мы, удивительные существа с острова ИИ желают оправдывать себя и судить других. У них есть та же небольшая отдаленность от остальной части реальности – отдаленность, которой, как нам кажется, не ощущают другие животные. Разум, подобный нашему, знает, что он разумен, чувствует ошибочность чего-либо и постоянно старается это исправить.

Имея такие проблемы с ПО, а также учитывая уже существующие техногенные угрозы нашему виду, надо ли беспокоиться по поводу злонамеренного искусственного интеллекта? В течение минимум нескольких десятилетий куда более серьезную опасность для нас будут представлять межвидовые моровые болезни, предельное истощение ресурсов, глобальное потепление и ядерное оружие. Потому-то в наших прометеевых страхах и возникает злонамеренный искусственный интеллект – это опосредованное представление о том, как мы сами, находясь на пике развития собственного разума, сознательно убиваем себя.

Представления о благонамеренном искусственном интеллекте являются в равной степени саморефлективными. Машины обращают свои сверхразумы к тем, кто их создал, а не против них. Учитывая уровень автономности, присущий высокоразвитому ИИ, следует полагать, что эти существа будут заинтересованы в нас. Если задуматься, то злонамеренный искусственный интеллект тоже будет в нас заинтересован – только со знаком «минус».

Обе версии этого диковинного зверя отражают более глубокую истину, которая заключается в воздействии на нас новых открытий в магическом компьютерном мире. Дополняя себя гаджетами, мы становимся новыми существами, если угодно, монстрами, с точки зрения нашего прошлого «я».

Мы много раз изменяли свое сознание за последние 50 000 лет, восприняли идеи о жизни после смерти и монотеизм, стали печатной культурой и видом, который вполне осведомлен о том, сколь крошечное место отведено ему в космосе. Но мы никогда не менялись так быстро и не знали настолько хорошо о происходящих изменениях.

Рассмотрим некоторые результаты, достигнутые только за последнее десятилетие. Мы преодолели многие из извечно стоявших перед нами преград времени и пространства благодаря средствам мгновенной связи. Язык уже не разделяет нас ввиду наличия все более качественных средств компьютерного перевода и обмена изображениями. Технологии с открытым исходным кодом и поиск в интернете дают нам мало осознаваемую пока что силу коллективной работы. Помимо положительных моментов, можно также вспомнить исчезновение частной жизни и слежку за людьми для лучшего управления их передвижениями и желаниями. Мы добровольно подчиняемся беспрецедентной социальной связи – казалось бы, мелочь, но способная привести к уничтожению всякого представления о личности и индивидуальности. Под маской роботизации и экономического обмена меняются представления об экономике.

Мы создаем разумные существа, но создаем их внутри себя. Этот интеллект искусственный лишь потому, что он новый. Как только его будет больше, он станет просто разумом. Машины острова ИИ, которых мы так боимся, – возможно, мы сами через несколько поколений. И мы надеемся, что эти машинолюди будут ощущать наше родство с ними даже при всем нашем одиночестве и оторванности от мира, которые также являются источником творческого потенциала человека.

Мы встретились с ИИ, и это мы сами. С извечным людским упорством мы стремимся к новым пределам, но не хотим слишком сильно меняться.

Мы станем одним целым

Клиффорд Пиковер

Автор книг «Физические чтения: Счастье мудрости и красоты физики» и «Математические чтения: Счастье мудрости и красоты математики»

Если считать, что мышление и сознание – это результат формирования определенным образом клеток мозга и их компонентов, значит, наши мысли, эмоции и воспоминания можно воспроизвести при помощи движущихся моделей, собранных из велосипедных запчастей. Конечно, «велосипедный мозг» придется сделать очень большим, чтобы по сложности он соответствовал нашему разуму. В принципе, человеческий интеллект можно гипостазировать в виде сплетения тонких ветвей деревьев, колышущихся на ветру, или в виде движения термитов.

Что будет означать для «велосипедного мозга» или другой машины «думать о чем-то» или «что-то знать»? Есть много разных знаний, которыми может обладать существо-машина. Из-за этого говорить о мышлении так сложно. Например, знание бывает фактологическим или пропозициональным: существо может знать, что Первая франко-дагомейская война была конфликтом между Францией и африканским королевством Дагомея при короле Беханзине.

Другая категория знания – это знание процедурное: как играть в го, готовить суфле, заниматься любовью, выполнять бросок с переворотом в айкидо, стрелять из стенного арбалета XV века или моделировать эксперимент Миллера – Юри для исследования зарождения жизни. Однако, по крайней мере для нас, прочесть о том, как метко стрелять из стенного арбалета – не то же самое, что действительно уметь из него метко стрелять. Процедурное знание предполагает умение выполнять действие.

Еще один тип знания подразумевает непосредственный опыт. Его как раз и имеют в виду, когда говорят: «Я знаю, что такое любовь» или «Я знаю, что такое страх».

Кроме того, следует иметь в виду, что для любой машины, про которую мы хотим сказать, что она обладает разумом и мышлением, подобными нашим, будут важны человеческие взаимодействия. Умная машина значительное менее интересна, если ее разум заключен в невосприимчивую к реальности программу и находится в своеобразном уединении. По мере того как мы снабжаем наши компьютеры все более совершенными сенсорными средствами и более обширными базами данных, мы, вероятно, постепенно начнем думать об этих сущностях как об обладающих разумом. До конца этого века некоторые компьютеры наверняка научатся реагировать так, что у любого взаимодействующего с ними человека сложится четкое ощущение, будто он общается с сознательным и мудрым собеседником.

Искусственные сущности будут демонстрировать эмоции. Но важнее то, что со временем мы сольемся с этими машинами. Мы поделимся с ними своими мыслями и воспоминаниями. Мы станем одним целым. Наши органы могут отказать и обратиться в прах, но наш бессмертный дух продолжит жить. Компьютеры или гибриды «компьютер-человек» будут превосходить простого человека в любой области, от искусства и математики до музыки и чистого разума.

В будущем, когда наши разумы сольются с искусственными субъектами, а также расширятся и дополнятся разными электронными протезами, на каждую из наших собственных жизней мы создадим себе множество жизней симулированных. Днем вы будете программистом в крупной компании. А вечером, после работы, вы будете рыцарем в сверкающих доспехах, посещающим средневековые пиры и с благосклонностью взирающим на странствующих менестрелей. Следующим вечером вы будете жить в эпоху Ренессанса, в доме на южном берегу полуострова Сорренто, и на ужин вам подадут чибисов и голубей. Возможно, когда мы и наши машины станем гибридными сущностями, то смоделируем новые реальности, чтобы переиграть исторические события с небольшими изменениями и понаблюдать за результатами, создать великие произведения искусства вроде пьес или балетов, решить проблему гипотезы Римана или барионной асимметрии Вселенной, предсказать будущее и убежать от настоящего, сделав своим домом все время и пространство.

Конечно, способы мышления машины могут сильно отличаться от того, как думаем мы. Все-таки хорошо известно, что машины видят по-другому, а алгоритмы для распознавания изображений, называемые глубинными нейросетями, иногда заявляют с почти 100-процентной уверенностью, что изображения случайных статических помех – это фотографии тех или иных животных. Если нейронные сети так легко ввести в заблуждение, чем еще можно будет обдурить мыслящие машины?