Аналоговая революция, которая не смеет назвать свое имя

Джордж Дайсон

Историк науки; автор книги «Собор Тьюринга: Происхождение цифровой вселенной» (Turing’s Cathedral: The Origins of the Digital Universe)

Ни одна отдельная детерминированная машина, к какому бы универсальному классу она ни принадлежала, не будет способна на то, что мы подразумеваем под мышлением, когда говорим о человеческом разуме. Интеллект таких машин может постоянно расти, но для подлинно творческого интуитивного мышления нужны недетерминированные машины, которые могут совершать ошибки, время от времени отступать от логики и учиться. Мышление не настолько логично, как мы думаем.

Недетерминированные машины, или, еще лучше, недетерминированные сети детерминированных машин, – другой вопрос. У нас есть по крайней мере одно реальное доказательство тому, что такие сети могут научиться думать. И у нас есть все основания подозревать, что, будь они созданы в среде, где нет временных, энергетических и пространственных ограничений, в условиях которых работают наши мозги, это в определенный момент привело бы, как писал Ирвин Джон Гуд, к возникновению «машины, полагающей, что люди не могут мыслить».

До появления компьютеров природа пользовалась цифровой репрезентацией для хранения данных (строки кода в нуклеотидах) и исправления ошибок, но не для управления. Возможность вносить в инструкции изменения в один клик – полезная функция для эволюционных механизмов, работающих в масштабах поколений, – становится тяжким бременем для управления процессами в реальном мире, протекающими в масштабе дней или миллисекунд. Аналоговые процессы в этом случае значительно надежней.

Нам надо поменьше беспокоиться по поводу того, что нашими жизнями (и мыслями) управляют цифровые компьютеры, и побольше – о том, что это делают компьютеры аналоговые. Машины, которые действительно мыслят самостоятельно, а не просто делают все более умные вещи, скорее всего, будут аналоговыми, а не цифровыми. Впрочем, эти устройства могут представлять собой процессы более высокого уровня, работающие на субстрате из цифровых компонентов, так же как цифровые компьютеры когда-то были процессами, работающими на аналоговых компонентах.

Мы сейчас находимся в самом разгаре аналоговой революции, но по какой-то причине она не смеет назвать свое имя. Мы уже семь десятилетий обсуждаем, можно ли считать, что цифровые компьютеры мыслят, а в это время вокруг нас бурно разрастаются аналоговые процессы, чьи сложность и значение определяются не состоянием устройств или кода, на которых они основаны, а топологией выстроенных из них сетей и частотно-импульсными показателями соединений. Потоки битов рассматриваются как непрерывные функции, точно так же, как вакуумные трубки соотносятся с потоками электронов или как нейроны – с частотой импульсов в мозге.

Вывод: я знаю, что аналоговые компьютеры могут мыслить. Подозреваю, что цифровые компьютеры тоже в определенный момент начнут мыслить, но только посредством превращения в аналоговые компьютеры.

Настоящий искусственный интеллект будет достаточно разумен для того, чтобы не обнаруживать себя. Так что людям лучше иметь веру, а не доказательство.

Ценности искусственного интеллекта

Аббас Раза

Первый редактор 3QuarksDaily.com

Слухи о возможном порабощении или уничтожении человечества искусственным интеллектом чрезвычайно преувеличены, потому что предполагают наличие у ИИ телеологической автономности, подобной нашей. Не думаю, чтобы что-то, кроме дарвиновского процесса эволюции, могло дать такую автономность любому существу.

В целом есть два способа создать искусственный интеллект. Первый: не беспокоясь о том, как именно человеческий разум выполняет задачи, написать исчерпывающий набор программ, который тоже будет их выполнять – возможно, даже быстрее или точнее, – а затем собрать эти модули в единый интеллект. Таким подходом мы пользуемся сейчас и в некоторых областях преуспели. Например, компьютеры умеют играть в шахматы лучше, чем люди. Можно себе представить, что если приложить определенные усилия, то удастся запрограммировать компьютеры и для выполнения более творческих задач, вроде написания красивых (по нашему мнению) стихов или музыки посредством продуманных эвристических алгоритмов и встроенных в них знаний.

Но с таким подходом есть одна проблема: мы используем наши возможности в соответствии с ценностями и ограничениями, запрограммированными в нас миллиардами лет эволюции (плюс теми, что мы выучиваем в течение жизни), и некоторые из этих ценностей мы унаследовали от древнейших организмов, включая самую важную – потребность в выживании и воспроизводстве. Без этих ценностей нас бы здесь не было, как не было бы у нас таких тонко настроенных (для нашей среды) эмоций, которые позволяют нам не только выживать, но и сотрудничать с другими. Важность этой стороны нашего разума можно увидеть на примере людей, неспособных нормально функционировать в обществе из-за повреждения определенных эмоциональных центров мозга, несмотря на нормальное во всем остальном мышление.

Так какие ценности и эмоции будут у искусственного интеллекта? Можно просто запрограммировать их – в этом случае мы сами решаем, что он «захочет» делать, и нам нет нужды волноваться, не станет ли он преследовать цели, отличные от наших. Мы запросто могли бы сделать так, чтобы искусственный интеллект был не в состоянии изменять определенные базовые императивы, которые мы ему дали (что-то вроде дополненной версии законов робототехники Азимова).

Второй путь к созданию искусственного интеллекта – это детальная расшифровка механизмов работы человеческого мозга. Понятно, что в ближайшем будущем нас могут ждать великие озарения по поводу структуры и концептуальной иерархии мозга – вроде открытия Уотсоном, Криком и Уилкинсом структуры ДНК и расшифровки механизма наследственности. Мы могли бы смоделировать или воспроизвести эту функциональную структуру в кремнии или каком-то другом субстрате в виде комбинации аппаратных и программных средств.

На первый взгляд может показаться хорошей идеей побыстрее наделить искусственный интеллект достижениями нашей собственной продолжительной эволюции, а также дать ему собственные ценности путем функционального воспроизведения эмоциональных центров нашего мозга и областей высшей нервной деятельности, таких как кора. Но мозг по своей природе должен получать информацию от обширного сенсорного аппарата нашего тела и реагировать на нее. Чем это заменить для искусственного интеллекта? Даже если у него будет высокотехнологичное физическое воплощение с серьезным сенсорным функционалом, для выживания ИИ, вероятно, потребуется нечто совершенно отличное от того, что есть у нас. Он мог бы пройти определенную эмоциональную настройку в ходе взаимодействия со своей средой, но для выработки подлинной автономности и собственных желаний ему потребуется нечто сопоставимое с долгосрочной эволюцией, включающей в себя дарвиновские потребности в воспроизводстве, изменчивость и естественный отбор. Этого у него не будет, потому что мы сейчас говорим не об искусственной жизни. Следовательно, отметим еще раз, мы дадим ему такие ценности, которые сами выберем.

Конечно, возможно, что кто-то создаст разумных роботов в качестве оружия (или солдат), чтобы использовать их в войне против других людей, но такой инструмент будет просто реализовывать намерения создателей и, лишенный собственной воли или желаний, не станет угрозой для человечества, по крайней мере не больше, чем любое уже существующее оружие. Так что оба потенциально возможных пути к созданию искусственного интеллекта (по крайней мере, те, которые не требуют геологических масштабов времени) не дадут ему такой свободы воли, независимой от намерений создателей, чтобы он мог стать настоящей угрозой для них.