Когда мы выдернем вилку из розетки

Лоуренс Смит

Профессор географии, заведующий кафедрой, профессор наук о Земле, планетарных и космических явлениях, Калифорнийский университет в Лос-Анджелесе; автор книги «Мир в 2050 году» (The World in 2050)

Что такого особенного в мыслящих машинах? Для небольшого числа философов и теологов – еще понятно, а для остальных из нас искусственный интеллект будет просто очередным шагом на долгом пути технологического развития, которое уже изменило мир практически до неузнаваемости.

Почти несомненно, что с крайне важной мыслительной работой, направленной на решение проблем, адаптивное машинное обучение будет справляться успешнее, чем любой человеческий мозг (или даже целая конференция специалистов). Машины уже лучше вас самих понимают ваши потребительские предпочтения благодаря хитроумным финансово-мотивированным адаптивным алгоритмам, которые отслеживают ваше поведение в сети. Но идет работа и над другими задачами, такими как «умная» охрана правопорядка и обнаружение потенциально возможных ситуаций жестокого обращения с детьми, причем и то и другое реализуется посредством сопоставления не связанных между собой на первый взгляд данных.

С тех пор как мы покинули саванну, этот процесс был отличительным признаком человеческого мышления; поскольку мировые проблемы становятся все острее и сложнее, нам следует принять любой эффективный инструмент, способный с ними справиться. Я согласился бы на партнерство с обучающейся машиной, чтобы сделать современную жизнь более эффективной с точки зрения ресурсов – в такой мере, которой не может обеспечить человеческий мозг. Мир, где бесперебойно выращивается пища, где в достатке чистой воды для людей и экосистем, комфортного и энергоэффективного жилья, вполне возможен, и его отчасти помогли бы нам приблизить мыслящие машины.

История говорит нам о том, что такое партнерство будет развиваться постепенно, оставаясь относительно незаметным для большинства занятых людей, живущих своей занятой жизнью. Но чисто теоретически давайте предположим, что сбылись наши худшие опасения, все вышло из-под контроля, и в какой-то момент мыслящие машины сбросили с престола Homo sapiens. Что тогда? Я не сомневаюсь, что мы так или иначе сумеем выдернуть вилку из розетки. Произойдет великий передел, и мы опять будем владеть землями, океанами и небесами. В зависимости от того, насколько велика окажется интеграция и высота падения, человечество может откатиться на тысячелетия назад, поскольку нам придется с нуля учиться тому, как самим добывать пищу и воду, строить жилища и транспорт без помощи мыслящих машин.

Мониторинг и управление планетой

Джулио Бокалетти

Физик; специалист по атмосфере и океанам; директор глобальных водных проектов фонда Nature Conservancy

В 1922 году математик Льюис Фрай Ричардсон описал большой зал, заполненный «вычислителями» – людьми, которые, поочередно выполняя по одному ручному вычислению, значительно усовершенствовали бы численное прогнозирование погоды. Меньше чем через 100 лет машины улучшили продуктивность в решении этой задачи на пятнадцать порядков и способны теперь производить почти миллион миллиардов схожих вычислений в секунду.

Рассмотрим для сравнения рост производительности в тяжелой промышленности. В 2014 году во всем мире было использовано около 500 эксаджоулей первичных энергоресурсов для производства электричества и топлива для транспорта и тепла. Даже если считать, что вся эта энергия пошла на выполнение физических задач примерно 3 миллиардов работающих людей во всем мире (а это не так), и предположить, что рацион среднестатистического взрослого человека содержит 2000 калорий в день, то мы получим около 50 «энергетических работников» на каждого человека. Более строгие допущения все равно ведут самое большее к повышению эффективности ручного труда на несколько порядков.

Мы чрезвычайно успешно ускоряем наши процессы мышления и обработки информации, значительно успешнее, чем любые другие. Есть надежда, что ИИ позволит нам резко повысить эффективность определенных когнитивных функций и начать справляться с задачами, сложность которых также на несколько порядков выше, чем ранее доступная для нас.

Кейнс, наверное, сказал бы, что такое повышение должно в конечном счете привести наше общество к состоянию полной занятости, при котором у всех будет больше свободного времени и более высокое качество жизни. Скептик бы счел это победой надежды над опытом. Хотя нет сомнений в том, что некоторые люди извлекут огромную выгоду из того, что делегируют свои задачи машинам, перспектива получить больше свободного времени благодаря автоматизации выглядит сомнительно, что может подтвердить любой современный работник, практически прикованный к тому или иному мобильному устройству.

Следовательно, если мы будем работать больше, лучше и эффективнее благодаря мыслящим машинам, важно с умом выбирать то, о чем они станут думать. В самом деле, разве не обидно развить весь этот интеллект, чтобы потом тратить его мощь на бесполезные вещи? Как всегда бывает в науке, выбор проблем, достойных того, чтобы их решали, оказывается более сложной задачей, чем поиск самих решений.

Сфера, где конвергенция между потребностью, актуальностью и возможностями по-настоящему велика, – это мониторинг ресурсов нашей планеты и управление ими. Несмотря на значительный рост когнитивной и трудовой производительности, мы пока не смогли существенно изменить наше отношение к Земле: мы все еще пользуемся ее ресурсами для того, чтобы делать товары, которые по окончании срока эксплуатации превращаются в мусор. Линейная экономика на планете с 7 миллиардами человек, стремящихся потреблять. Наше отношение к природе, может быть, и стало более продуктивным, но ненамного более разумным, чем 100 лет назад.

Понять, как на это реагирует планета, чтобы соответствующим образом поменять свое поведение, – сложная задача, решение которое затрудняется колоссальной нехваткой информации. Изменение климата, доступность воды, использование ресурсов океана, взаимодействие между экосистемами и сформированной человеком средой обитания – во всех этих вопросах наших вычислительных средств не хватает для предварительного анализа статистики, необходимого, чтобы понять, что же происходит, обработать экспоненциально возрастающие объемы данных о мире, который мы населяем, сформулировать и проверить теории о том, как мы могли бы делать привычные вещи иначе.

У нас на этой планете уже почти 7 миллиардов мыслящих машин, но они не слишком озабочены вопросами о том, как на ней удержаться. Лишь немногие могут увидеть всю картину и понять ее, и еще меньше тех, кто способен как-то повлиять на ситуацию. Приращение когнитивных возможностей, которые помогли бы выяснить, как нам фундаментальным образом изменить свои отношения с планетой, – это проблема, над которой стоит подумать.

Панэмпиризм

Ян Богост

Заведующий кафедрой медиаведения в Колледже Айвана Аллена; преподаватель интерактивных вычислений в Технологическом институте Джорджии; партнер-учредитель компании Persuasive Games; автор книги «Феноменология пришельцев, или Каково это – быть вещью» (Alien Phenomenology, or What It’s Like to Be a Thing)

Программа поиска внеземного разума (SETI) – это общее название распределенных по всему миру проектов, людей и институтов, занятых обнаружением признаков разумной жизни в космосе. Методы SETI в основном связаны со сканированием пространства в поисках электромагнитных излучений – предполагаемого «выхлопа» цивилизаций, обладающих развитыми технологиями.

Как и стремление построить разумные машины, поиск разумных пришельцев строится на определенных предположениях о том, что такое «разум» и что такое «пришельцы». SETI предполагает, что внеземная жизнь считается разумной, если соответствует человеческим научно-фантастическим ожиданиям относительно разумности: это должны быть животноподобные существа, у которых есть средства связи, космические корабли и т. п.

Критики SETI иногда прибегают к тому, что называется возражениями против униформитарианизма. Униформитарианизм – это допущение, что в любой точке пространства и времени действуют одни и те же условия и законы. SETI исходит из него, поскольку предполагает, что внеземной разум будет таким же, как человеческий (только, конечно, умнее). Но есть не меньше оснований думать иначе. Философ Николас Решер, например, отмечал, что если во Вселенной есть разум, то это еще не значит, что мы сумеем его обнаружить. Настоящий внеземной разум может отличаться не только местом своего обитания в космосе, но также и самой своей природой. Как писали Дорис и Дэвид Джоунас около 40 лет тому назад, различные сенсорные возможности порождают различные «щели» для восприятия и объяснения реальности, а также взаимодействия с нею{12}.

Это означает, что такая чуждость может существовать не только за пределами Земли, но и рядом с нами. Вы вправе считать в определенном смысле разумными свою кошку или свой смартфон, гипотетического робота из будущего или даже, если смотреть с определенной точки зрения, ваше комнатное растение или ваш тостер.

Мечта о мыслящих машинах в действительности ничем не отличается от мечты о разумных пришельцах. Мы просто заменяем далеких биологических, космических, созданных энтропией пришельцев близкими механико-электронными и созданными человеком машинами. И если SETI и тому подобные проекты допускают униформитарианистскую ошибку в далеком космосе, то попытки придумать и создать искусственный разум и мыслящие машины связаны с такой же ошибкой здесь, на Земле.

Наверное, нагляднее всего демонстрирует, как мыслящие машины соотносятся с определенным модусом разумности, то, что человеческий опыт можно обнаружить в наших вымышленных апокалиптических сценариях с участием ИИ. В «Терминаторе», «Берсеркере»[111] и «Матрице» неприятности начинаются, когда искусственный интеллект настолько превосходит человеческий, что понимает: лучший для него вариант действий – уничтожить людей и занять их место (или же, по версии Курцвейла, когда наступает момент сингулярности, и люди по собственной воле подчиняются компьютерным повелителям, чтобы достичь бессмертия). Более близкий к нынешним реалиям повод для страха связан с ролью человеческого мышления и труда в экономике, которая все сильнее зависит от механических и электронных машин.

Это одна из точек зрения на искусственный интеллект, но она не единственная. Размышления о мыслящих машинах оказываются настолько ограниченными и антропоцентричными, что вообще удивительно, как мы от них не отказались от скуки, а не из-за контруниформитарианистских соображений. Вместо того чтобы спрашивать, могут ли машины мыслить, или что нам сделать, чтобы они начали мыслить, или как нам узнать, что они мыслят, почему бы нам просто не предположить, что все «машины» способны на что-то вроде мышления, а потом попытаться дать определение этому явлению?

В философии уже есть направления, разрабатывающие такой подход. В отличие от точки зрения эмерджентистов, согласно которой разум возникает при определенных материальных условиях в биологических или в вычислительных сущностях (ее придерживаются большинство сторонников ИИ), панпсихисты утверждают, что «разумы» в каком-то смысле повсюду. Панпсихизм связан с буддистскими доктринами, поощряющими представления об анимизме в природе. Но панпсихизм подвержен риску того же униформитарианизма, что и SETI с ИИ, – я говорю об утверждении, что разум, схожий с разумом человека (или, по крайней мере, животного), является моделью для всех прочих разумов. Более перспективная философская позиция – панэмпиризм, то есть представление о том, что у всего есть нечто вроде опыта, даже если он очень сильно отличается от человеческого.

Когда мы размышляем о мыслящих машинах, то обычно думаем об определенного рода машинах – электронных – и об определенного рода мышлении – (сверх) человеческом. Но что, если вместо этого допустить такую возможность: мы просто не замечаем мышления, которое присуще другим машинам, окружающим нас – тостерам, подъемным воротам, автомобилям? Она может выглядеть нелепой, но доказать ее полезность достаточно легко. Если мы размышляем о машинах типа ИИ, роботах и компьютерах, в том числе и для того, чтобы понять, какими они для нас будут соседями, компаньонами и даже согражданами, то для начала нам следовало бы серьезнее относиться ко всем машинам, которые уже в каком-то смысле выполняют такие роли и на которые мы пока не обращаем внимания.