Естественные творения естественного мира — КиберПедия 

Своеобразие русской архитектуры: Основной материал – дерево – быстрота постройки, но недолговечность и необходимость деления...

Индивидуальные и групповые автопоилки: для животных. Схемы и конструкции...

Естественные творения естественного мира

2022-08-21 36
Естественные творения естественного мира 0.00 из 5.00 0 оценок
Заказать работу

Карло Ровелли

Физик-теоретик, Центр теоретической физики, Университет Экс-Марсель; автор книги «Первый ученый: Анаксимандр и его наследие» (The First Scientist: Anaximander and His Legacy)

В том, что касается мыслящих машин, у людей в голове каша, потому что они всегда путают два вопроса. Вопрос первый: насколько приблизились к мышлению машины, которые мы уже построили или построим в ближайшее время? Ответ простой: они от него безмерно далеки. Разница между лучшими из наших компьютеров и мозгом ребенка – это разница между каплей воды и Тихим океаном. Она заключаются в производительности, структуре, функциях и т. п. Любые досужие рассуждения о том, что же нам делать с мыслящими машинами, по меньшей мере преждевременны.

Вопрос второй: можно ли вообще создать мыслящую машину? Я никогда не понимал смысла этого вопроса. Конечно, можно. Почему нет? Любой, кто думает, что это невозможно, наверняка верит в такие вещи, как существование сверхъестественных сущностей, трансцендентальные реальности, черная магия и т. п. Скорее всего, этот человек не смог усвоить элементарную идею натурализма: мы, люди, – естественные творения естественного мира. Построить мыслящую машину нетрудно: все, что нужно, – чтобы юноша и девушка уделили этому несколько минут своего времени, а потом еще несколько месяцев (только девушка) – и всё. То, что мы не нашли другого, более технологичного способа, – просто случайность. Если правильное сочетание химикатов может привести к появлению мыслей и эмоций, – а так и происходит, доказательством чему являемся мы сами, – тогда определенно должно быть много аналогичных механизмов, чтобы сделать то же самое.

Недопонимание основано на ошибке. Мы склонны забывать, что сущности, составленные из многих вещей, ведут себя не так, как составленные из немногих. Возьмем «Феррари» или суперкомпьютер. Никто не сомневается, что это просто соответствующим образом организованные груды металла и других материалов, без какой-либо черной магии. Но вряд ли мы станем предполагать, что неорганизованная груда тех же самых материалов сможет поехать, как «Феррари», или спрогнозировать погоду, как суперкомпьютер. Подобным образом нам обычно не удается увидеть, что груда материалов может (даже если она соответствующим образом организована) рассуждать, как Эйнштейн, или петь, как Дженис Джоплин. Но в принципе такое возможно, доказательством чего являются Эйнштейн и Джоплин. Конечно, это требует серьезной подготовки и проработки довольно многих деталей, и разумной машине также потребуется серьезная подготовка и множество деталей. Вот почему настолько сложно создать такую машину другим способом – без юноши и девушки.

Наши представления о природной реальности слишком упрощенные, вот в чем корень всей путаницы. Мир – в известной мере просто большой набор организованных различными способами частиц. Это факт. Но если мы представим мир как аморфное скопление атомов, то мы не сможем его понять, потому что практически неограниченная комбинаторика атомов так богата, что включает в себя камни, воду, облака, деревья, галактики, световые лучи, цвет заката, улыбки девушек весной и огромную, черную звездную ночь, а также наши эмоции и то, что мы обо всем этом думаем. Трудно представить перечисленные феномены с точки зрения атомной комбинаторики – не потому что какая-то черная магия вмешивается в природу извне, а потому, что разумные машины, которыми являемся мы сами, слишком ограничены в своих мыслительных возможностях.

В том маловероятном случае, если наша цивилизация просуществует достаточно долго и получит достаточно развитые технологии, чтобы создать (способом, отличным от того, для которого необходимы юноша и девушка) нечто, способное думать и чувствовать подобно нам, мы встретим эти новые творения природы точно так же, как раньше: так же, как европейцы и коренные американцы встретили друг друга, или как мы встречаем ранее неизвестные виды животных – со смесью (в разных пропорциях) жестокости, эгоизма, сочувствия, любопытства и уважения. Потому что все мы – естественные творения естественного мира.

Три замечания об искусственном интеллекте

Фрэнк Вильчек

Профессор физики Массачусетского технологического института; один из обладателей Нобелевской премии по физике за 2004 год; автор книги «Красота физики: Постигая устройство природы» (A Beautiful Question: Finding Nature’s Deep Design)[38]

Мы – это они

Фрэнсис Крик назвал «удивительной гипотезой» то, что сознание, также известное как мышление, является эмерджентным свойством материи. По мере развития нейронаук, не встречающего каких-либо преград, и воспроизведения компьютерами все большего числа действий, которые мы называем разумом у людей, эта гипотеза выглядит все более непреложной. Если так, то любой интеллект – искусственный. Естественный интеллект от искусственного отличается не тем, что́ он есть на самом деле, а только тем, как он создан.

Безусловно, что короткое слово «только» несет здесь довольно большую нагрузку. Мозг используют высокопараллельную архитектуру и задействует множество «шумных» аналоговых блоков (то eсть нейронов), активизируемых одновременно, в то время как большинство компьютеров использует фоннеймановскую архитектуру с последовательной работой намного более быстрых цифровых блоков. Эти различия, однако, размываются, причем с обеих сторон. Архитектура нейронных сетей основана на кремнии, а мозг взаимодействует с внешними цифровыми органами все более эффективно. Я уже чувствую, что мой ноутбук – это часть меня самого, например, он является хранилищем и визуальной, и повествовательной памяти, сенсорным порталом во внешний мир и значительной частью моей математико-пищеварительной системы.

Они – это мы

Искусственный интеллект появился не в результате вторжения пришельцев. Это артефакт конкретной человеческой культуры, и он отражает ее ценности.

Разум – раб страстей

Яркое утверждение Дэвида Юма: «Разум есть и должен быть только рабом страстей» – записано в 1738 году, задолго до того, как что-то похожее на современный искусственный интеллект появилось на горизонте. Имелись в виду, конечно, человеческий разум и человеческие страсти (причем Юм использовал слово «страсти» в очень широком смысле, в значении, близком к «нерациональным мотивациям»). Но логический/философский вывод Юма остается в силе и для искусственного интеллекта. Проще говоря, стимулы, а не абстрактная логика, определяют поведение.

Вот почему искусственный интеллект, который меня больше всего тревожит, воплощен в автономных сущностях военного назначения: искусственных солдатах, разнообразных беспилотных аппаратах и тому подобных системах. Ценности, которые мы можем пожелать привить таким сущностям, – боеготовность и эффективное уничтожение живой силы противника. Но эти положительные ценности, если что-то пойдет немного не так, способны превратиться в одержимость и агрессивность. Не проявив надлежащей сдержанности и здравомыслия, исследователи могут вдруг обнаружить, что помогли создать армию сильных, умных, злобных параноиков.

В отличие от ситуации с ядерным оружием, тут нет никаких ясных и понятных «красных линий». Со стимулами, которые движут сильным искусственным интеллектом, может произойти множество разных неправильных вещей, и такая угроза кажется мне наиболее реальной не в последнюю очередь потому, что военные обладают огромными ресурсами, много вкладывают в исследования в области ИИ и считают, что обязаны состязаться друг с другом (иначе говоря, они оценивают потенциальные угрозы и повышают боеготовность).

Как избежать этой опасности, не отказываясь от всех благ, которые сулит нам искусственный интеллект? Я думаю, что важнее всего – прозрачность и открытое обсуждение. «Википедия» и сообщества программистов, работающие над приложениями с открытым исходным кодом, – это впечатляющие примеры открытости в совместной работе для достижения общей цели. Их успех демонстрирует, что очень сложные проекты могут прекрасно работать в открытой среде, где множество людей внимательно следят за тем, что именно происходит с проектом, и поддерживают единые стандарты. Если бы специалисты в области искусственного интеллекта приняли на себя коллективное обязательство воздерживаться от секретных исследований, это стало бы важным шагом для развития отрасли.


Поделиться с друзьями:

Архитектура электронного правительства: Единая архитектура – это методологический подход при создании системы управления государства, который строится...

История создания датчика движения: Первый прибор для обнаружения движения был изобретен немецким физиком Генрихом Герцем...

Наброски и зарисовки растений, плодов, цветов: Освоить конструктивное построение структуры дерева через зарисовки отдельных деревьев, группы деревьев...

Состав сооружений: решетки и песколовки: Решетки – это первое устройство в схеме очистных сооружений. Они представляют...



© cyberpedia.su 2017-2024 - Не является автором материалов. Исключительное право сохранено за автором текста.
Если вы не хотите, чтобы данный материал был у нас на сайте, перейдите по ссылке: Нарушение авторских прав. Мы поможем в написании вашей работы!

0.012 с.