Глава I

Рис. 1.7. Белые начинают и заканчивают игру вничью - очевидно для человека, а вот "Deep Thought" взял ладью!

Как мог столь искусный шахматист сделать такой очевидно глупый ход? Ответ заключается в следующем: помимо большого количества "позиций из учебника" программа "Deep Thought" содержала лишь инструкции, которые сводились исключительно к вычислению последовательности будущих ходов (на некоторую значительную глубину), позволяющей достичь максимального преимущества по фигурам. Ни на одном из этапов вычислений компьютер не обладал подлинным пониманием не только того, что может ему дать заслон из пешек, но и вообще любого из своих действий.

Любой, кто в достаточной степени представляет себе общий принцип работы компьютера "Deep Thought" или других компьютерных систем для игры в шахматы, не станет удивляться тому, что эта система терпит крах в позициях вроде той, что показана на рис. 1.7. Мы не только способны понять в шахматах что-то такое, чего не понимает "Deep Thought"; мы, кроме того, кое-что понимаем и в процедурах (нисходящих), на которых построена вся работа "Deep Thought", то есть мы способны как реально оценить, почему он сделал столь грубую ошибку, так и понять, почему в большинстве других случаев он может играть в шахматы настолько эффективно. Напрашивается, однако, вопрос: сможет

1.15. Свидетельствуют ли ограничения ИИ в пользу ? 87

ли "Deep Thought" или иная ИИ-система достичь когда-нибудь хоть какого-то подлинного понимания - подобного тому, каким обладаем мы сами - в шахматах или в чем-то еще? Некоторые сторонники ИИ скажут, что для обретения ИИ-системой "подлинного" понимания (что бы это ни значило) ее программа должна задействовать восходящие процедуры на гораздо более фундаментальном уровне, нежели это принято в программах теперешних шахматных компьютеров. Соответственно, в такой системе "понимание" развивалось бы постепенно по мере накопления "опыта", а не возникало бы в результате введения каких-то конкретных нисходящих алгоритмических правил. Нисходящие правила, достаточно простые и прозрачные, не способны сами по себе обеспечить вычислительную основу для подлинного понимания, поскольку само понимание этих правил позволяет нам осознать их фундаментальные ограничения.

Этот момент мы более подробно рассмотрим в главах 2 и 3. А что же в самом деле восходящие вычислительные процедуры? Могут ли они составить основу для понимания? В главе 3 я приведу рассуждения, доказывающие обратное. Пока же мы можем просто взять на заметку тот факт, что современные компьютерные системы восходящего типа никоим образом не обеспечивают замены подлинному человеческому пониманию ни в одной из важных областей интеллектуальной компетенции, требующих настоящего живого человеческого понимания и интуиции. Такую позицию, я уверен, сегодня разделяют многие. Весьма оптимистичные перспективы , время от времени выдвигаемые сторонниками идеи искусственного интеллекта и производителями экспертных систем, пока что в большинстве своем реализованы не были.

Однако в том, что касается возможных результатов развития искусственного интеллекта, мы все еще находимся в самом начале пути. Сторонники ИИ (в форме или ) уверяют нас, что проявление существенных элементов понимания в поведении их систем с компьютерным управлением - всего лишь вопрос времени и, быть может, некоторых, пусть и значительных, технических усовершенствований. Несколько позднее я попробую поспорить с этим заявлением в более точных терминах, опираясь на то, что некие фундаментальные ограничения присущи любой чисто вычислительной системе, будь она нисходящей или восходящей. Не исключая возможности того, что, будучи достаточ-

88 Глава I

но грамотно сконструированной, такая система сможет в течение некоторого продолжительного периода времени поддерживать иллюзию обладания чем-то, подобным пониманию (как это произошло с компьютером "Deep Thought"), я все же утверждаю, что на деле полная ее неспособность к пониманию в обшем смысле этого слова непременно в конце концов обнаружится - по крайней мере, в принципе.

Для приведения точных аргументов мне придется обратиться к математике, причем я намерен показать, что к одним лишь вычислениям невозможно свести даже математическое понимание. Некоторые защитники ИИ могут счесть это весьма удивительным, ибо они утверждают , что те способности, которые сформировались в процессе эволюционного развития человека сравнительно недавно (например, способность выполнять арифметические или алгебраические вычисления), "осваиваются" компьютерами легче всего, и именно в этих областях компьютеры на настоящий момент значительно опережают "человека вычисляющего"; овладение же теми способностями, что развились в начале эволюционного пути - такими, например, как умение ходить или интерпретировать сложные визуальные сцены, - не требует практически никакого труда от человека, тогда как сегодняшние компьютеры даже при всем старании демонстрируют в этом "виде спорта" весьма посредственные результаты. Я рассуждаю несколько иначе. Современный компьютер легко справится с любой сложной деятельностью - будь то математические вычисления, игра в шахматы или выполнение какой-либо работы по дому, - но лишь при условии, что эту деятельность можно описать в виде набора четких вычислительных правил; а вот собственно понимание, лежащее в основе этих самых вычислительных правил, оказывается феноменом, для вычисления недоступным.

1.16. Доказательство на основании теоремы

Гёделя

Как можем мы быть уверены в том, что вышеописанное понимание не может, в сущности, быть сведено к набору вычислительных правил? Несколько позже (в главах 2 и 3) я приведу некоторые очень серьезные доводы в пользу того, что проявления