Точка зрения Петрунина.

Прежде чем обратимся к размышлениям Петрунина, еще раз заметим, что эти размышления относятся к философии, а не к технических наукам, и поэтому ни в коем случае не должны восприниматься, как неоспоримые истины. Итак, «слово» Петрунину.

«Можно ли научить машину думать? Наконец, просто верите ли Вы в возможность создания искусственного разума? Сама модальность верования, употребляемая в таких вопрошаниях, наводит на мысль о том, что вопрос об искусственном интеллекте выходит за рамки научного, или, тем более, технического. "Относительно разума вычислительных машин… – пишет один из крупнейших авторитетов в этой области П. Уинстон – имеется много ходячих мифов"[1] С этим высказыванием нельзя не согласиться. Но я бы добавил, что и сам термин "искусственный интеллект" обозначает некий миф, широко проникший в современное научное и обыденное сознание. Миф означает в данном случае не ложность некоего представления, а лишь то, что это представление не может быть рационально обосновано и эмпирически проверено.

Действительно, для эмпирической проверки необходимо ясное представление о том, что собственно проверять, иными словами четкое определение того, что есть искусственный интеллект. Однако в работах по искусственному интеллекту отсутствует общепризнанное определение центрального понятая этой науки – "интеллекта". "По существу, последний так и не получил достаточно удовлетворительного объективного определения, – замечает А. Эндрю. – Поэтому... в конечном счете нам придется вернуться к нашему интуитивному представлению об интеллекте"[2].

Реферативный журнал «Abstracts in Artificial Intellegence» (The Turing Institute, ed. J. Ritchie) разделяет искусственный интеллект на следующие проблемы: экспертные системы, применения искусственного интеллекта, автоматическое программирование, автоматическое доказательство теорем и логическое программирование, обучение, естественный язык, поиск, управление и планирование, робототехника, зрение и обработка изображений, распознавание образов, когнитивное моделирование, взаимодействие человека и ЭВМ, технические средства для искусственного интеллекта. Но что объединяет эти столь разные задачи?

"Если бы физики или химики взялись дать абстрактные определения своих областей знания, – подчеркивает Э. Хант, – то скорее всего не нашли бы разногласий ни среди тех, ни среди других. Вряд ли бы обнаружилось такое единодушие, если бы пришлось собрать вместе разных ученых, занимающихся искусственным интеллектом"[3].

Предлагаемые определения интеллекта непохожи друг на друга настолько, словно речь идет о разных вещах. Одни считают, что интеллект – это умение решать сложные задачи; другие рассматривают его как способность к обучению, обобщениям к нахождению аналогий; третьи – как возможность взаимодействия с внешним миром путем общения, восприятия и осознания воспринятого. Некоторые ученые развивают даже теоретическую модель, в которой за осуществление интеллектуальной деятельности отвечает около 120 различных факторов, из которых только 50–60 сегодня известны [4].

Казалось бы, выход из этой ситуации состоит в обращении к естественному интеллекту, который мог бы стать эталоном (образцом) интеллекта искусственного. Можно было бы принять, что машина обладает интеллектом (является интеллектуальной), если задание, которое она выполняет, потребовала бы от человека, окажись он на месте машины, – интеллектуальных усилий. Проверяя справедливость этого утверждения, естественно задать вопрос: "Использует ли человек свой интеллект, выполняя арифметические действия?" – Несомненно. Но тогда уже самый примитивный калькулятор обладает интеллектом, что, разумеется, абсурдно.

В начале 1950-х годов известный английский математик и специалист в области вычислительной техники Алан Тьюринг предложил тест, позволяющий определить, является ли машина "думающей" или нет. Этот тест основан на "игре в переговоры", суть которой состоит в следующем. Играющие пытаются отгадать, кто находится в соседней комнате. По вопросам, передаваемым через посредника устно или письменно и ответам на них, необходимо выяснить, является ли этот человек мужчиной или женщиной. Идея Тьюринга заключалась в том, чтобы посредством подобных переговоров испытать машину на "интеллект". Если лицо, задающее вопросы, не в состоянии установить, общается ли он с человеком или машиной, то следует признать, что эта машина (если это на самом деле механическое устройство) обладает интеллектом.

Но при таком подходе вполне логично утверждать, что отдельные существующие программы для вычислительных машин вполне удовлетворяют тесту Тьюринга. Хорошо известна, например, программа "Элиза", созданная еще в 1964 г. крупным американским кибернетиком Дж. Вейценбаумом и имитирующая поведение психиатра. Пациенты, с которыми "беседовала" эта программа, в большинстве случаев не сомневались в том, что они общаются с врачом. Однако несомненный успех этой программы не может заставить никого считать ее искусственным интеллектом. Почему?

Попробуем проанализировать работу "Элизы". Возьмем типичный фрагмент диалога между исследователем, играющим роль пациентки, и "Элизой", выполняющим роль врача (ее ответы выделены курсивом):

- Все мужчины одинаковы.

- В каком смысле?

- Они всегда пристают к тебе с чем-нибудь.

- Вы имеете в виду что-нибудь конкретное?

- Ну да, это мой парень заставил меня прийти сюда.

- Ваш парень заставил вас прийти сюда?

- Он говорит, что я почти все время подавлена.

- Прискорбно слышать, что вы все время подавлены.

- Это правда. Я несчастна.

- Вы думаете, что ваш приход сюда поможет вам не быть несчастной?

- Это точно; мне нужна чья-нибудь помощь.

- Что значит для вас "получить помощь"?

- Может быть, я научусь ладить с моей мамой.

- Расскажите поподробнее о вашей семье.

Впечатление, что "Элиза" понимает пациента, в значительной мере иллюзорно. Программа была составлена так, чтобы распознавать определенные ключевые слова и сочетания в набираемом на клавиатуре тексте. Когда компьютер обнаруживал сочетание, совпадающее с одним из образцов, он отвечал простыми фразами, в которые были включены запрограммированные формулировки. Например, если пациент упоминал мать, "Элиза" отвечала вопросом о семье. Другой заложенный в программу "фокус" заключался в преобразовании утверждения пациента в вопрос, что весьма напоминало поведение настоящего психотерапевта.

Если даже "Элиза" не обнаруживала знакомых словосочетаний, она не лишалась дара речи: программа обращалась к своему запасу слов за нейтральными замечаниями или фразами тина "Понято", "Очень интересно", "Почему вы так считаете?". Программа была составлена так, чтобы "врач" ни в коем случае не использовал какую-либо из стандартных фраз два раза подряд.

Программа была задумана как своего рода пародия на поведение некоторых психотерапевтов. Однако вне зависимости от первоначальных намерений Вейценбаума, ответы "Элизы" выглядели столь завораживающе правдоподобными, что многих приводили в восторг. Программа сумела одурачить президента компьютерной исследовательской фирмы и заставить одного крупного советского специалиста по компьютерам сесть за терминал в Стэнфорде и изливать компьютеру свои беды [5].

Предполагаемые пациенты осаждали Вейценбаума телефонными звонками. Однажды его секретарша, которая на протяжении многих месяцев наблюдала, как Вейценбаум работал над программой, и казалось, должна была бы прекрасно понимать, что это не более чем компьютерная программа, иступила с ней в диалог. После первых же нескольких вопросов и ответов она попросила его выйти из комнаты.

Представим себе такую ситуацию.

Можно ли считать разумным компьютер, если он в состоянии читать газету и делать краткий обзор ее содержания? – спрашивает ученый, занимающийся искусственным интеллектом.

Конечно, – соглашается критик.

Мой студент как раз написал такую программу и безо всякого обмана вроде перепечатки заголовков, – сообщает ученый.

А как же работает эта программа? – недоверчиво вопрошает критик.

Посидев недолго за дисплеем, он решает, что подозрения его не напрасны: "И всего-то? Это я не могу признать интеллектуальным". Создается впечатление, что если мы понимаем, как что-то делается, то это "что-то" нельзя считать требующим особого ума. "Быть интеллектуальным – значит быть загадочным, – утверждает П. Уинстон. – Как он мог до этого дойти? – спрашиваем мы. До тех пор пока происхождение идеи остается неясным, она выглядит как откровение, но как только на поверхность выходит ее объяснение, мы удивляемся: "Как это я об этом не подумал, ведь это так очевидно!" Когда процесс окажется разделенным на части, изученным и понятым, похоже, что интеллект исчезает"[6].

Известный французский исследователь Ж.Л. Лорьер пишет: "Всякая задача, для которой неизвестен алгоритм решения, априорно относится к искусственному интеллекту"[7]. Но не означает ли это, что как только такой алгоритм найден, задача перестает относиться к сфере искусственного интеллекта? Где же "прячется" интеллект: в методе решения задачи или в том, что привело к нахождению этого метода?

Понятие интеллекта, словно легендарный Протей, кажется неуловимым. "На самом деле дать определение, – резюмирует свои соображения П. Уинстон, – в обычном смысле этого слова, по-видимому, невозможно"[8]. Как остроумно замечают Мичи и Джонстон, "за неимением более точного определения машинного интеллекта его можно охарактеризовать словами: "Точного определения я дать не могу, но всегда могу узнать, когда вижу"[9]. Термин "искусственный интеллект" призван, по мнению некоторых специалистов, вызвать лишь некоторый "поток субъективных ассоциаций"[10]. Удивительное дело, ключевое понятие рационализма – интеллект, разум – само как бы находится за границами рациональности, представляя из себя загадочное (даже "таинственное", по мнению ведущих специалистов по искусственному интеллекту Р. Шенка и Л. Хантера[11]"), обнаруживаемое лишь интуицией свойство, исчезающее при приближении к нему!

Разумеется, такой характер ключевого понятия в исследованиях по искусственному интеллекту сказывается и на методах "аргументации" споров, ведущихся в этой области науки. Вот типичный пример. Анализируя интеллектуальные возможности ЭВМ, известный советский кибернетик К.Е. Морозов пишет: "Главное опровержение скептицизма в оценке способностей машин заключается не в критике отдельных "конкретных" аргументов порознь. У. Мак-Каллок и В. Питтс в своих работах по теории нейронных сетей доказали, что любая функция естественной нервной системы, которая может быть логически описана с помощью конечного числа слов, реализуема с помощью формальной нервной сети. А формальная нервная сеть во многом эквивалентна ЭВМ. Отсюда вывод: принципиально возможно моделировать любые функции человеческого мозга"[12].

Но можно ли строго логически описать работу мозга? Оказывается, что в основе "конкретного" доказательства лежит недоказуемое предположение, или эпистемологическое верование. "Иногда ставят вопрос, – продолжает тот же автор, – а можно ли дать достаточно полное описание мозга и его работы? Последовательный материалист (в отличие от агностика) не может сомневаться в принципиальной возможности создания информационной модели мозга"[13].

Знаменитый советский "пророк" кибернетической эры академик В.М. Глушков считал, что никаких априорных ограничений для автоматизации интеллектуальной деятельности не существует. Критики компьютерного оптимизма обычно приводили в качестве доказательства наличия таких ограничений знаменитую теорему Гёделя о неполноте арифметики. Суть последней состоит в том, что любая формальная теория, включающая в себя арифметику натуральных чисел, если она непротиворечива, неполна в том смысле, что в ней обязательно существуют недоказуемые предложения, т.е. предложения, не выводимые из аксиом данной теории. Отсюда можно сделать вывод, что формализовать достаточно сложные процессы, к которым, без сомнения, относится мышление невозможно (или, иначе, любая формализация будет неполной).

Для преодоления этого запрета, считал В.М. Глушков, в формальной теории необходимо ввести развитие. "Запрет Гёделя снимается лишь в том случае, – писал В.М.Глушков, – когда рассматриваемая формальная теория развивается не изолированно, а во взаимодействии с окружающим миром при непременном, однако условии, что этот мир, в свою очередь, не может быть описан в виде конечно-порожденной системы"[14].

Обратим внимание: "если мир не может быть описан в виде конечной системы правил". Но где основания для такой уверенности?

Таким образом, идея интеллекта, как целевой и регулятивный принцип, лежащий в основе исследований по искусственному интеллекту, который определяет, что принадлежит этим исследованиям, а что нет, который позволяет определить прогресс (или регресс) этой области науки, не может быть ни четко сформулирован, ни ясно описан, а покоится на неявном знании членов научного сообщества, их интуитивных представлениях, эстетических вкусах и эпистемологических верованиях.

Более того, только частое употребление слов "искусственный разум" "механический мозг" и их синонимов скрывает всю парадоксальность этих словосочетаний. Действительно, в термине "искусственный", или "машинный", интеллект соединены два противоположных по значению понятия. С одной стороны, "машинный" – слово, означающее нечто механическое, бессознательное, непроизвольное, строго повторяющееся и т.п., с другой – "интеллект" ("разум") – нечто оригинальное, творческое, неформализуемое, непредвидимое, неподчиняющееся никаким правилам. Как же оказывается осмысленным использование термина, аналогичного таким как "круглый квадрат", "темный свет", "горячий лед", "сухая вода" и т.п., являющихся по сути contradicto in adjecto (противоречием в определении)? " [15].

Тем не менее, это не мешает идее искусственного разума стремительно перешагивать за пределы тесного круга логиков и программистов. В первой главе первого издания (1977 г.) своей классической книги по использованию искусственного интеллекта в гуманитарных науках Маргарет Боден писала, что упоминание об искусственном интеллекте в обычной беседе может повергнуть собеседника в растерянность[16]. Десять лет спустя во втором издании этой книги М. Боден пишет, что концепция искусственного интеллекта принята всеми [17].

Но идея, или, лучше сказать, мифологема искусственного интеллекта не замыкается узкими рамками научного сообщества. Ведь дело не в том, что какой-то гений (или сумасшедший) придумал (изобрел) искусственный интеллект, а в том, что его идея была сразу подхвачена средствами массовой информации, тиражирована в художественные произведения, закрепилась в обыденном сознании. Люди, понятия не имеющие ни о программировании, ни о модальной логике, ни о лямбда-исчислении Черча и тому подобных вещах, просто и быстро поверили в возможность искусственного интеллекта – без всяких доказательств, да они бы их и не поняли. Других же таких же рьяных не могут убедить никакие доказательства. Но и те, и другие сразу же включили искусственный интеллект в свое сознание; поняли, почувствовали, увидели. Он стал им родным, начиная с детей. Последние в развитых странах теперь, вероятно, больше воюют в играх с роботами, чем с индейцами. Даже в мультфильме о Библии – "Суперкниге" – действуют разумные роботы, видимо, чтобы было понятней детям.

Все это говорит о том, что искусственный интеллект сразу (или почти сразу) стал предметом массовой веры, интеллектуальным идеалом, надеждой и чаянием человечества. О последнем значении искусственного интеллекта уже упоминавшиеся Мичи и Джонстон пишут так:

"Высказываются опасения, что создать разумные машины – это значит впустить в наш дом полчища "завоевателей". На самом деле мы должны смотреть на себя как на осажденный гарнизон, который после десяти часов осады вдруг с облегчением замечает на горизонте пыль, поднятую спешащим нам на помощь отрядом"[18].

Не говорит ли это о том, что еще задолго до появления слов "искусственный интеллект" общество было готово принять это трудносоединимое словосочетание, а точнее стоящие за ним представления? Создатель программы "Элиза" Дж.Вейценбаум писал впоследствии в своей книге "Возможности вычислительных машин и человеческий разум": "Основная идея нашей книги как раз и заключается в том, что мы все вместе чересчур преуспели в превращении нашего мира в "компьютер" и что эта перестройка мира по образу и подобию вычислительной машины началась еще задолго до появления электронных вычислительных машин. Теперь, когда у нас есть вычислительные машины, стало легче замечать эту поразительную трансформацию, которой мы подвергли наш мир"[19].

Не относятся ли слова Вейценбаума еще в большей степени к искусственному интеллекту? Не есть ли исследования в области создания разумных машин лишь определенная фаза развития старинных традиций, ранее облаченных в другие словесные формулировки и оснащенные совсем другими техническими средствами; традиций, принадлежащих не сугубо научно-рациональной сфере, а уходящим в сокровенные глубины европейской культуры? Сами творцы искусственного интеллекта в конце XX века отмечают прямую связь своих исследований с оккультными науками древности, с практикой алхимиков в Средние века, с легендами и мифами о создании совершенного человекоподобного существа».