И Алан Туринг и Джон Серл были обеспокоены вопросом того, может ли у машины, например, компьютера, быть разум. Мы видели, что каждый из них предложил метод для того, чтобы ответить на этот вопрос. Но, сосредоточившись на методе, мы перешли от вопроса может ли у машины быть разум, к вопросу как мы можем узнать, что у машины есть разум. Первый — метафизический вопрос, поскольку это касается природы вещей, в то время как второй — эпистемологический вопрос, что означает (как Вы должны уже знать), касающийся природы того, как мы познаем вещи. Мы же хотим знать, имеет ли машина или может ли иметь разум.
Но откуда мы узнаем, есть ли у чего-нибудь разум или нет? Это, оказывается, удивительно хитрый вопрос, в частности из-за того, что известно как проблема других разумов. Это — сложная проблема, но ей можно дать одно простое объяснение. Стэн знает, что у него есть разум. Откуда? Хорошо, во-первых, в некотором смысле, он сам ощущает свой разум. Вы же не думаете, что у него нет разума (то же самое — сказать, будто у него не темные волосы)? Если Стэн знает хоть что-нибудь вообще, то он знает, что является обладателем интеллекта. П'нятненько? Теперь, откуда Стэн знает, что у Кайла есть разум? Не таким же образом, правильно? У Стэна нет непосредственного доступа к разуму Кайла, как к своему собственному, если, конечно, в каком-нибудь будущем эпизоде он не предоставит фактов владения телепатией. Фактически, мы можем подумать, что Стэн не может знать наверняка, что у Кайл есть разум, так как он может вывести, что у Кайла есть разум, исключительно из наблюдения за поведением друга? И поведение Кайла дает Стэну лучшие свидетельств того, что он — разумен, в отличие от компьютера, участвующего в тесте Туринга. Но так как мы все уверены, что у маленьких мальчиков есть мозги, и прежде, чем нас загнали в угол философией, давайте обратимся к примеру чего-то, чей умственный статус рассматриваем.
Помните Полотенчика, «умное полотенце», которое может ощутить, насколько ты влажный и приспосабливается соответственно? Полотенчик появляется всякий раз, когда мальчики говорят о воде, а после появления, он неизменно говорит вкрадчивым голоском: «не забудьте взять полотенце!» Печально известен также вопросом: «Пыхнуть хотите?» Этих слов, также как большей части диалогов Полотенчика, конечно, недостаточно, чтобы убедить нас, что он — разумное полотенце, а не просто более сложная (и более тревожащая) версия мягкой игрушки, запрограммированной на несколько высказываний. Что могло бы убедить нас, что Полотенчик — больше, чем игрушка? Если мы хотим знать, есть ли у Полотенчика разум, что мы должны делать? Что мы должны искать?
Во-первых, чтобы подчеркнуть трудность этой задачи, предположите, что Полотенчик говорит, но не делает ничего вообще. Предположите, что он ведет себя, скорее как обычное полотенце. Мы можем знать, что у этого обычного полотенца нет разума? Можно подумать, что нет. Однако, это весьма спорно, так как успешное прохождение теста Туринга — не гарантирует присутствия разума, также как провал в тесте Туринга вовсе не доказывает отсутствия мышления. Находящийся в Комнате 3 может быть разумным, но неспособным общаться с нами, или, возможно, его просто не заботит наш интерес, как ни одного из нас не волнует мысль о том, не вынашивают ли наши полотенца противных замыслов о нас, пока мы энергично вытираем об них руки. Трудно объяснить, почему так получается, отчего мы знаем наверняка, что простые вещи испытывают недостаток разума. Если весь этот разговор о полотенцах кажется Вам глупым, пеняйте на Трэя и Мэтта. А затем предположите, что мы столкнулись с новым видом, обитающим глубоко в океане или на другой планете. Если они не общаются с нами, или, не делают вообще ничего, как мы можем убедиться, что они не думают? Как?
Вернемся к проблеме того, как установить, что у Полотенчика действительно есть разум. Для начала, мы могли бы задаться вопросом о его словарном запасе и живом отклике на вопросы. Если он говорит только, «не забывайте взять полотенце!» и «Пыхнуть хотите?» или если он говорит вещи, которые, кажется, не отвечают на то, что мы спрашивали, то мы, вероятно, можем думать о нем не как о человеке с разумом, а как о, своего рода, устройстве. Это должно более или менее следовать рассуждениям Туринга. Что еще мы могли бы сделать? Какие другие особенности характеризуют разум, которые мы могли бы попытаться обнаружить в Полотенчике? Список таких параметров — довольно длинен и содержит взаимосвязанные особенности, вроде рациональности, сознания, доброй воли, автономии, эмоций, творческого потенциала и духа. И Полотенчик, действительно, кажется, проявляет некоторые из этих вещей, например, он бросает вызов своей программе, отказавшись пыхнуть или расстроившись, когда Кайл отнимает последний косяк. Но общая проблема здесь состоит в том, что, если даже я знаю, как и отчего получается, что у меня есть одна из этих особенностей, я не могу быть абсолютно уверен, что у других людей есть такие же — трудно понять, как я могу использовать эти знания, чтобы уладить проблему с Полотенчиком.
Ни за что! Машине это просто не под силу!Для каждой особенности, которую мы могли бы использовать в определении наличия у чего-либо разума, мы можем найти некий аргумент, доказывающий, что машина просто не может обладать рассматриваемой особенностью. Таким образом, основой любого числа возражений на возможность создания искусственного интеллекта станет давнее убеждение, что машина, просто не может делать определенных вещей, которые могут делать люди. Рассмотрим, для примера, как известный французский философ Рене Декарт (1596–1650) думал об экспериментах с машинами, которые выглядят и действуют почти как мы. В своей книге «Рассуждение о механизме» Декарт говорит, что у нас есть два определенных способа доказать, что машины — действительно не люди:
Во-первых, они никогда не смогут использовать все слова или комбинировать жесты, как делаем мы, чтобы донести наши мысли до других. Мы можем, конечно, понимать машины, построенные специально, чтобы произносить слова и даже речи, которые могут использовать жесты и даже мимику (например, если Вы киваете снизу вверх — это означает вопрос, если Вы киваете сверху вниз — подтверждение, и так далее). Но нет такой машины, что может производить различные смешения слов, чтобы дать соответствующий ответ на сказанное в его присутствии, в отличие от самого унылого человека.
Главное из того, что говорил Декарт — машина, никогда не сможет пройти тест Туринга. Машина просто не в состоянии поддерживать беседу с нами. Но, в то время как не все условия Туринга были выполнены, все же мы видели достаточно фактов, чтобы сомневаться относительно заявления Декарта. Давайте исследуем его второе соображение:
Во-вторых, даже притом, что машины могли бы сделать некоторые вещи, так же как мы или, возможно, даже лучше, они неизбежно потерпели бы неудачу в других начинаниях, так как действовали бы не через понимание, но только от расположения их органов. Тогда как разум — всеобщее орудие, которое может использоваться во всех ситуациях, эти органы нуждаются в некотором специфическом расположении для каждого специфического действия; следовательно — для всех практических целей машина не может иметь достаточно различных органов, чтобы заставить их действовать во всех непредвиденных обстоятельствах жизненного пути, которым мы идем, под влиянием разума.
Так, мы могли бы построить машины, которые могут действовать как мы сами, только в некоторых ограниченных отношениях, машина не может участвовать в полном диапазоне человеческих действий, потому что испытывает недостаток в разуме, который является «всеобщим орудием», используемым во взаимодействиях «со всеми непредвиденными обстоятельствами жизни».
Заметьте, очевидное допущение Декарта, что у машины, которая оборудована, чтобы делать определенную работу, в силу размещения ее частей (органов), не имеет достаточных оснований. Оно подобно заявлению Серла, что у цифровой ЭВМ не может быть разума, но это в более широком смысле. Декарт настаивает, что никакая материальная структура, включая не только построенные машины, но также и биологические «машины», такие как мозг, не могут обладать разумом. Это — результат представлений Декарта о двойственности вещества, веры в то, что люди состоят из двух различных материй: невещественного разума или души и материального тела (которое, конечно, включает мозг). Если Вы — дуалист (верите в святую Троицу), то Вы, весьма вероятно, думаете, что независимо от того, как бы тщательно Вы не организовали материальные части, Вы никогда не сможете построить разум, поскольку разум и материя — различные виды сущностей. Как выразился Декарт несколькими строками ниже: «рациональная душа не может быть выделена из потенциальной возможности материи, но должна быть создана специально». Так же мыслил и Готфрид Вильгельм Лейбниц (1646–1716) — один из философских преемников Декарта, предполагавший, что, если бы мы захотели вообразить интеллектуальную машину, мы должны были бы пойти на завод. Но мы ничего не нашли бы там кроме винтиков, шестерен и других частей, перемещающих друг друга. Так где мы нашли бы что-нибудь, что могло бы думать, чувствовать или понимать? Нигде, говорит Лейбниц. Ни у какого материала не может быть разума.
