не думаю, чтобы ему следовало придавать слишком большое значение. Мы сами слишком часто даем неверные ответы на вопросы, чтобы то чувство удовлетворения, которое возникает у нас при виде погрешности машин, имело оправдание. Кроме того, чувство превосходства может относиться лишь к той машине, над которой мы одержали свою – в сущности, весьма скромную – победу. Не может быть и речи об одновременном торжестве над всеми машинами. Значит, короче говоря, для любой отдельной машины могут найтись люди, которые умнее ее, однако в этом случае снова могут найтись другие, еще более умные машины, и т. д.
Я думаю, что те, кто разделяет точку зрения, выраженную в математическом возражении, как правило, охотно примут «игру в имитацию» в качестве основы дальнейшего рассмотрения. Те же, кто убежден в справедливости двух предыдущих возражений, будут, вероятно, вообще не заинтересованы ни в каком критерии.
Возражение с точки зрения сознания
Это возражение особенно ярко выражено в выступлении профессора Джефферсона [9] на Листеровских чтениях [10] за 1949 год, откуда я и привожу цитату. «До тех пор, пока машина не сможет написать сонет или сочинить музыкальное произведение, побуждаемая к тому собственными мыслями и эмоциями, а не за счет случайного совпадения символов, мы не можем согласиться с тем, что она равносильна мозгу, т. е. что она может не только написать эти вещи, но и понять то, что ею написано. Ни один механизм не может чувствовать (а не просто искусственно сигналить, для чего требуется достаточно несложное устройство) радость от своих успехов, горе от постигших неудач, удовольствие от лести, огорчение из-за совершенной ошибки, не может быть очарованным противоположным полом, не может сердиться или быть удрученным, если ему не удается добиться желаемого».
Это рассуждение, по-видимому, означает отрицание нашего критерия. Согласно самой крайней форме этого взгляда, единственный способ, с помощью которого можно удостовериться в том, что машина может мыслить, состоит в том, чтобы стать машиной и осознавать процесс собственного мышления. Свои переживания можно было бы потом описать другим, но, конечно, подобное сообщение никого бы не удовлетворило. Точно так же если следовать этому взгляду, то окажется, что единственный способ убедиться в том, что данный человек действительно мыслит, состоит в том, чтобы стать именно этим человеком. Фактически эта точка зрения является солипсистской [11]. Быть может, подобные воззрения весьма логичны, но если исходить из них, то обмен идеями становится весьма затруднительным. Согласно этой точке зрения, А обязан думать, что «А мыслит, а В нет», в то время как В убежден в том, что «В мыслит, а А нет». Вместо того чтобы постоянно спорить по этому вопросу, обычно принимают вежливое соглашение о том, что мыслят все.
Я уверен, что профессор Джефферсон отнюдь не желает стоять на этой крайней солипсистской точке зрения. Вероятно, он весьма охотно принял бы в качестве критерия «игру в имитацию». Эта игра (если игрок В не участвует) нередко применяется на практике под названием viva voce [12], для того чтобы установить, понял ли действительно данный человек некоторую вещь или он заучил нечто «как попугай».
Вот отрывок из такой игры.
Задающий вопросы. Не находите ли Вы, что в первой строке Вашего сонета «Сравню ль тебя я с летним днем» выражение «с весенним днем» звучало бы лучше?
Отвечающий. Оно нарушало бы размер стиха.
Задающий вопросы. А если сказать «с зимним днем»? С размером здесь все обстоит благополучно.
Отвечающий. Это так, но никто не захочет, чтобы его сравнивали с зимним днем.
Задающий вопросы. А разве мистер Пиквик не напоминает Вам рождество?
Отвечающий. Некоторым образом, да.
Задающий вопросы. Но рождество – зимний день, и я не думаю, чтобы мистер Пиквик имел что-нибудь против этого сравнения.
Отвечающий. Я не думаю, что Вы говорите все это всерьез. Когда говорят о зимнем дне, имеют в виду обычный зимний день, а не какой-то особенный, вроде рождества.
И так далее. Что бы сказал профессор Джефферсон, если бы машина, пишущая сонеты, могла отвечать примерно так, как это было в приведенном выше отрывке из viva voce? Не знаю, стал ли бы он рассматривать ответы машины лишь как «просто искусственную сигнализацию». Если бы ее ответы были столь же связными и удовлетворительными по содержанию, как в приведенном выше отрывке, я не думаю, чтобы профессор Джефферсон охарактеризовал это как дело, выполнить которое может «достаточно несложное устройство». Эту фразу из его выступления следует, по-видимому, относить к таким случаям, когда в машине имеется, скажем, граммофонная пластинка с записью сонета в чьем-либо исполнении, а также механизм, с помощью которого эту запись можно время от времени включать.
Короче говоря, я считаю, что большинство из тех, кто поддерживает возражение с точки зрения сознания (consciousness), скорее откажутся от своих взглядов, чем признают солипсистскую точку зрения. В таком случае они, по-видимому, охотно примут наш критерий.
Мне не хотелось бы создавать впечатление, будто я считаю, что в сознании нет ничего загадочного. Например, неудача наших попыток локализовать сознание похожа на парадокс. Но я вовсе не думаю, что загадки, связанные с сознанием, непременно должны быть разъяснены прежде, чем мы окажемся в состоянии ответить на вопрос, рассматриваемый в настоящей статье.
Возражения, исходящие из того, что машина не все может выполнить
Обычно эти возражения выражают в такой форме: «Я согласен с тем, что вы можете заставить машины делать все, о чем Вы упоминали, но Вам никогда не удастся заставить их делать А». При этом перечисляют довольно длинный список значений этого X. Я предлагаю читателю выбирать:
«Быть добрым, находчивым, красивым, дружелюбным, быть инициативным, обладать чувством юмора, отличать правильное от неправильного, совершать ошибки, влюбляться, получать удовольствие от клубники со сливками, заставить кого-нибудь полюбить себя, извлекать уроки из своего опыта, правильно употреблять слова, думать о себе, обладать таким же разнообразием в поведении, каким обладает человек, создавать нечто подлинно новое». (Некоторые пункты из этого списка ограничений машинных возможностей будут рассмотрены особо.)
Обычно в подтверждение подобных высказываний не приводят никаких доводов. Я убежден, что эти высказывания основываются главным образом на принципе неполной индукции [13]. Человек в течение своей жизни видел тысячи машин. Из того, что он видел, он делает ряд общих заключений. Машины безобразны, каждая из них создана для того, чтобы выполнять весьма ограниченные задачи, и если необходимо сделать нечто иное, они бесполезны, вариации их поведения крайне незначительны и т. д. и т. п. Естественно, человек делает вывод, что все это является необходимыми особенностями всех машин в целом. Многие из этих
