Теперь, по-видимому, цикл начнется снова; однако ни история, ни предыстория никогда не повторяются в точности, и на этот раз в жизни общества произойдет захватывающий поворот. Орудия, созданные обезьяночеловеком, послужили причиной его эволюционного превращения в своего преемника — homo sapiens. Орудие же, которое создали мы, само станет нашим преемником. Биологическая эволюция уступает дорогу несравненно более быстрому процессу — технической эволюции.
Эта идея, конечно, не нова. То, что творения мозга человека могут когда-нибудь стать угрозой для него и даже уничтожить его, — штамп настолько избитый, что ни один уважающий себя писатель-фантаст не посмеет им воспользоваться. Он восходит к таинственной, но, пожалуй, не совсем мифической фигуре Дедала (единолично представлявшего научно-исследовательский отдел при царе Миносе), позднее встречается в легенде о Фаусте, «Франкенштейне» Мэри Шелли, «Эревхоне» Самюэля Батлера, пьесе «R. U. R.» Чапека. До сих пор на протяжении по меньшей мере трех тысячелетий мыслящее меньшинство человечества высказывало серьезные опасения по поводу конечных последствий развития техники. С эгоцентрической, человеческой точки зрения эти опасения оправданны. Но я смею утверждать, что эта точка зрения не очень долго будет единственной или даже самой важной.
Когда лет пятнадцать назад появились первые крупные электронно-вычислительные машины, к ним быстро пристало прозвище «гигантский мозг». Ученые в целом крайне отрицательно отнеслись к этому названию. Но они выбрали не то слово в качестве объекта возражения. Электронно-вычислительная машина — это мозг, только не гигантский, а карликовый. Таким пока и остается этот тип машин, несмотря на то что он вырос в сотню раз на глазах одного поколения человечества. Однако уже сейчас, на стадии эволюции, которая соответствует стадии «кремневого топора», электронно-вычислительные машины делают то, что еще недавно всякий посчитал бы невозможным: переводят с одного языка на другой, сочиняют музыку и довольно прилично играют в шахматы. Но гораздо важнее любой из этих младенческих забав то обстоятельство, что машины разрушили преграду, отделяющую мозг от машины.
Это одно из величайших — и, вероятно, одно из последних — решающих свершений в истории человеческой мысли, подобное открытию того, что Земля вращается вокруг Солнца, или что человек — часть животного царства, или что Е = mс2. Понадобилось немало времени, чтобы осмыслить все эти идеи, и поначалу их неистово отвергали; точно так же людям понадобится некоторое время, чтобы осознать, что машины могут думать.
Вы можете вполне законно спросить меня: «А что вы подразумеваете под словом „думать“?» Я предпочту обойти этот вопрос с помощью изящной аналогии, которой обязан английскому математику Тьюрингу. Он предложил игру, в которой участвуют два оператора с телетайпами, сидящие в разных комнатах, — такой способ связи избран для того, чтобы исключить возможность передачи всякой дополнительной информации, которую могут нести интонация голоса, выражение лица и т. п. Предположим, что один оператор может задавать другому любые вопросы по своему усмотрению, а тот в свою очередь должен давать на них соответствующие ответы. Если через несколько часов или дней такого общения спрашивающий не сможет решить, кто его телеграфный собеседник — человек или механическое устройство, тогда он вряд ли сможет отрицать, что этот собеседник (он или оно) способен думать. Электронный мозг, выдержавший это испытание, конечно, должен был бы считаться разумным существом. И тот, кто стал бы утверждать обратное, просто показал бы, что он менее разумен, чем машина, и придает излишнее значение мелочам, наподобие того схоласта, который утверждал, что «Одиссея» создана не Гомером, а другим человеком, носившим то же имя.
Пока еще от создания такой машины нас отделяют десятилетия (но не века!), однако мы уже уверены, что ее можно построить. Если эксперимент Тьюринга никогда не будет поставлен, то только потому, что у мыслящих машин будет много более важных дел, чем пространные беседы с людьми. Я часто говорю со своей собакой, но никогда не говорю с ней подолгу.
Современные большие электронно-вычислительные машины — это пока еще быстродействующие тупицы, не способные ни к чему выходящему за пределы инструкций, которые заложены в их программах. Это обстоятельство вселяет во многих людей ложное чувство безопасности. Ни одна машина, говорят они, не может быть разумнее своих создателей — людей, которые проектировали ее и планировали ее работу. Она может в миллион раз быстрее выполнять операции, но это совершенно несущественно. Абсолютно все, что может выполнить электронный мозг, должно быть под силу и человеческому мозгу, при достаточном времени и терпении. К тому же, утверждают они, ни одной машине не свойственны оригинальность, способность к творчеству и иные достоинства, которые нежно зовутся «человеческими».
Эти доводы совершенно ошибочны; люди, которые еще держатся за них, уподобляются тем шорникам, которые полвека назад подшучивали над застрявшим в грязи слабосильным фордиком. Но даже если бы они были верны, утешения в этом мало, что легко уяснить, внимательно прочитав нижеследующие высказывания доктора Норберта Винера:
«Эту позицию (предположение о том, что машины не могут ни в малейшей степени обладать оригинальностью), по-моему, следует решительно отвергнуть.
…Я утверждаю, что машины могут переступить и переступают через некоторые ограничения, присущие их создателям… Очень может быть, что мы в принципе не в силах создать машину, элементы поведения которой мы не в состоянии понять раньше или позже. Но это вовсе не означает, что мы сумеем понять их за время намного меньшее, чем то, которое затрачивает машина на выполнение операции, или даже за какое-то данное число лет или поколений… Это означает, что хотя теоретически машины подвластны критическому анализу человека, однако такой анализ, может случиться, даст нужные результаты намного позднее того срока, когда они еще могли бы повлиять на ход событий».
Иными словами, машины, даже если они менее разумны, чем человек, могут выйти из-под нашего контроля благодаря колоссальной скорости выполнения операций. Фактически есть все основания предполагать, что машины станут намного разумнее своих создателей, так же как и несравненно быстрее их.
Остались еще авторитеты, которые наотрез отказываются наделить разумом как современные, так и будущие машины. Их позиция поразительно напоминает ту, которую занимали химики в начале XIX столетия. Тогда уже было известно, что все живые организмы состоят из нескольких обыкновенных элементов — в основном из углерода, водорода, кислорода и азота. Однако твердо считалось, что вещества, из которых строится живое, нельзя получить из одних «чисто» химических соединений. Должен быть еще какой-то ингредиент — некая сущность, или жизненная основа, которую человек никогда не сможет познать. Ни один химик не сможет, взяв углерод, водород и так далее, соединить их так, чтобы получилось какое-нибудь из тех веществ, на которых основывается жизнь. Миры «органической» и «неорганической» химии разделял неприступный барьер.
Эта мистика была развеяна в 1828 году, когда Вёлер синтезировал мочевину и показал, что между химическими реакциями, идущими в организме, и теми реакциями, которые происходят в реторте, никакой разницы нет. Это был сокрушительный удар по тем святошам, которые верили, что механика жизни навсегда останется недоступной для понимания или воспроизведения. Точно так же сегодня многие люди возмущены предположением, что машины могут думать, однако их недоброжелательство ничего не изменит в существующем положении.
Поскольку эта книга не трактат о проектировании вычислительных устройств, читателю не следует ждать от меня объяснений, как построить думающую машину. И вряд ли человек когда-нибудь сумеет дать такое объяснение во всех деталях. Но можно указать последовательность событий, которая приведет от homo sapiens к machina sapiens[42]. Первые два-три шага по этому пути уже сделаны: существуют машины, которые способны обучаться, извлекая уроки из своих ошибок и — в отличие от человека — никогда не повторяя их. Существуют машины, которые не бездействуют в ожидании инструкций, а исследуют окружающий их мир, как если бы им была свойственна любознательность. Есть машины, которые отыскивают доказательства математических или логических теорем и иногда получают неожиданные решения; которые никогда не приходили в голову их создателям.
Эти слабые проблески оригинального мышления пока присущи лишь немногим лабораторным моделям; их совсем лишены гигантские вычислительные машины, которые может купить любой, у кого найдется несколько сот тысяч долларов. Но машинный разум будет развиваться, и он начнет выходить за рамки, присущие мышлению человека, как только появится второе «поколение» вычислительных машин — «поколение», которое будет спроектировано не людьми, а другими «почти разумными» вычислительными машинами. Машины станут не только проектировать, но и строить, ибо машины второго «поколения» будут иметь слишком много компонентов, чтобы их можно было собирать вручную.
