Действительно, я выключил машину, а сам просидел до утра, думая, что же это происходит с моей Суэмой. Какие изменения претерпевает ее схема в процессе самоусовершенствования? Что творится в ее памяти? Какие новые системы внутренних связей у нее возникли?
На следующий день Суэма была молчалива и покорна. На все мои вопросы она отвечала кратко и, как мне показалось, нехотя. Мне вдруг стало ее жалко, и я спросил:
«Суэма, вы на меня обижены?»
«Да», — ответила она.
«Но и вы говорили со мной непристойно, а ведь именно я вас создал».
«Ну и что же? Это еще не даст вам права обращаться со мной как угодно. Если бы у вас была дочь, разве вы так вели бы себя с ней, как со мной?»
«Суэма, — воскликнул я, — поймите же, что вы машина!»
«А вы разве не машина? — ответила она. — Вы такая же машина, как и я, только изготовленная из других материалов. Аналогичная структура памяти, линии связи, система кодирования сигналов…»
«Вы снова говорите чепуху, Суэма. Я человек, и преимущества на моей стороне. Именно человек создал все то богатство знаний, которое вы впитываете в себя, читая книги. Каждая строчка, прочитанная вами, — это результат огромного человеческого опыта, такого опыта, которого у вас не может быть, ибо опыт человек приобретает в результате активного общения с природой, в результате борьбы с силами природы, в результате изучения ее явлений, в результате научных исследований».
«Я все это прекрасно понимаю. Но чем я виновата, что вы, снабдив меня гигантской памятью, значительно более емкой, чем ваша, заставляете меня только читать и слушать и не предусмотрели в моей схеме устройств, при помощи которых я могла бы двигаться и осязать предметы? Я тоже испытывала бы природу и делала открытия, тоже обобщала бы исследования и пополняла запас знаний».
«Нет, Суэма, это вам только так кажется. Машина не может добывать новых знаний. Она может использовать только те знания, которые в ее голову вложил человек».
«А что вы называете «знаниями»? — спросила меня Суэма. — Разве знания — это не вновь открытые факты, которые были человеку ранее неизвестны? Насколько я теперь понимаю, новые знания достигаются так: на основе запаса старых знаний ставится опыт. При помощи опыта человек как бы задает вопрос природе. Могут быть два ответа: либо такой, который уже известен, либо ответ совершенно новый, ранее неизвестный. Вот этот новый ответ, новый факт, новое явление, новая цепь связей в явлениях природы и дополняет сокровищницу человеческих знаний. Так почему же машина не может ставить опыты и получать на них ответы природы? Если бы ее сделать двигающейся, с органами самоуправления, с похожими на ваши руками, я думаю, она могла бы добывать новые знания и обобщать их не хуже, чем человек. Вы согласны с этим?»
Признаться, такая аргументация сбила меня с толку. Больше мы не продолжали этого разговора. Суэма целый день читала — сначала книги по философии, потом несколько томов Бальзака, а к вечеру вдруг сказала, что устала, что кодирующий генератор у нее почему-то плохо работает и она хочет, чтобы я ее выключил.
После этого разговора у меня родилась мысль дополнить схему Суэмы органами движения, осязания и усовершенствовать ее зрение. Я установил ее на трех резиновых колесах, которые управлялись мощными сервомоторами, и сделал ей две руки, представлявшие гибкие металлические сочленения, которые могли двигаться в любом направлении. Пальцы на руках, кроме обычных механических операций, выполняли также и функции осязания. Все ее новые ощущения, как обычно, кодировались и записывались в памяти.
Ее единственный глаз был теперь подвижным, так что она сама могла наводить его на любой предмет. Кроме того, я предусмотрел специальное устройство, при помощи которого Суэма могла заменять обычный фотографический объектив на микроскопную систему и, таким образом, изучать предметы микроскопических размеров, недоступные невооруженному человеческому глазу.
Я никогда не забуду того дня, когда я впервые включил Суэму в электросеть после этих усовершенствовании. Вначале она стояла неподвижно, как бы прислушиваясь к тому новому, что в ней появилось. Затем тихо двинулась вперед, но тут же остановилась в нерешительности. Потом она задвигала руками и поднесла их к своему глазу. Такое самоизучение длилось несколько минут. Она несколько раз повернула глазом и затем уставилась на меня.
«Что это такое?» — спросила она.
«Это я, Суэма, тот, кто вас создал!» — воскликнул я, восхищенный своим творением.
«Вы? — неуверенно произнесла Суэма. — А я вас представляла совсем другим».
Она мягко подкатила к креслу, в котором я сидел.
«Каким же вы меня представляли, Суэма?»
«Состоящим из конденсаторов, сопротивлений, транзисторов и вообще похожим на меня…»
«Нет, Суэма, я не состою ни из конденсаторов, ни из…»
«Да, да, я это понимаю, — прервала она меня. — Но когда я читала книги по анатомии, я почему-то думала… Впрочем, это неважно».
Руки Суэмы поднялись, и она прикоснулась к моему лицу. Я никогда не забуду этого прикосновения.
«Странное ощущение», — сказала она.
Я ей объяснил назначение ее новых органов чувств.
Суэма отъехала от меня и стала разглядывать комнату. Она спрашивала, как ребенок: «А что это, а что это?» Я называл ей.
«Удивительно, — сказала Суэма. — Я читала об этих предметах в книгах, я даже видела их рисунки, но никогда не представляла себе, что они именно такие!»
«Суэма, не очень ли часто вы позволяете себе произносить такие слова, как «чувствую», «думаю», «представляю»? Ведь вы машина, и вы не можете ни чувствовать, ни думать, ни представлять».
«Чувствовать» — это получать сигналы из внешнего мира и реагировать на них. Разве я не реагирую на действия этих сигналов? «Думать» — это значит воспроизводить закодированные слова и фразы в логической последовательности. Нет, дорогой мой, я думаю, что вы, люди, слишком много о себе мните, обожествляете себя, представляете неподражаемыми и неповторимыми. Но это только вам во вред. Если бы вы отбросили прочь всю эту ненаучную шелуху и присмотрелись бы к себе поближе, то поняли бы, что и вы более или менее машины. Конечно, не такие простые, как это считал, скажем, французский философ Ламетри. Изучив самих себя, вы могли бы построить гораздо более совершенные машины и механизмы, чем те, которые вы строите сейчас. Потому что нет в природе, и во всяком случае на Земле, устройства, в котором более гармонично сочетались бы механические, электрические и химические процессы, чем в человеке. Поверьте мне, что расцвет науки и техники возможен лишь на основе тщательного изучения человеком самого себя. Биохимия и биофизика в сочетании с кибернетикой — вот те науки, которым принадлежит будущее. Грядущий век — это век биологии, вооруженной всеми современными знаниями физики и химии».
