— Ты, пап, смотри, не запутайся в нем и не свались, когда выйдешь на сцену.
— Уж постараюсь, — откликнулся Джордж.
Сущность его аргументов в пользу прав роботов заключалась в следующем:
— Если, согласно Второму Закону, мы можем требовать от любого робота полного подчинения во всем, что не причиняет вреда человеку, тогда любой человек — любой! — обладает страшной властью над любым — опять-таки над любым — роботом. Вследствие этого, поскольку Второй Закон господствует над Третьим, любой человек может воспользоваться им и свести на нет Третий Закон о самозащите робота. Он может приказать роботу причинить себе вред или даже разрушить себя по любой причине или вовсе без причины, из каприза.
Исключим из нашей дискуссии вопрос о собственности — хотя и это заслуживает внимания, — давайте посмотрим на все с позиции человеческой порядочности. Представьте на минуту, что некто подходит к роботу, оказавшемуся в одиночестве на дороге, и единственно ради развлечения приказывает ему расчленить самого себя или причинить себе не менее тяжелые увечья. Или, предположим, сам хозяин робота в минуту расстройства, или от скуки, или от крушения своих планов отдает ему такой приказ.
Вы считаете это справедливым? Разве к животным мы так относимся? А у животного, поймите меня правильно, есть возможность защитить себя. Мы же наших роботов сделали изначально неспособными поднять руку на человека.
Даже обычный неодушевленный предмет, хорошо послуживший нам, требует от нас определенного внимания. А робот — это существо далеко не бесчувственное, это и не машина, и не животное. Он достаточно хорошо соображает, чтобы участвовать в беседах с нами, обсуждать наши проблемы, шутить с нами. Многие из нас, кому довелось жить и работать вместе с роботами в течение всей жизни, пришли к мысли, что они — наши друзья, а иногда, осмелюсь сказать, и члены наших семей. Мы испытываем глубокое уважение к ним, даже привязанность. И что же — требование принять закон в защиту наших друзей-роботов слишком тяжелое требование?
Если человек имеет право приказать роботу все, что не нанесет вреда человеческому существу, он должен иметь достаточно порядочности и никогда не приказывать то, что может навредить роботу, кроме тех случаев, когда это необходимо для спасения человека. Во всяком случае, недопустимо требовать от робота причинения себе бессмысленного вреда. Большой власти должна сопутствовать большая ответственность. Если уж роботы подчинены Трем Законам, защищающим интересы людей, то разве слишком много будет потребовать, чтобы люди тоже подчинялись одному-двум законам в защиту роботов?
Но существовала и противостоящая Джорджу сторона, возглавляемая все тем же Джеймсом Ван Бюреном, адвокатом, который протестовал в Региональном суде против предоставления Эндрю статуса свободного робота. Теперь это был старик. но такой же неутомимый и изобретательный защитник традиционных общественных установлений. И снова этот прекрасный оратор в своей спокойной, уравновешенной, благоразумной манере выступал от имени тех, кто отрицал всякую возможность предоставления прав роботам.
Он говорил:
— Конечно, я ни в коей мере не оправдываю тех вандалов, которые бессмысленно разрушают роботов, им не принадлежащих, или приказывают самому роботу разобрать себя на части. Это уголовное преступление в чистом виде, и преступник может быть наказан в соответствии с ныне действующими законами. Но особый закон для подобных случаев нужен нам так же, как, к примеру, специальный закон против тех, кто бьет стекла в окнах чужих домов. Неужели нам недостаточно общего закона, утверждающего неприкосновенность собственности, чтобы создать условия для ее защиты?
Но специальный закон, предотвращающий уничтожение собственного робота? Простите, тут мы вступаем в область очень странного образа мышления. У меня, в моем офисе есть роботы, но желание сокрушить хотя бы одного из них приходит ко мне так же часто, как мысль взять топор и трахнуть им по столу. Но покажите хотя бы одного человека, который стал бы возражать против моего права делать с моими роботами все, что мне вздумается, так же, как со столами и с любыми предметами мебели в моем офисе. Может, государство, бесконечно мудрое государство, явится ко мне в офис и скажет: «Джеймс Ван Бюрен, вы должны проявлять доброту к вашим столам и оберегать их от повреждений. То же и в отношении картотечных ящиков: к ним следует относиться с уважением, к ним следует относиться как к друзьям. Это касается и ваших роботов, само собой разумеется. Вы, Джеймс Ван Бюрен, ни в коем случае не должны подвергать опасности своих собственных роботов».
В этом месте Ван Бюрен выдерживал небольшую паузу, умно и спокойно улыбался, каждому давая понять, что это был не более чем гипотетический пример и что сам он отнюдь не принадлежит к тем, кто может кому-либо или чему-либо нанести урон. И затем он продолжал:
— Можно ожидать, что Джордж Чарни скажет, будто робот по сути своей совершенно отличен от стола или картотечного ящика, что робот разумен и эмоционален, что с роботами нужно обращаться практически как с людьми. В ответ я хотел бы сказать, что он ошибается, он ослеплен любовью к роботу, которого его семья держит вот уже много десятилетий, он потерял представление о том, что такое роботы в действительности.
А в действительности они, друзья мои, машины. Они инструменты. Они приспособления. Механические приспособления, меньше всего нуждающиеся в юридической защите, как и все прочие неодушевленные предметы. Да, я утверждаю: неодушевленные. Они могут говорить, согласен. Они могут по-своему, в ограниченных пределах, в соответствии с заложенной в них программой, мыслить. Но уколите робота — польется ли из ранки кровь? Пощекочите робота — станет ли он хохотать? У роботов есть руки, есть органы чувств, потому что мы их такими сделали, но обладают ли они истинно человеческими привязанностями и страстями? Едва ли. Едва ли! И поэтому давайте не путать машины, внешне сходные с людьми, с живыми существами.
Должен также особо заметить, что в наш век человечество оказалось в зависимости от труда роботов. В мире сейчас больше роботов, чем людей, и в основном они выполняют такие работы, к которым никто из нас не захотел бы и близко подойти. Они освободили человека от нудных, грязных работ и от деградации. Но нельзя путать наши разногласия с давними дебатами о рабстве, с последующими дебатами об освобождении рабов и, наконец, с еще более поздними дебатами о гражданских правах для потомков вольноотпущенников — это неизбежно приведет к экономическому хаосу, когда наши роботы начнут требовать не просто законов в свою защиту, а захотят полной независимости от своих господ. Рабы далекого прошлого были людьми, коварно захваченными другими людьми, мерзко с ними обращавшимися. И принуждать их силой к рабству никто не имел права. Но роботы только для того и появились на свет, чтобы служить. Они по определению предназначены для использования: быть не нашими друзьями, а нашими слугами. И любое другое отношение к этому предмету есть сентиментальное, опасное заблуждение.
