Они появились как раз вовремя, и примерно тогда же были начаты межпланетные перелеты... И сразу стало совершенно безразлично, кто умнее - Адам Смит или Карл Маркс.
- "Бог из машины" явился - в прямом и переносном смысле, - сухо прокомментировала Сьюзен Кэлвин.
- Никогда раньше не слышал от вас каламбуров, Сьюзен, но вы правы. Но и теперь мы не гарантированы от опасностей. Разрешение одной проблемы всегда неминуемо влекло за собой появление другой. Наша всемирная роботизированная экономика не застрахована от проблем, и поэтому были созданы Машины. Экономика Земли стабильна и останется стабильной, будучи основанной на решениях Машин, которые производят расчеты и дают рекомендации исходя исключительно из соображений пользы для человечества, руководствуясь при этом Первым Законом Роботехники.
И хотя Машины представляют собой, - продолжал Координатор, сложнейшие конгломераты вычислительной техники, когда-либо существовавшие, тем не менее в свете Первого Закона они - такие же роботы, и потому вся земная экономика существует и развивается в соответствии с жизненными интересами человечества. Население Земли знает, что ему не грозит безработица, перепроизводство, недостаток чего-либо. Нищета, голод - слова из учебников истории. Таким же архаизмом становится и понятие собственности на средства производства. Кто бы ими ни владел (если это еще имеет смысл) - человек, группа людей, нация или все человечество, - любые средства производства могут быть использованы только в соответствии с указаниями Машин. Не потому, что людей принудят поступить так или иначе, а потому, что Машины всегда выбирают самый мудрый, самый оптимальный путь, и люди об этом знают.
Это означает, что всем войнам на свете - конец. Если только...
Координатор умолк, и Сьюзен Кэлвин нетерпеливо поторопила его:
- Если только...
- Если только, - закончил Координатор, - Машины не перестанут выполнять свои функции.
- Ясно. Значит, именно этим вы объясняете все эти загадочные неполадки - в сталепрокатной промышленности, гидропонике и так далее?
- Да, Сьюзен. Подобных ошибок не должно быть! Но... доктор Силвер сказал мне, что и не может быть!
- Он что, отрицает очевидное? Не похоже на него.
- Нет, Сьюзен, фактов он не отрицает. Я, наверное, не так выразился. Он наотрез отказывается признать, что Машины могут давать неверные ответы. Он утверждает, что Машины устроены так, что сами исправляют собственные ошибки и что наличие ошибки в соединениях и реле может быть следствием лишь нарушения основных законов природы. Но все-таки я ему сказал...
- Но все-таки вы сказали: "Пусть ваши мальчики все проверят еще разок".
- Сьюзен, вы читаете мои мысли. Именно так я ему и сказал, но он ответил, что это невозможно.
- Что, слишком занят?
- Нет, дело не в этом. Он сказал, что на это не способен ни один человек. Он был со мной откровенен. Он мне объяснил, и я искренне надеюсь, что понял его правильно, что Машины представляют собой колоссальную экстраполяцию. То есть: бригада математиков несколько лет упорно трудится над созданием позитронного мозга, способного производить определенные расчеты. С помощью результатов этих расчетов они потом создают еще более сложный мозг, который предназначен для произведения еще более сложных расчетов и создания еще более сложного мозга, и так далее. Судя по тому, что мне сказал доктор Силвер, то, что мы называем Машинами, является результатом десяти таких последовательных операций.
- Да, дело знакомое, - кивнула Сьюзен. - Какое счастье, что я не математик. Бедный Винсент. Он еще так молод. У руководителей исследовательского отдела до него таких трудностей не было. И у меня тоже. Мне кажется, сегодня роботехники плохо разбираются в своих собственных творениях.
- Пожалуй, вы правы. Машины - это вовсе не простой супермозг, как о них пишут в воскресных приложениях. Ситуация такова, что, собирая и анализируя бесконечное количество данных за немыслимо короткое время, они лишили людей возможности их проверить.
Тогда я решил предпринять другую попытку. Я сделал запрос самой Машине. В обстановке строжайшей секретности мы ввели в Машину исходные данные, которые она сама в свое время использовала для принятия решения в области сталепрокатной промышленности, ее собственный ответ и информацию о последствиях принятого решения - то бишь о перепроизводстве - и попросили объяснить случившееся.
- Ну и каков же был ответ? - с нескрываемым интересом спросила Сьюзен Кэлвин.
- Я могу процитировать вам его слово в слово. "Ответ на вопрос недопустим".
- И что на это сказал Винсент?
- Он сказал, что возможны два варианта. Либо мы не дали Машине достаточно данных, чтобы она могла дать более четкий ответ, что, естественно, маловероятно. Это доктор Силвер сам признал. Либо Машина не могла признать, что ее ответ, противореча Первому Закону Роботехники, нанес вред людям. А потом доктор Силвер порекомендовал мне посоветоваться с вами.
Сьюзен Кэлвин устало усмехнулась.
Стара я уже, Стивен. Было время, помните - вы хотели назначить меня руководителем исследовательского отдела, и я отказалась. Я и тогда была немолода, и мне не хотелось брать на себя такую ответственность. Тогда на этот пост пригласили молодого Силвера, и меня это устроило. Но, видно, толку мало, раз меня все равно втягивают в эти дела.
Позвольте мне, Стивен, изложить свою точку зрения. Проводимые мной исследования действительно касаются поведения роботов в свете Трех Законов Роботехники. В данный момент мы говорим о достигших невероятной сложности Машинах. Они - позитронные роботы и, следовательно, повинуются Законам. Однако они не являются личностями, то есть функции их чрезвычайно ограничены. Так и должно быть, поскольку они узкоспециализированны. Это почти не оставляет места для взаимодействия Законов, и мой метод исследования тут практически бесполезен. Короче говоря, не думаю, что могу помочь вам, Стивен.
Координатор грустно усмехнулся.
- И все-таки, Сьюзен, позвольте мне рассказать вам остальное. Я изложу свои предположения, а вы тогда, может быть, скажете, насколько все это вероятно с точки зрения робопсихологии.
- Безусловно. Продолжайте.
- Итак: если Машины дают неверные ответы, а ошибаться не могут, остается только одна возможность. Им дают неверную информацию! Другими словами, дело не в роботах, а в людях. Так что я отправился в инспекционную поездку...
- ... из которой только что вернулись в Нью-Йорк.
- Да. Это было необходимо, поскольку у нас четыре Машины, и каждая из них отвечает за один из регионов Земли. И все четыре дают неверные ответы.
- Ну, а вот это как раз совершенно закономерно, Стивен. Если хотя бы одна из Машин даст неверный ответ, ошибутся и остальные три - ведь они функционируют на основании допущения о том, что каждая из них в порядке. Если допущение неверно, и ответы будут неверны.
