— Извините, но из-за своей безграмотности я до сих пор не сумел разобраться, что же такое Искусственный Разум. Я слышал и читал много определений Искусственного Разума, однако все они, как мне кажется, весьма противоречивы, запутаны. Как только кто-то начинает говорить об Искусственном Разуме, сразу же вспоминает о кибернетике. А ту же кибернетику одни ученые называют наукой, другие — искусством. Кое-кто связывает кибернетику с наукой о живых системах, целью которых является выживание. А что это означает, если задуматься? Человечество — тоже живая система, целью которой является выживание. И чем тогда кибернетика отличается от философии?..
— О-о, — протянул Коренев и как-то скептически устало улыбнулся, — кибернетика, как и Искусственный Разум, это такой кентавр, которого создал сам человек и которого он теперь никак не может оседлать. Признаюсь, что и я, специалист, почти ничего конкретного не могу сказать вам, когда речь заходит об Искусственном Разуме. Все здесь очень и очень запутано. Все началось не сейчас, когда у нас есть Большой Компьютер, к которому мы все привязаны браслетами, а намного раньше, когда ни меня, ни вас еще и на свете не было, возможно, даже с той поры, когда люди ввели понятие счета. Пятью пять — двадцать пять. Ах, как это просто! И какие же мы умные! А что скрыто за этой простотой? Вот вы, например, слышали о Пифагоре и пифагореизме? О Пифагоре, конечно, слышали, потому что вы в школу когда-то ходили. А вот о пифагореизме?
— Кажется, какое-то древнее учение, а какое — толком не знаю.
— Верно, философское учение. Пифагор Самосский, живший в шестом веке до нашей эры, основал его. Число это — бог, основа всего существующего… Вот из этого постулата, говоря научным термином, исходили пифагорейцы. Числовые соотношения представлялись источником гармонии космоса, того молчаливого загадочного космоса, которым мы с вами сейчас любуемся. Они же, пифагорейцы, ввели понятие сфер, каждая из которых характеризовалась комбинацией правильных геометрических тел, звучанием определенных музыкальных интервалов. Вы не задумывались, почему одна мелодия нам нравится, а другая нет? В основе гармоничной, красивой музыки лежат звуковые колебания, которые подчиняются математическим законам. Пифагорейцы верили в переселение души, разработали сложную систему культовых ограничений. А мы бессмысленно заучили в детстве теорему Пифагора и — счастливы… Нам представляется все таким ясным и простым: квадрат гипотенузы равен сумме квадратов катетов. Ах, какие мы умные!.. Математический символизм, мистическая роль цифр — все это было, не забывайте, еще пятьсот лет до нашей эры. Числами, математическими законами можно, словно ключом, открыть дверь загадочного космоса и не менее загадочного человека… Тут не только в мистику поверишь!.. Учтите, что Пифагора Самосского еще не было при жизни Большого Компьютера, который производит миллиарды математических операций в секунду…
В этом монологе Коренева я уловил иронический подтекст. Как будто какая-то обида была у Коренева на кого-то.
— В чем же вы видите все несчастья? — спросил я.
— А в том, черт возьми, — Коренев взорвался. Он резко повернулся в мою сторону и, глядя на меня недобрым взглядом, зло произнес, будто во всем был виноват я: — Беда в том, что Большой Компьютер не допускает ошибок. Он всегда выдает самые оптимальные решения и этим отличается от несовершенного человека, который сомневается, ошибается и делает глупости.
— Ничего не понимаю… Вы что, хотите, чтобы и Большой Компьютер ошибался?
— Не совсем так… Просто на определенном этапе развития технологии микросхем он должен не то что ошибаться… Нет, грубых ошибок он не сделает, но между тем… Как бы вам объяснить? В тонких структурах микросхем, которыми насыщен Большой Компьютер, на окончательном расчете начнет сказываться дуализм электрона, принципы неоднозначностей, в конце концов обычная флуктуация частиц. И никто из живых не сумеет ни предвидеть, ни вообразить этот процесс. Короче говоря, Большой Компьютер будет выдавать в сложных ситуациях двойные или тройные решения, а которое из них единственное, верное, наиболее нужное человеку, мы не узнаем, ибо никто из живых не сумеет производить миллиарды математических операций в секунду. Просто мы не сможем контролировать точность его работы. А это, как вы понимаете, ужасно, здесь уж действительно Искусственный Разум руководит нами…
— Как же так? — удивился я, хотя и не все понял в пламенном монологе Коренева. — Если вы обо всем этом знали, то почему не выступили против Миллера на первой международной конференции по проблемам Искусственного Разума? Почему вы полетели? Если бы вы сказали об этом людям, вам как специалисту поверили бы.
— Ха-ха… Поверили… — язвительно продолжал Коренев. — А что я могу сказать в свою защиту? Что?.. У Миллера есть международный авторитет, у него есть Большой Компьютер, который все прекрасно делает, без единой ошибки, а что у меня?.. Одни подозрения, что когда-то в будущем Искусственный Разум начнет врать. Как тот бородатый козел, который на бойне водит за собой несчастных животных, так и Искусственный Разум когда-нибудь может завести нас в такой лабиринт, из которого мы вряд ли выберемся… В последнее время я все более прихожу к выводу, что логика мышления Большого Компьютера должна повторять логику мышления своего создателя. И если Миллер проходимец, то и Большой Компьютер…
— Так что же нам сейчас делать? Ждать, когда ошибется Большой Компьютер?
— А мы просто на своей шкуре начнем чувствовать его ошибки, — загадочно ответил Коренев. Теперь он уже немного успокоился, отвернулся и смотрел в темный иллюминатор.
Молчал и я.
Перед нашими глазами в темноте горели звезды. Млечный Путь казался огромной дугой. И снова, в который уже раз, мне показалось, что мы не летим, а застыли на месте. Казалось, все в мире застыло в ожидании чего-то грозного, до поры до времени спрятанного в неизвестном будущем.
А корабельная жизнь шла своим чередом, по тем строгим законам и правилам, которые все более строго вводились Искусственным Разумом. Взрослые жили своей жизнью, дети — своей.
Я часто ходил в спецшколу, где, оторванные от родителей, жили и учились дети. Еще с трехлетнего возраста они проходили обязательное тестирование на выявление способностей. Большой Компьютер делил детей по способностям, и в дальнейшем одни занимались математикой, физикой и иными точными науками, другие — музыкой, третьи — теоретическими философскими проблемами, четвертые с помощью спортивных упражнений приобщались к тяжелой физической работе. Когда бы ни появился в спецшколе, я ни разу не видел обычной для земных школ суеты, не слышал оживленного шума — с блестящими браслетами на руках, аккуратно подстриженные, в одинаковых костюмчиках дети вели себя излишне сдержанно, будто с самого рождения чем-то запуганные. Что и как им говорили на уроках — я не знаю, ибо родителям и взрослым присутствовать на уроках не разрешалось, однако я чувствовал, что для детей Большой Компьютер, Искусственный Разум — это что-то весьма близкое и родное. Судя по их словам и поведению, они уже не задумывались над теми загадками, над которыми мучился Коренев. Чуть что непонятное тревожило их, они сразу же говорили: «Надо посоветоваться с Искусственным Разумом, он подскажет верное решение». И что Большой Компьютер может ошибаться, может давать неверные советы, в этом у них сомнений не возникало.
