они сами создали, и не станет ли это настоящей катастрофой?
Но тогда мы можем задать вопрос: что имеется в виду под высшим разумом?
Это уж слишком упрощенно — сравнивать качества, как будто мы замеряем длину линейкой. Мы привыкли к одномерным сравнениям и прекрасно понимаем, что имеется в виду, когда мы говорим, что одна величина больше другой, или одна масса больше, чем другая, или одна длительность больше другой. У нас вырабатывается привычка считать, что все можно так же просто сравнивать.
Например, зебра может достичь удаленной точки раньше, чем это сможет сделать пчела, если обе стартуют в одно время и с одного места. Мы рассуждаем тогда, что, по-видимому, зебра быстрее пчелы. Однако пчела намного меньше зебры и, в отличие от зебры она может летать. Обе эти особенности важны при определении этого «быстрее».
Пчела может вылететь из ямы, из которой зебре не выбраться; она может пролететь сквозь прутья клетки, которая держит зебру в заключении. Что же тогда значит это «быстрее»? Если А превосходит Б в одном качестве, Б может превосходить А в другом качестве. Если условия изменятся, то или иное качество может приобрести большее значение.
Человек в аэроплане летит быстрее, чем птица, но он не может лететь в нем так же медленно, как птица, а временами медлительность может понадобиться для выживания. Человек в вертолете может летать так же медленно, как птица, но не так бесшумно, как птица, а иногда бесшумность может потребоваться для выживания. Короче, выживание требует комплекса характеристик, и никакие виды не могут быть заменены другими только из-за различия в одном качестве, даже если этим качеством является разум.
Мы видим это в человеческих делах достаточно часто. В критическом положении не обязательно выиграет человек с самым высоким коэффициентом умственного развития, может выиграть более решительный, или самый сильный, или самый выносливый, самый состоятельный, самый влиятельный. Да, разум важен, но это еще не все, что важно.
Одним словом, разум не просто определяемое качество, он проявляется по-разному. Суперобразованный ученый, профессор, и вместе с тем — ребенок в отношении вещей, далеких от его специальности, является стереотипной фигурой современного фольклора. Мы можем не удивиться, встретив искушенного бизнесмена, который достаточно разумен, чтобы уверенно руководить предприятием в миллионы долларов, и который не способен говорить грамматически правильно. Так как же мы тогда можем сравнить человеческий разум и разум компьютера, и что же мы можем иметь в виду под «высшим разумом»?
Уже теперь компьютеры способны на такие фокусы, которые человеку не под силу, но это не заставляет нас говорить, что компьютер разумнее нас. Мы, собственно, даже не готовы признать, что он вообще разумен. Не забудьте также, что развитие разума в людях и в компьютерах проходило и проходит по различным путям; что оно было и есть приводимо в движение различными механизмами.
Человеческий мозг, благодаря беспорядочным мутациям, развивался по принципу — пан или пропал; он использовал тонкие химические изменения и двигался вперед благодаря естественному отбору и необходимости выживать в определенном мире данных качеств и опасностей. Компьютерный мозг развивается благодаря продуманному замыслу, как результат тщательной человеческой разработки, с использованием тонких электротехнических достижений и с движением вперед благодаря техническому прогрессу и необходимости удовлетворять определенные человеческие требования.
Было бы очень странно, если бы мозг и компьютеры, двигаясь такими двумя расходящимися путями, заканчивали бы столь похоже один на другой, что один из них недвусмысленно мог бы быть назван превосходящим по разуму другого.
Гораздо более вероятно, что даже когда эти две вещи равны по разуму в целом, свойства их разумов будут настолько различны, что не может быть сделано никакого простого сравнения. Будут виды деятельности, к которым лучше адаптирован компьютер, и другие виды — к которым лучше адаптирован мозг. Это было бы определенно верно, если бы генная инженерия была целенаправленно использована для совершенствования человеческого мозга именно в тех направлениях, в которых компьютер слаб. Было бы, конечно, желательно держать как компьютер, так и человеческий мозг специализированными в различных направлениях, поскольку дублирование способностей было бы потерей времени и сделало бы тот или другой ненужным.
Следовательно, вопрос замены никогда не должен возникнуть. Конечно, то что мы бы могли увидеть, это был бы симбиоз или взаимная дополняемость; мозг и компьютер, работая вместе, обеспечивали бы каждый то, чего не хватает другому, образуя разумную пару, которая открывала бы новые горизонты и делала возможным достижение новых высот. Собственно, союз мозгов, человеческого и созданного человеком, мог бы послужить дверным проемом, через который люди могли бы пройти из своего младенчества в свою богатую взаимодействием взрослую жизнь.
Давайте теперь оглянемся на длительное путешествие вдоль представшего перед нами широкого выбора катастроф.
Мы можем разделить все описанные мною катастрофы на две группы: первая — вероятные или даже неизбежные, например, превращение Солнца в красный гигант, и вторая — маловероятные, как, например, столкновение огромной массы антивещества непосредственно с Землей.
Нет смысла рассуждать о катастрофах второй группы. Не будет большой ошибкой предположить, что они никогда не произойдут, и сосредоточиться на катастрофах первой группы. Последние можно разделить на две подгруппы: те, что угрожают нам в ближайшем будущем, и те, что могут произойти спустя десятки тысяч, а то и миллиарды лет, к примеру такие, как повышение температуры Солнца или наступление ледникового периода.
Опять-таки не стоит рассуждать о катастрофах второй подгруппы, если мы не разобрались с первой, это было бы пустой тратой времени.
При рассмотрении первой подгруппы катастроф, весьма вероятных и угрожающих нам в более близкие времена, мы опять-таки можем разделить их на два вида: на те, которых можно избежать, и на неизбежные.
Мне представляется, что катастроф второго вида нет, не существует катастрофы, которой невозможно избежать, не существует ничего такого, что грозило бы нам неминуемым уничтожением до такой степени, чтобы с этим невозможно было ничего сделать. Если действовать рационально и по-человечески, если спокойно подойти к проблемам, стоящим перед лицом всего рода людского, и не вдаваться в эмоции по поводу таких вопросов девятнадцатого века, как национальная безопасность и местнический патриотизм, если мы поймем, что нашими врагами являются совсем не соседи, а нищета, невежество и холодное безразличие к законам природы, все стоящие перед нами проблемы можно решить. Можно обдуманно сделать выбор и в итоге избежать катастроф.
И если мы сделаем этот выбор в двадцать первом столетии, мы можем распространиться в космосе и утратить свою уязвимость. Мы больше не будем зависеть от одной планеты или от
