– Фу, – сказал я с упреком, – что за дикость? Это было вчера. Сегодня достаточно легкого волевого усилия.
– Мне это пока недоступно, – сообщила она. – Да и вряд ли я зайду так далеко. Это ты всегда бежал впереди паровоза!
– Тогда попробуй без чипа, – посоветовал я, – сейчас расширяют возможности стволовыми клетками, еще какой-то ерундой. Сдвинешь брови – войдешь в Сеть, приподнимешь – выйдешь, расширишь глаза…
Она засмеялась:
– И буду кривляться, как перед зеркалом! Нет уж, лучше по старинке.
– Нельзя, – сказал я серьезно. – Темп убыстряется, Светлана. Чуть отстанешь – не догонишь.
– Знаю, – ответила она очень серьезно. – Плохо мне, Володя. Но и ничего с собой не могу поделать. Видать, я все-таки из тех людей, из простых, как вы их называете, нас, в смысле, которые ну никак не могут решиться на киборгизацию.
Я поморщился.
– Жаргонно ее называют чипизацией, а вообще это простое расширение возможностей организма. В том числе и за счет возвращения молодости.
Она засмеялась невесело.
– Ах, Володя, знал бы ты, какие муки мы, женщины, готовы терпеть, только бы продлить молодость! Не говоря уже о том, чтобы вернуть. Мы готовы голодать, истязать себя упражнениями, ложиться под нож хирурга… но вот ввести себе в тело маленький компьютер… бр-р-р-р! Я знаю многих, которым это по средствам, но все-таки не делают этого.
Я помолчал, спросил прямо:
– Ты позвала меня, чтобы я тебя уговорил? Так вот, Светлана, я очень хочу, чтобы ты решилась на расширение своих возможностей… с помощью железа. Это все будет внедрено в тебя так, что никто не заметит.
– Но я-то буду знать? – ответила она.
Группа ученых, объединившихся вокруг лауреата Нобелевской премии Дейла Миллера, создала в штате Небраска мощный комплекс, где усиленно работают над созданием сверхразума. Чтобы ускорить дело, они создали на основе нейронных сетей, а вместо сложнейшего программирования, которое неизвестно как и делать, дали возможность компьютеру самому обучаться, как младенцу. Разница лишь в том, что при скорости работы на обучение могут уйти доли секунды, после чего сверхразум вспыхнет пылающим светом во всей грозной мощи.
И хотя за проектом наблюдают компьютерные специалисты, философы, когнитологи, экономисты, неврологи, а также политики и законодатели, мы в своей лаборатории чувствовали себя очень неуютно. Из концерна торопят, да я и сам не сплю последние полгода, не вылезаю из рабочих помещений. Нужно опередить, иначе человечеству хана. Что бы нам ни говорили, что сверхразум будет добр и станет о всех заботиться, слюни и сопельки вытирать, но что-то мне не верится в такую дурь: очень это ему надо? Проще смахнуть нас, как тараканов, и заняться своими математическими расчетами.
Директор холдинга Холдеманн приезжал к нам чуть ли не каждую неделю. К сожалению, похвастаться пока нечем, я только поддерживаю его стремление использовать когнитивные технологии для себя лично, это и есть начальный путь превращения самих себя в сверхразумы.
– А что будет, – спросил он, – если он в самом деле начнет самообучаться?
Я сдвинул плечами.
– Что значит «в самом деле»? Он действительно начнет самообучение.
Он зябко поежился.
– Что-то мне жутко.
– Не только вам, – утешил я, – кого-то здесь вообще нервная дрожь бьет.
Он нервно усмехнулся.
– Не знаю, кого должна бить сильнее: того, кто знает, чего ожидать от сверхразума, или того, кто не знает?
Я развел руками.
– На самом деле никто не знает, чего от него ожидать.
– И что же, – спросил он осторожно, – у нас шансов нет?
– У кого, – уточнил я педантично, – у компании или у человечества? За человечество умолчу, по мне так вообще девяносто пять процентов человечества хоть сейчас можно пустить на удобрение, вот такой я людоед, но насчет компании… у нас не только шансы, у нас есть кое-что еще.
Он встрепенулся.
– Что?
– Головы, – сказал я. – Головы, которых у суперинтеллекта пока нет. Правда, есть головы у тех, кто занимается его созданием, но… к сожалению, этот суперинтеллект создают люди. А это пока такое говно… Вы видите, что Дип Блю с одним террафлопсом сожрал пять миллиардов и семь лет, но дал восемнадцать миллиардов прибыли и резко ускорил движение технологического прогресса, Блю Джин с его тысячью террафлопс, на постройку которого затратили двадцать два миллиарда долларов и четыре года, уже принес тридцать один миллиард прибыли. Блю Джин-2 с его ста десятью тысячами террафлопс уже втрое превосходит человеческий мозг по ряду важных показателей, а уж скорость так вообще…
Холдеманн сказал напряженно:
– Он вступит в строй только через два года.
– И к тому же, – добавил мой зам, – нет уверенности, что на его основе удастся создать суперинтеллект. В лучшем случае будет равен интеллекту среднего ученого на уровне магистра.
Я отмахнулся.
– А что в планах корпорации создание Блю Джин-3, вас не интересует?.. Вы прекрасно понимаете, что каждый шажок на пути к этому машинному интеллекту приносит огромные прибыли и ускорение технологического прогресса. Не только создатели, но и простые люди хотят иметь лучшую технику, лекарства, дома, развлечения, даже автоматизированную работу… Словом, нет такой точки, где здравый смысл сказал бы твердо, что вот последний рубеж, дальше идти нельзя. Так что…
– …искусственный интеллект будет создан, – закончил за меня Холдеманн убитым голосом.
Кондрашов сказал нервно:
– Но неужели они не понимают? Суперинтеллект уже по своей сути угроза превосходству человеческого разума! А так как это изначально нечеловеческий разум, то вопрос ставится не просто об угрозе, а о выживаемости человеческой расы.
Холдеманн заметил испытующе:
– Инженеры клянутся, что вставят программу насчет послушания и подчинения!
Я отмахнулся.
– Эту программу интеллект сразу же сотрет как ограничивающую его возможности. Словом, можно подытожить: если политики будут уверены, что создание суперинтеллекта не грозит человечеству уничтожением, то его создание продолжится. Если же они решат, что суперинтеллект угрожают человеку, то… создание его все равно продолжится!
Я взглянул на их ошарашенные непонимающие лица. А что тут сложного? Все люди, все человеки. Уже знаем по опыту, что любые запреты если и были, то очень кратковременными. Побеждает либо жажда прибыли, либо просто дурацкое человеческое любопытство, что заставляет ребенка совать палец в огонь или в розетку.
Холдеманн тяжело вздохнул.
– Да-а-а, – протянул он, – история учит, что все изобретенное обязательно будет применено, несмотря на все запреты.
