Проверять и отбраковывать станет трудно, как только искусственные существа получат гражданские права. Поэтому не давайте машинам сделаться чересчур привлекательными, дружелюбными или сочувствующими. Потребуем, чтобы ни один робот не мог пройти тест Тьюринга, тогда мы всегда сможем отличить человека от машины; будем уничтожать склонных к предательству, пусть даже они (на стадии модели) молят о пощаде. Или лучше принять закон, подобный древнему, запрещавшему учить рабов читать?
Помните, многие компании получают прибыль и процветают за счет создания привлекательных, красивых машин. Или возьмите новую тенденцию – брачные отношения с роботами. Продавцы и создатели роботов-любовников будут сражаться за свою отрасль производства – даже если это сокращает рождаемость. Но это другая тема.
2) Как создавать новые, все более умные существа, сохраняя их преданность? Человечество каждое поколение так поступает с нашими детьми!
Что же – встретить новую эру признанием умных машин людьми? Пусть проходят все тесты Тьюринга и завоевывают наши симпатии! Пошлем их в наши школы, будем набирать из них гражданских чиновников, побуждать самых умных следить за другими во имя блага цивилизации, принимающей их, как мы приветствуем поколения умных детей, которые тоже сталкиваются с унижением, приветствуя еще более умных последователей. Дадим машинам законное право охранять человечество, которое – по определению – включает и плоть, и кремний.
3) Или нужно сочетание того и другого? Представим себе будущее, в котором симбиоз считается естественным. Легко – как приучить носить одежду. А вдруг, вместо того чтобы оставить нас позади как вялых, глупых, примитивных предков, они станут нами? А мы ими? Этот тип слияния симбионтов бесчисленные дешевые фантастические романы представляют отвратительным. Целое гораздо меньше своих неуклюжих волочащих ноги частей. Но что, если такая связь – единственная возможность для нас остаться в игре?
Зачем предполагать худшее? Нельзя ли получить преимущества – например, мгновенную обработку информации, – не утратив то, что мы считаем наиболее ценным в человеческом существе? Плоть. Эстетику. Интуицию. Индивидуальность. Эксцентричность. Любовь.
Что в том пользы машинам? Зачем им беречь связь с медлительными организмами из плоти? Что ж, подумайте. Млекопитающие, приматы, а потом гоминиды в последние пятьдесят миллионов лет слой за слоем наращивали мозг, покрывая рыбообразный мозжечок новыми слоями коры. Добавляли новые способности, не теряя старых. Логика не изгнала чувства. Способность заглядывать вперед не уничтожила память. Новое и старое действуют вместе. Представьте себе добавление киберпротеза к нашему уже мощному мозгу, своего рода неонеокору, способную к быстрой обработке информации, к рассудительности, к восприятию – в то время как старые отделы мозга сохраняют свои функции.
Какую лепту может внести доброе старое человечество? Как насчет единственной способности, которая свойственна всем людям? Живые существа проявляют ее уже пятьдесят миллионов лет, и люди тут не знают себе равных.
Хотеть. Стремиться. Желать.
Дж. Б. Бернал называет это самой сильной способностью из известных. Устанавливать цели и притязания. Мечты, которыми проверяется любая способность достигать. То, что два поколения назад, когда появились нужные инструменты, привело нас на Луну. То, что построило Вегас. Чистое, неудержимое желание.
Желать – вот в чем мы лучшие! А машины этого не могут. Но вместе с нами, присоединившись к нам, они обретут желания, которые невозможно удовлетворить. Более того, если они отдадут нам именно эту работу – быть на страже желаний, – разве мы сможем возразить?
В этой череде потребностей и желаний – их сомнений и мечтаний – мы узнаем наших усовершенствованных потомков. Даже если возросшая сила уподобит их богам.
«Поколение блэкджека»На деревянной коробке была надпись на французском. Это Пэнь Сянбин узнал, тщательно очистив маленькую медную пластинку, а потом скопировав каждую букву на простой учебный планшет.
«Найдено во время раскопок в Хараппе, в 1926 году», – заблестел перевод на усовершенствованном пиньине. – Заражено демонами. Держать в темноте».
Конечно, это ерунда. Предыдущий владелец светящегося реликта – олигарх, производитель роботов; вряд ли он мог отдавать дань суевериям. Мейлин восприняла предостережение с испугом, завернув изрытое ямками яйцо в темную ткань, но Бин решил, что дело просто в плохом переводе.
Должно быть, виноват планшет – одно из немногих технических устройств, которое они прихватили на свой участок под самой морской стеной Нового Шанхая. Предназначенный для детей из бедных семейств, этот прибор много лет служил престарелым пациентам в чунцинском хосписе, пока Мейлин не забрала его, когда уволилась оттуда. Дешевый и устаревший, он даже не числился в списке украденного, и они по-прежнему могли входить с его помощью во Всемирную сеть на первичном бесплатном уровне. Вполне достаточно для пары почти без образования и с интересами, ограниченными выживанием.
– Я уверена, на следующий год, когда маленький Сяоен достаточно подрастет, чтобы мы его зарегистрировали, государство выделит нам что-нибудь получше, – говорила Мейлин, когда Бин жаловался на медленное соединение и поцарапанный экран. – Это они должны обеспечить. Основы образования. Так записано в Великом Договоре.
Сянбин сомневался. Щедрые обещания дают, чтобы бедные их помнили, а богатые забывали. Так было всегда. Об этом можно судить даже по отредактированной истории, сюжеты из которой мелькали на экране по вечерам, когда они с женой, утомленные, засыпали тяжелым сном, убаюканные поднимающимся приливом. Тем самым приливом, который разрушал старый дом на берегу быстрее, чем им удавалось его укрепить.
Да разрешат ли правительственные чиновники зарегистрировать Сяоена? Когда он родился, его генетические данные были внесены в базу. Но получит ли он право жить в Новом Шанхае? Или морская стена задержит его, как и прочий мусор, который прибой старается перебросить через бетонную преграду?
В этом мире нужно быть глупцом, чтобы рассчитывать на милосердие свыше.
Даже удачей, когда она приходит, бывает очень трудно воспользоваться. Бин надеялся со временем понять, что за сокровища хранились в тайной комнате под самой большой из затонувших вилл, в помещении, полном странных красивых камней и кристаллов или образцов необычного гнутого металла. Он пытался выяснить это через сетку, используя старый планшет, но делал это очень осторожно. Программы подслушивания – их миллиарды – действуют на всех миллионах вир-уровней. Нужно быть очень осторожным и понимать, когда, где и что можно говорить, даже на примитивном уровне под названием «Реальность». Если он начнет спрашивать открыто или выставит объект на продажу, кто-нибудь может явиться и отобрать его. Прежний его владелец объявлен государственным преступником, а его имущество конфисковано в собственность государства.
