Инспектор Женетт сказал Свон.
— Помнишь якобы людей на «Внутренней Монголии»? Они по-своему прошли тест Тьюринга, или тест Свон, как его можно назвать: ты решила, что они люди, притворяющиеся компьютерами. Люди иногда так делают, и это гораздо более вероятное объяснение, чем существование полностью независимых компьютеров.
— Я по-прежнему считаю их людьми, — сказала Свон. — А ты нет?
— Да. Это были три из обнаруженных нами человекоподобных компьютеров. Всего их около четырехсот. Большинство ведут себя точь-в-точь как люди и стараются не привлекать внимания. Некоторые ведут себя необычно. Встреченные тобой трое как раз из числа странных. Еще один такой пытался прорваться в станцию Вана на Ио. Мы нашли его остатки в лаве, следы квантовой вычислительной основы.
Свон покачала головой.
— Те трое, которых я встретила, глуповаты для машин, если вы понимаете, о чем я.
— Может, ты просто привыкла к Полине, — предположил инспектор.
— Она часто бывает глуповатой, — возразила Свон. — Это вполне заурядно. Хотя, признаюсь, иногда она меня удивляет. Больше, чем люди.
— Ты всегда ей перечишь, — заметил Варам, бросив на нее любопытный взгляд.
— Да. Мне нравится ее дразнить.
Женетт кивнул.
— Но ты заложила в программы Полине дерзкий подход — умение спорить, живо реагировать на необычные повороты в обычном. В ней есть некие рекурсивные программы, благодаря которым она способна к ассоциативным и метафорическим построениям, а не только к логическому «если — то».
Но это лишь одна часть. Предположительно дедукция определяется логикой, и у Полины есть сильная дедуктивная программа. Но иногда дедукция становится почти метафорическим мышлением или мышлением свободными ассоциациями. В результате Полина ведет себя необычно.
Варам обратился ко всей группе.
— Вопрос программирования — в центре нашего сегодняшнего разговора. Есть определенные доказательства того, что новые компьютеры сами себя программируют, в особенности те, что собирают эти гуманоидные машины с квантовым компьютером вместо мозга. Мы не знаем, зачем люди поручили им это, и не знаем, зачем они вообще это делают. Итак, первый вопрос: что они такое и кто их производит? Мы знаем, что они не могут общаться друг с другом внутренне из-за декогеренции. Иными словами, они не образуют единый коллективный мозг. Но могут общаться друг с другом, как мы, используя все наши способы коммуникации. Однако в их случае, когда они используют квантовую шифровку, раскрыть их коды невозможно. Робин, — человек напротив Свон кивнул ей, — координирует запись их разговоров по радио и в облаке и даже некоторые прямые голосовые контакты. Мы не можем расшифровать их разговоры, но видим, что они общаются между собой.
— Давайте вернемся немного назад — как они могут программировать себя? — удивилась Свон. — Я слышала, что рекурсивное самопрограммирование способно лишь оптимизировать уже известные операции.
— Да, но если им поставлена задача постараться что-то сделать, например, они могут прийти к необычным результатам. Пытаясь что-то сделать, они могут обогатиться новыми идеями. Это отчасти похоже на шахматы. Им дается задача — в данном случае выиграть, — а затем во время обычной для них проверки всех возможностей они, вырабатывая новый эффективный способ достижения цели, могут столкнуться с неожиданным успехом. Это не процесс более высокого порядка, но он позволяет выполнить задачу и создает новые алгоритмы. И в какой-то момент самопрограммирование оказывается более эффективным, квакомы могут внезапно получить сознание или нечто подобное. Или процесс может привести к новому поведению — необычному, даже деструктивному. По крайней мере такова теория, которой мы руководствуемся.
— Далеко мог зайти этот процесс по отношению к программам мышления первых квантовых компьютеров? Я хочу сказать, могут ли квакомы все еще путаться в алгоритмах?
— Видишь ли, программисты, создававшие квантовые компьютеры, использовали разные структуры и в итоге создали несколько различных внутренних вычислительных архитектур. Поэтому на самом деле существуют разные квантовые компьютеры, каждый со своей особой формой познания — разными протоколами, алгоритмами, нейронными сетями. Они имитируют мозговую деятельность разных видов — у них есть то, что можно назвать самосознанием и другими особенностями сознания. Это не одна конструкция, и в терминах их мышления они могли начать мыслить.
Слово взял инспектор Женетт:
— Мы видим в этих квакомах явные признаки самопрограммирования. Трудно сказать, к чему это могло их привести. Но мы обеспокоены, ведь у них нет архитектуры и химизма мозга, которые объяснили бы их деятельность. Мы мыслим очень эмоционально. Наши эмоции играют ключевую роль в принятии решений, в долговременном мышлении, в создании памяти — во всем нашем общем постижении смысла. Без этих особенностей мы бы не были людьми. Мы не могли бы функционировать как индивиды в группах. Однако у квантовых компьютеров нет эмоций, и мыслят они при помощи иных архитектур, протоколов, физических методов. Поэтому у них нет менталитета человека, хотя в некотором смысле они могут обладать сознанием. Мы даже не можем быть уверены, что в своем новом состоянии все они похожи. Мы не знаем, мыслят ли они математически, или в терминах логики, или на языке английском или китайском. Или в этом отношении разные квантовые компьютеры одинаковы.
Свон кивнула, обдумывая услышанное. Если глупые девчонки были квантовыми компьютерами — и тот игрок в боулинг тоже, — это поразительно, хотя бы с точки зрения морфологии. А что до мышления, Свон все сказанное не удивило.
— Я часто говорю с Полиной на эти темы, — сказала она собравшимся. — Но из ваших слов мне ясно, насколько искалечены эти квакомы отсутствием того, о чем вы говорили. Скорее всего отсутствием эмоций. И ничего не могут сделать.
— Кажется так, — произнес в наступившей тишине Варам. — Но сейчас они как будто бы ставят себе цели. Может, у них есть какие-то псевдоэмоции; мы не знаем. Вероятно, они все еще не очень умны — скорее сверчки, чем собаки. Но, видите ли, с точки зрения создания более высокого уровня сознания мы не знаем, как работает наш собственный мозг. Поскольку мы не можем проникнуть в эти компьютеры и понять, что в них происходит, мы знаем о них даже меньше, чем они о нас. Так что… проблема.
— Вы разобрали какой-нибудь кваком, чтобы посмотреть?
— Да. Но результаты сложно истолковать. Вот любопытная аналогия с попыткой изучить собственный мозг — вы хотите изучить момент образования мысли, но, даже установив, какой механизм создает мысли, вы не будете знать, что именно вызывает эту конкретную мысль или как эта мысль осознается изнутри. В обоих случаях возникает квантовый эффект, при котором очень трудно проследить мысль до ее физического источника или действия.
