Все это сказано в отношении моего текста тридцатипятилетней давности, в котором я задумался над «ростками» сознания в машине, и делал я это потому, что мне казалось, будто люди сильно отличаются друг от друга умственными способностями, а сознание всем дано примерно одинаковое.
Дороги напрямик, по прямой и восходящей линии, от полного автомата, каковым является компьютер, к машине, которой можно было бы приписать сознание, нет. Вместе с тем о работе нашего мозга мы уже знаем столько, чтобы понимать, что так называемая каллотомия, или рассечение большой белой спайки, соединяющей полушария мозга, не ликвидирует сознание, но создает в разделенных полушариях две его разновидности. Кроме того, мы знаем, что мозг является системой, построенной из огромного количества функциональных модулей, которые в отдельных областях мозга создали среду, формирующую сознание. Поясню сказанное примером. В коре мозга есть зона, отвечающая за цветовое зрение. Ее повреждение приводит к тому, что человек видит всё без цвета, как в черно-белом кино. Чем лучше мы разбираемся в функциональной ориентации модулей мозга, тем больше удивляемся тому, как, с точки зрения инженерной экономии, хаотично устроен мозг, хотя при осознании самих себя мы не отдаем себе в этом отчета. Сегодня нам кажется, что мы уже можем конструировать отдельные модули, функционально похожие на модули мозга. Обычно это псевдонейронные сети различной сложности. Вместе с тем мы еще не умеем ни создать их в достаточном количестве, ни соединить таким образом, чтобы созданное произведение могло имитировать сознание. Следовательно, прямой дороги от бездумного автомата к сознательно мыслящей машине нет. Есть, однако, много сложных дорог, которые в будущем приведут нас к цели и, возможно, эту цель превзойдут. О такой возможности я написал книгу «Голем XIV».
…Ползучим способом, то есть очень медленно, расширяются фронты внедрения так называемого искусственного интеллекта. Об этих успехах несколько дней назад сообщила на первой странице английская газета «International Herald Tribune», заявив в заголовке, что то science fiction становится реальностью. Если же присмотреться к тому, на что этот искусственный интеллект уже способен, оказывается, что речь идет не об интеллекте, тождественном человеческому, а скорее о большой области усовершенствованных автоматов. Множество офисных функций, таких как банковские, включая функции кассиров, уже могут быть полностью компьютеризованы, или «обезлюднены».
Автоматизацией охватывается также деятельность, требующая деликатных исследований, включая психиатрическую медицину и хирургические операции. Но в этом я не вижу ни следа интеллекта, понимаемого личностно, индивидуалистически, эмоционально и целеустремленно. Это означает, что ошибка при хирургической операции может повлечь за собой исправление операционной программы, но не станет поводом привлечь механическое устройство к суду.
Несмотря на все усилия ученых, еще не родился Некто, заменяющий человека, а появился лишь очень исполнительный, но тоже подверженный ошибкам Никто. Границу этого большого прогресса в самостоятельности устройств, построенных людьми, я описал когда-то в одном из романов как ситуацию, в которой искусственно усовершенствованная среда становится более интеллектуальной, нежели обитающие в ней люди. Нечто подобное нам пока не грозит, но движение в этом направлении уже заметно.
Текст представляет собой фрагмент статьи из еженедельника «Przekroj», №29/2001
Эссе написано в сентябре 1998 г.
1
Я долго противился собственной компьютеризации. Но когда компьютер наконец появился, его понадобилось оснастить печатающим устройством. Затем потребовался модем. Следом появился факс, как-то по необходимости и мимоходом… Это, собственно, и есть дорога, с которой нет возврата. Начало невинно и приносит с собой новые удобства. Продолжение не является входом в ад, но если ад существует, то он наверняка компьютеризован.
2
Новый компьютер устаревает столь быстро, что через несколько лет он уже рухлядь. Поколения новых компьютеров сталкивают в неизвестную пропасть сконструированные ранее и расхваливаемые при покупке. Американцы, любители статистических подсчетов, говорят, что жизнь компьютера коротка: от трех до пяти лет. Популяция этих устройств, о которых полвека назад никто даже не мог подумать, насчитывает сегодня в мире сотни миллионов экземпляров. Естественным образом, по крайней мере мне, приходит в голову вопрос: что происходит с миллионами устаревших компьютеров. Умирают ли они? Имеют ли свои кладбища? Или завершают путь на свалках? Где можно найти их останки? Складов для умерших компьютеров, скорее всего, нет.
Должен признаться, что в моем подвале стоит, укутанный почти как мумия, компьютер Apple 1984 года, купленный для сына, посещавшего тогда American International School в Вене. В свое время компьютер работал хорошо, но не смогу вспомнить, какую имел производительность и информационную емкость. Ему, можно сказать, повезло. Его никто никуда не выбросил. Прошло немного лет, и по отношению к современному поколению обычных средних компьютеров он представляется тем же, чем телеграфный ключ Морзе по отношению к спутниковым передатчикам.
Однако хочу повторить вопрос: что происходит с компьютерами, вытесняемыми новым поколением? Из американской прессы можно узнать, что их судьба складывается по-разному: одни попадают в магазины, другие — в подвалы, на чердаки, но не «каннибализируются». Все-таки они устаревают. Сердцем компьютера является жесткий диск, а его кровеносной, или скорее нервной системой, — процессоры. Однако сравнивать эти центры с человеческим мозгом или мозгом животных — значительное преувеличение.
3
Здесь моя мысль делает мгновенный и неожиданный даже для меня поворот. Каждый знает, что осознанное отравление или заражение мыслящей системы, каковой является мозг, карается. В то же время можно заразить вирусами компьютер, причем коварно и чаще всего не опасаясь суда или тюрьмы, если только речь не идет о действии, признаваемом преступлением или хотя бы поступком, угрожающим значительным общественным ценностям, хранилищем которых является любой банк или генеральный штаб. Выслеживанием хакеров, способных, находясь в одном полушарии Земли, поражать память компьютеров в другом, занимаются исключительно службы специального назначения. Сейчас широко распространилось и значительно развилось искусство шифрования информации, пересылаемой из одного компьютера в другой, — не просто как ветвь криптографии, а скорее как выросший из нее настоящий баобаб. Пока одни трудятся над программированием антивирусных заграждений, другие стараются выследить различных вирусоманов, особенно в сетях, передающих важную информацию, искажение или утрата которой чревата негативными финансовыми последствиями.
4
Если присмотреться к усилиям, затрачиваемым на решение этих проблем в глобальном масштабе, окажется, что мы имеем дело с процессом, который ускользнул и продолжает ускользать из-под власти и воли своих создателей. Их первым намерением было создание сети соединений, не имеющих единого центра, — чтобы удар врага, даже атомный, не мог полностью поразить организованную таким образом коммуникационную связь. За возникновение замысла, который родил эту децентрализацию, давшую начало Интернету и иным сетям, мы должны быть благодарны стратегии холодной войны. Я уверен, что никому, совершенно никому из разработчиков даже в голову не приходило, что они неосознанно исполнили роль учеников мага-чернокнижника, вызвавших силы, которыми невозможно успешно управлять. Сети разрослись сверх всякого предела. Не какие-либо проблемы, чреватые военно-политическими угрозами, а сексуальные извращения, словно лавинообразно размножающиеся паразиты, расползлись по сетям. Наверное, никто в эпоху рождения ЭНИАКа не думал, что возможны педофильские пандемии, которые, подобно непрерывно поддерживаемому и разрастающемуся пожару, нельзя затоптать или погасить. Дело в том, что осуществить эффективную и фактическую цензуру всей мировой сети — то же самое, что сеть уничтожить. Она проникла в военную, хозяйственную, политическую и бытовую области, а также в миллионы личных дел. Успешное удаление из сети порнографической иконографии, которую табуирует даже самая нестрогая культура, — это, честно говоря, мечты отсеченной головы.
5
Сосуды человеческого сердца имеют сеть дополнительных каналов, рано или поздно начинающих функционировать вследствие непрерывного старения стенок сосудов, в результате которого в конце концов происходит инфаркт. В электронной сети тоже могут происходить инфаркты, но они являются результатом информационной толчеи и требуют создания новых соединений, еще не переполненных сообщениями. Таким образом возникают новые уровни сети над старыми. Так появляется своего рода специализация, когда банки соединяются с банками, университеты с университетами, телевизионные студии с другими студиями и т. д. При этом адреса абонентов должны становиться все более длинными. Страшно подумать, какими длинными они окажутся, когда задачей сети станет всесторонняя связь между миллиардами отправителей и получателей.
