писал, что многие из идей, главенствующих сегодня в сфере сознания и опыта, базируются на данных, касающихся нас самих. В этом нет ничего удивительного, потому что все эти гипотезы обычно опираются на данные экспериментов на людях, которые способны следовать инструкциям и сообщать, что они видят и чувствуют. Без сомнения, это отличный способ узнать, как выглядит опыт человека. Но как быть со всеми остальными? В мозге других животных (птиц, рыб) есть зоны, которые в первом приближении напоминают соответствующие структуры мозга человека, и это дает нам основание распространить свои представления и на них. Но что нам думать о животных, которые совсем на нас не похожи, в том числе о тех, что появлялись на страницах этой книги? Сказав:
вот это (что наблюдается у человека) опыт и есть, а если у вас в голове ничего подобного не происходит, то и опыта у вас нет, – мы можем совершить ошибку. Альтернатива – мысль о том, что если их мозг не похож на наш, то и их опыт отличается, а не полностью отсутствует. Если мы соглашаемся с тем, что у раков-отшельников, осьминогов и так далее какая-то форма опыта, скорее всего, есть, нам нужно взглянуть на вещи шире – поискать, что есть в них и что есть в нас такого, что превращает нас в чувствующие существа. Именно эту мысль я и хотел развить. Кроме того, я думаю, что широкий подход, за который я ратую, поможет нам лучше понять опыт человека – наш собственный опыт. Он не позволит забыть о тех первобытных, неотчетливых элементах опыта, которые сопровождают сфокусированную, пристальную осознанность, которая ярче всего проявляется в психологических экспериментах. Человеческий опыт – смесь старого и нового.
Предположим, что мы на верном пути и идеи, изложенные здесь, пусть неполны, но, насколько возможно, истинны. Что это значит в приложении к другим вопросам, актуальным сегодня? Каковы будут следствия? Я проанализирую два.
В предыдущих главах я писал, что многие считают пчел и мух, например, крошечными летающими роботами, а вовсе не субъектами опыта. Читатель может удивиться, отчего я недоволен этими роботами и почему списываю их со счета. Ведь пусть у современных роботов опыта быть не может, но кто его знает, что сулит нам будущее?
Здесь мы касаемся темы искусственного интеллекта (ИИ) – разнообразных систем, где якобы должен существовать разум, размещенный не в теле – обычным манером, – но реализованный в алгоритмах компьютерной программы. Я имею в виду попытки создать так называемый сильный ИИ – компьютерные программы, способные не просто вести себя или решать проблемы так, как мог бы это делать некто, наделенный разумом, но программы, которые, будучи запущены, должны стать разумом. Если разум способен существовать в виде алгоритмов программного обеспечения, можно рассчитывать, что однажды мы сумеем загрузить какие-то из них, возможно те, где будет закодирован наш собственный разум, в информационное «облако». Нам по-прежнему нужны будут материальные носители, но разум сможет перемещаться с одного компьютера на другой, как перемещается информация в современных облачных технологиях. Наши мысли и опыт, ныне существующие в ограниченном пространстве тел, после загрузки будут порхать с машины на машину.
Если идеи, изложенные в этой книге, верны, создать разум, задав машине последовательность операций, невозможно, какими бы сложными и отточенными ни были эти алгоритмы. Подход, который я отстаиваю, до некоторой степени противоречит концепциям, лежащим в основе подобных проектов ИИ.
Эти проекты опираются на представление, будто разум наличествует в виде паттернов активности и взаимных связей. Обычно эти паттерны существуют в мозге, но считается, что их можно запустить и на других физических устройствах. Я, в общем, не спорю с мыслью, что разум существует в виде паттернов активности, но эти паттерны гораздо менее «мобильны», чем порой предполагается, – они неотделимы от конкретного вида физической и биологической основы.
Против идеи сильного ИИ часто выдвигают следующее возражение: в компьютерных программах можно изобразить паттерны взаимодействия, наблюдаемые в мозге, но это не то же самое, как если бы эти паттерны существовали в компьютере. Они всего лишь закодированы, записаны, но этого недостаточно. Это важное возражение, однако защитники ИИ, как правило, просто отмахиваются от него. Тем не менее есть такая связанная с работой мозга активность, которая действительно может существовать в компьютере, причем добиться этого несложно. Предположим, что мозг – всего лишь коммутируемая сеть передачи сигналов, где нейрон А активизирует нейроны В и С, нейрон С влияет на D, E и F и так далее и, кроме этого, ничего больше не происходит. Тогда, если какая-то деталь компьютера будет играть роль нейрона А (включающего В и С), другая – выполнять функции нейрона В и так далее, у вас будет все, что нужно, – все паттерны активности мозга присутствуют в машине, а не просто воспроизводятся ею. Но ведь это еще не все, что делают нейроны – и мозг тоже. Возражение, суть которого в том, что программы ИИ просто воспроизводят то, что делает мозг, но не делают того, что он делает, становится еще актуальнее, когда речь идет о крупномасштабных динамических свойствах мозга. Они тоже должны реально существовать в компьютере. Недостаточно составить пару уравнений, описывающих, что эти ритмы и волны (и так далее) делают, и скормить эти уравнения машине. Вся эта активность должна присутствовать в машине на самом деле.
Если наша цель – разум вообще, а не конкретно человеческий разум, тогда эти паттерны не обязаны быть точь-в-точь такими же, как в нашем мозге, достаточно будет простого сходства. Но задумайтесь, сколько всего нужно, чтобы запустить подобные процессы в машине. Подумайте об активности, которая дает начало ритмам и полям, о притоках и оттоках ионов (заряженных частиц) через клеточные мембраны, в сумме вызывающих синхронную осцилляцию в отдельных областях мозга. Даже если забыть о полях, существование системы, в которой наблюдается нечто подобное динамическим паттернам мозга, но которая не была бы подобна мозгу и в других отношениях, представляется сомнительным.
Здесь настал подходящий момент обдумать смысл той разновидности материализма, которую я описываю в своей книге. В вашей голове непрерывно роятся осознанные мысли. Неужели все дело в мозге? Посмотрите, это же просто серый ком. Разве этого может быть достаточно? И тут кто-то говорит: «Нет, нет, дело не в самом этом объекте, дело в активности внутри мозга, а ее вы увидеть не можете». Вы спрашиваете: «Какой активности?» И вам отвечают: «Это обмен сигналами и коммутация, очень запутанная и сложная». Предполагается, что вы скажете: «Ну хорошо» – и подумаете, что объяснение имеет смысл. Но разве оно что-то меняет? Затем перед вами вырисовывается общая картина: кроме межклеточных связей, есть еще ритмы, поля, паттерны электрической активности, модулируемые посредством ощущений. И тут, по крайней мере для меня, все вдруг меняется. Вот такая активность действительно может быть мной, моими мыслями и опытом, моей памятью о прошлом и фантазиями о будущем. В это уже не так трудно поверить.
Современные компьютеры наделены какой-то долей разума, ничтожной крупицей того, что происходит внутри нас. Компьютеры могут создавать иллюзию агентности и субъективности, причем весьма убедительную. Но, если взять устройство, соединяющее в единое целое быстрые, надежные процессоры и вместительное хранилище информации, и снабдить его всей энергией, какая ему требуется, оно все равно будет кардинально отличаться от мозга и от живого организма, как бы мы это устройство ни программировали. Возможно, в будущем искусственные системы станут собирать из других материалов, и они смогут выполнять операции, какие сегодня подвластны только живому мозгу. В результате на свет появится своего рода искусственная жизнь или по крайней мере нечто, похожее на нее больше, чем современные системы искусственного интеллекта. Проблема не в искусственности, не в том, что ИИ создан человеком, а не эволюцией. Проблема в том, что внутри ИИ должны происходить совершенно определенные, «правильные» процессы.
Из всей проблематики ИИ больше всего возражений у меня вызывают сценарии «загрузки» {269}. Представление, будто загруженная
