Рассмотрим мысленный эксперимент, направленный не на философию, а на этику. Представьте, что вы член комиссии по этике, рассматривающей заявку на научный грант. В ней говорится:
Мы собираемся использовать генную инженерию для выращивания умственно отсталых человеческих младенцев. Насущные научные основания требуют породить младенцев с определенным дефицитом мыслительной и эмоциональной сферы, а также с ослабленными органами чувств. Важная новаторская экспериментальная стратегия требует контролируемого и воспроизводимого эксперимента по раннему развитию ущербных человеческих младенцев. Это важно не только для понимания работы мозга, но и для лечения психических заболеваний. Поэтому мы настоятельно нуждаемся в щедром финансировании.
Вы, без сомнения, сразу сочтете эту идею не только нелепой и безвкусной, но и опасной. Представляется маловероятным, что такая заявка пройдет хоть одну комиссию по этике в демократическом мире. Однако целью этого мысленного эксперимента было показать, что нерожденные постбиотические эго-машины будущего не нашли бы представителей их интересов в современных этических комиссиях. Первые машины, которые бы удовлетворяли минимально достаточным условиям сознательного опыта и самости, оказались бы в положении человеческих младенцев, искалеченных генной инженерией. Эти машины тоже страдали бы всякого рода функциональным и репрезентационным дефицитом – различными увечьями в силу несовершенства человеческой техники. Можно с уверенностью предположить, что их системы восприятия – искусственные глаза, уши и тому подобное – поначалу будут работать нелучшим образом. Они скорее всего будут полуслепыми, полуглухими, страдать множеством затруднений в восприятии мира и себя в нем – а будучи искусственными эго-машинами, они, по определению, будут способны страдать.
Имея устойчивую телесную я-модель, они смогли бы ощущать сенсорную боль как свою боль. Если их постбиотическая я-модель будет укоренена прямо в саморегулирующиеся механизмы низшего уровня в устройстве – как наша эмоциональная я-модель укоренена в верхней части ствола мозга и гипоталамусе – они будут осознанно чувствующими самостями. Каждый эпизод потери гомеостатического контроля будет для них болезненным, потому что в них будет встроена забота о своем существовании, глубокая форма сопереживания, от которой они не могли бы дистанцироваться. У них будут собственные интересы, и этот факт они будут осознанно переживать. Существует вероятность того, что они смогут эмоционально страдать таким образом, что качественно их страдания будут нам совершенно чужды, а остроту их мы, халатные создатели, не сможем себе даже представить. На самом деле крайне вероятно, что первые поколения таких машин будут иметь очень много негативных чувств, которые будут отзеркаливать постоянные неудачные попытки успешной саморегуляции, вызванные разными неполадками устройства и помехами на высших уровнях обработки информации. Эти негативные чувства были бы сознательны и интенсивны, но во многих случаях мы не могли бы даже понять их или узнать об их присутствии.
Представьте себе следующий шаг эксперимента. Теперь у этих эго-машин будет мысленная я-модель – они станут разумными творцами мыслей. Тогда они смогут не только постичь умом причудливость своего существования – как объектов научного эксперимента, – но и интеллектуально страдать от сознания, что у них отсутствует врожденное «достоинство», которое представляется столь важным для их создателей. Они смогут осознанно представить, что являются лишь второсортными мыслящими гражданами – отчужденными постбиотическими самостями, которых используют как заменимое орудие эксперимента. Как бы почувствовали себя вы, «осознав себя» продвинутым искусственным субъектом, который, при прочном чувстве Я и осознании себя подлинным субъектом, имеет в данном социальном контексте лишь статус товара?
История первых искусственных эго-машин – этих постбиотических феноменальных Я без гражданских прав и без защитников в этических комиссиях – наглядно иллюстрирует, как возможность страдать возникает вместе с феноменальным эго: страдание начинается в тоннеле эго. Отсюда же принципиальный аргумент против научных исследований по созданию искусственного сознания. Альбер Камю говорил о солидарности всех конечных созданий против смерти. В том же смысле все создания, способные страдать, должны быть способны объединиться против страдания. Из такой солидарности нам следует воздержаться от всего, что может увеличить общее количество страдания и смятения во Вселенной. Конечно, на этом этапе возникает множество теоретических осложнений, например, относительно временных рамок страдания или его разных форм и качеств. Несмотря на это, мы можем договориться хотя бы беспричинно и из низших побуждений не увеличивать количество страдания в мире – а создание искусственных машин, по всей вероятности, увеличит его с самого начала. Мы могли бы создать страдающие постбиотические машины, прежде чем поймем, в каких особенностях нашей биологической истории, тела, мозга находится корень наших страданий. Задача предотвращать и уменьшать страдания всюду, где это возможно, относится и к этическому риску. Я думаю, что нам не стоит даже рисковать реализовать проект создания феноменальной я-модели.
Нам – философам, нейроученым и разработчикам искусственного интеллекта – лучше сосредоточиться на понимании и нейтрализации собственных страданий. Пока мы не стали существенно счастливее, чем были наши предки, лучше не пытаться перенести нашу психическую структуру на искусственные носители. Я бы сказал, что следует ориентироваться на классическую для философии цель самопознания и следовать хотя бы минимальному этическому принципу: уменьшать и предотвращать страдание, а не играть, как с огнем, с эволюцией второго порядка, которая вполне может выйти из-под контроля. Если у современной науки о сознании и есть запретный плод, то он состоит в безрассудном умножении страдания посредством создания искусственных эго-машин без ясного осознания последствий.
Машина блаженства: можно ли считать сознательный опыт как таковой благом?
Напрашивается гипотетический вопрос: если бы мы, напротив, могли увеличить количество радости и удовольствия во Вселенной, залив ее самореплицирующимися и блаженными постбиотическими эго-машинами, стоит ли нам это делать? Мое предположение, что первое поколение искусственных эго-машин будет напоминать умственно отсталых детей и принесет больше боли, смятения и страдания, чем удовольствия, радости и проникновения в мир, может оказаться фактически ложным по множеству причин. Такие машины, возможно, будут функционировать лучше, чем мы думаем, и наслаждаться существованием намного сильнее, чем мы ожидаем. Или же мы, как двигатели ментальной эволюции и инженеры постбиотической субъективности, можем сделать это предположение ложным, конструируя только такие сознающие системы, которые либо неспособны переживать феноменальные состояния, подобные страданию, либо смогут наслаждаться бытием в более высокой степени, чем люди. Представьте, что мы сумеем обеспечить машине преобладание позитивных состояний сознания над негативными – что для нее существование будет таким, чтобы жить несомненно стоило. Назовем такую машину «машиной блаженства».
Если мы сможем заселить физическую вселенную машинами блаженства, надо ли это делать? А если новая теория сознания рано или поздно позволит нам превратить себя из старомодных эго-машин, отягощенных ужасами биологической истории, в машины блаженства – надо ли это делать?
Возможно, нет. Существование, которое оправдывает себя, жизнь, которую стоит прожить, состоит не только из определенного качества субъективных переживаний. Этику размножающихся искусственных или постбиотических систем нельзя свести к вопросу, какой явит реальность или существование самой системы для сознания этой системы. Иллюзия может порождать блаженство. Умирающий от рака на высоких дозах морфина и препаратов, улучшающих настроение, может воспринимать себя очень позитивно – как и наркоман может отчасти неплохо справляться с ежедневными ситуациями. Люди веками пытались превратить себя из эго-машин в машины блаженства – с помощью фармакологии или метафизических систем верований и практик изменения сознания. Почему они в целом не преуспели?
В своей книге «Анархия, государство и утопия» уже умерший политический философ Роберт Нозик предложил следующий мысленный эксперимент: У вас есть возможность подключиться к «машине ощущений», которая будет держать вас в состоянии постоянного счастья. Вы согласитесь? Любопытно, что, по наблюдениям Нозика, большинство людей отказываются провести жизнь подключенными к такой машине. Причина состоит в том, что большинство из нас ценит не блаженство как таковое, а желает, чтобы оно было основано на истине, добродетели, художественных достижениях и других формах высшего блага. Иначе говоря, мы хотим, чтобы наше блаженство было оправданно. Мы хотим не иллюзии от машины счастья, а счастья обоснованного и поэтому желаем быть осознанно переживающими жизнь как нечто стоящее. Мы хотим необыкновенного проникновения в реальность, в моральные ценности и красоту как объективные факты. Нозик считал такую реакцию победой над гедонизмом. Он настаивал на том, что мы не желаем просто чистого счастья, если ему не будет сопутствовать контакт с глубинной реальностью, – хотя, конечно, и такая форма субъективного переживания может в принципе быть симулирована. Вот почему большинство из нас, по зрелом размышлении, не стали бы заселять вселенную блаженными искусственными эго-машинами – по крайней мере, такими, которые пребывали бы в постоянном состоянии самообмана. Это ведет к следующей проблеме: все, что мы узнали о транспарентности феноменальных состояний, явно показывает, что «настоящий контакт с реальностью», как и «уверенность», тоже может быть симулирован, и что природа уже наладила такую симуляцию в наших мозгах, создав тоннель эго. Вспомните хотя бы галлюцинаторную деятельность или ложные пробуждения в исследовании сновидений. Разве мы не обманываем себя постоянно?
