В-четвертых, необходимо учитывать антропоцентричность в технике – определение человеком себя как конечной цели любого технического процесса, как выраженного смысла существования техники. Для современных машин causa finalis выступает Homo sapiens. Карандаш и клавиатура, при всей разнице в уровне техники, равно «привязаны» к пальцам. Но в современных фантастических прогнозах самое показательное проявление антропоцентризма – это фактический застой одного из ответвлений фантастики, кибер-панка, рассматривающего равноправные отношения человека и компьютера. С чем он связан? Если романы начинались с описания созданного искусственного интеллекта (дальше – ИИ), то последующее совершенствование машин превращало человека в некую игрушку, в объект действия более могущественных сил. В результате авторы вынуждены сужать горизонт прогноза: чем более человечным желают они изобразить мир, тем меньшими возможностями должны в нем обладать вычислительные машины, из-за этого события произведений развиваются либо в ближайшем будущем, либо задаются некие ограничения, тормозящие развитие техники. В романах основателя кибер-панка У. Гибсона можно наблюдать сползание действия с передового края науки на периферию – только так автор мог сохранить уровень отношений между ИИ и персонажами, заданный в прославленной «Нейромантике».
Возникает вопрос: как же такие системы, у которых нет предела по сложности, смогут изменить человека?
2. Силуэт технологической сингулярности
Полтораста лет назад развитие металлургии определяло индустриальное состояние Европы. Пуск новых доменных печей был важнейшим в технологическом плане событием. Железной дороге повезло еще больше – она зримо помогала каждому человеку, потому изменение общественного бытия зафиксировано во всей классической литературе XIX века.
Однако стоит отрасли отойти от фронтира, сделаться не такой важной, и самые глубинные изменения в ней остаются совершенно не интересны окружающим. Как пристально общество сейчас следит за отказом от мартеновских печей? И действительно, сейчас переворот в металлургии не приведет к настолько же зримому изменению образа жизни людей, как в XIX веке.
Если мы ищем наибольший прорыв в технике – следует искать то наибольшее противоречие, которое в ней присутствует. Тогда даже временное, даже частичное снятие этого противоречия даст гигантские изменения в технике, позволит создать принципиально новые структуры. Каково же основное противоречие в техносфере? Если мы устранимся от частностей отдельных отраслей, то поймем, что техносфера замыкается на чуждом ей факторе – на человеке. Он ее смысл и конечный потребитель. То есть наблюдается противоречие между самообслуживанием техники и ее функциональным назначением.
Может ли техника существовать, имея целиком автономный смысл? Пока еще нет такой техники, которая сама была бы для себя causa finalis. Однако любой токарный станок не обслуживает непосредственно человека, а создает части других механизмов. Далее: будь машина живым существом, она создавала бы свои подобия. Но специализация, присущая техносфере, требует обратного, потому что функция создания, например, паровой машины это одно, а функция, которую будет исполнять эта паровая машина, – совсем другое. И как назвать техносферу, которая сможет разумно контролировать собственное состояние? Такой термин уже существует – ноосфера. Вот цель эволюции техники, которая снимает самое большое из актуальных противоречий ее бытия.
Вопрос о качественном скачке в развитии техники упирается в создание машин, могущих исполнять творческие функции человека. Названия у таких машин уже есть – искусственный интеллект. ИИ должен самостоятельно пополнять набор своих знаний, овладевать новыми методами, оперировать в нечетких ситуациях, адаптироваться.
Запрос на подобную машину во все века был чрезвычайно велик, и пока ее создание было явно невозможным, желания людей выражались в сказках и философских трактатах. Как только возникла самая призрачная возможность создать разумного работника, в подобные проекты стали вкладывать средства.
Например, как вкладывают в САПР, стремясь превратить эту систему в инструмент с максимально широкими возможностями. Требуются программы – секретари и делопроизводители. Уже сейчас есть сканеры, которые могут распознавать содержимое документов, есть аналитические программы, которые частично понимают содержание документов. Если же вспомнить армейскую проблематику, то здесь берут на вооружение вообще все, что позволит заменить человека. И не только потому, что жалко людей, – человек попросту неэффективен. Труслив, ленив, невнимателен, косорук. Бывает, что храбр, инициативен, находчив и удачлив, но реже.
Закон Мура действует исправно, и мощности суперкомпьютеров двадцатилетней давности сейчас никого не впечатляют. То, что вчера было прорывом, сегодня есть в любом доме. Следовательно, за сравнительно короткий исторический промежуток времени ИИ, созданный на передовых машинах, на суперкомпьютерах, сможет интегрироваться во всемирную паутину. Техносфера приобретет качества самоуправления, самоорганизации.
Это как раз то, что в рамках трансгуманизма принято называть «сингулярностью».
Каково же будет качественное изменение отношений между человеком и техносферой в случае создания ИИ?
Это будет переворот отношения к человеку, причем самый страшный из всех, бывших до того. По И. Канту, человек должен быть не средством, а целью. Но парадокс в том, что пока Homo sapiens остается средством – неизбежно приходилось делать его и целью. Если государство стремится послать солдата на войну, надо ждать хотя бы пятнадцать лет от момента его рождения. Допустим, человек перестанет быть средством, – ни его тело, ни его аналитические способности, ни его эмоции уже не смогут выступить на рынке первосортным товаром. Машины все сделают лучше. В этом случае целью человек будет оставаться только по инерции, за ним останется лишь роль потребителя.
И статус потребителя, как финальной причины существования техники, вовсе не спасает человека от деградации.
Сейчас уже никто не желает учить сведения, которые в любой момент, при ничтожных усилиях можно получить в Интернете. То есть от необходимости знать, где в какой книге находятся ответы, люди переходят просто к умению грамотно формулировать вопрос. За этим почти неизбежно последует новый шаг – формулировать свои пожелания. Но если личный микрокосм человека будет состоять из элементов, поставляемых поисковой системой, и если программа будет указывать лучшие варианты решений, – то даже «слабый» ИИ станет лучшим кормчим в этой искусственной вселенной. Несколько сгущая краски, можно сказать, что характер ребенка сформируется в зависимости от свойств поисковой системы и программы-опекуна – ведь даже родители станут полагаться на почти безошибочные советы компьютеров.
