Даже в рамках конструкторского дела термин «автономность» может иметь несколько разных значений. Автономность в проектировании космических кораблей заключается в обработке на борту данных, которые необходимы для функционирования аппарата (независимо от того, является ли он совершающей полет по орбите автоматической станцией или мобильным роботом), отдельно от таких задач, как планирование миссии. В Массачусетском технологическом институте, где я преподаю, содержание инженерных курсов по автономности покрывает в основном «планирование пути» – как добраться из одной точки в другую, затратив на это адекватное количество времени и ни во что не врезавшись. В других системах автономность аналогична интеллекту, способности принимать решения, которые в тех или иных ситуациях принял бы человек, или способности действовать в условиях, которых не ожидали или не предвидели создатели аппарата. Автономные подводные аппараты называются так, потому что действуют сами по себе и противопоставляются дистанционно управляемым аппаратам, которые соединяются с судном длинными кабелями. Несмотря на это, инженеры, создающие такие автономные подводные судна, говорят, что их аппараты являются полуавтономными, поскольку лишь в редких случаях действуют без какого-либо контакта с оператором.
Термин «автономный» подразумевает бо́льшую свободу действий. Он описывает способ управления аппаратом, а это – потенциально изменчивый фактор. В одном из последних исследований предлагается термин «возрастающая автономность»: таким образом авторы подчеркивают относительную природу автономности и заявляют о том, что «полная» автономность, то есть машины, которым не требуется получать информацию от человека, всегда будет недостижима. В данной книге рабочее определение автономности будет таким: разработанные человеком средства преобразования информации, получаемой из окружающей обстановки, в целенаправленные планы и действия.
Формулировки имеют значение, и они придают спорам другой оттенок. Но нам не стоит на них зацикливаться. Я буду часто опираться на формулировки (которые иногда могут быть неточными), используемые людьми, с которыми я работаю. Смысл этой книги заключается не в определениях, а в описаниях реальной работы – того, как люди используют эти системы в реальном мире, получая новый опыт, исследуя или даже сражаясь и убивая. Что происходит на самом деле?
Если уделять внимание живому опыту конструкторов и тех, кто пользуется роботами, то все может проясниться. Например, слово «дрон» позволяет скрыть человеческую по своей сути природу роботов и приписывает их отрицательные стороны абстрактным идеям, таким как «техника» или «автономность». Когда мы изучим внутреннюю кухню операторов «Предейтора», мы узнаем, что они не ведут войну при помощи автоматических устройств – люди все еще изобретают машины, программируют их и управляют ими. Можно долго обсуждать этику и политику дистанционных убийств, совершаемых беспилотными летательными аппаратами с удаленными операторами, или сохранение в тайне подобных устройств, действующих во внутреннем воздушном пространстве США. Но эти споры связаны с сущностью, местом и временем человеческих решений, а не с действующими автономно машинами.
Следовательно, вопрос не в противопоставлении пилотируемых и беспилотных аппаратов и не в противопоставлении управляемых человеком аппаратов автономным. Главные вопросы этой книги: «Где находятся люди?», «Кто эти люди?», «Что они делают?», «Когда они делают это?».
Где находятся люди? (На судне… в воздухе… внутри машин… или в офисе?)
Манипуляции оператора «Предейтора» сродни действиям пилота самолета – он отслеживает состояние бортовых систем, воспринимает информацию, принимает решения и совершает определенные шаги. Но его тело находится в другом месте, возможно, в нескольких тысячах километров от результатов его работы. Эта разница имеет значение. Задачи отличаются. Риски разные, и соотношение сил тоже.
Человеческий разум способен совершать путешествия в другие места, другие страны, на другие планеты. Знание, полученное через разум и чувства, отличается от знания, полученного через тело (где вы едите, спите, общаетесь, испражняетесь). То, какому из двух путей получения знания следовать, мы решаем в зависимости от конкретной ситуации, и это имеет свои последствия для тех, кто вовлечен в процесс.
Кто эти люди? (Пилоты… инженеры… ученые… необученные рабочие… менеджеры?)
Измените технику, и тогда изменится и задача, и суть работающего над ней специалиста. На самом деле вы измените весь контингент способных управлять системой людей. Чтобы стать пилотом, нужны годы обучения и тренировок, и эта профессия находится на вершине кадровой иерархии. Требует ли дистанционное управление летательным аппаратом тех же навыков и черт характера? Из каких социальных классов можно набирать рабочую силу? Повышение автоматизации на коммерческих воздушных судах соответствует расширению демографических данных пилотов как в индустриально развитых странах, так и во всем мире. Исследователь – это тот, кто путешествует в опасных условиях, или же тот, кто сидит дома перед компьютером? Должна ли вам нравиться жизнь на борту судна, чтобы стать океанографом? Можете ли вы исследовать Марс, если прикованы к инвалидной коляске? Что это за новые пилоты, исследователи и ученые, которые работают с помощью удаленного доступа?
Что они делают? (Летают… управляют… обрабатывают информацию… общаются?) Физическое усилие превращается в обработку визуальной информации, а затем – в познавательную задачу. То, для чего раньше требовалась сила, теперь требует внимания, терпения, быстроты реакции. Держит ли пилот руки непосредственно на рычагах управления, когда управляет самолетом? Или вводит ключевые команды в автопилот или полетный компьютер, чтобы запрограммировать траекторию полета воздушного судна? Какова роль оценки ситуации, которую выносит человек? Какова роль инженера, который программировал бортовой компьютер, или авиационного техника, который его настраивал?
Когда они делают это? (В реальном времени… с некоторой задержкой… заранее, за годы или месяцы до миссии?)
Полет обычного самолета происходит в реальном времени: человек сразу же реагирует на происходящие события, и его действия имеют немедленный эффект. В сценарии космического полета аппарат может быть на Марсе (или приближаться к далекому астероиду), и в этом случае уйдет 20 минут на то, чтобы аппарат получил команду, и 20 минут на то, чтобы оператор увидел, что что-то произошло. Или мы можем говорить, что аппарат приземляется «в автоматическом режиме», тогда как в действительности понимаем, что он приземляется под управлением программистов, которые оставили инструкции за несколько месяцев или лет до посадки (хотя здесь нам, возможно, придется внести коррективы в само понятие «управление»). Управление автоматической системой может напоминать взаимодействие с призраком.
Эти простые вопросы привлекают наше внимание к перераспределению и перепрофилированию. Новые формы присутствия и деятельности человека не обыденны и не равнозначны старым – культурная идентичность пилота, который рискует жизнью, пролетая над полем битвы, отличается от человека, управляющего аппаратом удаленно, с наземной станции. Но подобные изменения тоже бывают неожиданными – дистанционный оператор может чувствовать себя в большей степени присутствующим на поле битвы, чем пилот, высоко пролетающий над ним. Научная информация о Луне может быть той же самой или даже более полной, когда ее собирает дистанционно управляемый аппарат, а не человек, высадившийся непосредственно на планету. Но культурный опыт исследований Луны в таком случае совершенно иной.
Давайте заместим устаревшие представления насыщенными – одушевленными картинами того, как люди на самом деле создают роботов и автоматические системы и управляют ими в реальном мире. Истории, приведенные далее, являются одновременно и научно-техническими, и гуманистическими. Мы увидим, что управляемые человеком, дистанционные и автономные машины позволяют сдвинуть и переориентировать человеческое присутствие и действие во времени и пространстве. Суть этой книги сводится к следующему: важно не само противопоставление управляемых человеком и автономных систем, а, скорее, вопросы – «Где находятся люди?», «Кто эти люди?», «Что они делают и когда?».
Последними, самыми сложными вопросами станут: «Как меняется человеческое восприятие?», «И почему это имеет значение?».
Тесное, но комфортабельное внутреннее пространство подводной лодки было похоже на нечто среднее между салоном коммерческого авиалайнера и жилым прицепом 1950-х годов. Хотя дело происходило в 1997 году, обстановка вокруг напоминала дешевый ресторанчик времен холодной войны – переключатели, светящиеся трубки, набалдашники и рукоятки, зеленая краска на стенах, линолеум и оборудование из нержавеющей стали. Постоянный приглушенный шелест напоминал мне о том, что я дышу воздухом, нагнетаемым машиной.
