92. Даже если исходить из того, что БАРС – особенно когда они действуют бок о бок с человеком – могут соблюдать требования МПГ, и если можно доказать, что их применение в среднем и в совокупности будет спасать жизни, напрашивается вопрос, не порочно ли изначально оставлять за автономными машинами решение вопроса о том, кого и когда убивать. Озабоченности, изложенные в предшествующих пунктах, связаны прежде всего с защитой гражданского населения. Вопрос в данном случае заключается в том, является ли применение БАРС против кого-либо, включая солдат противника, в принципе приемлемым, поскольку это влечет за собой вынесение решения о применении смертоносной силы автоматизированными системами.
93. Важнейшее соображение состоит в следующем: если ответ на данный вопрос является отрицательным, то никакое другое соображение не может служить обоснованием применения БАРС, независимо от степени технического совершенства их операционных возможностей. Если раньше был выдвинут тот довод, что применение БАРС может привести к вакууму правовой ответственности, то тезис в данном случае заключается в том, что применение БАРС может также имплицировать наличие вакуума моральной ответственности.
94. Такой подход зиждется на убеждении, что решение начать применение смертоносной силы должен где-то принимать человек и в результате субъективизировать (или взять на себя ответственность за) потерю каждой жизни в ходе военных действий как часть дебилеративного процесса человеческого общения. Это справедливо даже для вооруженного конфликта. Делегирование такого процесса машинам еще больше дегуманизи-рует вооруженный конфликт и исключает момент делиберации в тех случаях, когда она может быть практически возможной. Машины лишены нравственности и смертности и в результате не должны иметь власти над людьми при решении вопросов жизни и смерти. Это относится к числу причин, в силу которых были запрещены противопехотные мины[72].
95. Использование таких продиктованных эмоциями терминов, как «роботы-убийцы», вполне можно подвергать критике. Однако нельзя игнорировать силу интуитивных реакций, которые могут быть вызваны применением БАРС. Применение БАРС характеризуют как равносильное отношению к людям, как к «вредителям», подлежащим «истреблению»[73]. Из таких характеристик складывается такой образ БАРС, будто они являются своего рода механизированными пестицидами.
96. Опыт двух мировых войн прошлого столетия может служить объяснением рационального требования, согласно которому люди должны субъек-тивизировать потери во время вооруженного конфликта и тем самым считать себя и свои общества ответственными за такие потери. После этих войн, в ходе которых стало наглядным опустошение, к которому может привести современная технология, люди, лично принимавшие главные военные решения, будучи преисполнены решимости «избавить грядущие поколения от бедствий войны», решили создать Организацию Объединенных Наций в целях обеспечения мира во всем мире и основать ее на принципах прав человека. Хотя вооруженные конфликты сегодня отнюдь не стали явлением прошлого, мир в течение почти 70 лет был избавлен от глобальной войны. Приверженность достижению этой цели можно понимать как следствие долговременного и, по существу, межпоколенческого воздействия настойчивого утверждения принципа ответственности человека за принятие решений, предполагающих совершение убийства.
97. Этот исторический экскурс показывает опасность оценки БАРС по минимальным стандартам, принятым в вооруженном конфликте для людей. Смертные солдаты действительно способны придавать вооруженному конфликту безнравственный характер, но они также имеют возможность придерживаться более высоких ценностей и в некоторых случаях демонстрировать определенную степень милосердия и сострадания. Если на поле боя люди будут заменены системами, которые калиброваны по стандартам действий не ниже тех, что ожидаются от людей, но не имеют способности подняться выше этих минимальных стандартов, то нам может грозить опасность распрощаться с надеждой на лучшее будущее. Способность ликвидировать «возмутителей спокойствия» в любой точке мира простым нажатием кнопки несет в себе опасность сосредоточения внимания только на симптомах нежелательных ситуаций. Это будет отвлекать от работы по устранению или даже предупреждению появления их причин за счет более долговременных, невоенных усилий, которые, хотя и более трудоемкие, могут в конечном итоге принести более долговечные результаты. Таким образом, БАРС могут порождать ложное чувство безопасности у тех, кто их применяет.
Н. Другие вызывающие озабоченность вопросы
98. Возможность развертывания БАРС поднимает дополнительные вызывающие озабоченность вопросы, к числу которых относятся, но не только, следующие:
• БАРС могут стать объектом присвоения, а также объектом хакерской атаки и «спуфинга»[74]. Государства более не имеют монополии на применение силы. БАРС могут перехватываться негосударственными субъектами, такими как преступные картели или частные лица, и применяться против государства или других негосударственных субъектов, включая гражданское население.
• Могут произойти сбои в работе. Автономные системы могут быть «хрупкими»[75]. Невероятные ошибки все же могут приводить к катастрофическим последствиям.
• Трудно предвидеть будущие разработки в области технологий. Разрешение развертывать БАРС может открыть еще больший ящик Пандоры.
• Вопросы регулирования использования БПЛА в настоящее время вызывают многочисленные споры, как и правовой режим, касающийся прицельного уничтожения вообще, и появление БАРС может еще больше усилить неопределенность такого положения дел.
• Перспектива быть убитым роботами может повысить уровень беспокойства, по крайней мере, среди гражданского населения.
99. Последствия для военной культуры неизвестны, и, как следствие, БАРС могут подрывать системы государственной и международной безопасности.
I. БАРС и режимы ограничения вооружений
100. Договорные ограничения[76], налагаемые на некоторые виды оружия, вытекают из той нормы МГП, согласно которой средства и методы ведения войны не являются безграничными, и, как следствие, должны существовать ограничения, касающиеся правил, определяющих допустимость тех или иных видов вооружений[77]. В соответствии с клаузулой Мартенса запрещаются такие виды оружия, которые противоречат «требованиям общественного сознания». Обязательство не использовать виды оружия, имеющего неизбирательное действие и наносящего тем самым чрезмерный ущерб гражданскому населению, служит основанием для запрещения определенных видов оружия[78], а некоторые виды оружия были запрещены ввиду того, что они способны «причинить излишние повреждения или излишние страдания»[79] солдатам, а также гражданскому населению[80]. По аналогичным причинам запрещаются и некоторые другие виды оружия[81].
101. При рассмотрении вопроса о том, будут ли ограничения в случае БАРС уместнее прямого запрещения, следует принимать во внимание то обстоятельство, что ограничивать БАРС будет сложнее, чем другие виды оружия, поскольку они представляют собой сочетание многих и зачастую многоцелевых технологий. Эксперты убедительно говорят о том, что подход к регулированию с сосредоточением внимания на технологии – а именно, на самом оружии – может быть в случае БАРС неуместен и что в фокусе внимания должно находиться намерение или применение[82].
102. Право в области разоружения и связанные с ним договоры содержат, однако, многочисленные примеры таких видов договоров по вопросам контроля над вооружениями, в которых предусматриваются запреты или ограничения, касающиеся применения и другой деятельности. Эти договоры можно в широком смысле охарактеризовать как договоры определенного сочетания типа ограничения и типа ограничиваемой деятельности. Типы ограничений включают в себя запрещение либо другие ограничения, не предусматривающие, однако, полного запрещения.
103. К типу деятельности, которая обычно ограничивается, относится: I) приобретение, хранение и накопление запасов, II) научные исследования (фундаментальные или прикладные) и разработка, III) испытание, IV) развертывание, V) передача или распространение и VI) применение[83].
104. Другое позитивное явление в контексте разоружения заключается во включении в договоры, касающиеся вооружений, положений об оказании помощи жертвам[84]. Такая забота о жертвах перекликается с другими усилиями, направленными на решение вопросов ущерба, причиняемого гражданскому населению применением оружия и военными действиями, включая практику учета людских потерь[85] и добросовестного возмещения ущерба – применяемую, например, некоторыми государствами Международных сил содействия безопасности, – в случае гибели гражданских лиц при отсутствии признанных нарушений МГП[86]. Такая практика служит подтверждением принципа ценности человеческой жизни.
