117. Когда необходимо, принимать инициативные меры, аналогичные или параллельные инициативам Организации Объединенных Наций.
C. Государствам
118. Ввести национальный мораторий в отношении БАРС в соответствии с предложением, содержащимся в пункте 114.
119. Заявить – в одностороннем порядке и в рамках многосторонних форумов – о приверженности соблюдению норм МГП и МППЧ во всей деятельности, связанной с роботизированными системами оружия, и принять и применять строгие процедуры соблюдения данных норм на всех стадиях разработки таких систем.
120. Взять обязательство обеспечивать максимально возможную степень транспарентности применительно к своим внутренним процедурам обзора вооружений, включая параметры, используемые при испытаниях роботизированных систем. Государствам следует как минимум обеспечить в интересах международного сообщества транспарентность относительно процедур (если и не существа результатов деятельности), которых они придерживаются, и взять обязательство проводить как можно более строгий обзор вооружений.
121. Принимать участие в международных обсуждениях и в межправительственном диалоге по вопросам БАРС и быть готовыми к обмену передовыми методами с другими государствами и сотрудничать с группой высокого уровня по вопросам БАРС.
D. Разработчикам роботизированных систем
122. Принять кодекс или кодексы поведения, этики и/или практики, определяющие содержание ответственного поведения в отношении БАРС в соответствии с МГП и МППЧ, либо усилить существующие кодексы.
E. НПО, гражданскому обществу и правозащитным группам и МККК
123. Рассматривать последствия применения БАРС для прав человека и для людей в ситуациях вооруженного конфликта и вести просветительскую работу по данному вопросу.
124. При любой возможности помогать государствам и взаимодействовать с ними в деле приведения их процедур и деятельности в данной области в соответствие с нормами МГП и МППЧ.
125. Призывать государства к обеспечению максимально возможной транспарентности в отношении их процедур обзора вооружений.
126. Поддерживать работу группы высокого уровня по вопросам БАРС.
По материалам доклада организации «Human Rights Watch» о полностью автономном оружии («роботах-убийцах»). 2013 г.[93]
По мере быстрого развития и быстрого увеличения количества автоматизированного оружия, оружие начинает на поле боя брать на себя некоторые функции солдат. Эксперты в области вооружений и робототехники предсказывают, что в течение 20-30 лет может быть разработано полностью автономное оружие (или «роботы-убийцы»), которое сможет выбирать и поражать цели по своему усмотрению без человеческого вмешательства. В настоящее время военные официальные лица говорят, что люди пока еще сохраняют возможность выбора при принятии решения: использовать (по умолчанию – смертельное) оружие или нет. Но однажды роботы смогут делать этот выбор по своему усмотрению.
Данный доклад был подготовлен негосударственными организациями «Human Rights Watch» («Наблюдение за правами человека») и «International Human Rights Clinic» («Интернациональная клиника гуманитарных прав», подразделение Гарвардской школы права). Первоочередной задачей этих организаций является: оценить, какое влияние полностью автономное оружие оказало бы на гарантии защиты мирного населения во время войны.
Этот отчет анализирует: выполняли бы «роботы-убийцы» требования международного гуманитарного права и давали ли бы они возможность проверять факты убийства гражданских лиц на соответствие нормам международного гуманитарного права.
Похоже, что полностью автономное оружие не только будет неспособно соответствовать юридическим стандартам, но также подорвет существенные неюридические гарантии безопасности для гражданских лиц. Авторы доклада приходят к заключению, что полностью автономное оружие не будет совместимо с международным гуманитарным правом. Его применение существенно увеличит риск гибели или ранения мирных жителей во время вооруженного конфликта. Поэтому необходим запрет на разработку, изготовление и использование такого оружия. И правительства всех стран должны срочно добиваться этого.
Полностью автономного оружия, которому уделяется основное внимание в этом отчете, еще не существует, но соответствующая технология развивается. И предшественники роботов-убийц уже используются. Многие страны используют системы оборонительного оружия, которые запрограммированы так, чтобы автоматически уничтожать воздушные цели. Другие предшественники полностью автономного оружия (использующиеся или находящиеся в разработке) предназначены для уничтожения живой силы и могут быть мобильным оружием нападения. Вооруженные силы дают высокую оценку такому оружию, потому что оно снижает риск поражения собственных солдат. Примеры, описанные в этом докладе, показывают, что много стран, и прежде всего США, близки к созданию роботов-убийц и имеют большой интерес к достижению этой цели.
Классификация оружия по степени автономности
Автоматизированное оружие, которое является «беспилотным», т. е. управляется удаленно оператором, часто делится на три категории по степени человеческого участия в его действиях:
• Человек В системе управления оружием (условно, IN): роботы применяют оружие только после человеческой команды;
• Человек НА системе управления оружием (условно, ON): роботы выбирают цели и применяют оружие самостоятельно, но под наблюдением человека, который может отменить действия робота;
• Человек ВНЕ системы управления оружием (условно, OUT): роботы выбирают цели и применяют оружие самостоятельно, без какого-либо человеческого участия. Человек не может отменить действий робота.
Примечания. В этом отчете термины «робот» и «роботизированное оружие» охватывают все три типа автоматизированного оружия. Другими словами, все, начиная от беспилотных самолетов с дистанционным управлением и заканчивая полностью автономным оружием – «роботами-убийцами». Хотя эксперты обсуждают точное определение, что такое робот, по существу роботы – это машины, которые работают на основании того, как они запрограммированы. Некоторые роботы обладают определенной степенью автономии, что означает способность машины работать без человеческого наблюдения/участия. Уровень автономии робота может измениться в очень широких пределах. Данная классификация и тенденция в развитии оружия являются прекрасным примером для ТРИЗ (теория решения изобретательских задач) на линию развития «вытеснение человека из технической системы».
1. Планы развития автономного оружия
Использование роботов в боевых действиях – уже не новость. Американские «дроны» (беспилотные самолеты, удаленно управляемые оператором) Predator, Reaper широко использовались в Афганистане и других странах. Эти дроны уже обладают некоторым уровнем автономии, которая относится к способности машины работать без человеческого наблюдения. Дроны обеспечивают разведку и обнаруживают цели, а оператор идентифицирует цель, принимает решение и подает дрону команду на применение оружия, что соответствует степени автономности IN (Человек В системе управления оружием). Таким образом, у нынешнего автоматизированного оружия в «петле принятия решения» (decision loop) все еще есть человек, т. е. требуется человеческое вмешательство прежде, чем будет применено оружие. Если бы оружие было полностью автономно, то оно идентифицировало бы цели и само их уничтожало.
Поскольку наблюдается тенденция вытеснения человека из «цепи принятия решения», в скором времени полностью автономное оружие («роботы-убийцы») будет само принимать решение о применении оружия. По мнению военных экспертов, вооруженные воздушные силы будущего будут все более и более беспилотными и автономными. В последнее время министерство обороны США ежегодно тратит примерно 6 млрд. долл. на научные исследования в этой области. Военные стратегические документы, особенно США, отражают планы увеличения степени автономности систем вооружений. Министерство обороны США предполагает развитие беспилотных воздушных, наземных и подводных систем, легко совместимых с системами, управляемыми человеком, постепенное уменьшение степени человеческого контроля и принятия решения. По оценкам экспертов, полностью автономное оружие будет на вооружении к 2025 г.
2. Предшественники полностью автономного оружия
2.1. Системы автоматического оборонительного оружия
Системы автоматического оборонительного оружия являются первым шагом на пути к полной автономии оружия. Данные системы обнаруживают воздушные цели и автоматически применяют свои средства поражения, чтобы их обезвредить. Человеческое участие в работе системы здесь ограничено принятием или отвержением плана действий компьютера за несколько секунд до применения средств поражения. У США есть несколько таких систем. Автоматизированная корабельная система ближнего боя «Фаланга» была установлена на боевые корабли еще в 1980 г. и до сих пор широко используется США и союзниками в модернизированных версиях.
