Роботы не волк — в лес не убегут

Россия и США лишили мандата ООН инициаторов запрета боевого искусственного интеллекта.

Государствам—сторонникам запрета смертоносных автономных систем вооружений, или роботов-убийц, не удалось добиться мандата ООН на выработку юридически обязывающего международного договора в этой сфере. Таковы результаты завершившихся в Женеве переговоров на площадке Конвенции по негуманному оружию. Среди тех, кто выступил против радикальных ограничительных мер, оказалась и Россия, за что Москва уже подверглась критике правозащитников.

В переговорах в Женеве под эгидой ООН приняли участие делегации из 88 стран, включая Россию. Консультации о будущем смертоносных автономных систем (САС) начались 27-го и должны были завершиться 31 августа. Однако в 18:00 в пятницу председателю Группы правительственных экспертов, индийскому дипломату Амандипу Джилу пришлось пойти на крайние меры: делегаты никак не могли согласовать итоговое заявление и, чтобы избежать провала мероприятия, он объявил о "заморозке времени". Найти устраивающие большинство участников формулировки удалось лишь к раннему утру субботы.

Напомним, перспективы САС дипломаты начали предметно обсуждать совсем недавно: первая такая встреча состоялась в декабре 2017 года, вторая — в апреле 2018-го. В качестве дискуссионной площадки был выбран формат Конвенции по негуманному оружию. Именно в ее рамках в свое время рождались запреты кассетных боеприпасов, напалма, ослепляющих лазеров и противопехотных мин.

С инициативой запретить и полностью автономных роботов-убийц (речь идет о самых разных видах вооружений — от беспилотников до танков и систем ПВО) выступили несколько государств, в частности, Австрия, Аргентина, Бразилия, Боливия, Ватикан. Всего на текущий момент идею запрета поддерживают 26 стран. Россия в их число не входит. При этом, по данным аналитиков американской исследовательской компании MarketsandMarkets, мировой рынок технологий искусственного интеллекта военного назначения в 2017 году составил $6,26 млрд. Эксперты полагают, что к 2025 году этот показатель поднимется до $18,82 млрд (“Ъ” подробно писал об этом 16 августа).

Сторонники запрета роботов-убийц надеялись, что третья встреча в Женеве позволит наделить Группу правительственных экспертов мандатом на выработку соответствующего юридически обязывающего международного договора. Россия, однако, заранее дала понять, что заблокирует это предложение. Как пояснили “Ъ” в МИД РФ, скептическая позиция Москвы связана с целым рядом обстоятельств. "Во-первых, надо учитывать, что речь идет о технике, не имеющей пока реально действующих образцов. Представление о таких системах имеется пока лишь весьма поверхностное и умозрительное,— напоминают в ведомстве.— Серьезные затруднения наблюдаются даже при выработке рабочей версии определения термина САС".

Во-вторых, в МИДе указывают на "сложности с четким разграничением гражданских и военных разработок в области автономных систем". И в-третьих, в министерстве "имеются значительные сомнения относительно обозначаемой радикально настроенными государствами и неправительственными организациями недостаточности действующей международно-правовой базы для регулирования САС". "Международное право (в том числе его гуманитарная отрасль) полностью применимо к САС и не нуждается в модернизации или адаптации под такие пока еще не существующие системы вооружений",— заверяют на Смоленской площади.

При этом Россия была готова поддержать инициативу Франции и Германии о принятии политического заявления, в котором страны гарантировали бы, что человек в любом случае будет играть ключевую роль при задействовании автономных боевых систем и сможет сохранять контроль над их действиями. Однако и это предложение не прошло. В Группе правительственных экспертов решения должны приниматься консенсусом, на который выйти не удалось: сторонникам запрета САС франко-германская идея показалась полумерой, в то время как страны-скептики настаивали на необходимости включения в любой итоговый документ фразы о том, что САС могут принести и пользу.

Координатор глобальной кампании "Остановите роботов-убийц" (Stop Killer Robots), представитель правозащитной организации Human Rights Watch Мэри Уэрем в беседе с “Ъ” выразила сожаление в связи с тем, что "кучка государств, активно развивающая собственные САС, не дала добиться прогресса на переговорах в ООН". При этом к странам, помешавшим успешному исходу консультаций, она причислила и Россию. Впрочем, не только ее. Правозащитники также недовольны крайне скептической позицией США, Австралии, Израиля, Южной Кореи и Японии.

Совсем безрезультатной встреча в Женеве, однако, не стала. Делегаты согласовали десять потенциальных принципов, на которых в будущем мог бы базироваться подход международного сообщества к САС. Ключевые из них: все разработки в сфере искусственного интеллекта военного назначения должны вестись в соответствии с международным гуманитарным правом, а ответственность за применение подобных систем в любом случае должен нести человек.

Решение о будущем Группы правительственных экспертов будет принято 23 ноября на встрече стран—подписантов Конвенции о негуманном оружии. Ряд стран продолжает надеяться, что зеленый свет на выработку запретительной конвенции будет получен, в то время как их оппоненты не прочь вообще свернуть переговоры. Скорее всего, решение будет компромиссным — группа продолжит существовать, но без переговорного мандата.