Три года назад тысячи ученых, изобретателей, специалистов в области робототехники и искусственного интеллекта, предприниматели и общественные деятели подписали открытое письмо с призывом отказаться от создания полностью автономных боевых систем. Письмо было опубликовано на сайте некоммерческой организации будущего Института жизни, которая занимается исследованиями в области потенциальных угроз для человеческого существования, связанных с распространением систем искусственного интеллекта.

Авторы письма утверждали, что человечество стоит на пороге создания полностью автономных боевых систем, которые смогут принять решение на открытие огня. В том случае, если защита корпорации будут направлены на развитие таких систем, мы не можем избежать фатальных последствий. Ученые опасаются, что такие устройства неизбежно появляются на черном рынке и попадут в руки террористов, диктаторов и экстремистов.

Кроме того, боевая техника с искусственным интеллектом для выполнения идеального убийства, теракты и операции, направленные на дестабилизацию общества и разрушение конституционного строя государства. В отличие, например, от ядерного оружия, создание боевых роботов, неизмеримо проще с технической точки зрения, а материалы для их изготовления стоят достаточно дешево и широко доступны.

Систем смертельного автономного оружия (боевых автономных систем оружия) называют автономных боевых роботов, которые могут искать и уничтожать цели на основе запрограммированных ограничений и описаний. Группа правительственных экспертов ООН считает, что они должны оставаться под контролем людей, поскольку ответственность за применение оружия невозможно возложить на роботов.

Под руководством посла Индии и председателя группы экспертов Amandip Сингх Гилл разработали десять руководящих принципов для использования смертельного автономного оружия. Прежде всего, эксперты подчеркнули, что международное гуманитарное право продолжает применяться ко всем системам вооружений, в том числе потенциала развития и использование автономного оружия.

Эксперты ООН требуют обязать государство должно определить, при каких обстоятельствах использования военных роботов не приемлемо. В то время как жесткий контроль над смертельного автономного оружия не должно мешать самостоятельному развитию гражданских технологий. На встрече присутствовали эксперты из 125 стран и представители международных организаций, академических и промышленных кругов и гражданского общества.

Ранее, группа из 116 экспертов в области искусственного интеллекта (ИИ) и робототехники, которую возглавляет Элон Маск направил письмо в ООН с просьбой запретить деятельность по созданию и использованию смертельного автономного оружия.