Автономные системы оружия должны оставаться под контролем людей

Смертоносные автономные системы вооружений (САС), известные как "роботы-убийцы", должны оставаться под контролем людей, поскольку ответственность за их применение не может быть возложена на машины. Об этом говорится в опубликованном в воскресенье документе из 10 пунктов, разработанном Группой правительственных экспертов по проблематике смертоносных автономных систем. Очередная сессия этой Группы проходила в Женеве с 27 по 31 августа.

фото: twitter.com

Как отметил в своем заявлении председатель сессии Амандип Сингх Гилл (Индия), "Группа разработала 10 возможных руководящих принципов", касающихся применения САС.

Первый принцип гласит, что "международное гуманитарное право продолжает полностью применяться в отношении всех систем вооружений, включая потенциальную разработку и использование автономных систем вооружений". Согласно второму принципу, "ответственность человека за решения по использованию систем вооружений должна быть сохранена", поскольку нельзя передать машинам ответственность за последствия.

Далее говорится о том, что ответственность за последствия использования САС должна быть обеспечена в соответствии с международным правом, включая установление ответственности "цепочки командования и контроля со стороны людей".

Государствам необходимо решить, в соответствии с их обязательствами по гуманитарному праву, при каких обстоятельствах применение автономного оружия неприемлемо. Следует также принять в расчет риск попадания такого оружия в руки террористов.

Ряд принципов касаются необходимости оценки риска новых технологий в целом. Говорится также о том, что дискуссии о контроле над автономными системами вооружений не должны мешать доступу к мирному использованию "умных автономных технологий".

• США могут уступить России в развитии искусственного интеллекта - американские эксперты

Группа правительственных экспертов по проблематике САС была учреждена на V Обзорной конвенции о "негуманном" оружии (КНО), состоявшейся в декабре 2016 года. Ее первая сессия проходила в Женеве в ноябре прошлого года. В нынешней сессии участвовали эксперты из 125 стран - участниц КНО, включая Россию, а также международных организаций, академических и промышленных кругов, гражданского общества.