WP: Россия и США в ООН убрали требование о человеческом контроле над военным ИИ

WP: Россия и США в ООН убрали требование о человеческом контроле над военным ИИ

Во время работы над проектом международного документа по регулированию автономного оружия делегаты от России и США исключили ключевые ограничения на работу военного ИИ. Об этом сообщает The Washington Post (WP) со ссылкой на источники и документы.

По словам собеседников газеты, делегаты вычеркнули из текста требования о том, что системы должны работать «предсказуемо» и «надежно», а также пункты, которые обязывали учитывать этические соображения при применении ИИ-вооружений. Также, по данным издания, из проекта убрали требование, согласно которому перед атакой человек обязан перепроверять цели, выбранные алгоритмами.

Команды Москвы и Вашингтона состояли примерно из десяти юристов с каждой стороны — это почти в два раза больше, чем у любого другого государства на переговорах, утверждают источники WP. Обсуждения проходили при выключенных камерах ООН и без присутствия наблюдателей от общественных организаций, уточняет издание. В МИД РФ, Госдепартаменте США и ООН не ответили на запросы о комментариях.

Переговорный процесс состоялся в Женеве на площадке Группы правительственных экспертов по смертоносным автономным системам вооружений, чьи заседания проходили с 31 августа по 4 сентября. В ноябре участники Конвенции о конкретных видах обычного оружия снова соберутся в Женеве, чтобы обсудить возможность перевода этих консультаций в официальный мандат или юридически обязывающее соглашение.

Больше контекста
Составлено ИИ-Ассистентъ

Исключение требования о проверке целей человеком оставляет нерешенным главный вопрос регулирования автономного оружия: кто несет ответственность за решение о жизни и смерти, если цель выбирает система. Для сторонников обязательного договора человеческий контроль — минимальная гарантия того, что машина не сможет самостоятельно выбирать цели и атаковать их; без такой гарантии сохраняется риск, что автономная система не различит военных и гражданских.

Переговоры по этой теме идут в ООН с 2017 года, но созданная для них Группа правительственных экспертов в 2019 году выработала лишь рекомендательные принципы, а не договор. Поэтому обсуждение официального мандата или юридически обязательного соглашения означает переход от консультаций к формату, где придется закрепить обязательные ограничения; Россия выступает против такого инструмента и считает достаточными действующие нормы международного гуманитарного права.