США и Россия могли изменить правила ООН относительно оружия с ИИ. WP объяснила, чем это опасно
По данным СМИ, из документа исключили, в частности, требование о человеческом контроле перед ударом
Фото: EPA
США и страна-агрессор Россия в ходе переговоров в ООН по регулированию смертоносного автономного оружия добились исключения из документа ряда положений о человеческом контроле и безопасности систем. Об этом 26 сентября сообщила The Washington Post со ссылкой на трех собеседников, знакомых с переговорами, и документы.
В частности, из проекта убрали требование, чтобы системы с искусственным интеллектом работали "предсказуемо" и "надежно". Также исключили положение о необходимости учитывать этические соображения при применении ИИ в оружии.
Кроме того, американская и российская делегации убрали пункт, который предусматривал проверку людьми военных целей, определенных искусственным интеллектом, перед нанесением удара.
По данным WP, изменения вносились во время закрытого заседания в Женеве. Камеры ООН были выключены, а представителей гражданского общества вывели из зала. США и Россия привлекли к работе примерно по 10 юристов – почти вдвое больше, чем другие делегации.
"Это была смерть от "тысячи порезов" бумагой", – сказал один из собеседников издания.
Переговоры по смертоносному автономному оружию в ООН пока не имеют юридически обязательной силы. В то же время их рассматривают как наиболее продвинутый глобальный процесс по созданию правил использования оружия с искусственным интеллектом. В ноябре страны должны снова встретиться в Женеве, чтобы обсудить дальнейший формат переговоров и возможность заключения юридически обязательного договора.
Представительница Human Rights Watch Верити Койл заявила, что ослабление правил может привести к использованию оружия, способного принимать решения о жизни и смерти без человеческого контроля.
Параллельно США пересматривают собственную директиву об использовании автономного оружия. Документ, принятый в 2023 году при администрации Джо Байдена, предусматривал человеческий контроль над автономными и полуавтономными системами вооружения, а также требовал от их операторов соблюдать законы войны и международные договора.
Контекст
- 24 сентября президент Украины Владимир Зеленский заявил, что уже в 2027 году ИИ может начать самостоятельно решать, что происходит на поле боя. По его словам, развитие оружия для убийств уже стало глобальной угрозой, поэтому его нужно замедлить до перехода на следующий этап.