"Роботы-убийцы будут парить в небе". РФ уже применяет в Украине дрон на базе ИИ, который сам выбирает цель. Главное 

Россия

О том, что российские войска начали массово применять автономные БПЛА с искусственным интеллектом, сообщил в начале июля эксперт по радиотехнологиям Сергей Бескрестнов (Флеш). Сейчас известно о двух типах беспилотников, которые россияне запускают в автономном режиме: V2U и "Молнии".

По данным NYT, россияне использовали подобный дрон (точная модель в материале не названа) в Запорожье 6 июля. Дрон пытался атаковать АЗС, но, не сумев облететь многоквартирный дом, врезался в стену, возле которой прятались люди, и взорвался. Погибли три человека – 19-летняя студентка и двое мужчин – 41 и 48 лет. Это, вероятно, первый задокументированный случай гибели мирных жителей в результате атаки российского дрона, оснащенного такой системой.

По словам украинских военных и экспертов, беспилотник управлялся экспериментальной системой искусственного интеллекта, а не человеком. Он был запрограммирован операторами на движение к определенной АЗС, а приблизившись, самостоятельно выбрал точную цель (скорее всего, баллоны с пропаном), основываясь на обучении распознавать такие баллоны и наносить по ним удары.

Обломки после этой и других атак на Запорожье показали, что БПЛА оснащены мини-компьютерами Jetson Orin от американской компании Nvidia, которые и принимают решения о наведении на цель. В Nvidia подчеркивают, что официально не продают свои изделия в России. Однако ее технику легко приобрести у перекупщиков.

"Это развитие событий предвещает антиутопическое будущее, в котором роботы-убийцы будут парить в небе, принимая решения, от которых зависит жизнь или смерть", – говорится в материале.

Издание объяснило, что дроны с ИИ используют и РФ, и Украина. Но в более ранних моделях ИИ использовался уже на последнем этапе, для наведения на цель, выбранную человеком. А в этом случае дрон выбирал цель сам.

"Это угроза для всего мира. Через несколько лет мы будем жить в фильме "Терминатор". Это не шутка. Машины принимают решения о нанесении удара", – сказал изданию командующий ПВО в Запорожье Сергей Минаев.

Детектор БПЛА не отслеживает такие дроны (они не передают радиосигналы). Подавить их управление и навигацию РЭБ невозможно, "потому что нечего давить", подчеркивал Флеш.

NYT приводит варианты противодействия таким беспилотникам: использование дронов-перехватчиков, которыми (пока что) управляют люди; противодронные сети; маскировка. Например, на АЗС вокруг баллонов с пропаном под необычными углами размещают полиэтиленовую пленку, чтобы обмануть системы распознавания изображений на основе искусственного интеллекта.

"Анализ целей по приоритетности, выбор цели и принятие автономного решения об атаке – это, безусловно, ближайшее будущее всего сегмента ударных БПЛА", – считает Флеш.

По данным ГУР, модули Nvidia Россия ставит уже не только в дроны, но и в новые крылатые ракеты.

Украина

Украина активно внедряет искусственный интеллект в ударные дроны, чтобы снизить зависимость от операторов и повысить эффективность атак. Дроны среднего радиуса действия с ИИ уже стали серьезной проблемой для россиян – именно они привели к "логистическому локдауну" в Крыму. Среди них есть как иностранные разработки (Hornet), так и украинские (Darts, Bulava, RAM-2X).

Испытывают украинские военные и ИИ с функцией автоматического наведения на цель. Еще два года назад разработанный украинцами ИИ во время разового эксперимента на передовой самостоятельно принял решение убить российских военных и уничтожить грузовик.

В тесте было задействовано 10 управляемых искусственным интеллектом дронов "Терминатор", запрограммированных на полет к линии фронта. Они преодолели расстояние от 3 до 5 км примерно за 10 минут, после чего перешли в "режим Терминатора", в котором модель ИИ самостоятельно ищет и перехватывает цели.

"Мы просто запускаем его и знаем, что все будет ликвидировано – все, что будет обнаружено в этой конкретной зоне, погибнет. Связи с дроном нет вообще, вы не можете видеть видео, ничего… Все, что он зафиксирует, будет стерто", – рассказал этим летом производитель беспилотников Александр Кохановский. Он подчеркнул, что речь шла о разовом эксперименте, в массовом использовании таких дронов нет.

Как сообщили в июне источники New Scientist в оборонных компаниях, пока что правительство Украины запрещает использование ИИ на заключительном этапе выбора целей, хотя он используется на многих предыдущих этапах этого процесса.

В ходе работы над автономными системами украинские производители дронов также поднимали вопрос о рисках их применения. Один из производителей демонстрировал The Atlantic систему, в которой можно было устанавливать уровень уверенности ИИ перед атакой – от 30% до 90%. Даже самый высокий показатель, по его словам, не гарантирует отсутствия ошибки.

"Кто несет ответственность, если этот ребенок погибнет?" – именно этим вопросом производитель иллюстрировал риски ситуации, когда мирный человек случайно попадает в поле зрения камеры дрона.

Использование автономных систем наведения также вызывает юридические вопросы. По данным The Atlantic, украинские чиновники, производители оружия и военные годами обсуждают необходимость правил использования ИИ в войне. Действующее украинское законодательство не содержит отдельных норм в отношении такого типа оружия.

В то же время, по сообщениям СМИ, дроны-перехватчики против воздушных целей, чья работа основана на этом принципе, уже работают (пока что в тестовом режиме).

В конце июля тогдашний министр обороны Михаил Федоров рассказывал об испытании полностью автономной системы ИИ в оккупированном Крыму: целями были хранилища топлива и военная техника. Тогда в интернете вирусились фото, как российские военные пытаются скрыть свою технику от систем распознавания специальной раскраской.

По словам Федорова, жертв среди мирного населения зафиксировано не было.

В Украине планируют внедрить искусственный интеллект в крылатые ракеты и зенитные турели, а также довести до реального использования в боевых условиях концепт автономного "роя дронов".

Руководитель центра искусственного интеллекта "А1" при Минобороны Даниил Цьвок считает, что достижение автономности оружия на самом высоком уровне произойдет в ближайшие годы. А "рой дронов" может стать боеспособным уже к концу 2026-го.

"Но все равно останется вопрос, каким образом осуществлять управление рисками. То есть система подсказывает, но все-таки окончательное решение должно оставаться за человеком", – подчеркнул он.

Мировой опыт

В США вероятное использование полностью автономного оружия, действующего без участия людей, стало одним из поводов для конфликта между Пентагоном и компанией Anthropic, который СМИ описывали как "беспрецедентный скандал".

До этого американские военные использовали модель Claude от Anthropic при планировании ударов США по Ирану и при захвате президента Венесуэлы Николаса Мадуро. Однако Пентагон потребовал беспрепятственного использования систем искусственного интеллекта, а Anthropic отказалась снимать ограничения на массовую слежку за американцами и создание полностью автономного оружия.

Тогда министерство разорвало потенциальный договор на $200 млн с Anthropic, объявив ее "угрозой для цепи поставок" (этот статус традиционно использовался только против иностранных компаний-противников). В тот же день контракт перехватила OpenAI.

Теперь компания Anthropic судится с Пентагоном, но в то же время, по данным FT, помогает Агентству национальной безопасности США развернуть модель Mythos для проведения наступательных киберопераций.

В целом сложившуюся ситуацию в американской администрации по поводу ИИ NYT описывает как "хаос" и "непоследовательность". Издание отмечает, что Пентагон, до сих пор использующий самолеты, разработанные в 1950-х годах, отчаянно пытается угнаться за моделями ИИ, возможности которых многократно возрастают за считанные месяцы. При этом решения Белого дома и других ведомств по всем вопросам в сфере ИИ "принимаются скорее по прихоти, чем на основе четко сформулированных принципов".

Издание сравнивает нынешний момент в американской национальной безопасности с началом холодной войны. Тогда Соединенные Штаты были единственной страной, обладавшей ядерным оружием, и изо всех сил пытались отсрочить тот день, когда его получит Советский Союз. Сейчас, по оценкам американских экспертов, Китай отстает от США в разработке самых передовых моделей ИИ, возможно, на шесть месяцев или меньше.

Правозащитные организации и Международный комитет Красного Креста (МККК) решительно выступают против использования оружия с искусственным интеллектом без участия человека.

В то же время, отмечает NYT, некоторые эксперты считают, что в будущем оружие должно быть обязательно оснащено системами искусственного интеллекта. По их мнению, такое оружие безопаснее, поскольку способно принимать решения до удара, пусть и не всегда идеально, в отличие от неуправляемых авиабомб или обычных артиллерийских снарядов, которые просто падают, не видя, во что попадут.