"Роботи-вбивці літатимуть у небі". РФ уже застосовує в Україні дрон на базі штучного інтелекту, який самостійно обирає ціль. Головне 

Росія

Про те, що російські війська почали масово застосовувати автономні БПЛА зі штучним інтелектом, повідомив на початку липня експерт з радіотехнологій Сергій Бескрестнов (Флеш). Наразі відомо про два типи безпілотників, які росіяни запускають в автономному режимі: V2U та "Молнії".

За даними NYT, росіяни використовували подібний дрон (точна модель у матеріалі не названа) у Запоріжжі 6 липня. Дрон намагався атакувати АЗС, але, не зумівши обігнути багатоквартирний будинок, врізався у стіну, біля якої ховалися люди, і вибухнув. Загинули троє людей – 19-річна студентка та двоє чоловіків – 41 і 48 років. Це, ймовірно, перший задокументований випадок загибелі мирних мешканців у результаті атаки російського дрона, оснащеного такою системою.

За словами українських військових та експертів, безпілотник керувався експериментальною системою штучного інтелекту, а не людиною. Його запрограмували оператори на рух до певної АЗС, а наблизившись, він самостійно обрав точну ціль (найімовірніше, балони з пропаном), спираючись на навчання розпізнавати такі балони та завдавати по них ударів.

Уламки після цієї та інших атак на Запоріжжя показали, що БПЛА оснащені мінікомп’ютерами Jetson Orin від американської компанії Nvidia, які й приймають рішення про наведення на ціль. У Nvidia наголошують, що офіційно не продають свої вироби в Росії. Однак її техніку легко придбати у перекупників.

"Такий розвиток подій віщує антиутопічне майбутнє, в якому роботи-вбивці літатимуть у небі, приймаючи рішення, від яких залежить життя чи смерть", – ідеться в матеріалі.

Видання пояснило, що дрони зі штучним інтелектом використовують і РФ, і Україна. Але в попередніх моделях штучний інтелект застосовувався лише на останньому етапі – для наведення на ціль, обрану людиною. А в цьому випадку дрон обирав ціль самостійно.

"Це загроза для всього світу. Через кілька років ми житимемо у фільмі "Термінатор". Це не жарт. Машини приймають рішення про нанесення удару", – сказав виданню командувач ППО в Запоріжжі Сергій Мінаєв.

Детектор БПЛА не відстежує такі дрони (вони не передають радіосигнали). Придушити їхнє керування та навігацію засобами радіоелектронної боротьби неможливо, "бо немає чого придушувати", підкреслював Флеш.

NYT наводить варіанти протидії таким безпілотникам: використання дронів-перехоплювачів, якими (поки що) керують люди; протидронові сітки; маскування. Наприклад, на АЗС навколо балонів із пропаном під незвичайними кутами розміщують поліетиленову плівку, щоб обдурити системи розпізнавання зображень на основі штучного інтелекту.

"Аналіз цілей за пріоритетністю, вибір цілі та прийняття автономного рішення про атаку – це, безперечно, найближче майбутнє всього сегмента ударних БПЛА", – вважає Флеш.

За даними ГУР, модулі Nvidia Росія встановлює вже не тільки в дрони, а й у нові крилаті ракети.

Україна

Україна активно впроваджує штучний інтелект в ударні дрони, щоб зменшити залежність від операторів і підвищити ефективність атак. Дрони середнього радіусу дії з ШІ вже стали серйозною проблемою для росіян – саме вони призвели до "логістичного локдауну" в Криму. Серед них є як іноземні розробки (Hornet), так і українські (Darts, Bulava, RAM-2X).

Українські військові випробовують ШІ з функцією автоматичного наведення на ціль. Ще два роки тому розроблений українцями ШІ під час разового експерименту на передовій самостійно прийняв рішення вбити російських військових і знищити вантажівку.

У тесті було задіяно 10 керованих штучним інтелектом дронів "Термінатор", запрограмованих на політ до лінії фронту. Вони подолали відстань від 3 до 5 км приблизно за 10 хвилин, після чого перейшли в "режим Термінатора", у якому модель ШІ самостійно шукає та перехоплює цілі.

"Ми просто запускаємо його і знаємо, що все буде знищено – все, що буде виявлено в цій конкретній зоні, загине. Зв’язку з дроном немає взагалі, ви не можете бачити відео, нічого… Усе, що він зафіксує, буде стерто", – розповів цього літа виробник безпілотників Олександр Кохановський. Він підкреслив, що йшлося про разовий експеримент, у масовому використанні таких дронів немає.

Як повідомили в червні джерела New Scientist в оборонних компаніях, поки що уряд України забороняє використання ШІ на заключному етапі вибору цілей, хоча він використовується на багатьох попередніх етапах цього процесу.

Під час роботи над автономними системами українські виробники дронів також порушували питання про ризики їхнього застосування. Один із виробників продемонстрував The Atlantic систему, в якій можна було встановлювати рівень впевненості ШІ перед атакою – від 30% до 90%. Навіть найвищий показник, за його словами, не гарантує відсутності помилки.

"Хто несе відповідальність, якщо ця дитина загине?" – саме цим питанням виробник ілюстрував ризики ситуації, коли мирна людина випадково потрапляє в поле зору камери дрона.

Використання автономних систем наведення також викликає юридичні запитання. За даними The Atlantic, українські чиновники, виробники зброї та військові роками обговорюють необхідність правил використання ШІ у війні. Чинне українське законодавство не містить окремих норм щодо такого типу зброї.

Водночас, за повідомленнями ЗМІ, дрони-перехоплювачі проти повітряних цілей, робота яких базується на цьому принципі, вже функціонують (поки що в тестовому режимі).

Наприкінці липня тодішній міністр оборони Михайло Федоров розповідав про випробування повністю автономної системи штучного інтелекту в окупованому Криму: цілями були сховища палива та військова техніка. Тоді в інтернеті широко поширювалися фото, на яких російські військові намагаються приховати свою техніку від систем розпізнавання за допомогою спеціального забарвлення.

За словами Федорова, жертв серед мирного населення зафіксовано не було.

В Україні планують впровадити штучний інтелект у крилаті ракети та зенітні турелі, а також довести до реального використання в бойових умовах концепт автономного "рою дронів".

Керівник центру штучного інтелекту "А1" при Міноборони Данило Цьвок вважає, що досягнення автономності зброї на найвищому рівні відбудеться в найближчі роки. А "рій дронів" може стати боєздатним уже до кінця 2026-го.

"Але все одно залишиться питання, яким чином здійснювати управління ризиками. Тобто система підказує, але все-таки остаточне рішення має залишатися за людиною", – підкреслив він.

Світовий досвід

У США ймовірне використання повністю автономної зброї, що діє без участі людей, стало одним із приводів для конфлікту між Пентагоном і компанією Anthropic, який ЗМІ описували як "безпрецедентний скандал".

До цього американські військові використовували модель Claude від Anthropic під час планування ударів США по Ірану та під час захоплення президента Венесуели Ніколаса Мадуро. Однак Пентагон вимагав безперешкодного використання систем штучного інтелекту, а Anthropic відмовилася зняти обмеження на масове стеження за американцями та створення повністю автономної зброї.

Тоді міністерство розірвало потенційний договір на $200 млн з Anthropic, оголосивши її "загрозою для ланцюга поставок" (цей статус традиційно використовувався лише проти іноземних компаній-супротивників). Того ж дня контракт перехопила OpenAI.

Зараз компанія Anthropic судиться з Пентагоном, але водночас, за даними FT, допомагає Агентству національної безпеки США розгорнути модель Mythos для проведення наступальних кібероперацій.

Загалом ситуацію, що склалася в американській адміністрації щодо ШІ, NYT описує як "хаос" і "непослідовність". Видання зазначає, що Пентагон, який досі використовує літаки, розроблені в 1950-х роках, відчайдушно намагається наздогнати моделі ШІ, можливості яких багаторазово зростають за лічені місяці. При цьому рішення Білого дому та інших відомств щодо всіх питань у сфері ШІ "ухвалюються радше за примхою, ніж на основі чітко сформульованих принципів".

Видання порівнює нинішній момент в американській національній безпеці з початком холодної війни. Тоді Сполучені Штати були єдиною країною, що володіла ядерною зброєю, і щосили намагалися відтермінувати той день, коли її отримає Радянський Союз. Зараз, за оцінками американських експертів, Китай відстає від США у розробці найпередовіших моделей ШІ, можливо, на шість місяців або менше.

Правозахисні організації та Міжнародний комітет Червоного Хреста (МКЧХ) рішуче виступають проти використання зброї зі штучним інтелектом без участі людини.

Водночас, зазначає NYT, деякі експерти вважають, що в майбутньому зброя обов’язково має бути оснащена системами штучного інтелекту. На їхню думку, така зброя безпечніша, оскільки здатна приймати рішення до удару, хай і не завжди ідеально, на відміну від некерованих авіабомб або звичайних артилерійських снарядів, які просто падають, не бачачи, у що влучать.