Новий "руйнівний" ШІ може з'явитися вже за кілька місяців. Чому спецслужби б'ють на сполох
Спецслужби попередили про небезпеку нових потужних моделей ШІ
Фото: ЕРА (ілюстративне)
Потужні моделі штучного інтелекту, здатні здійснювати "руйнівні" кібератаки проти урядів та бізнесу, можуть з’явитися вже за кілька місяців. Про це йдеться у спільній заяві спецслужб альянсу Five Eyes, про яку 23 червня написало The Guardian. З огляду на потенційну загрозу, розвідники закликали світових лідерів "діяти негайно".
The Guardian зазначило, що звернення пролунало після рішення адміністрації президента США Дональда Трампа заблокувати доступ іноземних громадян до нової моделі компанії Anthropic під назвою Fable. Anthropic є розробником відомої ШІ-моделі Claude.
У заяві наголошують, що хоча штучний інтелект може посилити кіберзахист, він водночас "прискорює швидкість, масштаб і складність кіберзагроз". Нові моделі ШІ, за оцінкою Five Eyes, здатні перевищити нинішні очікування індустрії та радикально змінити як наступальні, так і оборонні кіберможливості. І це може стати реальністю не через роки, а вже найближчим часом.
Спецслужби підкреслили, що нові технології знижують бар’єри для зловмисників і збільшують темп і складність атак. Крім цього, у Five Eyes нагадали, що кіберризик більше не можна розглядати лише як технічну проблему, якою мають займатися профільні фахівці. Адже тепер вони напряму впливають на роботу компанії, її фінанси, репутацію та довіру клієнтів. Тому відповідальність за кіберризики лежить не тільки на ІТ-співробітниках, а й на керівниках бізнесів, які мають ухвалювати рішення, як захищати свої проєкти.
Експерти пояснюють, що сучасні генеративні моделі здатні не лише знаходити вразливості у кіберсистемах, а й одразу моделювати способи, як ці слабкі місця використати для атак. Хоча в заяві Five Eyes не названо конкретних компаній, увага світових урядів і бізнесу прикута до згаданої вище Anthropic та її моделей Mythos і Fable, які обмежили для іноземних користувачів за рішенням США. Наразі випуск Mythos у публічний доступ відкладено через побоювання, що її можуть використати для проведення руйнівних кібератак.
На початку червня на сайті Anthropic було опубліковано статтю із закликом уповільнити або зупинити розвиток ШІ через високі ризики, які становить ця технологія. Автори публікації висловили думку, що ШІ розвиваються надто швидко і наблизилися до здатності розвиватися без участі людини. Це загрожує "ризиком втрати людського контролю над системами ШІ", попереджали експерти.
Контекст
- Five Eyes – це міжнародний розвідувальний альянс, до складу якого входять Великобританія, Канада, Австралія та Нова Зеландія. Він виник ще під час Другої світової війни для спільної роботи над перехопленням і розшифруванням сигналів, а згодом перетворився на одну з найпотужніших систем обміну розвідданими у світі. Five Eyes також координує дії проти нових загроз, зокрема пов’язаних зі штучним інтелектом.