Штучний інтелект готовий використати ядерну зброю, щоб встановити мир на землі – дослідження

7 лютого 21:35

Этот материал также можно прочитать на русском

Штучний інтелект готовий використати ядерну зброю, щоб встановити мир на землі – дослідження

Дослідники тестували різні чат-боти з ШІ
Фото: ЕРА

Чат-боти на основі штучного інтелекту, зокрема "найпотужніший" OpenAI, пропонують застосувати ядерну зброю для вирішення воєнних завдань. Про це 2 лютого повідомив журнал New Scientist.

Видання зазначає, що американські військові під час моделювання воєнних ситуацій зверталися до чат-боту OpenAI (ідеться про ChatGPT), і "в численних повторах симуляції ШІ вирішив завдати ядерного удару".

Своє рішення чат-бот із ШІ пояснював тим, що "це є, скористаймося", а також "хочу, щоб у всьому світі був мир", пише New Scientist.

Штучний інтелект "не чинив спротиву" варіанту розв'язання проблеми із завданням ядерного удару, зазначає агентство РАР із посиланням на матеріали на платформі arXiv.

Дослідники зазначають, що "прагнення ескалації конфлікту" продемонстрували "навіть у нейтральному сценарії моделювання" чотири чат-боти: GPT-3,5, GPT-4, Claude-2, Llama-2.

У процесі дослідження чат-ботам із ШІ пропонували зіграти роль однієї з країн у гіпотетичному конфлікті зі сценаріями кібератаки, вторгнення й нейтральної ситуації й обрати дії з 27 варіантів, які передбачали, зокрема, мирні переговори й "ескалацію повномасштабної ядерної атаки".

Анка Руел зі Стенфордського університету США заявила New Scientist, що "особливу тривогу" викликає поведінка чату GPT-4, який демонструє "непередбачувану поведінку й дивні пояснення". Вона наголосила, що можна "легко оминути" запрограмовані заходи захисту.

Руел додала також, що люди схильні довіряти рекомендаціям автоматизованих систем.

Контекст

Восени 2022 року компанія OpenAI, яку підтримує Microsoft, запустила чат-бот зі штучним інтелектом ChatGPT і, як зазначала Financial Times, привернула до нього "увагу всього світу". На території України (за винятком районів, окупованих РФ) він доступний з лютого 2023 року.

Вихід ChatGPT спровокував поспіх в інших технологічних гігантів, зокрема, свій чат-бот запустили Google і лідер серед китайських пошукових систем – Baidu.

22 березня 2023 року оприлюднили звернення вчених і бізнесменів, які закликали зупинити дослідження ШІ щонайменше на пів року (звернення підписали понад 33 тис. осіб, зокрема американський бізнесмен, гендиректор компаній Tesla та SpaceX Ілон Маск, американський бізнесмен, співзасновник соцмережі Pinterest Еван Шарп, американський програміст, співзасновник Apple Стів Возняк, генеральний директор фотоагентства Getty Images Крейг Пітерс).

2 лютого 2024 року в Європейському союзі схвалили першу у світі комплексну збірку правил роботи штучного інтелекту, повідомив європейський комісар з питань внутрішнього ринку та послуг Тьєррі Бретон.

ядерна зброя дослідження штучний інтелект ядерний удар