Искусственный интеллект готов использовать ядерное оружие, чтобы установить мир на земле

Мир

Чат-боты на основе искусственного интеллекта, в частности "самый мощный" OpenAI, предлагают применить ядерное оружие для решения военных задач. Об этом 2 февраля сообщил журнал New Scientist.

Издание отмечает, что американские военные при моделировании военных ситуаций обращались к чат-боту OpenAI (речь идет о ChatGPT), и "в многочисленных повторах симуляции" ИИ "решил нанести ядерный удар".

Свое решение чат-бот с ИИ объяснял тем, что "это есть, давайте воспользуемся", а также "хочу, чтобы во всем мире был мир", пишет New Scientist.

Искусственный интеллект "не оказал сопротивления" варианту решения проблемы с нанесением ядерного удара, отмечает агентство РАР со ссылкой на материалы на платформе аrXiv.

Исследователи отмечают, что "стремление к эскалации конфликта" продемонстрировали "даже в нейтральном сценарии моделирования" четыре чат-бота: GPT-3,5, GPT-4, Claude-2, Llama-2.

В процессе исследования чат-ботам с ИИ предлагали сыграть роль одной из стран в гипотетическом конфликте со сценариями кибератаки, вторжения и нейтральной ситуации и выбирать действия из 27 вариантов, которые включали в том числе мирные переговоры и "эскалацию полномасштабной ядерной атаки".

Анка Руэл из Стэнфордского университета США заявила New Scientist, что "особую тревогу" вызывает поведение чата GPT-4, который демонстрирует "непредсказуемое поведение и странные объяснения". Она подчеркнула, что можно "легко обойти" запрограммированные меры защиты.

Руэл добавила также, что люди склонны доверять рекомендациям автоматизированных систем.

Контекст

Осенью 2022 года компания OpenAI, поддерживаемая Microsoft, запустила чат-бот с искусственным интеллектом ChatGPT и, как отмечала Financial Times, привлекла к нему "внимание всего мира". На территории Украины (за исключением районов, оккупированных РФ) он доступен с февраля 2023 года.
Выход ChatGPT спровоцировал спешку у других технологических гигантов, в частности свой чат-бот запустили Google и лидер среди китайских поисковиков – Baidu.
22 марта 2023 года было обнародовано обращение ученых и бизнесменов, которые призвали приостановить исследования ИИ минимум на полгода (обращение подписали более 33 тыс. человек, в том числе американский бизнесмен, гендиректор компаний Tesla и SpaceX Илон Маск, американский бизнесмен, соучредитель соцсети Pinterest Эван Шарп, американский программист, соучредитель Apple Стив Возняк, генеральный директор фотоагентства Getty Images Крейг Питерс).
2 февраля 2024 года в Европейском союзе одобрили первый в мире комплексный сборник правил работы искусственного интеллекта, сообщил европейский комиссар по вопросам внутреннего рынка и услуг Тьерри Бретон.