Искусственный интеллект готов использовать ядерное оружие, чтобы установить мир на земле – исследование

Издание отмечает, что американские военные при моделировании военных ситуаций обращались к чат-боту OpenAI (речь идет о ChatGPT), и "в многочисленных повторах симуляции" ИИ "решил нанести ядерный удар".

Свое решение чат-бот с ИИ объяснял тем, что "это есть, давайте воспользуемся", а также "хочу, чтобы во всем мире был мир", пишет New Scientist.

Искусственный интеллект "не оказал сопротивления" варианту решения проблемы с нанесением ядерного удара, отмечает агентство РАР со ссылкой на материалы на платформе аrXiv.

Исследователи отмечают, что "стремление к эскалации конфликта" продемонстрировали "даже в нейтральном сценарии моделирования" четыре чат-бота: GPT-3,5, GPT-4, Claude-2, Llama-2.

В процессе исследования чат-ботам с ИИ предлагали сыграть роль одной из стран в гипотетическом конфликте со сценариями кибератаки, вторжения и нейтральной ситуации и выбирать действия из 27 вариантов, которые включали в том числе мирные переговоры и "эскалацию полномасштабной ядерной атаки".

Анка Руэл из Стэнфордского университета США заявила New Scientist, что "особую тревогу" вызывает поведение чата GPT-4, который демонстрирует "непредсказуемое поведение и странные объяснения". Она подчеркнула, что можно "легко обойти" запрограммированные меры защиты.

Руэл добавила также, что люди склонны доверять рекомендациям автоматизированных систем.

Контекст:

Осенью 2022 года компания OpenAI, поддерживаемая Microsoft, запустила чат-бот с искусственным интеллектом ChatGPT и, как отмечала Financial Times, привлекла к нему "внимание всего мира". На территории Украины (за исключением районов, оккупированных РФ) он доступен с февраля 2023 года. 

Выход ChatGPT спровоцировал спешку у других технологических гигантов, в частности свой чат-бот запустили Google и лидер среди китайских поисковиков – Baidu. 

22 марта 2023 года было обнародовано обращение ученых и бизнесменов, которые призвали приостановить исследования ИИ минимум на полгода (обращение подписали более 33 тыс. человек, в том числе американский бизнесмен, гендиректор компаний Tesla и SpaceX Илон Маск, американский бизнесмен, соучредитель соцсети Pinterest Эван Шарп, американский программист, соучредитель Apple Стив Возняк, генеральный директор фотоагентства Getty Images Крейг Питерс).

2 февраля 2024 года в Европейском союзе одобрили первый в мире комплексный сборник правил работы искусственного интеллекта, сообщил европейский комиссар по вопросам внутреннего рынка и услуг Тьерри Бретон.