"Человеческое управление и контроль необходимы для ядерного оружия". Гутерриш заявил, что искусственный интеллект может представлять угрозу миру

"Сегодняшние дебаты дают возможность рассмотреть влияние искусственного интеллекта на мир и безопасность – там, где он уже вызывает политические, правовые, этические и гуманитарные проблемы", – заявил Гутерриш.

По его словам, ИИ применяется в сфере обеспечения мира и безопасности, однако "инструменты ИИ могут использоваться и теми, кто имеет злой умысел".

"Злонамеренное использование систем ИИ в террористических, преступных или государственных целях может привести к ужасающим масштабам смерти и разрушений, массовым травмам и глубокому психологическому ущербу в невообразимых масштабах. Кибератаки с использованием ИИ уже направлены против критической инфраструктуры и наших собственных миротворческих и гуманитарных операций, причиняя огромные человеческие страдания… Как военное, так и невоенное применение ИИ может иметь очень серьезные последствия для глобального мира и безопасности", – предупредил генсек ООН.

Он отметил, что появление генеративного ИИ может стать "определяющим моментом для дезинформации и языка вражды".

"Посмотрите на социальные сети. Инструменты и платформы, созданные для расширения человеческих связей, сегодня используются для подрыва выборов, распространения теорий заговора, разжигания ненависти и насилия", – указал Гутерриш.

Сбои в работе систем искусственного интеллекта – еще одна серьезная проблема, продолжил он. 

"Взаимодействие ИИ с ядерным оружием, биотехнологиями, нейротехнологиями и робототехникой вызывает глубокую тревогу... Сами его создатели предупреждают, что впереди нас ждут гораздо более серьезные, потенциально катастрофические и экзистенциальные риски, – подчеркнул генсек ООН. – Я призываю к согласию по общему принципу, согласно которому человеческое управление и контроль являются необходимыми для ядерного оружия и никогда не должны быть отменены".

Гутерриш также призвал к концу года создать рабочую группу для разработки вариантов глобального управления ИИ.

Заседание Совета Безопасности по искусственному интеллекту было созвано Великобританией, председательствующей по ротации в июле, отмечается на сайте ООН. Это было первое в истории заседание Совбеза, состоящего из 15 членов, посвященное потенциальным угрозам искусственного интеллекта для международного мира и безопасности.

Гутерриш 12 июня предлагал создать агентство по вопросам работы искусственного интеллекта по примеру МАГАТЭ. Он отмечал, что некоторые ученые считают, что ИИ – экзистенциальная угроза человечеству наравне с риском ядерной войны.

Контекст:

22 марта было обнародовано обращение ученых и бизнесменов, которые призвали приостановить исследования ИИ минимум на полгода (обращение подписали почти 32 тыс. человек, в том числе американский бизнесмен, гендиректор компаний Tesla и SpaceX Илон Маск, американский бизнесмен, соучредитель соцсети Pinterest Эван Шарп, американский программист, соучредитель Apple Стив Возняк, генеральный директор фотоагентства Getty Images Крейг Питерс, израильский историк Юваль Ной Харари).

Сооснователь Microsoft Билл Гейтс считает, что призывы приостановить развитие искусственного интеллекта "не решат все проблемы", связанные с этим. По мнению Гейтса, лучше сосредоточиться на том, как использовать разработки в области ИИ, он считает очевидным, что в этих технологиях есть "огромные преимущества".

1 мая стало известно, что Джеффри Хинтон, которого называют "крестным отцом искусственного интеллекта", уходит из компании Google. Он присоединился к критикам искусственного интеллекта. Хинтон считает, что компании "мчатся навстречу опасности" своей агрессивной деятельностью по созданию продуктов на основе генеративного искусственного интеллекта. Такая технология лежит в основе популярных чат-ботов, таких как ChatGPT. В Twitter Хинтон добавил, что ушел из Google, чтобы открыто говорить об опасностях ИИ.