Новый "разрушающий" ИИ может появиться уже через несколько месяцев. Почему спецслужбы бьют тревогу 

The Guardian отметило, что обращение прозвучало после решения администрации президента США Дональда Трампа заблокировать доступ иностранных граждан к новой модели компании Anthropic под названием Fable. Anthropic является разработчиком известной ИИ-модели Claude.

В заявлении подчеркивается, что, хотя искусственный интеллект может усилить киберзащиту, он в то же время "увеличивает скорость, масштаб и сложность киберугроз". Новые модели ИИ, по оценке Five Eyes, способны превзойти нынешние ожидания отрасли и радикально изменить как наступательные, так и оборонительные кибервозможности. И это может стать реальностью не через годы, а уже в ближайшее время.

Спецслужбы подчеркнули, что новые технологии снижают барьеры для злоумышленников и увеличивают темп и сложность атак. Кроме того, в Five Eyes напомнили, что киберриск больше нельзя рассматривать только как техническую проблему, которой должны заниматься профильные специалисты. Ведь теперь они напрямую влияют на работу компании, ее финансы, репутацию и доверие клиентов. Поэтому ответственность за киберриски лежит не только на ІТ-сотрудниках, но и на руководителях компаний, которые должны принимать решения о том, как защищать свои проекты.

Эксперты объясняют, что современные генеративные модели способны не только находить уязвимости в киберсистемах, но и сразу моделировать способы использования этих слабых мест для атак. Хотя в заявлении Five Eyes не названы конкретные компании, внимание мировых правительств и бизнеса приковано к упомянутой выше компании Anthropic и ее моделям Mythos и Fable, доступ к которым для иностранных пользователей был ограничен по решению США. В настоящее время выпуск Mythos в открытый доступ отложен из-за опасений, что ее могут использовать для проведения разрушительных кибератак.

В начале июня на сайте Anthropic была опубликована статья с призывом замедлить или остановить развитие ИИ из-за высоких рисков, которые представляет эта технология. Авторы публикации высказали мнение, что ИИ развиваются слишком быстро и приблизились к способности развиваться без участия человека. Это чревато "риском потери человеческого контроля над системами ИИ", предупреждали эксперты.