Стоимость атаки на искусственный интеллект – от $60. Доступно. Дешево. Эффективно. И очень опасно

То, о чем мы давно говорили, становится реальностью – поговорим о киберугрозах для АІ и какие это несет нам опасности.

Теперь подробнее.

Агентство нацбезопасности США (NSA) вместе с разведками Великобритании, Австралии и Новой Зеландии впервые обнародовало публичный отчет о киберугрозах для АІ.

Документ системно объясняет, как именно можно сломать или "отравить" искусственный интеллект.

Главная уязвимость – отравление данных (data poisoning).

АІ учится на массивах открытой информации. Если туда намеренно подмешать фейковые или искаженные данные, модель начинает принимать ошибочные решения.

Кстати, о том, что российские пропагандисты так работают с АІ, известно давно.

Не верите? Ну тогда сделайте эксперимент.

Спросите у ИИ об обороне Бахмута.

А потом сделайте запрос на русском языке об "асвабаждении Артемовска".

Вы будете удивлены результатом.

Стоимость такой атаки – от $60 до $1000.

Доступно. Дешево. Эффективно.

Так что не удивляйтесь, если вам напишет АІ, что вода кипит при 50 °C. Значит, кто-то ему дал такие данные.

А теперь представьте, что этот ИИ управляет дронами на поле боя или отвечает за промышленную безопасность.

Одна ложная лента данных – и рой дронов может выйти из-под контроля именно во время атаки или критическое предприятие выйдет из строя.

Вместо выводов.

АІ – уже часть нашей жизни. Поэтому нужно думать о его безопасности. А это не только про алгоритмы.

Это про качество данных, контроль доступа и встроенную устойчивость к манипуляциям.

Источник: Victor Taran / Facebook

Опубликовано с личного разрешения автора