Вартість атаки на штучний інтелект – від $60. Доступно. Дешево. Ефективно. І дуже небезпечно

Те, про що ми давно говорили, стає реальністю – поговоримо про кіберзагрози для АІ та які це несе нам небезпеки.

Тепер детальніше.

Агентство нацбезпеки США (NSA) разом із розвідками Великобританії, Австралії та Нової Зеландії вперше оприлюднило публічний звіт про кіберзагрози для АІ.

Документ системно пояснює, як саме можна зламати або "отруїти" штучний інтелект.

Головна уразливість – отруєння даних (data poisoning).

АІ навчається на масивах відкритої інформації. Якщо туди навмисно підмішати фейкові або викривлені дані, модель починає приймати хибні рішення.

До речі, про те, що російські пропагандисти так працюють з АІ, відомо давно.

Не вірите? Ну тоді зробіть експеримент.

Запитайте у ШІ про оборону Бахмута.

А потім зробіть запит російською мовою про "асвабаждєние Артемовска".

Ви будете здивовані результатом.

Вартість такої атаки – від $60 до $1000.

Доступно. Дешево. Ефективно.

Тож не дивуйтеся, якщо вам напише АІ, що вода кипить при 50 °C. Значить, хтось йому дав такі дані.

А тепер уявіть, що цей ШІ керує дронами на полі бою або відповідає за промислову безпеку.

Одна хибна стрічка даних – і рій дронів може вийти з-під контролю саме під час атаки або критичне підприємство вийде з ладу.

Замість висновків.

АІ – уже частина нашого життя. Тому треба думати про його безпеку. А це не лише про алгоритми.

Це про якість даних, контроль доступу і вбудовану стійкість до маніпуляцій.

Джерело: Victor Taran / Facebook

Опубліковано з особистого дозволу автора