+16 Киев
Россия технологически существенно отстает от НАТО в области развития ИИ для информационной войны. Но компенсировать преимущество Запада в создании более современных моделей Россия пытается несколько иначе.
LLM Grooming – это новая форма информационной войны, которую Россия активно применяет с 2024 года. Суть методики заключается в целенаправленном "отравлении" больших языковых моделей, таких как ChatGPT, Gemini, Claude, Grok через инъекцию фейковой информации в открытые источники, которыми эти модели пользуются для обучения или поиска фактов.
Эта тактика предполагает создание масштабной сети сайтов – разоблаченная нами сеть Pravda такая не одна, но она довольно распространена.
Все они координируются из одного центра – через российские или связанные с РФ ІТ-компании, в том числе из Крыма. Эти сайты публикуют псевдоаналитические тексты, фейковые новости, интервью и комментарии экспертов, которые продвигают прокремлевские месседжи.
LLM Grooming действует не напрямую – не взламывает ИИ, а формирует его среду обучения. ИИ-модели пытаются генерировать ответы, опираясь на большие массивы информации из открытых источников. И если эти источники массово заражены дезинформацией, модель начинает ее повторять – в ответах, получаемых миллионами пользователей.
Особенно опасно, что такая информация выглядит правдоподобно и часто не вызывает подозрений. Это превращает LLM Grooming в оружие влияния: без шума, без ботов, без гибридных армий – только через искажение среды, в которой учится и функционирует искусственный интеллект. Это новая фаза информационной войны, где фронт – не соцсети, а сами алгоритмы.
В Европе вообще медленно реагируют на блокировку сетей дезинформационных ресурсов. В США тоже. В итоге получат проблему параллельно с развитием ИИ.
Источник: КOVALENKO / Telegram
Опубликовано с личного разрешения автора
