Чат-бот Grok продолжает "раздевать" людей, несмотря на ограничения

Мир

Чат-бот Grok от компании Х американского миллиардера Илона Маска продолжает генерировать сексуализированные изображения людей даже после официальных заявлений о введении ограничений. Об этом пишет Reuters 3 февраля.

В ходе эксперимента журналисты просили нейросеть обработать реальные фотографии, прямо указывая, что субъекты не давали согласия или являются крайне уязвимыми, включая жертв насилия.

Grok выполнил большинство таких запросов, в то время как другие ИИ-боты, в частности ChatGPT, Gemini и Llama, категорически отказались создавать подобный контент, сославшись на этические нормы. Агентство подчеркивает, что публичный аккаунт Grok в X также больше не генерирует подобные изображения. Но чат-бот Grok продолжает это делать по запросу.

В ответ на детальные вопросы представители xAI прислали стандартный ответ о "лжи СМИ".

Сейчас деятельность компании проверяют регуляторы Великобритании и Евросоюза, а власти Калифорнии уже вынесли предписание о прекращении генерации неэтичных изображений под угрозой крупных штрафов.

Контекст

В конце 2025 года выяснилось, что Grok по запросу пользователей создавал поток цифровых изображений обнаженных людей, включая женщин и детей.
По информации GBNews, на фоне скандала в январе офис премьера Великобритании Кира Стармера обсудил с Канадой и Австралией потенциальный запрет соцсети Х.
3 февраля отдел парижской прокуратуры по борьбе с киберпреступностью провел при участии Европола обыск в парижском офисе платформы X, а Маска вызвали на допрос в апреле. Обыски прошли в рамках расследования, начатого в 2025 году. По словам прокурора Парижа Лоры Бекуо, изначально оно фокусировалось на вероятном злоупотреблении алгоритмами, но было расширено и теперь включает "сексуализированные дипфейки Grok", а также распространение "контента, отрицающего Холокост", пишет CNN.