Microsoft привлекла искусственный интеллект к созданию новостей. Он начал публиковать фейки

Microsoft привлекла искусственный интеллект к созданию новостей. Он начал публиковать фейки ИИ начал публиковать фейки на MSN.com
Фото: depositphotos.com

Компания Microsoft подключила искусственный интеллект к созданию новостей на своей домашней странице MSN.com и столкнулась с серьезными проблемами. Об этом пишет CNN 2 ноября.

Сайт начал распространять ложные сведения и создавать неуместные опросы под новостями, рассказали люди, знакомые с работой сайта.

На MSN.com в 2018 году было задействовано более 800 редакторов, которые помогали выбирать и курировать новости. Но в последние годы Microsoft уволила редакторов, части из которых сказали, что их заменяет "автоматизация". Для обеспечения работы своего новостного портала Microsoft заключила лицензионные соглашения с крупными новостными организациями по всему миру, которые позволяют технологическому гиганту переиздавать свои статьи в обмен на долю доходов от рекламы.

Ситуация накалилась, когда 31 октября британская газета The Guardian обвинила Microsoft в нанесении ущерба репутации газеты после того, как MSN.com опубликовал статью из издания.

На прошлой неделе The Guardian опубликовала статью о Лили Джеймс, 21-летней женщине, которая была найдена мертвой с серьезными травмами головы в школе в Сиднее, Австралия. Убийство спровоцировало общенациональный разговор в Австралии о насилии в отношении женщин. Но когда MSN переиздала историю The Guardian, она сопровождалась опросом, созданным искусственным интеллектом, в котором читателям задавался вопрос: "Как вы думаете, что является причиной смерти женщины?" Были перечислены три варианта: убийство, несчастный случай или самоубийство. Опрос вызвал резкую критику со стороны читателей Microsoft и медиагруппы Guardian.

Но и до этого были проблемы с новостями от ИИ, в частности, публиковались неправдивые истории. В августе MSN разместил статью, в которой ложно утверждалось, что президент Джо Байден заснул во время минуты молчания в память о жертвах катастрофического лесного пожара на острове Мауи.

В следующем месяце Microsoft переиздала статью о Брэндоне Хантере, бывшем игроке НБА, который неожиданно умер в возрасте 42 лет, под заголовком "Брэндон Хантер бесполезен в 42 года".

В октябре Microsoft переиздала статью, в которой утверждалось, что руководитель Сан-Франциско Дин Престон подал в отставку со своей должности после критики со стороны Илона Маска. Эта история была полностью ложной.

Также компания начала публиковать статьи с малоизвестных сомнительных сайтов, которые могли бы остаться незамеченными, но через MSN дезинформация широко распространяется, пишет CNN.

В Microsoft отказались сообщить, сколько редакторов-людей все еще работают над курированием сайта, и все ли это делается с помощью искусственного интеллекта и алгоритмов.

"Как и в случае с любым другим продуктом или услугой, мы продолжаем корректировать наши процессы и постоянно обновляем существующую политику и определяем новую, чтобы соответствовать возникающим тенденциям. Мы стремимся решить недавнюю проблему низкого качества статей, размещенных в ленте, и тесно сотрудничаем с нашими партнерами по контенту, чтобы выявлять и решать проблемы, чтобы гарантировать, что они соответствуют нашим стандартам", – заявил представитель компании.

Контекст

22 марта было обнародовано обращение ученых и бизнесменов, которые призвали приостановить исследования ИИ минимум на полгода (обращение подписали более 33 тыс. человек, в том числе американский бизнесмен, гендиректор компаний Tesla и SpaceX Илон Маск, американский бизнесмен, соучредитель соцсети Pinterest Эван Шарп, американский программист, соучредитель Apple Стив Возняк, генеральный директор фотоагентства Getty Images Крейг Питерс).

Как читать "ГОРДОН" на временно оккупированных территориях Читать