Microsoft привлекла искусственный интеллект к созданию новостей. Он начал публиковать фейки
Компания Microsoft подключила искусственный интеллект к созданию новостей на своей домашней странице MSN.com и столкнулась с серьезными проблемами. Об этом пишет CNN 2 ноября.
Сайт начал распространять ложные сведения и создавать неуместные опросы под новостями, рассказали люди, знакомые с работой сайта.
На MSN.com в 2018 году было задействовано более 800 редакторов, которые помогали выбирать и курировать новости. Но в последние годы Microsoft уволила редакторов, части из которых сказали, что их заменяет "автоматизация". Для обеспечения работы своего новостного портала Microsoft заключила лицензионные соглашения с крупными новостными организациями по всему миру, которые позволяют технологическому гиганту переиздавать свои статьи в обмен на долю доходов от рекламы.
Ситуация накалилась, когда 31 октября британская газета The Guardian обвинила Microsoft в нанесении ущерба репутации газеты после того, как MSN.com опубликовал статью из издания.
На прошлой неделе The Guardian опубликовала статью о Лили Джеймс, 21-летней женщине, которая была найдена мертвой с серьезными травмами головы в школе в Сиднее, Австралия. Убийство спровоцировало общенациональный разговор в Австралии о насилии в отношении женщин. Но когда MSN переиздала историю The Guardian, она сопровождалась опросом, созданным искусственным интеллектом, в котором читателям задавался вопрос: "Как вы думаете, что является причиной смерти женщины?" Были перечислены три варианта: убийство, несчастный случай или самоубийство. Опрос вызвал резкую критику со стороны читателей Microsoft и медиагруппы Guardian.
Но и до этого были проблемы с новостями от ИИ, в частности, публиковались неправдивые истории. В августе MSN разместил статью, в которой ложно утверждалось, что президент Джо Байден заснул во время минуты молчания в память о жертвах катастрофического лесного пожара на острове Мауи.
В следующем месяце Microsoft переиздала статью о Брэндоне Хантере, бывшем игроке НБА, который неожиданно умер в возрасте 42 лет, под заголовком "Брэндон Хантер бесполезен в 42 года".
В октябре Microsoft переиздала статью, в которой утверждалось, что руководитель Сан-Франциско Дин Престон подал в отставку со своей должности после критики со стороны Илона Маска. Эта история была полностью ложной.
Также компания начала публиковать статьи с малоизвестных сомнительных сайтов, которые могли бы остаться незамеченными, но через MSN дезинформация широко распространяется, пишет CNN.
В Microsoft отказались сообщить, сколько редакторов-людей все еще работают над курированием сайта, и все ли это делается с помощью искусственного интеллекта и алгоритмов.
"Как и в случае с любым другим продуктом или услугой, мы продолжаем корректировать наши процессы и постоянно обновляем существующую политику и определяем новую, чтобы соответствовать возникающим тенденциям. Мы стремимся решить недавнюю проблему низкого качества статей, размещенных в ленте, и тесно сотрудничаем с нашими партнерами по контенту, чтобы выявлять и решать проблемы, чтобы гарантировать, что они соответствуют нашим стандартам", – заявил представитель компании.
Контекст:
22 марта было обнародовано обращение ученых и бизнесменов, которые призвали приостановить исследования ИИ минимум на полгода (обращение подписали более 33 тыс. человек, в том числе американский бизнесмен, гендиректор компаний Tesla и SpaceX Илон Маск, американский бизнесмен, соучредитель соцсети Pinterest Эван Шарп, американский программист, соучредитель Apple Стив Возняк, генеральный директор фотоагентства Getty Images Крейг Питерс).