Microsoft залучила штучний інтелект до створення новин. Він почав публікувати фейки

Microsoft залучила штучний інтелект до створення новин. Він почав публікувати фейки ШІ почав публікувати фейки на MSN.com
Фото: depositphotos.com

Компанія Microsoft долучила штучний інтелект до створення новин на своїй домашній сторінці MSN.com і зіткнулася із серйозними проблемами. Про це пише CNN 2 листопада.

Сайт почав поширювати неправдиві відомості та створювати недоречні опитування під новинами, розповіли люди, ознайомлені з роботою сайта.

На MSN.com 2018 року було залучено понад 800 редакторів, які допомагали добирати й займатися новинами. Але протягом останніх років Microsoft звільнила редакторів, частині з яких сказали, що їх замінює "автоматизація". Для забезпечення роботи свого порталу новин Microsoft уклала ліцензійні угоди з великими організаціями новин по всьому світу, які дають технологічному гіганту можливість перевидавати свої статті в обмін на частку доходів від реклами.

Ситуація загострилася, коли 31 жовтня британська газета The Guardian звинуватила Microsoft у завданні шкоди репутації газети після того, як MSN.com опублікував статтю з видання.

Минулого тижня The Guardian опублікувала статтю про Лілі Джеймс, 21-річну жінку, яку виявили мертвою із серйозними травмами голови у школі в Сіднеї, Австралія. Убивство спровокувало загальнонаціональну розмову в Австралії про насильство щодо жінок. Але коли MSN перевидала історію The Guardian, її супроводжувало опитування, створене штучним інтелектом, у якому читачам ставили запитання: "Як ви думаєте, що є причиною смерті жінки?" Було перелічено три варіанти: убивство, нещасний випадок чи самогубство. Опитування спричинило різку критику з боку читачів Microsoft і медіагрупи Guardian.

Але й до цього були проблеми з новинами від ШІ, зокрема було опубліковано неправдиві історії. У серпні MSN оприлюднив статтю, у якій хибно стверджували, що президент Джо Байден заснув під час хвилини мовчання на згадку про жертв катастрофічної лісової пожежі на острові Мауї.

Наступного місяця Microsoft перевидала статтю про Брендона Гантера, колишнього гравця НБА, який несподівано помер у віці 42 років, під заголовком "Брендон Гантер марний у 42 роки".

У жовтні Microsoft перевидала статтю, у якій стверджували, що керівник Сан-Франциско Дін Престон подав у відставку зі своєї посади після критики з боку Ілона Маска. Ця історія була повністю неправдивою.

Також компанія почала публікувати статті з маловідомих сумнівних сайтів, які могли б залишитися непоміченими, але через MSN дезінформація широко поширюється, пише CNN.

У Microsoft відмовилися поінформувати, скільки редакторів-людей досі працюють над сайтом і чи все це зроблено за допомогою штучного інтелекту й алгоритмів.

"Як і у випадку з будь-яким іншим продуктом або послугою, ми й далі коригуємо наші процеси і постійно оновлюємо наявні політики й визначаємо нові, щоб відповідати тенденціям, які виникають. Ми прагнемо вирішити недавню проблему низької якості статей, розміщених у стрічці, і тісно співпрацюємо з нашими партнерами по контенту, щоб виявляти й вирішувати проблеми, щоб гарантувати, що статті відповідають нашим стандартам", – заявив представник компанії.

Контекст

22 березня було оприлюднено звернення вчених і бізнесменів, які закликали зупинити дослідження ШІ щонайменше на пів року (звернення підписало понад 33 тис. осіб, зокрема американський бізнесмен, гендиректор компаній Tesla і SpaceX Ілон Маск, американський бізнесмен, співзасновник соцмережі Pinterest Еван Шарп, американський програміст, співзасновник Apple Стів Возняк, генеральний директор фотоагентства Getty Images Крейг Пітерс).

Як читати "ГОРДОН" на тимчасово окупованих територіях Читати