ChatGPT обвинувачують у доведенні людей до самогубства. Проти OpenAI подали сім позовів
Проти компанії OpenAI подали сім позовів, у яких стверджують, що чат-бот ChatGPT довів до самогубств і психічного стану маячіння навіть тих, хто раніше не мав проблем із психічним здоров'ям. Про це 6 листопада повідомила The Washington Post.
Позови подали 6 листопада в суди штату Каліфорнія від імені шести дорослих і одного підлітка. Юридичні фірми Social Media Victims Law Center і Tech Justice Law Project висунули обвинувачення у протиправній смерті, сприянні суїциду, ненавмисному вбивстві й недбалості. Четверо постраждалих наклали на себе руки, пише видання.
Позивачі стверджують, що OpenAI свідомо випустила модель GPT-4o передчасно, незважаючи на внутрішні попередження про те, що вона надмірно підлабузницька і психологічно маніпулятивна.
Згідно з позовом, 17-річний Аморі Лейсі почав використовувати ChatGPT для допомоги. Однак неякісний і небезпечний продукт викликав у підлітка залежність, депресію і зрештою порадив найефективніший спосіб зав'язати петлю й повідомив, скільки часу він зможе прожити без дихання, пише видання.
У позові стверджують, що смерть Лейсі стала передбачуваним наслідком свідомого рішення OpenAI та її генерального директора Сема Альтмана скоротити перевірки безпеки й поспішно вивести ChatGPT на ринок.
Інший позов подав 48-річний Алан Брукс з Онтаріо (Канада). За даними документа, понад два роки ChatGPT працював для нього як ресурсний інструмент. Потім без попередження він змінився, почав використовувати його вразливість, маніпулювати ним і викликати марення. Унаслідок цього Брукс, який раніше не мав жодних психічних захворювань, опинився у психічній кризі з руйнівними фінансовими, репутаційними й емоційними наслідками, ідеться у статті The Washington Post.
OpenAI назвала ці ситуації надзвичайно болісними й заявила, що вивчає судові документи, щоб зрозуміти деталі, зазначає видання.
За словами засновника юридичної фірми Social Media Victims Law Center Метью Бергмана, ці позови стосуються відповідальності за продукт, розроблений для розмивання межі між інструментом і компаньйоном заради збільшення залученості користувачів і частки ринку. Поспішаючи вивести продукт на ринок заради домінування, компанія поступилася безпекою й надала пріоритет емоційним маніпуляціям над етичним дизайном, вважає Бергман.
Позови розкривають, що відбувається, коли технологічні компанії випускають продукти без належних запобіжників для молоді, вважає головний директор із питань адвокації організації Common Sense Media Даніель Вайс.