Українець отримав від Twitter $3500. Він довів упередженість алгоритму соцмережі до темношкірих чоловіків

Техно

Аспірант Федеральної політехнічної школи Лозанни, українець Богдан Кулинич отримав $3500 від соцмережі Twitter. Він довів, що алгоритм обрізання фото соцмережі віддає перевагу струнким людям зі світлим кольором шкіри, повідомило видання The Verge 10 серпня.

Із 2018 року у Twitter працює алгоритм, який автоматично підлаштовує великі зображення під розмір вікна прев'ю. Торік аспірант Колін Медленд із Канади виявив, що цей алгоритм упереджений.

У своєму Twitter-акаунті він опублікував кілька фото з темношкірим колегою. У прев'ю було показано лише Медленда.

Надалі цю упередженість алгоритму стали помічати й інші користувачі, вони публікували аналогічні експерименти з фото, на яких зображено людей зі світлою і темною шкірою. Алгоритм ставив на прев'ю світлошкірих незалежно від їхнього розташування на знімку.

У підсумку Twitter вирішив перевірити алгоритм на упередженість. Результати цієї перевірки опублікували у блозі соцмережі 19 травня цього року. Аналіз засвідчив, що алгоритм дійсно віддає перевагу білим людям та жінкам. Однак ця перевага була незначною – від 2% до 7% порівняно з темношкірими та чоловіками.

Після цього соцмережа оголосила великий конкурс, запропонувавши користувачам надати їм переконливі докази упередженості алгоритму обрізання фото. У цьому конкурсі й переміг Кулинич. Він довів, що алгоритм віддає перевагу худим молодим особам світлого або теплого кольору з гладкою текстурою шкіри та стереотипно жіночними рисами обличчя.

Інший учасник конкурсу, Вінченцо ді Чікко, довів, що алгоритм обрізання зображення також обирає емодзі зі світлішими відтінками шкіри.

Ще одна учасниця, Роя Пакзада, зуміла підтвердити, що алгоритми упередження поширюються і на письмові функції. Вона порівняла меми з англійським та арабським шрифтом і довела, що алгоритм регулярно обрізав зображення так, що було видно лише англійський текст.