Что произошло
Twitter заплатил $3,5 тыс. аспиранту швейцарского университета за то, что он продемонстрировал предвзятость алгоритма обрезки изображений в ленте соцсети.
Детали
Исследователь продемонстрировал работу этой системы, загрузив в Twitter несколько почти идентичных изображений людей, которые различались цветом кожи и некоторыми чертами лица. Алгоритм фокусировался на более белых и молодых лицах.
Контекст
Twitter объявил об «охоте» за багами в своих алгоритмах после череды обвинений в предвзятости и расизме.
Тенденции
Алгоритмы других ИТ-компаний тоже вызывали претензии у общественности. Под удар критиков попали Google и Flickr.
Что произошло
Twitter выплатил премию в размере $3,5 тыс. аспиранту швейцарского университета за то, что он продемонстрировал предвзятость алгоритма автоматической обрезки изображений в соцсети.
Богдан Кулинич доказал, что функция предварительного просмотра изображений фокусируется на более светлых и молодых лицах.
Алгоритмы в соцсети отвечают за составление персонализированной ленты, рекомендации аккаунтов, а также обрезку опубликованных пользователями изображений — задача состоит в том, чтобы автоматически показать в ленте наиболее релевантную часть фото или картинки, которая целиком не умещается в стандартную рамку.
Детали
Аспирант смоделировал несколько изображений людей – представителей разных рас, с разным цветом кожи и отличными чертами лица, однако фото были почти идентичны, – а затем прогнал их через алгоритм обрезки изображений. В ходе эксперимента выяснилось, что соцсеть действительно публиковала изображения, в которых фокус направлен на более молодые и светлокожие лица.
Контекст
- В марте 2021 года соцсеть Twitter отключила функцию автоматической обрезки фотографий после череды обвинений в предвзятости ее алгоритма. Компания объявила «охоту» за багами и запустила открытый конкурс среди специалистов по компьютерной безопасности.
- Предвзятость алгоритма заметили многие пользователи, они обвинили Twitter в расизме. Пользователи указывали на то, что при выборе двух фотографий, одна из которых содержит портрет темнокожего человека, а вторая — белого, в превью чаще отображается только портрет белого человека. Аналогичная ситуация была с изображениями черных и белых собак.
Тенденция
Многие компании признают, что их алгоритмы распознавания изображений несовершенны.
- Самый громкий скандал произошел с продуктами Google в 2015 году. Хранилище фотографий Google Photos автоматически сформировало альбом «Гориллы» из фотографий афроамериканца Джеки Элсина и его подруги. Элсин связался с разработчиками, те попросили доступ к его аккаунту, исправили ошибку и принесли извинения.
- Также этот механизм не различал кошек и собак.
- Аналогичные проблемы возникали у фотосервиса Flickr. Он определял людей в одни группы с животными. При этом в одну группу с обезьянами попадали представители разных рас.