В алгоритме "Твиттера" нашли предрассудки: он предпочитал фото молодых, стройных и белых
(5)
Богдан Кулинич занял первое место в организованном самой компанией Twitter конкурсе на выявление когнитивных искажений в алгоритме. Компания уже пообещала исправить недочет.
Весной собственное расследование компании показало, что алгоритм имеет тенденцию вырезать темнокожие лица. В результате она пересмотрела способ механической обработки изображений, заявив, что кадрирование лучше всего выполняется вручную людьми.
Ранее то, как изображения будут обрезаться на превью в микроблогах сети, отбирал алгоритм. Но когда на одном изображении оказывались два лица, пользователи обнаружили, что при предварительном просмотре кадрирование предпочитало белые лица, скрывая темнокожие.
Эта закономерность оказалась верна и для снимков бывшего президента США Барака Обамы, и американского сенатора-республиканца Митча Макконнелла, а также для фото бизнесменов, принадлежащих к разным этническим группам.
Собственный последующий анализ работы алгоритма показал предубеждение на 4% в пользу белых.
Конкурс наград за выявление неточностей сети был запущен в июле. Twitter - не единственный IT-гигант, практикующий подобные инициативы.
Вручая первый приз, представитель компании Twitter сообщил, что алгоритмические модели усиливают существующие в обществе предубеждения, касающиеся широко принятых представлений о красоте.
Второй приз получил проект "Искусственный интеллект Halt", созданный группой сотрудниц Университета Торонто. Они продемонстрировали, что алгоритм обрезания изображений в "Твиттере" еще сильнее маргинализирует пожилых и людей с инвалидностью.
Третий приз достался основательнице правозащитно-программистского проекта Taraaz Рое Пакзад. Она выявила, что алгоритм с большей вероятностью обрезал арабский текст на мемах, чем английский.
