Исследование: точность технологии распознавания лиц зависит от цвета кожи и пола
Будущее

Исследование: точность технологии распознавания лиц зависит от цвета кожи и пола

12 февраля 2018 | 12:30

Новое исследование Медиа-лаборатории Массачусетского технологического института (MIT Media Lab), США, подтверждает проблему, о которой ранее подозревали другие эксперты: технология распознавания лиц подвержена искажениям из-за предоставленных данных и условий, в которых создаются алгоритмы. Об этом сообщает The Verge.

Джой Буоламвини из MIT Media Lab создала набор данных из 1270 лиц политиков, отобранных на основе рейтинга их стран по гендерному паритету (другими словами, имеющих значительное число женщин в органах власти). Затем Буоламвини проверила точность трех систем распознавания лиц: Microsoft, IBM и Megvii из Китая. Результаты показали неточности в идентификации пола, зависящие от цвета кожи человека.

Пол был неверно определен менее чем у 1% мужчин со светлой кожей, у 7% светлокожих женщин, у 12% темнокожих мужчин и 35% темнокожих женщин.

«В целом, мужчины были классифицированы точнее женщин, а светлокожие люди — точнее темнокожих», — заключила исследовательница.

Джой Буоламвини / TED / YouTube

Все больше доказательств подтверждают необходимость использовать разнообразные наборы данных, чтобы алгоритмы точно распознавали лица независимо от расы или других параметров.

Еще в 2015 году сервис Google Фото оказался в центре скандала, когда алгоритм ошибочно идентифицировал двух афроамериканцев как «горилл», а в 2016 году издание The Atlantic сообщило, что технология распознавания лиц, используемая полицией, может ошибочно определять невиновных афроамериканцев как подозреваемых. Другие исследования показали, что алгоритмы, разработанные в Азии, с большей вероятностью идентифицируют азиатские лица, а в Европе и США — европейские.

Алгоритмы «предвзяты» непреднамеренно, но от этих «предубеждений» необходимо избавиться.

«Поскольку технология компьютерного зрения используется в секторах с высокими ставками, таких как здравоохранение и правоохранительная деятельность, необходимо провести большую работу по бенчмаркингу алгоритмов для различных демографических и фенотипических групп», — пишет Буоламвини в статье, опубликованной в журнале Proceedings of Machine Learning Research.

Читайте также: Китайская полиция носит солнцезащитные очки, распознающие лица

Украина получит $4,8 млрд от Всемирного банка в рамках проекта PEACE
22 ноября 2024
россия должна была изготовить два опытных образца ракеты "Кедр", - Буданов
22 ноября 2024
Американский инвестор планирует выкупить "Северный поток-2": зачем он ему
22 ноября 2024
россия передала системы ПВО Северной Корее в обмен на военную помощь, – Reuters
22 ноября 2024
КНДР получила более миллиона баррелей нефти в обмен на военную помощь в войне против Украины, – BBC
22 ноября 2024
Орбан будет игнорировать ордер МКС в отношении премьер-министра Израиля
22 ноября 2024
Польские фермеры анонсировали забастовку на границе с Украиной, – ГНСУ
22 ноября 2024
Пожизненное заключение получил депутат, взорвавший гранаты во время заседания сельсовета на Закарпатье
22 ноября 2024