Исследование: точность технологии распознавания лиц зависит от цвета кожи и пола
Будущее

Исследование: точность технологии распознавания лиц зависит от цвета кожи и пола

12 февраля 2018 | 12:30

Новое исследование Медиа-лаборатории Массачусетского технологического института (MIT Media Lab), США, подтверждает проблему, о которой ранее подозревали другие эксперты: технология распознавания лиц подвержена искажениям из-за предоставленных данных и условий, в которых создаются алгоритмы. Об этом сообщает The Verge.

Джой Буоламвини из MIT Media Lab создала набор данных из 1270 лиц политиков, отобранных на основе рейтинга их стран по гендерному паритету (другими словами, имеющих значительное число женщин в органах власти). Затем Буоламвини проверила точность трех систем распознавания лиц: Microsoft, IBM и Megvii из Китая. Результаты показали неточности в идентификации пола, зависящие от цвета кожи человека.

Пол был неверно определен менее чем у 1% мужчин со светлой кожей, у 7% светлокожих женщин, у 12% темнокожих мужчин и 35% темнокожих женщин.

«В целом, мужчины были классифицированы точнее женщин, а светлокожие люди — точнее темнокожих», — заключила исследовательница.

Джой Буоламвини / TED / YouTube

Все больше доказательств подтверждают необходимость использовать разнообразные наборы данных, чтобы алгоритмы точно распознавали лица независимо от расы или других параметров.

Еще в 2015 году сервис Google Фото оказался в центре скандала, когда алгоритм ошибочно идентифицировал двух афроамериканцев как «горилл», а в 2016 году издание The Atlantic сообщило, что технология распознавания лиц, используемая полицией, может ошибочно определять невиновных афроамериканцев как подозреваемых. Другие исследования показали, что алгоритмы, разработанные в Азии, с большей вероятностью идентифицируют азиатские лица, а в Европе и США — европейские.

Алгоритмы «предвзяты» непреднамеренно, но от этих «предубеждений» необходимо избавиться.

«Поскольку технология компьютерного зрения используется в секторах с высокими ставками, таких как здравоохранение и правоохранительная деятельность, необходимо провести большую работу по бенчмаркингу алгоритмов для различных демографических и фенотипических групп», — пишет Буоламвини в статье, опубликованной в журнале Proceedings of Machine Learning Research.

Читайте также: Китайская полиция носит солнцезащитные очки, распознающие лица

В Украине запустили отопительный сезон во всех регионах, – Шмигаль
5 ноября 2024
Смена власти в США. Какие карты готовят США для Украины?
5 ноября 2024
Украина получит 14 катеров для быстрого реагирования на угрозы Черного моря от Австралии
5 ноября 2024
Патриотическое воспитание как составляющая национальной безопасности Украины
5 ноября 2024
Оппозиция в Грузии объявила ежедневные протесты против результатов парламентских выборов
5 ноября 2024
США на перепутье. Что произойдет с мировым американским лидерством после выборов?
5 ноября 2024
В Грузии отменили результаты парламентских выборов на нескольких десятках участков
5 ноября 2024
Украина получит пакет гуманитарной помощи от Германии на сумму €200
5 ноября 2024