Новое исследование Медиа-лаборатории Массачусетского технологического института (MIT Media Lab), США, подтверждает проблему, о которой ранее подозревали другие эксперты: технология распознавания лиц подвержена искажениям из-за предоставленных данных и условий, в которых создаются алгоритмы. Об этом сообщает The Verge.
Джой Буоламвини из MIT Media Lab создала набор данных из 1270 лиц политиков, отобранных на основе рейтинга их стран по гендерному паритету (другими словами, имеющих значительное число женщин в органах власти). Затем Буоламвини проверила точность трех систем распознавания лиц: Microsoft, IBM и Megvii из Китая. Результаты показали неточности в идентификации пола, зависящие от цвета кожи человека.
Пол был неверно определен менее чем у 1% мужчин со светлой кожей, у 7% светлокожих женщин, у 12% темнокожих мужчин и 35% темнокожих женщин.
«В целом, мужчины были классифицированы точнее женщин, а светлокожие люди — точнее темнокожих», — заключила исследовательница.
Все больше доказательств подтверждают необходимость использовать разнообразные наборы данных, чтобы алгоритмы точно распознавали лица независимо от расы или других параметров.
Еще в 2015 году сервис Google Фото оказался в центре скандала, когда алгоритм ошибочно идентифицировал двух афроамериканцев как «горилл», а в 2016 году издание The Atlantic сообщило, что технология распознавания лиц, используемая полицией, может ошибочно определять невиновных афроамериканцев как подозреваемых. Другие исследования показали, что алгоритмы, разработанные в Азии, с большей вероятностью идентифицируют азиатские лица, а в Европе и США — европейские.
Алгоритмы «предвзяты» непреднамеренно, но от этих «предубеждений» необходимо избавиться.
«Поскольку технология компьютерного зрения используется в секторах с высокими ставками, таких как здравоохранение и правоохранительная деятельность, необходимо провести большую работу по бенчмаркингу алгоритмов для различных демографических и фенотипических групп», — пишет Буоламвини в статье, опубликованной в журнале Proceedings of Machine Learning Research.
Читайте также: Китайская полиция носит солнцезащитные очки, распознающие лица
