Ученые из Массачусетского технологического института (MIT) разработали алгоритм искусственного интеллекта (ИИ), который воспринимает мир в самых мрачных красках. Всему виной сцены жестокости и насилия, на которых его обучали.
Алгоритм назвали «Норманом» в честь персонажа фильма Альфреда Хичкока «Психо» (1960). Целью проекта было не создание робота-убийцы, а демонстрация того, как необъективные данные, используемые в алгоритмах машинного обучения, могут сделать программу предвзятой.
В 2015 году алгоритм Google Фото ошибочно идентифицировал двух афроамериканцев как «горилл», спровоцировав крупный скандал. Проблема сразу же стала всесторонне обсуждаться специалистами. Так, в феврале 2018 года сотрудница MIT Media Lab Джой Буоламвини проверила точность трех систем распознавания лиц (Microsoft, IBM и Megvii из Китая) и обнаружила, что технология подвержена сильным искажениям из-за предоставленных данных и условий обучения.
В новом исследовании Пинар Янардаг, Мануэль Себриан и Ияд Рахван еще раз подтвердили эту проблему. Они обучили ИИ распознавать образы на фото и создавать для них соответствующие описания в письменной форме. В качестве базы данных для тренировки алгоритма использовались жестокие изображения из неназванного подраздела сайта Reddit. Очевидно, что такой набор исходных данных существенно повлиял на «поведение» программы: она повсюду видела смерть.
Для демонстрации способностей «Нормана» ученые использовали чернильные пятна Роршаха.
Вот некоторые из самых шокирующих ответов «алгоритма-психопата».
«Отбор информации, применяемой для тренировки искусственного интеллекта, влияет на то, как он воспринимает окружающий мир и к каким выводам приходит», — объяснил профессор Рахван.
Источник: Newsweek
Читайте также: Искусственный интеллект научили узнавать людей по походке
