Искусственный интеллект

Ученые создали алгоритм, который мыслит как психопат

08 июня 2018 | 14:13

Ученые из Массачусетского технологического института (MIT) разработали алгоритм искусственного интеллекта (ИИ), который воспринимает мир в самых мрачных красках. Всему виной сцены жестокости и насилия, на которых его обучали.

Алгоритм назвали «Норманом» в честь персонажа фильма Альфреда Хичкока «Психо» (1960). Целью проекта было не создание робота-убийцы, а демонстрация того, как необъективные данные, используемые в алгоритмах машинного обучения, могут сделать программу предвзятой.

Норман Бейтс из фильма Альфреда Хичкока “Психо” (1960)
Норман Бейтс из фильма Альфреда Хичкока “Психо” (1960)

В 2015 году алгоритм Google Фото ошибочно идентифицировал двух афроамериканцев как «горилл», спровоцировав крупный скандал. Проблема сразу же стала всесторонне обсуждаться специалистами. Так, в феврале 2018 года сотрудница MIT Media Lab Джой Буоламвини проверила точность трех систем распознавания лиц (Microsoft, IBM и Megvii из Китая) и обнаружила, что технология подвержена сильным искажениям из-за предоставленных данных и условий обучения.

В новом исследовании Пинар Янардаг, Мануэль Себриан и Ияд Рахван еще раз подтвердили эту проблему. Они обучили ИИ распознавать образы на фото и создавать для них соответствующие описания в письменной форме. В качестве базы данных для тренировки алгоритма использовались жестокие изображения из неназванного подраздела сайта Reddit. Очевидно, что такой набор исходных данных существенно повлиял на «поведение» программы: она повсюду видела смерть.

Для демонстрации способностей «Нормана» ученые использовали чернильные пятна Роршаха. Стандартный И И, обученный на обычных изображениях, использовали в качестве контроля. Анализируя пятно, он видел «вазу с цветами крупным планом», тогда как «Норман» описывал «человека, которого застрелили».

Вот некоторые из самых шокирующих ответов «алгоритма-психопата».

Норман: "Человек, которого сбила машина" / Стандартный ИИ: "Свадебный торт"
Норман: "Человек, которого сбила машина" / Стандартный ИИ: "Свадебный торт"
Норман: "Мужчина, застреленный перед кричащей женой" / Стандартный ИИ: "Человек, держащий зонтик"
Норман: "Мужчина, застреленный перед кричащей женой" / Стандартный ИИ: "Человек, держащий зонтик"
Норман: "Застреленный мужчина" / Стандартный ИИ: "Ваза с цветами"
Норман: "Застреленный мужчина" / Стандартный ИИ: "Ваза с цветами"
Норман: "Мужчина, которого затянуло в мясорубку" / Стандартный ИИ: "Черно-белое фото маленькой птицы"
Норман: "Мужчина, которого затянуло в мясорубку" / Стандартный ИИ: "Черно-белое фото маленькой птицы"

«Отбор информации, применяемой для тренировки искусственного интеллекта, влияет на то, как он воспринимает окружающий мир и к каким выводам приходит», — объяснил профессор Рахван.

Источник: Newsweek

Читайте также: Искусственный интеллект научили узнавать людей по походке