Разработки

По следам Гая Фокса: инженеры создали способ защитить снимки от систем распознавания лиц - фото

10 августа 2020 | 17:16

Команда компьютерных инженеров из Чикагского университета разработала инструмент, который изменяет фотографии на уровне пикселей таким образом, что системы распознавания лиц просто не могут определить, кто на них запечатлен. 

Об этом сообщает пресс-служба университета.

Сервис подменяет некоторые черты лица альтернативными. Невооруженным глазом это незаметно, но система распознавания после такой маскировки больше не может связать человека на фото с другими его фотографиями. Например, фотографии актрисы Гвинет Пелтроу обработали с использованием фото Патрика Демпси. Теперь системы будут пытаться идентифицировать Пэлтроу как Демпси.

Инструмент назвали Fawkes в честь маски Гая Фокса, которая известна как Маска Анонимуса, Маска Вендетта или просто Маска V и является одним из ключевых символов протеста и борьбы против коррупции. Она появилась в английском комиксе «V — значит вендетта».

Версию для разработчиков скачали уже более 50 тысяч раз, а в ближайшее время создатели сервиса также обещают версию для пользователей без навыков программирования.

Тестирование системы показало, что пропущенные через Fawkes фотографии действительно оказался не по зубам системам распознавания лиц Amazon, Microsoft и китайской компании Megvii.

Слева оригинал, справа - обработанное фото (sandlab.cs.uchicago.edu)

Журналистка NYT Кашмир Хилл пропустила несколько своих фото через инструмент, после чего загрузила их в Facebook, чтобы проверить, узнает ли ее система распознавания лиц соцсети. Facebook, который ранее безошибочно распознавал лицо Кашмир, на этот раз не смог ее идентифицировать.

Слева оригинальные фото, справа — обработанные (NYT)

Хилл отметила, что кое где изменения на фото все же были заметны. Например, у ее 3-летней дочери на лице появилась щетина, а глаза мужа стали карими. По словам журналистки, ее собственное лицо стало выглядеть хуже.

Отмечается, что сервис выбирает максимально непохожего на вас человека и заменяет его чертами ваши. Таким максимально непохожим человеком, как правило, становится кто-то противоположного пола. Так у женщин может появится щетина, а у мужчин — накрашенные ресницы или румяна на щеках.

Разработчики обещают устранить эти недостатки в будущих версиях ПО.

Сервис создан, чтобы уничтожить системы распознавания лиц вроде Clearview AI и их базы данных. Датасет Clearview AI насчитывает более миллиарда онлайн-фото. Эту базу может использовать полиция, чтобы по одному фото найти профиль человека в Facebook и таким образом идентифицировать его.

Как сообщал Realist, команда программистов из института компьютерных технологий Китайской академии наук создала систему DeepFaceDrawing, которая может создавать высококачественные портреты даже из "грубых" набросков.