Ученые использовали искусственный интеллект (ИИ) для разработки фотографий, которые обманывают как людей, так и алгоритмы компьютерного зрения.
О картинке с подвохом и ее важности пишет MIT Technology Review.
Слева на фотографии изображена кошка, а справа — нечто, напоминающее немецкую овчарку. Изображение было немного изменено алгоритмом, чтобы помешать сверточной нейронной сети (CNN) определить, что это на самом деле. В этом случае CNN полагает, что это смотрит на собаку, а не на кошку, и большинство людей думают так же.
Это пример работы генеративно-состязательной сети — алгоритма машинного обучения, состоящего из двух нейронных сетей. Одна из них генерирует образцы, а вторая пытается отличить настоящие изображения от подделок.
Программу научили обманывать человека, чтобы улучшить существующие системы компьютерного зрения: если мы найдем определенный класс измененных изображений, которые не смогут обмануть биологическую нейросеть внутри наших голов, это улучшит и машинное обучение, в котором должен существовать аналогичный механизм.
Подобные эксперименты сегодня крайне важны. Появление наклеек, которые могут запутать системы компьютерного зрения, стало для разработчиков ИИ большой проблемой. Так, если автономные транспортные средства не смогут убедиться, что их система распознает каждый дорожный знак, они не смогут быть по-настоящему безопасными.