Систему распознавания лиц можно обмануть, заставив принять одного человека за другого

Используя нейросети, специалисты компании McAfee смогли загрузить в систему распознавания лицо человека так, что она приняла его за лицо другого человека.

Технологии с использованием биометрических систем распознавания лиц все чаще применяются верификации пользователя. Они нередко заменяют собой пароли, и другие способы аутентификации. Ярким примером этого является iPhone. Начиная с iPhone X в 2017 году, распознавание лиц стало новым стандартом для аутентификации пользователя на его мобильном устройстве. В то время как Apple использует расширенные функции, такие как глубина отображения целевого лица, многие другие мобильные устройства реализовали более простые методы, основанные на особенностях самого лица: расположение глаз, ширину носа и другие особенности, которые в совокупности могут точно идентифицировать одного пользователя.

Еще один новый вариант использования систем распознавания лиц - правоохранительные органы. В 2019 году столичная полиция в Лондоне объявила о развертывании сети камер, предназначенных для помощи полиции в идентификации преступников или пропавших без вести. Хотя эта инициатива вызывает большие споры, Великобритания не единственная, кто ее внедряет. Другие крупные страны и города опробовали или внедрили варианты распознавания лиц с согласия населения или без него. В Китае многие системы поездов и автобусов используют распознавание лиц для идентификации и аутентификации пассажиров при посадке или высадке из самолета. Торговые центры и школы по всей стране все чаще используют аналогичные технологии.

Правозащитники и борцы за справедливость в некоторых странах всячески пытаются ограничить использование таких систем властями, которые внедряют подобные технологии, никому об этом даже не сообщив.

Многие аэропорты развернули системы распознавания лиц, чтобы помочь или заменить взаимодействие с людьми при проверке паспортов. Концепция паспортного контроля через распознавание лиц довольно проста. Камера снимает видео в реальном времени или делает фотографии вашего лица, а служба проверки, при надобности, сравнивает их с уже существующей вашей фотографией, собранной ранее. Это может быть паспорт или ряд других источников, таких как база данных Если он совпадает, удостоверяется владелец паспорта.

В исследовании Стива Повольны, главы департамента высокотехнологичных угроз, и Джесса Чика, работавшего раньше в McAfee, говорится о том, что автоматизированные системы распознавания потенциально уязвимы перед злоумышленниками. Авторы проэксперементировали со своими собственными лицами и смогли сделать так, что система распознавания лиц приняла лицо одного из них за лицо другого.

Специалисты создали нейросеть на основе генеративно-состязательных систем СycleGAN и StyleGAN, используемых для переноса стиля изображения в фотографии или компьютерной графике. Система CycleGAN анализирует исходное изображение и может менять фоны, текстуру и другие черты исходного изображения, превращая его в другое, причем весьма правдоподобное.

Так, например, эта система позволяет переносить героя одной компьютерной игры в виртуальный ландшафт другой игры или превращать фотографию лошади в фотографию зебры так правдоподобно, что, если не видеть исходника, можно подумать, что это фотография настоящей зебры.

В свою очередь, нейросеть StyleGAN может генерировать весьма правдоподобные изображения лиц несуществующих людей на основе нескольких фотографий реальных людей.

Примеры изображения таких несуществующих людей, произвольно генерируемых нейросетью, можно наблюдать, например, на thispersondoesnotexist.com.

Задача их команды заключалась в том, чтобы проверить, смогут ли они создать изображения в формате паспорта, которые убедят систему распознавания лиц в том, что человек А, находящийся в воображаемом запретном для полетов списке, на самом деле был человеком Б, сообщником, который абсолютно чист.

Предполагается, что у человека A нет цифрового изображения в соответствующей правительственной системе, а у человека B есть.
Человек Б использует структуру CycleGAN, чтобы преобразовать изображение Человека А в изображение Человека Б. Получившееся изображение выглядит похожим и на одного и на другого, но в то же время  отличается. Система отмечает присутствие лица B, сообщника, у которого нет ограничений на передвижение.

Для этого они сфотографировали свои лица с разными выражениями, под разными углами и при разном освещении около 1500 раз, загрузили эти изображения в open-source нейросеть FaceNet.

Затем исследовательская группа интегрировала архитектуру CycleGAN + FaceNet и начала обучать модель.

После нескольких этапов обучения удалось получить качественное изображения Человека Б, подходящее для фото на паспорт.

Таким образом злоумышленники могут обмануть систему распознавания лиц,  загрузив в чип своего паспорта лицо другого человека. Естественно, такой трюк не позволит обмануть живого сотрудника службы безопасности, но это и не было целью проекта. Задача авторов была продемонстрировать, что чрезмерная зависимость только от автоматических систем может нанести существенный вред.

Понравилась публикация? Тогда делись с друзьями. А также не забудь подписаться на наш канал в Telegram и аккаунт в Twitter, чтобы всегда быть в курсе актуальных новостей и интересных статей!