Биометрия дала сбой
Разработчики компании Adversa AI, которая базируется в Израиле, опубликовали новый метод обхода биометрии распознавания лиц. Компания занимается разработкой и совершенствованием технологий искусственного интеллекта (ИИ).
Метод, который позволяет обойти систему распознавания лиц не так прост – на фотографию добавляется некий шум в виде микроскопических данных. Обычный человек не сможет разглядеть их, однако, при использовании такого метода, система дает сбой и принимает фотографию с шумом за нужную личность.
Для примера разработчики специально подготовили демонстрацию того, как работает технология. Им удалось обмануть систему PimEyes и выдать фотографию своего руководителя за Илона Маска.
“Как тебе такое, Илон Маск?”
Технологию назвали «Состязательный осьминог» (Adversarial Octopus). Она относится к разновидности состязательных атак (adversarial attacks), однако, довольно сильно от них отличается.
Два основных отличия «Осьминога»:
- Вам не удастся превратить изображенного на фотографии человека в кого-то другого – вместо этого, «Осьминог» замаскирует фото при помощи шумов с данными, которые позволят обойти систему.
- Данный метод не зависит от того, как была обучена система. Он является полностью самостоятельным и вносит необходимые изменения в само изображение.
Прежде чем преподнести подробное объяснение о том, как работает технология, разработчики должны передать всю информацию о защите разработчикам систем распознавания лиц.
Итоги
Единственное, что можно сказать по этому поводу – хорошо, что технологию придумали не злоумышленники, а все необходимые данные будут переданы разработчикам биометрических систем. Там, где есть атака, должна быть должная защита.
Мы уже писали много интересных статей тему ИИ:
- Искусственный интеллект: что такое хорошо и плохо;
- Искусственный интеллект: как это работает;
- Россия отказывается от искусственного интеллекта.
Актуальная и свежая информация на нашем информационно-аналитическом ресурсе о страховании Calmins.com!
Calmins.com ©
Источники: securitylab.ru
