Можно ли обойти систему распознавания лиц?

Биометрия дала сбой

Разработчики компании Adversa AI, которая базируется в Израиле, опубликовали новый метод обхода биометрии распознавания лиц. Компания занимается разработкой и совершенствованием технологий искусственного интеллекта (ИИ).

Метод, который позволяет обойти систему распознавания лиц не так прост – на фотографию добавляется некий шум в виде микроскопических данных. Обычный человек не сможет разглядеть их, однако, при использовании такого метода, система дает сбой и принимает фотографию с шумом за нужную личность.

Можно ли обойти систему распознавания лиц?

Для примера разработчики специально подготовили демонстрацию того, как работает технология. Им удалось обмануть систему PimEyes и выдать фотографию своего руководителя за Илона Маска.

“Как тебе такое, Илон Маск?”

Технологию назвали «Состязательный осьминог» (Adversarial Octopus). Она относится к разновидности состязательных атак (adversarial attacks), однако, довольно сильно от них отличается.

Два основных отличия «Осьминога»:

  1. Вам не удастся превратить изображенного на фотографии человека в кого-то другого – вместо этого, «Осьминог» замаскирует фото при помощи шумов с данными, которые позволят обойти систему.
  2. Данный метод не зависит от того, как была обучена система. Он является полностью самостоятельным и вносит необходимые изменения в само изображение.

Прежде чем преподнести подробное объяснение о том, как работает технология, разработчики должны передать всю информацию о защите разработчикам систем распознавания лиц.

Итоги

Единственное, что можно сказать по этому поводу – хорошо, что технологию придумали не злоумышленники, а все необходимые данные будут переданы разработчикам биометрических систем. Там, где есть атака, должна быть должная защита.

Мы уже писали много интересных статей тему ИИ:

Актуальная и свежая информация на нашем информационно-аналитическом ресурсе о страховании Calmins.com!

Calmins.com ©

Источники: securitylab.ru

 

 

Подписаться
Уведомить о
guest

0 комментариев
Межтекстовые Отзывы
Посмотреть все комментарии
Это тоже очень интересная статья
Shift Technology привлекает 220 миллионов долларов США
Читать
Иншуртех Shift Technology привлекает 220 млн USD
Стартапы занялись искусственным интеллектом и борьбой с мошенничеством В то время как консервативным страховым компаниям продолжают мешать иншуртех…