.jpg "Компания Netxpert")
Технология распознавания лиц, безусловно является полезной и нужной разработкой, но при всех своих плюсах она может нести и вред, нарушая свободу человека и позволяя следить за ним.
Специально для борьбы с этим и был создан алгоритм, который нарушает исправную работу распознавания, не позволяя ей вторгаться в частную жизнь.
Эта система построена на основе глубокого машинного обучения, а значит способна самосовершенствоваться в будущем. Алгоритм же использует динамические способы разрушения алгоритмов распознавания.
Для создания системы противодействия ученые использовали два ИИ, которые боролись друг с другом. Один алгоритм работал над идентификацией лиц, а другой пытался помешать.
Результатом такой «битвы» стало создание фильтра который пока работает только с фотографиями, данный фильтр заменяет определенные пиксели на изображениях таким образом, что человеческий глаз не может увидеть разницы, а вот система распознавания лиц выдает ошибку.
Как заявил автор работы профессор Пархам Аараби:
«Сейчас алгоритмы нейронных сетей постоянно совершенствуются и по одному изображению могут узнать очень многое о человеке. И из-за этого конфиденциальность — реальная проблема».
Професор Аараби протестировал свое изобретении на фотографиях 600 людей различной этнической и гендерной принадлежности. В итоге система способна снижать долю распознанных лиц со 100% до 0,5%. Но это еще не все.
В ходе исследование был обнаружен довольно приятный бонус: система не просто мешает алгоритму распознавать лица, но и не дает считывать цвет кожи, этническую принадлежность, пол, мимику и так далее, делая фото «просто картинкой».
