технологии распознавания лиц
Левенским университетом в Бельгии было обнаружено, что небольшой красочный патч, который может быть напечатан на любом принтере, способен победить такие системы
Click to viewОбманывая автоматизированные камеры наблюдения: враждебные патчи для обнаружения атак
В последние годы возрос интерес к моделям машинного обучения. Внося лишь незначительные изменения во входную информацию сверточной нейронной сети, выходные данные сети можно повлиять на вывод совершенно другого результата. Первые атаки сделали это, слегка изменив значения пикселей входного изображения, чтобы обмануть классификатор и вывести неправильный класс. Другие подходы пытались изучить «заплатки», которые могут быть применены к объекту для детекторов и классификаторов. Некоторые из этих подходов также показали, что эти атаки осуществимы в реальном мире, то есть путем изменения объекта и съемки его с помощью видеокамеры. Однако все эти подходы нацелены на классы, которые почти не содержат внутриклассное разнообразие (например, знаки остановки).
В этой статье мы представляем подход для генерации враждебных патчей для целей с большим разнообразием внутрикласса, а именно с людьми. Цель состоит в том, чтобы создать патч, способный успешно скрыть человека от детектора. Атака, которая, например, может быть использована злонамеренно для обхода систем наблюдения, злоумышленники могут незаметно красться, держа перед собой небольшую картонную табличку, направленную к камере наблюдения.
Из наших результатов мы видим, что наша система способна значительно снизить точность определения человека. Наш подход также хорошо работает в реальных сценариях, когда патч снимается камерой. Насколько нам известно, мы первыми предпринимаем попытку такого рода атаки на цели с высоким уровнем внутриклассового разнообразия, таких как люди.
В Яркие и темные Грани компьютерного зрения:
вызовы и возможности для обеспеченияконфиденциальности и безопасности
(CV-COPS 2019)
Лонг-Бич, Калифорния - воскресенье, 16 июня 2019 г.
В связи с конференцией IEEE 2019 года по компьютерному зрению и распознаванию образов
Компьютерное зрение наконец работает в реальном мире, но каковы последствия для конфиденциальности и безопасности? Например, недавняя работа показывает, что алгоритмы видения могут шпионить за нажатиями клавиш смартфона с метров, красть информацию из дома с помощью взломанных камер, использовать социальные сети для деанонимизации размытых лиц и восстанавливать изображения из таких функций, как SIFT . Vision может также улучшить конфиденциальность и безопасность, например, черезвспомогательные устройства для людей с ограниченными возможностями, методы обнаружения фишинга, включающие в себя визуальные функции, и инструменты судебной экспертизы изображений . Некоторые технологии представляют как проблемы, так и возможности: биометрические методы могут повысить безопасность, но могут быть подделаны, тогда как системы наблюдения повышают безопасность, но создают потенциал для злоупотреблений.
Нам необходимо понимать потенциальные угрозы и возможности видения, чтобы избежать создания вредных социальных последствий и / или столкновения с негативной общественной реакцией. После успешных прошлогодних семинаров на CVPR 2017 и CVPR 2018 , этот семинар продолжит изучение взаимосвязи между компьютерным зрением, безопасностью и конфиденциальностью для решения этих проблем.