Это будет верно, когда появятся более продвинутые нейронки. А пока какая-нибудь adversarial attack меняет в картинке кошки один пиксель, и нейронка распознает картинку как собаку с 99% уверенностью. Или калейдоскоп черно-белых пикселей с той же 99% уверенностью распознается, как символ.
кондуктор стрелочнику не помеха. я делаю глобальные безответственные заявления.
а то что одна перекачанная CNN подвержена, это, мне кажется, локальная проблема. (я в курсе, что это на самом деле принципиальная слабость, но она была показана на довольно старых моделях, с тех пор адверсарность стали использовать для повышения устойчивости). ну и наш видео-мозг тоже можно обмануть
Comments 2
Это будет верно, когда появятся более продвинутые нейронки. А пока какая-нибудь adversarial attack меняет в картинке кошки один пиксель, и нейронка распознает картинку как собаку с 99% уверенностью. Или калейдоскоп черно-белых пикселей с той же 99% уверенностью распознается, как символ.
Reply
а то что одна перекачанная CNN подвержена, это, мне кажется, локальная проблема. (я в курсе, что это на самом деле принципиальная слабость, но она была показана на довольно старых моделях, с тех пор адверсарность стали использовать для повышения устойчивости). ну и наш видео-мозг тоже можно обмануть
Reply
Leave a comment