"Суть там в том, что ИИ для распознавания лиц перестаёт распознавать что-либо, если ему показывать фотографии, на которых один-единственный пиксель в некоторых критических местах заменен на белый"
Очень интересно? А известны ли эти места заранее? Если да, то можно ведь, наверное, проследить, чтобы никакие входящие данные не имели белого пикселя в этих местах?
Если бы были известны, то проблемы бы не было :) Очень теоретически, их можно попытаться обнаружить, проанализировав весь объем исходных данных, на которых обучалась сеть - но именно что очень теоретически.
А каков же механизм этого сбоя - почему белые пиксели так опасны? И правильно ли я поняла, что опасны не все, а только некоторые, хотя и непредсказуемо какие?
Comments 16
Очень интересно? А известны ли эти места заранее? Если да, то можно ведь, наверное, проследить, чтобы никакие входящие данные не имели белого пикселя в этих местах?
Reply
Очень теоретически, их можно попытаться обнаружить, проанализировав весь объем исходных данных, на которых обучалась сеть - но именно что очень теоретически.
Reply
Reply
Reply
Leave a comment