Więcej niż czapka niewidka

Na Uniwersytecie Maryland uszyli sweter, który uczyni cię niewidzialnym.

„Ten stylowy pulower to świetny sposób na utrzymanie ciepła tej zimy czy to w biurze, czy w podróży. Posiada podszewkę z mikropolaru, nowoczesny krój” – zachwalają swój najnowszy produkt naukowcy z College Park na Uniwersytecie Maryland.

No cóż, naukowcy nie muszą mieć dobrego gustu. Wdzianko, które stworzyli, odpowiada bowiem bardziej stylistyce z połowy lat 80. niż współczesnym upodobaniom i chyba mało kto dobrowolnie pokazałby się w nim publicznie. Chyba że oferowałoby w zamian coś ekstra.

A oferuje. Na swetrze znajdują się wzory przeciwstawne, które pozwalają ogłupić większość typowych detektorów obiektów opartych na uczeniu maszynowym.

Kluczem do sukcesu było nowe podejście. Większość badaczy próbujących opracować rozwiązania zdolne oszukiwać detektory obrazu skupiała się dotychczas na klasyfikatorach, które w obrębie programu identyfikującego przypisywały etykietę do całego obrazu – a nie na takich, które lokalizowałyby mniejsze obiekty w obrębie tego obrazu.

Tandetny deseń na swetrze nie jest więc owocem bezguścia czy złośliwości stylisty. To wygenerowany przez AI uniwersalny wzór przeciwstawny, który można stosować do wykrytych obiektów w obrębie danego obrazu, by uniemożliwić inteligentnemu modelowi detekcji ich rozpoznanie. Mówiąc prościej, pokrycie nim dowolnego obiektu czyni ten obiekt niewidzialnym dla detektorów obrazu.

Jest tylko jeden problem. Za sprawą swej brzydoty sweter niewidzialny dla sztucznej inteligencji jest bardzo widzialny dla ludzi. A cóż ci z bycia anonimowym dla maszyn, gdy wszyscy wokół się na ciebie gapią?

Swoje odkrycie naukowcy z Uniwersytetu Meryland opisali w pracy „Tworzenie płaszcza niewidzialności: Przeciwstawne ataki na detektory obiektów w świecie rzeczywistym”. Link do wspomnianej pracy TU.

Zdjęcie zajawka: materiały prasowe University of Maryland