A neurális hálózatok megtévesztése a fizikai világban
A lapjukban, az MIT kutatói egy olyan algoritmust írnak le, amely csak annyira változtatja meg egy objektum textúráját, hogy megtévessze a képosztályozási algoritmusokat. A csapat által „ellenzős példáknak” nevezett bizonyítékok megdöbbentőnek bizonyulnak a képfelismerő rendszerek előtt, függetlenül attól, hogy milyen szögből nézik az objektumokat – például a 3D nyomtatott teknős, amelyet következetesen egy puskát. Ez rossz hír az A.I.-t használó biztonsági rendszerek számára. a potenciális biztonsági fenyegetések észlelésére.
1 nak,-nek 5
„Valójában nem csak arról van szó, hogy elkerülik a helyes kategorizálást, hanem kiválasztott ellenfélnek minősülnek. osztályba, így bármi mássá alakíthattuk volna őket, ha akartuk volna” – mondta Anish Athalye kutató a Digitalnak Trendek. „A puska és az eszpresszó osztályokat egységesen véletlenszerűen választották ki. Az ellentétes példákat az Expectation Over Transformation (EOT) nevű algoritmus segítségével állítottuk elő, amelyet kutatási cikkünkben mutatunk be. Az algoritmus bármilyen texturált 3D-s modellt, például teknőst alkalmaz, és megtalálja a módját a olyan textúra, amely megzavarja az adott neurális hálózatot, és azt gondolja, hogy a teknős bármelyik kiválasztott célpont osztály."
Összefüggő
- Az MIT apró sétálórobotja végül más, nagyobb robotokat is építhet
- A tudósoknak sikerült 3D-ben nyomtatniuk egy valódi szívet emberi sejtek segítségével
Bár vicces lehet, ha egy 3D-nyomtatott teknőst puskaként ismernek fel, a kutatók rámutatnak, hogy a következmények borzasztóan félelmetesek. Képzeljünk el például egy biztonsági rendszert, amely mesterséges intelligenciát használ fegyverek vagy bombák megjelölésére, de becsaphatjuk azt a gondolatot, hogy ezek inkább paradicsomok vagy csésze kávé, vagy akár teljesen láthatatlanok. Azt is kiemeli, hogy az önvezető autók milyen képfelismerő rendszerekre támaszkodnak nagy sebességgel, hogy felismerjék az őket körülvevő világot.
Ajánlott videók
„Munkánk bebizonyítja, hogy a kontradiktórius példák nagyobb problémát jelentenek, mint azt sokan korábban gondolták, és megmutatja, hogy a kontradiktórius példák neurális hálózatok valódi gondot okoznak a fizikai világban – folytatta Athalye. "Ez a probléma nem csak egy intellektuális érdekesség: ez egy olyan probléma, amelyet meg kell oldani ahhoz, hogy a mély tanulást használó gyakorlati rendszerek biztonságban legyenek a támadásokkal szemben."
Szerkesztői ajánlások
- A Ford az Ön hangjával lopásbiztossá teheti autója kerekeit
- A bionyomtatásban elért áttörés lehetővé teheti a helyettesítő szervek 3D-s nyomtatását
- Végre van mód a „nyomozhatatlan” 3D nyomtatott fegyverek nyomon követésére
Frissítse életmódjátA Digital Trends segítségével az olvasók nyomon követhetik a technológia rohanó világát a legfrissebb hírekkel, szórakoztató termékismertetőkkel, éleslátó szerkesztőségekkel és egyedülálló betekintésekkel.
