Заблуждаване на невронни мрежи във физическия свят
В техния вестник, екипът от изследователи на MIT описват алгоритъм, който променя текстурата на обект точно толкова, че да може да заблуди алгоритмите за класификация на изображения. Доказателството за това, което екипът нарича „съпернически примери“, се оказва объркващо за системите за разпознаване на изображения, независимо от ъгъла, от който се гледат обектите - като 3D отпечатаната костенурка, която постоянно се идентифицира като пушка. Това е лоша новина за системите за сигурност, които използват A.I. за откриване на потенциални заплахи за сигурността.
1 на 5
„Всъщност не само че избягват правилната категоризация – те са класифицирани като избран противник клас, така че можехме да ги превърнем във всичко друго, ако искахме“, каза изследователят Аниш Аталие пред Digital Тенденции. „Класовете пушка и еспресо бяха избрани еднакво на случаен принцип. Състезателните примери бяха създадени с помощта на алгоритъм, наречен Expectation Over Transformation (EOT), който е представен в нашата изследователска статия. Алгоритъмът приема всеки текстуриран 3D модел, като например костенурка, и намира начин да промени фино текстура, така че да обърква дадена невронна мрежа да мисли, че костенурката е всяка избрана цел клас.”
Свързани
- Малкият ходещ робот на Масачузетския технологичен институт може в крайна сметка да построи други, по-големи роботи
- Учените успяват да отпечатат 3D истинско сърце, използвайки човешки клетки
Въпреки че може да е смешно 3D-отпечатана костенурка да бъде разпозната като пушка, обаче, изследователите посочват, че последиците са доста ужасяващи. Представете си, например, система за сигурност, която използва AI, за да маркира оръжия или бомби, но може да бъде измамена да мисли, че вместо това са домати, или чаши кафе, или дори напълно невидими. Той също така подчертава слабостта на вида системи за разпознаване на изображения, на които самоуправляващите се автомобили ще разчитат при висока скорост, за да разпознаят света около тях.
Препоръчани видеоклипове
„Нашата работа показва, че състезателните примери са по-голям проблем, отколкото много хора са смятали досега, и показва, че състезателните примери за невронни мрежи са истинско безпокойство във физическия свят“, продължи Аталие. „Този проблем не е просто интелектуално любопитство: това е проблем, който трябва да бъде решен, за да могат практическите системи, които използват дълбоко обучение, да бъдат защитени от атака.“
Препоръки на редакторите
- Ford може да използва вашия глас, за да направи колелата на вашия автомобил устойчиви на кражба
- Пробивът в биопринтирането може да даде възможност за 3D отпечатване на заместващи органи
- Най-накрая има начин да се проследят „непроследими“ 3D отпечатани оръжия
Надградете начина си на животDigital Trends помага на читателите да следят забързания свят на технологиите с всички най-нови новини, забавни ревюта на продукти, проницателни редакционни статии и единствени по рода си кратки погледи.
