Заваравање неуронских мрежа у физичком свету
У њиховом раду, тим истраживача са МИТ-а описује алгоритам који мења текстуру објекта таман толико да може преварити алгоритме за класификацију слика. Показало се да је доказ онога што тим назива „примерима супротстављања“ збуњујући системима за препознавање слика, без обзира на угао из којег се објекти посматрају — као што је 3Д штампана корњача која се доследно идентификује као пушку. То је лоша вест за безбедносне системе који користе А.И. за уочавање потенцијалних безбедносних претњи.
1 оф 5
„Заправо не само да избегавају исправну категоризацију – они су класификовани као изабрани супарничари разреда, тако да смо могли да их претворимо у било шта друго да смо хтели“, рекао је за Дигитал истраживач Анисх Атхали Трендс. „Класе пушака и еспреса изабране су једнако насумично. Конкурентни примери су направљени коришћењем алгоритма под називом Екпецтатион Овер Трансформатион (ЕОТ), који је представљен у нашем истраживачком раду. Алгоритам узима било који текстурирани 3Д модел, као што је корњача, и проналази начин да суптилно промени текстура таква да збуњује дату неуронску мрежу и мисли да је корњача било која одабрана мета класа."
Повезан
- МИТ-ов мали робот за ходање би на крају могао да направи друге, веће роботе
- Научници успевају да 3Д штампају право срце користећи људске ћелије
Иако би могло бити смешно да се 3Д штампана корњача препозна као пушка, истраживачи истичу да су импликације прилично застрашујуће. Замислите, на пример, безбедносни систем који користи вештачку интелигенцију за означавање оружја или бомби, али може бити преварен да помисли да су уместо тога парадајз, или шољице кафе, или чак потпуно невидљиви. Такође наглашава слабост у врсти система за препознавање слика на које ће се самовозећи аутомобили ослањати, при великој брзини, да разазнају свет око себе.
Препоручени видео снимци
„Наш рад показује да су супротстављени примери већи проблем него што су многи људи раније мислили, и показује да су супротстављени примери за неуронске мреже су права брига у физичком свету“, наставила је Атхали. „Овај проблем није само интелектуална радозналост: то је проблем који треба решити како би практични системи који користе дубоко учење били сигурни од напада.”
Препоруке уредника
- Форд може да користи ваш глас да учини точкове вашег аутомобила отпорним на крађу
- Пробој у биоштампању могао би да омогући 3Д штампање органа за замену
- Коначно постоји начин да се уђе у траг 3Д штампаном пиштољу којима се не може ући у траг
Надоградите свој животни стилДигитални трендови помажу читаоцима да прате убрзани свет технологије са свим најновијим вестима, забавним рецензијама производа, проницљивим уводницима и јединственим кратким прегледима.
