Acea țestoasă este un pistol! Oamenii de știință evidențiază un defect major în recunoașterea imaginilor

În lucrarea lor, echipa de cercetători ai MIT descrie un algoritm care schimbă textura unui obiect doar suficient încât să poată păcăli algoritmii de clasificare a imaginilor. Dovada a ceea ce echipa numește „exemple adverse” se dovedește a fi uluitoare pentru sistemele de recunoaștere a imaginilor, indiferent de unghiul din care sunt privite obiectele - cum ar fi broasca țestoasă imprimată 3D, care este identificată în mod constant ca o pușcă. Aceasta este o veste proastă pentru sistemele de securitate care folosesc I.A. pentru identificarea potențialelor amenințări de securitate.

„De fapt, nu este doar faptul că ei evită clasificarea corectă, ci sunt clasificați ca un adversar ales. clasa, așa că le-am fi putut transforma în orice altceva dacă am fi vrut”, a declarat cercetătorul Anish Athalye pentru Digital Digital Tendințe. „Clasele de pușcă și espresso au fost alese uniform la întâmplare. Exemplele adverse au fost produse folosind un algoritm numit Expectation Over Transformation (EOT), care este prezentat în lucrarea noastră de cercetare. Algoritmul preia orice model 3D texturat, cum ar fi o broasca testoasa, si gaseste o modalitate de a schimba subtil textură astfel încât să confunde o anumită rețea neuronală făcându-l să creadă că țestoasa este orice țintă aleasă clasă."

Deși ar putea fi amuzant ca o țestoasă imprimată 3D să fie recunoscută ca pușcă, totuși, cercetătorii subliniază că implicațiile sunt destul de terifiante. Imaginați-vă, de exemplu, un sistem de securitate care folosește inteligența artificială pentru a semnaliza arme sau bombe, dar poate fi păcălit să creadă că sunt în schimb roșii, cești de cafea sau chiar complet invizibile. De asemenea, subliniază fragilitatea tipului de sisteme de recunoaștere a imaginii pe care se vor baza mașinile cu conducere autonomă, la viteză mare, pentru a discerne lumea din jurul lor.

„Munca noastră demonstrează că exemplele adverse sunt o problemă mai mare decât credeau mulți oameni anterior și arată că exemplele adverse pentru rețele neuronale sunt o preocupare reală în lumea fizică”, a continuat Athalye. „Această problemă nu este doar o curiozitate intelectuală: este o problemă care trebuie rezolvată pentru ca sistemele practice care utilizează învățarea profundă să fie ferite de atac.”

Recomandările editorilor

• Ford îți poate folosi vocea pentru a face roțile mașinii tale rezistente la furt
• Revoluția în bioprinting ar putea permite imprimarea 3D a organelor de înlocuire
• Există în sfârșit o modalitate de a urmări pistoalele imprimate 3D „nedepistabile”.

Îmbunătățește-ți stilul de viațăDigital Trends îi ajută pe cititori să țină cont de lumea rapidă a tehnologiei cu toate cele mai recente știri, recenzii distractive despre produse, editoriale perspicace și anticipări unice.