Vai esat noraizējies par FIB dziļo viltus brīdinājumu? Izpildiet šos ekspertu padomus

AI atveido tiešsaistes sliktu aktieri
Kredīts: Bing attēlu ģenerators

Pagājušajā nedēļā Federālais izmeklēšanas birojs (FIB) izdeva sabiedrisko paziņojumu par dziļi viltota atklāta satura pieaugumu un to, kā tas tiek izmantots tādiem noziegumiem kā izspiešana, šantāža un uzmākšanās. Vienkāršāk sakot, Deepfake ir sintētisks multivides materiāls, kas mēģina atdarināt oriģinālu. Tas var būt AI paaudzes fotoattēls, video vai audioklips.

Saturs

  • Ko eksperti saka par dziļajiem viltojumiem
  • Kā jūs varat pasargāt sevi
  • Sociālie mediji tiek veikti droši un atbildīgi
  • Ko darīt, ja esat dziļi viltots
  • Kā pamanīt dziļos viltojumus
  • Nopietna problēma ar pusefektīviem risinājumiem

Nosaukums “deepfake” cēlies no raksturīgās tehnoloģijas, kas tiek izmantota šādu mediju radīšanai — dziļa mācīšanās ietver AI modeļa apmācību, izmantojot oriģinālo materiālu, un pēc tam tā modificēšanu, lai radītu vēlamo rezultātus. Tas nav gluži jauns izgudrojums, bet ar ģeneratīvais AI kļūst arvien populārāks — un piekļuve — pieaug viltotu noziegumu skaits.

Ieteiktie videoklipi

Viņu popularitāte ir tāda, ka pat republikāņu prezidenta amata kandidāta Rona DeSantisa kampaņa izmantoja viltotus konkurenta Donalda Trampa attēlus, lai viņu apvainotu. Dziļi viltojumi ir arī viens no iemesliem, kāpēc visur tiek izvirzīti aicinājumi regulēt AI. Saskaņā ar FIB datiem dziļo viltojumu ģenerēšanas saturs parasti tiek izņemts no sociālo mediju ziņām un videozvanu klipus, pirms tie tiek pārveidoti par seksuāla rakstura materiāliem izspiešanai un iebiedēšanai.

Saistīts

  • ChatGPT veidotājs OpenAI saskaras ar FTC izmeklēšanu par patērētāju aizsardzības likumiem
  • ChatGPT vietnes trafika ir samazinājusies pirmo reizi
  • OpenAI veido jaunu komandu, lai apturētu superinteliģentā mākslīgā intelekta ļaunprātīgu izmantošanu

Ko eksperti saka par dziļajiem viltojumiem

AI renderēšana, kurā cilvēks fotografē viedtālruņa lietotāju
Kredīts: Bing attēlu ģenerators

Tātad, kāds ir risinājums? Diemžēl risinājuma nav. Vismaz ne bez kompromisa pieņemšanas — tāda, kas pašos pamatos apgriež visu “sociālo mediju” nozīmi.

"Diemžēl vienīgais veids, kā pārliecināties, ka neviens no jūsu fotoattēliem vai videoklipiem netiek izmantots dziļu viltojumu radīšanai, ir pārtraukt jebkādu attēlus, kuros esat redzams tiešsaistē, taču tas interneta lietotājiem sagādās lielu prieku,” saka Adrianuss Varmenhovens, kiberdrošības speciālists. padomnieks plkst Nord.

“Kad parādās jauna un labāka drošības prakse, ļaunprātīgi dalībnieki atradīs veidu, kā nodarīt kaitējumu. Tā ir spēle, kurā tiek panākta atgriešanās, un dažkārt tas rada vilšanos,” saka Parteks Sarans, bijušais Google darbinieks un nākamās paaudzes paroļu pārvaldības rīka radītājs. Uno. Viņš arī ierosina, ka ir jāmēģina pieņemt “nulles uzticības filozofiju”, kad runa ir par publicēšanu. saturu sociālajos medijos un uzsver efektīvu saziņu ar paziņām, lai izvairītos no dziļas viltošanas izkrāpšanu.

"Lai gan AI var palīdzēt risināt digitālās drošības problēmas, nav droša drošības tīkla," saka Yaron Litwin, digitālās drošības eksperts un KMO. Nojume. Uzņēmuma tāda paša nosaukuma lietotne ir paredzēta, lai pasargātu bērnus no tiešsaistes seksuālajiem noziegumiem, un tā piedāvā arī daudzveidīgu vecāku kontroles komplektu. Litwin piebilst, ka jums vajadzētu izvairīties no intīmu vai kompromitējošu attēlu publicēšanas, vienlaikus samazinot pat parasto attēlu publicēšanas biežumu.

Kā jūs varat pasargāt sevi

AI atveidojums ar sliktu aktieri, kurš spiego citu personu
Kredīts: Bing attēlu ģenerators

Dziļās viltojumi ir biedējoši, un ir grūti aptvert traumu, ko tās var nodarīt cilvēkam un viņa ģimenes locekļiem. Taču ir daži veidi, kā lietotāji var izvairīties no iekrišanas slazdā vai vismaz lielā mērā izvairīties no tā.

Lai saprastu, kādi soļi vidēji viedtālrunis lietotāji ar tipiskām digitālajām prasmēm, es sazinājos ar Endrjū Gārdneru, pētniecības un inovāciju nodaļas viceprezidentu. Gen Digital, programmatūras uzņēmums, kas cita starpā piedāvā uzticamus drošības rīkus, piemēram, Norton, Avast un Avira.

Gārdners saka, ka drošības protokoli sākas pamatlīmenī. Lietotājiem vispirms ir jāpadara savi profili privāti vai vismaz jāmaina ziņu redzamības iestatījumi, lai tikai personas, kurām viņi abpusēji seko, varētu redzēt viņu ziņas un ar tām mijiedarboties. Vecāku kontrole, kas tagad ir pieejami gandrīz visās lielākajās sociālo mediju platformās, ir rūpīgi jāiespējo, lai aizbildņi varētu sekot līdzi aizdomīgām mijiedarbībām.

Ir vispārējs padoms, ka vajadzētu pieņemt tikai tādu cilvēku pieprasījumus, kurus viņi pazīst, taču, veicot papildu soli, tas var iet tālu. "Ja veidojat tīklu, pārbaudiet uzaicināto personu jaunākās ziņas un aktivitātes, lai novērtētu, cik tās ir patiesas," saka Gārdners, piebilstot, ka ir jāuzmanās no "kontiem ar dažiem draugiem vai kopīgiem draugiem. Vēl viens būtisks padoms, kas jāsniedz Gen Digital vadītājam, ir sociālo mediju pārbaude un ierobežošana pieteikšanās.

AI renderējums, kurā redzama maskā tērpta persona, kas spiego citu personu
Kredīts: Bing attēlu ģenerators

Lietotāji bieži apmeklē tiešsaistes pakalpojumus un, lai izvairītos no konta izveides, viņi izvēlas pierakstīšanās iespēju sociālajos tīklos. "Tas ļauj lietotnēm piekļūt personas informācijai, un dažās situācijās šīs lietotnes pārdod šo informāciju trešajām pusēm," viņš saka. Cambridge Analytica skandāls, kas saistīts ar Facebook ir lielisks piemērs. Periodiski jāpārbauda, ​​kuras lietotnes ir savienotas ar viņu sociālo mediju kontiem, un, ja vien tas nav nepieciešams, to piekļuve ir jāatceļ.

Dziļās viltojumi ir sarežģīti ar AI darbināmi noziegumi, taču Gārdners iesaka lietotājiem tomēr ievērot dažas pamata drošības vadlīnijas, piemēram, kā iespējot divu faktoru autentifikāciju, izmantojot spēcīgas paroles, iespējot biometriskās piekļuves atslēgas un izvairīšanos no aizdomīgām vai nezināmām saites.

Sociālie mediji tiek veikti droši un atbildīgi

AI renderējums, kurā cilvēki noklikšķina uz pašbildēm.
Kredīts: Bing attēlu ģenerators

Canopy’s Litwin uzskata, ka jo vairāk jūs kopīgojat, jo vieglāk ir izveidot pārliecinošus viltojumus. Netrūkst ēnainu AI attēlu ģenerēšanas modeļu bez jebkādiem ierobežojumiem nepārprotama materiāla veidošanā. Šie rīki paļaujas uz attēla ievadi, lai apmācītu modeli. Jo vairāk apmācības datu tiek ievadīts, jo precīzāki un reālistiskāki kļūst dziļi viltojumi.

Tā ir standarta taktika, ko īsteno tādi plaši izplatīti AI attēlu ģeneratori kā MidJourney. Ja jūsu sociālā plūsma ir atvērta un tajā ir pietiekami daudz fotoattēlu un videoklipu, slikts aktieris nevar liegt tos nokasīt, lai izveidotu kompromitējošus dziļus viltojumus. Bet, ja esat to cilvēku vidū, kuri sociālajos saziņas līdzekļos uzskata par vērtīgu vietu, kur saglabāt savas visdārgākās atmiņas, varat veikt dažus pasākumus. obligāti ņem.

Lietotnes Twitter izmantošana ierīcē Xiaomi 13 Pro.
Endijs Boksāls/Digitālās tendences

"Esiet piesardzīgs attiecībā uz to, kādu personisko informāciju kopīgojat tiešsaistē, pielāgojiet konfidencialitātes iestatījumus savos kontos, iespējojiet divu faktoru autentifikāciju un rūpīgi pārskatiet attēlus, lai atklātu jebkādas nepilnības," norāda. Boids Klūiss, Forbes Drošības padomes kiberdrošības eksperts un grāmatas “Through The Firewall: The Alchemy Of Turning Crisis into Opportunity” autors.

Bet kā droši pamanīt sociālo mediju profilu, kurā, iespējams, ir slikts aktieris, kas nodarbojas ar ēnas darbībām, piemēram, veido un izplata viltojumus? “Ja video vai audio materiāls tiek kopīgots no aizdomīgiem profiliem un konti nesatur nekādu personisku informāciju vai fotogrāfijas, visticamāk, profils ir viltots,” iesaka Baltic Amadeus informācijas drošības arhitekts Tomas Samulis. Viņš norāda, ka šādi profili, kuros trūkst personu identificējošas informācijas, ir īpaši izveidoti, lai izplatītu viltojumus un citu strīdīgu informāciju.

Ko darīt, ja esat dziļi viltots

AI renderējums maskā esošai personai, izmantojot tālruni
Kredīts: Bing attēlu ģenerators

Bet vidusmēra viedtālruņa lietotājs var veikt tikai tik daudz piesardzības. Pat digitāli lietpratīgākie lietotāji nonāk kibernoziegumu uzbrukuma galā pat pēc tam izmantojot visus standarta rīkus, piemēram, divu faktoru autentifikāciju, privātos profilus un biometriskos datus ugunsmūri.

Ja, neskatoties uz visu piesardzības pasākumu veikšanu, jūs joprojām atrodaties viltota nozieguma centrā, meklējiet ekspertu padomu un palīdzību no iestādēm, nevis pārņemiet lietas savās rokās. Speciālisti atzīmē, ka sēdēšana uz šādas uzmākšanās vai mēģinājums ar to diskrēti tikt galā pats, bieži vien pasliktina cietušo situāciju.

“Ja atklājat, ka kāds ļaunprātīgi izmanto jūsu saturu, meklējiet konsultantu, kurš ir informēts par autortiesību likumu, lai palīdzētu jums noņemt saturu, pēc iespējas ātrāk,” saka Robs Skots, Dalasas Advokātu asociācijas biedrs un licencēts juridiskais eksperts tādās jomās kā kiberdrošības risks un dati. privātumu.

Konsultēšanās ar juridisko ekspertu ir ļoti svarīga, jo viņi var sniegt jums informāciju par jūsu digitālajām tiesībām. Canopy’s Litwin arī iesaka saglabāt visas pierādījumus, iesakot upuriem "dokumentēt visus pierādījumus par izspiešanas mēģinājumiem, piemēram, ziņas, e-pastus vai jebkāda veida saziņu, kas saistīta ar izspiešana."

Vēl viens būtisks padoms ir tāds, ka cietušajam nekavējoties jāpārtrauc jebkāda saskarsme ar noziedznieku, jo noziedznieks var vēl vairāk manipulēt ar viņu vai vajāt viņu ar nopietnākām izspiešanas prasībām. Tajā pašā laikā lietotājiem ir jāsazinās ar kiberdrošības ekspertu vai jāsazinās ar kādu no valdības kibernoziedzības palīdzības tālruņiem, lai savlaicīgi veiktu pareizos pasākumus.

Kā pamanīt dziļos viltojumus

AI atveido cilvēka seju
Kredīts: Bing attēlu ģenerators

Tā kā mākslīgā intelekta dzinēji kļūst arvien sarežģītāki, to radītie viltojumu veidi kļūst baismīgi reāli un grūti pamanāmi. Tomēr joprojām ir daži marķieri, kuriem lietotāji var pievērst uzmanību, lai pamanītu sintētiski pārveidotu vai mākslīgā intelekta radītu kompromitējošu materiālu.

Tālāk ir sniegts ekspertu piedāvāto dziļo viltoto identifikatoru apkopojums.

  • Pievērsiet uzmanību nedabiskām acu kustībām. Ja šķiet, ka cilvēka acis nemirgo, acu kustība ir izslēgta vai sejas izteiksmes nav sinhronas ar vārdiem, ko viņš runā, visticamāk, tas ir viltots klips. Emociju trūkums vai nesakarīgas emocijas liecina par to, ka mediji ir digitāli pārveidoti.
  • "Deepfake tehnoloģija parasti koncentrējas uz sejas vaibstiem," saka Gārdners. "Ja cilvēka ķermeņa forma nešķiet dabiska vai viņa kustības ir saraustītas un nesadalītas, iespējams, video ir viltojums."
  • Vēl viens uzticams marķieris ir fons, kas var šķist nedabiski izplūdis vai parāda dīvainus vizuālos artefaktus. Vēl viens vienkāršs veids, kā pamanīt dziļus viltojumus, ir meklēt neparastu krāsas maiņu vai nopietnu krāsu neatbilstību, jo īpaši attiecībā uz apkārtējo priekšmetu seju un ēnu.
  • Ja pamanāt fotoattēlu, kurā cilvēks šūpojas “perfektos matos”, un jūs nevarat pamanīt nevienu atsevišķu elementu, piemēram, dažas izlidojošu matu šķipsnas vai sprogas, esiet piesardzīgs. Ir zināms, ka mākslīgā intelekta modeļi cīnās ar zobiem. Pievērsiet uzmanību zobiem, kas ir vai nu nedabiski perfekti, vai tiem, kuriem trūkst atsevišķu zobu kontūru, vai varbūt vairāk zobu nekā parastajām cilvēka protēzēm.
  • Nepareizi izlīdzinātas ķermeņa daļas, izplūdušas malas, daži papildu vai mazāk pirkstu, dīvaini izliektas ekstremitātes, nesinhronizēta kustība ķermeņa daļas, un balss, kurā trūkst paužu un emocionālu pārtraukumu, ir citas pazīmes, kas jums rūpīgi jāuzmanās priekš. “Viltus balss vai audio ierakstos bieži ir fona troksnis, robotiski skanošas balsis un dīvaina izruna,” skaidro Samulis.

Nopietna problēma ar pusefektīviem risinājumiem

AI renderējums, kurā redzams cilvēks, kurš lūkojas pa tālruni
Kredīts: Bing attēlu ģenerators

Kā paskaidrots iepriekš, nav droša drošības tīkla pret dziļiem viltojumiem. Bet, ja esat uzmanīgs attiecībā uz to, kur kopīgojat fotoattēlus, kas tos var redzēt un cik tālu ir jūsu piekļuve sociālajiem medijiem, varat palikt samērā drošā zonā.

Ir arī jāpievērš uzmanība tam, kas ir viņu tiešsaistes draugi, kā arī jāpārbauda jaunu uzaicinājumu darbība, pirms tos pievieno savam draugu lokam sociālajos medijos. Kas attiecas uz dziļajiem viltojumiem, tas ir nedaudz sarežģīti. Bet, ja saglabājat modrību un veltāt laiku, lai novērtētu neatbilstības aizdomīgā fotoattēlā vai videoklipā, dziļos viltojumus var pamanīt ar diezgan augstu precizitātes pakāpi.

Galu galā tas viss ir saistīts ar higiēnas tiešsaistes paradumu izkopšanu un modrību tiešsaistes telpā, kurā arvien vairāk tiek apdraudēta viltošana.

Redaktoru ieteikumi

  • Google Bard tagad var runāt, bet vai tas var noslāpēt ChatGPT?
  • Elona Muska jaunā AI uzņēmuma mērķis ir "saprast Visumu"
  • Zinātnieki saka, ka mākslīgā intelekta sasniegumi varētu notikt caur bišu smadzenēm
  • OpenAI atklāj sava pirmā starptautiskā priekšposteņa atrašanās vietu
  • 81% uzskata, ka ChatGPT ir drošības risks, liecina aptauja