Orolig över FBI: s djupfalska varning? Följ dessa experttips

Förra veckan kom Federal Bureau of Investigation (FBI) utfärdade ett public service-meddelande om ökningen av explicit innehåll med djupt falskt innehåll och hur det används för brott som utpressning, utpressning och trakasserier. I de enklaste termer, en deepfake är syntetiskt multimediamaterial som försöker efterlikna ett original. Det kan vara ett foto-, video- eller ljudklipp från AI-generationen.

Namnet "deepfake" kommer från den inneboende teknologin som används för att skapa sådana medier - djupinlärning - som innebär att träna en AI-modell med originalmaterial och sedan modifiera den för att generera önskat resultat. Det är inte precis en ny uppfinning, men med generativ AI exploderar i popularitet — och tillgång — deepfake-brott ökar.

Så stor är deras popularitet att till och med den republikanske presidentkandidaten Ron DeSantis kampanj använde djupfalska bilder av rivalen Donald Trump för att förtala honom. Deepfakes är också en av anledningarna till att krav på att reglera AI höjs överallt. Enligt FBI lyfts innehållet för att generera deepfakes i allmänhet från inlägg på sociala medier och videosamtalsklipp innan de modifieras till sexuellt explicit material för utpressning och mobbning.

Vad experterna säger om deepfakes

Så, vad är lösningen? Tyvärr finns det ingen lösning. Åtminstone, inte utan att göra en kompromiss - en som i grunden vänder hela innebörden av "sociala medier" på huvudet.

"Tyvärr är det enda sättet att vara säker på att inga av dina foton eller videor används för att skapa djupa förfalskningar är att sluta publicera något bilder på dig själv online, men det skulle ta mycket roligt från internetanvändare”, säger Adrianus Warmenhoven, en cybersäkerhet rådgivare på Nord.

"När nya och bättre säkerhetsmetoder dyker upp kommer illvilliga aktörer att hitta ett sätt att orsaka skada. Det är ett spel för att komma ikapp och ibland känns det en besvikelse”, säger Parteek Saran, en före detta Googler och skapare av nästa generations lösenordshanteringsverktyg som heter Uno. Han föreslår vidare att man bör försöka anta en "nollförtroendefilosofi" när det kommer till inlägg innehåll på sociala medier och betonar effektiv kommunikation med bekanta för att undvika deepfake bedrägerier.

"Även om AI kan hjälpa till att hantera digitala säkerhetsproblem, finns det inget idiotsäkert skyddsnät", säger Yaron Litwin, Digital Safety Expert & CMO på Tak. Företagets eponyma app är inriktad på att hålla barn säkra från sexualbrott online och erbjuder också en mängd olika föräldrakontroller. Litwin tillägger att du bör undvika att lägga upp intima eller kompromissande bilder samtidigt som du minskar frekvensen av att posta även vanliga bilder.

Hur du kan hålla dig säker

Deepfakes är skrämmande, och det är svårt att förstå vilket trauma de kan tillfoga en person och deras familjemedlemmar. Men det finns några sätt på vilka användare kan undvika att hamna i fällan, eller åtminstone undvika i stor utsträckning.

För att förstå vilka steg i genomsnitt smartphone användare med typiska digitala färdigheter kan ta kontakt med Andrew Gardner, Vice President of Research and Innovation på Gen Digital, ett mjukvaruföretag som erbjuder pålitliga säkerhetsverktyg som Norton, Avast och Avira, bland andra.

Gardner säger att säkerhetsprotokoll börjar på den grundläggande nivån. Användare bör börja med att göra sina profiler privata - eller åtminstone ändra inställningarna för inläggssynlighet så att endast de personer som de ömsesidigt följer kan se och interagera med deras inlägg. Föräldrakontroll, som nu är tillgängliga för nästan alla större sociala medieplattformar, bör aktiveras flitigt så att vårdnadshavare kan hålla ett öga på eventuella misstänkta interaktioner.

Det är allmänna råd att man bara ska acceptera förfrågningar från personer man känner, men att ta ett extra steg kan räcka långt. "Om du nätverkar, kolla inbjudnas senaste inlägg och aktiviteter för att bedöma hur verkliga de är", säger Gardner och tillägger att man bör vara försiktig med "konton med få vänner eller gemensamma vänner." Ett annat avgörande råd som Gen Digital-chefen måste ge är att kontrollera och begränsa sociala medier inloggningar.

Användare besöker ofta onlinetjänster och för att slippa besväret med att skapa ett konto väljer de inloggningsalternativet för sociala medier. "Detta ger appar tillgång till personlig information, och i vissa situationer säljer dessa appar den informationen till tredje part", säger han. Cambridge Analytica-skandalen som involverar Facebook är ett bra exempel. Man bör med jämna mellanrum kontrollera vilka appar som är anslutna till deras sociala mediekonton, och om det inte är nödvändigt ska deras åtkomst återkallas.

Deepfakes är sofistikerade AI-drivna brott, men Gardner föreslår att användare fortfarande bör följa några grundläggande säkerhetsriktlinjer - som t.ex. som att möjliggöra tvåfaktorsautentisering, använda starka lösenord, aktivera biometriska lösenord och undvika misstänkta eller okända länkar.

Sociala medier görs säkert och ansvarsfullt

Canopy’s Litwin är av åsikten att ju mer du delar, desto lättare blir det att skapa övertygande deepfakes. Det finns ingen brist på skumma AI-bildgenereringsmodeller utan några restriktioner för att skapa explicit material. Dessa verktyg är beroende av bildinmatningar för att träna modellen. Ju mer träningsdata den matas in, desto mer exakta och realistiska blir deepfakes.

Det är standardtaktiken som implementeras av vanliga AI-bildgeneratorer som MidJourney. Om ditt sociala flöde är öppet och har en riklig mängd foton och videor, finns det inget som hindrar en dålig skådespelare från att skrapa dem för att skapa kompromissande deepfakes. Men om du är bland dem som ser värde i sociala medier som en plats för att bevara dina mest omhuldade minnen, finns det några åtgärder du måste ta.

"Var försiktig med vilken personlig information du delar online, justera sekretessinställningarna på dina konton, aktivera tvåfaktorsautentisering och granska noggrant bilder för eventuella brister", noterar Boyd Clewis, en cybersäkerhetsexpert på Forbes säkerhetsråd och författare till "Through The Firewall: The Alchemy Of Turning Crisis Into Opportunity."

Men hur kan man på ett tillförlitligt sätt upptäcka en profil på sociala medier som sannolikt har en dålig skådespelare bakom sig som är engagerad i skumma handlingar som att skapa och sprida deepfakes? "Om video- eller ljudmaterial delas från misstänkta profiler, och kontona inte innehåller någon personlig information eller foton är det troligt att profilen är falsk”, föreslår Tomas Samulis, informationssäkerhetsarkitekt på Baltic Amadeus. Han föreslår att sådana profiler som saknar personligt identifierbar information skapas specifikt för att sprida förfalskningar och annan kontroversiell information."

Vad du ska göra om du blir deepfaked

Men det finns bara så många försiktighetsåtgärder som en genomsnittlig smartphoneanvändare kan vidta. Även de mest digitalt kunniga användare befinner sig i mottagandet av cyberbrott, även efter med alla standardverktyg som tvåfaktorsautentisering, privata profiler och biometrisk brandväggar.

Om du trots att du vidtagit alla försiktighetsåtgärder fortfarande befinner dig i centrum för ett djupt falskt brott, sök expertråd och hjälp från myndigheter istället för att ta saken i egna händer. Experter noterar att om man sitter på sådana trakasserier eller försöker hantera dem diskret på egen hand ofta förvärrar situationen för offren.

"Om du upptäcker att någon missbrukar ditt innehåll, sök råd som är bekant med upphovsrättslagen för att hjälpa dig att få innehållet borttaget som snabbt som möjligt”, säger Rob Scott, medlem i Dallas Bar Association och licensierad juridisk expert inom områden som cybersäkerhetsrisk och data Integritet.

Att konsultera en juridisk expert är avgörande eftersom de kan vägleda dig genom dina digitala rättigheter, Canopys Litwin föreslår också att du bevarar alla bevis, råder offren att "dokumentera alla bevis på utpressningsförsöken, såsom meddelanden, e-postmeddelanden eller någon form av kommunikation relaterad till utpressning."

Ett annat avgörande råd är att offret omedelbart bör upphöra med all kontakt med en brottsling eftersom brottslingen ytterligare kan manipulera eller trakassera dem med allvarligare utpressningskrav. Samtidigt bör användare kontakta en cybersäkerhetsexpert eller ringa upp någon av de statliga cyberbrottslinjerna för att vidta rätt åtgärder i tid.

Hur man upptäcker deepfakes

Med AI-motorer som blir allt mer sofistikerade, blir den typ av deepfakes de producerar kusligt verkliga och svåra att upptäcka. Det finns dock fortfarande några markörer som användare kan vara uppmärksamma på för att upptäcka syntetiskt förändrat eller AI-genererat kompromissmaterial.

Följande är en sammanställning av deepfake identifierare som experter har att erbjuda:

• Se upp för onaturliga ögonrörelser. Om en persons ögon inte verkar blinka, ögonrörelsen är avstängd eller ansiktsuttrycken inte verkar vara synkroniserade med orden de säger, är det troligtvis ett djupt falskt klipp. Brist på känslor, eller osammanhängande känslor, är en avslöjande markör för att media har förvandlats digitalt.
• "Deepfake-tekniken fokuserar vanligtvis på ansiktsdrag", säger Gardner. "Om personens kroppsform inte verkar naturlig, eller om deras rörelser är ryckiga och osammanhängande, är videon sannolikt en djupförfalskning."
• En annan pålitlig markör är bakgrunden, som kan se ut att vara onaturligt suddig eller visar konstiga visuella artefakter. Ett annat enkelt sätt att upptäcka deepfakes är att leta efter onormal missfärgning eller allvarlig färgfelmatchning, särskilt med avseende på ansiktet och skuggan av föremål runt omkring.
• Om du stöter på ett foto där en person vaggar "perfekt hår" och du inte kan upptäcka några individuella element som några slingor av flyktigt hår eller frisyr, var försiktig. AI-modeller är också kända för att kämpa med tänder. Håll utkik efter tänder som antingen är onaturligt perfekta, eller de som saknar konturer för enskilda tänder, eller kanske fler tänder än den vanliga människoprotesen.
• Felinriktade kroppsdelar, suddiga kanter, några extra eller färre fingrar, konstigt förvridna lemmar, osynkroniserade rörelser av kroppsdelar, och en röst som saknar pauser och känslomässiga pauser är andra tecken som du bör se upp med för. "Falska röst- eller ljudinspelningar har ofta bakgrundsljud, robotljudande röster och konstiga uttal", förklarar Samulis.

Ett allvarligt problem med halveffektiva lösningar

Som förklarats ovan finns det inget idiotsäkert skyddsnät mot deepfakes. Men om du är försiktig med var du delar bilder, vem som kan se dem och hur långt din tillgång till sociala medier går, kan du stanna i en relativt säker zon.

Man bör också vara uppmärksam på vilka deras onlinevänner är, och även granska aktiviteterna för nya inbjudningar innan man lägger till dem i sin vänkrets på sociala medier. När det gäller deepfakes är det lite knepigt. Men om du förblir vaksam och tar dig tid att bedöma inkonsekvenser i ett misstänkt foto eller video, kan djupförfalskningar upptäckas med en ganska hög grad av noggrannhet.

I slutet av dagen handlar det om att odla hygieniska onlinevanor och att vara vaksam i ett alltmer förfalskningsbenäget onlineutrymme.

Redaktörens rekommendationer

• Google Bard kan nu tala, men kan det överrösta ChatGPT?
• Elon Musks nya AI-företag syftar till att "förstå universum"
• AI-genombrott kan komma via binas hjärnor, säger forskare
• OpenAI avslöjar platsen för sin första internationella utpost
• 81 % tycker att ChatGPT är en säkerhetsrisk, visar undersökningen