Europol utfärdade denna vecka en skarp varning som lyfter fram riskerna som brottslingar utgör när de tar tag i den nya vågen av avancerade AI-chatbotar.
I ett inlägg delades online den här veckan, Europas brottsbekämpande myndighet beskrev hur verktyg som OpenAI: s ChatGPT och GPT-4, och Googles Bard, kommer att användas alltmer av kriminella som letar efter nya sätt att lura medlemmar av allmänheten.
Rekommenderade videor
Den identifierade tre specifika områden som berör den mest.
Först ut är bedrägeri och social ingenjörskonst, där e-postmeddelanden skickas till mål i hopp om att få dem för att ladda ner en fil som är infekterad med skadlig programvara eller klicka på en länk som tar dem till en lika farlig webbplats.
Relaterad
- ChatGPT: de senaste nyheterna, kontroverserna och tipsen du behöver veta
- Vad är en DAN-prompt för ChatGPT?
- ChatGPT-tillverkaren OpenAI står inför FTC-utredning över konsumentskyddslagar
Nätfiske-e-postmeddelanden, som de kallas, är vanligtvis fulla av grammatiska fel och stavfel och hamnar i skräppostmappen. Även de som kommer till inkorgen är så fruktansvärt skrivna att mottagaren snabbt kan slänga dem utan att tänka efter.
Men AI-chatbots kan skapa välskrivna meddelanden fria från slarviga fel, vilket gör att brottslingar kan skicka ut övertygande e-postmeddelanden som innebär att mottagarna måste vara extra uppmärksamma när de kontrollerar sina meddelanden.
Europol sa att de avancerade chatbotarna kan "reproducera språkmönster som kan användas för att efterlikna specifika individers talstil eller grupper," och tillägger att en sådan förmåga kan "missbrukas i stor skala för att vilseleda potentiella offer att placera sitt förtroende i händerna på kriminella skådespelare.”
En mer övertygande form av desinformation kommer också att spridas, med den nya vågen av chatbots som utmärker sig på att skapa autentiskt klingande text i hastighet och skala, sa Europol. tillägger: "Detta gör modellen idealisk för propaganda- och desinformationsändamål, eftersom den tillåter användare att generera och sprida meddelanden som speglar en specifik berättelse med relativt lite ansträngning."
För det tredje citerade Europol kodning som ett nytt område som beslagtas av cyberbrottslingar för att skapa skadlig programvara. "Dessutom genererar mänskligt språk, ChatGPT är kapabel att producera kod på ett antal olika programmeringsspråk”, påpekade byrån. "För en potentiell brottsling med liten teknisk kunskap är detta en ovärderlig resurs för att producera skadlig kod."
Den sa att situationen "ger en dyster utsikt" för dem på höger sida av lagen eftersom skändlig aktivitet online blir svårare att upptäcka.
AI-chatbot-villet tog fart i november 2022 när Microsoft-stödda OpenAI släppte sitt imponerande ChatGPT-verktyg. En förbättrad version, GPT-4, släpptes nyligen, medan Google också har avslöjat sitt eget liknande verktyg, kallat Bard. Alla tre är kända för sin imponerande förmåga att skapa naturligt klingande text med bara några få uppmaningar, med tekniken som sannolikt hjälpa till eller till och med ersätta en mängd olika jobb under de kommande åren.
Annan liknande AI-baserad teknik låter dig skapa originalbilder, videor och ljud med bara några få texter uppmaningar, som belyser hur ingen form av media kommer att undgå AI: s inverkan när tekniken fortsätter att förbättras.
Vissa ledande röster har förståeliga farhågor om dess snabba uppgång, med ett nyligen öppet brev undertecknat av Elon Musk, Apples medgrundare Steve Wozniak och olika experter som hävdar att AI-system med mänsklig konkurrenskraftig intelligens kan utgöra "djupa risker för samhället och mänskligheten." Brevet efterlyste en sex månaders paus för att möjliggöra skapandet och implementeringen av säkerhetsprotokoll för de avancerade verktygen, och tillägger att om det hanteras på rätt sätt, "kan mänskligheten njuta av en blomstrande framtid med AI."
Redaktörens rekommendationer
- Toppförfattare kräver betalning från AI-företag för att de använder deras arbete
- GPT-4: hur man använder AI-chatboten som gör ChatGPT på skam
- Google Bard kan nu tala, men kan det överrösta ChatGPT?
- ChatGPTs webbplatstrafik har minskat för första gången
- ChatGPT: s Bing-surffunktion inaktiverad på grund av betalväggsåtkomstfel
Uppgradera din livsstilDigitala trender hjälper läsarna att hålla koll på den snabba teknikvärlden med alla de senaste nyheterna, roliga produktrecensioner, insiktsfulla redaktioner och unika smygtittar.
