Europol udsendte i denne uge en skarp advarsel, der fremhævede de risici, som kriminelle udgør, når de får styr på den nye bølge af avancerede AI-chatbots.
I et indlæg delt online i denne uge, beskrev Europas retshåndhævende agentur, hvordan værktøjer som OpenAIs ChatGPT og GPT-4, og Googles Bard, vil i stigende grad blive brugt af kriminelle, der leder efter nye måder at lure medlemmer af offentligheden på.
Anbefalede videoer
Den identificerede tre specifikke områder, der bekymrer den mest.
Først op er svindel og social engineering, hvor e-mails sendes til mål i håb om at få dem at downloade en malware-inficeret fil eller klikke på et link, der fører dem til et lige så farligt websted.
Relaterede
- ChatGPT: de seneste nyheder, kontroverser og tips, du har brug for at vide
- Hvad er en DAN-prompt til ChatGPT?
- ChatGPT-producenten OpenAI står over for FTC-undersøgelse over forbrugerbeskyttelseslove
Phishing-e-mails, som de er kendt, er normalt fulde af grammatiske fejl og stavefejl og ender i uønsket mappe. Selv dem, der kommer til indbakken, er så rystende skrevet, at modtageren hurtigt kan kassere dem uden at tænke over det.
Men AI-chatbots kan skabe velskrevne beskeder uden sjuskede fejl, så kriminelle kan sende ud overbevisende e-mails, der betyder, at modtagere skal være ekstra opmærksomme, når de tjekker deres Beskeder.
Europol sagde, at de avancerede chatbots kan "gengive sprogmønstre, der kan bruges til at efterligne specifikke personers talestil eller grupper," og tilføjer, at en sådan evne kan "misbruges i stor skala til at vildlede potentielle ofre til at placere deres tillid i hænderne på kriminelle aktører."
En mere overbevisende form for desinformation er også klar til at sprede sig, med den nye bølge af chatbots, der udmærker sig ved at skabe autentisk lydende tekst i hastighed og skala, sagde Europol. tilføjer: "Dette gør modellen ideel til propaganda- og desinformationsformål, da den giver brugerne mulighed for at generere og sprede beskeder, der afspejler en specifik fortælling med relativt lidt indsats."
For det tredje nævnte Europol kodning som et nyt område, der bliver grebet af cyberkriminelle for at skabe ondsindet software. "I tillæg til generere menneskelignende sprog, ChatGPT er i stand til at producere kode på en række forskellige programmeringssprog,” påpegede bureauet. "For en potentiel kriminel med ringe teknisk viden er dette en uvurderlig ressource til at producere ondsindet kode."
Det sagde, at situationen "giver et dystre udsigter" for dem på højre side af loven, da uhyggelig aktivitet online bliver sværere at opdage.
AI-chatbot-dille tog fart i november 2022, da Microsoft-støttede OpenAI frigav sit imponerende ChatGPT-værktøj. En forbedret version, GPT-4, blev udgivet for nylig, mens Google også har løftet sløret for sit eget lignende værktøj, kaldet Bard. Alle tre er kendt for deres imponerende evne til at skabe naturligt klingende tekst med blot nogle få prompter, med teknologien, der sandsynligvis hjælpe eller endda erstatte en række forskellige jobs i de kommende år.
Anden lignende AI-baseret teknologi giver dig mulighed for at skabe originale billeder, videoer og lyd med kun få tekst prompter, der fremhæver, hvordan ingen form for medier vil undslippe AI's indflydelse, efterhånden som teknologien fortsætter med at forbedre sig.
Nogle ledende stemmer har forståelige bekymringer over dens hurtige stigning, med et nyligt åbent brev underskrevet af Elon Musk, Apples medstifter Steve Wozniak og forskellige eksperter, der hævder AI-systemer med menneskelig konkurrencedygtig intelligens kan udgøre "dybe risici for samfundet og menneskeheden." Brevet opfordrede til en seks måneders pause for at give mulighed for oprettelse og implementering af sikkerhedsprotokoller for de avancerede værktøjer, og tilføjer, at hvis de håndteres på den rigtige måde, "kan menneskeheden nyde en blomstrende fremtid med AI."
Redaktørernes anbefalinger
- Topforfattere kræver betaling fra AI-virksomheder for at bruge deres arbejde
- GPT-4: hvordan man bruger AI chatbot, der gør ChatGPT til skamme
- Google Bard kan nu tale, men kan den overdøve ChatGPT?
- ChatGPT-webstedets trafik er faldet for første gang
- ChatGPTs Bing-browsing-funktion deaktiveret på grund af adgangsfejl i betalingsvæggen
Opgrader din livsstilDigital Trends hjælper læserne med at holde styr på den hurtige teknologiske verden med alle de seneste nyheder, sjove produktanmeldelser, indsigtsfulde redaktionelle artikler og enestående smugkig.
