Europol heeft deze week een scherpe waarschuwing afgegeven waarin de nadruk wordt gelegd op de risico's die criminelen met zich meebrengen als ze in aanraking komen met de nieuwe golf van geavanceerde AI-chatbots.
In een post die deze week online werd gedeeld, beschreef de Europese wetshandhavingsinstantie hoe tools zoals ChatGPT van OpenAI en GPT-4, En Google's Bard, zal steeds vaker worden gebruikt door criminelen die op zoek zijn naar nieuwe manieren om burgers op te lichten.
Aanbevolen video's
Er werden drie specifieke gebieden geïdentificeerd die haar het meest aanbelangen.
Ten eerste is er sprake van fraude en social engineering, waarbij e-mails naar doelwitten worden gestuurd in de hoop deze te ontvangen om een met malware geïnfecteerd bestand te downloaden of op een link te klikken die hen naar een even gevaarlijke website brengt.
Verwant
- ChatGPT: het laatste nieuws, controverses en tips die u moet weten
- Wat is een DAN-prompt voor ChatGPT?
- ChatGPT-maker OpenAI wordt geconfronteerd met een FTC-onderzoek naar wetten inzake consumentenbescherming
Phishing-e-mails, zoals ze bekend staan, zitten meestal vol grammaticale fouten en spelfouten en komen terecht in de map met ongewenste e-mail. Zelfs degenen die wel in de inbox terechtkomen, zijn zo afschuwelijk geschreven dat de ontvanger ze snel kan weggooien zonder erbij na te denken.
Maar AI-chatbots kunnen goedgeschreven berichten zonder slordige fouten maken, waardoor criminelen ze kunnen verzenden overtuigende e-mails te versturen die betekenen dat ontvangers extra aandacht moeten besteden aan het controleren van hun e-mails berichten.
Europol zei dat de geavanceerde chatbots “taalpatronen kunnen reproduceren die kunnen worden gebruikt om de stijl van spreken van specifieke individuen na te bootsen of groepen,” eraan toevoegend dat een dergelijke mogelijkheid “op grote schaal kan worden misbruikt om potentiële slachtoffers te misleiden en hun vertrouwen in de handen van criminelen te stellen”. acteurs.”
Een meer overtuigende vorm van desinformatie zal zich ook verspreiden, nu de nieuwe golf van chatbots uitblinkt in het creëren van authentiek klinkende tekst op snelheid en schaal, aldus Europol. en voegt hieraan toe: “Dit maakt het model ideaal voor propaganda- en desinformatiedoeleinden, omdat het gebruikers in staat stelt berichten te genereren en te verspreiden die een specifiek verhaal weerspiegelen met relatief weinig poging."
Ten derde noemde Europol codering als een nieuw gebied dat door cybercriminelen wordt aangegrepen om kwaadaardige software te maken. "In aanvulling op het genereren van mensachtige taal, ChatGPT is in staat code te produceren in een aantal verschillende programmeertalen”, aldus het bureau. “Voor een potentiële crimineel met weinig technische kennis is dit een bron van onschatbare waarde om kwaadaardige code te produceren.”
Het zei dat de situatie “een somber vooruitzicht biedt” voor degenen die aan de goede kant van de wet staan, omdat snode activiteiten online moeilijker te detecteren zijn.
De AI-chatbot-rage begon in november 2022 toen het door Microsoft gesteunde OpenAI zijn indrukwekkende ChatGPT-tool uitbracht. Een verbeterde versie, GPT-4 is onlangs uitgebracht, terwijl Google ook zijn eigen soortgelijke tool heeft onthuld, genaamd Bard. Alle drie staan bekend om hun indrukwekkende vermogen om met slechts een paar aanwijzingen natuurlijk klinkende tekst te creëren, waarbij de technologie waarschijnlijk helpen of vervangen zelfs een hele reeks verschillende banen in de komende jaren.
Met andere soortgelijke op AI gebaseerde technologie kunt u met slechts een paar tekst originele afbeeldingen, video's en audio maken prompts, waarbij wordt benadrukt dat geen enkele vorm van media zal ontsnappen aan de impact van AI naarmate de technologie blijft verbeteren.
Sommige leidende stemmen hebben begrijpelijke zorgen over de snelle opkomst ervan een recente open brief ondertekend door Elon Musk, mede-oprichter van Apple Steve Wozniak, en verschillende experts die beweren dat AI-systemen met mens-competitieve intelligentie “diepgaande risico’s voor de samenleving en de mensheid” kunnen vormen. In de brief werd opgeroepen tot a pauze van zes maanden om de creatie en implementatie van veiligheidsprotocollen voor de geavanceerde tools mogelijk te maken, eraan toevoegend dat als er op de juiste manier mee wordt omgegaan, “de mensheid van een bloeiende toekomst kan genieten met AI.”
Aanbevelingen van de redactie
- Topauteurs eisen betaling van AI-bedrijven voor het gebruik van hun werk
- GPT-4: hoe je de AI-chatbot gebruikt die ChatGPT te schande maakt
- Google Bard kan nu spreken, maar kan het ChatGPT overstemmen?
- Het websiteverkeer van ChatGPT is voor het eerst gedaald
- De Bing-browsingfunctie van ChatGPT is uitgeschakeld vanwege een toegangsfout in de betaalmuur
Upgrade uw levensstijlMet Digital Trends kunnen lezers de snelle technische wereld in de gaten houden met het laatste nieuws, leuke productrecensies, inzichtelijke redactionele artikelen en unieke sneak peeks.
