Тази седмица Европол издаде остро предупреждение, подчертавайки рисковете, които представляват престъпниците, докато се справят с новата вълна от усъвършенствани чатботове с изкуствен интелект.
в пост споделена онлайн тази седмица, европейската правоприлагаща агенция описа как инструменти като ChatGPT на OpenAI и GPT-4, и Бардът на Google, ще се използва все повече от престъпници, търсещи нови начини за измама на обществеността.
Препоръчани видеоклипове
Той идентифицира три конкретни области, които го тревожат най-много.
На първо място са измамите и социалното инженерство, при които имейлите се изпращат до цели с надеждата да ги получат за да изтеглят заразен със зловреден софтуер файл или да кликнат върху връзка, която ги отвежда до също толкова опасен уебсайт.
Свързани
- ChatGPT: последните новини, спорове и съвети, които трябва да знаете
- Какво е DAN подкана за ChatGPT?
- Създателят на ChatGPT OpenAI е изправен пред разследване на FTC относно законите за защита на потребителите
Фишинг имейлите, както са известни, обикновено са пълни с граматически и правописни грешки и завършват в папката за нежелана поща. Дори тези, които стигат до входящата кутия, са толкова ужасяващо написани, че получателят може бързо да ги изхвърли, без да се замисли.
Но AI chatbots могат да създават добре написани съобщения без небрежни грешки, което позволява на престъпниците да изпращат извеждат убедителни имейли, което означава, че получателите ще трябва да обърнат допълнително внимание, когато проверяват своите съобщения.
Европол каза, че усъвършенстваните чатботове могат да „възпроизвеждат езикови модели, които могат да бъдат използвани за имитиране на стила на речта на конкретни лица или групи“, добавяйки, че с такава способност може да се „злоупотребява в мащаб, за да се подведат потенциалните жертви да се доверят в ръцете на престъпници актьори.”
По-убедителна форма на дезинформация също ще се разпространява, като новата вълна от чатботове се отличава със създаването на автентично звучащ текст със скорост и мащаб, каза Европол, добавяйки: „Това прави модела идеален за цели на пропаганда и дезинформация, тъй като позволява на потребителите да генерират и разпространяват съобщения, отразяващи конкретен разказ с относително малко усилие."
Трето, Европол цитира кодирането като нова област, завладяна от киберпрестъпниците за създаване на зловреден софтуер. "В допълнение към генериране на човешки език, ChatGPT е в състояние да произвежда код на редица различни езици за програмиране“, посочва агенцията. „За потенциален престъпник с малко технически познания това е безценен ресурс за създаване на зловреден код.“
В него се казва, че ситуацията „осигурява мрачна перспектива“ за тези от дясната страна на закона, тъй като престъпната дейност онлайн става по-трудна за откриване.
Манията по чатботовете с изкуствен интелект започна през ноември 2022 г., когато OpenAI, подкрепен от Microsoft, пусна своя впечатляващ инструмент ChatGPT. Подобрена версия, GPT-4 беше пуснат съвсем наскоро, докато Google също представи свой собствен подобен инструмент, наречен Bard. И трите са известни със своята впечатляваща способност да създават естествено звучащ текст само с няколко подкани, като технологията вероятно ще подпомагане или дори заместване на множество различни работни места през следващите години.
Друга подобна базирана на AI технология ви позволява да създавате оригинални изображения, видеоклипове и аудио само с малко текст подкани, подчертавайки как никоя форма на медия няма да избегне въздействието на AI, докато технологията продължава да се подобрява.
Някои водещи гласове имат разбираеми опасения относно бързото му нарастване, с скорошно отворено писмо, подписано от Илон Мъск, съоснователят на Apple Стив Возняк и различни експерти твърдят, че AI системите с човешки и конкурентен интелект могат да представляват „дълбоки рискове за обществото и човечеството“. Писмото призова а шестмесечна пауза, за да се даде възможност за създаване и прилагане на протоколи за безопасност за усъвършенстваните инструменти, добавяйки, че ако се борави по правилния начин, „човечеството може да се радва на процъфтяващо бъдеще с AI."
Препоръки на редакторите
- Топ автори изискват заплащане от фирми за изкуствен интелект за използване на работата им
- GPT-4: как да използвате AI chatbot, който засрамва ChatGPT
- Google Bard вече може да говори, но може ли да заглуши ChatGPT?
- Трафикът на уебсайта на ChatGPT е спаднал за първи път
- Функцията за сърфиране в Bing на ChatGPT е деактивирана поради грешка в достъпа до платена стена
Надградете начина си на животDigital Trends помага на читателите да следят забързания свят на технологиите с всички най-нови новини, забавни ревюта на продукти, проницателни редакционни статии и единствени по рода си кратки погледи.
