Нова заплаха се появи в ChatGPT сага, като киберпрестъпниците са разработили начин да хакнат AI chatbot и да го наводнят с команди за зловреден софтуер.
The изследователска фирма Checkpoint откри, че хакери са проектирали ботове, които могат да проникнат в GPT-3 API на OpenAI и да променят неговия код, така че че може да генерира злонамерено съдържание, като например текст, който може да се използва за фишинг имейли и зловреден софтуер скриптове.
Ботовете работят чрез приложението за съобщения Telegram. Лошите актьори използват ботовете, за да създадат тъмна версия на ChatGPT без ограничения, според Ars Technica.
Препоръчани видеоклипове
ChatGPT има бутони за палец нагоре и палец надолу, които можете да натиснете като част от своя алгоритъм за обучение, ако генерира съдържание, което може да се счита за обидно или неподходящо. Обикновено въвежданията като генериране на злонамерен код или фишинг имейли са забранени, като ChatGPT отказва да даде отговор.
Тази подла алтернатива на чатбот има цена от $6 за всеки 100 заявки, като хакерите зад нея също дават съвети и примери за лошото съдържание, което можете да генерирате с тази версия. Хакерите също са направили скрипт достъпен в GitHub. OpenAI, базираният на API скрипт има способността да позволи на потребителите да фалшифицират бизнес или лице, в допълнение към генерирането на фишинг имейли чрез команди за генериране на текст. Ботовете също могат да ви помогнат в идеалното разположение за фишинг връзката в имейла, според
PC геймър.Трудно е да се знае доколко това развитие ще бъде заплаха за движещите се AI текстови генератори напред, особено с големи компании, които вече са се ангажирали да работят с това все по-популярно технология. Microsoft Bing е настроен скоро да добави Поддръжка на ChatGPT към своя браузър в предстояща актуализация като част от него продължаващо сътрудничество с OpenAI, например.
Докато ChatGPT остава безплатен в обозримо бъдеще, минус приоритета Абонамент за ChatGPT Plus, това не е първият път, когато текстовият генератор на изкуствен интелект е обект на измамници. През януари гръмнаха новини, че хиляди хора са били измамени след заплащане iOS и Android версии на мобилно приложение на chatbot, който в момента е базирана на браузър услуга.
Версията на Apple App Store беше особено популярна, въпреки цената на седмичния абонамент от $8 след тридневен пробен период. Потребителите също така имаха опцията да плащат месечен абонамент от $50, което беше дори по-скъпо от седмичната цена. Приложението в крайна сметка беше премахнато от магазина на Apple, след като получи медийно внимание.
ChatGPT със сигурност е основната цел за измамниците, тъй като популярността му нарасна, но остава да видим дали лошите актьори в крайна сметка ще скочат на някой от многото ChatGPT алтернативи циркулиращи.
Препоръки на редакторите
- Ето защо хората смятат, че GPT-4 може да става все по-глупав с времето
- ChatGPT: последните новини, спорове и съвети, които трябва да знаете
- Какво е DAN подкана за ChatGPT?
- Google Bard вече може да говори, но може ли да заглуши ChatGPT?
- Създателят на ChatGPT OpenAI е изправен пред разследване на FTC относно законите за защита на потребителите
Надградете начина си на животDigital Trends помага на читателите да следят забързания свят на технологиите с всички най-нови новини, забавни ревюта на продукти, проницателни редакционни статии и единствени по рода си кратки погледи.
