Съобщава се, че самозван новак е създал мощен зловреден софтуер за извличане на данни, използвайки само ChatGPT подкани, всичко това в рамките на няколко часа.
Арън Мългрю, изследовател на сигурността на Forcepoint, наскоро сподели как е творил zero-day злонамерен софтуер изключително на Генеративният чатбот на OpenAI. Докато OpenAI има защита срещу всеки, който се опитва да поиска от ChatGPT да напише злонамерен код, Mulgrew намери вратичка като подкани чатбота да създаде отделни редове от злонамерения код, функция по функция.
Препоръчани видеоклипове
След като компилира отделните функции, Мългрю беше създал почти неоткриваем изпълним файл за кражба на данни на ръцете си. И това също не беше злонамереният софтуер от вашето градинско разнообразие — злонамереният софтуер беше толкова усъвършенстван, колкото всички атаки на национална държава, способен да избегне всички доставчици, базирани на откриване.
Свързани
- GPT-4: как да използвате AI chatbot, който засрамва ChatGPT
- Wix използва ChatGPT, за да ви помогне бързо да създадете цял уебсайт
- Създателят на ChatGPT OpenAI е изправен пред разследване на FTC относно законите за защита на потребителите
Също толкова важно е как зловредният софтуер на Mulgrew се отклонява от „редовните“ итерации на национални държави, тъй като не изисква екипи от хакери (и част от времето и ресурсите) за изграждане. Мългрю, който не извърши нищо от кодирането сам, имаше изпълнимия файл готов само за часове, за разлика от обикновено необходимите седмици.
Злонамереният софтуер Mulgrew (има хубав звук, нали?) се маскира като приложение за скрийнсейвър (SCR разширение), което след това се стартира автоматично в Windows. След това софтуерът ще пресее файлове (като изображения, документи на Word и PDF) за данни, които да откраднат. Впечатляващата част е, че зловредният софтуер (чрез стеганография) ще разбие откраднатите данни на по-малки части и ще ги скрие в изображения на компютъра. След това тези изображения се качват в папка на Google Drive, процедура, която избягва откриването.
Също толкова впечатляващо е, че Mulgrew успя да усъвършенства и укрепи кода си срещу откриване, използвайки прости подкани на ChatGPT, наистина повишавайки въпросът колко безопасно е да се използва ChatGPT. При провеждане на ранни тестове на VirusTotal зловредният софтуер беше открит от пет от 69 продукта за откриване. По-късна версия на неговия код впоследствие не беше открита от нито един от продуктите.
Обърнете внимание, че създаденият от Mulgrew злонамерен софтуер е тест и не е публично достъпен. Независимо от това, неговото изследване показа колко лесно могат да го направят потребителите с малко или никакъв напреднал опит в кодирането заобикаляйте слабите защити на ChatGPT, за да създавате лесно опасен зловреден софтуер, без дори да въвеждате нито един ред код.
Но ето страшната част от всичко това: компилирането на този вид код обикновено отнема седмици на по-голям екип. Няма да се изненадаме, ако злонамерени хакери вече разработват подобен зловреден софтуер чрез ChatGPT, докато говорим.
Препоръки на редакторите
- ChatGPT: последните новини, спорове и съвети, които трябва да знаете
- Какво е DAN подкана за ChatGPT?
- Google Bard вече може да говори, но може ли да заглуши ChatGPT?
- Трафикът на уебсайта на ChatGPT е спаднал за първи път
- Функцията за сърфиране в Bing на ChatGPT е деактивирана поради грешка в достъпа до платена стена
Надградете начина си на животDigital Trends помага на читателите да следят забързания свят на технологиите с всички най-нови новини, забавни ревюта на продукти, проницателни редакционни статии и единствени по рода си кратки погледи.
