Tiek ziņots, ka kāds pašpārliecināts iesācējs ir izveidojis spēcīgu datu ieguves ļaunprātīgu programmatūru, izmantojot tikai ChatGPT uzvednes, tas viss dažu stundu laikā.
Ārons Mulgrovs, Forcepoint drošības pētnieks, nesen dalījās, kā viņš radīja tikai nulles dienas ļaunprogrammatūra OpenAI ģeneratīvais tērzēšanas robots. Lai gan OpenAI ir aizsardzība pret visiem, kas mēģina lūgt ChatGPT rakstīt ļaunprātīgu kodu, Mulgrew atrada nepilnību liekot tērzēšanas robotam izveidot atsevišķas kaitīgā koda rindas pa funkcijām.
Ieteiktie videoklipi
Pēc atsevišķo funkciju apkopošanas Mulgrovs savās rokās bija izveidojis gandrīz nenosakāmu datu zagšanas izpildāmo failu. Un arī šī nebija jūsu dārza ļaundabīgā programmatūra — ļaunprogrammatūra bija tikpat izsmalcināta kā jebkuras nacionālās valsts uzbrukums, un tā spēja izvairīties no visiem uz atklāšanu balstītiem pārdevējiem.
Saistīts
- GPT-4: kā izmantot AI tērzēšanas robotu, kas padara ChatGPT kaunā
- Wix izmanto ChatGPT, lai palīdzētu ātri izveidot visu vietni
- ChatGPT veidotājs OpenAI saskaras ar FTC izmeklēšanu par patērētāju aizsardzības likumiem
Tikpat svarīgi ir tas, kā Mulgrew ļaunprogrammatūra atturas no “parastajām” nacionālo valstu iterācijām, jo tās izveidei nav nepieciešamas hakeru komandas (un daļa laika un resursu). Mulgrovs, kurš pats neko nedarīja kodēšanu, izpildāmo failu sagatavoja dažu stundu laikā, atšķirībā no parasti nepieciešamajām nedēļām.
Mulgrew ļaunprogrammatūra (tai ir patīkami zvana, vai ne?) maskējas kā ekrānsaudzētāja lietotne (SCR paplašinājums), kas pēc tam tiek automātiski palaista operētājsistēmā Windows. Pēc tam programmatūra izsijās failus (piemēram, attēlus, Word dokumentus un PDF failus), lai datus varētu nozagt. Iespaidīgā daļa ir tā, ka ļaunprogrammatūra (ar steganogrāfiju) sadalīs nozagtos datus mazākos gabalos un paslēps tos datora attēlos. Pēc tam šie attēli tiek augšupielādēti Google diska mapē. Šī procedūra ļauj izvairīties no atklāšanas.
Tikpat iespaidīgi ir tas, ka Mulgrovs spēja uzlabot un nostiprināt savu kodu pret atklāšanu, izmantojot vienkāršas uzvednes pakalpojumā ChatGPT, tādējādi paaugstinot jautājums par to, cik droši ir lietot ChatGPT. Veicot agrīnās VirusTotal pārbaudes, ļaunprogrammatūra tika atklāta piecos no 69 noteikšanas produktiem. Vēlāk viņa koda versija netika atklāta nevienam no produktiem.
Ņemiet vērā, ka Mulgrew izveidotā ļaunprogrammatūra bija pārbaude un nav publiski pieejama. Neskatoties uz to, viņa pētījumi ir parādījuši, cik viegli to spēj lietotāji, kuriem ir maz vai nav uzlabotas kodēšanas pieredzes apiet ChatGPT vājo aizsardzību, lai viegli izveidotu bīstamu ļaunprātīgu programmatūru, neievadot nevienu rindiņu kodu.
Bet šeit ir šī visa biedējošā daļa: šāda veida koda apkopošana parasti aizņem lielākas komandas nedēļas. Mēs nebūtu pārsteigti, ja nelietīgi hakeri jau izstrādā līdzīgu ļaunprātīgu programmatūru, izmantojot ChatGPT, kā mēs runājam.
Redaktoru ieteikumi
- ChatGPT: jaunākās ziņas, strīdi un padomi, kas jums jāzina
- Kas ir DAN uzvedne ChatGPT?
- Google Bard tagad var runāt, bet vai tas var noslāpēt ChatGPT?
- ChatGPT vietnes trafika ir samazinājusies pirmo reizi
- ChatGPT Bing pārlūkošanas funkcija ir atspējota maksas sienas piekļuves trūkuma dēļ
Uzlabojiet savu dzīvesveiduDigitālās tendences palīdz lasītājiem sekot līdzi steidzīgajai tehnoloģiju pasaulei, izmantojot visas jaunākās ziņas, jautrus produktu apskatus, ieskatu saturošus rakstus un unikālus ieskatus.
