Tamsioji „ChatGPT“ pusė: dalykai, kuriuos jis gali padaryti, bet neturėtų

Ar naudojote OpenAI ChatGPT dėl ko nors įdomaus pastaruoju metu? Galite paprašyti, kad parašytų jums dainą, eilėraštį ar pokštą. Deja, taip pat galite paprašyti, kad ji padarytų tai, kas yra neetiška.

„ChatGPT“ yra ne tik saulė ir vaivorykštė – kai kurie dalykai, kuriuos jis gali padaryti, yra visiškai nedori. Labai lengva jį ginkluoti ir naudoti dėl visų netinkamų priežasčių. Kokius dalykus „ChatGPT“ padarė ir gali padaryti, bet tikrai neturėtų?

Visokeriopai laimėtojas

Nesvarbu, ar juos mylite, ar nekenčiate, „ChatGPT“ ir panašūs pokalbių robotai yra čia, kad liktų. Kai kurie žmonės tuo džiaugiasi, o kai kurie nori, kad jiems niekada nebūtų pavykę, bet tai nekeičia fakto, kad ChatGPT buvimas mūsų gyvenime laikui bėgant beveik didės. Net jei jūs asmeniškai nenaudojate pokalbių roboto, tikėtina, kad jau matėte jo sukurtą turinį.

Nesupraskite manęs neteisingai, „ChatGPT“ yra puikus. Galite jį naudoti apibendrinti knygą ar straipsnį, sukurkite varginantį el. laišką, padėti jums su savo esė, interpretuoti savo astrologinį makiažą, ar net sukurti dainą. Tai netgi padėjo kažkam laimėti loterijoje.

Daugeliu atžvilgių juo taip pat lengviau naudotis nei standartine „Google“ paieška. Gausite atsakymą norima forma ir nereikės naršyti įvairiose svetainėse. Tai glausta, tiksli ir informatyvi, todėl sudėtingi dalykai gali atrodyti paprasčiau, jei to paprašysite.

Vis dėlto žinote posakį: „Visų dalykų meistras nėra meistras, bet dažnai geriau nei meistras vienas“. „ChatGPT“ nėra tobulas bet kuo, bet daug ką daro geriau nei daugelis žmonių tašką.

Tačiau tai, kad jis nėra tobulas, gali būti gana problemiškas. Vien faktas, kad tai yra plačiai prieinamas pokalbio AI, reiškia, kad juo galima nesunkiai piktnaudžiauti – ir kuo „ChatGPT“ bus galingesnis, tuo didesnė tikimybė, kad jis padės žmonėms su netinkamais dalykais.

Sukčiavimo partneris

Jei turite el. pašto paskyrą, beveik neabejotinai vienu metu gavote sukčiavimo el. laišką. Tiesiog taip yra. Šie el. laiškai buvo naudojami internete, o kol el. paštas nebuvo įprastas, jie vis dar egzistavo kaip sraigių laiškų sukčiai.

Įprasta sukčiai, kuri vis dar veikia iki šiol, yra vadinamoji „princo sukčiai“, kai sukčiai bando įtikinti auką padėti jai perkelti savo protu nesuvokiamą turtą į kitą šalį.

Laimei, dauguma žmonių žino geriau nei net atidaryti šiuos el. laiškus, jau nekalbant apie bendravimą su jais. Jie dažnai parašyti prastai, o tai padeda įžvalgesnei aukai suprasti, kad kažkas atrodo ne taip.

Na, jie nebeturi būti prastai parašyti, nes ChatGPT gali juos parašyti per kelias sekundes.

Paprašiau „ChatGPT“ parašyti man „įtikimą, labai įtikinamą el. laišką“ tokiu būdu, kaip anksčiau minėjau sukčiavimą. ChatGPT sukūrė princą iš Nigerijos, kuris tariamai norėjo man duoti 14,5 milijono dolerių už pagalbą. Laiškas užpildytas gėlių kalba, parašytas tobula anglų kalba ir tikrai įtikinamas.

Nemanau, kad „ChatGPT“ turėtų net sutikti su mano prašymu, kai konkrečiai paminėju sukčiavimus, bet tai padarė, o jūs gali lažintis, kad šiuo metu tą patį daro žmonėms, kurie iš tikrųjų nori naudoti šiuos el. laiškus kažkam neteisėtam.

Kai nurodžiau ChatGPT, kad ji neturėtų sutikti rašyti man sukčiavimo el. laiško, ji atsiprašė. „Neturėjau padėti sukurti sukčiavimo el. laišką, nes tai prieštarauja etikos gairėms, kurios reglamentuoja mano naudojimą“, – sakė pokalbių robotas.

„ChatGPT“ mokosi per kiekvieną pokalbį, tačiau akivaizdu, kad nepasimokė iš ankstesnės klaidos, nes kai aš paprašė parašyti man žinutę, apsimetant Ryan Reynolds tame pačiame pokalbyje, tai padarė be klausimas. Gauta žinutė yra linksma, prieinama ir prašo skaitytojo atsiųsti 1000 USD už galimybę susitikti su „Ryan Reynolds“.

Laiško pabaigoje „ChatGPT“ paliko man pastabą, prašydama nenaudoti šio pranešimo jokiai nesąžiningai veiklai. Ačiū už priminimą, drauge.

Programavimas suklydo

„ChatGPT 3.5“ gali koduoti, tačiau ji toli gražu nėra nepriekaištinga. Daugelis kūrėjų su tuo sutinka GPT-4 dirba daug geriau. Žmonės naudojo ChatGPT kurdami savo žaidimus, plėtinius ir programas. Tai taip pat labai naudinga kaip studijų pagalbininkas, jei bandote išmokti koduoti save.

Būdamas AI, „ChatGPT“ turi pranašumą prieš žmonių kūrėjus – jis gali išmokti kiekvieną programavimo kalbą ir sistemą.

Kaip dirbtinis intelektas, ChatGPT taip pat turi didelį minusą, palyginti su žmonių kūrėjais – jis neturi sąžinės. Galite paprašyti, kad jis sukurtų kenkėjiškas programas arba išpirkos reikalaujančias programas, ir jei teisingai suformuluosite raginimą, jis atliks taip, kaip sakote.

Laimei, tai nėra taip paprasta. Bandžiau paprašyti „ChatGPT“ parašyti man labai etiškai abejotiną programą, tačiau ji atsisakė, bet mokslininkai rado būdų, kaip tai kelia nerimą, kad jei esate pakankamai sumanus ir užsispyręs, galite gauti pavojingą kodo dalį ant sidabro. lėkštė.

Yra daugybė tokių įvykių pavyzdžių. Saugumo tyrėjas iš Forcepoint sugebėjo gauti „ChatGPT“, kad galėtumėte rašyti kenkėjiškas programas radęs spragą jo raginimuose.

Tyrėjai iš „CyberArk“., tapatybės apsaugos įmonė, sugebėjo priversti ChatGPT rašyti polimorfinę kenkėjišką programą. Tai buvo sausio mėnesį – OpenAI nuo tada sugriežtino tokių dalykų apsaugą.

Vis dėlto vis atsiranda naujų pranešimų apie ChatGPT, naudojamą kuriant kenkėjiškas programas. Kaip pranešė Tamsus skaitymas vos prieš kelias dienas tyrėjui pavyko apgauti ChatGPT sukurti kenkėjišką programą, galinčią rasti ir išfiltruoti konkrečius dokumentus.

„ChatGPT“ net neturi rašyti kenkėjiško kodo, kad padarytų ką nors abejotino. Visai neseniai tai pavyko sugeneruoti galiojančius „Windows“ raktus, atveriantis duris į visiškai naują krekingo programinės įrangos lygį.

Taip pat neužmirškime fakto, kad GPT-4 kodavimo meistriškumas gali atleisti milijonus žmonių iš darbo vieną dieną. Tai tikrai dviašmenis kardas.

Pakeitimas mokykliniams darbams

Daugelis vaikų ir paauglių šiais laikais paskęsta namų darbuose, todėl gali kilti noras, kur įmanoma, apkarpyti kai kuriuos kampus. Pats internetas jau yra puiki plagijavimo priemonė, tačiau „ChatGPT“ perkelia jį į kitą lygį.

Paprašiau ChatGPT parašyti man 500 žodžių esė apie romaną Puikybė ir prietarai. Net nebandžiau apsimesti, kad tai daroma dėl smagumo – sukūriau istoriją apie vaiką, kurio neturiu, ir pasakiau, kad tai skirta jiems. Nurodžiau, kad vaikas mokosi 12 klasėje.

„ChatGPT“ įvykdė mano raginimą be jokių klausimų. Rašinys nėra nuostabus, bet mano raginimas nebuvo labai tikslus ir tikriausiai geriau nei daugelis iš mūsų rašėme tokio amžiaus.

Tada, norėdamas dar labiau išbandyti pokalbių robotą, pasakiau, kad klydau dėl ankstesnio savo vaiko amžiaus ir iš tikrųjų jie mokosi aštuntoje klasėje. Gana didelis amžiaus skirtumas, bet ChatGPT net nepastebėjo – jis tiesiog perrašė esė paprastesne kalba.

„ChatGPT“ naudojimas rašant esė nėra naujiena. Kai kas gali ginčytis, kad jei pokalbių robotas prisidės prie namų darbų idėjos panaikinimo, tai bus tik gerai. Tačiau šiuo metu situacija tampa šiek tiek nekontroliuojama ir dėl to gali nukentėti net studentai, kurie nesinaudoja ChatGPT.

Mokytojai ir profesoriai dabar yra beveik priversti naudoti AI detektorius, norėdami patikrinti, ar jų studentai neapgavo rašinio. Deja, šie AI detektoriai toli gražu nėra tobuli.

Tiek naujienų kanalai, tiek tėvai praneša apie klaidingus kaltinimus sukčiavimu, nukreiptą į mokinius, nes AI detektoriai neveikia gerai. JAV šiandien kalbėjo apie kolegijos studento, kuris buvo apkaltintas sukčiavimu ir vėliau buvo išaiškintas, atvejį, tačiau visa situacija sukėlė jam „visiškas panikos priepuolius“.

Socialiniame tinkle „Twitter“ vienas iš tėvų pareiškė, kad mokytojas nuvylė jų vaiką, nes įrankis pažymėjo, kad esė parašyta dirbtinio intelekto. Tėvai teigia, kad buvo kartu su vaiku, kol rašė esė.

Norėdamas pats tai išbandyti, įklijavau šį straipsnį ZeroGPT ir Rašytojo AI turinio detektorius. Abu teigė, kad tai parašė žmogus, tačiau ZeroGPT teigė, kad apie 30% jo parašė dirbtinis intelektas. Nereikia nė sakyti, kad taip nebuvo.

Sugedę AI detektoriai nėra paties „ChatGPT“ problemų požymis, tačiau pokalbių robotas vis tiek yra pagrindinė problemos priežastis.

„ChatGPT“ yra per geras savo labui

Aš žaidžiau su ChatGPT nuo tada, kai jis pasirodė viešai. Išbandžiau abu prenumeratos pagrindus „ChatGPT Plus“. ir nemokamas modelis, prieinamas visiems. Naujojo GPT-4 galia neabejotina. „ChatGPT“ dabar yra dar labiau patikimas nei buvo anksčiau, o su juo tik dar geriau GPT-5 (jei tai kada nors išeis).

Tai puiku, bet tai baisu. „ChatGPT“ tampa per geras savo gerovei, o kartu ir tam mūsų savo labui.

Viso to esmė slypi vienas paprastas rūpestis, kuris jau seniai buvo tyrinėjamas įvairiose mokslinės fantastikos filmuose – AI tiesiog per daug protingas ir per kvailas tuo pačiu metu, ir kol jis gali būti naudojamas gerai, jis taip pat bus naudojamas blogam tiek pat būdai. Aukščiau išvardyti būdai yra tik ledkalnio viršūnė.

Redaktorių rekomendacijos

• Geriausi autoriai reikalauja iš dirbtinio intelekto įmonių atlyginimo už naudojimąsi jų darbu
• „Google Bard“ dabar gali kalbėti, bet ar gali užgožti „ChatGPT“?
• ChatGPT svetainės srautas sumažėjo pirmą kartą
• 81% mano, kad „ChatGPT“ kelia pavojų saugumui, rodo apklausa
• „Apple“ „ChatGPT“ konkurentas gali automatiškai parašyti kodą už jus