ChatGPT še ni tako pameten, da bi lahko našel lastne napake, zato se njegov ustvarjalec za pomoč obrača na ljudi.
OpenAI je v torek razkril program nagrajevanja hroščev, ki spodbuja ljudi, da poiščejo in prijavijo ranljivosti in hrošče v svojih sistemih umetne inteligence, kot je npr. ChatGPT in GPT-4.
Priporočeni videoposnetki
notri objava na svoji spletni strani, ki opisuje podrobnosti programa, je OpenAI dejal, da se bodo nagrade za poročila gibale od 200 dolarjev za ugotovitve nizke resnosti do do 20.000 dolarjev za tako imenovana "izjemna odkritja".
Podjetje, ki ga podpira Microsoft, je dejalo, da je njegova ambicija ustvariti sisteme umetne inteligence, ki bodo "v korist vsem". in dodal: »V ta namen veliko vlagamo v raziskave in inženiring, da zagotovimo, da so naši sistemi AI varni in varno. Vendar kot pri vsaki kompleksni tehnologiji razumemo, da se lahko pojavijo ranljivosti in napake.«
OpenAI je ob nagovarjanju varnostnih raziskovalcev, ki se želijo vključiti v program, dejal, da priznava »ključni pomen varnosti in nanjo gleda kot na skupno prizadevanje. Z deljenjem svojih ugotovitev boste igrali ključno vlogo pri zagotavljanju varnosti naše tehnologije za vse.«
Ker vedno več ljudi uporablja ChatGPT in druge izdelke OpenAI, si podjetje želi hitro izslediti kakršne koli morebitne težave, da zagotovite nemoteno delovanje sistemov in preprečite, da bi se morebitne slabosti zlorabile za nečedne namene namene. OpenAI zato upa, da bo s sodelovanjem s tehnološko skupnostjo lahko rešil vse težave, preden postanejo resnejše.
Podjetje s sedežem v Kaliforniji se je že enkrat prestrašilo kjer je napaka razkrila naslove pogovorov nekaterih uporabnikov, ko bi morali ostati zasebni.
Sam Altman, izvršni direktor OpenAI, je po incidentu prejšnji mesec dejal, da meni, da je nesreča glede zasebnosti "pomembna težava", in dodal: "Glede tega se počutimo grozno." Zdaj je bilo popravljeno.
Napaka je postala večja težava za OpenAI, ko Italija je izrazila resno zaskrbljenost zaradi kršitve zasebnosti in se odločil prepovedati ChatGPT, medtem ko izvaja temeljito preiskavo. Italijanske oblasti zahtevajo tudi podrobnosti o ukrepih, ki jih namerava OpenAI sprejeti, da prepreči, da bi se to ponovilo.
Priporočila urednikov
- Google Bard lahko zdaj govori, a ali lahko preglasi ChatGPT?
- ChatGPT: najnovejše novice, polemike in nasveti, ki jih morate vedeti
- Funkcija brskanja Bing ChatGPT je onemogočena zaradi napake pri dostopu do plačljivega zidu
- 81 % meni, da ChatGPT predstavlja varnostno tveganje, ugotavlja raziskava
- Appleov tekmec ChatGPT lahko samodejno napiše kodo za vas
Nadgradite svoj življenjski slogDigitalni trendi bralcem pomagajo slediti hitremu svetu tehnologije z vsemi najnovejšimi novicami, zabavnimi ocenami izdelkov, pronicljivimi uvodniki in enkratnimi vpogledi v vsebine.
