ChatGPT ešte nie je taký chytrý, aby dokázal nájsť svoje vlastné nedostatky, takže jeho tvorca sa obracia na ľudí so žiadosťou o pomoc.
OpenAI v utorok predstavila program bug bounty, ktorý povzbudzuje ľudí, aby lokalizovali a hlásili zraniteľnosti a chyby v jej systémoch umelej inteligencie, ako napr. ChatGPT a GPT-4.
Odporúčané videá
In príspevok OpenAI na svojej webovej stránke s podrobnosťami o programe uviedla, že odmeny za správy sa budú pohybovať od 200 USD za zistenia s nízkou závažnosťou až po 20 000 USD za to, čo nazýva „výnimočné objavy“.
Spoločnosť podporovaná Microsoftom uviedla, že jej ambíciou je vytvoriť systémy AI, ktoré „prinesú úžitok všetkým“. a dodáva: „Na tento účel veľa investujeme do výskumu a inžinierstva, aby sme zaistili bezpečnosť našich systémov AI zabezpečiť. Ako pri každej zložitej technológii však chápeme, že sa môžu objaviť slabé miesta a chyby.“
OpenAI oslovila bezpečnostných výskumníkov, ktorí sa zaujímali o zapojenie sa do programu, a uviedla, že uznáva „kritickú dôležitosť bezpečnosti a vníma ju ako spoločné úsilie. Zdieľaním svojich zistení zohráš kľúčovú úlohu pri vytváraní našej technológie bezpečnejšej pre všetkých.“
Keďže stále viac ľudí používa ChatGPT a ďalšie produkty OpenAI, spoločnosť chce rýchlo vystopovať akékoľvek potenciálne problémy na zabezpečenie hladkého chodu systémov a na zabránenie zneužitia akýchkoľvek slabých stránok na zločiny účely. OpenAI preto dúfa, že zapojením sa do technickej komunity dokáže vyriešiť akékoľvek problémy skôr, ako sa stanú vážnejšími problémami.
Kalifornská spoločnosť už jeden strašiak zažila kde chyba odhalila tituly konverzácií niektorých používateľov, keď mali zostať súkromné.
Sam Altman, generálny riaditeľ OpenAI, po incidente minulý mesiac povedal, že nehodu v súkromí považuje za „významný problém“ a dodal: „Máme z toho hrozný pocit.“ Teraz je to opravené.
Chyba sa stala väčším problémom pre OpenAI, keď Taliansko vyjadrilo vážne obavy v súvislosti s porušením súkromia a rozhodol sa zakázať ChatGPT, kým vykoná dôkladné vyšetrovanie. Talianske úrady tiež požadujú podrobnosti o opatreniach, ktoré má OpenAI v úmysle prijať, aby sa to už neopakovalo.
Odporúčania redaktorov
- Google Bard teraz môže hovoriť, ale dokáže prehlušiť ChatGPT?
- ChatGPT: najnovšie správy, kontroverzie a tipy, ktoré potrebujete vedieť
- Funkcia prehliadania Bing služby ChatGPT je deaktivovaná kvôli chybe v prístupe k paywallu
- 81 % si myslí, že ChatGPT je bezpečnostné riziko, zistil prieskum
- Konkurent spoločnosti Apple ChatGPT môže automaticky napísať kód za vás
Zlepšite svoj životný štýlDigitálne trendy pomáhajú čitateľom mať prehľad o rýchlo sa rozvíjajúcom svete technológií so všetkými najnovšími správami, zábavnými recenziami produktov, užitočnými úvodníkmi a jedinečnými ukážkami.
