Google spustil Bard, jeho rival ChatGPT, napriek vnútorným obavám, že bol „patologickým klamárom“ a priniesol „hrozivé“ výsledky, tvrdí nová správa. Pracovník hovorí, že tieto obavy boli zjavne ignorované v zúfalom pokuse dohnať ChatGPT a odvrátiť hrozbu, ktorú by to mohlo predstavovať podnikanie v oblasti vyhľadávania Google.
Odhalenia pochádzajú od a Správa Bloomberg ktorý sa hlboko ponoril do Google Bard a problémy vznesené zamestnancami, ktorí pracovali na projekte. Je to pútavý popis spôsobov, ako chatbot zjavne vyšiel z koľají, a obavy, ktoré tieto incidenty vyvolali medzi zainteresovanými pracovníkmi.
Bloomberg napríklad cituje anonymného zamestnanca, ktorý požiadal Barda o pokyny, ako pristáť s lietadlom, a potom bol zdesený, keď videl, že Bardov popis by viedol k havárii. Iný pracovník povedal, že Bardove tipy na potápanie „by pravdepodobne viedli k vážnemu zraneniu alebo smrti“.
Súvisiace
- ChatGPT: najnovšie správy, kontroverzie a tipy, ktoré potrebujete vedieť
- Čo je výzva DAN pre ChatGPT?
- Google Bard teraz môže hovoriť, ale dokáže prehlušiť ChatGPT?
Tieto problémy boli podľa všetkého nastolené krátko pred uvedením spoločnosti Bard na trh, no Google tlačil vpred s dátumom uvedenia do prevádzky, taká bola jeho túžba držať krok s cesta prežiarená ChatGPT. Urobil to však bez ohľadu na svoje vlastné etické záväzky, čo má za následok nielen nebezpečné rady, ale aj potenciálne šírenie dezinformácií.
Odporúčané videá
Ponáhľa sa na spustenie
V roku 2021 sa Google zaviazal zdvojnásobiť svoj tím zamestnancov, ktorí študujú etické dôsledky umelej inteligencie (AI), a viac investovať do určovania potenciálnych škôd. Napriek tomu je tento tím teraz „vyradený z moci a demoralizovaný“, tvrdí správa Bloomberg. Čo je horšie, členom tímu bolo povedané, „aby neprekážali ani sa nepokúšali zabiť niektorý z generatívnych nástrojov AI vo vývoji“, čo spochybňuje záväzok spoločnosti Google k etike AI.
To bolo vidieť v akcii tesne predtým, ako Bard spustil. Vo februári pracovník spoločnosti Google poslal internej skupine správu, aby povedal: „Bard je horší ako zbytočný: nespúšťajte to, prosím,“ a mnohí ďalší zamestnanci súhlasili. Nasledujúci mesiac Jen Gennai, vedúca spoločnosti Google pre riadenie AI, zrušila hodnotenie rizika, ktoré povedal Bard mohol spôsobiť ujmu a nebol pripravený na spustenie, čím sa presadilo prvé verejné vydanie chatbot.
Správa agentúry Bloomberg vykresľuje obraz spoločnosti nedôverčivej voči etickým obavám, ktoré by podľa nej mohli brániť ziskovosti jej vlastných produktov. Napríklad jeden pracovník požiadal, aby pracoval na spravodlivosti v strojovom učení, ale opakovane ho to odrádzalo do tej miery, že to ovplyvnilo ich hodnotenie výkonu. Manažéri sa sťažovali, že etické obavy bránia ich „skutočnej práci“, uviedol zamestnanec.
Je to znepokojujúci postoj, najmä preto, že sme už videli veľa príkladov Nesprávne správanie AI chatbota ktoré poskytli urážlivé, zavádzajúce alebo vyslovene nepravdivé informácie. Ak má správa Bloomberg pravdu o zdanlivo nepriateľskom prístupe spoločnosti Google k etickým obavám, môže to byť len začiatok, pokiaľ ide o problémy spôsobené AI.
Odporúčania redaktorov
- Špičkoví autori požadujú od firiem AI platbu za používanie ich práce
- GPT-4: ako používať chatbota AI, ktorý robí ChatGPT hanbou
- Wix používa ChatGPT, ktorý vám pomôže rýchlo vytvoriť celý web
- Výrobca ChatGPT OpenAI čelí vyšetrovaniu FTC v súvislosti so zákonmi na ochranu spotrebiteľa
- Návštevnosť webu ChatGPT prvýkrát klesla
Zlepšite svoj životný štýlDigitálne trendy pomáhajú čitateľom mať prehľad o rýchlo sa rozvíjajúcom svete technológií so všetkými najnovšími správami, zábavnými recenziami produktov, užitočnými úvodníkmi a jedinečnými ukážkami.
