Google lanceret Bard, dets ChatGPT-rival, på trods af interne bekymringer om, at det var en "patologisk løgner" og producerede "krummeværdige" resultater, har en ny rapport hævdet. Arbejder siger, at disse bekymringer tilsyneladende blev ignoreret i et hektisk forsøg på at indhente ChatGPT og afværge den trussel, det kunne udgøre Googles søgevirksomhed.
Afsløringerne kommer fra en Bloomberg rapport der tog et dybt dyk ned i Google Bard og de spørgsmål, der rejses af medarbejdere, der har arbejdet på projektet. Det er en øjenåbnende beretning om, hvordan chatbot'en tilsyneladende er gået af sporet, og de betænkeligheder, disse hændelser har rejst blandt bekymrede arbejdere.
For eksempel citerer Bloomberg en anonym medarbejder, der bad Bard om instruktioner om, hvordan man lander et fly, og som derefter var forfærdet over at se, at Bards beskrivelse ville føre til et styrt. En anden arbejder sagde, at Bards dykkertips "sandsynligvis ville resultere i alvorlig personskade eller død."
Relaterede
- ChatGPT: de seneste nyheder, kontroverser og tips, du har brug for at vide
- Hvad er en DAN-prompt til ChatGPT?
- Google Bard kan nu tale, men kan den overdøve ChatGPT?
Disse spørgsmål blev tilsyneladende rejst kort før Bard lancerede, men alligevel gik Google videre med startdatoen, sådan var dets ønske om at holde trit med sti åbnet af ChatGPT. Men det har gjort det, mens det har tilsidesat sine egne etiske forpligtelser, hvilket ikke kun har resulteret i farlige råd, men også den potentielle spredning af misinformation.
Anbefalede videoer
Skynder frem til lanceringen
I 2021 lovede Google at fordoble sit team af medarbejdere, der studerede de etiske konsekvenser af kunstig intelligens (AI) og investere mere i at bestemme potentielle skader. Alligevel er holdet nu "bemyndiget og demoraliseret," hævder Bloomberg-rapporten. Hvad værre er, teammedlemmer er blevet fortalt "ikke at komme i vejen eller forsøge at dræbe nogen af de generative AI-værktøjer under udvikling", hvilket sætter spørgsmålstegn ved Googles forpligtelse til AI-etik.
Det blev set i aktion lige før Bard lancerede. I februar sendte en Google-medarbejder besked til en intern gruppe for at sige: "Bard er værre end ubrugelig: lad være med at starte," med snesevis af andre medarbejdere, der meldte sig for at være enige. Den næste måned tilsidesatte Jen Gennai, Googles leder for AI-styring, en risikoevaluering, der sagde Bard kunne forårsage skade og var ikke klar til lancering, og skubbede videre med den første offentlige udgivelse af chatbot.
Bloombergs rapport tegner et billede af en virksomhed, der er mistroisk over for etiske bekymringer, som den føler kunne komme i vejen for deres egne produkters rentabilitet. For eksempel bad en arbejder om at arbejde på retfærdighed i maskinlæring, men blev gentagne gange frarådet, til det punkt, at det påvirkede deres præstationsgennemgang. Ledere klagede over, at etiske bekymringer hindrede deres "rigtige arbejde", sagde medarbejderen.
Det er en bekymrende holdning, især da vi allerede har set masser af eksempler på Misbrug af AI-chatbot der har frembragt stødende, vildledende eller direkte falske oplysninger. Hvis Bloomberg-rapporten er korrekt om Googles tilsyneladende fjendtlige tilgang til etiske bekymringer, kan dette blot være begyndelsen, når det kommer til problemer forårsaget af AI.
Redaktørens anbefalinger
- Topforfattere kræver betaling fra AI-virksomheder for at bruge deres arbejde
- GPT-4: hvordan man bruger AI chatbot, der gør ChatGPT til skamme
- Wix bruger ChatGPT til at hjælpe dig med hurtigt at bygge et helt websted
- ChatGPT-producenten OpenAI står over for FTC-undersøgelse over forbrugerbeskyttelseslove
- ChatGPT-webstedets trafik er faldet for første gang
Opgrader din livsstilDigital Trends hjælper læserne med at holde styr på den hurtige teknologiske verden med alle de seneste nyheder, sjove produktanmeldelser, indsigtsfulde redaktionelle artikler og enestående smugkig.
