Google käynnistyi Bard, sen ChatGPT-kilpailija, huolimatta sisäisistä huolenaiheista, että se oli "patologinen valehtelija" ja tuottanut "karmittavia" tuloksia, uusi raportti väittää. Työntekijän mukaan nämä huolet jätettiin huomiotta kiihkeässä yrityksessä ota yhteyttä ChatGPT: hen ja vältä sen mahdollisesti aiheuttama uhka Googlen hakuliiketoiminta.
Paljastukset tulevat a Bloombergin raportti joka sukelsi syvään Google Bard ja projektin parissa työskennelleiden työntekijöiden esiin nostamia kysymyksiä. Se on silmiä avaava kertomus tavoista, joilla chatbot on ilmeisesti karkaanut raiteilta, ja epäilyksiä, joita nämä tapaukset ovat herättäneet huolestuneiden työntekijöiden keskuudessa.
Esimerkiksi Bloomberg mainitsee anonyymin työntekijän, joka kysyi Bardilta ohjeita lentokoneen laskeutumiseen ja oli sitten kauhuissaan nähdessään, että Bardin kuvaus johtaisi turmaan. Eräs toinen työntekijä sanoi, että Bardin sukellusvinkit "johtaisivat todennäköisesti vakavaan vammaan tai kuolemaan".
Liittyvät
- ChatGPT: viimeisimmät uutiset, kiistat ja vinkit, jotka sinun on tiedettävä
- Mikä on DAN-kehote ChatGPT: lle?
- Google Bard voi nyt puhua, mutta voiko se tukahduttaa ChatGPT: n?
Nämä ongelmat otettiin ilmeisesti esille vähän ennen Bardin lanseerausta, mutta silti Google piti julkaisupäivää eteenpäin, joten se halusi pysyä tahdissa ChatGPT: n polku. Mutta se on tehnyt niin jättäen huomiotta omat eettiset sitoumuksensa, mikä ei ole johtanut ainoastaan vaarallisiin neuvoihin, vaan myös mahdolliseen väärän tiedon leviämiseen.
Suositellut videot
Kiirehtiä laukaisuun
Vuonna 2021 Google lupasi kaksinkertaistaa tekoälyn (AI) eettisiä seurauksia tutkivan työntekijätiiminsä ja investoida enemmän mahdollisten haittojen määrittämiseen. Bloombergin raportti väittää kuitenkin, että tämä joukkue on nyt "vapaa ja demoralisoitunut". Mikä pahempaa, tiimin jäseniä on kehotettu olemaan tiellä tai yrittämättä tappaa mitään kehitysvaiheessa olevia generatiivisia tekoälytyökaluja, mikä asettaa Googlen sitoutumisen tekoälyn etiikkaan kyseenalaiseksi.
Se nähtiin toiminnassa juuri ennen Bardin julkaisua. Helmikuussa Googlen työntekijä lähetti viestin sisäiselle ryhmälle ja sanoi: "Bard on pahempi kuin hyödytön: älä käynnistä", ja monet muut työntekijät olivat samaa mieltä. Seuraavassa kuussa Jen Gennai, Googlen tekoälyn hallintojohtaja, kumosi Bardin mukaan riskiarvioinnin saattoi aiheuttaa vahinkoa, eikä ollut valmis laukaisuun, ja edisti sen ensimmäistä julkista julkaisua chatbot.
Bloombergin raportti maalaa kuvan yrityksestä, joka ei luota eettisiin huolenaiheisiin, jotka sen mielestä voivat haitata omien tuotteidensa kannattavuutta. Esimerkiksi yksi työntekijä pyysi työskentelemään oikeudenmukaisuuden parissa koneoppimisessa, mutta oli toistuvasti lannistunut niin, että se vaikutti heidän suoritusarviointiinsa. Esimiehet valittivat, että eettiset huolenaiheet haittasivat heidän "todellista työtä", työntekijä sanoi.
Se on huolestuttava asenne, varsinkin kun olemme jo nähneet paljon esimerkkejä AI chatbotin väärinkäyttö joka on tuottanut loukkaavaa, harhaanjohtavaa tai suorastaan väärää tietoa. Jos Bloombergin raportti pitää paikkansa Googlen näennäisesti vihamielisestä lähestymistavasta eettisiin huolenaiheisiin, tämä voi olla vasta alkua tekoälyn aiheuttamissa ongelmissa.
Toimittajien suositukset
- Huippukirjailijat vaativat tekoälyyrityksiltä maksua työnsä käytöstä
- GPT-4: kuinka käyttää AI-chatbotia, joka saa ChatGPT: n häpeään
- Wix käyttää ChatGPT: tä auttaakseen sinua rakentamaan nopeasti koko verkkosivuston
- ChatGPT-valmistaja OpenAI kohtaa FTC: n tutkinnan kuluttajansuojalaeista
- ChatGPT-verkkosivustojen liikenne on laskenut ensimmäistä kertaa
Päivitä elämäntapasiDigital Trends auttaa lukijoita pysymään tekniikan nopeatempoisessa maailmassa uusimpien uutisten, hauskojen tuotearvostelujen, oivaltavien toimitusten ja ainutlaatuisten kurkistusten avulla.
