„Google“ paleista Bardas, jos „ChatGPT“ varžovas, nepaisant vidinių susirūpinimų, kad jis buvo „patologinis melagis“ ir davė „nesukankinančius“ rezultatus, teigiama naujoje ataskaitoje. Darbuotojas teigia, kad į šiuos rūpesčius buvo nepaisoma įnirtingai bandant tai padaryti susisiekite su „ChatGPT“. ir pašalinkite grėsmę, kurią tai gali sukelti „Google“ paieškos verslas.
Apreiškimai kyla iš a „Bloomberg“ ataskaita kad giliai pasinėrė į Google Bard ir projekte dirbusių darbuotojų iškeltas problemas. Tai akis atveriantis pasakojimas apie tai, kaip pokalbių robotas, matyt, nukrypo nuo bėgių ir kokių nuogąstavimų šie incidentai sukėlė susirūpinusiems darbuotojams.
Pavyzdžiui, „Bloomberg“ cituoja anoniminį darbuotoją, kuris paprašė Bardo nurodymų, kaip leisti lėktuvą, o paskui išsigando pamatęs, kad Bardo aprašymas sukels katastrofą. Kitas darbuotojas sakė, kad Bardo patarimai nardyti „greičiausiai sukels rimtą sužalojimą arba mirtį“.
Susijęs
- ChatGPT: naujausios naujienos, ginčai ir patarimai, kuriuos turite žinoti
- Kas yra „ChatGPT“ DAN raginimas?
- „Google Bard“ dabar gali kalbėti, bet ar gali užgožti „ChatGPT“?
Šios problemos, matyt, buvo iškeltos prieš pat „Bard“ paleidimą, tačiau „Google“ žengė į priekį, o tai buvo jos noras žengti koja kojon su ChatGPT nutiestas kelias. Tačiau ji tai padarė nepaisydama savo etinių įsipareigojimų, todėl ne tik buvo pateikti pavojingi patarimai, bet ir galimas dezinformacijos plitimas.
Rekomenduojami vaizdo įrašai
Skubama paleisti
2021 m. „Google“ įsipareigojo padvigubinti savo darbuotojų komandą, tiriančią dirbtinio intelekto (AI) etines pasekmes, ir daugiau investuoti į galimos žalos nustatymą. Tačiau ta komanda dabar yra „bejėgių ir demoralizuota“, teigiama „Bloomberg“ pranešime. Dar blogiau, komandos nariams buvo liepta „nekliudyti ir nebandyti nužudyti kuriamų generuojamųjų AI įrankių“, todėl „Google“ įsipareigojimas laikytis AI etikos suabejota.
Tai buvo pastebėta prieš pat Bardo pasirodymą. Vasario mėn. „Google“ darbuotojas išsiuntė žinutę vidinei grupei, sakydamas: „Bardas yra blogesnis nei nenaudingas: prašau nepaleisti“, o daugybė kitų darbuotojų sutiko su tuo. Kitą mėnesį Jen Gennai, „Google“ AI valdymo vadovė, panaikino rizikos vertinimą, kuriame teigė Bardas galėjo pakenkti ir nebuvo pasiruošęs paleisti, stumdamas į priekį pirmą kartą viešai išleisdamas pokalbių robotas.
„Bloomberg“ ataskaitoje pateikiamas vaizdas, kai įmonė nepasitiki etiniais klausimais, kurie, jos nuomone, gali trukdyti jos produktų pelningumui. Pavyzdžiui, vienas darbuotojas paprašė sąžiningai dirbti mašininio mokymosi srityje, bet buvo nuolat atgrasytas, kad tai paveikė jų veiklos peržiūrą. Vadovai skundėsi, kad etiniai rūpesčiai trukdo jų „tikram darbui“, – teigė darbuotoja.
Tai kelia nerimą, ypač todėl, kad jau matėme daugybę pavyzdžių AI chatbot netinkamas elgesys kuri pateikė įžeidžiančią, klaidinančią ar visiškai melagingą informaciją. Jei „Bloomberg“ ataskaita yra teisinga dėl iš pažiūros priešiško „Google“ požiūrio į etines problemas, tai gali būti tik pradžia, kai kalbama apie AI sukeltas problemas.
Redaktorių rekomendacijos
- Geriausi autoriai reikalauja iš dirbtinio intelekto įmonių atlyginimo už naudojimąsi jų darbu
- GPT-4: kaip naudoti AI pokalbių robotą, dėl kurio „ChatGPT“ daroma gėda
- „Wix“ naudoja „ChatGPT“, kad padėtų greitai sukurti visą svetainę
- „ChatGPT“ gamintoja „OpenAI“ susiduria su FTC tyrimu dėl vartotojų apsaugos įstatymų
- ChatGPT svetainės srautas sumažėjo pirmą kartą
Atnaujinkite savo gyvenimo būdąSkaitmeninės tendencijos padeda skaitytojams stebėti sparčiai besivystantį technologijų pasaulį – pateikiamos visos naujausios naujienos, smagios produktų apžvalgos, įžvalgūs vedamieji leidiniai ir unikalūs žvilgsniai.
