Google Bard este o mizerie etică, spun angajații Google

Google a lansat Bard, rivalul său ChatGPT, în ciuda îngrijorărilor interne că ar fi un „mincinos patologic” și a produs rezultate „demn de groază”, a susținut un nou raport. Muncitorii spun că aceste griji au fost aparent ignorate într-o încercare frenetică de a le face ajungeți din urmă cu ChatGPT și elimină amenințarea pentru care ar putea reprezenta Compania de căutare Google.

Dezvăluirile vin de la a Raportul Bloomberg care a luat o scufundare adâncă în Google Bard și problemele ridicate de angajații care au lucrat la proiect. Este o relatare revelatoare a modului în care se pare că chatbot-ul a ieșit din fire și a îndoielilor pe care aceste incidente le-au stârnit în rândul lucrătorilor îngrijorați.

De exemplu, Bloomberg citează un angajat anonim care i-a cerut lui Bard instrucțiuni despre cum să aterizeze un avion, apoi a fost îngrozit să vadă că descrierea lui Bard ar duce la un accident. Un alt muncitor a spus că sfaturile lui Bard pentru scufundări „ar duce probabil la răni grave sau la moarte”.

Aceste probleme au fost aparent ridicate cu puțin timp înainte de lansarea lui Bard, dar Google a continuat cu data lansării, așa a fost dorința sa de a ține pasul cu calea deschisă de ChatGPT. Dar a făcut acest lucru fără a ține cont de propriile angajamente etice, rezultând nu numai sfaturi periculoase, ci și potențiala răspândire a dezinformării.

Se grăbesc înainte să lanseze

În 2021, Google s-a angajat să-și dubleze echipa de angajați care studiază consecințele etice ale inteligenței artificiale (AI) și să investească mai mult în determinarea potențialelor daune. Cu toate acestea, acea echipă este acum „decapată și demoralizată”, susține raportul Bloomberg. Mai rău, membrilor echipei li s-a spus „să nu intervină în cale sau să încerce să distrugă niciunul dintre instrumentele AI generative aflate în dezvoltare”, punând în discuție angajamentul Google față de etica AI.

Asta a fost văzut în acțiune chiar înainte de lansarea lui Bard. În februarie, un lucrător Google a trimis un mesaj unui grup intern pentru a spune: „Bard este mai rău decât inutil: vă rugăm să nu lansați”, iar zeci de alți angajați au intervenit pentru a fi de acord. Luna următoare, Jen Gennai, responsabilul de guvernare AI al Google, a respins o evaluare a riscurilor care spunea că Bard ar putea provoca rău și nu era pregătit pentru lansare, mergând înainte cu prima lansare publică a chatbot.

Raportul Bloomberg descrie o imagine a unei companii care nu are încredere în preocupările etice despre care consideră că ar putea împiedica profitabilitatea propriilor produse. De exemplu, un lucrător a cerut să lucreze la corectitudine în învățarea automată, dar a fost descurajat în mod repetat, până la punctul în care le-a afectat evaluarea performanței. Managerii s-au plâns că preocupările etice le împiedică „munca reală”, a declarat angajatul.

Este o atitudine îngrijorătoare, mai ales că am văzut deja o mulțime de exemple Conduita greșită a chatbotului AI care a produs informații ofensatoare, înșelătoare sau de-a dreptul false. Dacă raportul Bloomberg este corect cu privire la abordarea aparent ostilă a Google față de preocupările etice, acesta ar putea fi doar începutul când vine vorba de problemele cauzate de AI.

Recomandările editorilor

• Autorii de top cer plăți de la firmele de inteligență artificială pentru utilizarea lucrărilor lor
• GPT-4: cum să folosești chatbot-ul AI care face ChatGPT de rușine
• Wix folosește ChatGPT pentru a vă ajuta să construiți rapid un întreg site
• Creatorul de ChatGPT OpenAI se confruntă cu o anchetă FTC cu privire la legile privind protecția consumatorilor
• Traficul site-ului ChatGPT a scăzut pentru prima dată

Îmbunătățește-ți stilul de viațăDigital Trends îi ajută pe cititori să țină cont de lumea rapidă a tehnologiei cu toate cele mai recente știri, recenzii distractive despre produse, editoriale perspicace și anticipări unice.