Google spustil Bard, jeho rival ChatGPT, navzdory vnitřním obavám, že to byl „patologický lhář“ a přinesl „hrozivé“ výsledky, tvrdí nová zpráva. Pracovník říká, že tyto obavy byly zjevně ignorovány ve zběsilém pokusu dohnat ChatGPT a odvrátit hrozbu, kterou by to mohlo představovat podnikání ve vyhledávání Google.
Odhalení pocházejí od a Zpráva agentury Bloomberg který se hluboce ponořil Google Bard a problémy vznesené zaměstnanci, kteří na projektu pracovali. Je to okouzlující popis způsobů, jak se chatbot zjevně dostal mimo koleje, a obavy, které tyto incidenty vyvolaly mezi dotčenými pracovníky.
Bloomberg například cituje anonymního zaměstnance, který požádal Barda o pokyny, jak přistát s letadlem, a pak se zděsil, když viděl, že Bardův popis povede k havárii. Jiný pracovník řekl, že Bardovy tipy na potápění „by pravděpodobně vedly k vážnému zranění nebo smrti“.
Příbuzný
- ChatGPT: nejnovější zprávy, kontroverze a tipy, které potřebujete vědět
- Co je výzva DAN pro ChatGPT?
- Google Bard nyní umí mluvit, ale dokáže přehlušit ChatGPT?
Tyto problémy byly zjevně nastoleny krátce před uvedením Bard na trh, ale Google tlačil dopředu s datem uvedení do provozu, taková byla jeho touha držet krok s cesta vypálená ChatGPT. Učinila tak ale bez ohledu na své vlastní etické závazky, což vedlo nejen k nebezpečným radám, ale také k potenciálnímu šíření dezinformací.
Doporučená videa
Spěchá napřed ke startu
V roce 2021 se Google zavázal zdvojnásobit svůj tým zaměstnanců studujících etické důsledky umělé inteligence (AI) a více investovat do určování potenciálních škod. Přesto je tento tým nyní „opuštěný a demoralizovaný“, tvrdí zpráva Bloomberg. Ještě horší je, že členům týmu bylo řečeno, „aby nepřekáželi v cestě nebo se nepokoušeli zabít některý z generativních nástrojů umělé inteligence ve vývoji“, což zpochybňuje závazek společnosti Google k etice umělé inteligence.
To bylo vidět v akci těsně předtím, než Bard vystřelil. V únoru poslal pracovník společnosti Google zprávu interní skupině, aby řekl: „Bard je horší než k ničemu: nespouštějte to, prosím,“ s mnoha dalšími zaměstnanci, kteří souhlasili. Příští měsíc Jen Gennai, vedoucí společnosti Google pro správu umělé inteligence, zrušila hodnocení rizik, které řekl Bard mohla způsobit škodu a nebyla připravena ke spuštění, což tlačí dopředu s prvním veřejným vydáním chatbot.
Zpráva agentury Bloomberg vykresluje obraz společnosti nedůvěřivé k etickým obavám, které by podle ní mohly bránit ziskovosti jejích vlastních produktů. Například jeden pracovník požádal, aby pracoval na spravedlnosti ve strojovém učení, ale byl opakovaně odrazován do té míry, že to ovlivnilo jejich kontrolu výkonu. Manažeři si stěžovali, že etické obavy brání jejich „skutečné práci“, uvedl zaměstnanec.
Je to znepokojivý postoj, zejména proto, že jsme již viděli spoustu příkladů Špatné chování AI chatbota které poskytly urážlivé, zavádějící nebo přímo nepravdivé informace. Pokud má zpráva Bloomberg pravdu o zdánlivě nepřátelském přístupu Google k etickým obavám, mohl by to být jen začátek, pokud jde o problémy způsobené AI.
Doporučení redakce
- Špičkoví autoři požadují od firem zabývajících se umělou inteligencí platby za použití jejich díla
- GPT-4: jak používat chatbota s umělou inteligencí, který dělá ChatGPT hanbou
- Wix používá ChatGPT, který vám pomůže rychle vytvořit celý web
- Tvůrce ChatGPT OpenAI čelí vyšetřování FTC kvůli zákonům na ochranu spotřebitele
- Návštěvnost webu ChatGPT poprvé klesla
Upgradujte svůj životní stylDigitální trendy pomáhají čtenářům mít přehled o rychle se měnícím světě technologií se všemi nejnovějšími zprávami, zábavnými recenzemi produktů, zasvěcenými úvodníky a jedinečnými náhledy.
