Uruchomiono Google Bard, jego rywal z ChatGPT, pomimo wewnętrznych obaw, że jest „patologicznym kłamcą” i przynosi „zarażające” wyniki, jak stwierdzono w nowym raporcie. Pracownik twierdzi, że w gorączkowej próbie najwyraźniej zignorowano te obawy dogonić ChatGPT i zapobiegnij zagrożeniu, jakie może stanowić Wyszukiwarka Google.
Objawienia pochodzą od A Raport Bloomberga w które trzeba było się zagłębić Google Bard oraz kwestie zgłaszane przez pracowników, którzy pracowali nad projektem. To otwierający oczy opis przypadków, w których chatbot najwyraźniej zepsuł się, oraz obaw, jakie te incydenty wzbudziły wśród zaniepokojonych pracowników.
Na przykład Bloomberg cytuje anonimowego pracownika, który poprosił Barda o instrukcje, jak wylądować samolotem, a następnie z przerażeniem zobaczył, że opis Barda doprowadzi do katastrofy. Inny pracownik powiedział, że wskazówki Barda dotyczące nurkowania „prawdopodobnie spowodowałyby poważne obrażenia lub śmierć”.
Powiązany
- ChatGPT: najnowsze wiadomości, kontrowersje i wskazówki, które musisz znać
- Co to jest zachęta DAN dla ChatGPT?
- Google Bard może teraz mówić, ale czy może zagłuszyć ChatGPT?
Według niego kwestie te najwyraźniej zostały poruszone na krótko przed premierą Barda, mimo że Google nalegał na datę uruchomienia, tak bardzo zależało mu na dotrzymaniu kroku zmianom ścieżka wytyczona przez ChatGPT. Zrobiła to jednak lekceważąc własne zobowiązania etyczne, co skutkuje nie tylko niebezpiecznymi radami, ale także potencjalnym rozprzestrzenianiem się dezinformacji.
Polecane filmy
Spieszę do startu
W 2021 r. Google zobowiązał się podwoić swój zespół pracowników badających etyczne konsekwencje sztucznej inteligencji (AI) i zwiększyć inwestycje w określanie potencjalnych szkód. Jednak według raportu Bloomberga zespół ten jest obecnie „pozbawiony władzy i zdemoralizowany”. Co gorsza, członkom zespołu powiedziano, aby „nie przeszkadzali ani nie próbowali niszczyć żadnego z rozwijanych narzędzi generatywnej sztucznej inteligencji”, co stawia pod znakiem zapytania zaangażowanie Google w etykę sztucznej inteligencji.
Można to było zobaczyć w akcji tuż przed startem Barda. W lutym pracownik Google wysłał wiadomość do wewnętrznej grupy, w której napisał: „Bard jest gorszy niż bezużyteczny: proszę nie uruchamiać”, a wielu innych pracowników zgodziło się z tym. W następnym miesiącu Jen Gennai, kierownik ds. zarządzania sztuczną inteligencją w Google, uchyliła ocenę ryzyka, którą stwierdził Bard mógł wyrządzić krzywdę i nie był gotowy do uruchomienia, forsując pierwsze publiczne wydanie chatbota.
Raport Bloomberga przedstawia obraz firmy nieufnej wobec kwestii etycznych, które jej zdaniem mogą zagrozić rentowności jej własnych produktów. Na przykład jeden z pracowników poprosił o pracę nad uczciwością w uczeniu maszynowym, ale wielokrotnie go zniechęcano do tego stopnia, że miało to wpływ na ocenę jego wyników. Menedżerowie skarżyli się, że względy etyczne utrudniają ich „prawdziwą pracę” – stwierdził pracownik.
To niepokojące stanowisko, zwłaszcza że widzieliśmy już wiele przykładów Niewłaściwe postępowanie chatbota AI które dostarczyły obraźliwych, wprowadzających w błąd lub wręcz fałszywych informacji. Jeśli raport Bloomberga ma rację co do pozornie wrogiego podejścia Google do kwestii etycznych, może to być dopiero początek problemów powodowanych przez sztuczną inteligencję.
Zalecenia redaktorów
- Czołowi autorzy żądają zapłaty od firm zajmujących się sztuczną inteligencją za korzystanie z ich pracy
- GPT-4: jak korzystać z chatbota AI, który zawstydza ChatGPT
- Wix używa ChatGPT, aby pomóc Ci szybko zbudować całą witrynę internetową
- Twórca ChatGPT, OpenAI, staje przed dochodzeniem FTC w sprawie przepisów dotyczących ochrony konsumentów
- Ruch na stronie ChatGPT spadł po raz pierwszy
Ulepsz swój styl życiaDigital Trends pomaga czytelnikom śledzić szybko rozwijający się świat technologii dzięki najnowszym wiadomościom, zabawnym recenzjom produktów, wnikliwym artykułom redakcyjnym i jedynym w swoim rodzaju zajawkom.
