Google gelanceerd Bard, zijn ChatGPT-rivaal, ondanks interne zorgen dat het een ‘pathologische leugenaar’ was en ‘enkele’ resultaten opleverde, zo beweert een nieuw rapport. Werknemers zeggen dat deze zorgen blijkbaar werden genegeerd in een verwoede poging om dat te doen blijf bij ChatGPT en vermijd de dreiging die het zou kunnen opleveren De zoekactiviteiten van Google.
De onthullingen komen van a Bloomberg-rapport waar een diepe duik in werd genomen Google Bard en de kwesties die aan de orde zijn gesteld door medewerkers die aan het project hebben gewerkt. Het is een opzienbarend verslag van de manieren waarop de chatbot blijkbaar ontspoord is en de twijfels die deze incidenten bij bezorgde werknemers hebben opgeroepen.
Bloomberg citeert bijvoorbeeld een anonieme medewerker die Bard om instructies vroeg over hoe hij een vliegtuig moest landen en vervolgens geschokt was toen hij zag dat de beschrijving van Bard tot een crash zou leiden. Een andere medewerker zei dat de duiktips van Bard ‘waarschijnlijk zouden resulteren in ernstig letsel of de dood’.
Verwant
- ChatGPT: het laatste nieuws, controverses en tips die u moet weten
- Wat is een DAN-prompt voor ChatGPT?
- Google Bard kan nu spreken, maar kan het ChatGPT overstemmen?
Deze kwesties zijn kennelijk aan de orde gesteld kort voordat Bard werd gelanceerd, maar toch ging Google door met de datum van livegang, zo groot was de wens om gelijke tred te houden met de ontwikkelingen. pad gebaand door ChatGPT. Maar het heeft dit gedaan terwijl het zijn eigen ethische verplichtingen negeerde, wat niet alleen resulteerde in gevaarlijk advies, maar ook in de potentiële verspreiding van verkeerde informatie.
Aanbevolen video's
Vooruit haasten om te lanceren
In 2021 beloofde Google zijn team van medewerkers die de ethische gevolgen van kunstmatige intelligentie (AI) bestuderen, te verdubbelen en zwaarder te investeren in het vaststellen van mogelijke schade. Toch is dat team nu ‘machteloos en gedemoraliseerd’, beweert het Bloomberg-rapport. Erger nog, teamleden hebben te horen gekregen dat ze “de generatieve AI-tools die in ontwikkeling zijn, niet in de weg mogen lopen of moeten proberen te vernietigen”, waardoor de toewijding van Google aan de AI-ethiek in twijfel wordt getrokken.
Dat werd in actie gezien vlak voordat Bard werd gelanceerd. In februari stuurde een Google-medewerker een interne groep een bericht met de mededeling: “Bard is erger dan nutteloos: start alsjeblieft niet”, terwijl tientallen andere medewerkers het daarmee eens waren. De volgende maand verwierp Jen Gennai, Google’s AI-governance-leider, een risico-evaluatie die Bard zei schade kon veroorzaken en was niet klaar voor lancering, en ging door met de eerste publieke release van de chatbot.
Het rapport van Bloomberg schetst een beeld van een bedrijf dat wantrouwig staat tegenover ethische zorgen waarvan het denkt dat deze de winstgevendheid van zijn eigen producten in de weg zouden kunnen staan. Eén medewerker vroeg bijvoorbeeld om te werken aan eerlijkheid op het gebied van machinaal leren, maar werd herhaaldelijk ontmoedigd, tot het punt dat dit hun prestatiebeoordeling beïnvloedde. Managers klaagden dat ethische zorgen hun ‘echte werk’ in de weg stonden, aldus de medewerker.
Het is een zorgwekkende houding, vooral omdat we er al genoeg voorbeelden van hebben gezien Wangedrag van AI-chatbots die aanstootgevende, misleidende of ronduit valse informatie heeft opgeleverd. Als het Bloomberg-rapport gelijk heeft over de ogenschijnlijk vijandige benadering van Google ten aanzien van ethische kwesties, zou dit nog maar het begin kunnen zijn als het gaat om problemen veroorzaakt door AI.
Aanbevelingen van de redactie
- Topauteurs eisen betaling van AI-bedrijven voor het gebruik van hun werk
- GPT-4: hoe je de AI-chatbot gebruikt die ChatGPT te schande maakt
- Wix gebruikt ChatGPT om u te helpen snel een hele website te bouwen
- ChatGPT-maker OpenAI wordt geconfronteerd met een FTC-onderzoek naar wetten inzake consumentenbescherming
- Het websiteverkeer van ChatGPT is voor het eerst gedaald
Upgrade uw levensstijlMet Digital Trends kunnen lezers de snelle technische wereld in de gaten houden met het laatste nieuws, leuke productrecensies, inzichtelijke redactionele artikelen en unieke sneak peeks.
