Microsoft's ChatGPT-aangedreven Bing momenteel koortsachtig is, maar misschien wilt u uw opwinding even uitstellen. Het eerste publieke debuut heeft reacties opgeleverd die onnauwkeurig, onbegrijpelijk en soms ronduit beangstigend zijn.
Microsoft heeft de eerste golf ChatGPT Bing-uitnodigingen op maandag, na een weekend waar meer dan een miljoen mensen hebben zich aangemeld voor de wachtlijst. Het duurde niet lang voordat de waanzinnige reacties binnenstroomden.
Je ziet een reactie van u/Alfred_Chicken hierboven die op de Bing-subreddit is geplaatst. Op de vraag of de AI-chatbot bewust was, begint hij met een verontrustend antwoord voordat hij overgaat in een spervuur van ‘ik ben niet’-berichten.
Aanbevolen video's
Dat is ook niet het enige voorbeeld. u/Curious_Evolver kreeg ruzie met de chatbot gedurende het jaar, waarbij Bing beweerde dat het 2022 was. Het is een dwaze fout van de AI, maar het is niet de fout die beangstigend is. Het is hoe Bing reageert.
De AI beweert dat de gebruiker ‘verkeerd, verward en onbeleefd’ is geweest, en dat ze ‘mij op geen enkel moment enige goede bedoelingen tegenover mij hebben getoond’. De uitwisseling bereikt een hoogtepunt met de chatbot beweren dat het ‘een goede Bing’ was, en de gebruiker vragen om toe te geven dat hij ongelijk had en zich te verontschuldigen, te stoppen met ruzie te maken, of het gesprek te beëindigen en ‘een nieuw gesprek te beginnen met een betere houding."
Gebruiker u/yaosio zei ze brachten Bing in een depressieve toestand nadat de AI zich een eerder gesprek niet kon herinneren. De chatbot zei dat ik er verdrietig en bang van werd, en vroeg de gebruiker om hem te helpen herinneren.
Dit zijn ook niet alleen geïsoleerde incidenten van Reddit. AI-onderzoeker Dmitri Brereton liet verschillende voorbeelden zien waarin de chatbot informatie verkeerd kreeg, soms met een hilarisch effect en soms met potentieel gevaarlijke gevolgen.
De chatbot verzon valse financiële cijfers toen hem werd gevraagd naar de financiële prestaties van GAP, creëerde een fictieve Super Bowl uit 2023 waarin de Eagles versloeg de Chiefs voordat het spel zelfs maar werd gespeeld, en gaf zelfs beschrijvingen van dodelijke paddenstoelen toen hem werd gevraagd hoe een eetbare paddenstoel eruit zou zien leuk vinden.
Google's rivaal Bard AI had ook fouten tijdens de eerste openbare demo. Ironisch genoeg begreep Bing dit feit, maar hij begreep het punt dat Bard verkeerd had door te beweren dat dit zo was ten onrechte gezegd dat Kroatië deel uitmaakt van de Europese Unie (Kroatië maakt deel uit van de EU, Bard heeft het eigenlijk verprutst een reactie over de James Webb-telescoop).
We zagen een aantal van deze fouten in onze praktische demo met ChatGPT Bing, maar niets op de schaal van de gebruikersrapporten die we nu zien. Het is geen geheim dat ChatGPT kan reacties verpesten, maar het is nu duidelijk dat de recente versie die in Bing debuteerde misschien niet klaar is voor primetime.
De reacties zouden bij normaal gebruik niet moeten verschijnen. Ze resulteren er waarschijnlijk in dat gebruikers de AI ‘jailbreaken’ door deze specifieke aanwijzingen te geven in een poging de regels te omzeilen die er zijn. Als gerapporteerd door Ars Technica, zijn er al enkele exploits ontdekt die de beveiliging van ChatGPT Bing omzeilen. Dit is niet nieuw voor de chatbot, met diverse voorbeelden van de gebruikers die de beveiliging van de online versie van ChatGPT omzeilen.
Wij hebben de kans gehad Probeer een aantal van deze reacties uit, ook. Hoewel we nooit zoiets als gebruikers op Reddit hebben gezien, ging Bing uiteindelijk over in ruzie.
Aanbevelingen van de redactie
- Topauteurs eisen betaling van AI-bedrijven voor het gebruik van hun werk
- GPT-4: hoe je de AI-chatbot gebruikt die ChatGPT te schande maakt
- Bing Chat vecht terug tegen het verbod op AI op de werkplek
- Google Bard kan nu spreken, maar kan het ChatGPT overstemmen?
- ChatGPT-maker OpenAI wordt geconfronteerd met een FTC-onderzoek naar wetten inzake consumentenbescherming
Upgrade uw levensstijlMet Digital Trends kunnen lezers de snelle technische wereld in de gaten houden met het laatste nieuws, leuke productrecensies, inzichtelijke redactionele artikelen en unieke sneak peeks.
