Er is de afgelopen maanden veel gesproken over hoe de nieuwe golf van AI-aangedreven chatbots, ChatGPT onder hen, zou talloze sectoren, waaronder de advocatuur, op zijn kop kunnen zetten.
Afgaande op wat er recentelijk is gebeurd in een zaak in New York City, lijkt het echter erop dat het nog wel even kan duren voordat hoogopgeleide advocaten door de technologie terzijde worden geschoven.
Aanbevolen video's
De bizarre episode begon toen Roberto Mata een Colombiaanse luchtvaartmaatschappij aanklaagde nadat hij beweerde dat hij gewond was geraakt tijdens een vlucht naar New York City.
Verwant
- Topauteurs eisen betaling van AI-bedrijven voor het gebruik van hun werk
- GPT-4: hoe je de AI-chatbot gebruikt die ChatGPT te schande maakt
- Wix gebruikt ChatGPT om u te helpen snel een hele website te bouwen
De luchtvaartmaatschappij, Avianca, vroeg de rechter om de zaak te seponeren, dus stelde het juridische team van Mata een korte citatie op een half dozijn soortgelijke zaken die zich hadden voorgedaan in een poging de rechter ervan te overtuigen de zaak van hun cliënt te seponeren doorgaan,
de New York Times gerapporteerd.Het probleem was dat de advocaten van de luchtvaartmaatschappij en de rechter geen enkel bewijs konden vinden voor de gevallen genoemd in de brief. Waarom? Omdat ChatGPT ze allemaal verzonnen had.
De maker van de brief, Steven A. Schwartz – een zeer ervaren advocaat bij de firma Levidow, Levidow & Oberman – gaf in een beëdigde verklaring toe dat hij gebruik had gemaakt van OpenAI’s veelgeroemde ChatGPT-chatbot om naar vergelijkbare gevallen te zoeken, maar zei dat deze “zich had onthuld als onbetrouwbaar."
Schwartz vertelde de rechter dat hij ChatGPT niet eerder had gebruikt en “zich daarom niet bewust was van de mogelijkheid dat de inhoud vals zou kunnen zijn.”
Bij het opstellen van de opdracht vroeg Schwartz zelfs aan ChatGPT om te bevestigen dat de gevallen echt hadden plaatsgevonden. De altijd behulpzame chatbot antwoordde bevestigend en zei dat informatie over hen te vinden was in ‘gerenommeerde juridische databases’.
De advocaat in het middelpunt van de storm zei dat hij “zeer spijt heeft” van het gebruik van ChatGPT om de opdracht te maken en benadrukte dat hij “dit in de toekomst nooit meer zou doen zonder absolute verificatie van de authenticiteit ervan.”
Kijkend naar wat hij omschreef als een juridische indiening vol ‘nep-gerechtelijke beslissingen, met valse citaten en valse interne uitspraken citaten,” en beschrijft de situatie als ongekend, en rechter Castel heeft begin volgende maand een hoorzitting bevolen om te overwegen mogelijke straffen.
Hoewel indrukwekkend in de manier waarop ze vloeiende tekst van hoge kwaliteit produceren, vinden ChatGPT en andere chatbots dit leuk staan er ook om bekend dat ze dingen verzinnen en presenteren alsof het echt is – iets wat Schwartz van hem heeft geleerd kosten. Het fenomeen staat bekend als ‘hallucinerend’ en is een van de grootste uitdagingen waarmee de menselijke ontwikkelaars achter de chatbots worden geconfronteerd terwijl ze proberen deze zeer problematische plooi glad te strijken.
In een ander recent voorbeeld van een generatieve AI-tool die hallucineert, an De Australische burgemeester beschuldigde ChatGPT van het creëren van leugens over hem, waaronder dat hij meer dan tien jaar geleden in de gevangenis zat wegens omkoping toen hij voor een bank werkte.
De burgemeester, Brian Hood, was eigenlijk een klokkenluider in de zaak en werd nooit beschuldigd van een misdrijf, dus hij was nogal boos toen mensen hem begonnen te informeren over de herschrijving van de geschiedenis door de chatbot.
Aanbevelingen van de redactie
- Dit is de reden waarom mensen denken dat GPT-4 in de loop van de tijd dommer zal worden
- ChatGPT: het laatste nieuws, controverses en tips die u moet weten
- Wat is een DAN-prompt voor ChatGPT?
- Google Bard kan nu spreken, maar kan het ChatGPT overstemmen?
- ChatGPT-maker OpenAI wordt geconfronteerd met een FTC-onderzoek naar wetten inzake consumentenbescherming
Upgrade uw levensstijlMet Digital Trends kunnen lezers de snelle technische wereld in de gaten houden met het laatste nieuws, leuke productrecensies, inzichtelijke redactionele artikelen en unieke sneak peeks.
