Het onhandige gebruik van ChatGPT heeft een advocatenkantoor in New York City een boete van $ 5.000 opgelegd.
Na zoveel gehoord te hebben over de indrukwekkende AI-gestuurde chatbot van OpenAI, besloot advocaat Steven Schwartz deze te gebruiken het voor onderzoek, door door ChatGPT gegenereerde citaten toe te voegen aan een juridische brief die eerder dit aan een rechter is overhandigd jaar. Maar al snel bleek dat de cases volledig verzonnen waren door de chatbot.
Aanbevolen video's
Amerikaanse districtsrechter P. Kevin Castel beval donderdag advocaten Steven Schwartz en Peter LoDuca, die de zaak van zijn collega overnamen, en hun advocatenkantoor Levidow, Levidow & Oberman, een boete van $ 5.000 te betalen.
Verwant
- ChatGPT-maker OpenAI wordt geconfronteerd met FTC-onderzoek over wetten voor consumentenbescherming
- Het verkeer op de ChatGPT-website is voor het eerst gedaald
- De beste AI-chatbots om uit te proberen: ChatGPT, Bard en meer
zei de rechter de advocaten hadden "daden van bewuste vermijding en valse en misleidende verklaringen voor de rechtbank afgelegd", eraan toevoegend dat ze "hun verantwoordelijkheden” door de door A.I. geschreven briefing in te dienen alvorens achter “de nepadviezen te staan nadat gerechtelijke bevelen hun bestaan tot stand brachten vraag."
ging Castel verder: “Veel schade vloeit voort uit het indienen van valse meningen. De tegenpartij verspilt tijd en geld aan het blootleggen van het bedrog. De tijd van de rechtbank wordt genomen van andere belangrijke inspanningen.”
De rechter voegde eraan toe dat de actie van de advocaten "cynisme over de advocatuur en het Amerikaanse rechtssysteem bevordert".
Het advocatenkantoor in Manhattan zei dat het "respectvol" het niet eens was met de mening van de rechtbank en beschreef het als een "fout te goeder trouw".
Tijdens een gerelateerde rechtszitting eerder deze maand, zei Schwartz hij wilde "oprechte excuses aanbieden" voor wat er was gebeurd, en legde uit dat hij dacht dat hij een zoekmachine gebruikte en geen idee had dat de AI-tool onwaarheden kon produceren. Hij zei dat hij "diep spijt had" van zijn acties", eraan toevoegend: "Ik heb zowel professioneel als persoonlijk geleden [vanwege] de wijdverspreide publiciteit die deze kwestie heeft gegenereerd. Ik ben zowel beschaamd, vernederd als extreem berouwvol.”
Het incident hield verband met een zaak die door het advocatenkantoor was aangespannen waarbij een passagier betrokken was die de Colombiaanse luchtvaartmaatschappij Avianca had aangeklaagd nadat hij beweerde dat hij gewond was geraakt tijdens een vlucht naar New York City.
Avianca vroeg de rechter om de zaak te schrappen, dus stelde het juridische team van de passagier een briefing samen waarin zes soortgelijke zaken werden genoemd in een poging de rechter over te halen de zaak van hun cliënt door te laten gaan. Schwartz vond die gevallen door ChatGPT te vragen, maar hij kon de authenticiteit van de resultaten niet controleren. Het juridische team van Avianca sloeg alarm toen het zei dat het de zaken in de opdracht niet kon vinden.
In een afzonderlijk bevel op donderdag willigde de rechter Avianca's motie in om de rechtszaak ertegen af te wijzen, waarmee de hele spijtige episode tot een einde kwam.
ChatGPT en andere soortgelijke chatbots hebben de afgelopen maanden veel aandacht gekregen vanwege hun vermogen om op een menselijke manier te converseren en vakkundig een groeiend scala aan op tekst gebaseerde taken uit te voeren. Maar ze staan er ook om bekend dingen te verzinnen en te presenteren alsof het echt is. Het komt zo vaak voor dat er zelfs een term voor is: 'hallucineren'.
Degenen die aan de generatieve AI-tools werken, zijn aan het verkennen manieren om hallucinaties te verminderen, maar tot die tijd wordt gebruikers geadviseerd om alle "feiten" die de chatbots uitspugen zorgvuldig te controleren.
Aanbevelingen van de redactie
- Google Bard kan nu spreken, maar kan het ChatGPT overstemmen?
- ChatGPT: het laatste nieuws, controverses en tips die u moet weten
- De Bing-browsefunctie van ChatGPT is uitgeschakeld vanwege een toegangsfout in de betaalmuur
- 81% denkt dat ChatGPT een beveiligingsrisico vormt, zo blijkt uit onderzoek
- Apple's ChatGPT-rivaal schrijft mogelijk automatisch code voor u
Upgrade je levensstijlDigital Trends helpt lezers de snelle wereld van technologie in de gaten te houden met het laatste nieuws, leuke productrecensies, verhelderende hoofdartikelen en unieke sneak peeks.
