Utilizarea stângace a ChatGPT a primit o amendă de 5.000 de dolari pentru o firmă de avocatură din New York.
După ce a auzit atât de multe despre impresionantul chatbot alimentat de AI al OpenAI, avocatul Steven Schwartz a decis să folosească pentru cercetare, adăugând citări de cazuri generate de ChatGPT la un rezumat juridic înmânat unui judecător mai devreme. an. Dar a reieșit curând că cazurile au fost inventate în întregime de chatbot.
Videoclipuri recomandate
Judecătorul de district din SUA P. Kevin Castel le-a ordonat joi avocaților Steven Schwartz și Peter LoDuca, care au preluat cazul de la colegul său de muncă, și firmei lor de avocatură Levidow, Levidow & Oberman, să plătească o amendă de 5.000 de dolari.
Legate de
- Creatorul de ChatGPT OpenAI se confruntă cu o anchetă FTC cu privire la legile privind protecția consumatorilor
- Traficul site-ului ChatGPT a scăzut pentru prima dată
- Cei mai buni chatbot AI de încercat: ChatGPT, Bard și multe altele
a spus judecătorul avocații au făcut „acte de evitare conștientă și declarații false și înșelătoare în fața instanței”, adăugând că „și-au abandonat responsabilități” prin depunerea rezumatului scris de I.A. înainte de a susține „opiniile false după ce ordinele judiciare le-au numit existența în întrebare."
a continuat Castel: „Multe prejudicii decurg din prezentarea de opinii false. Partea adversă pierde timp și bani în dezvăluirea înșelăciunii. Timpul instanței este luat din alte eforturi importante.”
Judecătorul a adăugat că acțiunea avocaților „promovează cinismul în ceea ce privește profesia de avocat și sistemul judiciar american”.
Firma de avocatură din Manhattan a spus că „cu respect” nu a fost de acord cu opinia instanței, descriind-o drept „o greșeală de bună-credință”.
La o ședință de judecată conexă la începutul acestei luni, spuse Schwartz a vrut să-și ceară scuze sincere pentru ceea ce s-a întâmplat, explicând că credea că folosește un motor de căutare și habar nu avea că instrumentul AI ar putea produce neadevăruri. El a spus că „regretă profund” acțiunile sale”, adăugând: „Am suferit atât profesional, cât și personal [din cauza] publicității pe scară largă pe care a generat-o această problemă. Sunt atât jenat, umilit și extrem de regretat.”
Incidentul a fost legat de un caz preluat de firma de avocatură în care este implicat un pasager care a dat în judecată compania aeriană columbiană Avianca după ce a susținut că a suferit o rănire pe un zbor către New York City.
Avianca i-a cerut judecătorului să arunce cazul, așa că echipa de avocați a pasagerului a întocmit un scurt care citează șase cazuri similare, în încercarea de a-l convinge pe judecător să lase cazul clientului lor să continue. Schwartz a găsit acele cazuri întrebând ChatGPT, dar nu a reușit să verifice autenticitatea rezultatelor. Echipa juridică a Avianca a tras un semnal de alarmă când a spus că nu poate localiza cazurile cuprinse în brief.
Într-o ordonanță separată de joi, judecătorul a admis cererea lui Avianca de respingere a procesului împotriva acesteia, punând capăt întregului episod regretabil.
ChatGPT și alți chatboți ca acesta au câștigat multă atenție în ultimele luni datorită capacității lor de a conversa într-un mod asemănător omului și de a efectua cu pricepere o gamă tot mai mare de sarcini bazate pe text. Dar se știe și că inventează lucrurile și le prezintă ca și cum ar fi real. Este atât de răspândit încât există chiar și un termen pentru el: „halucinant”.
Cei care lucrează la instrumentele AI generative explorează modalități de reducere a halucinațiilor, dar până atunci utilizatorii sunt sfătuiți să verifice cu atenție orice „fapte” pe care le scuipă chatboții.
Recomandările editorilor
- Google Bard poate vorbi acum, dar poate îneca ChatGPT?
- ChatGPT: cele mai recente știri, controverse și sfaturi pe care trebuie să le cunoașteți
- Funcția de navigare Bing de la ChatGPT a fost dezactivată din cauza unui defect de acces la paywall
- 81% cred că ChatGPT este un risc de securitate, arată sondajul
- Rivalul ChatGPT al Apple poate scrie automat cod pentru tine
Îmbunătățește-ți stilul de viațăDigital Trends îi ajută pe cititori să țină cont de lumea rapidă a tehnologiei cu toate cele mai recente știri, recenzii distractive despre produse, editoriale perspicace și anticipări unice.
