Nešikovné použití ChatGPT uložila newyorské advokátní kanceláři pokutu 5 000 dolarů.
Právník Steven Schwartz se toho rozhodl využít, protože toho o působivém chatbotu s umělou inteligencí OpenAI tolik slyšel to pro výzkum, přidání ChatGPT-generované citace případů do právního briefu předané soudci dříve rok. Brzy se však ukázalo, že tyto případy si chatbot zcela vymyslel.
Doporučená videa
Okresní soudce USA P. Kevin Castel ve čtvrtek nařídil právníkům Stevenu Schwartzovi a Peteru LoDucovi, kteří případ převzali od jeho spolupracovníka, a jejich advokátní kanceláři Levidow, Levidow & Oberman, aby zaplatili pokutu 5000 dolarů.
Příbuzný
- Tvůrce ChatGPT OpenAI čelí vyšetřování FTC kvůli zákonům na ochranu spotřebitele
- Návštěvnost webu ChatGPT poprvé klesla
- Nejlepší chatboti AI k vyzkoušení: ChatGPT, Bard a další
Řekl soudce právníci učinili „vědomé vyhýbání se a nepravdivá a zavádějící prohlášení soudu“ a dodali, že „opustili své odpovědnosti“ předložením sdělení napsaného A.I. předtím, než bude stát za „falešnými názory poté, co soudní příkazy označily jejich existenci za otázka."
pokračoval Castel: „Mnoho škod plyne z předkládání falešných názorů. Protistrana plýtvá časem a penězi při odhalování podvodu. Čas soudu se bere z jiných důležitých snah.“
Soudce dodal, že akce právníků „podporuje cynismus vůči právnické profesi a americkému soudnímu systému“.
Manhattanská právnická firma uvedla, že „s úctou“ nesouhlasí s názorem soudu a označila to za „chybu v dobré víře“.
Na souvisejícím soudním jednání začátkem tohoto měsíce řekl Schwartz chtěl se „upřímně omluvit“ za to, co se stalo, a vysvětlil, že si myslel, že používá vyhledávač a neměl tušení, že nástroj AI může produkovat nepravdy. Řekl, že „hluboce lituje“ svých činů,“ dodal: „Trpěl jsem profesionálně i osobně [kvůli] široké publicitě, kterou toto téma vyvolalo. Jsem oba v rozpacích, ponížený a nesmírně lituji."
Incident souvisel s případem, kterým se zabývala právnická firma a který se týkal cestujícího, který žaloval kolumbijské aerolinky Avianca poté, co tvrdil, že utrpěl zranění při letu do New Yorku.
Avianca požádal soudce, aby případ zahodil, a tak právní tým cestujícího sestavil stručné uvedení šesti podobných případů ve snaze přesvědčit soudce, aby nechal případ jejich klienta pokračovat. Schwartz tyto případy našel dotazem na ChatGPT, ale nepodařilo se mu ověřit pravost výsledků. Právní tým společnosti Avianca vyvolal poplach, když řekl, že nemůže najít případy obsažené ve zprávě.
Samostatným čtvrtečním příkazem soudce vyhověl návrhu Aviancy na zamítnutí žaloby proti němu, čímž se celá smutná epizoda uzavřela.
ChatGPT a další jemu podobní chatboti si v posledních měsících získali velkou pozornost díky své schopnosti konverzovat lidským způsobem a dovedně provádět rostoucí řadu textových úkolů. Ale je také známo, že si věci vymýšlejí a prezentují to, jako by to bylo skutečné. Je to tak rozšířené, že pro to dokonce existuje výraz: „halucinace“.
Ti, kteří pracují na generativních nástrojích AI, zkoumají způsoby, jak snížit halucinace, ale do té doby se uživatelům doporučuje, aby pečlivě zkontrolovali všechna „fakta“, která chatboti vyplivnou.
Doporučení redakce
- Google Bard nyní umí mluvit, ale dokáže přehlušit ChatGPT?
- ChatGPT: nejnovější zprávy, kontroverze a tipy, které potřebujete vědět
- Funkce procházení Bing ChatGPT je deaktivována kvůli chybě v přístupu k paywallu
- 81 % si myslí, že ChatGPT je bezpečnostní riziko, zjistil průzkum
- Konkurent společnosti Apple ChatGPT za vás může automaticky napsat kód
Upgradujte svůj životní stylDigitální trendy pomáhají čtenářům mít přehled o rychle se měnícím světě technologií se všemi nejnovějšími zprávami, zábavnými recenzemi produktů, zasvěcenými úvodníky a jedinečnými náhledy.
