Niezdarne użycie ChatGPT ukarał nowojorską firmę prawniczą grzywną w wysokości 5000 dolarów.
Słysząc tak wiele o imponującym chatbocie opartym na sztucznej inteligencji OpenAI, prawnik Steven Schwartz zdecydował się z niego skorzystać to do badań, dodając cytaty ze spraw wygenerowane przez ChatGPT do briefu prawnego przekazanego sędziemu wcześniej rok. Wkrótce jednak okazało się, że sprawy zostały w całości zmyślone przez chatbota.
Polecane filmy
Sędzia okręgowy USA P. Kevin Castel nakazał w czwartek prawnikom Stevenowi Schwartzowi i Peterowi LoDuca, którzy przejęli sprawę od jego współpracownika, oraz ich kancelarii prawnej Levidow, Levidow & Oberman, zapłacić grzywnę w wysokości 5000 USD.
Powiązany
- Twórca ChatGPT OpenAI mierzy się z sondą FTC w sprawie przepisów dotyczących ochrony konsumentów
- Ruch na stronie ChatGPT spadł po raz pierwszy
- Najlepsze chatboty AI do wypróbowania: ChatGPT, Bard i inne
Sędzia powiedział prawnicy dokonywali „aktów świadomego unikania oraz fałszywych i wprowadzających w błąd zeznań przed sądem”, dodając, że „porzucili swoje odpowiedzialności” poprzez przedłożenie sporządzonego przez A.I. krótkiego sprawozdania, zanim stanie przy „fałszywych opiniach po nakazach sądowych, do których zostały powołane pytanie."
Castel kontynuował: „Wiele szkód wynika z przedstawiania fałszywych opinii. Strona przeciwna traci czas i pieniądze na ujawnienie oszustwa. Czas sądu jest zabierany z innych ważnych przedsięwzięć”.
Sędzia dodał, że działanie prawników „promuje cynizm wobec zawodów prawniczych i amerykańskiego wymiaru sprawiedliwości”.
Kancelaria prawna z Manhattanu powiedziała, że „z całym szacunkiem” nie zgadza się z opinią sądu, opisując to jako „błąd w dobrej wierze”.
Na podobnej rozprawie sądowej na początku tego miesiąca — powiedział Szwartz chciał „szczerze przeprosić” za to, co się stało, wyjaśniając, że myślał, że korzysta z wyszukiwarki i nie miał pojęcia, że narzędzie AI może generować nieprawdę. Powiedział, że „głęboko żałuje” swoich czynów”, dodając: „Cierpiałem zarówno zawodowo, jak i osobiście [z powodu] szerokiego rozgłosu, jaki wywołała ta sprawa. Jestem zarówno zawstydzony, upokorzony, jak i pełen wyrzutów sumienia”.
Incydent był powiązany ze sprawą podjętą przez kancelarię prawną dotyczącą pasażera, który pozwał kolumbijskie linie lotnicze Avianca po tym, jak twierdził, że doznał obrażeń podczas lotu do Nowego Jorku.
Avianca poprosiła sędziego o odrzucenie sprawy, więc zespół prawników pasażera sporządził krótkie przytoczenie sześciu podobnych spraw, aby przekonać sędziego, by pozwolił kontynuować sprawę ich klienta. Schwartz znalazł te przypadki, pytając ChatGPT, ale nie sprawdził autentyczności wyników. Zespół prawny Avianca podniósł alarm, gdy stwierdził, że nie może zlokalizować spraw zawartych w odprawie.
W osobnym postanowieniu w czwartek sędzia przychylił się do wniosku Avianki o oddalenie pozwu przeciwko niej, kończąc cały żałosny epizod.
ChatGPT i inne podobne chatboty zyskały w ostatnich miesiącach wiele uwagi ze względu na ich zdolność do prowadzenia rozmów w sposób podobny do ludzkiego i umiejętnego wykonywania coraz większej liczby zadań tekstowych. Ale są również znani z wymyślania rzeczy i przedstawiania ich tak, jakby były prawdziwe. Jest tak powszechny, że istnieje nawet określenie: „halucynacja”.
Osoby pracujące nad generatywnymi narzędziami sztucznej inteligencji badają sposoby na zmniejszenie halucynacji, ale do tego czasu zaleca się użytkownikom uważne sprawdzanie wszelkich „faktów”, które wypluwają chatboty.
Zalecenia redaktorów
- Google Bard może teraz mówić, ale czy może zagłuszyć ChatGPT?
- ChatGPT: najnowsze wiadomości, kontrowersje i wskazówki, które musisz znać
- Funkcja przeglądania Bing w ChatGPT została wyłączona z powodu błędu w dostępie do paywalla
- 81% uważa, że ChatGPT stanowi zagrożenie dla bezpieczeństwa, wynika z ankiety
- Rywal Apple ChatGPT może automatycznie napisać dla ciebie kod
Ulepsz swój styl życiaTrendy cyfrowe pomagają czytelnikom śledzić szybko zmieniający się świat technologii dzięki najnowszym wiadomościom, zabawnym recenzjom produktów, wnikliwym artykułom redakcyjnym i jedynym w swoim rodzaju zapowiedziom.
