Pengacara minta maaf atas kutipan pengadilan palsu yang dibuat oleh ChatGPT

Ada banyak pembicaraan dalam beberapa bulan terakhir tentang bagaimana gelombang baru chatbot yang didukung AI, ChatGPT di antaranya, dapat menjungkirbalikkan banyak industri, termasuk profesi hukum.

Namun, jika dilihat dari apa yang baru-baru ini terjadi dalam sebuah kasus di New York City, sepertinya perlu waktu lama sebelum pengacara yang sangat terlatih bisa tersingkir oleh teknologi.

Episode aneh ini dimulai ketika Roberto Mata menggugat sebuah maskapai penerbangan Kolombia setelah mengklaim bahwa ia mengalami cedera dalam penerbangan ke New York City.

Maskapai penerbangan, Avianca, meminta hakim untuk membatalkan kasus tersebut, sehingga tim kuasa hukum Mata membuat kutipan singkat setengah lusin kasus serupa terjadi dalam upaya membujuk hakim untuk membiarkan kasus kliennya melanjutkan,

Masalahnya adalah pengacara dan hakim maskapai penerbangan tersebut tidak dapat menemukan bukti apa pun atas kasus-kasus yang disebutkan dalam laporan tersebut. Mengapa? Karena ChatGPT telah mengarang semuanya.

Pembuat laporan singkat tersebut, Steven A. Schwartz - seorang pengacara yang sangat berpengalaman di firma Levidow, Levidow & Oberman - mengakui dalam pernyataan tertulis bahwa dia telah menggunakan Chatbot ChatGPT OpenAI yang sangat terkenal dalam mencari kasus serupa, namun mengatakan bahwa hal itu “terungkap tidak bisa diandalkan."

Schwartz mengatakan kepada hakim bahwa dia belum pernah menggunakan ChatGPT sebelumnya dan “oleh karena itu tidak menyadari kemungkinan bahwa kontennya mungkin palsu.”

Saat membuat laporan tersebut, Schwartz bahkan meminta ChatGPT untuk mengonfirmasi bahwa kasus tersebut benar-benar terjadi. Chatbot yang selalu membantu menjawab dengan tegas, mengatakan bahwa informasi tentang mereka dapat ditemukan di “database hukum yang memiliki reputasi baik.”

Pengacara yang menjadi pusat permasalahan tersebut mengatakan dia “sangat menyesal” menggunakan ChatGPT untuk membuat laporan tersebut dan bersikeras bahwa dia “tidak akan pernah melakukan hal tersebut di masa depan tanpa verifikasi mutlak atas keasliannya.”

Melihat apa yang dia gambarkan sebagai pengajuan hukum yang penuh dengan “keputusan pengadilan palsu, dengan kutipan palsu dan internal palsu kutipan,” dan menggambarkan situasi ini sebagai situasi yang belum pernah terjadi sebelumnya, Hakim Castel telah memerintahkan sidang awal bulan depan untuk mempertimbangkannya kemungkinan hukuman.

Meskipun mengesankan dalam cara mereka menghasilkan teks mengalir berkualitas tinggi, ChatGPT dan chatbot lainnya menyukainya juga dikenal mengarang dan menyajikannya seolah-olah itu nyata - sesuatu yang telah dipelajari Schwartz biaya. Fenomena ini dikenal sebagai “halusinasi,” dan merupakan salah satu tantangan terbesar yang dihadapi para pengembang manusia di balik chatbots saat mereka berupaya untuk mengatasi permasalahan yang sangat bermasalah ini.

Dalam contoh terbaru lainnya dari alat AI generatif yang berhalusinasi, sebuah Walikota Australia menuduh ChatGPT menciptakan kebohongan tentang dirinya, termasuk bahwa ia dipenjara karena suap saat bekerja di bank lebih dari satu dekade lalu.

Walikota, Brian Hood, sebenarnya adalah pelapor dalam kasus ini dan tidak pernah dituduh melakukan kejahatan, jadi dia agak kesal ketika orang-orang mulai memberi tahu dia tentang penulisan ulang sejarah oleh chatbot.

Rekomendasi Editor

• Inilah alasan orang berpikir GPT-4 mungkin menjadi semakin bodoh seiring berjalannya waktu
• ChatGPT: berita terkini, kontroversi, dan tips yang perlu Anda ketahui
• Apa yang dimaksud dengan perintah DAN untuk ChatGPT?
• Google Bard sekarang dapat berbicara, tetapi bisakah ia meredam ChatGPT?
• Pembuat ChatGPT, OpenAI, menghadapi penyelidikan FTC atas undang-undang perlindungan konsumen

Tingkatkan gaya hidup AndaTren Digital membantu pembaca mengawasi dunia teknologi yang bergerak cepat dengan semua berita terbaru, ulasan produk yang menyenangkan, editorial yang berwawasan luas, dan cuplikan unik.