Penggunaan canggung ChatGPT telah mendapatkan firma hukum New York City dengan denda $5.000.
Setelah mendengar begitu banyak tentang chatbot bertenaga AI yang mengesankan dari OpenAI, pengacara Steven Schwartz memutuskan untuk menggunakannya untuk penelitian, menambahkan kutipan kasus yang dihasilkan ChatGPT ke ringkasan hukum yang diserahkan kepada hakim sebelumnya tahun. Tetapi segera terungkap bahwa kasus tersebut sepenuhnya dibuat oleh chatbot.
Video yang Direkomendasikan
Hakim Distrik AS P. Kevin Castel pada hari Kamis memerintahkan pengacara Steven Schwartz dan Peter LoDuca, yang mengambil alih kasus dari rekan kerjanya, dan firma hukum mereka Levidow, Levidow & Oberman, untuk membayar denda $5.000.
Terkait
- Pembuat ChatGPT OpenAI menghadapi penyelidikan FTC atas undang-undang perlindungan konsumen
- Lalu lintas situs web ChatGPT turun untuk pertama kalinya
- Bot obrolan AI terbaik untuk dicoba: ChatGPT, Bard, dan lainnya
kata hakim pengacara telah membuat "tindakan penghindaran sadar dan pernyataan palsu dan menyesatkan ke pengadilan," menambahkan bahwa mereka telah "meninggalkan tanggung jawab” dengan menyerahkan pengarahan singkat yang ditulis AI sebelum berdiri di samping “pendapat palsu setelah perintah pengadilan memanggil keberadaan mereka ke dalam pertanyaan."
Castel melanjutkan: “Banyak kerugian mengalir dari penyampaian pendapat palsu. Pihak lawan membuang-buang waktu dan uang untuk mengungkap penipuan tersebut. Waktu pengadilan diambil dari upaya penting lainnya.”
Hakim menambahkan bahwa tindakan pengacara “meningkatkan sinisme tentang profesi hukum dan sistem peradilan Amerika.”
Firma hukum Manhattan mengatakan "dengan hormat" tidak setuju dengan pendapat pengadilan, menggambarkannya sebagai "kesalahan itikad baik".
Pada sidang pengadilan terkait awal bulan ini, kata Schwartz dia ingin "dengan tulus meminta maaf" atas apa yang telah terjadi, menjelaskan bahwa dia mengira dia menggunakan mesin pencari dan tidak tahu bahwa alat AI dapat menghasilkan kebohongan. Dia mengatakan dia "sangat menyesali" tindakannya," menambahkan: "Saya menderita baik secara profesional maupun pribadi [karena] publisitas luas yang dihasilkan masalah ini. Saya merasa malu, terhina, dan sangat menyesal.”
Insiden itu terkait dengan kasus yang diangkat oleh firma hukum yang melibatkan seorang penumpang yang menggugat maskapai Avianca Kolombia setelah mengklaim dia mengalami cedera dalam penerbangan ke New York City.
Avianca meminta hakim untuk membatalkan kasus tersebut, sehingga tim hukum penumpang menyusun laporan singkat yang mengutip enam kasus serupa dalam upaya untuk membujuk hakim agar kasus klien mereka dilanjutkan. Schwartz menemukan kasus tersebut dengan menanyakan ChatGPT, tetapi dia gagal memeriksa keaslian hasilnya. Tim hukum Avianca membunyikan alarm ketika mengatakan tidak dapat menemukan kasus-kasus yang dimuat dalam brief tersebut.
Dalam perintah terpisah pada hari Kamis, hakim mengabulkan mosi Avianca untuk membatalkan tuntutan terhadapnya, mengakhiri seluruh episode yang menyedihkan.
ChatGPT dan chatbot lain seperti itu telah mendapatkan banyak perhatian dalam beberapa bulan terakhir karena kemampuan mereka untuk berkomunikasi dengan cara yang mirip manusia dan dengan terampil melakukan berbagai tugas berbasis teks yang terus berkembang. Tapi mereka juga dikenal mengarang dan menyajikannya seolah-olah itu nyata. Ini sangat lazim bahkan ada istilah untuk itu: "berhalusinasi."
Mereka yang mengerjakan alat AI generatif sedang mengeksplorasi cara untuk mengurangi halusinasi, tetapi sampai saat itu pengguna disarankan untuk hati-hati memeriksa "fakta" apa pun yang dimuntahkan oleh chatbots.
Rekomendasi Editor
- Google Bard sekarang dapat berbicara, tetapi bisakah itu menenggelamkan ChatGPT?
- ChatGPT: berita terbaru, kontroversi, dan tips yang perlu Anda ketahui
- Fitur penjelajahan Bing ChatGPT dinonaktifkan karena kelemahan akses paywall
- 81% berpendapat bahwa ChatGPT adalah risiko keamanan, demikian temuan survei
- Saingan ChatGPT Apple dapat secara otomatis menulis kode untuk Anda
Tingkatkan gaya hidup AndaTren Digital membantu pembaca mengawasi dunia teknologi yang bergerak cepat dengan semua berita terbaru, ulasan produk yang menyenangkan, editorial yang berwawasan, dan cuplikan unik.
