Cekricek.id - Denda sebesar $5.000 (£3.935) atau sekitar Rp74 Juta telah dikenakan kepada dua pengacara dan sebuah firma hukum oleh seorang hakim AS setelah penggunaan kutipan palsu yang dihasilkan oleh ChatGPT dalam sebuah pengajuan pengadilan.
Dilansir The Guardian, seorang hakim distrik di Manhattan telah memerintahkan Steven Schwartz, Peter LoDuca, dan firma hukum mereka Levidow, Levidow & Oberman untuk membayar denda tersebut setelah terungkap bahwa mereka menggunakan penelitian hukum fiktif dalam klaim cedera penerbangan.
Schwartz mengakui bahwa ia menggunakan ChatGPT, sebuah chatbot yang memberikan tanggapan teks yang masuk akal terhadap permintaan manusia, dan mengacu pada enam kasus yang disebutkan dalam laporan hukum dalam kasus melawan maskapai penerbangan Kolombia Avianca.
Hakim P Kevin Castel menyatakan dalam pendapat tertulisnya bahwa penggunaan kecerdasan buatan untuk membantu pekerjaan hukum bukanlah sesuatu yang "secara inheren tidak pantas", namun para pengacara harus memastikan keakuratan pengajuan mereka.
"Dalam perkembangan teknologi yang wajar, tidak ada salahnya menggunakan alat kecerdasan buatan yang dapat diandalkan untuk membantu," tulis Castel. "Namun, aturan yang ada menempatkan pengacara sebagai penjaga keakuratan pengajuan mereka."
Hakim menegaskan bahwa para pengacara dan firma mereka "menelantarkan tanggung jawab mereka" dengan mengajukan pendapat yudisial palsu yang terdiri dari kutipan palsu yang dibuat oleh ChatGPT, serta terus mendukung pendapat palsu tersebut setelah perintah pengadilan mempertanyakan keberadaannya.
Levidow, Levidow & Oberman menyatakan dalam sebuah pernyataan pada hari Kamis bahwa pengacaranya "dengan hormat" tidak setuju dengan penilaian pengadilan bahwa mereka telah bertindak dengan itikad buruk. "Kami melakukan kesalahan dengan itikad baik karena kami tidak percaya bahwa teknologi dapat membuat kasus secara sepenuhnya," ungkap pernyataan tersebut.
Pengacara Schwartz menolak memberikan komentar kepada Reuters. Sementara itu, LoDuca belum merespons permintaan komentar dari Reuters, dan pengacaranya mengatakan bahwa mereka sedang meninjau keputusan tersebut.
ChatGPT telah memberikan beberapa saran kasus yang melibatkan kecelakaan penerbangan yang tidak dapat ditemukan oleh Schwartz melalui metode yang biasa digunakan di firma hukumnya. Beberapa kasus tersebut ternyata tidak nyata, hakim salah mengidentifikasinya, atau melibatkan maskapai penerbangan yang sebenarnya tidak ada.
Chatbot seperti ChatGPT, yang dikembangkan oleh perusahaan AS OpenAI, rentan terhadap "halusinasi" atau ketidakakuratan. Sebagai contoh, ChatGPT secara keliru menuduh seorang profesor hukum Amerika melakukan pelecehan seksual dan mengutip laporan Washington Post yang sebenarnya tidak ada. Pada bulan Februari, video promosi untuk saingan ChatGPT, yaitu Bard, memberikan jawaban yang tidak akurat terkait pertanyaan tentang teleskop ruang angkasa James Webb, sehingga menimbulkan kekhawatiran bahwa perusahaan pencarian tersebut terlalu terburu-buru dalam meluncurkan respons terhadap terobosan OpenAI.
Chatbot dilatih menggunakan data yang sangat banyak yang diperoleh dari internet, meskipun sumbernya tidak tersedia dalam banyak kasus. Mereka beroperasi seperti alat prediksi teks, menciptakan model untuk memprediksi kata atau kalimat yang paling mungkin muncul setelah permintaan pengguna. Hal ini berarti bahwa kesalahan faktual bisa terjadi, tetapi respons yang terlihat manusiawi kadang-kadang dapat meyakinkan pengguna bahwa jawabannya benar.
Baca juga: Mahkamah Agung Memutus Status Tomat, Buah Atau Sayur?
Hakim menyatakan bahwa salah satu keputusan palsu yang dihasilkan oleh chatbot memiliki "ciri-ciri yang sebagian konsisten dengan keputusan pengadilan yang sebenarnya", namun ada bagian lain yang berisi "omong kosong" dan "tidak masuk akal".
Dalam pendapat tertulis terpisah, hakim menolak klaim penerbangan yang menjadi dasarnya dengan menyatakan bahwa undang-undang pembatasan telah berakhir.
