Itu berjalan buruk. Sangat buruk. Empat pengacara dalam kasus pengadilan federal di Mississippi terkena sanksi karena terlalu mengandalkan AI untuk menyusun pengajuan mereka. Kasus Withers v. City of Aberdeen, dimulai dari perselisihan mengenai biaya proyek tenaga surya. Tom Withers III berpendapat bahwa kota tersebut berhutang uang kepadanya. Tapi dia tidak mendapat masalah. Timnya melakukannya. Begitu pula perwakilan hukum kota tersebut.
Dua dari masing-masing pihak menggunakan perangkat lunak yang membuat kasus.
Atau lebih buruk lagi. Mengutip undang-undang yang tidak ada dalam hukum Mississippi.
Hakim Sharion Aycock tidak terkesan. Dia mendenda pengacara dan menutup seluruh kasus. “Mengandalkan teknologi secara membabi buta,” tulisnya. Hal itu menghasilkan apa yang disebutnya kutipan halusinasi. Itu bukan hanya kesalahan teknologi. Itu merupakan pelanggaran terhadap Aturan 11. Yang pada dasarnya mengatakan bahwa ketika Anda menandatangani dokumen hukum, Anda bersumpah kepada hakim bahwa dokumen tersebut jujur. Para pengacara ini gagal memverifikasi kebenaran tersebut.
The New York Times mengangkat cerita tersebut. Pengacara pemasaran Rob Freund pertama kali melihatnya di X dan menyebutnya sebagai komedi kesalahan AI. 404 Media menjalankannya. Tiba-tiba semua orang melihat bencana ruang sidang Mississippi ini.
Apakah ini hanya kesalahan pada mesinnya? Atau kegagalan tanggung jawab manusia?
Halusinasi AI sering terjadi. Model bahasa besar menyatukan kalimat-kalimat yang terdengar masuk akal tanpa memahami kebenarannya. Kedengarannya meyakinkan. Itulah bahayanya.
Aturan Baru, Resiko Baru
Ini bukanlah insiden yang terisolasi. Pengacara telah mengalami kesalahan AI sebelumnya. New York menjadi lebih ketat. Mulai tanggal 1 Juni, hasil dari alat seperti ChatGPT kehilangan hak istimewa pengacara-klien. Tidak perlu lagi bersembunyi di balik klaim kerahasiaan atas konten yang dihasilkan.
American Bar Association tahu bahwa ini adalah wilayah yang rumit. Michelle A. Behnke, presiden ABA saat ini, mengatakan kepada CNET bahwa AI generatif memerlukan pengawasan yang cermat. Pengawasan bukanlah suatu pilihan. “ABA hadir di sini untuk menavigasi undang-undang baru dan teknologi baru bersama para anggotanya,” katanya.
Mereka merilis laporan pada bulan Desember. Praktik terbaik. Saran kebijakan. Ini semua tentang menyeimbangkan inovasi dengan kehati-hatian. Namun nasihatnya tetap sederhana dan sering diabaikan oleh mereka yang mengejar kecepatan: ketahuilah manfaatnya. Ketahui risikonya.
Jangan berasumsi bahwa hasilnya benar. Verifikasi itu. Selalu verifikasi.
Kalau tidak, tagihannya akan jatuh tempo di pengadilan.
