Pengacara AS disanksi karena menggunakan saksi fiktif dari ChatGPT dalam kasus pembunuhan
Mahkamah Agung New Mexico menjatuhkan denda sebesar 5.000 dolar AS kepada pengacara Stephen Aarons dan menghukumnya karena penghinaan terhadap pengadilan.
Aarons mengutip pernyataan dari beberapa saksi dalam dokumen banding untuk kliennya yang divonis bersalah atas pembunuhan, padahal menurut pengadilan, saksi-saksi tersebut tidak pernah ada, termasuk petugas polisi fiktif.
Menurut pengakuannya sendiri, Aarons memasukkan transkrip sidang yang dihasilkan komputer ke dalam ChatGPT dan berharap mendapatkan ringkasan yang andal tanpa memeriksa hasilnya.
Hakim C. Shannon Bacon mengkritiknya keras dan bertanya apakah ia tidak mengikuti banyak laporan tentang kesalahan KI dalam proses pengadilan.
Aarons menyatakan bahwa ia tidak mengetahui seberapa besar KI dapat merekayasa fakta dan menyebut insiden tersebut sebagai kesalahan yang tulus.
Pengadilan mencoret semua dokumen hukum yang diajukan sebelumnya dari proses tersebut, menunjuk pengacara pembela baru untuk kliennya, dan merujuk Aarons ke badan disiplin pengacara.
Kasus serupa dengan dokumen pengadilan fiktif yang dibuat oleh KI semakin sering terjadi di AS, sebagaimana ditunjukkan oleh sanksi sebelumnya terhadap firma hukum lainnya.
MENGAPA INI PENTING
Kasus ini menunjukkan bahwa sistem KI, bahkan dalam konteks profesional yang berdampak besar, dapat menghasilkan informasi yang terdengar meyakinkan, tetapi sepenuhnya salah.
YANG BISA ANDA LAKUKAN SEKARANG
- Selalu verifikasi jawaban KI Bandingkan nama, angka, dan pernyataan penting dari teks KI dengan sumber independen yang terpercaya. Jangan hanya mengandalkan apa yang dihasilkan oleh KI.
- Gunakan KI hanya sebagai alat bantu Anggap teks yang dibuat KI sebagai draf awal yang harus Anda periksa sendiri. Terutama untuk topik hukum, medis, atau keuangan, KI tidak dapat menggantikan ahli.
- Mintalah bantuan ahli untuk dokumen penting Biarkan dokumen penting seperti kontrak atau permohonan diperiksa oleh ahli yang sesungguhnya. Dengan begitu, Anda dapat mendeteksi jika KI merekayasa konten.
- Tetap skeptis terhadap ringkasan yang sempurna Jika ringkasan yang dibuat KI terdengar sangat mulus dan lengkap, itu bukan bukti bahwa informasinya benar. Justru saat itulah Anda perlu memeriksanya dengan lebih teliti.