ABD'li avukat, ChatGPT tarafından uydurulan tanıklar nedeniyle cinayet davasında cezalandırıldı
New Mexico Yüksek Mahkemesi, avukat Stephen Aarons'a 5.000 ABD Doları para cezası vererek mahkeme saygısızlığı suçundan mahkûm etti.
Aarons, cinayetten hüküm giymiş bir müvekkili için hazırladığı temyiz dilekçesinde, mahkemenin ifadesine göre asla var olmayan birkaç tanığın ifadelerini, bunların arasında olduğu iddia edilen polis memurlarını da alıntılamıştı.
Aarons, kendi açıklamasına göre, bilgisayar tarafından oluşturulmuş bir duruşma tutanağını ChatGPT'ye yüklemiş ve sonuçları kontrol etmeden güvenilir bir özet beklemişti.
Yargıç C. Shannon Bacon, Aarons'ı sert bir şekilde eleştirdi ve mahkeme süreçlerinde KI hatalarıyla ilgili birçok rapora rağmen bunları takip etmediğini sordu.
Aarons, KI sistemlerinin gerçekleri ne kadar uydurabileceğini bilmediğini söyledi ve olayı samimi bir hata olarak nitelendirdi.
Mahkeme, tüm önceki dilekçeleri dosyadan çıkardı, müvekkil için yeni bir resen avukat atadı ve Aarons'u avukat disiplin kurulu'na sevk etti.
ABD'de KI tarafından uydurulan mahkeme belgeleriyle ilgili benzer vakalar artıyor, önceki cezalar da diğer hukuk bürolarına uygulandı.
NEDEN ÖNEMLİ
Bu vaka, KI sistemlerinin ciddi ve profesyonel bağlamlarda ikna edici görünen, ancak tamamen yanlış bilgiler üretebileceğini gösteriyor.
ŞİMDİ NE YAPABİLİRSİN
- KI metinlerindeki önemli isimleri, sayıları ve ifadeleri bağımsız ve güvenilir bir kaynakl KI yanıtlarını her zaman kontrol edin
- KI tarafından oluşturulan metinleri, kendi başınıza kontrol etmeniz gereken ilk taslak ola KI’yı yalnızca yardımcı araç olarak kullanın
- Sözleşme veya başvuru gibi önemli belgeleri gerçek bir uzmana kontrol ettirin. Böylece KI’ Önemli belgelerde uzmanlardan yardım alın
- Eğer bir KI özeti çok akıcı ve tam görünüyorsa, bu doğru olduğu anlamına gelmez. Özellikle Mükemmel özetlere karşı şüpheci olun