हत्या मामले में चैटजीपीटी द्वारा गढ़े गए गवाहों के कारण अमेरिकी वकील को सज़ा
न्यू मेक्सिको के सर्वोच्च न्यायालय ने वकील स्टीफन एरोन को 5,000 अमेरिकी डॉलर का जुर्माना लगाया और अदालत की अवमानना के आरोप में दोषी ठहराया।
एरोन ने एक हत्या के दोषी पाए गए मुवक्किल के अपील दस्तावेज़ में कई गवाहों के बयान उद्धृत किए, जो अदालत के अनुसार कभी मौजूद ही नहीं थे, जिनमें कथित पुलिस अधिकारियों के नाम भी शामिल थे।
एरोन ने स्वयं बताया कि उन्होंने कंप्यूटर द्वारा जनरेट किए गए मुकदमे के रिकॉर्ड को चैटजीपीटी में डाल दिया और एक विश्वसनीय सारांश की उम्मीद की, बिना परिणामों की जांच किए।
न्यायाधीश सी. शैनन बेकन ने उनकी कड़ी आलोचना की और पूछा कि क्या उन्होंने KI के गलतियों के बारे में अदालती कार्यवाहियों में आने वाली रिपोर्टों पर ध्यान नहीं दिया।
एरोन ने कहा कि उन्हें नहीं पता था कि KI सिस्टम कितनी आसानी से तथ्यों को गढ़ सकते हैं, और इस घटना को एक ईमानदार गलती बताया।
अदालत ने सभी पिछले दस्तावेज़ों को मामले से हटा दिया, मुवक्किल के लिए एक नई कानूनी सहायता नियुक्त की और एरोन को वकीलों के अनुशासनात्मक बोर्ड के पास भेज दिया।
अमेरिका में KI द्वारा गढ़े गए अदालती दस्तावेज़ों के ऐसे मामले बढ़ रहे हैं, जैसा कि अन्य कानून फर्मों के खिलाफ पहले की गई कार्रवाइयों से पता चलता है।
यह क्यों महत्वपूर्ण है
यह मामला दिखाता है कि KI सिस्टम महत्वपूर्ण, पेशेवर संदर्भों में भी विश्वासयोग्य लगने वाली, लेकिन पूरी तरह से गलत जानकारी पैदा कर सकते हैं।
अब आप क्या कर सकते हैं
- KI उत्तर हमेशा जांचें KI टेक्स्ट में महत्वपूर्ण नाम, संख्याएं और बयान किसी स्वतंत्र, विश्वसनीय स्रोत से मिलान करें। KI के द्वारा दिए गए आउटपुट पर पूरी तरह से भरोसा न करें।
- KI का इस्तेमाल केवल सहायता के लिए करें KI द्वारा बनाए गए टेक्स्ट को पहला ड्राफ्ट समझें, जिसे आपको स्वयं पढ़ना और सुधारना होगा। विशेष रूप से कानूनी, चिकित्सा या वित्तीय विषयों में KI किसी विशेषज्ञ की जगह नहीं ले सकता।
- महत्वपूर्ण दस्तावेज़ों के लिए विशेषज्ञों से पूछें अनुबंध या आवेदन जैसे महत्वपूर्ण दस्तावेज़ों को किसी वास्तविक विशेषज्ञ से जांचवाएं। इससे पता चल जाएगा कि KI ने कोई सामग्री गढ़ी है या नहीं।
- परफेक्ट सारांश पर शक करें अगर कोई KI सारांश बहुत चिकना और पूरा लगता है, तो यह सच्चाई का सबूत नहीं है। ऐसे में एक बार और ध्यान से देखना चाहिए।