Amerikai ügyvédet büntették meg a ChatGPT által kitalált tanúk miatt egy gyilkossági ügyben
Az Új-Mexikói Legfelsőbb Bíróság 5000 amerikai dolláros pénzbírsággal sújtotta Stephen Aarons ügyvédet, és a bíróság megsértése miatt ítélt el.
Aarons egy gyilkossággal elítélt ügyfelének fellebbezési írásában idézett több tanú vallomását, akik a bíróság szerint soha nem léteztek, köztük állítólagos rendőröket.
Aarons saját bevallása szerint egy számítógéppel generált tárgyalási jegyzőkönyvöt adott be a ChatGPT-nek, és megbízható összefoglalót várt, anélkül, hogy ellenőrizte volna az eredményt.
Bacon bírónő élesen bírálta őt, és megkérdezte, hogy nem követte-e figyelemmel a KI hibáiról szóló számos beszámolót a bírósági eljárásokban.
Aarons azt mondta, nem tudta, mennyire képesek a KI-rendszerek tények kitalálására, és a történteket őszinte hibaként jellemezte.
A bíróság törölte az ügyben eddig benyújtott összes írásbeli nyilatkozatot, kinevezett egy új kötelező védőt az ügyfélnek, és Aarons ügyét egy ügyvédi fegyelmi testület elé utalta.
Hasonló esetek, ahol a KI kitalált bírósági dokumentumokat hozott létre, egyre gyakrabban fordulnak elő az Egyesült Államokban, ahogyan azt korábbi szankciók más ügyvédi irodák ellen is mutatják.
MIÉRT FONTOS EZ
Az eset azt mutatja, hogy a KI-rendszerek akár komoly, szakmai összefüggésekben is meggyőzően hangzó, de teljesen hamis információkat képesek előállítani.
MIT TEHETSZ MOST
- Mindig ellenőrizd a KI-válaszokat Hasonlítsd össze a KI szövegében szereplő fontos neveket, számokat és kijelentéseket egy független, megbízható forrásból. Ne bízz soha kizárólag abban, amit a KI ad ki.
- Használd a KI-t csak segédeszközként Tekintsd a KI által generált szövegeket első vázlatnak, amit magadnak kell átnézned. Különösen jogi, orvosi vagy pénzügyi témák esetén a KI nem helyettesítheti a szakembert.
- Kérdezd ki a szakértőket a fontos dokumentumoknál Fontos iratok, mint például szerződések vagy kérelmek ellenőrzését bízd egy valódí szakemberre. Így feltűnik, ha a KI tartalmakat talált ki.
- Maradj szkeptikus a tökéletes összefoglalók esetén Ha egy KI-összefoglaló nagyon sima és teljesnek tűnik, az nem bizonyíték a helyességre. Éppen akkor érdemes közelebbről megnézni.