Odvetnik v ZDA kaznovan zaradi izmišljenih prič, ustvarjenih s ChatGPT, v primeru umora
Vrhovno sodišče Nove Mehike je odvetniku Stephenu Aaronu zaračunalo denarno kazen v višini 5.000 ameriških dolarjev in ga obsodilo zaradi nezaupanja v sodišče.
Aaron je v pritožbenem pisnem mnenju za stranko, obsojeno zaradi umora, citiral izjave več prič, ki jih po mnenju sodišča nikoli ni bilo, med njimi domnevne policiste.
Po lastnih trditvah je Aaron v ChatGPT vnesel računalniško ustvarjen zapisek s postopka in pričakoval zanesljivo povzetek, brez da bi preveril rezultate.
Sodnica C. Shannon Bacon ga je ostro kritizirala in vprašala, ali ni sledil številnim poročilom o napakah KI v sodnih postopkih.
Aaron je razložil, da ni vedel, kako močno lahko KI-sistemi izmišljajo dejstva, in dogodek imenoval za pošteno napako.
Sodišče je izbrisalo vsa doslej vložena pisna mnenja iz postopka, imenovalo novo obvezno zagovornico za stranko in Aarona napotilo k disciplinskemu odboru za odvetnike.
Podobni primeri z izmišljenimi sodnimi dokumenti, ustvarjenimi s KI, se v ZDA pogosto ponavljajo, kar kažejo prejšnje kazni proti drugim odvetniškim pisarnam.
ZAKAJ JE TO POMEMBNO
Primer kaže, da lahko KI-sistemi tudi v pomembnih, profesionalnih kontekstih ustvarjajo prepričljivo zvenoče, a popolnoma napačne informacije.
KAJ LAHKO NARDIŠ ZDAJ
- Preveri odgovore KI vedno Primerjaj pomembna imena, številke in izjave iz besedila KI z neodvisnim in zanesljivim virom. Ne zanašaj se izključno na to, kar izda KI.
- Uporabi KI le kot pomagalo Besedila, ustvarjena s KI, obravnavaj kot prvi osnutek, ki ga moraš sam prebrati. Posebej pri pravnih, medicinskih ali finančnih temah KI ne more nadomestiti strokovnjaka.
- Vprašaj strokovnjake za pomembna dokumenta Pusti, da pomembna pisma, kot so pogodbe ali vlogi, preveri resničen strokovnjak. Tako ugotoviš, če je KI izmišljala vsebine.
- Ostani skeptičen pri popolnih povzetkih Če se povzetek KI zdi zelo gladko in popoln, to ni dokaz za točnost. Ravno takrat se splača podrobnejši pogled.