Adwokat z USA ukarany za sfabrykowane przez ChatGPT zeznania świadków w sprawie o morderstwo
Sąd Najwyższy stanu Nowy Meksyk nałożył na adwokata Stephena Aaronsa karę pieniężną w wysokości 5000 dolarów oraz skazał go za nieposzanowanie sądu.
Aarons powoływał się w piśmie apelacyjnym, złożonym w imieniu klienta skazanego za morderstwo, na zeznania kilku świadków, których – jak stwierdził sąd – nigdy nie było, w tym rzekomych funkcjonariuszy policji.
Z jego własnych oświadczeń wynika, że Aarons wprowadził do ChatGPT wygenerowany komputerowo protokół procesowy i spodziewał się wiarygodnego podsumowania, nie sprawdzając wyników.
Sędzina C. Shannon Bacon ostro skrytykowała go i zapytała, czy nie śledził licznych doniesień o błędach KI w postępowaniach sądowych.
Aarons oświadczył, że nie zdawał sobie sprawy, jak bardzo systemy KI mogą zmyślać fakty, i określił incydent jako szczery błąd.
Sąd unieważnił wszystkie dotychczasowe pisma w sprawie, powołał nową obrończynię z urzędu dla klienta i skierował Aaronsa do organu dyscyplinarnego dla adwokatów.
Podobne przypadki sfabrykowanych przez KI dokumentów sądowych mnożą się w USA, czego dowodzą wcześniejsze sankcje wobec innych kancelarii.
DLA CZEGO TO WAŻNE
Sprawa pokazuje, że systemy KI mogą generować przekonująco brzmiące, ale całkowicie fałszywe informacje nawet w poważnych, zawodowych kontekstach.
CO MOŻESZ ZROBIĆ TERAZ
- Zawsze sprawdzaj odpowiedzi KI Porównaj ważne nazwy, liczby i oświadczenia z tekstu KI z niezależnym, wiarygodnym źródłem. Nigdy nie polegaj wyłącznie na tym, co podaje KI.
- Traktuj teksty generowane przez KI jedynie jako pierwszy projekt Traktuj teksty generowane przez KI jako pierwszą wersję, którą musisz samodzielnie zweryfikować. Szczególnie w kwestiach prawnych, medycznych lub finansowych KI nie zastąpi specjalisty.
- W przypadku ważnych dokumentów zasięgnij porady eksperta Poproś prawdziwego specjalistę o sprawdzenie ważnych dokumentów, takich jak umowy czy wnioski. W ten sposób łatwiej zauważysz, jeśli KI coś wymyśliła.
- Bądź sceptyczny wobec idealnych podsumowań Jeśli podsumowanie KI wydaje się zbyt gładkie i kompletne, nie jest to dowodem na jego poprawność. Właśnie wtedy warto przyjrzeć się mu uważnie.