Sytuacja okazała się porażką. Totalna porażka. Czterech prawników sądu federalnego w Mississippi zostało ukaranych za nadmierne poleganie na sztucznej inteligencji przy sporządzaniu dokumentów procesowych. Sprawa „Withers przeciwko miastu Aberdeen” rozpoczęła się od krajowego sporu dotyczącego opłat za projekt paneli słonecznych. Tom Withers III twierdził, że miasto jest mu winne pieniądze. Jednak on sam nie wpadł w kłopoty. Jego zespół prawny był wzburzony. A także przedstawiciele strony miejskiej.
Dwóch prawników z każdej strony korzystało z oprogramowania, które stworzyło precedensy prawne.
Albo gorzej: odnosiło się do przepisów, których nie ma w prawie stanu Mississippi.
Sędzia Shariyan Haykak nie był zadowolony. Nałożyła karę na prawników i całkowicie zamknęła sprawę. „Ślepa wiara w technologię” – napisała. Doprowadziło to do czegoś, co nazwała „halucynacyjnymi odniesieniami”. To nie była tylko usterka techniczna. Stanowiło to naruszenie Zasady 11, co zasadniczo oznacza, że podpisując dokument prawny, przysięgasz przed sądem, że jest on prawdziwy. Prawnicy ci nie zadali sobie trudu sprawdzenia tej prawdy.
Sprawą zajął się „The New York Times”. Jako pierwszy zauważył to w X, prawnik ds. marketingu Rob Freud, nazywając go komedią błędów AI. Agencja 404 Media podgrzała temat. Nagle wszystkie oczy zwróciły się na ten prawniczy koszmar w Mississippi.
Czy to tylko usterka w maszynie? A może brak ludzkiej odpowiedzialności?
Halucynacje AI są powszechne. Duże modele językowe łączą wiarygodnie brzmiące zdania, nie rozumiejąc istoty prawdy. Brzmią przekonująco. Tutaj leży niebezpieczeństwo.
Nowe zasady, nowe ryzyko
To nie jest odosobniony przypadek. Prawnicy byli już wcześniej smażeni na błędach AI. Nowy Jork zaostrzył zasady. Od 1 czerwca dane wyjściowe z narzędzi takich jak ChatGPT stracą przywileje prawnika. Nie możesz już ukrywać się za twierdzeniami o tajności generowanych treści.
American Bar Association (ABA) rozumie, że jest to pole minowe. Michella A. Behnke, obecna prezes ABA, powiedziała CNET, że generatywna sztuczna inteligencja wymaga dokładnej weryfikacji. Sterowanie nie jest opcjonalne. „ABA jest tutaj, aby pomóc swoim członkom w poruszaniu się po nowych przepisach i nowych technologiach” – powiedziała.
W grudniu opublikowali raport. Najlepsze praktyki. Zalecenia dotyczące polityki. Wszystko sprowadza się do równowagi pomiędzy innowacyjnością a rozwagą. Ale rada pozostaje prosta i często ignorowana przez tych, którzy szukają szybkości: poznaj korzyści. Poznaj ryzyko.
Nie zakładaj, że wynik jest prawidłowy. Sprawdzać. Zawsze sprawdzaj.
W przeciwnym razie rachunek będzie musiał zostać zapłacony w sądzie.
