Situace se ukázala jako neúspěšná. Totální selhání. Čtyři právníci u federálního soudu v Mississippi byli potrestáni za to, že se příliš spoléhali na umělou inteligenci při navrhování procesních dokumentů. Withers v. The City of Aberdeen začal jako domácí spor o poplatky za projekt solárních panelů. Tom Withers III tvrdil, že mu město dluží peníze. Sám se však do problémů nedostal. Jeho právní tým byl rozrušený. Stejně jako zástupci městské strany.
Dva právníci na každé straně používali software, který vymyslel právní precedenty.
Nebo ještě hůř: odkazovalo se na zákony, které v právu Mississippi neexistují.
Soudce Shariyan Haykak nebyl šťastný. Advokátům udělila pokutu a případ zcela uzavřela. “Slepá důvěra v technologii,” napsala. To vedlo k tomu, co nazývala „halucinačními odkazy“. Nebyla to jen technická závada. To bylo porušení pravidla 11, což v podstatě znamená, že když podepíšete právní dokument, přísaháte soudu, že je to pravda. Tito právníci se neobtěžovali tuto pravdu ověřit.
The New York Times zvedl příběh. Marketingový právník Rob Freud si toho v X jako první všiml a nazval to komedií chyb AI. Téma nažhavila agentura 404 Media. Náhle se všechny oči obrátily k této legální noční můře v Mississippi.
Je to jen závada ve stroji? Nebo selhání lidské odpovědnosti?
Halucinace AI jsou běžné. Velké jazykové modely skládají dohromady věrohodně znějící věty, aniž by pochopily podstatu pravdy. Znějí přesvědčivě. V tom spočívá nebezpečí.
Nová pravidla, nová rizika
Není to ojedinělý případ. Právníci byli zmařeni chybami AI již dříve. New York zpřísnil pravidla. Od 1. června ztratí výstup z nástrojů, jako je ChatGPT, oprávnění právníka-klienta. Již se nemůžete schovávat za tvrzení o utajení generovaného obsahu.
Americká advokátní komora (ABA) chápe, že se jedná o minové pole. Michella A. Behnke, současná prezidentka ABA, řekla CNET, že generativní AI vyžaduje pečlivé prověření. Ovládání není volitelné. “ABA je tu, aby pomohla svým členům orientovat se v nových zákonech a nových technologiích,” řekla.
V prosinci vydali zprávu. Osvědčené postupy. Politická doporučení. Vše spočívá v rovnováze mezi inovací a obezřetností. Ale rada zůstává jednoduchá a těmi, kdo hledají rychlost, ji často ignorují: poznejte výhody. Znát rizika.
Nepředpokládejte, že výsledek je správný. Kontrola. Vždy zkontrolujte.
V opačném případě bude muset být účet zaplacen u soudu.
