Het ging slecht. Echt slecht. Vier advocaten in een federale rechtszaak in Mississippi kregen sancties opgelegd omdat ze te veel op AI vertrouwden bij het opstellen van hun dossiers. De zaak, Withers v. City of Aberdeen, begon als een ruzie over de vergoedingen voor zonne-energieprojecten. Tom Withers III voerde aan dat de stad hem geld schuldig was. Toch kwam hij niet in de problemen. Zijn team deed dat. Dat deden de wettelijke vertegenwoordigers van de stad ook.
Twee van elke kant gebruikten software waarmee cases werden verzonnen.
Of erger. Geciteerde statuten die niet bestonden in de wet van Mississippi.
Rechter Sharion Aycock was niet onder de indruk. Ze legde de advocaten een boete op en sloot de hele zaak. ‘Blind vertrouwend op technologie’, schreef ze. Dat resulteerde in wat zij hallucinerende citaten noemde. Het was niet alleen een technisch probleem. Het was een overtreding van Regel 11. Wat in feite inhoudt dat wanneer je een juridisch document ondertekent, je bij de rechter zweert dat het waar is. Deze advocaten zijn er niet in geslaagd die waarheid te verifiëren.
De New York Times pikte het verhaal op. Marketingadvocaat Rob Freund zag het als eerste op X en noemde het een komedie van AI-fouten. 404 Media gingen er mee aan de slag. Plotseling kijkt iedereen naar deze ramp in de rechtszaal in Mississippi.
Is dit gewoon een storing in de machine? Of een falen van de menselijke verantwoordelijkheid?
AI-hallucinaties komen vaak voor. Grote taalmodellen plakken plausibel klinkende zinnen aan elkaar zonder de waarheid te begrijpen. Ze klinken overtuigend. Dat is het gevaar.
Nieuwe regels, nieuwe risico’s
Dit is geen geïsoleerd incident. Advocaten zijn eerder verbrand door AI-fouten. New York werd streng. Vanaf 1 juni verliezen de resultaten van tools als ChatGPT het privilege van advocaat en cliënt. U hoeft zich niet langer te verschuilen achter geheimhoudingsclaims voor gegenereerde inhoud.
De American Bar Association weet dat dit een lastig terrein is. Michelle A. Behnke, de huidige ABA-president, vertelde CNET dat generatieve AI kritisch onderzoek vereist. Toezicht is niet optioneel. “De ABA is hier om samen met haar leden door nieuwe wetten en nieuwe technologie te navigeren”, zei ze.
In december brachten ze een rapport uit. Beste praktijken. Beleidsadvies. Het draait allemaal om het balanceren van innovatie met voorzichtigheid. Maar het advies blijft eenvoudig en wordt vaak genegeerd door degenen die snelheid najagen: ken de voordelen. Ken de risico’s.
Ga er niet vanuit dat de uitvoer correct is. Controleer het. Controleer het altijd.
Anders moet de rekening bij de rechtbank verschijnen.
