Es lief schlecht. Wirklich schlecht. Vier Anwälte in einem Fall vor einem Bundesgericht in Mississippi wurden mit Sanktionen belegt, weil sie sich bei der Erstellung ihrer Akten zu stark auf KI verlassen hatten. Der Fall Withers gegen City of Aberdeen begann als Streit um Solarprojektgebühren. Tom Withers III argumentierte, die Stadt schulde ihm Geld. Er geriet jedoch nicht in Schwierigkeiten. Sein Team hat es geschafft. Das taten auch die gesetzlichen Vertreter der Stadt.
Zwei von jeder Seite nutzten Software, die Fälle zusammenstellte.
Oder noch schlimmer. Zitierte Gesetze, die es im Mississippi-Recht nicht gab.
Richterin Sharion Aycock war nicht beeindruckt. Sie verhängte eine Geldstrafe gegen die Anwälte und stellte den gesamten Fall ein. „Blindes Verlassen auf die Technologie“, schrieb sie. Das führte zu, wie sie es nannte, halluzinatorischen Zitaten. Es war nicht nur ein technischer Fehler. Es war ein Verstoß gegen Regel 11. Diese besagt im Grunde, dass man mit der Unterzeichnung eines juristischen Dokuments gegenüber einem Richter schwört, dass es der Wahrheit entspricht. Diese Anwälte konnten diese Wahrheit nicht überprüfen.
Die New York Times hat die Geschichte aufgegriffen. Der Marketing-Anwalt Rob Freund entdeckte es zuerst bei X und nannte es eine Komödie aus KI-Fehlern. 404 Media lief damit. Plötzlich blicken alle auf dieses Gerichtsdesaster in Mississippi.
Ist das nur ein Fehler in der Maschine? Oder ein Versagen der menschlichen Verantwortung?
AI-Halluzinationen kommen häufig vor. Große Sprachmodelle fügen plausibel klingende Sätze zusammen, ohne die Wahrheit zu verstehen. Sie klingen überzeugend. Das ist die Gefahr.
Neue Regeln, neue Risiken
Dies ist kein Einzelfall. Anwälte wurden schon früher von KI-Fehlern geplagt. New York wurde streng. Ab dem 1. Juni verlieren Ergebnisse von Tools wie ChatGPT das Anwaltsgeheimnis. Kein Verstecken mehr hinter Geheimhaltungsansprüchen für generierte Inhalte.
Die American Bar Association weiß, dass dies ein heikles Terrain ist. Michelle A. Behnke, die derzeitige ABA-Präsidentin, sagte gegenüber CNET, dass generative KI einer genauen Prüfung bedarf. Aufsicht ist nicht optional. „Die ABA ist hier, um mit ihren Mitgliedern neue Gesetze und neue Technologien zu erlernen“, sagte sie.
Im Dezember veröffentlichten sie einen Bericht. Best Practices. Politikberatung. Es geht darum, Innovation mit Vorsicht in Einklang zu bringen. Aber der Rat bleibt einfach und wird von denen, die auf der Suche nach Geschwindigkeit sind, oft ignoriert: Kennen Sie die Vorteile. Kennen Sie die Risiken.
Gehen Sie nicht davon aus, dass die Ausgabe korrekt ist. Überprüfen Sie es. Überprüfen Sie es immer.
Andernfalls wird die Rechnung vor Gericht fällig.
