Ça s’est mal passé. Vraiment mal. Quatre avocats impliqués dans une affaire devant un tribunal fédéral du Mississippi ont été sanctionnés après avoir trop compté sur AI pour rédiger leurs dossiers. L’affaire, Withers c. Ville d’Aberdeen, a commencé comme une querelle sur les frais des projets solaires. Tom Withers III a fait valoir que la ville lui devait de l’argent. Il n’a cependant pas eu d’ennuis. Son équipe l’a fait. Les représentants légaux de la ville aussi.
Deux de chaque côté ont utilisé un logiciel qui composait des cas.
Ou pire. Citation de lois qui n’existaient pas dans la loi du Mississippi.
La juge Sharion Aycock n’a pas été impressionnée. Elle a infligé une amende aux avocats et a clos toute l’affaire. « S’appuyer aveuglément sur la technologie », a-t-elle écrit. Cela a abouti à ce qu’elle appelle des citations hallucinatoires. Ce n’était pas seulement un problème technique. Il s’agissait d’une violation de la règle 11. Selon laquelle, en gros, lorsque vous signez un document juridique, vous jurez devant un juge qu’il est véridique. Ces avocats n’ont pas réussi à vérifier cette vérité.
Le New York Times a repris l’histoire. L’avocat en marketing Rob Freund l’a repéré pour la première fois sur X, le qualifiant de comédie d’erreurs d’IA. 404 Media a fonctionné avec. Soudain, tout le monde regarde ce désastre judiciaire dans le Mississippi.
Est-ce juste un problème dans la machine ? Ou un échec de la responsabilité humaine ?
Les hallucinations de l’IA surviennent souvent. Les grands modèles de langage assemblent des phrases plausibles sans comprendre la vérité. Ils semblent convaincants. C’est ça le danger.
Nouvelles règles, nouveaux risques
Ce n’est pas un incident isolé. Les avocats ont déjà été brûlés par les erreurs de l’IA. New York est devenu strict. À partir du 1er juin, des outils comme ChatGPT perdent le secret professionnel de l’avocat. Plus besoin de vous cacher derrière des revendications de secret pour le contenu généré.
L’American Bar Association sait qu’il s’agit d’un territoire délicat. Michelle A. Behnke, l’actuelle présidente de l’ABA, a déclaré à CNET que l’IA générative exige un examen minutieux. La surveillance n’est pas facultative. “L’ABA est là pour naviguer dans les nouvelles lois et les nouvelles technologies avec ses membres”, a-t-elle déclaré.
Ils ont publié un rapport en décembre. Meilleures pratiques. Conseils politiques. Il s’agit d’équilibrer innovation et prudence. Mais le conseil reste simple et souvent ignoré par ceux qui recherchent la vitesse : connaissez les avantages. Connaissez les risques.
Ne présumez pas que le résultat est correct. Vérifiez-le. Vérifiez-le toujours.
Dans le cas contraire, la facture doit être portée au tribunal.
