Todo salió mal. Realmente mal. Cuatro abogados en un caso judicial federal en Mississippi fueron sancionados después de depender demasiado de la IA para redactar sus presentaciones. El caso, Withers v. Ciudad de Aberdeen, comenzó como una disputa sobre las tarifas de un proyecto solar. Tom Withers III argumentó que la ciudad le debía dinero. Aunque no se metió en problemas. Su equipo lo hizo. Lo mismo hicieron los representantes legales de la ciudad.
Dos de cada lado utilizaron software que inventó casos.
O peor. Citó estatutos que no existían en la ley de Mississippi.
El juez Sharion Aycock no quedó impresionado. Multó a los abogados y cerró todo el caso. “Confiar ciegamente en la tecnología”, escribió. Eso resultó en lo que ella llamó citas alucinatorias. No fue sólo un problema técnico. Fue una violación de la Regla 11, que básicamente dice que cuando firmas un documento legal estás jurando ante un juez que es veraz. Estos abogados no lograron verificar esa verdad.
El New York Times se hizo eco de la historia. El abogado de marketing Rob Freund lo vio por primera vez en X y lo calificó como una comedia de errores de IA. 404 Media lo siguió. De repente, todo el mundo está mirando este desastre judicial en Mississippi.
¿Es esto sólo un fallo en la máquina? ¿O un fracaso de la responsabilidad humana?
Las alucinaciones de IA ocurren con frecuencia. Los grandes modelos de lenguaje unen oraciones que suenan plausibles sin comprender la verdad. Suenan convincentes. Ese es el peligro.
Nuevas reglas, nuevos riesgos
Este no es un incidente aislado. Los abogados ya se han visto afectados por errores de IA antes. Nueva York se volvió estricta. A partir del 1 de junio, los resultados de herramientas como ChatGPT pierden el privilegio de abogado-cliente. No más esconderse detrás de afirmaciones de secreto sobre el contenido generado.
La Asociación de Abogados de Estados Unidos sabe que este es un territorio complicado. Michelle A. Behnke, la actual presidenta de la ABA, dijo a CNET que la IA generativa exige escrutinio. La supervisión no es opcional. “La ABA está aquí para navegar nuevas leyes y nuevas tecnologías con sus miembros”, dijo.
Publicaron un informe en diciembre. Mejores prácticas. Asesoramiento político. Se trata de equilibrar la innovación con la precaución. Pero el consejo sigue siendo simple y a menudo ignorado por quienes buscan velocidad: conozca los beneficios. Conozca los riesgos.
No asuma que el resultado es correcto. Compruébalo. Compruébalo siempre.
De lo contrario, la factura deberá presentarse ante el tribunal.
