Correu mal. Muito mal. Quatro advogados em um processo judicial federal no Mississippi foram atingidos por sanções depois de confiarem demais na IA para redigir seus processos. O caso, Withers v. Cidade de Aberdeen, começou como uma disputa sobre taxas de projetos solares. Tom Withers III argumentou que a cidade lhe devia dinheiro. Ele não se meteu em problemas, no entanto. Sua equipe fez. O mesmo fizeram os representantes legais da cidade.
Dois de cada lado usaram softwares que criaram casos.
Ou pior. Estatutos citados que não existiam na lei do Mississippi.
A juíza Sharion Aycock não ficou impressionada. Ela multou os advogados e encerrou todo o caso. “Confiar cegamente na tecnologia”, escreveu ela. Isso resultou no que ela chamou de citações alucinatórias. Não foi apenas uma falha tecnológica. Foi uma violação da Regra 11. Que basicamente diz que quando você assina um documento legal, você está jurando a um juiz que ele é verdadeiro. Esses advogados não conseguiram verificar essa verdade.
O New York Times deu continuidade à história. O advogado de marketing Rob Freund percebeu isso primeiro no X, chamando-o de uma comédia de erros de IA. 404 Media correu com isso. De repente, todos estão olhando para este desastre no tribunal do Mississippi.
Isso é apenas uma falha na máquina? Ou uma falha na responsabilidade humana?
As alucinações de IA acontecem com frequência. Grandes modelos de linguagem unem frases que parecem plausíveis sem compreender a verdade. Eles parecem convincentes. Esse é o perigo.
Novas regras, novos riscos
Este não é um incidente isolado. Os advogados já foram prejudicados por erros de IA antes. Nova York ficou rigorosa. A partir de 1º de junho, os resultados de ferramentas como o ChatGPT perdem o privilégio advogado-cliente. Chega de se esconder atrás de reivindicações de sigilo do conteúdo gerado.
A American Bar Association sabe que este é um território complicado. Michelle A. Behnke, a atual presidente da ABA, disse à CNET que a IA generativa exige um exame minucioso. A supervisão não é opcional. “A ABA está aqui para navegar por novas leis e novas tecnologias com seus membros”, disse ela.
Eles divulgaram um relatório em dezembro. Melhores práticas. Conselhos políticos. É tudo uma questão de equilibrar a inovação com cautela. Mas o conselho permanece simples e muitas vezes ignorado por aqueles que perseguem a velocidade: conheça os benefícios. Conheça os riscos.
Não presuma que a saída está correta. Verifique. Sempre verifique isso.
Caso contrário, a conta vence em tribunal.
