È andata male. Davvero male. Quattro avvocati in un caso giudiziario federale nel Mississippi sono stati colpiti da sanzioni dopo aver fatto troppo affidamento sull’intelligenza artificiale per redigere i loro documenti. Il caso Withers v. City of Aberdeen è iniziato come una disputa sulle tariffe dei progetti solari. Tom Withers III ha sostenuto che la città gli doveva dei soldi. Non è finito nei guai, però. La sua squadra lo ha fatto. Lo stesso hanno fatto i rappresentanti legali della città.
Due per parte utilizzavano software per creare casi.
O peggio. Statuti citati che non esistevano nella legge del Mississippi.
Il giudice Sharion Aycock non ne è rimasto colpito. Ha multato gli avvocati e ha archiviato l’intero caso. “Affidarsi ciecamente alla tecnologia”, ha scritto. Ciò ha provocato quelle che lei chiamava citazioni allucinatorie. Non è stato solo un problema tecnico. Era una violazione della Regola 11. Che sostanzialmente dice che quando firmi un documento legale stai giurando davanti a un giudice che è veritiero. Questi avvocati non sono riusciti a verificare questa verità.
Il New York Times ha ripreso la storia. L’avvocato di marketing Rob Freund lo ha notato per primo su X definendolo una commedia sugli errori dell’intelligenza artificiale. 404 Media lo seguirono. All’improvviso tutti guardano a questo disastro in tribunale nel Mississippi.
È solo un problema tecnico della macchina? O un fallimento della responsabilità umana?
Le allucinazioni dell’intelligenza artificiale accadono spesso. Grandi modelli linguistici mettono insieme frasi dal suono plausibile senza comprendere la verità. Sembrano convincenti. Questo è il pericolo.
Nuove regole, nuovi rischi
Questo non è un incidente isolato. Gli avvocati sono già rimasti scottati dagli errori dell’intelligenza artificiale. New York è diventata severa. A partire dal 1° giugno i risultati di strumenti come ChatGPT perdono il privilegio avvocato-cliente. Non dovrai più nasconderti dietro richieste di segretezza per i contenuti generati.
L’American Bar Association sa che questo è un territorio complicato. Michelle A. Behnke, l’attuale presidente dell’ABA, ha dichiarato a CNET che l’intelligenza artificiale generativa richiede un controllo accurato. La supervisione non è facoltativa. “L’ABA è qui per esplorare nuove leggi e nuove tecnologie con i suoi membri”, ha affermato.
Hanno pubblicato un rapporto a dicembre. Migliori pratiche. Consulenza politica. Si tratta di bilanciare l’innovazione con la cautela. Ma il consiglio rimane semplice e spesso ignorato da chi insegue la velocità: conoscere i vantaggi. Conosci i rischi.
Non dare per scontato che l’output sia corretto. Verificalo. Verificatelo sempre.
Altrimenti il conto scade in tribunale.
