Ситуация обернулась провалом. Провалом тотальным. Четверо адвокатов в федеральном суде Миссисипи получили санкции за чрезмерную опору на искусственный интеллект при составлении процессуальных документов. Дело Withers v. City of Aberdeen начиналось как бытовой спор вокруг платы за проект солнечных батарей. Том Уитерс III утверждал, что город должен ему деньги. Однако сам он в неприятности не попал. Встрепалась его юридическая команда. А также представители городской стороны.
По два адвоката с каждой из сторон использовали программное обеспечение, которое выдумывало судебные прецеденты.
Или хуже: ссылалось на законы, которых не существует в законодательстве Миссисипи.
Судья Шариян Айкак осталась не в восторге. Она оштрафовала адвокатов и закрыла дело полностью. «Слепое доверие технологиям», — написала она. Это привело к тому, что она назвала «галлюцинаторными ссылками». Речь шла не просто о техническом сбое. Это было нарушением правила 11, которое по сути означает, что, подписывая юридический документ, вы клянётесь суду в его достоверности. Данные юристы не удосужились проверить эту истину.
«Нью-Йорк таймс» подхватила историю. Маркетинговый юрист Роб Фройд первым заметил её в X, назвав комедией ошибок ИИ. Агентство 404 Media разогрело тему. Внезапно все взоры обратились на этот судебный кошмар в Миссисипи.
Является ли это просто сбоем в машине? Или провалом человеческой ответственности?
Галлюцинации ИИ — явление частое. Крупные языковые модели склеивают правдоподобные по звучанию предложения, не понимая сути истины. Они звучат убедительно. В этом и заключается опасность.
Новые правила, новые риски
Это не единичный случай. Юристов уже «поджаривали» ошибки ИИ ранее. В Нью-Йорке ужесточили правила. С 1 июня результаты работы инструментов вроде ChatGPT утрачивают привилегию «адвокат-клиент». Больше нельзя прятаться за утверждениями о тайности сгенерированного контента.
Американская юридическая ассоциация (ABA) понимает, что это минное поле. Мичелла А. Бехнке, нынешний президент ABA, рассказала CNET, что генеративный ИИ требует тщательной проверки. Контроль не является опциональным. «ABA здесь, чтобы помочь своим членам ориентироваться в новых законах и новых технологиях», — сказала она.
В декабре они выпустили отчёт. Лучшие практики. Рекомендации по политике. Всё это сводится к балансу между инновациями и осмотрительностью. Но совет остаётся простым и часто игнорируется теми, кто гонится за скоростью: знайте преимущества. Знайте риски.
Не предполагайте, что результат корректен. Проверяйте. Всегда проверяйте.
В противном счёт придётся платить в суде.
