Ситуація обернулася провалом. Провалом тотальним. Четверо адвокатів у федеральному суді Міссісіпі отримали санкції за надмірну опору на штучний інтелект під час складання процесуальних документів. Справа * Withers v. City of Aberdeen* починалося як побутова суперечка навколо плати за проект сонячних батарей. Том Уітерс III стверджував, що місто винне йому гроші. Однак сам він у неприємності не влучив. Стрепала його юридична команда. А також представники міської сторони.
По два адвокати з кожної із сторін використовували програмне забезпечення, яке вигадували судові прецеденти.
Або гірше: посилалося на закони, яких не існує у законодавстві Міссісіпі.
Суддя Шаріян Айкак залишилася не в захваті. Вона оштрафувала адвокатів та закрила справу повністю. “Сліпа довіра технологіям”, – написала вона. Це призвело до того, що вона назвала галюцинаторними посиланнями. Йшлося не просто про технічний збій. Це було порушенням правила 11, яке по суті означає, що підписуючи юридичний документ, ви присягаєтеся суду в його достовірності. Ці юристи не спромоглися перевірити цю істину.
“Нью-Йорк таймс” підхопила історію. Маркетинговий юрист Роб Фройд першим помітив їх у X, назвавши комедією помилок ІІ. Агентство 404 Media розігріло тему. Раптом всі погляди звернулися на цей кошмар у Міссісіпі.
Чи це просто збоєм в машині? Чи провалом людської відповідальності?
Галюцинації ІІ – явище часто. Великі мовні моделі склеюють правдоподібні за звучанням речення, не розуміючи суті істини. Вони звучать переконливо. У цьому полягає небезпека.
Нові правила, нові ризики
Це не поодинокий випадок. Юристів вже «підсмажували» помилки ІІ раніше. У Нью-Йорку посилили правила. З 1 червня результати роботи інструментів як ChatGPT втрачають привілей «адвокат-клієнт». Більше не можна ховатись за твердженнями про таємність згенерованого контенту.
Американська юридична асоціація (ABA) розуміє, що це мінне поле. Мічелла А. Бехнке, нинішній президент ABA, розповіла CNET, що генеративний ІІ потребує ретельної перевірки. Контроль не опціональний. “ABA тут, щоб допомогти своїм членам орієнтуватися в нових законах та нових технологіях”, – сказала вона.
У грудні вони випустили звіт. Найкращі практики. Рекомендації щодо політики. Все це зводиться до балансу між інноваціями та обачністю. Але порада залишається простою і часто ігнорується тими, хто женеться за швидкістю: знайте переваги. Знайте ризики.
Не припускайте, що результат коректний. Перевіряйте. Завжди перевіряйте.
Інакше доведеться платити в суді.
