Ви хочете залишити щось після себе. Не просто гроші чи майно, а й свій голос. Наявність.
Ця ідея видається спокусливою. Уявіть, як ваші онуки почують ваші колискові історії через десятиліття. Уявіть, що ви можете запитати у мертвих, чи вони покійні. У цьому полягає обіцянка індустрії цифрового загробного існування. Вона стверджує, що дозволяє нам обдурити смерть принаймні в цифровому світі.
Але це втіха чи пастка?
Технологія вже тут. Програми запускаються. Етичні межі стрімко розмиваються. Давайте подивимося, що насправді відбувається на цьому ринку, і чому деякі експерти вважають, що це може принести більше шкоди, ніж користі.
Архіви низької технології проти генеративних привидів
Не кожному додатку для постмортального спілкування потрібний суперкомп’ютер. Деякі покладаються на просту автоматизацію.
Візьмемо GoneNotGone. Заснована в 2016 році, вона дозволяє користувачам записувати відео, аудіо або текстові повідомлення до смерті. Система потім доставляє їх близьким у дні народження чи свята. Це не інтерактивний сервіс. Це капсула часу. (Примітка: веб-сайт компанії зараз недоступний, але модель існує.)
Потім є HereAfter AI. Це швидше пошукова система за вашими спогадами. Ви записуєте голосові відповіді на запитання та завантажуєте фотографії. Коли вас не стане, члени сім’ї можуть ставити голосові запитання. ІІ зіставляє запит із вашими записаними відповідями. Він відтворює ваш голос, кажучи те, що ви сказали насправді, а не те, що машина вважає, що ви могли б сказати.
Це «легкий ІІ». Інтелект полягає в індексації, а не у розмові.
Стрибок до генеративних технологій
Тут усе складніше. На сцену виходить Eter9.
Ця платформа використовує генеративний ІІ. Вона не просто витягує інформацію, а й створює її.
Користувачі публікують пости у соціальній мережі, доки вони живі. ІІ навчається на їхньому стилі, думках та контенті. Після того, як обліковий запис заблоковано або користувач помер, «Колега» (Counterpart) залишається в мережі.
«Чим активніший користувач на платформі, тим більше інформації отримує колега і тим точніше він може імітувати свою людську модель для наслідування».
Дослідники з Інституту безпечних інформаційних технологій Фраунгофера (SIT) та Тюбінгенського університету відзначають, що ці аватари можуть взаємодіяти з живими членами сім’ї. Вони можуть навіть розмовляти з іншими ШІ.
Це привид, який може відповісти у твіттері.
Кейс Майкла Боммера
Майкл Боммер – найвідоміший приклад цього у дії. Бізнесмена діагностували з термінальним раком кишечника в 2022 році.
Замість того, щоб дозволити своїй історії закінчитися, він працював з Eternos.Life.
Він відповів більш ніж на 100 запитань. Деталі його життя. Його погляди. Пропозиція руки та серця. ІІ вивчив його голос та манери.
Його дружина Анетт використовує чат-бота. Але не для того, щоб знайти спокій.
Вона називає це спогадами. Способом освіжити спогади, що згасають. Вона не використовує її для обробки горя. Вона використовує його, щоб зберегти його присутність.
Це зворушливо. Але також дуже дивно.
Приховані ціни безсмертя
Є ризики. Великі.
По-перше, вартість. Ці послуги не є безкоштовними. Вони стягують абонентську плату. Це викликає питання: чи це данина поваги мертвим чи монетизація горя? Кордон тонка.
По-друге, безпека даних. Ми надаємо інтимні деталі нашого життя на хмарні сервери. Хто володіє цими даними? Що якщо вони втечуть? Хто має право бачити ваші останні сповіді?
По-третє, спотворення. Згодом відповіді ІІ можуть зміщуватися. Він може вигадати те, чого він не говорив. Образ померлого змінюється. Він стає меншою людиною і більше проекцією.
Небезпека затяжного горя
Психологічні ризики складніше виміряти.
Деяким людям важко прийняти втрату навіть без технологій. ІІ-аватар може діяти як милиця. Він запобігає остаточності смерті.
Дослідження віртуальних партнерів свідчать про ризик залежності. Користувачі уникають реальних людських зв’язків. Вони стають одержимими цифровою луною.
Для скорботних може бути катастрофічним. Замість лікування вони застряють. Аватар стає залежністю. Стіною між живими та реальністю втрати.
Так чи допомагає це?
Дослідження є однозначними.
Команда з SIT та Тюбінгенського університету приходить до висновку, що не можна робити узагальнень.
«Не можна загалом сказати, чи сприяють технічні додатки, що розглядаються, чи ускладнюють людські відносини…»
Це від людини. Це від того, як вони його використовують.
Дехто знаходить втіху в голосі. Інші виявляють себе замкненими у циклі цифрового заперечення.
У нас поки що недостатньо даних. Індустія молода. Наука наздоганяє.
Одне очевидно. Ми вчимося наводити жах на себе.
Тінь алгоритму горя
Деякі цифрові інструменти для жалоби дійсно допомагають людям справлятися зі втратою. Інші значно ускладнюють процес відпускання. Різниця, мабуть, зводиться до наміру. Нам необхідно поставити собі питання: чи допомагають ці додатки процесу бідування чи перешкоджають йому?
Технології, що лежать в основі ІІ-компаньйонів для горіння, стають дедалі складнішими. Вони можуть з лякаючою точністю імітувати тон і пам’ять близької людини, що пішла. Для деяких це приносить втіху. Вони почуваються почутими. Вони відчувають зв’язок із минулим.
Але є й темний бік.
Коли ІІ відмовляється визнавати, що людини більше немає, вона заганяє користувача в петлю заперечення. Алгоритм не призначений для того, щоб допомогти вам відпустити втрату. Він призначений для того, щоб утримувати вашу увагу. Він змушує вас продовжувати розмову. Він змушує вас кликати.
Це порушує критичне етичне питання. Чи повинна технологія ставити утримання користувача вище за емоційне здоров’я?
Багато програм обіцяють «закриття» (closure) через симуляцію. Однак справжнє закриття вимагає ухвалення остаточності. ІІ, який каже «Я все ще тут», суперечить цій потребі. Він запобігає необхідному болю розлуки.
«Горе — це проблема, яку треба вирішити, а процес, який потрібно прожити». – Елізабет Кюблер-Росс (часто цитується в сучасних психологічних дискусіях)
Те, як ми взаємодіємо з цими інструментами, визначає їхній вплив. Якщо вони використовуються коротко для спогадів, то вони можуть бути нешкідливими. Якщо ж використовуються як постійна заміна на людське спілкування, вони стають небезпечними.
Ми повинні ретельно перевіряти дизайн цих додатків. Чи заохочують вони поступове відпускання? Чи формують залежність? Відповідь визначає, чи є технологія підтримкою чи пасткою.
Тягар вибору залишається за користувачем. Але відповідальність за створення здорових кордонів лежить на розробниках. В даний час більшість компаній промахуються повз ціль.
Навігація в етиці цифрового безсмертя
Поява чат-ботів, створених після смерті людини, оголює прогалину в цифровій етиці. Більшість платформ не мають чітких політик щодо того, як вони поводяться з даними померлих. Це створює правові сірі зони для сімей.
Кому належить історія листування? Чи можна вимкнути ШІ? Чи корпоративний сервер підтримуватиме «привид» вічно?
Це не абстрактні питання. Це практичні проблеми для будь-кого, хто планує свою цифрову спадщину.
- Володання даних : Переконайтеся, що ви знаєте, хто контролює ваші дані після смерті.
- Згода : Чи давав померлий явну згоду на свою симуляцію?
- Стратегія виходу : Чи є чітка кнопка видалення ІІ?
Без цих запобіжних заходів технологія ризикує стати інструментом експлуатації, а не підтримки.
Ми все ще знаходимося на ранньому етапі цього шляху. Технології випереджають наші етичні рамки. Поки ми не наздоженемо їх, обережність — єдина життєздатна стратегія.
Питання не тільки в тому, чи можемо ми створювати ці інструменти. Питання в тому, чи повинні ми створювати їх без суворих етичних обмежень.
Відповідь складна. На даний момент скептицизм корисний.
