Вы хотите оставить что-то после себя. Не просто деньги или имущество, но и свой голос. Присутствие.
Эта идея кажется соблазнительной. Представьте, как ваши внуки услышат ваши колыбельные истории спустя десятилетия. Представьте, что вы можете спросить у мертвых, покойны ли они. В этом заключается обещание индустрии цифрового загробного существования. Она утверждает, что позволяет нам обмануть смерть, по крайней мере, в цифровом мире.
Но это утешение или ловушка?
Технологии уже здесь. Приложения запускаются. Этические границы стремительно размываются. Давайте посмотрим, что на самом деле происходит на этом растущем рынке, и почему некоторые эксперты считают, что это может принести больше вреда, чем пользы.
Архивы низкой технологии против генеративных призраков
Не каждому приложению для постмортального общения нужен суперкомпьютер. Некоторые полагаются на простую автоматизацию.
Возьмем GoneNotGone. Основанная в 2016 году, она позволяет пользователям записывать видео, аудио или текстовые сообщения до своей смерти. Система затем доставляет их близким в дни рождения или праздники. Это не интерактивный сервис. Это капсула времени. (Примечание: веб-сайт компании в настоящее время недоступен, но модель существует.)
Затем есть HereAfter AI. Это скорее поисковая система по вашим воспоминаниям. Вы записываете голосовые ответы на вопросы и загружаете фотографии. Когда вас не станет, члены семьи могут задавать голосовые вопросы. ИИ сопоставляет запрос с вашими записанными ответами. Он воспроизводит ваш голос, говоря то, что вы сказали на самом деле, а не то, что машина считает, что вы могли бы сказать.
Это «легкий ИИ». Интеллект заключается в индексации, а не в разговоре.
Скачок к генеративным технологиям
Здесь все становится сложнее. На сцену выходит Eter9.
Эта платформа использует генеративный ИИ. Она не просто извлекает информацию, но и создает ее.
Пользователи публикуют посты в социальной сети, пока они живы. ИИ обучается на их стиле, мнениях и контенте. После того как аккаунт заблокирован или пользователь умер, «Коллега» (Counterpart) остается в сети.
«Чем активнее пользователь на платформе, тем больше информации получает коллега и тем точнее он может имитировать свою человеческую модель для подражания».
Исследователи из Института безопасных информационных технологий Фраунгофера (SIT) и Тюбингенского университета отмечают, что эти аватары могут взаимодействовать с живыми членами семьи. Они могут даже разговаривать с другими ИИ.
Это призрак, который может ответить в твиттере.
Кейс Майкла Боммера
Майкл Боммер — самый известный пример этого в действии. Бизнесмен был диагностирован с терминальным раком кишечника в 2022 году.
Вместо того чтобы позволить своей истории закончиться, он работал с Eternos.Life.
Он ответил более чем на 100 вопросов. Детали его жизни. Его взгляды. Предложение руки и сердца. ИИ изучил его голос и манеры.
Его жена, Анетт, использует чат-бота. Но не для того, чтобы найти покой.
Она называет это мемуарами. Способом освежить угасающие воспоминания. Она не использует его для обработки горя. Она использует его, чтобы сохранить его присутствие.
Это трогательно. Но также глубоко странно.
Скрытые цены бессмертия
Есть риски. Крупные.
Во-первых, стоимость. Эти услуги не бесплатны. Они взимают абонентскую плату. Это вызывает вопрос: это дань уважения мертвым или монетизация горя? Граница тонка.
Во-вторых, безопасность данных. Мы передаем интимные детали нашей жизни на облачные серверы. Кто владеет этими данными? Что если они утекут? Кто имеет право видеть ваши последние исповеди?
В-третьих, искажение. Со временем ответы ИИ могут смещаться. Он может придумать то, чего он не говорил. Образ умершего меняется. Он становится меньше человеком и больше проекцией.
Опасность затяжного горя
Психологические риски сложнее измерить.
Некоторым людям трудно принять потерю даже без технологий. ИИ-аватар может действовать как костыль. Он предотвращает окончательность смерти.
Исследования виртуальных партнеров указывают на риск зависимости. Пользователи уходят от реальных человеческих связей. Они становятся одержимыми цифровым эхом.
Для скорбящих это может быть катастрофическим. Вместо исцеления они застревают. Аватар становится зависимостью. Стеной между живыми и реальностью потери.
Так помогает ли это?
Исследования не являются однозначными.
Команда из SIT и Тюбингенского университета приходит к выводу, что нельзя делать обобщений.
«Нельзя в общем сказать, способствуют ли рассматриваемые технические приложения или усложняют человеческие отношения…»
Это зависит от человека. Это зависит от того, как они его используют.
Некоторые находят утешение в голосе. Другие обнаруживают себя запертыми в цикле цифрового отрицания.
У нас пока недостаточно данных. Индустия молода. Наука догоняет.
Одно очевидно. Мы учимся наводить ужас на самих себя.
Тень алгоритма горя
Некоторые цифровые инструменты для траура действительно помогают людям справляться с утратой. Другие же значительно затрудняют процесс отпускания. Разница, вероятно, сводится к намерению. Нам необходимо задать себе вопрос: помогают ли эти приложения процессу горевания или препятствуют ему?
Технологии, лежащие в основе ИИ-компаньонов для горевания, становятся всё более сложными. Они могут с пугающей точностью имитировать тон и память ушедшего близкого человека. Для некоторых это приносит утешение. Они чувствуют себя услышанными. Они чувствуют связь с прошлым.
Но есть и тёмная сторона.
Когда ИИ отказывается признавать, что человека больше нет, он загоняет пользователя в петлю отрицания. Алгоритм не предназначен для того, чтобы помочь вам отпустить утрату. Он предназначен для того, чтобы удерживать ваше внимание. Он заставляет вас продолжать разговор. Он заставляет вас кликать.
Это поднимает критический этический вопрос. Должна ли технология ставить удержание пользователя выше эмоционального здоровья?
Многие приложения обещают «закрытие» (closure) через симуляцию. Однако настоящее закрытие требует принятия окончательности. ИИ, который говорит «Я всё ещё здесь», противоречит этой потребности. Он предотвращает необходимую боль разлуки.
«Горе — это не проблема, которую нужно решить, а процесс, который нужно прожить». — Элизабет Кюблер-Росс (часто цитируется в современных психологических дискуссиях)
То, как мы взаимодействуем с этими инструментами, определяет их воздействие. Если они используются кратко для воспоминаний, они могут быть безвредными. Если же используются как постоянная замена человеческому общению, они становятся опасными.
Мы должны подвергать тщательной проверке дизайн этих приложений. Поощряют ли они постепенное отпускание? Или они формируют зависимость? Ответ определяет, является ли технология поддержкой или ловушкой.
Бремя выбора остаётся за пользователем. Но ответственность за создание здоровых границ лежит на разработчиках. В настоящее время большинство компаний промахиваются мимо цели.
Навигация в этике цифрового бессмертия
Появление чат-ботов, созданных после смерти человека, обнажает пробел в цифровой этике. Большинство платформ не имеют чётких политик относительно того, как они обращаются с данными умерших. Это создаёт правовые серые зоны для семей.
Кому принадлежит история переписки? Можно ли выключить ИИ? Или корпоративный сервер будет поддерживать «призрак» вечно?
Это не абстрактные вопросы. Это практические проблемы для любого, кто планирует своё цифровое наследие.
- Владение данными : Убедитесь, что вы знаете, кто контролирует ваши данные после смерти.
- Согласие : Давал ли умерший явное согласие на свою симуляцию?
- Стратегия выхода : Есть ли чёткая кнопка для удаления ИИ?
Без этих мер предосторожности технология рискует стать инструментом эксплуатации, а не поддержки.
Мы всё ещё находимся на раннем этапе этого пути. Технологии опережают наши этические рамки. Пока мы не догоним их, осторожность — единственная жизнеспособная стратегия.
Вопрос не только в том, можем ли мы создавать эти инструменты. Вопрос в том, должны ли мы создавать их без строгих этических ограничений.
Ответ сложен. На данный момент скептицизм полезен.
