Chceš po sobě něco zanechat. Nejen peníze nebo majetek, ale i váš hlas. Přítomnost.
Tato představa se zdá lákavá. Představte si, jak za desítky let budou vaše vnoučata slyšet vaše ukolébavky. Představte si, že se můžete zeptat mrtvých, zda jsou mrtví. To je příslib průmyslu digitálního posmrtného života. Tvrdí, že nám umožňuje podvádět smrt, alespoň v digitálním světě.
Je to ale útěcha nebo past?
Technologie už tu je. Aplikace jsou spuštěny. Etické hranice se rychle stírají. Pojďme se podívat na to, co se na tomto rostoucím trhu skutečně děje a proč si někteří odborníci myslí, že by mohl způsobit více škody než užitku.
Archivy nízké technologie proti generativním duchům
Ne každá aplikace pro posmrtnou komunikaci potřebuje superpočítač. Někteří spoléhají na jednoduchou automatizaci.
Vezměme GoneNotGone. Byla založena v roce 2016 a umožňuje uživatelům nahrávat video, audio nebo textové zprávy před jejich smrtí. Systém je pak doručuje blízkým o narozeninách nebo svátcích. Toto není interaktivní služba. Toto je časová kapsle. (Poznámka: Web společnosti je momentálně nedostupný, ale model existuje.)
Pak je tu HereAfter AI. Je to spíše vyhledávač založený na vašich vzpomínkách. Nahráváte hlasové odpovědi na otázky a nahráváte fotografie. Když jste pryč, členové rodiny mohou klást hlasové otázky. Umělá inteligence porovná požadavek s vašimi zaznamenanými odpověďmi. Reprodukuje váš hlas, říká to, co jste ve skutečnosti řekli, ne to, co si stroj myslí, že jste mohli říct.
Toto je „lehká AI“. Inteligence je v indexování, ne v mluvení.
Skok ke generativním technologiím
Tady se věci zkomplikují. Eter9 přichází na pódium.
Tato platforma využívá generativní AI. Informace nejen získává, ale také vytváří.
Uživatelé publikují příspěvky na sociální síti, dokud jsou naživu. AI se učí z jejich stylu, názorů a obsahu. Po zablokování účtu nebo po smrti uživatele zůstává „Kolega“ (Protějšek) online.
„Čím aktivnější je uživatel na platformě, tím více informací kolega dostává a tím lépe může napodobovat svůj lidský vzor.“
Výzkumníci z Fraunhoferova institutu pro bezpečné informační technologie (SIT) a University of Tübingen poznamenávají, že tito avataři mohou komunikovat s žijícími členy rodiny. Mohou dokonce mluvit s jinými AI.
Toto je duch, který může reagovat na Twitteru.
Případ Michaela Bommera
Michael Bommer je nejslavnějším příkladem toho v akci. Podnikatelovi byla v roce 2022 diagnostikována terminální rakovina střev.
Místo aby nechal svůj příběh ukončit, pracoval s Eternos.Life.
Odpověděl na více než 100 otázek. Podrobnosti o jeho životě. Jeho názory. Návrh na sňatek. AI studovala jeho hlas a způsoby.
Jeho žena Anette používá chatbota. Ale ne proto, aby našel klid.
Říká tomu memoár. Způsob, jak osvěžit blednoucí vzpomínky. Nepoužívá to ke zpracování smutku. Používá ho k udržení jeho přítomnosti.
Je to dojemné. Ale také hluboce zvláštní.
Skryté náklady nesmrtelnosti
Existují rizika. Velké.
Za prvé, náklady. Tyto služby nejsou zdarma. Účtují si předplatné. To vyvolává otázku: je to pocta mrtvým nebo zpeněžení smutku? Linka je tenká.
Za druhé, bezpečnost dat. Intimní detaily našich životů přenášíme na cloudové servery. Kdo vlastní tato data? Co když prosakují? Kdo má právo vidět vaše poslední přiznání?
Za třetí, zkreslení. Postupem času se reakce AI mohou změnit. Možná přijde na něco, co neřekl. Obraz zesnulého se mění. Stává se méně osobou a více projekcí.
Nebezpečí dlouhodobého smutku
Psychologická rizika se měří obtížněji.
Někteří lidé mají problém přijmout ztrátu i bez technologie. Avatar AI může fungovat jako berlička. Zabraňuje definitivnosti smrti.
Výzkum virtuálních partnerů naznačuje riziko závislosti. Uživatelé se vzdalují od skutečných lidských spojení. Začnou být posedlí digitálními ozvěnami.
Pro truchlící to může být katastrofa. Místo aby se uzdravily, uvíznou. Avatar se stává závislostí. Zeď mezi životem a realitou ztráty.
Takže to pomáhá?
Výzkum není jasný.
Tým ze SIT a univerzity v Tübingenu dochází k závěru, že nelze zobecňovat.
„Nelze obecně říci, zda dané technologické aplikace přispívají k lidským vztahům nebo je komplikují…“
Záleží na člověku. Záleží na tom, jak to použijí.
Někteří nacházejí útěchu v hlase. Jiní se ocitají uvězněni v cyklu digitálního popírání.
Zatím nemáme dostatek dat. Průmysl je mladý. Věda dohání.
Jedna věc je jasná. Učíme se děsit sami sebe.
Algoritmus Shadow of the Grief
Některé digitální nástroje smutku skutečně pomáhají lidem vyrovnat se se ztrátou. U jiných je mnohem obtížnější se pustit. Rozdíl pravděpodobně spočívá v záměru. Otázka, kterou si musíme položit, zní: Pomáhají tyto aplikace procesu truchlení nebo ho brzdí?
Technologie, která stojí za umělými společníky smutku, je stále sofistikovanější. Dokážou s alarmující přesností napodobit tón a vzpomínku na zesnulého milovaného člověka. Někomu to přináší pohodlí. Cítí se slyšet. Cítí spojení s minulostí.
Ale je tu i temná stránka.
Když AI odmítne přijmout, že daná osoba již není, nutí uživatele do smyčky popírání. Algoritmus není navržen tak, aby vám pomohl zbavit se ztráty. Je navržena tak, aby udržela vaši pozornost. Nutí vás pokračovat v rozhovoru. Donutí vás to kliknout.
To vyvolává kritickou etickou otázku. Měla by technologie upřednostňovat udržení uživatelů před emočním zdravím?
Mnoho aplikací slibuje „uzavření“ prostřednictvím simulace. Skutečné uzavření však vyžaduje konečnost. Umělá inteligence, která říká „já jsem stále tady“, je v rozporu s touto potřebou. Zabraňuje potřebné bolesti z odloučení.
“Smutek není problém, který je třeba vyřešit, ale proces, který je třeba prožít.” — Elisabeth Kübler-Ross (často citovaná v moderních psychologických diskusích)
Způsob interakce s těmito nástroji určuje jejich dopad. Pokud se krátce použijí pro vzpomínky, mohou být neškodné. Pokud jsou používány jako trvalá náhrada lidské komunikace, stávají se nebezpečnými.
Návrh těchto aplikací musíme podrobit přísné kontrole. Podporují postupné opouštění? Nebo si vytvářejí závislost? Odpověď určuje, zda je technologie aktivátorem nebo pastí.
Břemeno volby zůstává na uživateli. Ale odpovědnost za vytváření zdravých hranic leží na vývojářích. V současné době většina firem postrádá cíl.
Orientace v etice digitální nesmrtelnosti
Vznik chatbotů vytvořených po smrti člověka odhaluje mezeru v digitální etice. Většina platforem nemá jasné zásady týkající se toho, jak nakládají s daty zesnulých. To vytváří právní šedé zóny pro rodiny.
Kdo vlastní historii korespondence? Dá se AI vypnout? Nebo bude firemní server podporovat „ducha“ navždy?
To nejsou abstraktní otázky. Toto jsou praktické problémy pro každého, kdo plánuje své digitální dědictví.
- Vlastnictví dat : Ujistěte se, že víte, kdo kontroluje vaše data po smrti.
- Souhlas : Dal zesnulý výslovný souhlas se svou simulací?
- Exit Strategy : Existuje jasné tlačítko pro odstranění AI?
Bez těchto opatření hrozí, že se technologie stanou spíše nástrojem vykořisťování než podporou.
Stále jsme v raných fázích této cesty. Technologie překračují naše etické hranice. Dokud je nedohoníme, je opatrnost jedinou životaschopnou strategií.
Otázkou není jen to, zda umíme tyto nástroje vytvořit. Otázkou je, zda je máme vytvářet bez přísných etických omezení.
Odpověď je složitá. Zatím je skepse užitečná.
