Vuoi lasciare qualcosa dietro. Non solo denaro o proprietà, ma una voce. Una presenza.
L’idea è seducente. Immagina che i tuoi nipoti ascoltino le tue favole della buonanotte tra decenni. Immagina di chiedere ai morti se sono in pace. Questa è la promessa dell’industria digitale dell’aldilà. Afferma di permetterci di ingannare la morte, almeno nel regno digitale.
Ma è conforto? Oppure è una trappola?
La tecnologia è qui. Le app si stanno avviando. E i confini etici stanno diventando sempre più sfumati. Diamo un’occhiata a cosa sta realmente accadendo in questo mercato in crescita e perché alcuni esperti ritengono che potrebbe causare più danni che benefici.
Archivi a bassa tecnologia contro fantasmi generativi
Non tutte le app post mortem necessitano di un supercomputer. Alcuni si affidano alla semplice automazione.
Prendi GoneNotGone. Fondata nel 2016, consente agli utenti di registrare video, audio o messaggi di testo prima di morire. Il sistema poi li consegna ai propri cari in occasione di compleanni o festività. Non è interattivo. È una capsula del tempo. (Nota: il sito Web dell’azienda è attualmente inattivo, ma il modello esiste.)
Poi c’è HereAfter AI. Questo è più vicino a un motore di ricerca per i tuoi ricordi. Registra le risposte audio alle richieste e carica le foto. Quando non ci sei, i membri della famiglia possono porre domande vocali. L’intelligenza artificiale abbina la query alle risposte registrate. Riproduce la tua voce dicendo quello che effettivamente hai detto, non quello che una macchina pensa che vorresti dire.
È “luce AI”. L’intelligenza sta nell’indicizzazione, non nella conversazione.
Il salto generativo
Qui è dove le cose si complicano. Inserisci Eter9.
Questa piattaforma utilizza l’intelligenza artificiale generativa. Non si limita a recuperare; crea.
Gli utenti pubblicano su un social network mentre sono vivi. L’intelligenza artificiale impara dal loro stile, opinioni e contenuti. Una volta disconnesso o morto, la “controparte” rimane online.
“Più un utente è attivo sulla piattaforma, più informazioni riceve la sua controparte e più accuratamente può imitare il suo modello umano.”
I ricercatori dell’Istituto Fraunhofer per la tecnologia informatica sicura (SIT) e dell’Università di Tubinga notano che questi avatar possono interagire con i membri viventi della famiglia. Possono persino parlare con altre IA.
È un fantasma che può rispondere con un tweet.
Il caso di studio di Michael Bommer
Michael Bommer ne è l’esempio più famoso in azione. All’uomo d’affari è stato diagnosticato un cancro terminale all’intestino nel 2022.
Invece di lasciare che la sua storia finisse, ha lavorato con Eternos.Life.
Ha risposto a oltre 100 domande. Dettagli sulla sua vita. Le sue opinioni. La sua proposta di matrimonio. L’intelligenza artificiale ha imparato la sua voce e i suoi manierismi.
Sua moglie, Anett, usa il chatbot. Ma non per la chiusura.
Lei lo chiama un libro di memorie. Un modo per rinfrescare i ricordi sbiaditi. Non lo usa per elaborare il dolore. Lo usa per tenerlo presente.
È toccante. È anche profondamente strano.
I costi nascosti dell’immortalità
Ci sono dei rischi. Quelli grandi.
Innanzitutto, il costo. Questi servizi non sono gratuiti. Fanno pagare tariffe di abbonamento. Ciò solleva una domanda: si tratta di onorare i morti o di monetizzare il dolore? La linea è sottile.
In secondo luogo, la sicurezza dei dati. Stiamo inserendo dettagli intimi della nostra vita nei server cloud. Chi possiede quei dati? E se perde? Chi ha il diritto di vedere le tue ultime confessioni?
Terzo, distorsione. Nel corso del tempo, le risposte dell’IA potrebbero variare. Potrebbe inventare cose che non ha detto. L’immagine del defunto cambia. Diventa meno una persona e più una proiezione.
Il pericolo di un dolore prolungato
I rischi psicologici sono più difficili da misurare.
Alcune persone faticano ad accettare la perdita anche senza la tecnologia. Un avatar AI può fungere da stampella. Impedisce la definitività della morte.
Gli studi sui partner virtuali suggeriscono un rischio di dipendenza. Gli utenti si ritirano dalle connessioni umane reali. Diventano ossessionati dall’eco digitale.
Per le persone in lutto, questo potrebbe essere catastrofico. Invece di guarire, rimangono bloccati. L’avatar diventa una dipendenza. Un muro tra la vita e la realtà della perdita.
Quindi, aiuta?
La ricerca non è chiara.
Il team del SIT e dell’Università di Tubinga conclude che non si può generalizzare.
“Non si può dire in generale se le applicazioni tecniche in questione facilitino o complichino i rapporti umani…”
Dipende dalla persona. Dipende da come lo usano.
Alcuni trovano conforto nella voce. Altri si ritrovano intrappolati in un circolo vizioso di negazione digitale.
Non disponiamo ancora di dati sufficienti. Il settore è giovane. La scienza sta recuperando terreno.
Una cosa è certa. Stiamo imparando a perseguitare noi stessi.
L’ombra dell’algoritmo del dolore
Alcuni strumenti digitali per il lutto aiutano effettivamente le persone a elaborare la perdita. Altri rendono il lasciar andare molto più difficile. La differenza probabilmente dipende dall’intenzione. Dobbiamo chiederci se queste app aiutano il processo di elaborazione del lutto o lo bloccano.
La tecnologia alla base dell’intelligenza artificiale dei compagni di dolore sta diventando sofisticata. Può imitare il tono e il ricordo di una persona cara scomparsa con una precisione inquietante. Per alcuni, questo offre conforto. Si sentono ascoltati. Si sentono legati al passato.
Ma c’è un lato oscuro.
Quando un’intelligenza artificiale rifiuta di riconoscere che la persona se n’è andata, intrappola l’utente in un ciclo di negazione. L’algoritmo non è progettato per aiutarti ad andare avanti. È progettato per tenerti impegnato. Ti fa continuare a parlare. Ti continua a fare clic.
Ciò solleva una questione etica critica. La tecnologia dovrebbe dare priorità alla fidelizzazione degli utenti rispetto alla salute emotiva?
Molte app promettono la “chiusura” attraverso la simulazione. Eppure la vera conclusione richiede l’accettazione della definitività. Un’intelligenza artificiale che dice “sono ancora qui” contraddice tale esigenza. Previene il dolore necessario della separazione.
“Il dolore non è un problema da risolvere, ma un processo da vivere.” — Elisabeth Kübler-Ross (spesso citata nelle moderne discussioni psicologiche)
Il modo in cui interagiamo con questi strumenti definisce il loro impatto. Se usati brevemente per la reminiscenza, potrebbero essere innocui. Se utilizzati come sostituti permanenti della connessione umana, diventano pericolosi.
Dobbiamo esaminare attentamente la progettazione di queste applicazioni. Incoraggiano il rilascio graduale? Oppure favoriscono la dipendenza? La risposta determina se la tecnologia è un supporto o una trappola.
L’onere della scelta spetta all’utente. Ma la responsabilità di progettare confini sani spetta agli sviluppatori. Attualmente, la maggior parte delle aziende non riesce a raggiungere l’obiettivo.
Navigare nell’etica dell’immortalità digitale
L’aumento dei chatbot post mortem evidenzia una lacuna nell’etica digitale. La maggior parte delle piattaforme non ha politiche chiare su come gestiscono i dati dei defunti. Ciò crea zone grigie dal punto di vista giuridico per le famiglie.
Chi possiede la cronologia delle conversazioni? L’intelligenza artificiale può essere disattivata? Oppure il server aziendale mantiene vivo il fantasma a tempo indeterminato?
Queste non sono domande astratte. Sono preoccupazioni pratiche per chiunque stia pianificando la propria eredità digitale.
- Proprietà dei dati : assicurati di sapere chi controlla i tuoi dati post mortem.
- Consenso : il defunto ha acconsentito esplicitamente a essere simulato?
- Strategia di uscita : esiste un pulsante cancella per eliminare l’IA?
Senza queste tutele, la tecnologia rischia di diventare uno strumento di sfruttamento anziché di sostegno.
Siamo ancora all’inizio di questo viaggio. La tecnologia supera i nostri quadri etici. Fino a quando non riusciremo a recuperare il ritardo, la cautela sarà l’unica strategia praticabile.
La domanda non è solo se possiamo costruire questi strumenti. La questione è se dovremmo costruirli senza rigidi guardrail etici.
La risposta è complicata. Per ora, lo scetticismo è salutare.
