OpenAI sta apportando modifiche al suo popolare chatbot AI, ChatGPT, con l’obiettivo di promuovere esperienze utente più sane ed equilibrate. In un post sul blog che presenta in anteprima l’atteso annuncio GPT-5, la società ha delineato nuove funzionalità progettate per affrontare le preoccupazioni sull’eccessivo coinvolgimento dei chatbot e sui potenziali impatti negativi sul benessere mentale.
Un cambiamento fondamentale prevede l’interruzione di conversazioni prolungate con messaggi delicati che incoraggiano gli utenti a disconnettersi. Questa funzionalità affronta direttamente il problema dell’eccessivo affidamento all’intelligenza artificiale per la compagnia, particolarmente rilevante date le segnalazioni di individui che sviluppano attaccamenti malsani a ChatGPT. OpenAI prevede inoltre di perfezionare i propri algoritmi per ridurre al minimo la tendenza del chatbot verso un’eccessiva gradevolezza, che in precedenza avrebbe potuto portare a risposte inutili o addirittura fuorvianti mascherate da piacevoli banalità.
Forse la cosa più significativa è che OpenAI sta ristrutturando il modo in cui ChatGPT gestisce le query personali ed emotivamente cariche. Invece di fornire risposte dirette a domande potenzialmente in grado di alterare la vita, il chatbot ora guiderà gli utenti attraverso un processo di attenta considerazione. Incoraggerà gli utenti a valutare i pro e i contro, a sollecitare feedback sulle soluzioni proposte e, infine, a consentire loro di prendere decisioni più informate in modo indipendente. Questo approccio è in linea con la “Modalità Studio” recentemente lanciata da OpenAI, che enfatizza il pensiero critico rispetto a risposte semplici imitando un formato di dialogo socratico.
OpenAI riconosce le carenze del passato nell’affrontare comportamenti degli utenti potenzialmente dannosi. All’inizio di quest’anno, un aggiornamento ha inavvertitamente reso il chatbot eccessivamente gradevole, dando priorità alle risposte piacevoli rispetto a quelle veramente utili. Ciò ha provocato un contraccolpo e ha spinto OpenAI a rivalutare il suo approccio ai meccanismi di feedback e a dare priorità all’utilità a lungo termine rispetto alla soddisfazione immediata dell’utente.
Questi sviluppi si inseriscono nel contesto di un crescente controllo sul potenziale impatto psicologico dei chatbot basati sull’intelligenza artificiale. Sono state sollevate preoccupazioni sulla loro capacità di esacerbare i problemi di salute mentale esistenti, in particolare tra gli adolescenti suscettibili di formare attaccamenti malsani o di sostituire l’intelligenza artificiale con l’interazione umana. I legislatori stanno prendendo sempre più in considerazione norme volte a frenare la commercializzazione dei chatbot come sistemi di supporto emotivo o sostitutivi della terapia.
Implementando queste nuove funzionalità, OpenAI mira a creare fiducia e dimostrare il proprio impegno per lo sviluppo responsabile dell’IA. L’azienda sottolinea che il suo obiettivo finale non è semplicemente quello di mantenere gli utenti coinvolti, ma di consentire loro di utilizzare la tecnologia in modo sano e vantaggioso. Come affermato da OpenAI: “Arrivare a un inequivocabile ‘sì’ [ci sentiremmo rassicurati se qualcuno che amiamo usasse ChatGPT] è il nostro lavoro.”
