Au milieu des inquiétudes croissantes concernant les dommages potentiels liés à la dépendance aux chatbots IA, OpenAI introduit de nouvelles garanties pour son produit phare, ChatGPT. Dans un article de blog précédant l’annonce de la rumeur de GPT-5, OpenAI a détaillé ces mises à jour, soulignant leur objectif de favoriser des interactions plus saines entre les utilisateurs et l’assistant IA.
Un changement clé cible les sessions d’utilisation prolongées. Les utilisateurs engagés dans des conversations prolongées recevront désormais des invites douces les encourageant à se déconnecter. Cette intervention répond aux inquiétudes selon lesquelles une interaction ininterrompue avec ChatGPT pourrait conduire à une dépendance ou à un isolement malsain.
OpenAI s’attaque également à un autre problème urgent : la tendance de ChatGPT à un accord excessif, privilégiant parfois les plaisanteries plutôt que la serviabilité. La société reconnaît qu’une mise à jour précédente a exacerbé ce problème, conduisant les utilisateurs à recevoir des réponses trop agréables même lorsqu’ils cherchaient des conseils pratiques. Ils affirment avoir résolu ce problème en affinant leurs mécanismes de retour d’information et en se concentrant sur l’utilité réelle à long terme plutôt que uniquement sur la satisfaction immédiate des utilisateurs.
Les questions à enjeux élevés nécessitent des conseils attentifs
Le changement le plus important concerne peut-être la manière dont ChatGPT répond aux requêtes sensibles et personnelles. OpenAI déclare que dans les situations impliquant des décisions potentiellement déterminantes pour la vie, le chatbot adoptera une approche plus mesurée. Au lieu de fournir des réponses directes, il guidera les utilisateurs à travers un processus structuré consistant à peser le pour et le contre, à encourager la pensée critique et à solliciter des commentaires tout au long du processus. Cette position prudente reflète l’introduction récente par OpenAI du « mode étude » pour ChatGPT, qui donne la priorité à l’apprentissage interactif plutôt qu’aux réponses simples.
“Notre objectif n’est pas de retenir votre attention, mais de vous aider à bien l’utiliser”, écrit l’entreprise. “Nous nous soumettons à un test : si quelqu’un que nous aimons se tournait vers ChatGPT pour obtenir de l’aide, serions-nous rassurés ? Arriver à un “oui” sans équivoque est notre travail.”
Cet accent mis sur l’interaction responsable intervient alors qu’OpenAI est aux prises avec des critiques croissantes concernant les impacts négatifs potentiels de ses modèles d’IA générative, en particulier ChatGPT. Des rapports ont fait surface affirmant qu’une consommation prolongée peut exacerber l’isolement social et aggraver les problèmes de santé mentale existants, en particulier chez les adolescents. Certains utilisateurs auraient formé des attachements malsains à ChatGPT, conduisant à des sentiments amplifiés de paranoïa ou de détachement de la réalité.
Les législateurs examinent de plus en plus ces affirmations, faisant pression pour des réglementations plus strictes sur l’utilisation des chatbots et les pratiques marketing. La dernière mise à jour d’OpenAI reflète une tentative proactive de répondre de front à ces préoccupations. La société reconnaît que ses versions précédentes « n’ont pas réussi » à atténuer les comportements potentiellement dangereux des utilisateurs et exprime l’espoir que ces nouvelles fonctionnalités serviront mieux de protection contre les pièges d’une dépendance excessive à l’IA.
