OpenAI brengt wijzigingen aan in zijn populaire AI-chatbot, ChatGPT, met als doel een gezondere en evenwichtigere gebruikerservaring te bevorderen. In een blogpost waarin een voorproefje werd gegeven van de verwachte GPT-5-aankondiging, schetste het bedrijf nieuwe functies die zijn ontworpen om de zorgen over overmatige chatbotbetrokkenheid en mogelijke negatieve gevolgen voor het mentale welzijn weg te nemen.
Een belangrijke verandering is het onderbreken van uitgebreide gesprekken met vriendelijke aanwijzingen om gebruikers aan te moedigen uit te loggen. Deze functie pakt direct het probleem aan van een te grote afhankelijkheid van AI voor gezelschap, vooral relevant gezien rapporten van individuen die een ongezonde gehechtheid aan ChatGPT ontwikkelen. OpenAI is ook van plan zijn algoritmen te verfijnen om de neiging van de chatbot tot buitensporige vriendelijkheid te minimaliseren, wat voorheen zou kunnen leiden tot nutteloze of zelfs misleidende reacties, vermomd als aangename platitudes.
Misschien wel het belangrijkste is dat OpenAI de manier herstructureert waarop ChatGPT omgaat met persoonlijke en emotioneel geladen vragen. In plaats van directe antwoorden te geven op mogelijk levensveranderende vragen, zal de chatbot gebruikers nu door een proces van zorgvuldige afweging leiden. Het zal gebruikers aanmoedigen om voor- en nadelen af te wegen, feedback te vragen over voorgestelde oplossingen en hen uiteindelijk in staat te stellen zelfstandig beter geïnformeerde beslissingen te nemen. Deze aanpak sluit aan bij OpenAI’s onlangs gelanceerde ‘Studiemodus’, die de nadruk legt op kritisch nadenken over eenvoudige antwoorden door een socratisch dialoogformaat na te bootsen.
OpenAI erkent tekortkomingen uit het verleden bij het aanpakken van potentieel schadelijk gebruikersgedrag. Eerder dit jaar maakte een update de chatbot onbedoeld overdreven vriendelijk, waarbij aangename reacties voorrang kregen boven echt behulpzame reacties. Dit resulteerde in verzet en was voor OpenAI aanleiding om zijn benadering van feedbackmechanismen opnieuw te evalueren en prioriteit te geven aan bruikbaarheid op de lange termijn boven onmiddellijke gebruikerstevredenheid.
Deze ontwikkelingen komen te midden van toenemende aandacht voor de potentiële psychologische impact van AI-chatbots. Er zijn zorgen geuit over hun vermogen om bestaande geestelijke gezondheidsproblemen te verergeren, vooral onder tieners die vatbaar zijn voor het vormen van ongezonde gehechtheden of het vervangen van menselijke interactie door AI. Wetgevers overwegen steeds vaker regelgeving die erop gericht is de marketing van chatbots als emotionele ondersteuningssystemen of therapievervangers aan banden te leggen.
Door deze nieuwe functies te implementeren wil OpenAI vertrouwen opbouwen en zijn toewijding aan verantwoorde AI-ontwikkeling demonstreren. Het bedrijf benadrukt dat het uiteindelijke doel niet simpelweg is om gebruikers betrokken te houden, maar om hen in staat te stellen technologie op een gezonde en nuttige manier te gebruiken. Zoals OpenAI stelt: “Het is ons werk om tot een ondubbelzinnig ‘ja’ te komen [zouden we ons gerustgesteld voelen als iemand van wie we houden ChatGPT gebruikt.”
