OpenAI zavádí změny ve své oblíbené chatovací aplikaci ChatGPT s umělou inteligencí ve snaze podpořit zdravější a vyváženější uživatelskou zkušenost. V blogovém příspěvku zveřejněném před očekávaným oznámením GPT-5 společnost představila nové funkce určené k řešení obav z nadměrného zapojení uživatelů do chatbotu a potenciálního negativního dopadu na duševní zdraví.
Jednou z klíčových změn je přerušení dlouhých rozhovorů jemnými výzvami vybízejícími uživatele k odhlášení. Tato funkce přímo řeší problém nadměrného spoléhání se na AI při komunikaci, což je zvláště důležité ve světle zpráv o lidech, kteří si vytvořili nezdravé vazby na ChatGPT. OpenAI také plánuje vylepšit své algoritmy tak, aby minimalizovaly tendenci chatbota stát se příliš příjemným, což dříve mohlo vést k neužitečným nebo dokonce klamným odpovědím vydávajícím se za hezké fráze.
Snad nejdůležitější je, že OpenAI přetváří způsob, jakým ChatGPT zpracovává osobní a emocionálně nabité požadavky. Místo poskytování přímých odpovědí na potenciálně důležité otázky nyní chatbot provede uživatele procesem pečlivého uvažování. Uživatele to povzbudí, aby zvážili pro a proti, požádali o zpětnou vazbu k navrhovaným řešením a nakonec jim to pomůže samostatně přijímat informovanější rozhodnutí. Tento přístup je v souladu s nedávno spuštěným „Study Mode“ OpenAI, který upřednostňuje kritické myšlení před snadnými odpověďmi a napodobuje formát Sokratova dialogu.
OpenAI uznává minulé nedostatky v boji proti potenciálně škodlivému chování uživatelů. Začátkem tohoto roku aktualizace omylem způsobila, že chatbot byl příliš přátelský a upřednostnil příjemné odpovědi před skutečně užitečnými. To způsobilo potlačení a donutilo OpenAI přehodnotit svůj přístup k mechanismům zpětné vazby a upřednostnit dlouhodobý přínos před okamžitou spokojeností uživatelů.
Tento vývoj přichází uprostřed rostoucí pozornosti k potenciálnímu psychologickému dopadu chatbotů AI. Existují obavy ohledně jejich potenciálu zhoršit stávající problémy s duševním zdravím, zejména mezi teenagery, kteří jsou náchylní k vytváření nezdravých vazeb nebo nahrazování lidské interakce interakcí s umělou inteligencí. Zákonodárci stále častěji zvažují předpisy, které mají omezit reklamu chatbotů jako systémů emoční podpory nebo náhražek terapie.
Zavedením těchto nových funkcí má OpenAI za cíl vybudovat důvěru a prokázat svůj závazek k zodpovědnému vývoji AI. Společnost zdůrazňuje, že jejím konečným cílem není pouze udržet uživatele v zapojení, ale pomoci jim používat technologie zdravým a užitečným způsobem. Jak uvádí OpenAI: “Naším cílem je získat definitivní ‘ano’ [cítili bychom se dobře, kdyby někdo z našich blízkých používal ChatGPT].”
