OpenAI wprowadza zmiany w swojej popularnej aplikacji do czatowania AI ChatGPT, aby promować zdrowsze i bardziej zrównoważone doświadczenie użytkownika. W poście na blogu opublikowanym przed spodziewanym ogłoszeniem GPT-5 firma wprowadziła nowe funkcje mające na celu rozwianie obaw związanych z nadmiernym zaangażowaniem użytkowników w chatbota i potencjalnym negatywnym wpływem na zdrowie psychiczne.
Jedną z kluczowych zmian jest przerywanie długich rozmów delikatnymi podpowiedziami zachęcającymi do wylogowania się. Ta funkcja bezpośrednio rozwiązuje problem nadmiernego polegania na sztucznej inteligencji w komunikacji, co jest szczególnie istotne w świetle raportów o osobach rozwijających niezdrowe przywiązania do ChatGPT. OpenAI planuje także udoskonalić swoje algorytmy, aby zminimalizować tendencję chatbota do nadmiernego ugodowości, co wcześniej mogło prowadzić do nieprzydatnych, a nawet zwodniczych odpowiedzi udających miłe frazy.
Być może najważniejsze jest to, że OpenAI zmienia sposób, w jaki ChatGPT obsługuje żądania osobiste i naładowane emocjonalnie. Zamiast udzielać bezpośrednich odpowiedzi na potencjalnie ważne pytania, chatbot poprowadzi teraz użytkowników przez proces uważnego przemyślenia. Zachęci użytkowników do rozważenia zalet i wad, poprosi o opinię na temat proponowanych rozwiązań, a ostatecznie pomoże im w samodzielnym podejmowaniu bardziej świadomych decyzji. To podejście jest zgodne z niedawno uruchomionym „trybem nauki” OpenAI, w którym krytyczne myślenie jest ważniejsze od łatwych odpowiedzi, naśladując format dialogu sokratesowego.
OpenAI zdaje sobie sprawę z wcześniejszych niedociągnięć w zwalczaniu potencjalnie szkodliwych zachowań użytkowników. Na początku tego roku aktualizacja przypadkowo sprawiła, że chatbot stał się zbyt przyjazny, przedkładając przyjemne odpowiedzi nad te naprawdę pomocne. Spowodowało to sprzeciw i zmusiło OpenAI do ponownego rozważenia swojego podejścia do mechanizmów informacji zwrotnej i przedłożenia długoterminowych korzyści nad natychmiastową satysfakcję użytkownika.
Zmiany te wynikają z rosnącej uwagi na potencjalny wpływ psychologiczny chatbotów AI. Istnieją obawy, że mogą one zaostrzyć istniejące problemy ze zdrowiem psychicznym, szczególnie wśród nastolatków, którzy mają skłonność do tworzenia niezdrowych więzi lub zastępowania interakcji międzyludzkich interakcjami ze sztuczną inteligencją. Ustawodawcy coraz częściej rozważają regulacje mające na celu ograniczenie reklamy chatbotów jako systemów wsparcia emocjonalnego lub substytutów terapii.
Wprowadzając te nowe funkcje, OpenAI ma na celu budowanie zaufania i wykazanie swojego zaangażowania w odpowiedzialny rozwój sztucznej inteligencji. Firma podkreśla, że jej ostatecznym celem nie jest tylko utrzymanie zaangażowania użytkowników, ale także pomoc im w korzystaniu z technologii w zdrowy i użyteczny sposób. Jak stwierdza OpenAI: „Naszym celem jest uzyskanie ostatecznego «tak» [czulibyśmy się komfortowo, gdyby ktoś bliski nam korzystał z ChatGPT]”.
