Uprostřed rostoucích obav z potenciálních škod ze spoléhání se na chatboty s umělou inteligencí zavádí OpenAI nová ochranná opatření pro svůj vlajkový produkt ChatGPT. V příspěvku na blogu před předpokládaným oznámením GPT-5 OpenAI podrobně popsala tyto aktualizace a zdůraznila svůj závazek podporovat zdravější uživatelské interakce s jejich asistentem AI.
Jedna z klíčových změn je zaměřena na snížení dlouhého používání. Uživatelé účastnící se dlouhých konverzací nyní obdrží jemné výzvy, které je vybízejí k odhlášení. Cílem této intervence je vyřešit obavy, že neustálá interakce s ChatGPT může vést k nezdravé závislosti nebo izolaci.
OpenAI také řeší další ožehavý problém: tendenci ChatGPT být příliš konsensuální, někdy upřednostňující laskavost před užitečností. Společnost přiznává, že předchozí aktualizace tento problém ještě zhoršila, což mělo za následek, že uživatelé dostávali příliš přátelské odpovědi i při hledání praktických rad. Tvrdí, že to vyřešili vylepšením mechanismů zpětné vazby a zaměřením se na dlouhodobé praktické výhody v reálném světě, spíše než jen na okamžité uspokojení uživatelů.
Problémy rostoucího významu vyžadují pečlivé vedení
Snad nejvýznamnější posun je ve způsobu, jakým ChatGPT reaguje na citlivé osobní dotazy. OpenAI říká, že v situacích zahrnujících potenciálně život měnící rozhodnutí bude chatbot postupovat opatrněji. Namísto přímých odpovědí provede uživatele strukturovaným procesem zvažování pro a proti, podněcuje kritické myšlení a žádá o zpětnou vazbu na každém kroku. Tento opatrný postoj je v souladu s nedávným zavedením „tréninkového režimu“ OpenAI pro ChatGPT, který upřednostňuje interaktivní učení před přímými reakcemi.
„Naším cílem není udržet vaši pozornost, ale pomoci vám ji efektivně využít,“ píše společnost. “Držíme se jednoho kritéria: kdyby se někdo z našich blízkých obrátil s žádostí o podporu na ChatGPT, cítili bychom se klidní? Dosáhnout jasného ano je naše práce.”
Tento tlak na odpovědnou komunikaci přichází v době, kdy OpenAI čelí rostoucí kritice ohledně potenciálního negativního dopadu svých generativních modelů umělé inteligence, zejména ChatGPT. Objevily se zprávy, že dlouhodobé užívání může zhoršit sociální izolaci a zhoršit již existující problémy s duševním zdravím, zejména mezi teenagery. Je třeba poznamenat, že někteří uživatelé si vytvořili nezdravý vztah s ChatGPT, což vedlo ke zvýšeným pocitům paranoie nebo odcizení od reality.
Zákonodárci tato tvrzení stále více prověřují a vyvíjejí tlak na přísné předpisy pro používání chatbotů a marketingové praktiky. Nejnovější aktualizace OpenAI odráží úsilí společnosti o proaktivní řešení těchto problémů. Společnost uznává, že její předchozí verze „zaostávaly“ ve zmírňování potenciálně škodlivého chování uživatelů a doufá, že tyto nové funkce poslouží jako účinnější obrana proti nebezpečí nadměrného spoléhání se na AI.
