OpenAI вносить зміни у свою популярну програму чату зі штучним інтелектом ChatGPT, намагаючись сприяти більш здоровому та збалансованому користуванню. У дописі в блозі, опублікованому напередодні очікуваного анонсу GPT-5, компанія представила нові функції, розроблені для усунення занепокоєння щодо надмірної взаємодії користувачів із чат-ботом і потенційного негативного впливу на психічне здоров’я.
Однією з ключових змін є переривання довгих розмов м’якими підказками, які заохочують користувачів вийти з системи. Ця функція безпосередньо вирішує проблему надмірної залежності від штучного інтелекту для спілкування, що є особливо актуальним у світлі повідомлень про те, що люди розвивають нездорову прихильність до ChatGPT. OpenAI також планує вдосконалити свої алгоритми, щоб звести до мінімуму тенденцію чат-бота ставати надмірно приємним, що раніше могло призвести до марних або навіть оманливих відповідей, які маскуються під приємні фрази.
Можливо, найголовніше те, що OpenAI переробляє те, як ChatGPT обробляє особисті та емоційно заряджені запити. Замість того, щоб надавати прямі відповіді на потенційно важливі питання, чат-бот тепер направлятиме користувачів через процес ретельного обдумування. Це заохочуватиме користувачів зважувати всі «за» і «проти», запитуватиме відгук про запропоновані рішення та, зрештою, допоможе їм приймати більш обґрунтовані рішення самостійно. Цей підхід узгоджується з нещодавно запущеним «Режимом навчання» OpenAI, який надає пріоритет критичному мисленню над легкими відповідями, імітуючи формат діалогу Сократа.
OpenAI визнає минулі недоліки в боротьбі з потенційно шкідливою поведінкою користувачів. На початку цього року оновлення випадково зробило чат-бота занадто дружнім, ставши пріоритетом приємні відповіді над справді корисними. Це спричинило негативну реакцію та змусило OpenAI переглянути свій підхід до механізмів зворотного зв’язку та віддати перевагу довгостроковій вигоді над миттєвим задоволенням користувачів.
Ці події відбуваються на тлі зростання уваги до потенційного психологічного впливу чат-ботів ШІ. Існують занепокоєння щодо їх потенціалу загострення існуючих проблем з психічним здоров’ям, особливо серед підлітків, які схильні до формування нездорової прихильності або заміни людської взаємодії взаємодією зі штучним інтелектом. Законодавці все частіше розглядають положення, спрямовані на обмеження реклами чат-ботів як систем емоційної підтримки або замінників терапії.
Представляючи ці нові функції, OpenAI прагне зміцнити довіру та продемонструвати свою прихильність до відповідального розвитку ШІ. Компанія наголошує, що її кінцева мета — не просто підтримувати зацікавленість користувачів, а й допомагати їм використовувати технології здоровим і корисним способом. Як стверджує OpenAI: «Отримати остаточне «так» [ми б почувалися комфортно, якби хтось із нас поряд використовував ChatGPT] — це наша мета».
