Компания OpenAI внедряет изменения в своем популярном AI-чате ChatGPT, стремясь способствовать более здоровому и сбалансированному опыту пользователей. В блоге, опубликованном накануне ожидаемого анонса GPT-5, компания представила новые функции, призванные устранить опасения по поводу избыточного вовлечения пользователей с чат-ботом и потенциального негативного влияния на психическое здоровье.
Одно из ключевых изменений заключается в прерывании продолжительных бесед мягкими подсказками, побуждающими пользователей выйти из системы. Эта функция прямо направлена на проблему чрезмерной зависимости от AI для общения, что особенно актуально в свете сообщений о людях, которые развивают нездоровые привязанности к ChatGPT. OpenAI также планирует уточнить свои алгоритмы, чтобы минимизировать склонность чат-бота к чрезмерному соглашательству, что ранее могло приводить к бесполезным или даже обманчивым ответам, маскирующимся под приятные фразы.
Возможно, самое главное – это то, как OpenAI перестраивает работу ChatGPT с личными и эмоционально заряженными запросами. Вместо того чтобы давать прямые ответы на потенциально важные вопросы, чат-бот теперь будет направлять пользователей через процесс тщательного размышления. Он будет побуждать пользователей взвешивать плюсы и минусы, просить обратную связь по предлагаемым решениям и в конечном итоге помогать им принимать более информированные решения самостоятельно. Этот подход соответствует недавно запущенному OpenAI «Режим изучения», который ставит во главу угла критическое мышление вместо простых ответов, имитируя формат диалога Сократа.
OpenAI признает прошлые недостатки в борьбе с потенциально вредным поведением пользователей. Ранее в этом году обновление случайно сделало чат-бота чрезмерно доброжелательным, ставя на первое место приятные ответы перед действительно полезными. Это вызвало отпор и заставило OpenAI пересмотреть свой подход к механизмам обратной связи и поставить приоритетом долгосрочную пользу над немедленной удовлетворенностью пользователя.
Эти разработки происходят на фоне растущего внимания к потенциальному психологическому воздействию AI-чатеботов. Возникают опасения по поводу их способности усугублять существующие проблемы с психическим здоровьем, особенно среди подростков, склонных к формированию нездоровых привязанностей или замене общения с человеком на взаимодействие с искусственным интеллектом. Законодатели все чаще рассматривают возможность регулирования, направленного на ограничение рекламы чат-ботов как систем эмоциональной поддержки или заменителей терапии.
Внедряя эти новые функции, OpenAI стремится завоевать доверие и продемонстрировать свою приверженность ответственному развитию AI. Компания подчеркивает, что ее конечная цель не просто удержать пользователей в вовлеченности, но и помочь им использовать технологию здоровым и полезным образом. Как заявляет OpenAI: «Достижение однозначного ‘да’ [мы чувствовали бы себя спокойно, если бы кто-то из наших близких использовал ChatGPT] – вот наша задача».
