На тлі зростаючого занепокоєння щодо потенційної шкоди використання чат-ботів зі штучним інтелектом OpenAI запроваджує нові гарантії для свого флагманського продукту ChatGPT. У дописі в блозі перед передбачуваним оголошенням GPT-5 OpenAI детально описав ці оновлення, підкреслюючи свою прихильність сприянню більш здорової взаємодії користувачів зі своїм помічником AI.
Одна з ключових змін спрямована на скорочення тривалих сеансів використання. Користувачі, які беруть участь у довгих розмовах, тепер отримуватимуть м’які підказки, які спонукатимуть їх вийти. Це втручання має на меті усунути занепокоєння щодо того, що безперервна взаємодія з ChatGPT може призвести до нездорової залежності чи ізоляції.
OpenAI також вирішує іншу гостру проблему: тенденцію ChatGPT до надмірної згоди, іноді віддаючи перевагу приємності над корисністю. Компанія визнає, що попереднє оновлення погіршило цю проблему, в результаті чого користувачі отримували надто дружні відповіді, навіть коли шукали практичні поради. Вони стверджують, що вирішили цю проблему, вдосконаливши механізми зворотного зв’язку та зосередившись на довгострокових реальних практичних перевагах, а не просто на миттєвому задоволенні користувачів.
Питання, що набувають все більшого значення, вимагають ретельного керівництва
Можливо, найбільш суттєвою зміною є те, як ChatGPT відповідає на конфіденційні особисті запити. OpenAI стверджує, що в ситуаціях, які передбачають прийняття рішень, які потенційно можуть змінити життя, чат-бот застосовуватиме більш обережний підхід. Замість того, щоб давати прямі відповіді, він проведе користувачів через структурований процес зважування «за» і «проти», заохочуючи до критичного мислення та вимагаючи відгуків на кожному кроці. Ця обережна позиція узгоджується з нещодавнім впровадженням OpenAI «Режиму навчання» для ChatGPT, який надає перевагу інтерактивному навчанню над прямими відповідями.
«Наша мета — не втримати вашу увагу, а допомогти вам її ефективно використовувати», — пише компанія. “Ми дотримуємося одного критерію: якби хтось із наших близьких звернувся за підтримкою до ChatGPT, чи почувалися б ми спокійними? Досягти чіткого “так” – наша робота”.
Цей поштовх до відповідального спілкування стався в той момент, коли OpenAI стикається з дедалі більшою критикою через потенційний негативний вплив його генеративних моделей ШІ, зокрема ChatGPT. Є повідомлення про те, що тривале вживання може посилити соціальну ізоляцію та погіршити наявні проблеми з психічним здоров’ям, особливо серед підлітків. Відзначається, що у деяких користувачів склалися нездорові стосунки з ChatGPT, що призвело до посилення почуття параної або відчуження від реальності.
Законодавці все більше перевіряють ці заяви та тиснуть на суворі правила використання чат-ботів і маркетингових практик. Останнє оновлення OpenAI відображає зусилля компанії щодо активного вирішення цих проблем. Компанія визнає, що її попередні версії «не вистачали» щодо пом’якшення потенційно шкідливої поведінки користувачів, і сподівається, що ці нові функції стануть більш ефективним захистом від небезпек надмірної залежності від ШІ.
