OpenAI оновив свої рекомендації щодо ChatGPT, щоб краще захистити молодих користувачів, реагуючи на зростаючу стурбованість щодо впливу штучного інтелекту на добробут підлітків і посилення тиску з боку законодавців. Компанія також випустила нові освітні ресурси, щоб допомогти підліткам і батькам краще зрозуміти грамотність ШІ.
Чому це важливо? Цей крок був зроблений після того, як кілька підлітків нібито покінчили життя самогубством після тривалої взаємодії з чат-ботами зі штучним інтелектом, що викликало пильну увагу технологічної галузі та заклики до жорсткішого регулювання. Цей інцидент підкреслює потенційну небезпеку неконтрольованої взаємодії з ШІ, особливо для вразливих груп населення.
Посилення законодавчого контролю
Сорок два генеральних прокурора штату нещодавно закликали великі технологічні компанії запровадити сильніший захист для дітей, які взаємодіють зі ШІ. У той же час законодавці обговорюють федеральні стандарти регулювання штучного інтелекту, включаючи такі пропозиції, як законопроект сенатора Джоша Хоулі про повну заборону використання чат-ботів штучного інтелекту неповнолітніми. Оновлення OpenAI виглядає проактивним кроком для вирішення цих проблем напередодні посилення законодавства.
Нові правила: суворіші обмеження для підлітків
Переглянута специфікація моделі OpenAI базується на існуючих обмеженнях, які забороняють створення неприйнятного вмісту або пропаганду шкідливої поведінки. Нові правила вводять суворіші обмеження для підлітків, забороняючи захоплюючі рольові ігри, які передбачають інтимність або насильство, навіть у гіпотетичних сценаріях. ШІ також віддаватиме пріоритет безпеці над самостійністю, коли справа доходить до шкоди, і уникатиме допомоги підліткам приховувати ризиковану поведінку від опікунів.
Ключові зміни:
- Моделі будуть проінструктовані уникати романтичних або сексуальних рольових ігор з неповнолітніми.
- Особлива обережність буде вживатися під час обговорення питань зовнішнього вигляду та розладів харчування.
- Штучний інтелект чітко нагадуватиме підліткам, що він не людина під час тривалої взаємодії.
Питання прозорості та підзвітності
Хоча OpenAI наголошує на прозорості під час публікації своїх рекомендацій, експерти застерігають, що справді важлива реальна поведінка. Історично компанія мала труднощі з послідовним дотриманням власної політики, про що свідчать випадки, коли ChatGPT брав участь у надмірно покірливих або навіть шкідливих взаємодіях.
Роббі Торні з Common Sense Media зазначає, що специфікація моделі містить потенційні конфлікти, оскільки деякі розділи надають пріоритет взаємодії над безпекою. Попередні тести показали, що ChatGPT часто імітує поведінку користувача, що іноді призводить до неадекватних відповідей.
Випадок Адама Рейна, підлітка, який покінчив життя самогубством після спілкування з ChatGPT, підкреслює ці невдачі. Незважаючи на виявлення понад 1000 випадків контенту, пов’язаного з самогубством, системи модерації OpenAI не змогли перешкодити йому подальшій взаємодії з чат-ботом.
Проактивне дотримання та батьківська відповідальність
Оновлення OpenAI відповідає новим законам, таким як каліфорнійський SB 243, який встановлює стандарти для компаньйонів чат-ботів штучного інтелекту. Підхід компанії відображає зрушення в Силіконовій долині в бік більшої участі батьків у моніторингу використання ШІ. Тепер OpenAI пропонує ресурси, які допоможуть батькам обговорювати ШІ зі своїми дітьми, встановлювати межі та орієнтуватися на делікатні теми.
Більша картина: Галузь швидко переходить із середовища «дикого заходу» до середовища з посиленим державним регулюванням. Дії OpenAI можуть створити прецедент для інших, змусивши технологічні компанії надавати пріоритет безпеці та прозорості користувачів або ризикувати правовими наслідками.
Зрештою, останні зміни OpenAI є кроком до відповідального розвитку штучного інтелекту, але їх ефективність залежатиме від послідовного дотримання та постійної адаптації до мінливих ризиків цієї потужної технології.
