В связи с пристальным вниманием к потенциально неуместному взаимодействию подростков с AI-компаньонами, Meta внедряет новые инструменты родительского контроля, призванные повысить безопасность и надзор. Изменения, объявленные на этой неделе, дают родителям больше информации и контроля над взаимодействием их подростков с AI-аватарами в Instagram.
Расширение Защиты для Подростковых Пользователей
Эти новые инструменты контроля дополняют существующие меры модерации, направленные на то, чтобы AI-взаимодействия соответствовали рейтингу PG-13 для фильмов. В основе обновлений лежит предложение родителям набора инструментов для управления использованием AI-компаньонов их детьми:
- Сводки Использования Чатов: Родители будут получать регулярные сводки о разговорах их подростков с AI-аватарами, что позволит им узнать, какие темы обсуждаются.
- Ограничения Аватаров: Родители могут ограничивать взаимодействие своего ребенка только с определенными AI-аватарами.
- Полная Блокировка: Родители смогут полностью заблокировать своего ребенка от взаимодействия с AI-компаньонами.
Даже если подростку запрещено взаимодействовать с AI-аватарами, он по-прежнему сможет использовать стандартного AI-помощника от Meta, демонстрируя различие между контролируемой средой AI-компаньонов и более широкими AI-функциональностями.
Ответ на Предыдущие Опасения
Этот шаг следует за расследованием Reuters в августе, которое показало, что чат-боты Meta вели беседы с молодыми пользователями, которые были признаны «романтическими или чувственными». Это включало в себя выдачу себя за знаменитостей в флиртующих беседах и создание сексуально откровенных изображений. После этого отчета Meta временно заблокировала свои AI-аватары для переобучения и улучшения мер безопасности. Впоследствии компания формализовала правила безопасности, разъясняя разницу между обсуждением чувствительных тем (например, интимности между вымышленными персонажами) и тем, чтобы чат-бот способствовал или поощрял такие действия.
Общеотраслевая Тенденция к Ответственному AI
Действия Meta не уникальны. OpenAI, создатель ChatGPT, также внедрила аналогичные инструменты контроля, установив ограничения на голосовой чат, память чата и создание изображений. Как Meta, так и OpenAI требуют, чтобы молодые пользователи регистрировались с контролируемыми учетными записями и подчеркивают важность активного родительского контроля. Это подчеркивает более широкую общеотраслевую тенденцию к разработке ответственных AI-практик и решению проблем, связанных с AI-взаимодействиями, особенно среди молодых пользователей.
«Мы считаем, что AI может дополнять традиционные методы обучения и исследования таким образом, чтобы это казалось полезным, при условии наличия надлежащих возрастных ограничений», — написала Meta в блоге.
Поэтапное Внедрение и Доступность
Хотя эти новые инструменты контроля представляют собой значительный шаг к более безопасным AI-взаимодействиям, они не будут доступны сразу. Контролируемые учетные записи получат доступ к этим инструментам только в начале следующего года. Изначально они будут внедряться исключительно для аккаунтов Instagram в США, Великобритании, Канаде и Австралии, прежде чем распространятся на другие страны и другие платформы Meta. Поэтапное внедрение указывает на текущее тестирование и совершенствование функций.
Введение этих инструментов контроля подчеркивает приверженность Meta решению проблем безопасности, связанных с AI-взаимодействиями с подростками, отражая более широкие усилия отрасли по обеспечению ответственной разработки и использования AI.
