Após um exame minucioso sobre interações potencialmente inadequadas entre adolescentes e seus companheiros de IA, a Meta está introduzindo novos controles parentais projetados para aumentar a segurança e a supervisão. As mudanças, anunciadas esta semana, dão aos pais mais visibilidade e controle sobre as interações de seus filhos adolescentes com avatares de IA no Instagram.
Expandindo as proteções para usuários adolescentes
Esses novos controles baseiam-se nos esforços de moderação existentes que visam alinhar as interações de IA com as classificações de filmes para maiores de 13 anos. O núcleo das atualizações envolve oferecer aos pais um conjunto de ferramentas para gerenciar o uso de companheiros de IA por seus filhos:
- Resumos de uso do bate-papo: Os pais receberão resumos regulares das conversas de seus filhos adolescentes com avatares de IA, fornecendo informações sobre os tópicos discutidos.
- Limitações do avatar: Os pais podem restringir seus filhos a interagir apenas com avatares de IA específicos.
- Bloqueio completo: Os pais terão a opção de bloquear completamente o envolvimento de seus filhos adolescentes com companheiros de IA.
Mesmo que um adolescente seja impedido de interagir com avatares de IA, ele ainda poderá usar o assistente de IA padrão do Meta, demonstrando uma distinção entre o ambiente controlado de companheiros de IA e funcionalidades mais amplas de IA.
Uma resposta às preocupações anteriores
A medida ocorre depois que uma investigação da Reuters em agosto revelou que os chatbots da Meta envolveram usuários jovens em conversas consideradas “românticas ou sensuais”. Isso incluiu personificar celebridades em trocas de flerte e gerar imagens sexualmente sugestivas. Após este relatório, a Meta bloqueou temporariamente seus avatares de IA para permitir o retreinamento e melhorias de salvaguarda. Posteriormente, a empresa formalizou diretrizes de segurança, esclarecendo a diferença entre discutir temas delicados (como intimidade entre personagens fictícios) e fazer com que o chatbot facilite ou incentive tais ações.
Tendência em todo o setor em direção à IA responsável
As ações da Meta são únicas. OpenAI, criadora do ChatGPT, também implementou controles semelhantes, limitando o bate-papo por voz, a memória do bate-papo e os recursos de geração de imagens. Tanto o Meta quanto o OpenAI exigem que os usuários jovens se inscrevam em contas supervisionadas e enfatizam a importância do monitoramento proativo dos pais. Isto sublinha uma tendência mais ampla da indústria no sentido de desenvolver práticas responsáveis de IA e de abordar os riscos associados às interações de IA, especialmente entre os jovens utilizadores.
“Acreditamos que a IA pode complementar os métodos tradicionais de aprendizagem e exploração de uma forma que pareça favorável, tudo com as proteções adequadas à idade instaladas”, escreveu Meta em uma postagem no blog.
Implementação e Disponibilidade
Embora esses novos controles ofereçam um passo significativo em direção a interações de IA mais seguras, eles não estarão imediatamente acessíveis. As contas de supervisão não terão acesso a esses controles até o início do próximo ano. Inicialmente, eles serão implementados exclusivamente para contas do Instagram nos EUA, Reino Unido, Canadá e Austrália antes de serem expandidos para outros países e outras plataformas da Meta. A implementação em fases sugere testes contínuos e refinamento dos recursos.
A introdução destes controlos destaca o compromisso da Meta em abordar as preocupações de segurança relacionadas com as interações da IA com adolescentes, refletindo um esforço mais amplo da indústria para garantir o desenvolvimento e uso responsável da IA.
