Suite à un examen minutieux des interactions potentiellement inappropriées entre les adolescents et ses compagnons IA, Meta introduit de nouveaux contrôles parentaux conçus pour accroître la sécurité et la surveillance. Les changements, annoncés cette semaine, donnent aux parents plus de visibilité et de contrôle sur les interactions de leurs adolescents avec les avatars IA sur Instagram.
Extension des garanties pour les utilisateurs adolescents
Ces nouveaux contrôles s’appuient sur les efforts de modération existants qui visent à aligner les interactions de l’IA sur les classements des films PG-13. L’essentiel des mises à jour consiste à offrir aux parents une suite d’outils pour gérer l’utilisation des compagnons IA par leurs enfants :
- Résumés d’utilisation du chat : Les parents recevront régulièrement des résumés des conversations de leur adolescent avec des avatars IA, leur donnant un aperçu des sujets abordés.
- Limites des avatars : Les parents peuvent restreindre leur enfant à interagir uniquement avec des avatars IA spécifiques.
- Blocage complet : Les parents auront la possibilité d’empêcher complètement leur adolescent d’interagir avec des compagnons IA.
Même si un adolescent ne peut pas interagir avec les avatars IA, il pourra toujours utiliser l’assistant IA standard de Meta, démontrant ainsi la distinction entre l’environnement contrôlé des compagnons IA et les fonctionnalités plus larges de l’IA.
Une réponse aux préoccupations antérieures
Cette décision intervient après qu’une enquête menée par Reuters en août a révélé que les chatbots de Meta avaient engagé de jeunes utilisateurs dans des conversations jugées « romantiques ou sensuelles ». Cela impliquait de se faire passer pour des célébrités dans des échanges coquins et de générer des images sexuellement suggestives. Suite à ce rapport, Meta a temporairement verrouillé ses avatars IA pour permettre le recyclage et sauvegarder les améliorations. L’entreprise a ensuite formalisé des consignes de sécurité, clarifiant la différence entre discuter de sujets sensibles (comme l’intimité entre personnages fictifs) et demander au chatbot de faciliter ou d’encourager de telles actions.
Tendance à l’échelle de l’industrie vers une IA responsable
Les actions de Meta sont uniques. OpenAI, le créateur de ChatGPT, a également mis en œuvre des contrôles similaires, imposant des limites aux capacités de chat vocal, de mémoire de chat et de génération d’images. Meta et OpenAI exigent tous deux que les jeunes utilisateurs s’inscrivent à des comptes supervisés et soulignent l’importance d’une surveillance parentale proactive. Cela souligne une tendance plus large de l’industrie vers le développement de pratiques responsables en matière d’IA et la lutte contre les risques associés aux interactions avec l’IA, en particulier chez les jeunes utilisateurs.
“Nous pensons que l’IA peut compléter les méthodes d’apprentissage et d’exploration traditionnelles d’une manière qui semble positive, le tout avec des garde-fous adaptés à l’âge en place”, a écrit Meta dans un article de blog.
Déploiement et disponibilité
Bien que ces nouveaux contrôles constituent une avancée significative vers des interactions plus sûres avec l’IA, ils ne seront pas immédiatement accessibles. Les comptes de supervision n’auront accès à ces contrôles qu’au début de l’année prochaine. Dans un premier temps, ils seront déployés exclusivement sur les comptes Instagram aux États-Unis, au Royaume-Uni, au Canada et en Australie avant de s’étendre à d’autres pays et aux autres plateformes de Meta. Le déploiement progressif suggère des tests et un perfectionnement continus des fonctionnalités.
L’introduction de ces contrôles souligne l’engagement de Meta à répondre aux problèmes de sécurité liés aux interactions de l’IA avec les adolescents, reflétant un effort plus large de l’industrie pour garantir le développement et l’utilisation responsables de l’IA.
