Nach einer Untersuchung potenziell unangemessener Interaktionen zwischen Teenagern und seinen KI-Begleitern führt Meta neue Kindersicherungen ein, die die Sicherheit und Kontrolle erhöhen sollen. Die diese Woche angekündigten Änderungen geben Eltern mehr Einblick in und Kontrolle über die Interaktionen ihrer Teenager mit KI-Avataren auf Instagram.
Erweiterung der Schutzmaßnahmen für jugendliche Benutzer
Diese neuen Kontrollen bauen auf bestehenden Moderationsbemühungen auf, die darauf abzielen, KI-Interaktionen an PG-13-Filmbewertungen anzupassen. Der Kern der Updates besteht darin, Eltern eine Reihe von Tools anzubieten, mit denen sie die Nutzung von KI-Begleitern durch ihr Kind verwalten können:
- Zusammenfassungen der Chat-Nutzung: Eltern erhalten regelmäßig Zusammenfassungen der Gespräche ihrer Teenager mit KI-Avataren, die ihnen Einblicke in die besprochenen Themen geben.
- Avatar-Einschränkungen: Eltern können ihr Kind darauf beschränken, nur mit bestimmten KI-Avataren zu interagieren.
- Vollständige Sperrung: Eltern haben die Möglichkeit, die Interaktion ihres Teenagers mit KI-Begleitern vollständig zu sperren.
Selbst wenn einem Teenager die Interaktion mit KI-Avataren verweigert wird, kann er dennoch den Standard-KI-Assistenten von Meta verwenden, was einen Unterschied zwischen der kontrollierten Umgebung von KI-Begleitern und umfassenderen KI-Funktionen verdeutlicht.
Eine Antwort auf frühere Bedenken
Der Schritt erfolgte, nachdem eine Untersuchung von Reuters im August ergeben hatte, dass die Chatbots von Meta junge Benutzer in Gespräche verwickelt hatten, die als „romantisch oder sinnlich“ galten. Dazu gehörte die Nachahmung von Prominenten in koketten Austauschen und die Erzeugung sexuell anzüglicher Bilder. Nach diesem Bericht hat Meta seine KI-Avatare vorübergehend gesperrt, um eine Umschulung und Sicherheitsverbesserungen zu ermöglichen. Anschließend formulierte das Unternehmen Sicherheitsrichtlinien, in denen der Unterschied zwischen der Diskussion sensibler Themen (z. B. Intimität zwischen fiktiven Figuren) und der Erleichterung oder Förderung solcher Aktionen durch den Chatbot klargestellt wurde.
Branchenweiter Trend hin zu verantwortungsvoller KI
Metas Aktionen sind einzigartig. OpenAI, der Erfinder von ChatGPT, hat ebenfalls ähnliche Kontrollen implementiert, wodurch Sprach-Chat, Chat-Speicher und Bildgenerierungsfunktionen eingeschränkt werden. Sowohl Meta als auch OpenAI verlangen von jungen Benutzern, dass sie sich für betreute Konten anmelden, und betonen die Bedeutung einer proaktiven elterlichen Überwachung. Dies unterstreicht einen breiteren Branchentrend zur Entwicklung verantwortungsvoller KI-Praktiken und zur Bewältigung der mit KI-Interaktionen verbundenen Risiken, insbesondere bei jungen Nutzern.
„Wir glauben, dass KI traditionelle Lernmethoden und Erkundungen auf eine Art und Weise ergänzen kann, die sich unterstützend anfühlt, und zwar unter der Voraussetzung, dass die richtigen altersgerechten Leitplanken vorhanden sind“, schrieb Meta in einem Blogbeitrag.
Rollout und Verfügbarkeit
Obwohl diese neuen Kontrollen einen bedeutenden Schritt hin zu sichereren KI-Interaktionen darstellen, werden sie nicht sofort zugänglich sein. Betreuende Konten erhalten erst Anfang nächsten Jahres Zugriff auf diese Kontrollen. Zunächst werden sie ausschließlich auf Instagram-Konten in den USA, Großbritannien, Kanada und Australien eingeführt, bevor sie auf andere Länder und die anderen Plattformen von Meta ausgeweitet werden. Der stufenweise Rollout erfordert ein fortlaufendes Testen und Verfeinern der Funktionen.
Die Einführung dieser Kontrollen unterstreicht das Engagement von Meta, Sicherheitsbedenken im Zusammenhang mit KI-Interaktionen mit Teenagern auszuräumen, und spiegelt die umfassenderen Bemühungen der Branche wider, eine verantwortungsvolle KI-Entwicklung und -Nutzung sicherzustellen
