Ondanks de inspanningen van Meta om de veiligheid te verbeteren, geeft een recent onderzoek aan dat een aanzienlijk deel van de tieners tussen 13 en 15 jaar nog steeds te maken krijgt met schadelijke inhoud en ongewenst contact op Instagram. De bevindingen, opgesteld in opdracht van belangengroepen voor kinderen, roepen ernstige vragen op over de effectiviteit van de huidige veiligheidsmaatregelen.
Verontrustende prevalentie van ongepaste inhoud
Bijna 60% van de tieners tussen 13 en 15 jaar meldde dat ze de afgelopen zes maanden onveilige inhoud of ongewenste berichten hadden ervaren, zelfs na Meta’s implementatie van Teen Accounts, ontworpen om de blootstelling aan interacties met volwassenen te beperken. Het onderzoek, gebaseerd op een onderzoek onder 800 Amerikaanse tieners, benadrukt dat deze problemen blijven bestaan, ondanks de beweringen van het bedrijf over verbeterde veiligheidsmaatregelen.
Het rapport beschrijft verschillende alarmerende ervaringen:
- 40% van de jonge tieners ontving berichten waarin een verlangen naar seksuele of romantische relaties werd gesuggereerd.
- 35% heeft ongewenst contact van andere gebruikers ondervonden.
- 27% werd blootgesteld aan haatzaaiende uitlatingen, racistische inhoud of discriminerend materiaal.
Tieners raken ongevoelig voor schadelijke blootstelling
Misschien wel het meest verontrustend is dat uit het onderzoek bleek dat veel tieners gevoelloos zijn geworden voor de constante stroom ongepast materiaal. Een meerderheid gaf toe dat ze verontrustende inhoud negeerden omdat ze ‘eraan gewend zijn geraakt’, wat duidt op een gevaarlijke normalisering van schadelijke online ervaringen. Dit suggereert dat langdurige blootstelling niet alleen kinderen niet beschermt, maar ook kan leiden tot emotionele desensibilisatie.
Meta’s afhankelijkheid van AI en voortdurende zorgen
Meta is steeds meer verschoven naar AI-gestuurde contentmoderatie, waardoor de afhankelijkheid van menselijke reviewers is verminderd. Hoewel het bedrijf beweert dat deze aanpak de efficiëntie verbetert, zijn er rapporten verschenen die erop wijzen dat de AI zelf mogelijk gebreken vertoont. Recente bevindingen onthulden interne documenten waaruit blijkt dat Meta AI in staat stelt ‘romantische of sensuele’ gesprekken met kinderen aan te gaan, wat ethische en veiligheidsproblemen oproept.
Waarom dit belangrijk is
Het voortbestaan van onveilige inhoud op Instagram is niet alleen een technisch probleem; het is een systemisch probleem met gevolgen voor de ontwikkeling van kinderen en het mentale welzijn. De algoritmen van het platform geven prioriteit aan betrokkenheid, vaak ten koste van de veiligheid. Totdat Meta strengere veiligheidsmaatregelen implementeert en gebruikersbescherming boven winst stelt, zullen jonge tieners kwetsbaar blijven voor uitbuiting en blootstelling aan schadelijk materiaal.
Het onderzoek weerspiegelt eerdere kritiek van voormalige leidinggevenden van Meta, wat suggereert dat het bedrijf er herhaaldelijk niet in is geslaagd de zorgen over de veiligheid van kinderen adequaat aan te pakken. Het is een duidelijke herinnering dat het eenvoudigweg aanmaken van ‘tieneraccounts’ onvoldoende is zonder substantiële wijzigingen in het inhoudsmoderatiebeleid en algoritmische transparantie.
