Meta is voor het eerst wettelijk verantwoordelijk gehouden voor het opzettelijk ontwerpen van platforms die de veiligheid van kinderen in gevaar brengen. Recente uitspraken in New Mexico en Los Angeles markeren een keerpunt in de manier waarop technologiebedrijven worden gezien: niet als neutrale platforms, maar als entiteiten die aansprakelijk kunnen zijn voor de verslavende, schadelijke eigenschappen die in hun producten zijn ingebakken. Deze zaken gaan niet over de inhoud; ze gaan over hoe de platforms zijn ontworpen om de menselijke psychologie te exploiteren, vooral onder jonge gebruikers.
Het juridische tij keert
De jury in New Mexico achtte Meta aansprakelijk op grond van de Unfair Practices Act van de staat, resulterend in een boete van $ 375 miljoen. Tegelijkertijd bepaalde een jury uit Los Angeles dat Meta (70%) en YouTube (30%) aansprakelijk waren voor het mentale leed van een 20-jarige aanklager, wat leidde tot een gezamenlijke boete van $ 6 miljoen. Hoewel deze bedragen voor een technologiegigant als Meta misschien klein lijken, waarschuwen juridische experts dat dit nog maar het begin is. Er zijn duizenden soortgelijke zaken aanhangig, en veertig procureurs-generaal hebben parallelle rechtszaken aangespannen.
Deze verschuiving in het juridische precedent is van belang omdat het de gebruikelijke bescherming omzeilt die aan sociale-mediabedrijven wordt geboden onder argumenten van het Eerste Amendement. Rechtbanken concentreren zich nu op ontwerp -keuzes – eindeloos scrollen, constante meldingen en functies die zijn ontworpen voor dwangmatig gebruik – in plaats van door gebruikers gegenereerde inhoud. Zoals advocaat Allison Fitzpatrick uitlegt, weerspiegelt de strategie succesvolle rechtszaken tegen de tabaksindustrie, waarbij verslavende mechanismen worden aangepakt in plaats van individuele consumenten de schuld te worden gegeven.
Interne documenten onthullen opzettelijke manipulatie
Nieuw ontsloten interne metadocumenten schetsen een vernietigend beeld. Uit rapporten uit 2019 blijkt dat het bedrijf erkende dat zijn platforms een negatieve invloed hebben op het welzijn van gebruikers, maar toch prioriteit bleef geven aan ‘tienertijdbetrokkenheid’. Uit één onderzoek bleek dat 12,5% van de gebruikers problematische gebruikspatronen vertoonde, terwijl leidinggevenden strategieën bespraken om de retentie te maximaliseren, en zelfs manieren suggereerden om ouderlijk toezicht te omzeilen (“een kijkje nemen op je telefoon midden in de chemie :)”, staat in een interne e-mail.
Mark Zuckerberg zelf heeft naar verluidt commentaar gegeven op de noodzaak om ouders niet op de hoogte te stellen van het gebruik door tieners. Deze onthullingen bevestigen dat Meta zich volledig bewust was van de schade, maar actief verslavende ontwerpen nastreefde om de betrokkenheid te vergroten. Desondanks beweert Meta actie te ondernemen, wijzend op nieuwe veiligheidsfuncties zoals Instagram Teen Accounts met standaard privacy-instellingen en tijdslimietherinneringen.
De grenzen van regelgeving
De Amerikaanse regering reageert met wetgevende inspanningen, maar veel wetsvoorstellen krijgen kritiek omdat ze mogelijk prioriteit geven aan toezicht en censuur boven de daadwerkelijke veiligheid van kinderen. De Kids Online Safety Act krijgt weliswaar steun van grote technologiebedrijven, maar heeft ook aanleiding gegeven tot kritiek op clausules die de staatsregelgeving zouden kunnen ontlopen en juridische mogelijkheden voor slachtoffers zouden kunnen afsluiten. Kelly Stonelake, een voormalige Meta-directeur die het bedrijf aanklaagt wegens vermeende discriminatie, waarschuwt voor een dergelijke overschrijding en stelt dat de oplossing een “complexe en genuanceerde” aanpak vereist.
Het kernprobleem gaat niet alleen over het blokkeren van schadelijke inhoud; het gaat over het ontmantelen van ontwerpkenmerken die misbruik maken van kwetsbaarheden in zich ontwikkelende hersenen. De interne documenten van Meta bewijzen dat het bedrijf wist wat het deed. De lopende rechtszaken zullen waarschijnlijk meer transparantie afdwingen en mogelijk leiden tot substantiëlere financiële sancties.
Uiteindelijk vormen deze gevallen een cruciaal moment in het debat over technische verantwoordelijkheid. De vraag is nu of verdere juridische druk Meta – en andere platforms – zal dwingen hun producten fundamenteel opnieuw te ontwerpen op een manier die prioriteit geeft aan het welzijn van de gebruiker boven kortetermijnbetrokkenheidsstatistieken.
