Meta's $18B-schikking voor tienerveiligheid kan sociale-mediabeleid hervormen

Nu overheden en toezichthouders wereldwijd de impact van sociale media op kinderen intensiever onderzoeken, Meta's baanbrekende schikking in de VS markeert een belangrijke verschuiving in hoe technologiebedrijven mogelijk verantwoordelijk worden gehouden voor het ontwerp en gebruik van hun platforms.

Meta heeft ermee ingestemd delen van Instagram en Facebook in de Verenigde Staten te herzien en tot $18B te betalen om een baanbrekende rechtszaak te schikken die door tientallen staten was aangespannen. Die staten beschuldigden de techreus ervan zijn platforms opzettelijk te hebben ontworpen om kinderen verslaafd te maken en jonge gebruikers bloot te stellen aan ernstige psychische schade.

De op woensdag bereikte schikking brengt een belangrijke rechtszaak in Californië ten einde en is de eerste keer in de VS dat Meta gedwongen is om kernfuncties van de dagelijkse sociale-media-ervaring te wijzigen als onderdeel van een juridische overeenkomst.

De overeenkomst verplicht Meta tot een reeks beschermingsmaatregelen voor gebruikers onder de 18, waaronder standaardlimieten voor dagelijks gebruik, beperkingen op nachtelijk gebruik en veranderingen in hoe content en meldingen aan tieners worden gepresenteerd.

Functionarissen omschreven het als de grootste staatsconsumentenbeschermingsschikking sinds de tabaksschikkingen in de jaren 1990.

Meta staat voor haar grootste Amerikaanse schikking tot nu toe

De omvang van de overeenkomst onderstreept de groeiende juridische druk op Meta en de bredere sociale-media-industrie over de impact van onlineplatforms op kinderen.

De betaling van Meta is meer dan 12 keer zo hoog als de vorige grootste schikking die in de afgelopen vier jaar werd geregistreerd.

Dat referentiepunt werd door Meta zelf gezet in 2024, toen het akkoord ging met een betaling van $1.4 miljard om een aparte zaak te schikken.

De meest recente overeenkomst is ook de grootste schikking die ooit met één bedrijf via het kantoor van de procureur-generaal van New York is bereikt.

De vorige recordhouder was een schikking van $7.4 miljard uit 2022 met Purdue Pharma en de familie Sackler over de opioïdecrisis.

In de aanklacht werd gesteld dat Meta opzettelijk verslavende functies in Instagram en andere producten had ingebouwd, terwijl het publiek niet adequaat werd gewaarschuwd voor de potentiële risico's voor jonge gebruikers.

De staten betoogden dat het bedrijf wist dat zijn producten konden bijdragen aan schadelijke ervaringen onder kinderen, maar desondanks prioriteit bleef geven aan gebruikersbetrokkenheid.

De schikking legt niet louter een financiële straf op.

Ze vereist veranderingen aan de producten zelf en kan daarmee een nieuw model vormen voor hoe technologiebedrijven verantwoordelijk worden gehouden voor het ontwerp van diensten die door kinderen worden gebruikt.

Maatregelen voor gebruik door tieners

Op grond van de overeenkomst zal Meta automatisch diverse beschermingen toepassen voor gebruikers onder de 18 op Instagram en Facebook in de VS.

De belangrijkste verandering is een standaardlimiet van twee uur gebruik per dag. Tieners kunnen de beperking alleen uitschakelen met toestemming van een ouder.

Meta zal ook een standaard Nachtmodus invoeren die de toegang tot zijn apps blokkeert tussen middernacht en 6.00 uur.

Tijdens die uren kunnen tieners geen content plaatsen of bekijken via Feed, Stories, Explore of Reels.

Het bedrijf introduceert bovendien een Schoolmodus die meldingen standaard dempt tussen 8.00 en 15.00 uur.

Bepaalde communicatie blijft wel bereikbaar. Privéberichten en meldingen over accountbeveiliging of -veiligheid worden niet geblokkeerd onder de schooltijdbeperkingen.

De veranderingen gaan verder dan alleen beperkingen op de gebruiksduur van tieners.

Meta zei dat het ook meer controles zal invoeren op algoritmische feeds en automatisch afspelen, terwijl gebruikers opties krijgen om het aantal likes en reacties op berichten te verbergen.

Het bedrijf zal daarnaast filters voor cosmetische chirurgie en extreme make-up uitschakelen voor tieners.

Gezamenlijk vormen de maatregelen een substantiële ingreep in het ontwerp van Instagram en Facebook, twee producten waarvan de groei historisch sterk afhankelijk was van het maximaliseren van gebruikersbetrokkenheid en het actief houden van gebruikers op hun platforms.

Hoe de schikking wereldwijd gevolgen kan hebben

Hoewel de overeenkomst geldt voor Meta's activiteiten in de VS, zal de betekenis ervan waarschijnlijk niet bij de landsgrenzen stoppen.

Overheden wereldwijd zoeken al naar manieren om de blootstelling van kinderen aan schadelijke onlinecontent te verminderen en de tijd die jongeren op sociale media doorbrengen te beperken.

Australië heeft tot nu toe de meest agressieve aanpak gekozen.

Het werd het eerste land dat eind vorig jaar een landelijk verbod invoerde op sociale-media-toegang voor kinderen onder de 16.

De Australische minister voor Communicatie, Anika Wells, zei dat Meta's laatste wijzigingen aantonen dat sociale-mediabedrijven al de middelen hebben om jongeren tegen hun verslavende functies te beschermen, maar ervoor hebben gekozen die niet te gebruiken.

De Australische minister voor Communicatie Anika Wells zei in een e-mail aan Reuters dat sociale-mediabedrijven "de middelen in handen hebben om jonge mensen te beschermen tegen hun verslavende functies, maar ervoor gekozen hebben die niet te gebruiken".

Australische functionarissen zeiden dat Meta's beslissing om het tienergebruik van zijn platforms in de VS te beperken laat zien dat bedrijven sterkere beschermingen voor jongeren online kunnen doorvoeren.

In de Filippijnen zei een functionaris tegen Reuters dat Meta daar ook had toegezegd de bescherming van jonge gebruikers te versterken.

De Zuid-Koreaanse mediawaakhond ging verder en betoogde dat sommige van Meta's nieuwe maatregelen wereldwijd voor jonge gebruikers zouden moeten gelden in plaats van beperkt te blijven tot individuele markten, meldde Reuters.

De internationale reactie kan de druk op Meta opvoeren om sommige van zijn beschermingen te standaardiseren over landen heen, vooral nu regeringen hun aanpak van onlineveiligheid voor kinderen steeds meer coördineren.

Socialmediabedrijven worden geconfronteerd met een groeiende juridische tegenreactie

De schikking van Meta komt in een bijzonder moeilijk jaar voor sociale-mediabedrijven.

In het voorjaar verloor Meta twee spraakmakende rechtszaken waarin werd beweerd dat zijn producten, waaronder Instagram, jonge gebruikers schade toebrachten.

Andere grote platforms, waaronder YouTube, TikTok en Snapchat, hebben soortgelijke rechtszaken gehad, waarbij sommige zaken werden geschikt en duizenden rechtszaken nog in behandeling zijn.

TikTok kwam deze week een afzonderlijke schikking van $400 million overeen met het Amerikaanse ministerie van Justitie over beschuldigingen dat het onwettig gegevens van kinderen had verzameld.

Tegelijkertijd hebben Amerikaanse staten hun eigen beperkingen op het sociale-mediagebruik van kinderen aangenomen.

De regelgevende druk beperkt zich niet langer tot de VS.

Groot-Brittannië, Canada, Denemarken, Indonesië en Nieuw-Zeeland hebben aangegeven Australië te willen volgen met beperkingen op sociale-media-toegang voor jongere gebruikers.

Frankrijk heeft ook geprobeerd beperkingen door te voeren, hoewel een wet die kinderen onder de 15 van sociale media zou hebben uitgesloten deze maand op grond van grondwettelijke redenen werd geblokkeerd.

Het groeiende mozaïek van regels kan het uiteindelijk moeilijker maken voor sociale-mediabedrijven om verschillende veiligheidsnormen in verschillende landen te handhaven.

Bewijsmateriaal uit rechtszaken kan verdere regulering aanwakkeren

De betekenis van Meta's schikking kan verder reiken dan de specifieke beperkingen die op Instagram en Facebook worden opgelegd.

Juridische procedures tegen Meta hebben interne documenten en communicatie tussen werknemers en leidinggevenden in het publieke domein gebracht.

Die materialen kunnen waardevol worden voor onderzoekers, wetgevers en toezichthouders die onderzoeken hoe technologiebedrijven producten ontwerpen en hun potentiële schade beoordelen.

"Er is hier duidelijk een enorme verschuiving in momentum in de Verenigde Staten en wereldwijd in de publieke beoordeling van sociale-mediaplatforms en de bredere techindustrie," zei Jim Steyer, CEO van Common Sense Media, een non-profit voor onderzoek en belangenbehartiging, in een NPR-verslag.

Isabel Sunderland, beleidsverantwoordelijke voor technologiereform bij Issue One, een tweepartijenorganisatie gericht op politieke hervorming, zei dat de schikking een bredere invloed kan hebben op rechtszaken, wetgeving en regulering.

Ze wees op interne documenten en communicatie die tijdens het federale proces in Oakland naar voren zijn gekomen, evenals eerdere processen in staatsrechtbanken in Californië en New Mexico dit jaar.

"Ze openen ook enorme verzamelingen — duizenden discovery-documenten — die uitermate belangrijk zijn voor onderzoekers, voor wetgevers om betere wetgeving te kunnen schrijven, voor het publiek om te begrijpen hoe hun relatie met technologie eruitziet en hoe technologiebedrijven hun producten ontwerpen," zei ze in het NPR-verslag.

Dat bewijs kan bijzonder belangrijk blijken naarmate wetgevers proberen vast te stellen of bestaande consumentenbeschermings- en privacywetten voldoende zijn om de risico's van algoritmegestuurde platforms aan te pakken.

"Juridisch creëert de schikking geen precedent op de manier waarop een gerechtelijke uitspraak dat zou doen. Maar in de praktijk zal het ertoe doen. Andere staten en eisers hebben nu een extra indicatie dat deze zaken zware juridische uitdagingen kunnen overleven, tot een proces kunnen leiden en zeer significante financiële blootstelling voor Meta kunnen creëren," zei Daryl Lim, hoogleraar aan Penn State Dickinson Law.

Getuigenis van klokkenluider zet Meta's interne werkwijzen onder vergrootglas

Een van de meest significante bewijselementen die tijdens het federale proces naar voren kwam, kwam van voormalig Meta-ingenieur en klokkenluider Arturo Béjar.

Béjar getuigde dat hij betrokken was bij interne studies die onderzochten hoe vaak gebruikers schadelijke content tegenkwamen, waaronder pesterijen, zelfbeschadiging en geweld.

Volgens zijn verklaring publiceerde Meta de resultaten van die studies niet openbaar. In plaats daarvan gaf het bedrijf andere statistieken vrij die zich richtten op overtredingen van zijn contentbeleid.

Béjar stelde dat die meetmethoden de omvang van de door gebruikers ervaren schade niet vastlegden en "een valse indruk van veiligheid" creëerden.

Het geschil benadrukt een van de centrale kwesties in de rechtszaak: of de openbare metingen van technologiebedrijven adequaat de risico's weerspiegelen waarmee gebruikers op hun platforms worden geconfronteerd.

Sunderland zei dat het bewijsmateriaal rond hoe bedrijven beslissingen nemen wetgevers bijzonder waardevolle inzichten kan verschaffen.

"Het beslissingsproces van de bedrijven is een groot stuk bewijs dat we uit deze processen hebben gehaald," zei Sunderland.

Ze betoogde dat die informatie wetgevers kan helpen bij het opstellen van nieuwe wetgeving en toezichthouders meer inzicht kan geven wanneer technologiebedrijven na de inwerkingtreding van wetten juridische uitdagingen aangaan.

Een nieuwe proef voor Meta en de bredere industrie

Voor Meta haalt de schikking de onmiddellijke dreiging van een groot proces weg en legt ze tegelijk aanzienlijke veranderingen op aan twee van haar belangrijkste platforms.

De financiële kosten zijn aanzienlijk, maar de gevolgen op langere termijn kunnen nog ingrijpender zijn.

Het bedrijf zal moeten aantonen dat de nieuwe beperkingen effectief kunnen worden doorgevoerd zonder de bredere gebruikerservaring te ondermijnen. Daarnaast zal het vragen oproepen of soortgelijke beschermingen uiteindelijk buiten de VS moeten worden uitgebreid.

Voor de rest van de technologiesector biedt de schikking ondertussen een waarschuwing dat toezichthouders en rechtbanken steeds meer verder kijken dan contentmoderatie en dataprivacy en ook het ontwerp van de producten zelf onderzoeken.

De zaak kan andere staten en landen ertoe aanzetten vergelijkbare beperkingen en schikkingen na te streven.

De overeenkomst van Meta is daarom meer dan een kostbare afhandeling van één rechtszaak. Ze duidt op een bredere verschuiving in hoe overheden sociale-mediabedrijven en hun verantwoordelijkheden jegens jongere gebruikers bekijken.

Naarmate toezichthouders meer intern bewijsmateriaal krijgen en wetgevers onder toenemende publieke druk staan om op te treden, kan de langjarige nadruk van de sector op gebruikersbetrokkenheid steeds strengere beperkingen tegenkomen.

De schikking kan uiteindelijk een keerpunt blijken — niet alleen voor Meta, maar voor de manier waarop overheden sociale-mediaplatforms reguleren die zijn ontworpen om gebruikers steeds terug te laten komen.