Hvordan Metas $18 billion-forlig om teen-sikkerhed kan ændre regler for sociale medier

Som regeringer og tilsynsmyndigheder verden over øger deres fokus på sociale mediers indvirkning på børn, markerer Metas banebrydende forlig i USA et stort skift i, hvordan teknologivirksomheder kan blive holdt ansvarlige for, hvordan deres platforme er designet og anvendt.

Meta har accepteret at omstrukturere dele af Instagram og Facebook i USA og betale op til $18 billion for at indgå forlig i en banebrydende retssag anlagt af snesevis af delstater, der anklagede sociale mediegiganten for bevidst at designe sine platforme til at skabe afhængighed hos børn og udsætte unge brugere for alvorlige mentale helbredsproblemer.

Forliget, der blev indgået onsdag, afslutter en stor retssag i Californien og markerer første gang i USA, at Meta er blevet tvunget til at ændre centrale funktioner af den daglige sociale medieoplevelse som led i en juridisk aftale.

Aftalen kræver, at Meta indfører en række beskyttelsesforanstaltninger for brugere under 18 år, herunder standardbegrænsninger for dagligt brug, restriktioner for natlig adgang og ændringer i, hvordan indhold og notifikationer præsenteres for teenagere.

Embedsmænd beskrev det som det største delstatsforbrugerkaitetsforlig uden for tobaksforligene i 1990'erne.

Meta står over for sit største forlig i USA hidtil

Aftalens størrelse understreger det voksende juridiske pres, som Meta og den bredere sociale medieindustri står overfor med hensyn til onlineplatformes påvirkning af børn.

Metas betaling er mere end 12 gange større end det tidligere højeste forlig registreret over de seneste fire år.

Det benchmark blev sat af Meta selv i 2024, da selskabet indgik et andet forlig på $1.4 billion.

Det seneste forlig repræsenterer også det største forlig nogensinde indgået med en enkelt virksomhed gennem New Yorks attorney general-kontor.

Det tidligere rekordforlig var på $7.4 billion og blev indgået i 2022 med Purdue Pharma og Sackler-familien i forbindelse med opioidkrisen.

Sagsanlægget hævdede, at Meta med vilje indbyggede vanedannende funktioner i Instagram og andre produkter, samtidig med at det undlod at advare offentligheden tilstrækkeligt om de potentielle risici for unge brugere.

Delstaterne argumenterede for, at virksomheden vidste, at dens produkter kunne bidrage til skadelige oplevelser blandt børn, men fortsatte med at prioritere engagement.

Forliget pålægger ikke blot en økonomisk bøde.

Det kræver ændringer af produkterne selv og kan potentielt etablere en ny skabelon for, hvordan teknologivirksomheder kan holdes ansvarlige for designet af tjenester, der bruges af børn.

Foranstaltninger for teenagere

Under aftalen vil Meta automatisk anvende flere beskyttelser for brugere under 18 år på Instagram og Facebook i USA.

Den mest betydningsfulde ændring er en standard to-timers daglig brugstidsgrænse. Teenagere vil kun kunne deaktivere begrænsningen med tilladelse fra en forælder.

Meta vil også indføre en standard Night Mode, som blokerer adgang til dets apps mellem midnat og kl. 6.

I disse timer vil teenagere ikke kunne poste eller se indhold via Feed, Stories, Explore eller Reels.

Selskabet indfører desuden en School Mode-funktion, der som standard dæmper notifikationer mellem kl. 8 og 15.

Visse kommunikationer forbliver dog tilgængelige. Direkte beskeder og advarsler vedrørende kontosikkerhed eller sikkerhed vil ikke blive blokeret under skoletidsrestriktionerne.

Ændringerne går ud over blot begrænsninger i, hvor længe teenagere kan bruge platformene.

Meta sagde, at det også vil indføre større kontrol over algoritmiske feeds og autoplay, mens brugere får muligheder for at skjule antallet af likes og reaktioner på opslag.

Selskabet vil også deaktivere kosmetiske kirurgi- og ekstreme makeup-filtre for teenagebrugere.

Sammenlagt udgør foranstaltningerne en væsentlig indgriben i designet af Instagram og Facebook, to produkter hvis vækst historisk set i høj grad har været afhængig af at maksimere engagement og holde brugere aktive på deres platforme.

Hvordan forliget kan få globale konsekvenser

Selvom aftalen gælder Metas aktiviteter i USA, forventes dens betydning næppe at stoppe ved landets grænser.

Regeringer verden over søger allerede måder at reducere børns eksponering for skadeligt onlineindhold og begrænse, hvor meget tid unge bruger på sociale medier.

Australien har indtil videre taget den mest aggressive tilgang.

Det blev sidste år det første land til at indføre et nationalt forbud mod sociale medier for børn under 16.

Australske kommunikationsminister Anika Wells sagde, at Metas seneste ændringer viste, at sociale medieselskaber allerede har mulighed for at beskytte børn mod potentielt vanedannende funktioner.

Australske kommunikationsminister Anika Wells sagde i en e-mail til Reuters, at sociale medieselskaber "har værktøjerne til rådighed for at beskytte unge mod deres vanedannende funktioner, men har valgt ikke at bruge dem".

Australske embedsmænd sagde, at Metas beslutning om at begrænse tenåringers brug af dets platforme i USA viste, at virksomheder kunne implementere stærkere beskyttelsesforanstaltninger for unge online.

I Filippinerne sagde en embedsmand til Reuters, at Meta også havde forpligtet sig til at styrke beskyttelsen af unge brugere dér.

Sydkoreas medieregulator gik længere og argumenterede for, at nogle af Metas nye foranstaltninger burde udvides til unge brugere globalt i stedet for at være begrænset til enkelte markeder, rapporterede Reuters.

Den internationale reaktion kan øge presset på Meta for at standardisere nogle af sine beskyttelser på tværs af lande, særligt i takt med at regeringer i stigende grad koordinerer deres tilgange til børns onlinesikkerhed.

Sociale medieselskaber står over for en voksende juridisk modreaktion

Metas forlig kommer i et særligt vanskeligt år for sociale medieselskaber.

I foråret tabte Meta to højprofilerede retssager, der involverede påstande om, at dets produkter, herunder Instagram, skadede unge brugere.

Andre store platforme, herunder YouTube, TikTok og Snapchat, har også stået over for lignende retssager, hvor nogle sager er afgjort ved forlig, mens tusindvis af sagsanlæg stadig verserer.

TikTok indgik denne uge et separat forlig på $400 million med det amerikanske justitsministerium over påstande om, at det ulovligt indsamlede børns data.

Samtidig har amerikanske delstater vedtaget deres egne restriktioner for børns brug af sociale medier.

Det regulatoriske pres er ikke længere begrænset til USA.

Storbritannien, Canada, Danmark, Indonesien og New Zealand har signaleret, at de agter at følge Australiens føring med hensyn til at begrænse sociale medier for yngre brugere.

Frankrig har også forfulgt restriktioner, selvom en lov, der ville have forbudt børn under 15 på sociale medier, blev blokeret i denne måned på forfatningsmæssige grunde.

Det voksende lapværk af regler kan i sidste ende gøre det vanskeligere for sociale medieselskaber at opretholde forskellige sikkerhedsstandarder i forskellige lande.

Beviser fra retssager kan fremme yderligere regulering

Betydningen af Metas forlig kan række ud over de specifikke restriktioner, der er pålagt Instagram og Facebook.

Retsforløb mod Meta har bragt interne dokumenter og kommunikationer mellem medarbejdere og ledere frem i offentligheden.

Disse materialer kan blive værdifulde for forskere, lovgivere og tilsynsmyndigheder, der undersøger, hvordan teknologivirksomheder designer produkter og vurderer deres potentielle skader.

"Der er tydeligvis et enormt momentumskifte her i USA og globalt i offentlighedens vurdering af sociale medieplatforme og den bredere techindustri," sagde Jim Steyer, CEO for Common Sense Media, en nonprofit forsknings- og interesseorganisation, i en NPR-reportage.

Isabel Sunderland, policy-leder for teknologireform hos Issue One, en tværpolitisk nonprofit med fokus på politisk reform, sagde, at forliget kunne få bredere konsekvenser for retssager, lovgivning og regulering.

Hun pegede på interne dokumenter og kommunikationer, der er fremkommet under den føderale retssag i Oakland samt tidligere retssager i delstaternes domstole i Californien og New Mexico i år.

"De åbner også op for enorme mængder, tusindvis af dokumenter fra discovery, som er særdeles vigtige for forskere, for lovgivere, så de kan udarbejde bedre politik, for offentligheden til at forstå, hvordan deres forhold til teknologi ser ud, og hvordan teknologivirksomheder designer deres produkter," sagde hun i NPR-reportagen.

Disse beviser kan vise sig særlig vigtige, efterhånden som lovgivere forsøger at vurdere, om eksisterende forbrugerbeskyttelses- og privatlivsregler er tilstrækkelige til at håndtere risiciene forbundet med algoritmedrevne platforme.

"Juridisk skaber forliget ikke præcedens på samme måde som en domstolsafgørelse ville. Men det vil have betydning i praksis. Andre delstater og sagsøgere har nu en yderligere indikation på, at disse sager kan overleve betydelige juridiske udfordringer, nå retssag og skabe meget væsentlig økonomisk eksponering for Meta," sagde Daryl Lim, professor ved Penn State Dickinson Law.

Whistleblowerforklaringer sætter Metas interne praksis under lup

Et af de mest betydningsfulde beviser under den føderale retssag stammede fra den tidligere Meta-ingeniør og whistleblower Arturo Béjar.

Béjar vidnede, at han havde deltaget i interne studier, der undersøgte, hvor hyppigt brugere stødte på skadeligt indhold, herunder mobning, selvskade og vold.

Ifølge hans vidnesbyrd offentliggjorde Meta ikke resultaterne af disse studier. I stedet offentliggjorde virksomheden andre målinger med fokus på overtrædelser af dets indholdsregler.

Béjar hævdede, at disse målinger ikke fangede omfanget af den skade, brugerne oplevede, og skabte "et falsk indtryk af sikkerhed."

Tvis­ten fremhæver et af de centrale spørgsmål i sagen: om teknologivirksomheders offentlige målinger tilstrækkeligt afspejler de risici, brugere udsættes for på deres platforme.

Sunderland sagde, at beviserne vedrørende, hvordan virksomheder træffer beslutninger, kunne vise sig særligt værdifulde for lovgivere.

"Virksomhedernes beslutningsproces har været et stort stykke bevis, som vi har trukket ud fra disse retssager," sagde Sunderland.

Hun argumenterede for, at informationen kunne hjælpe lovgivere med at udforme ny lovgivning og give tilsynsmyndigheder bedre indsigt, når teknologivirksomheder efterfølgende anfægter love.

En ny prøve for Meta og hele branchen

For Meta fjerner forliget den umiddelbare trussel om en stor retssag, samtidig med at det pålægger væsentlige ændringer på to af selskabets vigtigste platforme.

De økonomiske omkostninger er betydelige, men de langsigtede implikationer kan blive endnu mere afgørende.

Selskabet bliver nødt til at demonstrere, at dets nye restriktioner kan implementeres effektivt uden at undergrave den brede brugeroplevelse. Det vil også blive mødt af spørgsmål om, hvorvidt lignende beskyttelser på sigt bør udvides ud over USA.

For resten af techindustrien tilbyder forliget samtidig en advarsel om, at tilsynsmyndigheder og domstole i stigende grad ser ud over indholdsmoderation og databeskyttelse og undersøger selve produktdesignet.

Sagen kan også opfordre andre delstater og lande til at forfølge lignende restriktioner og forlig.

Metas aftale repræsenterer derfor mere end en dyr løsning på én retssag. Den signalerer et bredere skift i, hvordan regeringer ser på sociale medieselskaber og deres ansvar over for yngre brugere.

Efterhånden som tilsynsmyndigheder får adgang til mere internt bevismateriale, og lovgivere møder voksende offentlighedspres for at handle, kan branchens langvarige fokus på engagement møde stadigt strengere begrænsninger.

Forliget kan i sidste ende vise sig at være et vendepunkt — ikke kun for Meta, men for måden, regeringer regulerer sociale medieplatforme, som er designet til at få brugere til at vende tilbage.