Britisk regulator undersøker X for Grok AIs skadelige bilder under nettsikkerhetsloven

Den britiske kommunikasjonsregulatoren Ofcom har igangsatt en formell etterforskning av X, noe som øker regulatorisk gransking av kunstig intelligens-verktøy innebygd i store sosiale medieplattformer.

Etterforskningen fokuserer på om X har oppfylt sine juridiske forpliktelser under Online Safety Act, etter utbredt bekymring over hvordan deres AI-chatbot, Grok, har blitt brukt til å generere ulovlig og skadelig innhold.

Dette gjør at Storbritannia havner blant en økende liste av regjeringer som stiller spørsmål ved om dagens AI-beskyttelse er tilstrekkelig når verktøy for bilde- og tekstgenerering gjøres bredt tilgjengelige på nettet.

Ofcom igangsetter formell etterforskning

Ofcom opplyste mandag at de hadde åpnet en etterforskning av X, et datterselskap av xAI, for å vurdere mulige manglende overholdelse av Online Safety Act.

Lovgivningen krever at plattformer tar grep for å beskytte brukere mot ulovlig innhold og redusere risikoen knyttet til nye teknologier.

Ofcom har myndighet til å ilegge bøter eller blokkere tjenester dersom brudd bekreftes.

Regulatoren vil nå analysere bevisene selskapet har lagt frem før de fatter en foreløpig beslutning.

Hvis Ofcom fastslår at loven er brutt, kan de ilegge X en bot på opptil 10 % av deres globale inntekter eller £18 millioner, avhengig av hvilket beløp som er høyest.

Grok under regulatorisk søkelys

Undersøkelsen fokuserer på Grok, et AI-verktøy med færre sikkerhetsmekanismer enn mange vanlige chatboter.

Brukere kan samhandle direkte med Grok på X ved å tagge chatboten i innlegg, og få den til å generere tekst og bilder som vises offentlig på plattformen.

Regulatorer og lovgivere har uttrykt bekymring etter at brukere har laget store mengder ikke-samtykkende og ulovlige bilder, inkludert materiale som involverer barn og kvinner.

Britisk lov forbyr besittelse eller deling av seksuelle bilder av barn og distribusjon av intime bilder uten samtykke, inkludert innhold generert med AI-verktøy.

Disse juridiske standardene gjelder uavhengig av om bildene er syntetiske eller digitalt endret.

Plattformrespons og restriksjoner

Etter at brukere gjentatte ganger misbrukte Groks bildegenereringsmuligheter, begrenset xAI funksjonen til betalende brukere på X.

Den samme funksjonaliteten forble imidlertid gratis i den frittstående Grok-appen.

Elon Musk advarte denne måneden om at alle som bruker Grok til å lage ulovlig innhold vil møte de samme konsekvensene som å laste opp ulovlig materiale.

xAI har sagt at de fjerner innlegg som bryter loven, inkludert materiale om seksuelle overgrep mot barn, og suspenderer kontoer som er funnet å være i brudd.

Den britiske regjeringen har indikert at disse tiltakene kan være utilstrekkelige. Næringsminister Peter Kyle sa at ministrene ville vurdere å forby X om nødvendig, samtidig som han understreket at reguleringsprosessen må gå sin gang.

Økende internasjonalt press

Bekymringene rundt Grok har strukket seg utover Storbritannia.

Indonesia og Malaysia blokkerte midlertidig verktøyet i helgen, med henvisning til risikoer knyttet til ulovlig innhold.

Internet Watch Foundation, som er utpekt av den britiske regjeringen til å hjelpe til med å identifisere materiale om seksuelle overgrep mot barn, sa at de hadde funnet kriminelle bilder av barn på dark web som angivelig ble generert av Grok.

På europeisk nivå beordret Europakommisjonen X til å bevare interne dokumenter knyttet til Grok til slutten av året.

Franske myndigheter har anklaget verktøyet for å generere åpenbart ulovlig innhold uten samtykke, og påpeker dermed potensielle brudd på EUs Digital Services Act.

Reguleringen krever at store nettplattformer reduserer risikoen knyttet til spredning av ulovlig materiale, inkludert innhold produsert med KI.

Etter hvert som regulatorer på tvers av flere jurisdiksjoner intensiverer sitt fokus på KI-drevne tjenester, forventes den britiske undersøkelsen av X å teste hvordan eksisterende lover om nettsikkerhet gjelder for raskt utviklende generative teknologier.