Den britiske regulator undersøger X om Grok AI's skadelige billeder under online-sikkerhedsloven

Den britiske kommunikationsregulator, Ofcom, har indledt en formel undersøgelse af X, hvilket øger den regulatoriske kontrol af kunstig intelligens-værktøjer indlejret i store sociale medieplatforme.

Undersøgelsen fokuserer på, om X har opfyldt sine juridiske forpligtelser under Online Safety Act, efter udbredt bekymring over, hvordan deres AI-chatbot, Grok, er blevet brugt til at generere ulovligt og skadeligt indhold.

Tiltaget placerer Storbritannien blandt en voksende liste af regeringer, der stiller spørgsmålstegn ved, om de nuværende AI-sikkerhedsforanstaltninger er tilstrækkelige, når billed- og tekstgenereringsværktøjer gøres bredt tilgængelige online.

Ofcom indleder en formel undersøgelse

Ofcom oplyste mandag, at de havde åbnet en undersøgelse af X, et datterselskab af xAI, for at vurdere potentielle manglende overholdelse af Online Safety Act.

Lovgivningen kræver, at platforme tager skridt til at beskytte brugere mod ulovligt indhold og reducere risici forbundet med nye teknologier.

Ofcom har beføjelse til at udstede bøder eller blokere tjenester, hvis overtrædelser bekræftes.

Regulatoren vil nu analysere beviser, som virksomheden har fremlagt, før der træffes en foreløbig beslutning.

Hvis Ofcom fastslår, at loven er blevet overtrådt, kan de pålægge X en bøde på op til 10 % af deres globale omsætning eller £18 millioner, alt efter hvilket beløb der er højest.

Grok under regulatorisk søgelys

Sonden fokuserer på Grok, et AI-værktøj med færre sikkerhedsforanstaltninger end mange mainstream chatbots.

Brugere kan interagere direkte med Grok på X ved at tagge chatbotten i opslag, hvilket får den til at generere tekst og billeder, der vises offentligt på platformen.

Tilsynsmyndigheder og lovgivere har rejst bekymring, efter at brugere har skabt store mængder ikke-samtykkende og ulovlige billeder, herunder materiale med børn og kvinder.

Britisk lov forbyder besiddelse eller deling af seksuelle billeder af børn samt distribution af intime billeder uden samtykke, herunder indhold genereret med AI-værktøjer.

Disse juridiske standarder gælder uanset om billederne er syntetiske eller digitalt ændrede.

Platformens respons og restriktioner

Efter at brugere gentagne gange misbrugte Groks billedgenereringsmuligheder, begrænsede xAI funktionen til betalende brugere på X.

Den samme funktionalitet forblev dog gratis i den selvstændige Grok-app.

Elon Musk advarede denne måned om, at alle, der bruger Grok til at skabe ulovligt indhold, vil stå over for de samme konsekvenser som ved upload af ulovligt materiale.

xAI har oplyst, at de fjerner opslag, der bryder loven, herunder materiale om seksuelt misbrug af børn, og suspenderer konti, der er fundet at være i brud.

Den britiske regering har antydet, at disse tiltag muligvis ikke er tilstrækkelige. Erhvervsminister Peter Kyle sagde, at ministrene ville overveje at forbyde X, hvis nødvendigt, samtidig med at han understregede, at reguleringsprocessen må have sin gang.

Voksende internationalt pres

Bekymringerne om Grok har rakt ud over Storbritannien.

Indonesien og Malaysia blokerede midlertidigt værktøjet i weekenden med henvisning til risici forbundet med ulovligt indhold.

Internet Watch Foundation, som er udpeget af den britiske regering til at hjælpe med at identificere materiale om seksuelt misbrug af børn, sagde, at de havde fundet kriminelle billeder af børn på dark web, som angiveligt var genereret af Grok.

På europæisk niveau beordrede Europa-Kommissionen X til at bevare interne dokumenter vedrørende Grok indtil årets udgang.

Franske myndigheder har beskyldt værktøjet for at generere klart ulovligt indhold uden samtykke og påpeget potentielle overtrædelser af EU's Digital Services Act.

Reguleringen kræver, at store onlineplatforme mindsker risici forbundet med spredning af ulovligt materiale, herunder indhold produceret med AI.

Efterhånden som regulatorer på tværs af flere jurisdiktioner intensiverer deres fokus på AI-drevne tjenester, forventes den britiske undersøgelse af X at afprøve, hvordan eksisterende love om online sikkerhed gælder for hastigt udviklende generative teknologier.