Brittisk tillsynsmyndighet utreder X angående Grok AI:s skadliga bilder enligt nätsäkerhetslagen

Den brittiska kommunikationsregulatorn Ofcom har inlett en formell utredning av X och trappat upp den regulatoriska granskningen av artificiell intelligens inbäddade i stora sociala medieplattformar.

Utredningen fokuserar på om X har uppfyllt sina juridiska skyldigheter enligt Online Safety Act, efter utbredd oro över hur dess AI-chatbot, Grok, har använts för att skapa olagligt och skadligt innehåll.

Detta gör att Storbritannien hamnar bland en växande lista av regeringar som ifrågasätter om nuvarande AI-skydd är tillräckliga när bild- och textgenereringsverktyg görs allmänt tillgängliga online.

Ofcom inleder en formell utredning

Ofcom meddelade på måndagen att de hade inlett en utredning av X, ett dotterbolag till xAI, för att bedöma potentiella brister i efterlevnaden av Online Safety Act.

Lagstiftningen kräver att plattformar vidtar åtgärder för att skydda användare från olagligt innehåll och minska riskerna kopplade till framväxande teknologier.

Ofcom har befogenhet att utfärda böter eller blockera tjänster om överträdelser bekräftas.

Regulatorn kommer nu att analysera bevis som företaget lämnat innan ett preliminärt beslut fattas.

Om Ofcom fastställer att lagen har brutits kan de ålägga X en böter på upp till 10 % av sin globala omsättning eller 18 miljoner pund, beroende på vilket belopp som är högst.

Grok under regulatoriskt fokus

Undersökningen fokuserar på Grok, ett AI-verktyg med färre skyddsåtgärder än många vanliga chattbotar.

Användare kan interagera direkt med Grok på X genom att tagga chattboten i inlägg, vilket får den att generera text och bilder som visas offentligt på plattformen.

Tillsynsmyndigheter och lagstiftare har uttryckt oro efter att användare skapat stora mängder icke-samtyckta och olagliga bilder, inklusive material som involverar barn och kvinnor.

Brittisk lag förbjuder innehav eller delning av sexuella bilder av barn och spridning av intima bilder utan samtycke, inklusive innehåll som genererats med AI-verktyg.

Dessa rättsliga standarder gäller oavsett om bilderna är syntetiska eller digitalt ändrade.

Plattformsrespons och begränsningar

Efter att användare upprepade gånger missbrukat Groks bildgenereringsmöjligheter begränsade xAI funktionen till betalande användare på X.

Samma funktionalitet förblev dock gratis i den fristående Grok-appen.

Elon Musk varnade denna månad för att alla som använder Grok för att skapa olagligt innehåll skulle drabbas av samma konsekvenser som att ladda upp olagligt material.

xAI har sagt att de tar bort inlägg som bryter mot lagen, inklusive material om sexuella övergrepp mot barn, och stänger av konton som bedömts vara i överträdelse.

Den brittiska regeringen har antytt att dessa åtgärder kan vara otillräckliga. Näringsminister Peter Kyle sade att ministrarna skulle överväga att förbjuda X om det behövs, samtidigt som han betonade att regleringsprocessen måste ha sin gång.

Växande internationellt tryck

Oro för Grok har sträckt sig bortom Storbritannien.

Indonesien och Malaysia blockerade tillfälligt verktyget under helgen med hänvisning till risker kopplade till olagligt innehåll.

Internet Watch Foundation, som är utsedd av den brittiska regeringen att hjälpa till att identifiera material om sexuella övergrepp mot barn, sade att de hade hittat brottsbilder på barn på dark web som påstås ha skapats av Grok.

På europeisk nivå beordrade Europeiska kommissionen X att bevara interna dokument relaterade till Grok fram till årets slut.

Franska myndigheter har anklagat verktyget för att generera tydligt olagligt innehåll utan samtycke, vilket påpekar potentiella brott mot EU:s Digital Services Act.

Regleringen kräver att stora onlineplattformar minskar riskerna kopplade till spridning av olagligt material, inklusive innehåll producerat med AI.

När tillsynsmyndigheter i flera jurisdiktioner intensifierar sitt fokus på AI-drivna tjänster förväntas den brittiska utredningen av X testa hur befintliga lagar om onlinesäkerhet tillämpas på snabbt utvecklande generativa teknologier.