China waarschuwt staatspersoneel voor beveiligingsrisico's van AI-agent OpenClaw

Overheidsinstanties en staatsbedrijven in China waarschuwen personeel om de kunstmatige-intelligentieagent OpenClaw niet op kantoortoestellen te installeren, vanwege mogelijke beveiligingszorgen.

De richtlijnen, zoals gerapporteerd door Reuters, benadrukken de voorzichtigheid binnen de Chinese staatsector ten aanzien van opkomende autonome AI-tools.

OpenClaw is een open-source systeem dat in staat is zelfstandig complexe digitale taken uit te voeren met beperkte menselijke sturing.

De tool heeft de afgelopen maand aan populariteit gewonnen onder Chinese ontwikkelaars, AI-bedrijven en meerdere lokale overheden.

Toezichthouders en staatsmedia hebben gewaarschuwd dat zodra het is geïnstalleerd en systeemrechten heeft gekregen, de software gevoelige gegevens die op apparaten zijn opgeslagen kan lekken, verwijderen of misbruiken.

De waarschuwingen tonen de balans die Beijing probeert te handhaven: het bevordert de adoptie van kunstmatige intelligentie via zijn nationale “AI plus”-strategie, terwijl het waakt voor cyber- en datarisico's.

Beveiligingszorgen rond AI-agenten

De zorgen richten zich op het vermogen van OpenClaw om autonoom handelingen op een computer uit te voeren zodra het toegang heeft gekregen.

In tegenstelling tot conventionele AI-chatbots die voornamelijk tekst genereren of vragen beantwoorden, kunnen AI-agenten zoals OpenClaw taken automatisch uitvoeren.

Dit kan onder meer het interacteren met bestanden, het starten van programma's of het navigeren door online diensten zonder directe supervisie omvatten.

Volgens het rapport hebben Chinese toezichthouders gesignaleerd dat dergelijke mogelijkheden beveiligingskwetsbaarheden kunnen veroorzaken wanneer ze binnen overheids- of bedrijfsystemen worden gebruikt.

Ambtenaren en staatsmedia hebben gewaarschuwd dat AI-agenten met uitgebreide rechten vertrouwelijke informatie kunnen blootleggen of kunnen ingrijpen in gevoelige digitale infrastructuur.

Personeel dat bij staatsinstanties werkt, is daarom geadviseerd de software niet op werkcomputers te installeren.

Waarschuwingen aan staatspersoneel

Volgens het rapport hebben toezichthouders werknemers bij meerdere staatsbedrijven geïnstrueerd OpenClaw niet te gebruiken.

In sommige gevallen werd personeel ook afgeraden de software op persoonlijke apparaten te installeren die voor werkactiviteiten worden gebruikt.

Een andere door het rapport aangehaalde bron zei dat OpenClaw binnen hun organisatie niet formeel verboden was.

Werknemers werden echter gewezen op veiligheidsrisico's en geadviseerd het niet te installeren.

Het blijft onduidelijk hoe breed de beperkingen zijn doorgevoerd binnen overheidsinstanties en staatsbedrijven.

Steun van lokale overheden neemt toe

Ondanks de waarschuwingen van toezichthouders is OpenClaw de afgelopen maand gepromoot binnen China's technologie-ecosysteem.

Ontwikkelaars, AI-firma's en meerdere lokale overheden hebben experimenten met de software aangemoedigd.

Sommige regionale autoriteiten hebben subsidies van miljoenen dollars aangeboden aan bedrijven die applicaties op basis van OpenClaw ontwikkelen.

Deze stimulansen worden gepresenteerd als onderdeel van de lokale uitvoering van Beijings bredere “AI plus”-actieplan om kunstmatige intelligentie door de economie te integreren.

De impuls heeft zich uitgebreid naar de gezondheidszorg. Vorige week organiseerde een onderzoekscentrum onder de gemeentelijke gezondheidscommissie van Shenzhen een trainingssessie gericht op OpenClaw.

Duizenden woonden de sessie bij als onderdeel van de inspanning van de stad om de adoptie van AI in medische diensten te versnellen.