Zuid-Korea waarschuwt voor DeepSeek AI vanwege 'excessieve' gegevensverzameling en veiligheidsrisico's

De Zuid-Koreaanse inlichtingendienst heeft waarschuwingen afgegeven over de mogelijke risico's voor de nationale veiligheid die het Chinese kunstmatige intelligentieprogramma DeepSeek met zich meebrengt.

De National Intelligence Service (NIS) heeft overheidsinstanties gewaarschuwd voor de manier waarop de app gegevens verzamelt. Volgens de dienst worden gebruikersgegevens overgedragen naar Chinese servers en krijgen adverteerders onbeperkte toegang.

De autoriteiten in Zuid-Korea hebben gereageerd door de app te blokkeren in meerdere ministeries. Daarmee sluiten ze zich aan bij Australië en Taiwan, die het gebruik van de app hebben beperkt of ervan hebben afgewaarschuwd.

De zorgen zijn gebaseerd op de mogelijkheid van DeepSeek om toetsenbordinvoerpatronen te volgen en op de inconsistente antwoorden die het systeem geeft op politiek gevoelige vragen.

Deze kwesties benadrukken het groeiende debat over gegevensbescherming en de bredere implicaties van door AI aangestuurde informatiecontrole.

NIS beweert dat gebruikersgegevens naar China worden gestuurd

De NIS publiceerde zondag een verklaring waarin de zorgen over de gegevensverwerkingsmethoden van DeepSeek werden uiteengezet.

In tegenstelling tot andere generatieve AI-tools verzamelt DeepSeek naar verluidt toetsenbordinvoerpatronen waarmee gebruikers kunnen worden geïdentificeerd en deze informatie naar Chinese servers wordt verzonden, waaronder volceapplog.com .

Volgens de Chinese wetgeving op het gebied van cyberbeveiliging zou de overheid deze gegevens op verzoek kunnen inzien.

Het advertentiemodel van de app heeft zorgen gewekt over de veiligheid. De NIS beweert dat adverteerders onbeperkte toegang hebben tot gebruikersinformatie, wat het risico op misbruik van gegevens vergroot.

Deze beschuldigingen volgen op soortgelijke zorgen over gegevensbescherming die hebben geleid tot toezicht door de regelgeving op andere Chinese technologiebedrijven, met name die bedrijven die AI-gestuurde toepassingen aanbieden.

Censuur en misinformatie gemarkeerd

Naast de zorgen over de privacy van gegevens is DeepSeek ook in de gaten gehouden vanwege inconsistenties in de antwoorden op politiek en cultureel gevoelige onderwerpen.

De NIS wees op de tegenstrijdige antwoorden van de app over de oorsprong van kimchi, een hoofdgerecht in Zuid-Korea.

Toen de vraag in het Koreaans werd gesteld, identificeerde DeepSeek kimchi als een Koreaans gerecht. Maar toen dezelfde vraag in het Chinees werd gesteld, beweerde de app dat het gerecht afkomstig was uit China.

Het probleem weerspiegelt bredere culturele geschillen tussen China en Zuid-Korea, die eerder al voor online debatten zorgden.

De selectieve antwoorden van de app gaan verder dan alleen culturele kwesties. Gebruikers hebben ook gemeld dat vragen over de Tiananmen-rellen in 1989 worden beantwoord met uitwijkende suggesties om het onderwerp te veranderen.

Dergelijke inconsistenties roepen zorgen op over de controle en censuur van informatie die in AI-platformen is ingebouwd, met name wanneer die platformen worden beïnvloed door het beleid van hun thuisland.

Overheden houden AI nauwlettender in de gaten

DeepSeek is niet het eerste Chinese AI-platform dat onder vuur ligt vanwege de beveiliging van gegevens en de moderatie van inhoud.

Overheden wereldwijd zijn steeds voorzichtiger geworden met betrekking tot buitenlandse AI-toepassingen, met name die afkomstig zijn uit China, vanwege zorgen over de soevereiniteit van gegevens en mogelijk misbruik.

De beslissing van Zuid-Korea om DeepSeek te beperken, volgt op soortgelijke maatregelen van Australië, India en Taiwan, die regelgeving hebben ingevoerd voor de app.

Deze stap is onderdeel van een bredere trend waarbij landen de toezicht op AI-gestuurde diensten verscherpen om mogelijke beveiligingslekken te voorkomen.

Het Chinese ministerie van Buitenlandse Zaken heeft in reactie op de toenemende beperkingen de gegevensbeschermingspraktijken van het land verdedigd. Het ministerie stelt dat de overheid bedrijven niet verplicht om gegevens illegaal te verzamelen of op te slaan.

De waarschuwingen van de Zuid-Koreaanse inlichtingendienst suggereren dat de zorgen nog niet zijn opgelost, wat de geopolitieke spanningen rondom AI-bestuur en gegevensbeveiliging versterkt.