Korea Południowa ostrzega przed DeepSeek AI z powodu „nadmiernego” gromadzenia danych i ryzyka dla bezpieczeństwa

Agencja wywiadowcza Korei Południowej ostrzega przed potencjalnymi zagrożeniami dla bezpieczeństwa kraju, jakie niesie ze sobą chińska aplikacja sztucznej inteligencji DeepSeek.

Narodowa Służba Wywiadowcza (NIS) ostrzegła organy rządowe przed metodami gromadzenia danych przez aplikację, twierdząc, że przekazuje dane użytkowników na serwery chińskie i udziela reklamodawcom nieograniczonego dostępu.

Władze Korei Południowej zareagowały na to zablokowaniem aplikacji w wielu ministerstwach, dołączając do Australii i Tajwanu, które ograniczyły lub ostrzegały przed jej użyciem.

Obawy wynikają z możliwości śledzenia wzorców wpisów na klawiaturze przez DeepSeek oraz z jego niespójnych odpowiedzi na pytania o charakterze politycznym.

Kwestie te podkreślają rosnącą debatę na temat prywatności danych i szerszych implikacji kontroli informacji opartej na sztucznej inteligencji.

Dane użytkowników wysyłane do Chin, twierdzi NIS

W niedzielę NIS wydał oświadczenie, w którym szczegółowo przedstawił swoje obawy dotyczące praktyk DeepSeek w zakresie przetwarzania danych.

W przeciwieństwie do innych narzędzi generujących sztuczną inteligencję, DeepSeek rzekomo zbiera wzorce wprowadzania danych z klawiatury, które mogą identyfikować użytkowników, i przesyła te informacje na chińskie serwery, w tym volceapplog.com .

Zgodnie z chińskimi przepisami dotyczącymi bezpieczeństwa cybernetycznego, rząd teoretycznie mógłby uzyskać dostęp do tych danych na żądanie.

Model reklamowy aplikacji wzbudził obawy dotyczące bezpieczeństwa. NIS twierdzi, że reklamodawcy mają nieograniczony dostęp do informacji użytkowników, co zwiększa ryzyko niewłaściwego wykorzystania danych.

Oskarżenia te pojawiają się w kontekście podobnych obaw dotyczących prywatności danych, które doprowadziły do kontroli regulacyjnej innych chińskich firm technologicznych, zwłaszcza tych, które działają w obszarze aplikacji opartych na sztucznej inteligencji.

Oznaczono cenzurę i dezinformację

Oprócz obaw związanych z prywatnością danych, DeepSeek został oskarżony o niespójne odpowiedzi na tematy polityczne i kulturowo wrażliwe.

NIS zwrócił uwagę na sprzeczne odpowiedzi aplikacji dotyczące pochodzenia kimchi, podstawowego dania w Korei Południowej.

Jak podaje się, gdy zadano pytanie po koreańsku, DeepSeek zidentyfikował kimchi jako koreańskie danie, ale gdy zadano to samo pytanie po chińsku, aplikacja stwierdziła, że danie pochodzi z Chin.

Sprawa ta odzwierciedla szersze spory kulturowe między Chinami a Koreą Południową, które wcześniej wywołały debaty w Internecie.

Selektywne odpowiedzi aplikacji wykraczają poza kwestie kulturowe. Użytkownicy zgłaszali również, że pytania dotyczące wydarzeń na Placu Tiananmen w 1989 r. spotykają się z unikającymi odpowiedzi sugestiami zmiany tematu.

Takie nieścisłości budzą obawy dotyczące kontroli informacji i cenzury wbudowanej w platformy AI, szczególnie gdy platformy te są pod wpływem polityki swoich krajów macierzystych.

Rządy zwiększają kontrolę nad sztuczną inteligencją

DeepSeek nie jest pierwszą chińską platformą AI, która stała się przedmiotem kontroli pod kątem bezpieczeństwa danych i moderacji treści.

Rządy na całym świecie stają się coraz bardziej ostrożne w kwestii zagranicznych aplikacji AI, szczególnie tych pochodzących z Chin, ze względu na obawy dotyczące suwerenności danych i potencjalnego niewłaściwego wykorzystania.

Decyzja Korei Południowej o ograniczeniu działania DeepSeek jest podobna do działań podjętych przez Australię, Indie i Tajwan, które wprowadziły regulacje dotyczące tej aplikacji.

Jest to część szerszego trendu, w ramach którego państwa zaostrzają nadzór nad usługami opartymi na sztucznej inteligencji, aby zapobiegać potencjalnym naruszeniom bezpieczeństwa.

Ministerstwo Spraw Zagranicznych Chin, reagując na rosnące ograniczenia, broni praktyk kraju w zakresie ochrony danych, twierdząc, że rząd nie wymaga od firm nielegalnego gromadzenia ani przechowywania danych.

Ostrzeżenia wywiadowcze Korei Południowej wskazują, że obawy te pozostają nierozwiązane, co wzmacnia napięcia geopolityczne związane z rządzeniem sztuczną inteligencją i bezpieczeństwem danych.