Invezz wyjaśnia: czym jest destylacja AI i dlaczego USA oskarżają chińskie firmy?

Amerykańskie agencje bezpieczeństwa oskarżyły sześć chińskich firm zajmujących się sztuczną inteligencją o systematyczne wykorzystywanie amerykańskich modeli AI do trenowania własnych systemów, co ponownie zwróciło uwagę na techniczny proces znany jako destylacja modelu.

The National Security Agency, Federal Bureau of Investigation and Cybersecurity and Infrastructure Security Agency poinformowały we wtorek, że DeepSeek, Moonshot, Alibaba Group Holding, MiniMax, StepFun i Z.AI dopuściły się tego, co opisały jako „agresywne, złośliwe i ukierunkowane działania destylacyjne na skalę przemysłową, które wydobywają ograniczone, zastrzeżone funkcje i możliwości najnowocześniejszych modeli AI z USA”.

Agencje stwierdziły, że firmy stosowały destylację co najmniej od 2024 roku, by uzyskać dostęp do informacji z amerykańskich modeli AI i wykorzystać je do opracowania własnych systemów.

Czym jest destylacja modelu AI?

Destylacja to technika służąca do przenoszenia części możliwości dużego, zaawansowanego modelu AI do modelu mniejszego lub bardziej wyspecjalizowanego.

Większy system zwykle nazywany jest modelem „nauczyciela”, natomiast mniejszy system nazywa się modelem „ucznia”.

Zamiast budować mniejszy model całkowicie od podstaw, deweloperzy trenują go przy użyciu informacji generowanych przez model-nauczyciela.

Podejście to zostało sformalizowane przez Geoffreya Hintona i jego współautorów z Google w 2015 roku jako sposób kompresji zachowania dużego modelu do mniejszego przy użyciu wyjść generowanych przez większy system.

W praktyce deweloper może poprosić potężny model AI o odpowiedzi na dużą liczbę zapytań, a następnie użyć tych odpowiedzi jako materiału treningowego dla innego modelu.

Model-uczeń uczy się wzorców w odpowiedziach modelu-nauczyciela i ostatecznie może odtworzyć część jego możliwości bez konieczności używania takiej samej skali zasobów obliczeniowych.

Efektem może być system AI znacznie tańszy i łatwiejszy w obsłudze, zachowujący jednak dużą część wydajności większego modelu.

To sprawia, że destylacja jest ważnym elementem wysiłków branży AI mających na celu zwiększenie efektywności coraz bardziej zaawansowanych modeli.

Destylacja ma legalne zastosowania w całej branży AI.

Firmy z obszaru frontier AI mogą stosować tę technikę, by tworzyć mniejsze wersje własnych modeli, które są tańsze w eksploatacji, szybciej odpowiadają i lepiej nadają się do konkretnych zastosowań.

Kiedy destylacja staje się kontrowersyjna?

Destylacja staje się sporna, gdy firma próbuje odtworzyć możliwości zastrzeżonego modelu innej firmy bez autoryzacji.

Konkurent może potencjalnie wykorzystać tysiące lub miliony interakcji z modelem frontier, aby wygenerować dane treningowe dla własnego systemu.

Zamiast przeznaczać lata i ogromne sumy na samodzielne opracowanie podobnych możliwości, może użyć odpowiedzi istniejącego modelu jako skrótu.

Amerykańskie agencje bezpieczeństwa podały, że chińskie firmy wykorzystywały wiele ścieżek, by uzyskać nieautoryzowany dostęp do amerykańskich systemów AI.

„Firmy z Chin kierują żądania destylacji przez wiele kanałów, aby uzyskać nieautoryzowany dostęp, w efekcie naruszając warunki korzystania z usług amerykańskich firm AI” — napisano w tym zawiadomieniu.

OpenAI i Anthropic osobno oskarżyły chińskie firmy AI o próby wydobycia możliwości z ich modeli.

W lutym Anthropic poinformowała, że odkryła kampanie obejmujące DeepSeek, Moonshot AI i MiniMax, które miały na celu wydobycie możliwości z jej chatbota Claude.

Według Anthropic kampanie objęły około 16 milionów wymian z Claude i 24 000 fałszywych kont, przy czym sam MiniMax odpowiadał za ponad 13 milionów wymian.

OpenAI sformułowało podobne zarzuty w styczniu.

Te oskarżenia uczyniły destylację punktem centralnym szerszej debaty o własności intelektualnej i konkurencji w branży AI.

Problem zyskał na znaczeniu po pojawieniu się DeepSeek, którego niskokosztowy model AI wydany w zeszłym roku wykazał możliwości konkurencyjne wobec czołowych amerykańskich systemów.

To wydarzenie podważyło przekonanie o niepodważalnej przewadze USA w frontier AI i postawiło pytania, w jaki sposób chińskie firmy osiągały porównywalną wydajność przy diametralnie odmiennych strukturach kosztów.

Pukar Hamal, założyciel firmy zajmującej się bezpieczeństwem AI SecurityPal, wcześniej porównał tę praktykę do sytuacji, gdy uczeń kopiuje pracę innego ucznia.

„To prawie tak, jakby ktoś chodził na wykłady, przeczytał podręcznik i wykonał całą ciężką pracę domową” — powiedział Hamal w wcześniejszym raporcie CNBC.

„A potem jakiś inny uczeń mówi: 'Hej, ja tego nie zrobiłem. Czy mogę po prostu skopiować twoją pracę?'”

Dlaczego Waszyngton postrzega to jako ryzyko dla bezpieczeństwa narodowego

Najnowsze ostrzeżenie USA wykracza poza obawy związane z konkurencją handlową.

Agencje stwierdziły, że destylacja na skalę przemysłową może zmniejszyć koszty badań i rozwoju chińskich firm AI, jednocześnie zwiększając „zdolności militarne i możliwości cyberataków Chin, które mogłyby zostać użyte przeciwko USA i naszym sojusznikom”.

Raport Reuters z 31 lipca podał, że chińscy badacze wojskowi wykorzystywali wyniki generowane przez czołowe amerykańskie modele AI do trenowania krajowych systemów i rozwijania zdolności obronnych.

Anthropic argumentowało również, że nielegalna destylacja może stworzyć problem bezpieczeństwa, ponieważ zabezpieczenia wbudowane w amerykańskie modele frontier mogą nie zostać przeniesione do powstałych systemów.

„Modele uzyskane w wyniku nielegalnej destylacji nie posiadają niezbędnych zabezpieczeń, tworząc istotne zagrożenia dla bezpieczeństwa narodowego” — poinformowało Anthropic w lutowej notatce.

Amerykańskie firmy AI tworzą zabezpieczenia mające na celu uniemożliwienie ich modelom wspierania działań takich jak opracowywanie broni biologicznej czy przeprowadzanie złośliwych operacji cybernetycznych.

Anthropic ostrzega, że model stworzony przez nieautoryzowaną destylację może nie zachować tych zabezpieczeń.

Wojskowy wymiar AI podnosi stawki

Obawy wiążą się również z szerszymi wysiłkami Chin na rzecz integracji sztucznej inteligencji ze zdolnościami wojskowymi.

Analiza z lutego przeprowadzona przez Centre for Security and Emerging Technology zbadała chińskojęzyczne zapytania ofertowe wydane przez People's Liberation Army między styczniem 2023 a grudniem 2024.

Analiza wykazała, że PLA dążyła do zdolności opartych na AI w obszarach obejmujących systemy wspomagania decyzji, ulepszanie sensorów i fuzję danych.

Badacze zauważyli także duże zainteresowanie technologiami zaprojektowanymi do przeciwdziałania postrzeganym przewagom wojskowym USA, w tym systemami zdolnymi do wykrywania amerykańskich jednostek morskich nad i pod powierzchnią wody oraz technologiami mającymi na celu neutralizację amerykańskich systemów kosmicznych.

Jeśli zaawansowane możliwości AI można pozyskać poprzez nieautoryzowaną destylację zamiast rozwijać je samodzielnie, zdaniem urzędników amerykańskich technologia mogłaby szybciej trafić do zastosowań wojskowych i wywiadowczych.

Chiny odrzucają oskarżenia

Pekin odrzucił amerykańskie zarzuty, że chińskie firmy AI nieprawidłowo destylują amerykańskie modele frontier.

Rzeczniczka chińskiego ministerstwa spraw zagranicznych Mao Ning w środę wezwała Waszyngton, by nie formułował, jak to określiła, bezpodstawnych zarzutów wobec Chin.

„Mamy nadzieję, że strona amerykańska będzie sumiennie wdrażać istotne porozumienie osiągnięte przez głowy państw obu krajów i powstrzyma się od formułowania bezpodstawnych oskarżeń oraz oczerniania Chin” — powiedziała Mao na codziennej konferencji prasowej w Pekinie.

„Zarówno Chiny, jak i USA są krajami o dużym znaczeniu w dziedzinie sztucznej inteligencji i powinny wzmocnić współpracę” — dodała.

W lipcu chińskie oświadczenie rządowe podobnie odrzuciło twierdzenia, że chińskie firmy AI polegają na destylacji, by odtwarzać możliwości amerykańskich modeli AI.

W oświadczeniu argumentowano, że chińskie modele niezależnie osiągnęły światowej klasy możliwości i oskarżono Waszyngton o stosowanie podwójnych standardów, ponieważ amerykańskie firmy również używają destylacji w badaniach i rozwoju.

„Wiele amerykańskich firm AI destylowało z chińskich modeli na potrzeby własnych prac badawczo-rozwojowych i treningu” — brzmi oświadczenie, które dodało, że amerykańskie firmy sprzeciwiały się ograniczeniom dostępu do chińskich modeli open-source.

Jak USA reagują

Waszyngton już zaczął rozważać środki przeciwdziałające temu, co postrzega jako kradzież modeli AI na skalę przemysłową.

W kwietniu White House Office of Science and Technology Policy wydał memorandum, w którym stwierdzono, że administracja Trumpa będzie dzielić się wywiadem z amerykańskimi firmami AI na temat prób podmiotów zagranicznych prowadzących nieautoryzowaną, przemysłową destylację.

Administracja dodała również, że pomoże sektorowi prywatnemu w koordynowaniu reakcji, będzie współpracować z branżą nad opracowaniem metod identyfikacji i łagodzenia takich działań oraz rozważy środki pociągające podmioty zagraniczne do odpowiedzialności.

Amerykańscy ustawodawcy również dążą do uchwalenia przepisów.

Komisja Spraw Zagranicznych Izby Reprezentantów zatwierdziła w kwietniu ustawę Deterring American AI Model Theft Act, mającą na celu rozwiązanie problemów związanych z nieautoryzowanym kopiowaniem amerykańskich modeli AI.

Najnowsze ostrzeżenie bezpieczeństwa może dodać impetu tym działaniom.

Agencje zaleciły amerykańskim deweloperom AI podjęcie „natychmiastowych działań”, w tym zmiany odpowiedzi na podejrzane złośliwe próby destylacji oraz dzielenie się wywiadem o takich kampaniach z innymi firmami AI.

Dlaczego odróżnienie ma znaczenie

Debata na temat destylacji odzwierciedla w gruncie rzeczy szersze pytanie o to, jak możliwości AI powinny być rozwijane i udostępniane.

Jako technologia destylacja nie jest ani nowa, ani z natury nielegalna. To powszechnie stosowana metoda zmniejszania, obniżania kosztów i zwiększania użyteczności potężnych systemów AI.

Spór dotyczy raczej dostępu, autoryzacji i tego, co się dzieje, gdy konkurent wykorzystuje wyjścia z zastrzeżonego modelu do odtworzenia możliwości, których opracowanie dla innej firmy zajęło lata i kosztowało miliardy dolarów.

To rozróżnienie prawdopodobnie stanie się coraz ważniejsze w miarę jak modele AI będą coraz bardziej zaawansowane, a ich wartość komercyjna i wojskowa wzrośnie.

Dla amerykańskich firm AI wyzwanie nie polega już wyłącznie na tworzeniu lepszych modeli. Muszą one także chronić te modele przed wykorzystaniem jako taniego źródła danych treningowych przez konkurentów.

Dla decydentów z kolei pytanie brzmi, jak zapobiegać nieautoryzowanemu pozyskiwaniu możliwości AI, nie ograniczając jednocześnie legalnych badań, rozwoju open-source i normalnego stosowania destylacji w całej branży.

Najnowsze amerykańskie oskarżenia wobec sześciu chińskich firm sugerują, że walka o przywództwo w AI wykracza poza chipy i moc obliczeniową.

Coraz częściej same wyjścia generowane przez modele AI stają się zasobem strategicznym.