Invezz Menjelaskan: apa itu penyulingan AI dan mengapa AS menuduh syarikat China?

Agensi keselamatan AS menuduh enam syarikat kecerdasan buatan China secara sistematik menggunakan model AI Amerika untuk melatih sistem mereka sendiri, menarik perhatian semula kepada satu proses teknikal yang dikenali sebagai penyulingan model.

The National Security Agency, Federal Bureau of Investigation and Cybersecurity and Infrastructure Security Agency said on Tuesday that DeepSeek, Moonshot, Alibaba Group Holding, MiniMax, StepFun and Z.AI had engaged in what they described as “aggressive, malicious, and targeted distillation activities at an industrial scale that extract restricted proprietary functionalities and capabilities of US frontier AI models."

Agensi-agensi itu berkata syarikat-syarikat berkenaan telah menggunakan penyulingan sejak sekurang-kurangnya 2024 untuk mengakses maklumat daripada model AI AS dan menggunakannya bagi membangunkan sistem mereka sendiri.

Apa itu penyulingan model AI?

Penyulingan ialah teknik yang digunakan untuk memindahkan sebahagian keupayaan model AI besar dan canggih ke dalam model yang lebih kecil atau lebih khusus.

Sistem yang lebih besar biasanya dikenali sebagai model pengajar, manakala sistem yang lebih kecil dipanggil model pelajar.

Daripada membina model kecil itu sepenuhnya dari awal, pembangun melatihnya menggunakan maklumat yang dijana oleh pengajar.

Pendekatan ini diformalkan oleh Geoffrey Hinton dan rakan penulisnya di Google pada 2015 sebagai satu cara memampatkan tingkah laku model besar ke dalam model yang lebih kecil menggunakan output yang dihasilkan oleh sistem yang lebih besar.

Dalam praktik, pembangun boleh meminta model AI berkuasa untuk menjawab sejumlah besar permintaan dan kemudian menggunakan jawapan tersebut sebagai bahan latihan untuk model lain.

Model pelajar mempelajari corak dalam respons pengajar dan akhirnya boleh menghasilkan semula sebahagian keupayaannya tanpa memerlukan skala sumber pengkomputeran yang sama.

Hasilnya boleh menjadi sistem AI yang jauh lebih murah dan mudah dioperasikan sambil mengekalkan sebahagian besar prestasi model yang lebih besar.

Itu menjadikan penyulingan sebagai bahagian penting usaha industri AI untuk menjadikan model yang semakin berkeupayaan lebih cekap.

Penyulingan mempunyai aplikasi yang sah dalam seluruh industri AI.

Syarikat frontier AI boleh menggunakan teknik ini untuk mencipta versi lebih kecil model mereka sendiri yang lebih murah untuk dijalankan, lebih pantas memberi respons dan lebih sesuai untuk aplikasi tertentu.

Bila penyulingan menjadi kontroversi?

Penyulingan menjadi dipertikaikan apabila sebuah syarikat cuba menghasilkan semula keupayaan model proprietari syarikat lain tanpa kebenaran.

Seorang pesaing berpotensi boleh menggunakan beribu-ribu atau berjuta-juta interaksi dengan model frontier untuk menjana data latihan bagi sistemnya sendiri.

Daripada menghabiskan tahun dan jumlah wang yang besar untuk membangunkan keupayaan serupa secara bebas, ia boleh menggunakan respons model sedia ada sebagai jalan pintas.

Agensi keselamatan AS berkata syarikat China telah menggunakan pelbagai laluan untuk memperoleh akses tanpa kebenaran ke sistem AI Amerika.

"Syarikat AI berpangkalan di China mengalihkan permintaan penyulingan melalui pelbagai laluan untuk mendapatkan akses tanpa kebenaran, sekaligus melanggar terma penggunaan syarikat AI AS," kata mereka dalam notis itu.

OpenAI dan Anthropic secara berasingan menuduh syarikat AI China cuba mengekstrak keupayaan daripada model mereka.

Anthropic berkata pada Februari bahawa ia telah mendedahkan kempen yang melibatkan DeepSeek, Moonshot AI dan MiniMax yang cuba mengekstrak keupayaan daripada chatbot Claude miliknya.

Menurut Anthropic, kempen itu melibatkan kira-kira 16 juta pertukaran dengan Claude dan 24,000 akaun palsu, dengan MiniMax sahaja menyumbang lebih daripada 13 juta pertukaran.

OpenAI membuat tuduhan serupa pada Januari.

Tuduhan-tuduhan itu telah menjadikan penyulingan sebagai titik fokus dalam perdebatan yang lebih luas mengenai harta intelek dan persaingan dalam industri AI.

Isu itu menjadi amat menonjol susulan kemunculan DeepSeek, yang model AI kos rendahnya yang dikeluarkan tahun lalu menunjukkan keupayaan yang nampak bersaing dengan sistem terkemuka AS.

Perkembangan itu mencabar andaian bahawa AS mempunyai kelebihan yang tidak tergugat dalam frontier AI dan menimbulkan persoalan bagaimana syarikat China mencapai prestasi yang setanding dengan struktur kos yang sangat berbeza.

Pukar Hamal, pengasas firma keselamatan AI SecurityPal, sebelum ini membandingkan amalan itu dengan seorang pelajar menyalin kerja pelajar lain.

"Ia hampir seperti seseorang yang menghadiri kuliah, membaca buku teks, dan melakukan semua kerja susah bagi menyiapkan kerja rumah," kata Hamal dalam laporan CNBC sebelum ini.

"Kemudian ada pelajar lain yang seperti, 'Hei, saya tidak buat itu. Boleh saya salin kerja awak saja?'"

Mengapa Washington melihat ia sebagai risiko keselamatan negara

Nasihat keselamatan AS terkini melangkaui kebimbangan mengenai persaingan komersial.

Agensi-agensi itu berkata penyulingan skala industri boleh mengurangkan kos penyelidikan dan pembangunan bagi syarikat AI China sambil meningkatkan "keupayaan ketenteraan dan serangan siber China yang boleh digunakan terhadap AS dan sekutu kami."

Laporan Reuters pada 31 Julai berkata penyelidik ketenteraan China telah menggunakan output daripada model AI AS terkemuka untuk melatih sistem domestik dan memajukan keupayaan pertahanan.

Anthropic juga berhujah bahawa penyulingan secara tidak sah boleh mewujudkan masalah keselamatan kerana perlindungan keselamatan yang dibina dalam model frontier Amerika mungkin tidak dipindahkan ke sistem hasilnya.

"Model yang disuling secara tidak sah kekurangan langkah keselamatan yang diperlukan, mewujudkan risiko keselamatan negara yang ketara," kata Anthropic dalam nota Februari.

Syarikat AI AS membina langkah keselamatan yang bertujuan untuk menghalang model mereka daripada membantu aktiviti seperti membangunkan senjata biologi atau menjalankan operasi siber berniat jahat.

Anthropic memberi amaran bahawa model yang dicipta melalui penyulingan tanpa kebenaran mungkin tidak mengekalkan perlindungan tersebut.

Dimensi ketenteraan AI menaikkan taruhannya

Kebimbangan itu juga berkaitan dengan usaha lebih luas China untuk mengintegrasikan kecerdasan buatan ke dalam keupayaan ketenteraan.

Satu analisis Februari oleh Centre for Security and Emerging Technology meneliti permintaan cadangan berbahasa China yang dikeluarkan oleh People's Liberation Army antara Januari 2023 dan Disember 2024.

Analisis itu mendapati bahawa PLA sedang mengejar keupayaan dipacu AI merentasi bidang termasuk sistem sokongan keputusan, peningkatan sensor dan pemfungsian data.

Para penyelidik juga mengenal pasti minat ketara dalam teknologi yang direka untuk menentang kelebihan ketenteraan AS yang dilihat, termasuk sistem yang mampu mengesan aset laut AS di atas dan di bawah laut serta teknologi yang bertujuan menentang sistem berasaskan angkasa AS.

Jika keupayaan AI lanjutan boleh diperoleh melalui penyulingan tanpa kebenaran dan bukannya dibangunkan secara bebas, pegawai AS berhujah, teknologi itu boleh mencapai aplikasi ketenteraan dan perisikan dengan lebih cepat.

China menolak tuduhan itu

Beijing menolak tuduhan AS bahawa syarikat AI China secara tidak wajar menyuling model frontier Amerika.

Jurucakap Kementerian Luar China, Mao Ning, pada Rabu menggesa Washington supaya tidak membuat apa yang beliau panggil tuduhan tidak berasas terhadap China.

"Kami berharap pihak AS akan dengan sungguh-sungguh melaksanakan konsensus penting yang dicapai oleh ketua negara kedua-dua negara dan menahan diri daripada membuat tuduhan tidak berasas serta mencemarkan imej China," kata Mao pada sidang akhbar harian di Beijing.

"Kedua-dua China dan AS adalah negara besar dalam bidang kecerdasan buatan dan mereka perlu mengukuhkan kerjasama," tambahnya.

Pada Julai, satu kenyataan kerajaan China juga menolak dakwaan bahawa syarikat AI China bergantung pada penyulingan untuk menghasilkan semula keupayaan AI AS.

Ia berhujah bahawa model China telah mencapai keupayaan bertaraf dunia secara bebas dan menuduh Washington menggunakan ukuran dua kerana syarikat AS juga menggunakan penyulingan dalam R&D mereka.

"Banyak syarikat AI AS telah menyuling daripada model China untuk R&D dan latihan mereka sendiri," kata kenyataan itu, sambil menambah bahawa syarikat AS menentang sekatan terhadap akses kepada model sumber terbuka China.

Bagaimana AS bertindak balas

Washington telah mula mempertimbangkan langkah untuk menentang apa yang dilihatnya sebagai kecurian model AI pada skala industri.

Pada April, White House Office of Science and Technology Policy mengeluarkan memorandum, yang mengatakan pentadbiran Trump akan berkongsi risikan dengan syarikat AI AS mengenai percubaan oleh pihak asing untuk melakukan penyulingan tanpa kebenaran pada skala industri.

Pentadbiran itu juga berkata ia akan membantu sektor swasta menyelaraskan tindak balas, bekerjasama dengan industri untuk membangunkan kaedah mengenal pasti dan mengurangkan aktiviti sedemikian serta meneroka langkah untuk memegang pelaku asing bertanggungjawab.

Ahli-ahli Parlimen AS juga sedang meneruskan usaha perundangan.

House Foreign Affairs Committee telah memajukan Deterring American AI Model Theft Act pada April, yang bertujuan menangani kebimbangan mengenai penyalinan model AI AS tanpa kebenaran.

Nasihat keselamatan terkini itu boleh menambah momentum kepada usaha-usaha tersebut.

Agensi-agensi menasihati pembangun AI Amerika supaya mengambil "tindakan segera," termasuk menukar respons terhadap cubaan penyulingan berniat jahat yang disyaki dan berkongsi risikan mengenai kempen sedemikian dengan syarikat AI lain.

Mengapa perbezaan itu penting

Perdebatan mengenai penyulingan akhirnya mencerminkan persoalan yang lebih besar tentang bagaimana keupayaan AI patut dibangunkan dan dikongsi.

Sebagai satu teknologi, penyulingan bukanlah sesuatu yang baru atau secara asasnya menyalahi undang-undang. Ia adalah kaedah yang digunakan secara meluas untuk menjadikan sistem AI yang berkuasa lebih kecil, lebih murah dan lebih praktikal.

Pertikaian itu sebaliknya mengenai akses, kebenaran dan apa yang berlaku apabila pesaing menggunakan output model proprietari untuk menghasilkan semula keupayaan yang mengambil syarikat lain bertahun-tahun dan berbilion dolar untuk dibangunkan.

Perbezaan itu dijangka menjadi semakin penting apabila model AI menjadi lebih berkeupayaan dan nilai komersial serta ketenteraannya meningkat.

Bagi syarikat AI AS, cabarannya bukan lagi sekadar membina model yang lebih baik. Mereka juga mesti melindungi model tersebut daripada digunakan sebagai sumber data latihan yang murah oleh pesaing.

Bagi pembuat dasar, persoalannya ialah bagaimana menghalang pengekstrakan keupayaan AI tanpa kebenaran tanpa menghadkan penyelidikan yang sah, pembangunan sumber terbuka dan penggunaan normal penyulingan dalam industri.

Tuduhan AS terkini terhadap enam syarikat China mencadangkan bahawa pertempuran untuk kepimpinan AI bergerak melepasi cip dan kuasa pengkomputeran.

Semakin kerap, output yang dijana oleh model AI itu sendiri menjadi aset strategik.