Zuckerberg pro otevřenější AI: jak se liší uzavřené modely a modely s otevřenými vahami

Generální ředitel Meta Mark Zuckerberg znovu prosazuje snížení regulačních překážek pro open-source umělou inteligenci a tvrdí, že Spojené státy potřebují otevřenější AI ekosystém, aby mohly účinně konkurovat rychle postupujícím čínským rivalům.

Komentáře padly ve chvíli, kdy Meta představila Muse Glimmer, nový model s otevřenými vahami navržený tak, aby běžel přímo na spotřebitelských zařízeních místo na nákladné cloudové infrastruktuře.

Zuckerberg také naznačil, že Meta hodlá v následujících měsících vydat další modely, čímž posílí svou strategii širší dostupnosti AI.

Uvedení přichází v době, kdy se Meta snaží znovu nabrat tempo v závodě o AI poté, co loni sestavila tým pro superinteligenci, zatímco podniky stále častěji hledají levnější alternativy AI kvůli rostoucím nákladům na výpočetní výkon.

Současně debata zvýraznila důležitý rozdíl, který se často špatně chápe — rozdíl mezi uzavřenými AI modely, modely s otevřenými vahami a plně open-source AI systémy.

Silicon Valley je dlouhodobě rozdělené v názorech na to, jak by se měla vyspělá AI vyvíjet.

Některé společnosti argumentují, že výkonné AI modely by měly zůstat uzavřené kvůli bezpečnostním obavám, zatímco jiné považují otevřenost za nezbytnou pro inovace a konkurenci.

Abychom tomu porozuměli, musíme nejprve prozkoumat, co jsou uzavřené modely, pak modely s otevřenými vahami, a nakonec co tvoří skutečně open-source AI.

Co jsou uzavřené modely?

Modely umělé inteligence se učí rozpoznáváním vzorů v obrovském množství digitálních dat.

Při tréninku na knihách, novinových článcích, webových stránkách a jiných online dokumentech převádějí tyto vzory do miliard číselných hodnot nazývaných "váhy".

Tyto váhy nakonec určují, jak model AI uvažuje, reaguje na podněty a generuje obsah.

AI systémy, se kterými většina uživatelů dnes interaguje — ChatGPT od OpenAI, Claude od Anthropic a Gemini od Google — jsou příklady uzavřených modelů.

Uživatelé sice mohou tyto systémy využívat prostřednictvím webových stránek nebo aplikačních programovacích rozhraní (API), ale společnosti za nimi nezveřejňují základní váhy, které modely pohánějí.

To znamená, že vývojáři si je nemohou stáhnout, nainstalovat na své vlastní počítače, nahlédnout, jak fungují interně, ani je přizpůsobit pro konkrétní aplikace.

Anthropic a OpenAI tvrdí, že pokročilé AI systémy by měly zůstat přísně kontrolované, protože stále schopnější modely představují významná bezpečnostní rizika a měly by se vyvíjet v pečlivě řízeném prostředí.

Meta, Nvidia, Microsoft a Google obecně zaujaly otevřenější postoj a argumentují, že širší přístup podporuje inovace a umožňuje vývojářům stavět kolem AI nové podniky.

I tak ale výzkumníci varují, že uzavřené modely vytvářejí vlastní rizika.

Podle Stanfordského institutu pro lidsky orientovanou AI nejsou uzavřené modely nutně méně bezpečné než otevřené alternativy, ale soustřeďují obrovskou moc v rukou několika málo společností.

Když jsou pokročilé AI schopnosti poskytovány přes API, tyto společnosti rozhodují, kdo získá přístup, kolik to stojí a jaké hodnoty se v technologii, která stále více formuje způsob, jak lidé pracují, komunikují a tvoří, promítnou.

Co jsou modely s otevřenými vahami?

Modely s otevřenými vahami zaujímají střední pozici mezi plně uzavřenými systémy a kompletně open-source AI.

Když vývojáři označují AI model jako "open-weight", mají na mysli, že trénované váhy modelu byly zveřejněny.

To umožňuje externím vývojářům model stáhnout, spustit lokálně a doladit pro konkrétní účely, jako je zdravotnictví, kybernetická bezpečnost nebo vývoj softwaru.

Pokud váhy zůstanou soukromé, uživatelé musí s AI pracovat přesně tak, jak to určili její tvůrci.

Open-weight modely ale neprozrazují vše.

Firmy obvykle zveřejní pouze natrénované parametry a zadržují původní tréninkový kód, datové sady, podrobnosti architektury modelu a velkou část metodiky použité při budování systému.

Výsledkem je, že uživatelé získávají flexibilitu bez úplné transparentnosti.

Modely s otevřenými vahami jsou také zpravidla podstatně levnější než pokročilé AI systémy nabízené firmami jako OpenAI a Anthropic, protože je často lze spouštět lokálně bez nákladných cloudových výpočetních zdrojů.

Ačkoli několik amerických společností publikuje modely s otevřenými vahami, mnoho z nejrozšířenějších systémů v současnosti pochází z Číny, včetně rodiny Qwen od Alibaba, modelů DeepSeek, řady Kimi od Moonshot AI a série GLM od Zhipu AI.

Jejich popularita rychle rostla, protože firmy hledají nižší provozní náklady AI a zároveň větší kontrolu nad nasazením.

A co jsou open-source modely?

Zuckerbergovy opakované výzvy k open-source AI znovu oživily debatu o tom, zda jsou dnešní takzvané „otevřené" AI modely skutečně open-source.

Existuje důležitý rozdíl mezi zveřejněním AI modelu s otevřenými vahami a jeho vydáním jako plně open-source.

Open weights znamená publikování pouze natrénovaných parametrů, které určují chování neuronové sítě.

To umožňuje vývojářům provádět inference a doladit model pro následné aplikace.

Nicméně zásadní prvky zůstávají nedostupné, včetně tréninkového kódu, původních datových sad, architektury modelu a procesu použitého k natrénování modelu.

Takové zveřejnění rozšiřuje přístup, ale omezuje transparentnost, reprodukovatelnost a nezávislé ověření.

Vývojáři používající modely s otevřenými vahami se nakonec musí spolehnout na rozhodnutí a reprezentace, které se naučili původní tvůrci, aniž by je mohli znovu vytvořit nebo plně auditovat.

Skutečně open-source AI model jde mnohem dál.

Obsahuje vše potřebné k reprodukci modelu od nuly — zdrojový kód, architekturu, metodiku tréninku, hyperparametry, datové sady a podpornou dokumentaci.

Taková míra otevřenosti umožňuje výzkumníkům nejen model spouštět, ale také ho prohlédnout, vylepšit a vybudovat z jeho základu zcela nové systémy.

„Mezi open-weight AI a open-source AI je velká propast,“ řekl ředitel Denning ze Stanford Institute for Human-Centered AI James Landay.

„Open weights odpovídají na ‚Mohu to spustit?‘ Open source odpovídá na ‚Mohu tomu důvěřovat, vylepšit to a postavit na tom další věc?‘ Právě teď téměř všichni – americká i čínská pracoviště – odpovídají na tu první otázku, ale druhé jsou daleko od vyřešení.“

Meta usiluje o open-source modely

Společně s vydáním modelu Zuckerberg zveřejnil 14stránkovou esej vymezující jeho vizi budoucnosti umělé inteligence.

V dokumentu s názvem The Future is for Everyone tvrdil, že AI by měla být vnímána jako nástroj pro široký společenský prospěch, nikoli jako technologie, kterou je třeba přísně omezovat.

Také zdůraznil, že Spojené státy musí udržet své vedení před Čínou v globálním závodě o AI.

Aniž by jmenoval konkurenty jako Anthropic či OpenAI, Zuckerberg kritizoval přístupy volající po přísnějších kontrolách pokročilých AI systémů.

Argumentoval, že koncentrace technologie v rukou několika málo společností by sama mohla vytvářet rizika.

„Místo centralizace superinteligence bychom ji měli rozdělovat,“ napsal v eseji Zuckerberg (42). „To má potenciál zahájit novou éru osobního posílení.“

Společnost patřila mezi první velké vývojáře AI, kteří veřejně uvolnili velký jazykový model LLaMA v únoru 2023. Meta zveřejnila jak inference kód potřebný ke spuštění modelu, tak váhy získané během tréninku.

Organizace jako Open Source Initiative nicméně tvrdí, že licenční omezení LLaMA — zejména pravidla týkající se komerčního opětovného použití — brání tomu, aby splňovala uznávanou definici skutečného open-source softwaru.

Mnoho odborníků ji proto klasifikuje jako model s otevřenými vahami.

Přesto mnoho vývojářů věří, že skutečně open-source AI by měla zahrnovat nejen kód a váhy, ale také datové sady použité při tréninku, což by umožnilo úplnou transparentnost ohledně toho, jak jsou tyto stále vlivnější systémy budovány.