Zuckerberg vill ha mer AI med öppen källkod: så skiljer sig stängda modeller från öppna

Metas verkställande chef Mark Zuckerberg har återupptagit sin strävan efter färre regleringshinder för AI med öppen källkod, och hävdar att USA behöver ett mer öppet AI-ekosystem för att effektivt kunna konkurrera med snabbt agerande kinesiska rivaler.

Uttalandet kom när Meta lanserade Muse Glimmer, en ny modell med öppna vikter avsedd att köras direkt på konsumentenheter istället för på dyr molninfrastruktur.

Zuckerberg antydde också att Meta avser att släppa fler modeller under de kommande månaderna, vilket förstärker bolagets strategi att göra AI mer tillgängligt.

Lanseringen kommer i ett läge då Meta försöker återfå momentum i AI-loppet efter att ha samlat ett dedikerat superintelligens-team förra året, samtidigt som företag i allt större utsträckning söker billigare AI-alternativ i spåren av snabbt stigande beräkningskostnader.

Samtidigt har diskussionen belyst en viktig distinktion som ofta missförstås — skillnaden mellan stängda AI-modeller, modeller med öppna vikter och fullt öppna AI-system med öppen källkod.

Silicon Valley har länge varit splittrat i frågan om hur avancerad AI bör utvecklas.

Vissa företag menar att kraftfulla AI-modeller bör förbli stängda av säkerhetsskäl, medan andra anser att öppenhet är avgörande för innovation och konkurrens.

För att förstå den debatten krävs att man först undersöker vad stängda modeller är, därefter modeller med öppna vikter, och slutligen vad som utgör verklig AI med öppen källkod.

What are closed models?

AI-modeller lär sig genom att identifiera mönster i enorma mängder digital information.

När de tränas på böcker, nyhetsartiklar, webbplatser och andra onlinedokument omvandlar de dessa mönster till miljarder numeriska värden kända som "vikter."

Dessa vikter avgör i slutändan hur en AI-modell resonerar, svarar på prompts och genererar innehåll.

De AI-system som de flesta konsumenter interagerar med idag — OpenAI:s ChatGPT, Anthropic:s Claude och Googles Gemini — är exempel på stängda modeller.

Även om användare kan komma åt dessa system via webbplatser eller application programming interfaces (API:er), släpper inte företagen bakom dem de underliggande vikterna som driver modellerna.

Det innebär att utvecklare inte kan ladda ner dem, installera dem på sina egna datorer, granska hur de fungerar internt eller anpassa dem för specifika användningsområden.

Anthropic och OpenAI har hävdat att avancerade AI-system bör förbli strikt kontrollerade eftersom alltmer kapabla modeller utgör betydande säkerhetsrisker och bör utvecklas i noggrant kontrollerade miljöer.

Meta, Nvidia, Microsoft och Google har generellt tagit en mer öppen hållning, och menar att bredare tillgång främjar innovation och ger utvecklare möjlighet att bygga nya företag kring AI-teknik.

Ändå varnar forskare för att stängda modeller skapar egna risker.

Enligt Stanford Universitys Institute for Human-Centered AI är stängda modeller inte nödvändigtvis mindre säkra än öppna alternativ, men de koncentrerar enorm makt till ett fåtal företag.

När avancerade AI-funktioner levereras via API:er bestämmer dessa företag vem som får tillgång, vad det kostar och vilka värderingar som blir inbakade i tekniken som i allt större utsträckning påverkar hur människor arbetar, kommunicerar och skapar.

What are open-weight models?

Modeller med öppna vikter intar en mellanställning mellan helt stängda system och fullständigt öppen källkods-AI.

När utvecklare beskriver en AI-modell som en modell med öppna vikter menar de att modellens tränade vikter har gjorts offentliga.

Det gör det möjligt för externa utvecklare att ladda ner modellen, köra den lokalt och finjustera den för specifika ändamål, såsom sjukvård, cybersäkerhet eller mjukvaruutveckling.

Om vikterna förblir privata måste användare interagera med AI:n exakt som dess skapare avsett.

Men modeller med öppna vikter avslöjar inte allt.

Företag släpper vanligtvis endast de tränade parametrarna samtidigt som de håller tillbaka den ursprungliga träningskoden, datamängderna, detaljer om modellarkitekturen och mycket av den metodik som användes för att bygga systemet.

Som en följd får användarna flexibilitet utan fullständig transparens.

Modeller med öppna vikter tenderar också att vara avsevärt billigare än avancerade AI-system som erbjuds av företag som OpenAI och Anthropic eftersom de ofta kan köras lokalt utan dyra molnbaserade beräkningsresurser.

Även om flera amerikanska företag publicerar modeller med öppna vikter kommer många av de mest spridda systemen i nuläget från Kina, inklusive Alibabas Qwen-familj, DeepSeek:s modeller, Moonshot AI:s Kimi-serie och Zhipu AI:s GLM-serie.

Deras popularitet har vuxit snabbt i takt med att företag söker lägre driftkostnader för AI samtidigt som de behåller större kontroll över driftsättning.

Now, what are open-source models?

Zuckerbergs upprepade uppmaningar om AI med öppen källkod har också återuppväckt debatten om huruvida dagens så kallade "öppna" AI-modeller verkligen är öppen källkod.

Det finns en viktig skillnad mellan att släppa en AI-modell med öppna vikter och att göra den fullt öppen källkod.

Öppna vikter innebär att man publicerar endast de förtränade parametrar som avgör hur neuronnätverket beter sig.

Det gör det möjligt för utvecklare att köra inferens och finjustera modellen för efterföljande tillämpningar.

Väsentliga delar förblir dock otillgängliga, inklusive träningskoden, de ursprungliga datamängderna, modellarkitekturen och processen som användes för att träna modellen.

Att släppa AI på detta sätt breddar tillgången men begränsar transparens, reproducerbarhet och oberoende verifiering.

Utvecklare som använder modeller med öppna vikter måste slutligen lita på de bedömningar och representationer som de ursprungliga skaparna lärt sig utan att kunna återskapa dem eller genomföra en fullständig granskning.

En verkligt öppen källkods-AI-modell går mycket längre.

Den inkluderar allt som krävs för att reproducera modellen från grunden — källkod, arkitektur, träningsmetodik, hyperparametrar, datamängder och stödjande dokumentation.

Denna nivå av öppenhet gör det möjligt för forskare att inte bara köra modellen utan också granska den, förbättra den och bygga helt nya system på samma grund.

"Det finns ett stort gap mellan AI med öppna vikter och AI med öppen källkod," sade James Landay, Denning-direktör vid Stanford Institute for Human-Centered AI.

"Öppna vikter svarar på 'Kan jag köra det?' Öppen källkod svarar på 'Kan jag lita på det, förbättra det och bygga nästa sak ovanpå det?' Just nu svarar nästan alla – både amerikanska och kinesiska laboratorier – på den första frågan men är långt ifrån den andra."

Meta's push for open-source models

Parallellt med modellsläppet publicerade Zuckerberg en 14-sidig essä där han skisserade sin vision för artificiell intelligensens framtid.

I dokumentet, med titeln Framtiden är för alla, hävdade han att AI bör ses som ett verktyg för bred samhällelig nytta snarare än som en teknik som måste vara strikt begränsad.

Han betonade också att USA måste behålla sitt ledarskap över Kina i det globala AI-racet.

Utan att namnge konkurrenter som Anthropic och OpenAI kritiserade Zuckerberg angreppssätt som förespråkar striktare kontroll över avancerade AI-system.

Han menade att en koncentration av tekniken i händerna på ett fåtal företag i sig kan skapa risker.

"Istället för att centralisera superintelligens bör vi distribuera den," skrev Zuckerberg, 42, i essän. "Detta har potential att inleda en ny era av personlig egenmakt."

Företaget var ett av de tidigaste stora AI-utvecklarna som offentligt släppte en stor språkmodell, LLaMA, i februari 2023. Meta publicerade både den inferenskod som krävs för att köra modellen och de vikter som lärts under träningen.

Organisationer som Open Source Initiative har dock hävdat att LLaMA:s licensbegränsningar — särskilt de som styr kommersiell återanvändning — hindrar den från att uppfylla den vedertagna definitionen av verklig öppen källkodsmjukvara.

Istället klassificerar många experter den som en modell med öppna vikter.

Ändå anser många utvecklare att verklig AI med öppen källkod bör omfatta inte bara kod och vikter utan också de datamängder som användes under träningen, vilket skulle möjliggöra fullständig transparens i hur dessa allt mer inflytelserika system byggs.