Zuckerberg vil have mere open-source-AI: forskellen mellem lukkede og åbne modeller

Metas administrerende direktør Mark Zuckerberg har genoplivet sin indsats for færre reguleringsmæssige barrierer omkring open-source-AI og argumenterer for, at USA har brug for et mere åbent AI-økosystem for effektivt at kunne konkurrere med hurtigt agerende kinesiske rivaler.

Udtalelserne kom, da Meta afslørede Muse Glimmer, en ny open-weight AI-model designet til at køre direkte på forbrugerenheder i stedet for på dyr cloud-infrastruktur.

Zuckerberg tilkendegav også, at Meta agter at frigive flere modeller i de kommende måneder, hvilket understreger virksomhedens strategi om at gøre AI mere bredt tilgængelig.

Lanceringen sker i en periode, hvor Meta forsøger at genvinde momentum i AI-løbet efter sidste års opbygning af et dedikeret superintelligens-hold, samtidig med at virksomheder i stigende grad søger billigere AI-alternativer på grund af de stigende omkostninger til beregning.

Samtidig har diskussionen fremhævet en vigtig sondring, som ofte misforstås — forskellen mellem lukkede AI-modeller, open-weight-modeller og fuldt open-source AI-systemer.

Silicon Valley har længe været delt om, hvordan avanceret AI bør udvikles.

Nogle virksomheder mener, at kraftfulde AI-modeller bør forblive lukkede af hensyn til sikkerheden, mens andre mener, at åbenhed er afgørende for innovation og konkurrence.

For at forstå den debat skal man først se på, hvad lukkede modeller er, derefter open-weight-modeller, før man til sidst ser på, hvad der udgør ægte open-source AI.

Hvad er lukkede modeller?

Kunstige intelligensmodeller lærer ved at identificere mønstre i enorme mængder digital information.

Mens de træner på bøger, nyhedsartikler, websites og andre online-dokumenter, omsætter de disse mønstre til milliarder af numeriske værdier kendt som "weights".

Disse weights bestemmer i sidste ende, hvordan en AI-model resonerer, svarer på forespørgsler og genererer indhold.

De AI-systemer, de fleste forbrugere interagerer med i dag — OpenAI's ChatGPT, Anthropic's Claude og Google's Gemini — er eksempler på lukkede modeller.

Mens brugere kan få adgang til disse systemer via websites eller application programming interfaces (API'er), frigiver virksomhederne bag dem ikke de underliggende weights, der driver modellerne.

Det betyder, at udviklere ikke kan downloade dem, installere dem på deres egne computere, inspicere, hvordan de fungerer internt, eller skræddersy dem til specifikke anvendelser.

Anthropic og OpenAI har argumenteret for, at frontlinje-AI-systemer bør forblive stramt kontrollerede, fordi stadig mere kapable modeller udgør betydelige sikkerhedsrisici og bør udvikles i nøje styrede miljøer.

Meta, Nvidia, Microsoft og Google har generelt indtaget en mere åben holdning og hævder, at bredere adgang fremmer innovation og giver udviklere mulighed for at bygge nye forretningsmodeller omkring AI-teknologi.

Selv så advarer forskere om, at lukkede modeller skaber deres egne risici.

Ifølge Stanford Universitys Institute for Human-Centered AI er lukkede modeller ikke nødvendigvis mindre sikre end åbne alternativer, men de koncentrerer enorm magt i hænderne på et håndfuld virksomheder.

Når frontlinje-AI-funktioner leveres via API'er, er det disse virksomheder, der bestemmer, hvem der får adgang, hvad det koster, og hvilke værdier der bliver indlejret i teknologier, som i stigende grad former, hvordan folk arbejder, kommunikerer og skaber.

Hvad er open-weight-modeller?

Open-weight-modeller befinder sig i midten mellem fuldt lukkede systemer og fuldstændigt open-source AI.

Når udviklere beskriver en AI-model som open-weight, betyder det, at modellens trænede weights er gjort offentligt tilgængelige.

Det gør det muligt for eksterne udviklere at downloade modellen, køre den lokalt og finjustere den til specifikke formål, såsom sundhedspleje, cybersikkerhed eller softwareudvikling.

Hvis weights forbliver private, må brugerne interagere med AI'en præcis som skaberne har tiltænkt.

Open-weight-modeller afslører dog ikke alt.

Virksomheder frigiver typisk kun de trænede parametre, mens de tilbageholder den oprindelige træningskode, datasæt, detaljer om modelarkitektur og meget af metodologien brugt til at bygge systemet.

Som følge heraf får brugerne større fleksibilitet uden fuldstændig gennemsigtighed.

Open-weight-modeller er også ofte betydeligt billigere end frontlinje-AI-systemer fra virksomheder som OpenAI og Anthropic, fordi de ofte kan køre lokalt uden dyre cloud-computing-ressourcer.

Selvom flere amerikanske virksomheder offentliggør open-weight-modeller, kommer mange af de mest udbredte systemer i øjeblikket fra Kina, herunder Alibabas Qwen-familie, DeepSeek's modeller, Moonshot AI's Kimi-serie og Zhipu AI's GLM-serie.

Deres popularitet er vokset hurtigt, efterhånden som virksomheder søger lavere driftsomkostninger til AI, samtidig med at de bevarer større kontrol over implementeringen.

Hvad er så open-source-modeller?

Zuckerbergs gentagne opfordringer til open-source-AI har også genoplivet debatten om, hvorvidt nutidens såkaldte "åbne" AI-modeller faktisk er open source.

Der er en vigtig forskel mellem at frigive en AI-model med åbne weights og at frigive den som fuldt open source.

Open weights indebærer udelukkende publicering af de fortrænede parametre, der bestemmer, hvordan det neurale netværk opfører sig.

Det gør det muligt for udviklere at udføre inference og finjustere modellen til downstream-anvendelser.

Vigtige elementer forbliver dog utilgængelige, herunder træningskoden, de oprindelige datasæt, modelarkitekturen og den proces, der blev brugt til at træne modellen.

At frigive AI på denne måde udvider adgangen, men begrænser gennemsigtighed, reproducerbarhed og mulighed for uafhængig verifikation.

Udviklere, der bruger open-weight-modeller, må i sidste ende have tillid til de vurderinger og repræsentationer, som de oprindelige skabere har indlejret, uden at kunne genskabe eller fuldt revidere dem.

En ægte open-source AI-model går meget længere.

Den inkluderer alt, der er nødvendigt for at reproducere modellen fra bunden — kildekode, arkitektur, træningsmetodologi, hyperparametre, datasæt og understøttende dokumentation.

Det niveau af åbenhed gør det muligt for forskere ikke kun at køre modellen, men også at inspicere den, forbedre den og bygge helt nye systemer på samme fundament.

"Der er et stort gab mellem open-weight AI og open source AI," sagde James Landay, Denning-direktør ved Stanford Institute for Human-Centered AI.

"Open weights svarer på 'Kan jeg køre dette?' Open source svarer på 'Kan jeg stole på dette, forbedre det og bygge det næste oven på det?' Lige nu svarer næsten alle – både amerikanske og kinesiske laboratorier – på det første spørgsmål, men på langt nær på det andet."

Metas pres for open-source-modeller

Sideløbende med modellanceringen publicerede Zuckerberg et 14-siders essay, hvor han skitserede sin vision for AI's fremtid.

I dokumentet, med titlen The Future is for Everyone, argumenterede han for, at AI bør betragtes som et værktøj til bred samfundsmæssig gavn frem for som en teknologi, der skal være stramt begrænset.

Han understregede også, at USA må bevare sin førerposition over Kina i det globale AI-løb.

Uden at nævne konkurrenter som Anthropic og OpenAI kritiserede Zuckerberg tilgange, der går ind for strengere kontrol med avancerede AI-systemer.

Han argumenterede for, at koncentration af teknologien i hænderne på et fåtal af virksomheder i sig selv kunne skabe risici.

”I stedet for at centralisere superintelligens bør vi distribuere den,” skrev Zuckerberg, 42, i essayet. ”Det har potentiale til at indlede en ny æra af personlig styrkelse.”

Virksomheden var blandt de tidligste større AI-udviklere til offentligt at frigive en stor sprogmodel, LLaMA, i februar 2023. Meta offentliggjorde både den inference-kode, der er nødvendig for at køre modellen, og de weights, der blev lært under træningen.

Organisationer som Open Source Initiative har dog argumenteret for, at LLaMAs licensbegrænsninger — særligt dem, der regulerer kommerciel genbrug — forhindrer, at den opfylder den accepterede definition af ægte open-source-software.

I stedet klassificerer mange eksperter den som en open-weight-model.

Alligevel mener mange udviklere, at ægte open-source-AI bør omfatte ikke blot kode og weights, men også de datasæt, der blev brugt under træningen, så der er fuld gennemsigtighed i, hvordan disse i stigende grad indflydelsesrige systemer er bygget.