Zuckerberg wil meer open-source AI: verschil tussen gesloten en open modellen

Meta-topman Mark Zuckerberg heeft zijn pleidooi voor minder regelgevende barrières rond open-source kunstmatige intelligentie hernieuwd. Hij stelt dat de Verenigde Staten een opener AI-ecosysteem nodig hebben om effectief te concurreren met snel bewegende Chinese rivalen.

De opmerkingen kwamen toen Meta Muse Glimmer onthulde, een nieuw AI-model met open gewichten dat is ontworpen om direct op consumentapparaten te draaien in plaats van op dure cloudinfrastructuur.

Zuckerberg gaf ook aan dat Meta van plan is in de komende maanden meer modellen uit te brengen, waarmee de strategie wordt versterkt om AI breder toegankelijk te maken.

De lancering vindt plaats op een moment dat Meta probeert het momentum in de AI-race te herwinnen, nadat het vorig jaar een speciaal team voor superintelligentie had samengesteld, terwijl bedrijven steeds vaker op zoek zijn naar goedkopere AI-alternatieven te midden van sterk stijgende rekenkosten.

Tegelijkertijd heeft de discussie een belangrijk onderscheid onderstreept dat vaak verkeerd wordt begrepen — het verschil tussen gesloten AI-modellen, modellen met open gewichten en volledig open-source AI-systemen.

Silicon Valley is al lange tijd verdeeld over hoe geavanceerde AI ontwikkeld zou moeten worden.

Sommige bedrijven beweren dat krachtige AI-modellen gesloten moeten blijven vanwege veiligheidszorgen, terwijl anderen van mening zijn dat openheid essentieel is voor innovatie en concurrentie.

Om dat debat te begrijpen, is het eerst nodig te onderzoeken wat gesloten modellen zijn, vervolgens wat modellen met open gewichten zijn, en tenslotte wat echte open-source AI inhoudt.

Wat zijn gesloten modellen?

Kunstmatige-intelligentiemodellen leren door patronen te herkennen in enorme hoeveelheden digitale informatie.

Terwijl ze trainen op boeken, nieuwsartikelen, websites en andere online documenten, zetten ze die patronen om in miljarden numerieke waarden die bekendstaan als "gewichten".

Die gewichten bepalen uiteindelijk hoe een AI-model redeneert, reageert op prompts en content genereert.

De AI-systemen waarmee de meeste consumenten vandaag de dag interactie hebben — OpenAI's ChatGPT, Anthropic's Claude en Google's Gemini — zijn voorbeelden van gesloten modellen.

Hoewel gebruikers via websites of application programming interfaces (API's) toegang hebben tot deze systemen, publiceren de bedrijven erachter niet de onderliggende gewichten die de modellen aandrijven.

Dat betekent dat ontwikkelaars ze niet kunnen downloaden, op hun eigen computers kunnen installeren, intern kunnen inspecteren of voor specifieke toepassingen kunnen aanpassen.

Anthropic en OpenAI hebben betoogd dat voorhoede-AI-systemen strikt gecontroleerd moeten blijven omdat steeds krachtigere modellen aanzienlijke veiligheidsrisico's vormen en binnen zorgvuldig beheerde omgevingen moeten worden ontwikkeld.

Meta, Nvidia, Microsoft en Google hebben over het algemeen een meer open houding aangenomen, en beweren dat bredere toegang innovatie stimuleert en ontwikkelaars in staat stelt nieuwe bedrijven rond AI-technologie op te bouwen.

Toch waarschuwen onderzoekers dat gesloten modellen hun eigen risico's creëren.

Volgens het Institute for Human-Centered AI van Stanford University zijn gesloten modellen niet per se veiliger dan open alternatieven, maar concentreren ze enorme macht binnen een handvol bedrijven.

Als voorhoede-AI-mogelijkheden via API's worden geleverd, bepalen die bedrijven wie er toegang krijgt, hoeveel het kost en welke waarden worden ingebed in technologie die steeds meer bepaalt hoe mensen werken, communiceren en creëren.

Wat zijn modellen met open gewichten?

Modellen met open gewichten nemen het midden van de weg in tussen volledig gesloten systemen en volledig open-source AI.

Als ontwikkelaars een AI-model omschrijven als een model met open gewichten, bedoelen ze dat de getrainde gewichten van het model openbaar zijn gemaakt.

Dat stelt externe ontwikkelaars in staat het model te downloaden, lokaal uit te voeren en fijn af te stemmen voor specifieke doeleinden, zoals gezondheidszorg, cyberbeveiliging of softwareontwikkeling.

Als de gewichten privé blijven, moeten gebruikers precies op de manier met de AI omgaan zoals de makers dat hebben bedoeld.

Echter, modellen met open gewichten onthullen niet alles.

Bedrijven geven doorgaans alleen de getrainde parameters vrij en houden de oorspronkelijke trainingscode, datasets, details van de modelarchitectuur en veel van de gebruikte methodologie achterwege.

Als gevolg daarvan krijgen gebruikers meer flexibiliteit, maar geen volledige transparantie.

Modellen met open gewichten zijn ook vaak substantieel goedkoper dan voorhoede-AI-systemen die door bedrijven als OpenAI en Anthropic worden aangeboden, omdat ze vaak lokaal kunnen draaien zonder dure cloudcomputingbronnen.

Hoewel verschillende Amerikaanse bedrijven modellen met open gewichten publiceren, komen veel van de meest gebruikte systemen momenteel uit China, waaronder Alibaba's Qwen-familie, DeepSeek's modellen, Moonshot AI's Kimi-reeks en Zhipu AI's GLM-serie.

Hun populariteit is snel gegroeid nu bedrijven zoeken naar lagere AI-operationele kosten en tegelijkertijd meer controle over de uitrol behouden.

En wat zijn open-source modellen?

Zuckerbergs herhaalde oproepen voor open-source AI hebben ook het debat doen herleven over of de zogenaamde "open" AI-modellen van vandaag eigenlijk open source zijn.

Er is een belangrijk verschil tussen het uitbrengen van een AI-model met open gewichten en het uitbrengen ervan als volledig open source.

Open gewichten houden in dat alleen de voorgetrainde parameters worden gepubliceerd die bepalen hoe het neurale netwerk zich gedraagt.

Dit stelt ontwikkelaars in staat inferentie uit te voeren en het model fijn af te stemmen voor downstream-toepassingen.

Toch blijven cruciale elementen onbeschikbaar, waaronder de trainingscode, originele datasets, modelarchitectuur en het proces dat werd gebruikt om het model te trainen.

Het vrijgeven van AI op deze manier vergroot de toegang, maar beperkt transparantie, reproduceerbaarheid en onafhankelijke verificatie.

Ontwikkelaars die modellen met open gewichten gebruiken, moeten uiteindelijk vertrouwen op de oordelen en representaties die de oorspronkelijke makers hebben geleerd, zonder ze te kunnen reconstrueren of volledig te auditen.

Een echt open-source AI-model gaat veel verder.

Het bevat alles wat nodig is om het model vanaf nul te reproduceren — broncode, architectuur, trainingsmethodologie, hyperparameters, datasets en ondersteunende documentatie.

Dat niveau van openheid stelt onderzoekers niet alleen in staat het model uit te voeren, maar ook te inspecteren, te verbeteren en geheel nieuwe systemen te bouwen op dezelfde basis.

"Er is een grote kloof tussen open-weight AI en open-source AI," zei James Landay, Denning-directeur van het Stanford Institute for Human-Centered AI.

"Open gewichten beantwoorden de vraag 'Kan ik dit uitvoeren?' Open source beantwoordt de vraag 'Kan ik dit vertrouwen, verbeteren en het volgende daarop bouwen?' Op dit moment beantwoordt bijna iedereen — zowel Amerikaanse als Chinese labs — de eerste vraag, maar bij lange na niet de tweede."

Meta's pleidooi voor open-source modellen

Naast de modelrelease publiceerde Zuckerberg een essay van 14 pagina's waarin hij zijn visie voor de toekomst van kunstmatige intelligentie uiteenzette.

In het document, met als titel The Future is for Everyone, betoogde hij dat AI moet worden gezien als een instrument voor brede maatschappelijke baten in plaats van als een technologie die strikt beperkt moet worden.

Hij benadrukte ook dat de Verenigde Staten hun leiderschap ten opzichte van China in de wereldwijde AI-race moeten behouden.

Zonder concurrenten zoals Anthropic en OpenAI bij naam te noemen, bekritiseerde Zuckerberg benaderingen die pleiten voor strengere controles op geavanceerde AI-systemen.

Hij stelde dat het concentreren van de technologie in de handen van een handvol bedrijven zelf risico's kan creëren.

"In plaats van superintelligentie te centraliseren, zouden we het moeten verspreiden," schreef Zuckerberg, 42, in het essay. "Dit heeft de potentie een nieuw tijdperk van persoonlijke empowerment te starten."

Het bedrijf behoorde tot de eerste grote AI-ontwikkelaars die publiekelijk een groot taalmodel uitbrachten, LLaMA, in februari 2023. Meta publiceerde zowel de inference-code die nodig is om het model uit te voeren als de tijdens het trainen geleerde gewichten.

Organisaties zoals de Open Source Initiative hebben echter betoogd dat de licentiebeperkingen van LLaMA — met name die met betrekking tot commercieel hergebruik — voorkomen dat het voldoet aan de geaccepteerde definitie van echte open-source software.

In plaats daarvan classificeren veel experts het als een model met open gewichten.

Toch zijn veel ontwikkelaars van mening dat echte open-source AI niet alleen code en gewichten moet omvatten, maar ook de datasets die tijdens het trainen zijn gebruikt, zodat er volledige transparantie is in hoe deze steeds invloedrijkere systemen zijn opgebouwd.