Muse Glimmer: lokal 30B-agentmodell for 24 GB VRAM

Muse Glimmer er en 30B-modell med åpne vekter, laget for AI-agenter som skal kjøre lokalt og være tilgjengelige hele tiden. Meta har ikke bare klemt en vanlig chatbot ned på forbrukermaskinvare. Modellen er trent for verktøykall, lange arbeidsløp, feilhåndtering og visuell forståelse – altså delene en faktisk agent trenger for å få gjort noe.

Det viktigste tallet er ikke 30 milliarder parametere, men 17 GB. Det er størrelsen på den mest komprimerte offisielle utgaven. Meta sikter mot at modellen, bildeforståelsen, arbeidsminnet og en egen hjelpemodell for raskere generering skal få plass innenfor en ramme på 24 GB.

Meta slapp Muse Glimmer 10. august 2026. Det gjør modellen relevant for kraftige PC-er og arbeidsstasjoner, ikke bare datasentre. Samtidig er dette en tett modell som bruker alle parameterne for hvert token. Den er derfor verken liten eller gratis å holde i gang. For lokale agentoppsett er kombinasjonen av åpne vekter, Apache 2.0-lisens og realistiske minnekrav likevel svært interessant. Vil du prøve før du laster ned vektene, oppgir Meta at modellen også er tilgjengelig via Together AI, Fireworks AI og OpenRouter.

Hva er Muse Glimmer?

Muse Glimmer er en multimodal språkmodell med omtrent 29,6 milliarder parametere, 131 072 tokens kontekst og støtte for mer enn 100 språk. Ifølge Metas offisielle modellkort på Hugging Face er den destillert fra Muse Spark og spesialtrent for autonome agentoppgaver på lokal maskinvare.

Modellen er tett, eller «dense». Det betyr at hele språkmodellen er aktiv når den arbeider, i motsetning til en Mixture-of-Experts-modell som bare bruker et utvalg eksperter per token. Det gir et enkelt og forutsigbart oppsett, men stiller også tydelige krav til minne og regnekraft.

Glimmer tar imot tekst og bilder om hverandre og svarer med tekst. En separat perception encoder på rundt 1,8 milliarder parametere tolker skjermbilder, diagrammer, dokumenter og vanlige bilder. Modellen støtter ikke lyd, og video er heller ikke et eget format – eventuelle videoer behandles som enkeltbilder.

Dette er den åpne, lokale slektningen til modellfamilien Meta har bygget opp gjennom Muse Spark. Forskjellen er ganske grunnleggende: Glimmer kan lastes ned, kjøres uten nettilgang og brukes kommersielt eller til forskning under Apache 2.0.

Hvordan får 30B-modellen plass lokalt?

Modellen krever mer enn 55 GB i full presisjon, men Meta har publisert 4-bit-kvantiserte utgaver under 20 GB. Den mest komprimerte K-Quant-17GB-utgaven er rettet mot 24 GB maskinvare, mens en litt mindre komprimert variant sikter mot 32 GB. Fullpresisjonsutgaven er oppført med et mål på 64 GB VRAM.

Kvantisering reduserer hvor nøyaktig hvert tall i modellvektene lagres. Gevinsten er langt lavere minnebruk. Ulempen kan være tap av kvalitet, men Meta oppgir et gjennomsnittlig fall på 1,0 prosent for 17 GB-utgaven og 0,2 prosent for 32 GB-utgaven, målt på 15 tester. Det er leverandørens egne målinger, ikke en garanti for at alle oppgaver oppfører seg likt.

De 17 GB er heller ikke hele regningen. En agent med lang kontekst trenger KV-cache, og Glimmer bruker en egen bildemodell og en hjelpemodell for spekulativ dekoding. Det er derfor Meta snakker om en ramme på 24 eller 32 GB, selv om språkmodellens vekter isolert sett tar mindre plass.

24 GB betyr i praksis fortsatt kraftig maskinvare. Men det er en type maskinvare entusiaster, utviklere og små virksomheter faktisk kan ha stående lokalt. Det er en helt annen terskel enn en modell som krever flere datasenterkort bare for å lastes inn.

Hvorfor er den laget for AI-agenter?

Muse Glimmer er trent for hele agentløkken: planlegge flere steg, kalle funksjoner med riktig skjema, tolke resultatet og fortsette mot målet. Meta sier også at feilhåndtering var et eget treningsmål. Når et verktøykall feiler eller gir et uventet svar, skal modellen forsøke å finne årsaken og prøve igjen i stedet for bare å stoppe.

Det siste er lett å undervurdere. En modell kan være glimrende til å skrive kode i ett svar og fortsatt være håpløs som agent hvis den mister planen etter tre verktøykall. Lokale agenter trenger utholdenhet, presise strukturerte svar og evnen til å rydde opp når virkeligheten ikke følger planen.

Glimmer er oppgitt som kompatibel med blant annet OpenClaw og Hermes Agent, men den er ikke låst til ett bestemt rammeverk. Meta har publisert vektene på Hugging Face, inkludert egne GGUF- og ExecuTorch-utgaver. I lanseringsinnlegget fra Meta-teamet omtales Ollama, LM Studio, Unsloth og torchtitan som på vei, sammen med optimaliserte integrasjoner for llama.cpp, MLX og ExecuTorch. vLLM og SGLang er oppgitt som alternativer for serverdrift.

Det skillet er viktig på lanseringsdagen. Vektene kan være tilgjengelige før alle verktøyene rundt modellen kjenner arkitekturen og har fått optimaliseringene på plass. For de fleste er det fornuftig å sjekke støtte i den konkrete runtime-versjonen før en stor nedlasting begynner.

Hvordan blir genereringen raskere?

Muse Glimmer leveres med en liten DFlash-hjelpemodell som foreslår blokker på 16 tokens om gangen. Hovedmodellen kontrollerer forslagene parallelt, godtar det som stemmer og retter resten. Resultatet skal være samme tekstkvalitet som vanlig generering, men med færre tunge runder gjennom 30B-modellen.

I Metas målinger gikk en RTX 5090 fra 74,9 til 233,4 tokens i sekundet, en økning på 3,1 ganger. En MacBook med M4 Max gikk fra 23,7 til 37,8 tokens i sekundet, mens M5 Max gikk fra 26,6 til 50,2. Testene ble kjørt med batchstørrelse 1 og greedy decoding, med llama.cpp på RTX og ExecuTorch på Mac.

Dette er flotte tall, men de beskriver generering under Metas testoppsett. Agentarbeid består også av promptbehandling, verktøykall, filsystem, nettverk og venting på andre tjenester. Spekulativ dekoding kan gjøre selve modellen mye raskere uten at en hel arbeidsflyt automatisk blir tre ganger så rask.

Likevel passer teknikken godt til en alltid tilgjengelig lokal agent. En slik modell skal gjerne svare raskt på små hendelser mesteparten av dagen, men kunne bruke mer tid når oppgaven krever det. Glimmer lar dessuten utvikleren styre reasoning strength som low, medium, high eller xhigh, slik at fart og grundighet kan justeres etter jobben.

Er Glimmer faktisk god nok?

Metas egne testresultater viser tydelige styrker og svakheter. Glimmer leder over Gemma 4 31B og Qwen3.6 27B på blant annet MCP Atlas og SWE-Bench Pro, mens Qwen-modellen ligger foran på OSWorld-Verified, SWE-Bench Verified og TerminalBench. Lanseringstabellen beskriver dermed en konkurransedyktig modell, ikke en modell som er best på alt.

Jeg ville heller ikke valgt en lokal agentmodell ut fra én poengsum. Det interessante er om den følger verktøyskjemaer, holder retningen over tid, kommer seg videre etter feil og gjør det raskt nok på maskinen du faktisk har. Nettopp derfor er det positivt at Meta har målt komplette agentoppgaver, ikke bare spørsmål med ett riktig svar.

Metodegrunnlaget er publisert i en egen evalueringsrapport fra Meta. Uavhengige tester vil likevel bli viktigere enn lanseringstabellen. Modellen er helt fersk, og forskjellen mellom et kontrollert agentbenchmark og en arbeidsflyt som går gjennom natten kan være brutal. Det har mange agentmodeller fått lære på den harde måten.

Hva betyr alltid tilgjengelig i praksis?

«Always-on» betyr først og fremst at modellen kan stå på din egen maskin og ta imot oppgaver uten at hvert token må sendes til en ekstern tjeneste. Det gir kontroll over data, tilgjengelighet og kostnader. Det gjør også modellen interessant for interne dokumenter, lokale automasjoner og agentjobber som ikke bør stoppe fordi et API har kø eller er nede.

Men lokal kjøring fjerner ikke behovet for et skikkelig system rundt modellen. En agent med tilgang til e-post, kode, databaser eller betalinger trenger begrensede tillatelser, logger og menneskelig bekreftelse før irreversible handlinger. Meta anbefaler selv egne tester for bruksområdet og menneskelig godkjenning når agenten kan gjøre noe som ikke enkelt kan angres.

En 30B-modell trekker dessuten strøm og binder opp mye minne. Hvis oppgavene er sporadiske, kan et API fortsatt være enklere og billigere enn å holde kraftig maskinvare klar hele døgnet. Lokal drift blir mest interessant når personvern, forutsigbar tilgang, stor bruksmengde eller tett integrasjon med lokale systemer veier tyngre enn enkelheten i skyen.

Det er også her sammenligningen med langt større åpne modeller blir litt skjev. GLM-5 har 744 milliarder parametere og sikter mot en helt annen maskinvareklasse. Muse Glimmer prøver ikke å vinne ved å være størst. Den prøver å samle nok agentkapasitet i en pakke én god arbeidsstasjon kan håndtere.

Hva bør du vite før du laster den ned?

Den offisielle modell-ID-en er meta-models/Muse-Glimmer-30B. Meta har publisert BF16-vekter, to 4-bit-utgaver, DFlash-hjelpemodellen, perception encoderen, GGUF-filer og en ExecuTorch-utgave. Kontekstlengden er oppgitt til minst 131 072 tokens, men lang kontekst øker minnebruken og kan spise opp marginen i et 24 GB-oppsett.

Modellkortet anbefaler temperature=1.0, top_p=0.95 og top_k=64. Reasoning strength settes i systemprompten med low, medium, high eller xhigh, der Meta anbefaler high eller xhigh til krevende problemløsing, koding og agentoppgaver. Det er et startpunkt fra leverandøren, ikke en universell fasit.

Kunnskapsgrensen er 4. januar 2026. En lokal Glimmer-instans vet derfor ikke automatisk hva som har skjedd etter den datoen. Agenten trenger søk, RAG eller andre oppdaterte datakilder når fersk informasjon er en del av jobben.

Modellen kan også gi feil, skjeve svar og dårlige beslutninger i nye situasjoner. Meta opplyser at språkene i treningsdataene ikke er testet like grundig, selv om modellen er trent på mer enn 100 språk. Norsk ytelse må derfor vurderes i faktiske norske oppgaver, ikke utledes av antallet språk på modellkortet.

Dette kan bli en nyttig lokal arbeidshest

Muse Glimmer treffer et mer praktisk spørsmål enn mange modellslipp: Hvor mye agentkapasitet kan du få inn i én maskin du faktisk kan eie og kontrollere? Metas svar er en tett 30B-modell, komprimert til 17 GB og pakket sammen med bildeinngang, feilhåndtering, lange verktøyløp og en egen motor for raskere generering.

Det er en lovende kombinasjon. Apache 2.0-lisensen gjør det mulig å bygge videre uten en sær lisensmur, og de offisielle kvantiseringene senker terskelen for lokal drift. Samtidig må runtime-støtten modnes, og påstandene om stabilt agentarbeid må gjennom langt mer enn Metas egne tester.

Jeg liker retningen. Lokale modeller trenger ikke slå de største skymodellene i alle disipliner for å være verdifulle. De må være gode nok, raske nok og pålitelige nok i oppgavene de faktisk får. Hvis Glimmer klarer det på 24 GB, kan den bli langt mer nyttig enn modellnavnet antyder.

Ofte stilte spørsmål