Innhold Vis
Moondream 3.1 er en synsspråkmodell for lokal bildeanalyse som kan svare på spørsmål om bilder, beskrive dem, finne objekter og returnere nøyaktige koordinater – med 9 milliarder parametere totalt, men rundt 2 milliarder aktive om gangen.
Hvis du vil gi et kamera, en lokal AI-agent eller en app evnen til å forstå det den ser, er dette en interessant kombinasjon. Modellen er liten nok til lokal kjøring på støttet maskinvare, samtidig som svarene kommer i strukturerte formater som programvare faktisk kan bruke. Det er mer nyttig enn en lang, velformulert bildebeskrivelse når oppgaven egentlig er å finne den skadde pallen på et lager.
Moondream 3.1 ble lansert 7. juli 2026. Den store nyheten er ikke bare at enda en modell scorer høyt på enda en tabell. Poenget er at én modell samler fire praktiske bildeoperasjoner i samme grensesnitt, og at den er laget for å svare raskt nok til løpende bildebehandling.
Hva er Moondream 3.1?
Moondream 3.1 er en vision language model, eller synsspråkmodell, med en mixture-of-experts-arkitektur. Den har 9 milliarder parametere totalt, men rundt 2 milliarder er aktive om gangen under inferens, ifølge det offisielle modellkortet på Hugging Face. Det reduserer mengden beregning som må gjøres per bilde.
En synsspråkmodell kobler bilde og språk. Du kan vise den et fotografi, et skjermbilde eller et dokument og stille et spørsmål om innholdet. Forskjellen fra en ren objektgjenkjenner er at modellen også kan forstå frie formuleringer og sammenhenger. Forskjellen fra en vanlig multimodal chatbot er at Moondream har egne funksjoner for å finne og peke på objekter.
MoE-delen betyr ikke at hele modellen på 9 milliarder parametere jobber med hvert eneste token. Arkitekturen ruter arbeidet gjennom et utvalg eksperter. Dermed får modellen større samlet kapasitet enn en tett 2B-modell, uten å betale hele regningen i beregning for hver forespørsel. Det er dette navnet 9B-A2B prøver å fortelle: 9B totalt, 2B aktive.
Hva kan de fire funksjonene brukes til?
Moondream 3.1 har fire innebygde funksjoner: query, caption, detect og point. Alle returnerer strukturert output, ikke bare løs tekst. Det gjør resultatene enklere å koble til kode, automatisering og agenter.
query svarer på åpne spørsmål om et bilde. caption lager en kort, normal eller lang beskrivelse. detect finner objekter som matcher en tekstbeskrivelse og returnerer avgrensningsbokser. point returnerer koordinater for treffene. Cloudflare oppgir dessuten et kontekstvindu på 32 000 tokens i Workers AI-versjonen.
Forskjellen mellom detect og point er praktisk. En avgrensningsboks sier hvor stort område et objekt opptar, mens et punkt kan brukes som mål for sporing, klikk eller en markør i et videobilde. Et butikksystem kan be om «skadet emballasje», mens en agent som styrer et grensesnitt kan be om punktet til «send-knappen».
Dette er også grunnen til at modellen ikke bør reduseres til «enda en OCR-modell». Den kan lese og forstå dokumenter, men oppgaven er bredere: visuell gjenkjenning, spørsmål og svar, lokalisering og beskrivelse. For ren dokumentbehandling kan du sammenligne med hvordan MiniCPM-V 4.6 brukes til multimodal inferens på rimelig maskinvare. Moondreams tydeligste særpreg er det samlede, strukturerte funksjonssettet.
Hvor rask er Moondream 3.1 i praksis?
Cloudflare målte omtrent 145 millisekunder for point, 160 millisekunder for detect, 480 millisekunder for caption og 770 millisekunder for query. Dette var median end-to-end-tid på et enkelt bilde, inkludert nettverksrunden, så tallene er eksempler – ikke et løfte for alle bilder og oppsett.
Det er likevel raskt nok til at bildeanalysen kan ligge direkte i en forespørsel, i stedet for å sendes til en kø som kanskje svarer senere. Ved opplasting av et bilde kan modellen for eksempel kontrollere innholdet før filen lagres. I video kan den finne et objekt i en ramme og sende koordinatene videre til et overlegg eller et sporingssystem.
Utviklerens egne målinger oppgir 34,2 forespørsler per sekund i et samlet benchmarkoppsett på én H100 med batch-størrelse 16. Jeg ville ikke brukt det tallet som fasit for en Mac eller en vanlig PC. Maskinvare, bildekvalitet, batch-størrelse og ønsket svardybde endrer regnestykket kraftig. Det interessante er heller at 2B aktive parametere gjør sanntidsnære arbeidsflyter realistiske.
Det ligner på styrken jeg tidligere har pekt på ved Zamba2-VL som en rask, lokal vision-language-modell: En modell trenger ikke være størst for å være den mest nyttige komponenten. Når den skal analysere tusenvis av bilder eller følge en videostrøm, blir ventetid og kostnad en del av kvaliteten.
Kan modellen kjøres lokalt?
Ja. Grunnmodellen kan kjøres lokalt uten API-nøkkel gjennom Moondreams Photon-motor. Modellkortet oppgir støtte for NVIDIA-kort fra Ampere-generasjonen og nyere, samt Mac-maskiner med Apple Silicon. Vektene lastes ned fra Hugging Face ved første kjøring.
Det er verdt å skille mellom «kan lastes ned» og «passer overalt». Moondream oppgir ikke i modellkortet ett universelt krav til VRAM som dekker alle presisjoner og arbeidsmåter. De publiserte filene finnes blant annet i BF16 og FP8, og faktisk minnebruk avhenger av format, bilder, kontekst og inference-motor. Her bør du måle på maskinen og arbeidsflyten som faktisk skal brukes.
Trenger du et bredere utgangspunkt før du velger størrelse og maskinvare, har jeg også samlet det viktigste om valg av lokal AI-modell for OpenClaw. Moondream løser en annen type oppgave, men det samme prinsippet gjelder: modellen må passe både maskinen og jobben.
Den lokale veien er særlig interessant når bilder ikke bør sendes til en ekstern tjeneste, eller når kameraet må fortsette å fungere selv om nettet faller ut. Det kan være en produksjonslinje, et lager, en lokal dokumentflyt eller en agent som ser et skrivebord. Men Moondream 3.1 er ikke automatisk riktig løsning bare fordi den kan kjøre lokalt. Oppgaven, treffsikkerheten og lisensen må passe.
Hva koster API-et?
Moondream Cloud tar 0,30 dollar per million input-tokens og 1 dollar per million output-tokens i sanntidsmodus. Batch koster halvparten: 0,15 dollar inn og 0,50 dollar ut, ifølge prislisten fra Moondream. Arbeidsområder inkluderer 5 dollar i månedlig brukskreditt.
Tokenpris alene forteller ikke hva en ferdig jobb koster. Bilder blir omgjort til visuelle tokens, og output varierer kraftig mellom et koordinat, en kort bildetekst og et resonnement. Skal modellen behandle en videostrøm, er også antall bilder per sekund avgjørende. Regn på en representativ bunke fra egen arbeidsflyt, ikke på et pent markedsføringseksempel.
Cloudflare tilbyr samme modell som @cf/moondream/moondream3.1-9B-A2B i Workers AI. Det gir en serverless vei når du vil kjøre analysen nær brukeren uten å drifte GPU-serveren selv. Lokal Photon, Moondream Cloud og Workers AI dekker dermed tre ganske ulike behov: kontroll på egen maskin, et ferdig modell-API eller integrasjon i Cloudflares plattform.
Er Moondream 3.1 egentlig open source?
Vektene er tilgjengelige, men modellen bruker Moondream Model License 1.0 – ikke Apache 2.0 eller en annen vanlig open source-lisens. Du kan bruke modellen internt og kommersielt, finjustere, kvantisere og distribuere den. Begrensningen er at du ikke kan tilby generell Moondream-inferens eller finjustering som en driftet tjeneste for andre uten en separat lisens.
Det skillet betyr mye. En smal app for inspeksjon av sveisesømmer, varetelling eller dokumentbehandling er tillatt. En tjeneste der kunder får generell tilgang til Moondream som modell, er ikke det. Det gjelder ifølge lisensen også private og gratis driftede tjenester når brukerne får generell modelltilgang.
Jeg ville derfor kalt den source-available med åpne vekter, ikke ubetinget open source. For en privat lokal installasjon er forskjellen kanskje mest terminologi. For et selskap som bygger en flerbrukertjeneste, en modellmarkedsplass eller et generelt API, er den svært konkret. Les lisensen før arkitekturen blir dyr å endre.
Hvem passer modellen for?
Moondream 3.1 passer best når et system trenger raske og strukturerte svar fra bilder: objekter, koordinater, beskrivelser eller svar på konkrete spørsmål. Den kan være relevant for utviklere, små bedrifter og produksjonsmiljøer som vil bygge bildeanalyse inn i en eksisterende arbeidsflyt uten å sende hvert bilde gjennom en enorm generell modell.
Et godt eksempel er en agent som må forstå et skjermbilde og velge neste handling. Et annet er et kamera som skal finne bestemte varer, skader eller avvik. Her er strukturert output viktigere enn at modellen kan skrive et elegant avsnitt. Det er samme grunn til at VL-JEPA og andre alternative synsmodeller er interessante: Visuell forståelse handler om mer enn å få et språkmodell-svar med et bilde vedlagt.
Den store testen kommer likevel på egne bilder. Moondreams publiserte resultater er sterke på flere oppgaver, men utvikleren sier selv at reelle arbeidsflyter ikke ser ut som standardiserte datasett. Lys, kameravinkel, små objekter, rotete hyller og virksomhetens egne kategorier avgjør om modellen faktisk løser jobben. Heldigvis er det nettopp dette en lokal eller rimelig modell gjør enklere å undersøke uten at hver prøve blir et lite budsjettmøte.
Moondream 3.1 ser derfor mest lovende ut som en spesialisert synskomponent, ikke som en ny altmuligmodell. Den skal se, finne og peke – og levere svaret i et format resten av systemet kan handle på. Det er en mindre glamorøs oppgave enn å late som en chatbot kan alt. Men det er ofte der AI begynner å bli nyttig.
Ofte stilte spørsmål
Hvor mye VRAM trenger Moondream 3.1?
Det finnes ikke ett oppgitt VRAM-tall som gjelder alle oppsett. Modellen har 9 milliarder parametere totalt og finnes i flere tallformater. Minnebruken avhenger blant annet av presisjon, inference-motor, bildestørrelse og kontekst. Test den aktuelle varianten på maskinvaren som skal brukes.
Kan Moondream 3.1 brukes uten internett?
Ja. Grunnmodellen kan kjøres lokalt med Photon uten API-nøkkel etter at pakke og modellvekter er lastet ned. Offisiell støtte omfatter NVIDIA Ampere eller nyere og Apple Silicon. Cloud-funksjoner og driftede finjusteringer krever derimot nett og konto.
Kan jeg bruke Moondream 3.1 i et kommersielt produkt?
Ja, lisensen tillater kommersielle produkter, SaaS-funksjoner, lokal drift og domenespesifikke tjenester. Du trenger separat lisens hvis produktet i praksis gir andre generell, driftet tilgang til selve Moondream-modellen eller en avledet modell.
Er Moondream 3.1 bare laget for OCR?
Nei. Modellen kan forstå dokumenter, men dekker mer enn tekstgjenkjenning. Den svarer på spørsmål om bilder, lager beskrivelser, finner objekter med avgrensningsbokser og peker ut koordinater. Den er en generell synsspråkmodell med strukturerte funksjoner.
