Billigere AI, lokale modeller og verdener du kan styre

Denne uka har jeg gledet meg til å oppsummere, for nå begynner flere av de store AI-løftene å bli konkrete. Ikke bare større modeller og penere demonstrasjoner, men lavere priser, flere muligheter til å kjøre AI på egen maskin og helt nye måter å styre genererte verdener på.

Fra 24. til 30. oktober ser jeg tre tydelige bevegelser. Kraftige modeller blir billigere og får mer avgrensede roller. Lokal AI flytter nærmere vanlige produkter. Og kreative modeller begynner å oppføre seg mindre som videomaskiner og mer som verdener du kan gå inn i og endre.

Jeg har valgt ut seks saker, men de henger sammen. Det handler om hva AI faktisk koster å bruke mange ganger, hvor modellene og dataene befinner seg, og hvor mye kontroll du beholder underveis.

Moonshot AI gikk rett etter toppmodellene med Kimi K3.1 Pro. Standardutgaven koster 2 dollar per million input-tokens og 10 dollar per million output-tokens. Det er omtrent 18 og 92 kroner med dollarkursen 30. oktober. Tokens er enkelt sagt små tekstbiter som modellen leser og skriver. Når en agent arbeider gjennom store dokumenter, bruker verktøy og prøver flere steg, kan det bli mange slike tekstbiter.

Kimi har et kontekstvindu på én million tokens og er rettet mot lange oppgaver innen blant annet koding, research og finansanalyse. Den kan arbeide med både bilder og tekst. En Highspeed-utgave skal være to til tre ganger raskere, men koster dobbelt så mye.

Prisen avgjør om en løsning kan brukes tusen ganger eller bare vises én gang på en scene. Likevel er lav tokenpris bare starten på regnestykket. Jeg har ikke testet Kimi K3.1 Pro selv, og sterke resultater fra leverandøren sier ikke hvor stabil modellen er i din kodebase, hvor ofte den tar omveier eller hvor mye et menneske må rydde opp etterpå.

Min vurdering er derfor enkel: Kimi fortjener en kontrollert sammenligning, ikke en automatisk seier. Kjør samme oppgave med samme verktøy og kontrollpunkter. Mål tid, samlet tokenbruk, feil og menneskelig opprydding. Hvis modellen må gjøre jobben tre ganger, hjelper det lite at hvert token var billig.

Moonshot lovet også å publisere de fulle modellvektene innen 4. november. Åpne vekter betyr at selve modellfilene kan lastes ned og kjøres på annen infrastruktur enn leverandørens egen tjeneste. I denne ukas dekning var dette fortsatt et løfte med dato, ikke en ferdig utgivelse. Og en modell i denne størrelsesklassen blir ikke automatisk egnet for en vanlig PC selv om filene blir tilgjengelige.

Også OpenAI presset prisen ned med GPT-6.1 Terra. Terra koster 1 dollar per million input-tokens og 5 dollar per million output-tokens, omtrent 9 og 46 kroner. Det er halv pris av GPT-6.1 Sol.

Terra prøver ikke å være best til absolutt alt. Den er laget for raske, avgrensede oppgaver med visuell forståelse, verktøykall og computer use. Det siste betyr at modellen kan bruke programmer gjennom skjermen, omtrent som et menneske som ser knapper, skjemaer og innhold og handler deretter. Tenk fakturaer, tekniske tegninger, videologger og eldre programmer som aldri fikk et godt API.

Et regneeksempel gjør prisforskjellen konkret. En tenkt jobb med 100 000 input-tokens og 20 000 output-tokens koster omtrent 1 krone og 85 øre med Terra. Samme tokenmengde koster rundt 3 kroner og 70 øre med Sol og 18 kroner og 50 øre med Astra. Ved 10 000 slike jobber er forskjellen mellom Terra og Sol omtrent 18 500 kroner.

Dette er bare et regneeksempel basert på tokens, ikke en målt produksjonskostnad. Verktøy, lagring, drift, kontroll og menneskelig arbeid kommer i tillegg. Svært lange prompter kan også koste mer, og ulike tjenesteklasser kan endre prisen. Derfor må du sammenligne den faktiske arbeidsflyten, ikke bare kopiere et tall fra en prisliste.

Det interessante med Terra er den tydelige rollen. En agent som leser en faktura, finner riktig felt i et program og registrerer beløpet, trenger ikke nødvendigvis den tyngste modellen. Den må se riktig, følge instruksen og kontrollere at resultatet faktisk ble lagret.

Jeg ville fortsatt beholdt logger, tester og menneskelig godkjenning. Billigere arbeid er ikke det samme som feilfritt arbeid. Det viktige er at prispresset nå når de lange agentløpene. Terra viser verdien av en rimelig arbeidsmodell til en avgrenset jobb. Kimi presser en bredere toppmodell inn i den samme diskusjonen. Kostnad per godkjent resultat er viktigere enn modellnavnet på forsiden.

Den andre bevegelsen handler om hvor AI-en kjører. Opera begynte å rulle ut WebAI som en valgfri tidlig forhåndsversjon i Opera One. Ideen er at nettsteder og nettleserutvidelser kan bruke AI-modeller på brukerens egen maskin, uten en separat lokal server, API-nøkkel eller et eksternt kall for hvert svar.

Dette er nettleser-AI jeg liker. Ikke enda en chatbot limt fast i et sidepanel, men et lokalt lag som nettsteder kan bruke til tekstgenerering, klassifisering og semantisk søk. En utvidelse kan for eksempel sortere faner, oppdage clickbait eller finne relevante avsnitt uten å sende hele innholdet til en skytjeneste.

For brukeren kan det bety mer kontroll over dataene. For en liten utvikler kan det fjerne både serverdrift og regningen per forespørsel. En smart, liten utvidelse trenger ikke nødvendigvis konto, abonnement og faktureringssystem bare for å oppsummere noen avsnitt.

Opera begynner med tre byggeklosser. Ett grensesnitt lager og bearbeider tekst. Ett klassifiserer innhold. Det tredje lager embeddings, som er matematiske representasjoner modellen bruker for å finne tekster med lignende mening selv når de ikke bruker de samme ordene. Delene kan brukes til søk, filtrering, læring og små personlige hjelpeverktøy.

WebAI er likevel en foreslått standard og en tidlig forhåndsversjon. Den er ikke ferdig eller støttet overalt. Lokal behandling betyr heller ikke automatisk full sikkerhet. Nettstedet, utvidelsen, modellfilen og tillatelsene er fortsatt deler av angrepsflaten. Jeg ville bare gitt tilgang til tjenester jeg stoler på, ikke trykket ja fordi ordet «lokal» ser beroligende ut.

I samme utvikling, men som en helt separat lansering, kom Liquid AI med LFM3-familien. Den består av seks modeller rundt 2 milliarder parametere. Én er laget for tekst, én for bilder og video, én for lyd, én kombinerer flere typer innhold, og to er laget for raske, strukturerte beslutninger. I stedet for én enorm universalmodell velger du en liten spesialist til jobben.

Tekstmodellen LFM3-1.7B har 1,73 milliarder parametere og et kontekstvindu på 256 000 tokens. Modellkortet oppgir omtrent én gigabyte minne for en 4-bit-versjon. Resten av programmet, kjøremotoren og lang kontekst krever mer, men selve modellen er liten nok til å være aktuell på en vanlig laptop eller telefon.

Det er den praktiske delen jeg liker. En liten modell som starter raskt og gjør en avgrenset jobb i bakgrunnen, kan være mer nyttig enn en mye sterkere modell du bare har råd til å kalle av og til. LFM3 er trent videre for verktøykall og strukturerte svar, men Liquid fraråder den til agentisk koding og komplisert resonnering over mange steg. Liten er fortsatt liten. Spesialisering er poenget, ikke en trylleformel.

Lyd- og omni-variantene peker mot lokale assistenter som kan se, lytte og svare. Kildene gir likevel ikke grunnlag for å vurdere norsk tale, og norsk står ikke blant de 18 oppgitte lydspråkene. Da skal jeg heller ikke finne på en norsk kvalitetsdom.

I den andre enden av skalaen kom Mistral Large 4 med modellfilene faktisk tilgjengelige 30. oktober. Modellen kalles også Le Chonk, og navnet er ganske presist. Den har omtrent én billion parametere totalt, mens rundt 52 milliarder er aktive når den arbeider. Den kvantiserte pakken er oppgitt til 619 gigabyte bare for hovedvektene.

Det er lokal AI i datasenterklassen, ikke noe du slenger inn på en vanlig PC før lunsj.

Utgivelsen er likevel viktig, særlig for cyberforsvar. Kildekode, interne logger, skadevareprøver og detaljer om sårbarheter som ennå ikke er rettet, er data mange virksomheter ikke vil sende til en ekstern AI-tjeneste. Med modellfilene tilgjengelige kan modellen kjøres, testes og tilpasses i eget miljø. En ekstern leverandør kan heller ikke endre modellen eller stanse tilgangen midt i en hendelse.

Mistral retter modellen mot oppgaver som å finne sårbarheter, bekrefte dem og foreslå rettelser uten å ødelegge annen funksjonalitet. Det er krevende arbeid, og ingen leverandørpåstand er en produksjonsgodkjenning. Virksomheten må teste mot egne kodebaser, kjente hendelser og egne grenser for oversette feil og falske alarmer.

Kontroll følger med ansvar. En modell som kan finne og rette sårbarheter, kan også misbrukes. Åpne vekter erstatter ikke isolerte testmiljøer, tilgangskontroll, logging og menneskelig godkjenning. Lisensen må også leses. Kommersiell og ikke-kommersiell bruk er tillatt, men drift som en egen tjeneste der kunder leier tilgang til modellen, krever en separat avtale.

LFM3 og Mistral Large 4 er nesten komisk forskjellige i størrelse. Likevel peker de i samme retning. Åpne vekter gir muligheten til å velge hvor modellen og dataene skal bo. Den ene kan bli en liten lokal byggestein. Den andre kan bli en tung del av et forsvarssystem. «Lokalt» er ikke én maskinvareklasse. Det er et spørsmål om kontroll.

Den tredje bevegelsen er den mest visuelt spektakulære, men også den letteste å misforstå. Google presenterte Genie 4 som en research preview 27. oktober. Dette er ikke bare en modell som lager et videoklipp. Den genererer en verden bilde for bilde og lyd for lyd mens brukeren beveger seg i den.

Du kan endre været, kameravinkelen, personer eller objekter med tekst mens simuleringen kjører. Modellen forsøker å bevare resten av verden og la endringen få konsekvenser. Den kan også generere lyd fra omgivelsene, musikk og interaktiv dialog i sanntid.

En world model har en vanskeligere jobb enn en vanlig videomodell. Den skal ikke bare gjette et pent neste bilde. Den må holde rede på rommet, objektene og følgene av handlinger. Hvis du snur deg bort fra en gjenstand og kommer tilbake, bør den helst fortsatt være der. Generative verdener har ikke alltid vært spesielt flinke til det. De kan fort få samme logikk som en drøm etter litt for mye nattmat.

Dette er forskjellen mellom å se på en sekvens og å arbeide inne i den. En filmskaper kan prøve en ny kameravinkel før en kostbar produksjon. En spillutvikler kan undersøke en mekanikk før hele nivået er bygget. En lærer kan bruke en interaktiv scene, så lenge ingen forveksler overbevisende grafikk med historisk eller vitenskapelig sannhet.

Objekter og detaljer kan fortsatt drive over tid, særlig etter mange endringer eller lang navigasjon. Modellen kan også bomme på fysikk, romlig nøyaktighet, tekst og lyd. Jeg har ikke testet Genie 4 selv, og Googles utvalgte demonstrasjoner er ikke en uavhengig stresstest.

Det mest spennende er kombinasjonen med Gemini. En språkmodell kan dele et mål opp i trinn og kontrollere om handlingene lykkes, mens Genie simulerer det visuelle og fysiske utfallet. Google prøvde dette i et forskningseksperiment med en robotoppgave. Det betyr ikke at roboter kan stole blindt på en pen, generert verden. Det betyr at flere scenarioer kan prøves i simulering før noe dyrt eller risikabelt skjer fysisk.

Genie 4 var denne uka tilgjengelig for utvalgte testere. Google varslet tilgang for Google AI Ultra-abonnenter og tidlige partnere i ukene etter lanseringen. Ingen generell dato eller egen pris var oppgitt. Dette er derfor et glimt av en arbeidsflyt, ikke et verktøy de fleste kunne sette i produksjon denne uka.

Likevel markerer det et skifte. Generativ AI går fra å lage et ferdig klipp til å holde en responsiv verden i gang mens et menneske eller en agent griper inn. Hvis kontinuiteten blir lengre og fysikken mer pålitelig, kan skillet mellom idé, prototype og simulering bli langt mindre enn det er i dag.

Det binder uka sammen. Kimi og Terra presser kostnaden for agentarbeid ned. Opera og Liquid viser to forskjellige veier mot AI nærmere brukerens egen maskin. Mistral viser at kontroll over modellen også betyr noe i den aller tyngste enden. Genie viser hva som skjer når modeller ikke bare svarer, men holder et miljø i gang mens det styres.

Mer kapasitet er fint. Denne uka handlet om noe enda mer nyttig: kapasitet som blir billigere, kan plasseres der den passer og lar seg styre. Kildene finner du på jansverre.net.