Inkling er ikke den sterkeste AI-modellen – og det er hele poenget

Hvis du er lei av AI-modeller som skal være passe gode til absolutt alle, er Inkling et interessant motforslag. Thinking Machines Lab lanserte 15. juli sin første egenutviklede modell med åpne vekter, og selskapet sier rett ut at den ikke er den sterkeste modellen på markedet.

Det høres kanskje ut som en underlig start på en lansering. Men hele poenget med Inkling er at en bred grunnmodell ikke trenger å være det ferdige produktet. Den skal kunne lastes ned, finjusteres på virksomhetens egne behov og kjøres uten at all kunnskap må sendes gjennom API-et til ett av de største AI-selskapene.

Her ligger også den virkelige testen for Thinking Machines Lab. Etter rundt halvannet år med mye penger, kjente navn og relativt lite å vise offentlig, har selskapet endelig lagt en modell på bordet. Nå får utviklere og virksomheter se om ideen om tilpasset AI faktisk holder når den møter virkelige data, kostnader og arbeidsflyter.

Hva er Inkling?

Inkling er en generell multimodal AI-modell med 975 milliarder parametere totalt, men bare 41 milliarder aktive for hvert token. Ifølge Thinking Machines sin egen lansering har den et kontekstvindu på opptil én million tokens og er forhåndstrent på 45 billioner tokens fra tekst, bilder, lyd og video.

Modellen tar imot tekst, bilder og lyd, mens svaret foreløpig kommer som tekst. Det inkluderer vanlig tekst, kode og strukturerte data. Den er også trent for verktøybruk og agentarbeid, noe som gjør den relevant som motor i systemer som skal søke, kode, hente data og utføre flere trinn.

Arkitekturen er en sparse Mixture-of-Experts-modell. Enkelt forklart består den av mange ekspertmoduler, men bare et lite utvalg brukes på hvert token. Det offisielle modellkortet beskriver 256 rutede eksperter, to delte eksperter og seks aktive rutede eksperter per token. Det er slik en modell kan være enorm på papiret uten å bruke alle 975 milliardene i hver eneste beregning.

Inkling er ikke selskapets første offentlige teknologi. Thinking Machines viste tidligere fram Interaction, en modellfamilie for mer naturlige AI-samtaler i sanntid. Jeg skrev om TML Interaction Small og ideen om AI som kan lytte og svare fortløpende. Inkling er likevel den første store grunnmodellen selskapet faktisk slipper med vektene tilgjengelige.

Er Inkling virkelig åpen?

Ja, vektene kan lastes ned fra Thinking Machines på Hugging Face, og de er publisert med Apache 2.0-lisens. Det gir utviklere stor frihet til å kjøre, finjustere og bygge modellen inn i egne produkter. Men open-weight er ikke det samme som at hele modellen er open source.

Thinking Machines har ikke publisert treningsdataene eller en komplett oppskrift som lar andre gjenskape treningen fra bunnen av. Modellkortet sier at dataene kommer fra offentlig tilgjengelige kilder, tredjeparter og syntetisk generert eller utvidet materiale. Det er mer innsyn og kontroll enn du får med en ren, lukket API-modell, men det er ikke full åpenhet.

Det skillet er verdt å ta på alvor. «Åpen modell» brukes ofte som en praktisk kortform, men åpne vekter forteller ikke nødvendigvis nøyaktig hva modellen lærte av eller hvordan alle delene ble bygget. For en virksomhet er den viktigste forskjellen likevel ganske konkret: Du kan faktisk hente ned modellen, beholde en tilpasset variant og velge hvor den skal kjøre.

Hvorfor satser Thinking Machines på tilpasning?

Thinking Machines mener at en modell laget for alle vil mangle kunnskapen, prioriteringene og arbeidsmåtene som gjør AI virkelig nyttig i én bestemt organisasjon. Inkling er derfor laget som et utgangspunkt for finjustering, ikke som enda en chatbot som skal slå alle andre i enhver oppgave.

Det gir mening. En generell modell kan være imponerende i en demo, men den kjenner ikke automatisk bedriftens begreper, dokumentstruktur, kvalitetskrav eller hvilke feil som faktisk koster penger. Det er nettopp derfor gode AI-systemer ofte kombinerer flere modeller med databaser, RAG, verktøy, minne og tydelige kontrollpunkter. En større modell alene gjør ikke systemet grounded.

Denne tankegangen ligner på skiftet Google DeepMind beskriver fra ren mønstergjetting til modeller og systemer som kan kontrollere arbeid underveis. I artikkelen min om AI som slutter å gjette og begynner å kontrollere er poenget nettopp at selve arbeidsprosessen betyr minst like mye som rå modellstyrke.

Thinking Machines knytter Inkling tett til Tinker, selskapets plattform for finjustering. Modellen er tilgjengelig der fra lanseringsdagen, og selskapet viser blant annet et eksperiment der Inkling skriver og kjører sin egen finjusteringsjobb. Det er en god demonstrasjon av retningen, men ikke et bevis på at enhver bedrift nå kan trykke på én knapp og få en perfekt spesialistmodell. Finjustering krever gode treningsdata, evaluering og folk som forstår hva de måler.

Den praktiske tilgangen har en liten hake: På Tinker tilbys Inkling ved lansering med kontekstvalg på 64K eller 256K tokens, selv om selve modellen støtter opptil én million. Thinking Machines oppgir også API-tilgang gjennom Together AI, Fireworks, Modal, Databricks og Baseten.

Kan du kjøre Inkling lokalt?

Du kan kjøre Inkling på egen infrastruktur, men dette er ikke en modell du laster inn på ett vanlig skjermkort. BF16-versjonen krever ifølge modellkortet minst 2 TB samlet VRAM, med åtte Nvidia B300-kort eller 16 H200-kort som oppgitte konfigurasjoner. Den kvantiserte NVFP4-versjonen krever minst 600 GB og kan kjøres med fire B300-kort i W4A4 eller åtte H200-kort i W4A16.

Med andre ord: Åpne vekter betyr frihet til å velge, ikke at maskinvarekostnaden forsvinner. For de fleste enkeltutviklere og små bedrifter vil en ekstern inferensleverandør være langt mer realistisk enn å eie maskinene selv. Inkling tilbys allerede gjennom tredjepartsleverandører, mens Tinker gir tilgang til finjustering.

Dette er en viktig forskjell fra mindre modeller som faktisk passer på en kraftig arbeidsstasjon. Inkling har 41 milliarder aktive parametere, men alle de 975 milliarder vektene må fortsatt lagres og fordeles. Mixture-of-Experts gjør beregningen mer effektiv, men den tryller ikke bort minnebehovet.

Thinking Machines har samtidig vist fram Inkling-Small med 12 milliarder aktive parametere. Den er foreløpig en forhåndsvisning, ikke en modell du kan laste ned. Dersom den senere blir publisert i en størrelse som er praktisk på rimeligere maskinvare, kan den bli mer interessant for langt flere enn den store Inkling-utgaven.

Hvor god er modellen i praksis?

Det ærligste svaret er at vi ikke vet nok ennå. Thinking Machines publiserer en omfattende samling resultater for resonnering, kode, verktøybruk, syn og lyd, men dette er selskapets egne evalueringer ved lansering. De forteller noe om ambisjonsnivået, ikke hvordan modellen oppfører seg i din arbeidsflyt.

Selskapet sier selv at Inkling ikke er den sterkeste åpne eller lukkede modellen totalt sett. Det er befriende tydelig i en bransje der hver ny modell vanligvis presenteres som et nytt grunnstoff. Inkling skal heller gi en god balanse mellom multimodal forståelse, agentarbeid, styrbar tenkeinnsats og muligheten til å tilpasses.

Den styrbare tenkeinnsatsen lar utvikleren be modellen bruke mer eller mindre resonnement avhengig av oppgaven. En enkel klassifisering trenger ikke samme tidsbruk som en vanskelig kodefeil. På systemnivå kan det gi bedre kostnadskontroll, særlig når modellen brukes mange ganger i en lang agentflyt.

Thinking Machines sier også at Inkling er trent til å uttrykke usikkerhet i stedet for å gjette like selvsikkert hver gang. Det er et fornuftig mål, men også en egenskap som må testes på egne data. Modellkortet advarer fortsatt om hallusinasjoner, feil i lange samtaler og varierende ytelse mellom språk og fagområder. Norsk er ikke spesifikt dokumentert utover generell flerspråklig støtte.

Hva forteller treningen om modellen?

Inkling ble forhåndstrent fra bunnen av på 45 billioner tokens. I den første delen av ettertreningen brukte Thinking Machines syntetiske data fra modeller med åpne vekter, blant annet Kimi K2.5, før hoveddelen av regnekraften gikk til mer enn 30 millioner RL-kjøringer.

Det betyr ikke at Inkling bare er en kopi av Kimi. Thinking Machines beskriver bidraget som en liten oppstartsdel av ettertreningen, mens selve grunnmodellen ble trent fra bunnen av. Samtidig viser det hvor sammenvevd modellutviklingen er blitt: En ny amerikansk modell kan lære av syntetiske svar fra en kinesisk open-weight-modell før den formes videre i egne miljøer.

For dem som følger konkurransen mellom åpne modeller er dette et interessant korrektiv. Jeg har tidligere forklart hvorfor DeepSeek ble en reell utfordrer, og Inkling-arkitekturen følger i stor grad MoE-oppskriften fra DeepSeek-V3. Det nye er ikke at Thinking Machines har funnet opp hele idégrunnlaget alene, men at selskapet setter delene sammen rundt tilpasning, multimodalitet og sin egen treningsplattform.

Det er også sunt å skille mellom en modell og selskapets historie rundt den. TechCrunch beskriver lanseringen som Thinking Machines Labs første virkelige offentlige bevis etter omtrent halvannet år med bygging. Nå må resultatene vurderes av folk utenfor selskapet, på maskinvare og oppgaver som ikke er valgt til lanseringssiden.

Hva betyr Inkling for bedrifter og utviklere?

Den mest interessante muligheten er ikke å erstatte ChatGPT, Claude eller Gemini i en vanlig chat. Det er å bruke en modell som kan tilpasses til én avgrenset jobb, beholdes under egen kontroll og flyttes mellom leverandører uten å begynne helt på nytt.

Det kan redusere leverandørlåsing og gjøre det enklere å holde følsom kunnskap i en valgt infrastruktur. Men virksomheten overtar også mer ansvar. Den må evaluere kvalitet og sikkerhet, følge med på hva en finjustering endrer, og bygge vern rundt modellen. Modellkortet anbefaler eksplisitt lagdelt sikkerhet fremfor å stole på modellens egne avslag.

For mindre aktører blir spørsmålet derfor ikke bare om vektene er åpne. Det blir om økosystemet rundt modellen tilbyr rimelig inferens, enkel finjustering og nok verktøystøtte. SGLang, vLLM, Unsloth, TokenSpeed og Hugging Face er allerede oppført som alternativer for kjøring, men den enorme minnebruken setter en tydelig grense for hvor selvstendig de fleste kan være.

Inkling minner på den måten litt om den første modellen fra Meta Superintelligence Labs: Den er både et produkt og et signal om hva et nytt lag vil prioritere. Thinking Machines prioriterer ikke én lukket modell som skal være alt for alle. De satser på en grunnmodell som andre kan forme. Det er en langt mer interessant idé enn enda en chatbot med nytt ikon.

Ofte stilte spørsmål