Innhold Vis
Granite Switch 4.1.1 viser hvordan en AI-modell kan få en vanlig patch: IBM lar basemodellen stå urørt og oppdaterer de spesialiserte delene som faktisk trenger nye egenskaper. Det høres kanskje mindre dramatisk ut enn en helt ny modellgenerasjon. For alle som skal drifte AI over tid, er det nettopp derfor dette er interessant.
Utgivelsen er bakoverkompatibel med Granite Switch 4.1. Eksisterende integrasjoner skal kunne beholde samme format og samme måte å kalle modellen på, mens beslutningsadapteren får nye vekter og den innebygde talemodellen blir flerspråklig. Du slipper altså å flytte hele løsningen bare fordi én komponent er blitt bedre.
Dette er ikke en ny basemodell forkledd som en liten versjonsendring. Granite Switch er bygget som en sammensatt modell med en stabil Granite-base, aktiverbare adaptere og en egen tale-encoder. Patchen viser hvorfor den arkitekturen kan være langt mer praktisk enn å behandle hvert nytt behov som en ny monolittisk modell.
Hva er nytt i Granite Switch 4.1.1?
Granite Switch 4.1.1 er en patch til 8B- og 30B-utgavene av Granite Switch 4.1. Ifølge IBMs lansering hos Hugging Face er basemodellen ikke beregnet eller trent på nytt. IBM har i stedet oppdatert Decision-adapteren og byttet inn en nyere Granite Speech-encoder.
Decision er en aktivert LoRA-adapter, ofte skrevet aLoRA, som velger mellom forhåndsdefinerte alternativer og returnerer en sannsynlighetsfordeling. Den kan for eksempel rute en kundesak til riktig avdeling eller vurdere hvilken handling en agent bør ta. I 4.1.1 har adapteren fått forbedrede vekter, men promptformatet, aktiveringen og avlesningen er beholdt.
Taledelen bruker Granite Speech 5.0 TurboCTC med 470 millioner parametere. Den kan nå transkribere engelsk, fransk, tysk, spansk, portugisisk, italiensk og japansk, med tegnsetting og store bokstaver i resultatet. modellkortet for Granite Switch 4.1.1 oppgir de samme sju språkene og viser at 4.1-versjonen bare hadde engelsk tale.
Her har IBM for øvrig en liten dokumentasjonsglipp. Lanseringsteksten omtaler tale på ti språk, mens både Switch-modellkortet og modellkortet for Granite Speech 5.0 TurboCTC navngir sju. Når du skal bygge noe, er den konkrete språklisten i modellkortene den tryggeste å forholde seg til.
Hvorfor ligner dette mer på en programvareoppdatering?
Vanlig programvare består av deler som kan versjoneres hver for seg. En feilretting i én modul krever ikke at hele operativsystemet skrives på nytt. Granite Switch prøver å gi modellstakken noe av den samme egenskapen: Basemodellen leverer den generelle språkforståelsen, mens mindre adaptere og encodere tar seg av avgrensede oppgaver.
I denne patchen trengte IBM bare å trene den nye talemodellen og de nye vektene til Decision-adapteren. Resten ble ikke beregnet på nytt. Deretter kunne komponentene settes sammen til en ny versjon av samme Switch-modell. Det er en langt mer ryddig oppdateringshistorie enn «last ned en helt ny modell og håp at alt oppfører seg likt».
Versjoneringen er også konkret. Hovedgrenen i modellarkivet peker på den nyeste utgaven, mens tidligere utgaver har egne tagger. Vil du beholde den opprinnelige 4.1-utgaven, kan du feste innlastingen til revisjonen granite-switch-4.1-30b. Den nye patchen har taggen granite-switch-4.1.1-30b. Det gjør kontrollert utrulling, sammenligning og tilbakerulling mulig uten at modellnavnet må endres i hele applikasjonen.
Hva betyr patchen i praktisk drift?
Den største gevinsten er at egenskaper kan endres i ulik takt. En bedrift kan beholde en basemodell den allerede har testet, samtidig som en spesialisert beslutningsfunksjon eller tale-encoder får en ny versjon. Det reduserer ikke behovet for testing, men det gjør endringen lettere å avgrense og forstå.
Granite Switch 4.1.1 30B kombinerer en basemodell på 30 milliarder parametere med et kontekstvindu på 128K tokens og to aktiverbare adaptere: Decision og Guardian Core. I tillegg ligger tale-encoderen på 470 millioner parametere i samme sammensatte modell. Chat, beslutninger, sikkerhetsvurdering og tale til tekst kan dermed betjenes fra ett endepunkt.
IBM tilbyr også en 8B-utgave med samme kombinasjon av chat, Decision, Guardian og tale. Det gjør arkitekturen mer aktuell for lokale oppsett enn om 30B var eneste valg. Den forrige Granite 4.1-utgivelsen viste allerede hvorfor 3B, 8B og 30B dekker ganske forskjellige maskiner og arbeidsmengder.
Modellen har Apache 2.0-lisens og kan kjøres med Transformers eller vLLM. Det er viktig fordi en ryddig oppdateringsmodell ikke hjelper mye hvis den bare finnes bak ett lukket API. Her kan du feste en revisjon, kjøre den i egen infrastruktur og bestemme når patchen skal inn i produksjon.
Det gjør også feilsøking mer håndterlig. Hvis en ny beslutningsadapter gir dårligere resultater på dine saker, vet du hvilken komponent og revisjon som er endret. Du kan sammenligne den mot forrige tagg uten samtidig å måtte forklare en ny basemodell, ny kontekstlengde og helt ny oppførsel i chat. Mindre endringsflate betyr ikke null risiko, men det gir langt bedre kontroll på hva som faktisk skal måles.
For små utviklingsteam er dette kanskje den viktigste lærdommen. De færreste har tid eller maskinvare til å kvalifisere en komplett 30B-modell på nytt hver gang én spesialoppgave forbedres. Når oppdateringen er avgrenset, kan testsettet også avgrenses: beslutninger testes mot beslutninger, tale mot tale og vanlig chat mot regressjoner. Det er ganske enkelt mer likt ordentlig programvaredrift.
Dette er ikke en magisk oppdateringsknapp
Granite Switch 4.1.1 gjør komponentene mer modulære, men patchen installerer ikke seg selv i en kjørende modellserver. IBM beskriver arbeidsflyten som å velge de nyeste adapterne, sette dem sammen med basemodellen og deploye resultatet. Den nye komposisjonen må fortsatt lastes inn, testes og rulles ut som en modellversjon.
Det er heller ikke snakk om at en vilkårlig adapter kan plugges inn i dag uten videre. IBM sier at selskapet arbeider med veiledninger og et Adapter SDK for utviklere og tredjepartsleverandører. Det verktøysettet er planlagt, ikke ferdig levert i denne utgivelsen. Akkurat nå er 4.1.1 først og fremst et godt bevis på arkitekturen IBM selv kontrollerer.
Adapterne er dessuten knyttet til den aktuelle basemodellen og må brukes etter sin egen kontrakt. Decision-adapteren leses som sannsynligheter over et fast sett med svaralternativer, mens Guardian Core returnerer en sikkerhetsvurdering. Granite Core Library inneholder fire familier av LoRA-adaptere, men bare de adapterne som faktisk er satt sammen i sjekkpunktet, er tilgjengelige der.
Hva betyr taleoppdateringen for norske brukere?
Norsk er ikke blant de sju språkene Granite Speech 5.0 TurboCTC støtter i denne utgaven. Patchen dokumenterer derfor ingen norsk transkripsjonskvalitet, dialektforståelse eller robusthet mot støy. Det riktige svaret for norske løsninger er kort: Granite Switch 4.1.1 har fått bedre flerspråklig dekning, men ikke norsk.
Den separate talemodellen er trent på omtrent 153 000 timer flerspråklig lyd og produserer transkripsjoner med tegnsetting. Det er nyttig for språkene som faktisk står på listen, fordi teksten kan sendes videre til språkmodellen uten et eget formateringspass. Men gode engelske eller tyske målinger sier ingenting sikkert om norsk tale.
Det finnes også en teknisk begrensning IBM selv er tydelig på: Tale-encoderen og språkmodellen er ikke fellestrent. Lyd blir først transkribert, og teksten settes deretter inn i samtalekonteksten. En feil i transkripsjonen kan dermed endre hva språkmodellen eller Decision-adapteren reagerer på, uten at resten av systemet nødvendigvis oppdager feilen.
Hvem bør vurdere Granite Switch 4.1.1 nå?
Patchen er mest relevant for dem som allerede vurderer Granite Switch til lokale eller selvhostede arbeidsflyter. Har du 4.1 i et testmiljø, gir 4.1.1 en ryddig anledning til å sammenligne to revisjoner med samme grunnarkitektur. Fest den gamle taggen, rull ut den nye ved siden av og mål nøyaktig de oppgavene adapteren skal gjøre.
Decision-resultatene bør behandles som støtte til en beslutning, ikke som en sertifisert klassifisering i domener modellen ikke er testet for. IBM anbefaler selv å overvåke adapterresultatene, særlig i sikkerhetskritiske bruksområder. En sannsynlighet er nyttig informasjon. Den er ikke en ansvarsfraskrivelse med desimaler.
For nye brukere er arkitekturen mer spennende enn selve patchlisten. Ett sjekkpunkt kan allerede håndtere chat, sikkerhetsvurderinger, valg mellom alternativer og tale til tekst. Den tidligere Granite 4.2-saken om lokale AI-agenter peker i samme retning: Lokale modeller blir mer nyttige når de får tydelige roller i en hel arbeidsflyt, ikke bare når de får flere parametere.
Jeg liker tanken IBM viser fram her. AI-modeller trenger ikke være enorme, udelelige pakker som kastes hver gang én egenskap forbedres. Stabil base, versjonerte adaptere og kontrollerbar utrulling er en mer moden måte å drifte modeller på. Granite Switch 4.1.1 er fortsatt et tidlig steg, men versjonsnummeret har faktisk innhold. Det er mer enn man kan si om mange AI-lanseringer.
Ofte stilte spørsmål
Er Granite Switch 4.1.1 en helt ny basemodell?
Nei. IBM har beholdt Granite 4.1-basen og oppdatert Decision-adapteren og den innebygde tale-encoderen. Det er nettopp poenget med patchen: Nye spesialegenskaper kan settes sammen med en stabil base uten at hele modellen trenes på nytt.
Kan jeg fortsette å bruke Granite Switch 4.1?
Ja. Den forrige utgaven ligger som en egen revisjon som kan festes ved innlasting. For 30B-modellen er taggen granite-switch-4.1-30b, mens 4.1.1 har sin egen tagg. Dermed kan du teste patchen før du flytter produksjonstrafikken.
Støtter Granite Switch 4.1.1 norsk tale?
Nei. Modellkortene oppgir engelsk, fransk, tysk, spansk, portugisisk, italiensk og japansk. Norsk uttale, dialekter, støy og avbrytelser er ikke dokumentert for denne talemodellen, og artikkelen er ikke en egen norsk test.
Kan utviklere lage egne Granite Switch-adaptere?
IBM planlegger veiledninger og et Adapter SDK for egne og tredjeparts adaptere, men dette er ikke ferdig levert med 4.1.1. I dag kan du bruke og komponere de tilgjengelige Granite-adapterne etter modellens dokumenterte oppsett.
