Browsing Tag

lokal AI

6 innlegg

Lokal AI deployment og edge computing

Jan Sverre inspiserer en AI-modellplan der MTP-seksjonen er merket som utilgjengelig og låst til LiteRT

Gemma 4 og MTP – Google fjernet ytelsesboost fra offentlig modell

Google bekreftet via Hugging Face at Multi-Token Prediction er fjernet fra de offentlige Gemma 4-modellene. Den fulle versjonen med MTP finnes bare i LiteRT-formatet – som har 8 000 nedlastninger mot over én million for GGUF og safetensors. DeepSeek og Qwen gjorde det ikke slik.

9. april 2026
28 visninger
5 minutter lesetid

Jan Sverre holder to kraftige energistrømmer fra øst og vest fra hverandre - symboliserer dragkampen mellom kinesisk og vestlig AI

DeepSeek – den kinesiske AI-utfordreren forklart (2026)

DeepSeek er det kinesiske AI-selskapet som sjokkerte Silicon Valley og senket Nvidia-aksjen 18 % på én dag. Her er alt du trenger å vite om modellene, prisene, sensureringen og personvernproblemene – og hvem som faktisk bør bruke det.

4. april 2026
39 visninger
9 minutter lesetid

Jan Sverre dirigerer et nettverk av open source AI-modeller som Llama, Qwen og Mistral lokalt på egen maskin

Open source AI – komplett guide (2026)

Alt du trenger å vite om open source AI i 2026: hva open weights faktisk betyr, de beste modellene (Llama, Qwen, Mistral, DeepSeek), verktøy for lokal kjøring, og når open source slår lukkede alternativ.

3. april 2026
49 visninger
8 minutter lesetid

Jan Sverre klemmer glødende tallblokker sammen som komprimeres fra 16-bit til 4-bit i sci-fi visning av TurboQuant vektkomprimering

TurboQuant for weights – 4-bit vektkomprimering med nær-optimal presisjon

TurboQuant-algoritmen fra Google er blitt tilpasset for modellvekter – ikke bare KV-cache. Resultatet: 4-bit kvantisering med nær-optimal presisjon, 3,2x minnebesparelse, og et 8-bit residuallag som gir null perplexity-tap.

27. mars 2026
49 visninger
4 minutter lesetid

Jan Sverre holder tilbake røde AI-agenter med et grønt sikkerhetsskjold - NemoClaw beskytter OpenClaw mot trusler

NemoClaw – Nvidia tar kontroll over AI-agentrevolusjonen

NemoClaw er Nvidias open-source sikkerhetslag for OpenClaw, lansert under GTC 2026. Her er hva det faktisk gjør, hvorfor det kom og om DGX Spark til 55 000 kr er fornuftig for norske bedrifter.

18. mars 2026
44 visninger
4 minutter lesetid

Jan Sverre presenting small AI models with holographic visualization, demonstrating accessible AI technology for Norwegian businesses

Den lille AI-revolusjonen som løser GDPR-marerittet ditt

Små AI-modeller løser GDPR-marerittet for norske bedrifter. Kjør AI lokalt på laptopen din, spar 90-96% på kostnader, og forenkle compliance. IBM Granite, Viking 7B, og Phi-4 gjør enterprise AI tilgjengelig for SMB.