Browsing Tag

AI-komprimering

3 innlegg
Jan Sverre ser skeptisk på NVIDIA sin kvantisering av Alibabas Qwen3-27B modell for serverklasse GPU-er

Qwen3.6-27B i NVFP4 – NVIDIA kvantiserer Alibabas modell for Hopper og Blackwell

NVIDIA har kvantisert Qwen3.6-27B til NVFP4-format for Hopper og Blackwell GPU-er. Her er hva det betyr i praksis – og hvem det faktisk er relevant for.
  • 30. juni 2026
  • 32 visninger
  • 4 minutter lesetid
Jan Sverre ved oversetterbord med skjermer som viser tekst på mange språk - Tencent Hy-MT2 AI-oversettelse

Tencent Hy-MT2 – oversettelsesmodell i tre størrelser med 36 språk

Tencent lanserer Hy-MT2 – en familie av oversettelsesmodeller i 1.8B, 7B og 30B-A3B MoE. Støtter 36 språk og kjører lokalt ned til 440 MB.
  • 21. mai 2026
  • 115 visninger
  • 4 minutter lesetid
Jan Sverre studerer ytelsesdata fra DeepSeek V4 Flash kjørt på fire RTX 2080 Ti-er

DeepSeek V4 Flash lokalt på fire RTX 2080 Ti – 255 tokens per sekund for under 25 000 kr

Noen kjørte DeepSeek V4 Flash lokalt på fire brukte RTX 2080 Ti-er til under 25 000 kr – og fikk 255 prefill tokens per sekund. Her er hva de brukte og hvordan det fungerer.
  • 20. mai 2026
  • 108 visninger
  • 4 minutter lesetid