Browsing Tag

DFlash

3 innlegg
Jan Sverre midt i kappløpet mellom Xiaomis hovedmodell og DFlash-akseleratoren

MiMo-V2.5-DFlash kan gjøre lokal AI raskere – men oppskriften mangler

MiMo-V2.5-DFlash har fått offisielle vekter på Hugging Face. Se hva Xiaomi har publisert, hvordan DFlash virker og hvorfor ytelsen fortsatt er ukjent.
  • 13. juli 2026
  • 62 visninger
  • 7 minutter lesetid
Jan Sverre ser på ytelsestall fra BeeLlama DFlash på RTX 3090 - 177 tokens per sekund

Slik får du nesten 5x raskere lokal AI på én RTX 3090 – BeeLlama v0.2.0 forklart

BeeLlama v0.2.0 gir opptil 4,9x raskere tekstgenerering med Gemma 4 31B og Qwen3.6 27B på én enkelt RTX 3090 – uten ekstra maskinvare.
  • 27. mai 2026
  • 108 visninger
  • 5 minutter lesetid
Jan Sverre utforsker Gemma-4-31B-it-DFlash og spekulativ dekoding med DFlash-teknikken

Gemma-4-31B-it-DFlash – spekulativ dekoding for Googles åpne modell

Gemma-4-31B-it-DFlash er en ny variant av Googles Gemma 4 31B utgitt av Z Lab, med DFlash spekulativ dekoding som kan gi opptil 8x raskere inferens. Llama.cpp-støtte er under utvikling via PR #22105.
  • 1. mai 2026
  • 180 visninger
  • 4 minutter lesetid