Jan Sverre Bauge

Fra arkivet

Flere nyheter og erfaringer

Nyheter og erfaringer

Mine prosjekter ↗
Jan Sverre tester FLUX.2 small decoder med Python-kode på skjermen sent på kvelden

FLUX.2 small decoder – raskere VAE og lavere VRAM-bruk

Black Forest Labs lanserte FLUX.2-small-decoder denne uken - en destillert VAE-dekoder som fungerer som en direkte utskifting av den vanlige FLUX.2-dekoderen. Resultatet er ~1,4x raskere dekoding og tilsvarende redusert VRAM-bruk, med minimalt kvalitetstap. Og ja - den er Apache 2.0, altså helt fri å bruke kommersielt.

Jan Sverre ved siden av en lysende data-blekksprut i et serverrom som symboliserer Octopoda minnelag for AI-agenter

Octopoda – persistent minnelag for lokale AI-agenter uten sky

Octopoda er et åpen kildekode-minnelag for lokale AI-agenter. Ingen sky. Ingen API-nøkler. Ingen data som forlater maskinen din. Det løser et problem alle som har bygget agenter kjenner: agenten husker ingenting mellom sesjonene - du starter på nytt hver gang du starter programmet på nytt.

Jan Sverre utforsker Gemma Gem Chrome-utvidelsen med AI-chat overlay i nettleseren

Gemma Gem – AI-agent i nettleseren uten API-nøkler eller sky

Gemma Gem er en Chrome-utvidelse som kjører Googles Gemma 4-modell direkte i nettleseren via WebGPU - uten API-nøkler, uten sky, uten at data forlater maskinen din. Prosjektet ble lagt ut på Hacker News og fikk raskt oppmerksomhet: en liten AI-agent som sitter på siden du besøker og faktisk kan gjøre ting.