Fra arkivet
En bruker på Reddit delte nylig sitt hjemme-AI-oppsett: to gamle RTX 2080 Ti med 22GB VRAM hver, koblet i ett system og kjørende Qwen3.6 27B til 38 token/s. Det er litt av et regnestykke, og det minner meg om at god lokal AI ikke alltid handler om å kjøpe det nyeste og dyreste.
En utvikler lot en liten AI-modell trene på sine egne feil med GRPO og verifiable rewards - uten menneskeskrevet data. Resultatet: 80 % på…
En billion parametere, MIT-lisens og benchmarks som visstnok slår både GPT-5 og Claude Opus 4.7 på visse oppgaver. Det er påstandene bak Ring-2.6-1T, den nye flaggskipsmodellen fra inclusionAI som nylig dukket opp på Hugging Face.
Detaljert benchmark av RTX 5090 ved ulike strømnivåer: prompt parsing, token-generering og strøm-effektivitet for lokal LLM-kjøring. Hvor er sweet spot?
De fleste som kjører lokal LLM bruker den til koding eller chat. Men det finnes et bruksområde som er langt mer interessant - og underutnyttet: å bruke en lokal modell som din personlige, private kunnskapsbase. Dump inn egne notater, PDF-er, fakturaer, møtereferater, helsedokumenter - og spør om alt uten at en eneste byte forlater maskinen din.
DramaBox fra Resemble AI er en open source TTS-modell som kloner stemmer og styrer latter, sukk og pauser via tekstprompt. Krever 24 GB VRAM.
Thinking Machines Lab har sluppet en research preview av TML-Interaction-Small - en 276 milliarder parameter MoE-modell som gjør noe de fleste AI-modeller ikke klarer: den hører og snakker på samme tid.
Ovis2.6-80B-A3B er en ny multimodal AI-modell fra AIDC-AI som gjør noe ganske smart: den pakker 80 milliarder parametere inn i en Mixture-of-Experts-arkitektur, men bruker bare rundt 3 milliarder under inferens.
En utvikler har fått Andrej Karpathys TinyStories-260K transformer-modell til å kjøre lokalt på en umodifisert Game Boy Color - uten PC, Wi-Fi eller sky.…
Luce har nå portert DFlash og PFlash til AMD Ryzen AI MAX+ 395 - den kraftige APU-en med 128 GB unified memory som sitter i Asus ROG Ally X og lignende maskiner. Det betyr at Qwen3.6-27B nå kjører 2,23 ganger raskere i decode og 3,05 ganger raskere i prefill sammenlignet med vanlig llama.cpp HIP på samme hardware.
Needle er en 26 millioner parameter modell fra Cactus Compute som distillerer Gemini 3.1 tool calling ned i en "Simple Attention Network". Kjører 6…
Alice v1 er en 14-milliarder parameter open source videogenereringsmodell fra Mirage, lansert mai 2026 med Apache 2.0-lisens. Modellen bruker en spesiell destillasjonsteknologi kalt rCM (score-regularized consistency distillation) og hevder å produsere videoer av høyere kvalitet enn lukkede modeller som Sora og Veo - på bare 4 inferenstrinn mot de vanlige 50.
Anthropic lanserte 11. mai 2026 Claude Platform on AWS - en ny tjeneste som lar deg få tilgang til hele Claude-plattformen gjennom AWS-kontoen din. Det er ikke det samme som Claude på Amazon Bedrock, og den forskjellen er viktigere enn du kanskje tror.
LipDub er et nytt open source-verktøy for lipsync fra Lightricks bygget på LTX-2.3. Med IC-LoRA regenererer det dialog og leppebevegelser i én enkelt diffusjonspasning…
En utvikler leverte nylig noe ganske sprøtt på AMD x lablab-hackathonen: én setning inn, ferdig cinematic MP4 ut - komplett med karakterer, story, musikk og voice-over på opptil ni språk. Alt på én enkelt GPU. Alt open source. Pipelinen heter One-Prompt-to-Cinematic-Reel og er tilgjengelig på GitHub.
En entusiast har bygget et PC-bygg basert på Intel Optane Persistent Memory - diskontinuert serverminne med opptil 512 GB per DIMM - og klarer…