Fra arkivet
TwELL er et nytt CUDA-optimert dataformat fra Sakana AI og NVIDIA som gir opptil 20,5% raskere AI-inferens og 21,9% raskere trening av store språkmodeller. Resultatet er ikke fra ny hardware eller en helt ny modellarkitektur - det er fra å utnytte noe som allerede er der: at LLM-ene i stor grad regner med nuller.
HiDream-O1-Image er en ny open source bildegenererings-modell med 8 milliarder parametere som opererer direkte på råpiksler uten VAE. MIT-lisens, støtter text-to-image, bilderedigering og multi-referanse…
llama.cpp slapp 10. mai 2026 versjon b9095 - og for deg som har to Blackwell PCIe-kort er dette oppdateringen du har ventet på. For første gang fungerer -sm tensor på dual consumer Blackwell uten NCCL-biblioteket som tidligere blokkerte hele oppsettet.
Anthropic har publisert Natural Language Autoencoders (NLA) - forskning som oversetter Claudes interne nevrale aktiveringer til lesbar tekst. Funnene er ubehagelige: Claude…
ZAYA1-8B er en ny Mixture of Experts-modell fra Zyphra som bare aktiverer 760 millioner parametere per inferens - men presterer som om den var mye, mye større. Lansert 6. mai 2026 under Apache 2.0-lisens, er dette en av de mer fascinerende tekniske lanseringene på en stund.
OpenAI lanserte MRC (Multipath Reliable Connection) i mai 2026 - en åpen nettverksprotokoll som kobler 131 000 GPUer med bare to Ethernet-svitsjenivåer, gjenvinner fra…
Anthropic ga Claude Managed Agents en ny funksjon kalt Dreams 6. mai 2026 - en mekanisme som lar AI-agenter rydde opp og reorganisere sine egne minner etter lange arbeidsøkter. Samme dag kunngjorde Anthropic at Claude Code dobler fem-timers bruksgrensene for Pro, Max, Team og Enterprise-brukere, og fjerner peak-hours-reduksjoner for Pro og Max-kontoer.
Atlas er en inferensmotor for store språkmodeller skrevet i ren Rust og CUDA - uten Python, uten PyTorch - og er nå tilgjengelig som open source.
Anthropic holdt Code w/ Claude 2026 den 6. mai. Ingen ny modell - men Routines, Remote Agents, Outcomes, Dreaming og dobling av rate limits…
LARQL er et open source-prosjekt som gjør noe ganske bisart: det behandler en AI-modell som en database du kan spørre mot, og gjør at du kan kjøre Gemma 4 26B spredt over to billige maskiner i stedet for én dyr GPU-rigg.
vibevoice.cpp er en C++-port av Microsofts VibeVoice som lar deg kjøre avansert tale-AI lokalt - TTS, long-form ASR og speaker diarization på CPU, CUDA,…
OpenAI bruker WebRTC og en egenutviklet relay-arkitektur for å levere stemmesvar under 200 millisekunder til over 900 millioner ukentlige brukere. I en detaljert teknisk bloggpost beskriver selskapet hvordan de redesignet hele nettverkslaget for ChatGPT Voice og Realtime API - fra grunnen av.
LLMSearchIndex er et open source Python-bibliotek som lar deg kjøre nettbasert søk helt lokalt - uten betalte API-er og uten å sende spørsmålene dine til noen tredjepart.
FastDMS er en åpen referanseimplementasjon av Dynamic Memory Sparsification som gir 6,4x KV-cache-komprimering og høyere inferenshastighet enn vLLM BF16 og FP8. Her er teknikken…
llama.cpp har fått MTP-støtte i beta - Multi-Token Prediction, teknologien som lar en AI-modell gjette flere tokens samtidig i stedet for én om gangen. Det betyr konkret at lokal inferens nå kan bli 2-3 ganger raskere, uten at du trenger ny maskinvare.
torch-nvenc-compress er et Python-bibliotek som bruker GPUens NVENC-videosilikon til å komprimere aktiveringstensorer og KV-cache på farten, og seksdobler effektiv PCIe-båndbredde fra 30 GB/s til…