Alt jeg har skrevet om
Data & IT
55 innlegg
Teknologi utover AI. Hardware, software, nettverk, sikkerhet og alt det nerdete jeg har drevet med i årevis. Ikke alt handler om kunstig intelligens – noen ganger er det ren og skjær datanerderi.
llama.cpp b9095 – NCCL-Free Tensor Parallelism på dual Blackwell PCIe
llama.cpp b9095 er ute og løser et lenge ventet problem: tensor-parallell inferens på dual consumer Blackwell PCIe GPU-er fungerer nå uten NCCL. Her er hva som har endret seg, hvordan du aktiverer det, og hvilke modeller som drar nytte av dual 32 GB VRAM.
LLMSearchIndex – lokal websøk med 203 millioner sider for RAG
LLMSearchIndex er et open source Python-bibliotek som lar deg søke på internett lokalt – uten Brave API, SearXNG eller andre betalte tjenester. Over 203 millioner indekserte sider fra FineWeb og Wikipedia, komprimert til en FAISS-indeks som kjører på vanlig hardware med 6 GB RAM.
Retten til å bli glemt – når Google AI husker alt du vil glemme
Google AI Overviews oppsummerer deg basert på det verste du har gjort. En mann i 40-årene finner at ett søk på hans navn avslører kriminell fortid – selv om han har rehabilitert seg. Hva er egentlig retten til å bli glemt, og hva kan du gjøre?
