Jan Sverre med Needle 2 som kjører lokal tool calling på svak maskinvare

Needle 2 kjører tool calling lokalt med bare 28 MB RAM

Needle 2 gjør lokal tool calling mulig i en binærfil på 14 MB. Modellen bruker rundt 28 MB RAM uten GPU eller NPU. Se hva den kan brukes til i praksis.