Browsing Tag

LiteLLM

2 innlegg
Mann i hettegenser studerer ytelsessammenligning mellom Ollama og llama.cpp på terminal-skjerm i mørkt hjemmekontor

Trenger lokal LLM-økosystemet Ollama? Kanskje ikke

Ollama er populært, men er det det beste verktøyet for lokal AI-kjøring? llama.cpp er 1,8x raskere, og alternativer som LM Studio, Jan og ramalama er modnet. Her er hva debatten handler om.
  • 16. april 2026
  • 96 visninger
  • 4 minutter lesetid
Jan Sverre analyserer LiteLLM supply chain-angrep foran skjermer med kode og feilmeldinger i mørkt rom

LiteLLM supply chain-angrep – slik ble 3,4 millioner daglige nedlastinger kompromittert

LiteLLM versjon 1.82.7 og 1.82.8 ble 24. mars 2026 kompromittert med credential-stjeler skadevare. TeamPCP brukte Trivy-sikkerhetsskanneren som springbrett for å stjele LiteLLMs PyPI-token – og dermed API-nøkler, SSH-nøkler og skykredentialer fra 3,4 millioner daglige nedlastinger. Her er hva som skjedde og hva du bør gjøre.
  • 26. mars 2026
  • 83 visninger
  • 4 minutter lesetid