Kan en AI-modell på 230 millioner parametere faktisk brukes til noe? LFM2.5 sier ja
230 millioner parametere og 42 tokens per sekund på en Raspberry Pi 5. Det er ikke tall du ser fra de store laboratoriene som skriker om milliardmodeller, men det er nettopp det Liquid AI leverte da de slapp LFM2.5-230M i helgen.