Browsing Tag
agentisk AI
16 innlegg
Needle – 26M parameter modell distillerer Gemini tool calling til forbrukerhardware
Needle er en 26 millioner parameter modell fra Cactus Compute som distillerer Gemini 3.1 tool calling ned i en «Simple Attention Network». Kjører 6 000 tokens per sekund på forbrukerhardware. MIT-lisens, open source.
Cloudflare AI Platform – inferenslag for AI-agenter med 70+ modeller
Cloudflare AI Platform er en samlet inferenslag for AI-agenter som gir tilgang til 70+ modeller fra 12+ leverandører gjennom ett API-endepunkt. Med 330 datasentre globalt, automatisk failover og innebygd kostnadssporing er dette bygget spesifikt for produksjonsklare agentapplikasjoner.