Kan Un-0 kutte AI-strømregningen med 1 000 ganger? Databricks-veteran mener ja

AI-industrien har et strømproblem, og det er ikke akkurat hemmelig. Nå hevder Naveen Rao – mannen som ledet AI-arbeidet hos Databricks – at han har funnet en tilnærming som kan kutte energiforbruket ved AI-inferens med inntil 1 000 ganger. Selskapet hans heter Unconventional AI, og i går slapp de sin første modell: bildegeneratoren Un-0.

Påstanden er stor. Veldig stor. Men Rao er heller ikke hvem som helst – han har bakgrunn fra Intel og Nervana, var med på å bygge AI-infrastrukturen hos Databricks, og vet godt hvordan bransjen tenker på strøm og ytelse. Det gjør det vanskelig å avvise ham med én gang.

Kjernen i teknologien er en helt annen dataarkitektur enn det vi er vant til fra tradisjonelle LLM-brikker og GPU-basert inferens. Unconventional AI bygger på en oscillator-basert tilnærming – en type beregning som er fundamentalt forskjellig fra klassisk digital arkitektur. Tanken er at oscillatorer naturlig kan gjøre visse beregninger som AI trenger mye mer energieffektivt enn en vanlig GPU vil. Un-0 er den første demonstrasjonen av at dette faktisk kan fungere til noe nyttig.

Hva er Un-0 og hva klarer den?

Un-0 er et bildegeneringssystem – altså ikke en tekstmodell eller et agentsystem, men en modell som lager bilder fra tekst-prompter. Rao og teamet sammenligner ytelsen med Stable Diffusion og OpenAIs GPT Image 1, og hevder Un-0 holder seg godt i dette selskapet basert på tester kjørt i software-simulering av oscillator-brikkene.

Det er et viktig forbehold: per nå er det snakk om en simulering av maskinvaren, ikke faktiske fysiske brikker som kjører. Brikkeskjemaene er planlagt sluppet snart, og deretter skal selskapet bygge en fullstendig inferensstakk. Unconventional AI har under 50 ansatte, som betyr at tidslinjen fra «vi har vist at det fungerer i simulering» til «her er en brikke du kan kjøpe» fortsatt er usikker.

Likevel er det interessant at de valgte bildegenerering som første bevis-på-konsept. Det er et område der energiforbruket per inferens-kall kan summere seg veldig raskt, og der kvaliteten er enkel å sammenligne visuelt uten å trenge dype benchmarks.

Hvorfor strøm er kjerneproblemet for AI akkurat nå

Det er egentlig ikke overraskende at noen prøver å angripe strømproblemet fra et hardware-ståsted. Datasentrene som kjører AI-inferens er i ferd med å bli en vesentlig del av energiforbruket i hele land, og noen flytter dem helt til Arktis bare for å finne billig strøm. Store aktører som Microsoft, Google og Amazon bruker hundrevis av milliarder dollar på ny datasentrum-kapasitet, og en stor del av det handler om å skaffe nok strøm. Nvidias posisjon som leverandør av AI-brikker er nettopp bygget på at GPU-er er svært gode til matrise-beregninger – men de suger strøm.

Hvis oscillator-basert arkitektur faktisk leverer i nærheten av det Rao lover, vil det snu mye på hodet. En 1 000 ganger reduksjon betyr at du i teorien kan kjøre et job som koster én kilowattime i dag for én watt. Det er ikke bare billigere – det åpner for AI-inferens på steder og enheter der det i dag er umulig av energimessige årsaker.

Det er mange andre aktører som jobber med energieffektiv AI-hardware, fra analog computing-startups til selskaper som jobber med nevromorfe brikker. Selv OpenAI og Broadcom gikk nylig sammen om en chip bygd utelukkende for AI-inferens. Unconventional AI er ikke alene, men oscillator-tilnærmingen skiller seg fra mange av de andre tilnærmingene ved å gå lenger vekk fra klassisk digital logikk.

Hva bør man tenke på før man tror på 1 000x?

Jeg er nysgjerrig, men ikke naiv. Påstander om revolusjonerende energireduksjon i AI-hardware har kommet og gått. Det er noen ting jeg vil se på før jeg setter stor lit til dette:

For det første er det enorm avstand mellom en simulering og et ferdig hardware-produkt som faktisk produseres, testes og leveres i skala. Brikkedesign er notorisk vanskelig, og å gå fra idé til funksjonerende brikke er en reise som kan ta år og koste langt mer enn forventet. Mange hardware-startups har strandet her.

For det andre er 1 000 ganger reduksjon et tall som trenger kontekst. Sammenlignet med hva, nøyaktig? En toppmoderne Nvidia H100 som kjører full-presisjon? En optimert inferens-setup med INT8-kvantisering? Det gjør stor forskjell for hvor mye tallet faktisk betyr i praksis.

For det tredje: bildegenerering er trolig et av de enklere AI-problemene å demonstrere på ny hardware. Det er ikke det samme som å vise at teknologien skalerer til store språkmodeller eller agentsystemer.

Alt dette sagt – teamet bak er seriøst, og selve ideen om at vi trenger fundamentalt nye dataarkitekturer for å løse AI’s energiproblem er helt riktig. Det er ikke nok å klemme mer ytelse ut av eksisterende GPU-paradigmet i all evighet.

Hva skjer videre med Unconventional AI?

Planen er å slippe brikkeskjemaene åpent – altså at andre kan se og potensielt bygge på designene – og deretter jobbe mot en fullstendig inferensstakk. Med under 50 ansatte er selskapet lite, men fokusert. Det minner litt om tidlige Cerebras eller Groq, som begge gikk mot strømmen og endte opp med interessante produkter, selv om veien dit var tøff.

Databricks-koblingen er verdt å merke seg. Databricks er selv aktive i AI-verktøy-rommet, og Rao kjenner industrien fra innsiden. Det er lettere å ta en spin-out seriøst når grunnleggeren vet hvilke problemer som faktisk er reelle og hvilke som er hyp.

Feltet rundt energieffektiv AI er i rask bevegelse. Nvidia er ikke garantert å beholde sin dominans i all evighet hvis noen virkelig knekker energikoden. Un-0 er ett steg – et tidlig, simuleringsbasert steg – men det er likevel interessant nok til å følge med på. Hvis brikkeskjemaene faktisk slippes og andre begynner å validere resultatene, blir samtalen en helt annen.

Ofte stilte spørsmål