Google hadde ChatGPT før ChatGPT – og lot det ligge

Google hadde teknologien, forskerne og infrastrukturen som kunne gitt selskapet et ChatGPT-lignende produkt før ChatGPT. Ifølge en av forskerne som jobbet på systemet, fantes LMChat omtrent ett år før OpenAI lanserte ChatGPT. Google lot det ligge.

Det er en langt større historie enn at fire profiler nå forlater Google for å starte Discovery Loop. Avgangene er den ferske konsekvensen og det konkrete signalet. Selve historien handler om hvordan et selskap kan være først på teknologien, ta fornuftige beslutninger for dagens virksomhet og likevel gi fra seg initiativet til noen som tør å forstyrre markedet.

Google manglet ikke AI. Selskapet manglet kanskje tillatelsen, insentivene og viljen til å la den nye løsningen spise av søk og annonser. Det er innovatørens dilemma i ganske ren form – og en lærdom som gjelder langt flere enn Google.

Google bygget mye av grunnlaget for moderne AI

Det er vanskelig å overdrive hvor sterkt Google sto faglig. Forskere fra Google Brain og Google Research publiserte Attention Is All You Need i 2017 og introduserte Transformer-arkitekturen som moderne språkmodeller bygger videre på. De åtte forfatterne var Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan Gomez, Lukasz Kaiser og Illia Polosukhin – ikke de fire som nå starter Discovery Loop.

Samtidig leverte DeepMind AlphaGo, AlphaStar og AlphaFold. Google bygget TPU-er, TensorFlow og infrastrukturen som gjorde det mulig å trene og kjøre enorme modeller i stor skala. Selskapet satt altså både på forskningen, brikkene, datasentrene, talentene og distribusjonen.

Likevel var det OpenAI som gjorde en samtalebasert språkmodell til et produkt hele verden forsto. Det er den ubehagelige delen. Google ble ikke tatt på senga fordi selskapet manglet kunnskap. Det kan ha blitt tatt på senga fordi kunnskapen ikke fikk lov til å bli et produkt som utfordret det Google allerede tjente svært godt på.

Hvordan kunne Google ha ChatGPT før ChatGPT?

Thibault Sottiaux sier han var på teamet som utviklet LMChat, og beskriver systemet som noe tilsvarende ChatGPT omtrent ett år før ChatGPT kom. Han skriver også at Google var for nervøs til å lansere det, og at DeepMind ble hindret i å sende produkter som kunne forstyrre Google.

Dette er en navngitt førstehåndspåstand, ikke en offentlig produkttest. Det finnes ikke nok åpent materiale til å slå fast hvor god LMChat var, hvor bredt den fungerte eller om den ville fått samme gjennomslag som ChatGPT. Det presise poenget er derfor at Google hadde et ChatGPT-lignende system før ChatGPT, men lot være å lansere det.

Hvis Sottiaux har rett, er dette historiens kjerne. Det er innovatørens dilemma i praksis. Google så ikke bare en spennende chatbot. Selskapet så også et produkt som kunne endre hvordan folk fant informasjon – og dermed utfordre selve maskinen som betalte regningene.

Hvorfor det var rasjonelt å holde igjen

Google Search og annonser var en usedvanlig lønnsom kombinasjon. Brukeren skrev et spørsmål, Google viste lenker, annonser og flere muligheter til å fortsette søket. Et direkte AI-svar gjør noe annet: Det forsøker å avslutte jakten med ett samlet svar.

For brukeren kan det være bedre. For en søkemotor bygget rundt lenker og annonseflater kan det være kannibalisering. Et AI-svar kan gi færre klikk, færre synlige annonseplasser og mindre kontroll over reisen videre. Hvorfor skulle en leder frivillig skynde seg å bytte ut en ekstremt lønnsom modell med en dyr, uforutsigbar tjeneste som kanskje tjente mindre penger?

Det fantes også en mulig produkt- og omdømmerisiko. Språkmodeller er ikke deterministiske på samme måte som tradisjonell programvare. De kan finne på ting, svare ulikt fra gang til gang og produsere innhold selskapet ikke ønsker å stå inne for. Det er en plausibel grunn til nervøsiteten, men ikke et dokumentert motiv jeg kan legge i munnen på Google-ledelsen.

På kort sikt kan det derfor ha vært helt logisk å vente. Det er nettopp derfor innovatørens dilemma er vanskelig. Problemet oppstår ikke nødvendigvis fordi ledelsen er dum. Det oppstår fordi gode beslutninger for dagens kunder, inntekter og risikobilde kan bli årsaken til at selskapet mister morgendagens marked.

Innovatørens dilemma handler om mer enn teknologi

Google hadde mye av det selskapet trengte for å bygge framtiden. Men teknologi alene bestemmer ikke hva en stor organisasjon faktisk sender ut. Det krever budsjett, intern støtte, et tydelig mandat og noen som får lov til å ta risikoen når det nye produktet truer det gamle.

En mulig forklaring er organisatorisk treghet. Store selskaper får mange beslutningslag fordi de trenger kontroll. De belønner stabile leveranser, budsjettdisiplin og beskyttelse av virksomheten som allerede virker. Mellomledere kan også beskytte revir og måles på kortsiktige resultater. Et radikalt produkt truer ikke bare inntekter – det kan gjøre team, planer og interne posisjoner mindre viktige.

Det er vanskelig å vite hvor mye dette forklarer hos Google. Mellomledelse og kultur er plausible forklaringer, men fortsatt spekulasjon, og det finnes ikke grunnlag for å anklage navngitte ledere. Mekanismen er likevel troverdig: Jo flere personer som må si ja, desto flere muligheter finnes det for at et farlig nytt produkt blir gjort litt tryggere, litt mindre forstyrrende og til slutt litt for sent.

Det er derfor startups ofte vinner uten å ha bedre forskning. De kan ta beslutningen. De trenger ikke forsvare et gammelt marked, en etablert annonsemodell eller ti interne avdelinger som lever av dagens løsning.

Demis Hassabis velger mer avstand til kvartalskampen

Demis Hassabis forlater ikke Google DeepMind. Han går over til styreleder i Google DeepMind og vitenskapelig sjef i Alphabet. Koray Kavukcuoglu overtar den operative ledelsen. I Googles egen melding om endringene er begrunnelsen uttrykkelig at Hassabis skal få mer plass til langsiktig strategi, vitenskapelige gjennombrudd og arbeidet i Isomorphic Labs.

Det er ikke det samme som å flykte fra Google, og han har ikke sagt at han vil bort fra produktpress eller kvartalstall. Likevel er det relevant at en av verdens mest profilerte AI-ledere velger en rolle med større avstand til den daglige driften akkurat nå. En mulig lesning er at han mener langsiktig vitenskap trenger et annet beslutningsrom enn den operative kampen om modeller, apper og markedsandeler.

Den andre lesningen er mer jordnær: Google deler en enorm jobb i to. Kavukcuoglu får ansvar for å levere produkter, mens Hassabis får konsentrere seg om forskning og strategi. Begge kan være riktige samtidig. Jeg skrev kort om lederendringen og Hassabis-sporet på Facebook, men Discovery Loop gjør bildet bredere enn en vanlig lederkabal.

Hvorfor fire avganger samtidig er oppsiktsvekkende

Jeff Dean forlater Google etter 27 år og starter Discovery Loop sammen med Sanjay Ghemawat, Quoc Le og Oriol Vinyals. Dean skrev 5. august at han har sett Google vokse fra 25 til mer enn 190 000 ansatte. Det er ikke en tilfeldig gruppe som tar med seg hver sin laptop og prøver lykken.

Teamets bredde er poenget. Dean og Ghemawat forbindes med den tekniske grunnmuren bak blant annet Google File System, MapReduce og Bigtable. Le og Vinyals bringer tung erfaring fra nevrale nettverk, språkmodeller og DeepMind-forskning. Teamets egen oversikt knytter de fire samlet til produkter, infrastruktur, brikker, modeller og vitenskapelige AI-systemer gjennom 10 til 30 år. Det betyr ikke at alle fire personlig bygde alt på listen.

Det oppsiktsvekkende er at et så bredt lag går samlet. Selv stor intern innflytelse kan være mindre verdt enn selvstendig beslutningsmakt. Google kunne antakelig tilbudt Jeff Dean nesten hva som helst av budsjett og regnekraft, men det er et tankeeksperiment – ikke dokumentasjon på hva han faktisk ble tilbudt.

Spørsmålet er likevel godt: Hvis du allerede er blant de mest innflytelsesrike teknologene i et av verdens rikeste selskaper, hva er det du bare kan få ved å gå? Det mest nærliggende svaret er retten til å bestemme hva som bygges, hvor raskt det skjer og hvor mye det får lov til å forstyrre.

Discovery Loop kan automatisere selve oppdagelsen

Discovery Loop beskriver målet som å automatisere discovery for å få fart på vitenskap og ingeniørarbeid. Det kan bety systemer som foreslår hypoteser, planlegger eksperimenter, tolker resultater og forbedrer neste runde. I stedet for at AI bare svarer på et spørsmål, kan den bli en del av en kontinuerlig oppdagelsessløyfe.

Det er foreløpig en ambisjon, ikke et ferdig produkt. Men kombinasjonen av modellforskning, systeminfrastruktur, brikker og produkter gjør laget spesielt interessant. Hvis de klarer å koble modeller til virkelige eksperimenter og stramme forbedringssløyfer, kan ringvirkningene bli store innen alt fra materialvitenskap og programvareutvikling til biologi.

Dette er heller ikke nødvendigvis en ren talentflukt. Discovery Loop er uavhengig, men Google investerer og blir Cloud-partner. Alphabet kan dermed ha funnet en måte å frikoble langsiktig forskning uten å miste hele oppsiden. Gründerne får mer frihet, mens Google beholder en teknisk og økonomisk forbindelse.

Google kan fortsatt vinne AI-kappløpet

Analysen blir for enkel hvis den ender med at Google er ferdig. Selskapet har proprietære data, TPU-er, Android, Search, YouTube, Cloud, kapital og en distribusjon nesten ingen startup kan matche. Google kan bygge en modell, sette den foran hundrevis av millioner brukere og koble den til produkter folk allerede bruker.

Gemini har også vist at Google kan flytte seg raskt når selskapet først bestemmer seg. Det har jeg skrevet mer om i analysen av hvordan Gemini snudde konkurransebildet. Google DeepMind arbeider dessuten langt utenfor chatboten, blant annet med resonnering, matematikk og vitenskapelige systemer, slik denne gjennomgangen av DeepMind-forskningen viser.

En mulig strategi er at Google går hardere inn i åpne modeller gjennom Gemma og lar TPU-er og Cloud tjene på at åpne modeller sprer seg. Det er min analyse, ikke Googles kunngjorte plan. Oppsiden er tydelig: Google kan gjøre infrastrukturen til vinneren uansett hvilken åpen modell utviklere velger.

Begrensningen er at åpne modeller ikke automatisk løser produktkultur, distribusjon eller insentiver. De kan også gjøre det lettere for konkurrenter å bygge utenfor Googles egne tjenester. Strategien virker derfor best som et tillegg til sterke egne produkter, ikke som en erstatning for dem.

Lærdommen for mindre bedrifter er ubehagelig enkel

Det er fristende å lese dette som underholdende drama blant milliardbedrifter. Men mekanismen finnes i mindre skala overalt. En bedrift kan kjøpe de samme AI-verktøyene som konkurrenten og fortsatt tape fordi ingen får lov til å endre arbeidsmåten, kutte et gammelt ledd eller utfordre produktet som gir dagens inntekter.

Tilgang til teknologi er ikke nok. Beslutningsrom, insentiver og evnen til å kannibalisere egen arbeidsmåte betyr minst like mye. En startup kan være svakere på kapital, data og kompetanse, men sterkere på det ene som teller i et teknologisk skifte: Den kan si ja.

Google hadde forskningen. Google hadde infrastrukturen. Ifølge Sottiaux hadde Google også et ChatGPT-lignende system omtrent ett år før ChatGPT. Selskapet lot det ligge fordi det nye kunne forstyrre det gamle. Nå går fire av menneskene som bygget store deler av grunnlaget ut for å skape sitt eget beslutningsrom.

Google kan fortsatt vinne. Men da holder det ikke å ha framtiden liggende internt. Noen må få lov til å slippe den ut.

Ofte stilte spørsmål