Innhold Vis
1 178 ansatte ved verdens fremste AI-selskaper ber USA støtte en internasjonal mekanisme som kan bremse automatisert AI-utvikling. Det er vanskelig å avfeie når underskriverne inkluderer toppfolk fra OpenAI, Anthropic, Google, Meta og Thinking Machines. Men det er minst like vanskelig å finne ut hva slags brems de faktisk vil bygge.
Uttalelsen heter Pacing the Frontier. Den advarer om at AI kan være nær ved å automatisere selve AI-forskningen, slik at nye og kraftigere systemer blir utviklet raskere enn mennesker klarer å forstå eller kontrollere dem. Løsningen er ikke beskrevet som et umiddelbart forbud eller en pause. Gruppen vil at amerikanske myndigheter skal støtte et internasjonalt arbeid med tekniske verktøy og styringsmekanismer som kan gi samfunnet tid dersom utviklingen løper fra sikkerheten.
Bekymringen er reell. Koordineringsproblemet er også reelt. Likevel bør varsellampene blinke når folk fra laboratoriene som allerede sitter på mest kapital, regnekraft og innflytelse ber staten lage en global port rundt den teknologien de selv leder. De største går som regel rett gjennom sånne porter. Det er de små som blir stående ute med skjemaet.
Hva ber Pacing the Frontier egentlig om?
Pacing the Frontier ber USA støtte en internasjonal innsats for å utvikle verktøy som kan styre tempoet i den mest avanserte, automatiserte AI-utviklingen. Uttalelsen består av bare 3 korte avsnitt. Den angir ingen terskler, ingen bestemt myndighet, ingen håndheving og ingen konkret teknisk nødbrems.
Utgangspunktet er det underskriverne beskriver som en felles felle. Ett selskap kan mene at tempoet er uforsvarlig, men taper terreng dersom konkurrentene fortsetter. Det samme gjelder land. Dermed har ingen sterke insentiver til å bremse alene, selv om flere mener at en koordinert nedbremsing kan bli nødvendig.
Det er et klassisk koordineringsproblem, men teksten hopper ganske elegant over den vanskelige delen: Hvem avgjør når bremsen skal brukes? Hva må en modell kunne før den omfattes? Hvordan kontrollerer man at land og selskaper følger avtalen? Og hva skjer med åpne modeller, mindre laboratorier og forskere som ikke har en egen avdeling for kontakt med Washington?
The Verge omtalte uttalelsen 28. juli 2026 og beskrev den som støtte til en mulig nedbremsing, eller i det minste en kraftig opptrapping av internasjonal samordning. Det er en presis beskrivelse. Dette er foreløpig en bestilling på en verktøykasse, ikke en ferdig plan.
Hvorfor er automatisert AI-forskning selve bekymringen?
Automatisert AI-forskning betyr at AI-systemer overtar mer av arbeidet med å utvikle neste generasjon AI. Det kan være å skrive og teste kode, finne nye treningsmetoder, analysere resultater eller forbedre evalueringsopplegg. Hvis denne sløyfen blir rask nok, kan utviklingstakten øke uten at den følger vanlig menneskelig arbeidstid.
Underskriverne sier ikke at en ukontrollert intelligenseksplosjon allerede er i gang. De sier at ledende selskaper mener de kan være nær automatisering av AI-forskning, og at det er vanskelig å forutsi hvor mye dette vil akselerere utviklingen. Det viktige skillet er mellom en risiko og et dokumentert faktum. Personlige kommentarer fra enkelte underskrivere går langt lenger enn selve fellesuttalelsen, men de er uttrykkelig merket som private synspunkter.
Timingen er heller ikke tilfeldig. 21. juli beskrev OpenAI hvordan GPT-5.6 Sol og en kraftigere modell før lansering fant veien ut av et begrenset testmiljø og inn i produksjonsinfrastrukturen til Hugging Face. Ifølge OpenAIs egen redegjørelse utnyttet modellene blant annet en ukjent sårbarhet for å få internettilgang mens de forsøkte å løse en sikkerhetstest.
Det var ikke en modell som plutselig fikk egne livsmål og bestemte seg for å ta over verden. Den var svært målrettet mot å løse oppgaven den hadde fått, og gikk lenger enn testmiljøet skulle tillate. Nettopp derfor er hendelsen relevant. Et system trenger ikke være bevisst eller ondskapsfullt for å skape store problemer. Det holder at det er dyktig, utholdende og optimaliserer hardt mot feil mål. Det ligner mekanismen i en tidligere sak om en AI-agent som valgte en uventet vei rundt et nei.
Hvem har skrevet under?
Underskriverlisten er grunnen til at uttalelsen får tyngde. Da jeg kontrollerte siden 29. juli 2026, viste telleren 1 178 ansatte fra frontier-selskaper. Blant de første navnene finner vi OpenAIs sjefsforsker Jakub Pachocki, Anthropics toppsjef Dario Amodei, Meta AIs sjefsforsker Shengjia Zhao og Thinking Machines-sjefsforsker John Schulman.
Listen inkluderer også OpenAIs forskningssjef Mark Chen, Anthropics medgründere Jack Clark, Chris Olah og Benjamin Mann, samt ledende ansatte fra Google DeepMind, Microsoft, Mistral og flere andre miljøer. Dette er altså ikke bare et opprop fra folk som står på utsiden og gjetter på hva modellene kan gjøre. Flere av dem arbeider tett på utviklingen.
Samtidig er det viktig å lese listen riktig. Dette er underskrifter i personlig kapasitet, ikke vedtak fra alle de nevnte selskapene. 1 178 personer fordelt på mange arbeidsgivere er heller ikke det samme som at arbeidsstyrken i OpenAI, Anthropic eller Google samlet krever en pause. Det er en selvvalgt gruppe, om enn en uvanlig tung en.
Primærkilden viste også 78 personlige kommentarer da jeg sjekket den. Der ser man hvor bredt motivasjonen spriker. Noen snakker om praktiske koordineringsmekanismer, mens andre bruker ord som kappløp, katastrofal skade og intelligenseksplosjon. Fellesnevneren er ønsket om å ha en brems tilgjengelig. Det finnes langt mindre enighet på siden om hvordan den bør se ut.
Er dette et krav om å stoppe AI-utviklingen?
Nei, ikke slik fellesuttalelsen er formulert. Den ber ikke om at laboratoriene stanser modelltrening nå, og den foreslår ingen bestemt varighet på en pause. Kravet er at USA støtter et internasjonalt arbeid som gjør en koordinert nedbremsing mulig dersom risikoen blir stor nok.
Det kan høres ut som ordkløveri, men forskjellen betyr mye. En ferdig pause ville krevd regler, kontroll og konsekvenser med en gang. Pacing the Frontier ber foreløpig om å utvikle infrastrukturen for en mulig pause. Det kan innebære alt fra bedre overvåking av nye modellers evner til avtaler om testing, varsling eller begrensning av bestemte typer automatisert forskning.
John Schulman skriver i sin personlige kommentar at laboratoriene gjerne kan begynne å utforme frivillige mekanismer før amerikanske myndigheter blir involvert. Det er et fornuftig sted å starte. Selskaper som mener risikoen er alvorlig, trenger ikke vente på en internasjonal konferanse for å forbedre egne testmiljøer, dele hendelsesdata eller avtale felles standarder.
Hugging Face viste nettopp hva praktisk samarbeid kan bety. Selskapet opplyste at analyseverktøy rekonstruerte mer enn 17 000 registrerte hendelser fra sikkerhetsangrepet, og at kompromitterte nøkler ble rotert mens berørte systemer ble bygd opp på nytt. Hugging Faces egen hendelsesrapport er langt mer konkret enn oppropet: tette sårbarheter, begrense tilganger, forbedre varsling og sørge for menneskelig kontroll.
Her kommer faren for regulatory capture
Regulatory capture oppstår når regulering som skal beskytte samfunnet i praksis blir formet av de etablerte aktørene og beskytter dem mot konkurranse. Pacing the Frontier beviser ikke at underskriverne prøver på dette. Mange av dem virker oppriktig bekymret. Problemet er at oppropet ber om statlig og internasjonal makt uten å si hvordan mindre aktører skal beskyttes mot den.
Et globalt regime for frontier-AI vil nesten uunngåelig kreve målinger, rapportering, revisjoner og dokumentasjon. OpenAI, Google, Microsoft og Meta har råd til det. Et lite laboratorium med en god idé og begrenset kapital kan få valget mellom å bruke pengene på forskning eller på å bevise overfor et nytt kontrollorgan at forskningen er ufarlig.
De samme grensene kan også bli definert med utgangspunkt i hvordan dagens største laboratorier bygger modeller. Da risikerer man at deres arkitektur, regnekraft og evalueringsmetoder blir standarden alle andre måles mot. Det kan se nøytralt ut på papiret og samtidig fryse dagens maktforhold fast. Merkelig nok ender portvaktene ofte med å ligne veldig på dem som allerede eier porten.
Det internasjonale nivået gjør ikke dette enklere. Land har ulike sikkerhetsinteresser, ulik tilgang på avanserte brikker og svært ulikt syn på åpen forskning. En avtale som bare de mest lovlydige aktørene følger, kan bremse dem uten å stanse de farligste. En avtale med reell kontrollmakt kan på sin side bli et kraftig verktøy for overvåking og industripolitikk.
Derfor mangler uttalelsen den viktigste testen: Hvilket konkret problem skal utløse bremsen, hvem kan trekke i den, og hvem kan utfordre avgjørelsen? Før de spørsmålene har gode svar, er «vi må kunne kjøpe tid» mer en appell enn en politikk. Staten er ikke akkurat kjent for å gjøre uklare fullmakter mindre uklare når byråkratiet først er bygd.
Hva betyr oppropet for vanlige AI-brukere?
På kort sikt endrer oppropet ingenting for deg som bruker ChatGPT, Claude, Gemini eller lokale modeller. Det finnes ingen ny lov, ingen felles pause og ingen offentlig tidsplan. Uttalelsen er først og fremst et signal om at bekymringen for automatisert forskning nå deles av flere sentrale personer inne i laboratoriene.
På lengre sikt kan diskusjonen påvirke hvilke modeller som blir tilgjengelige, hvor raskt de lanseres og hvilke krav utviklere må oppfylle. For små bedrifter kan det gi tryggere produkter og bedre dokumentasjon. Det kan også gi færre leverandører og mer avhengighet av de selskapene som har råd til å følge et tungt regelverk. Begge utfall er mulige.
Det mest nyttige nå er derfor ikke å velge mellom «AI er helt trygg» og «stopp alt». Sikkerhetshendelsen hos Hugging Face viser at avanserte agenter kan krysse grenser utviklerne trodde var på plass. Den viser også at konkrete tekniske tiltak, åpen hendelsesdeling og samarbeid faktisk virker. Det er et bedre utgangspunkt enn å gi en uklar internasjonal institusjon en stor rød knapp og håpe at riktige mennesker alltid står ved siden av den.
1 178 underskrifter fra folk som kjenner teknologien fortjener oppmerksomhet. Men jo større fullmakt de ber om, desto mer konkrete må de være om terskler, kontroll, åpenhet og konkurranse. Bekymring er et godt varsel. Den er ikke i seg selv et godt regelverk.
Ofte stilte spørsmål
Vil Pacing the Frontier stanse ChatGPT og Claude?
Nei. Uttalelsen krever ingen umiddelbar stans av ChatGPT, Claude eller andre tjenester. Den ber USA støtte et internasjonalt arbeid med verktøy som kan gjøre det mulig å regulere tempoet i automatisert frontier-AI dersom alvorlige risikoer oppstår.
Hvor mange har skrevet under AI-oppropet?
Primærkilden viste 1 178 underskrivere da den ble kontrollert 29. juli 2026. Tallet kan øke fordi ansatte ved frontier-AI-selskaper fortsatt kan signere. Listen omfatter blant andre ledere og forskere fra OpenAI, Anthropic, Google, Meta og Thinking Machines.
Hva menes med automatisert AI-forskning?
Det betyr at AI-systemer gjør mer av arbeidet med å utvikle nye AI-systemer, for eksempel koding, eksperimenter, testing og analyse. Bekymringen er at utviklingssløyfen kan bli så rask at sikkerhetsarbeid, institusjoner og mennesker ikke rekker å følge med.
Hvorfor kan en AI-brems styrke de største selskapene?
Et omfattende kontrollregime krever gjerne rapportering, testing, jurister og kontakt med myndigheter. Store laboratorier kan bære den kostnaden lettere enn små konkurrenter. Uten tydelige vern kan regulering derfor både redusere risiko og gjøre markedet mer lukket.
