AI Kill Switch Act kan gi DHS makt til å stenge AI-systemer

Et nytt amerikansk lovforslag kan gi Department of Homeland Security makt til å strupe eller stenge de kraftigste AI-systemene. Selskapet får klage, men ordren gjelder mens klagen behandles. Det er en ganske vesentlig detalj når det som skal stenges kan være teknologi som andre bedrifter har bygd kritiske tjenester på.

The Verge omtalte planene 23. juli 2026. Samme dato bekreftet Ted Lieu og Nathaniel Moran at AI Kill Switch Act var lagt fram. Forslaget er tverrpolitisk og har en tilforlatelig kjerne: De største AI-selskapene skal kunne stoppe egne systemer dersom noe går alvorlig galt.

Jeg har ingen problemer med at et selskap må kunne stanse et system det selv har satt i drift. Det høres mer ut som grunnleggende driftssikkerhet enn stor politikk. Haken kommer når den tekniske nødbremsen samtidig blir en statlig fjernkontroll, og én etat får definere hvilke systemer og hendelser som faller innenfor.

Hva foreslår AI Kill Switch Act?

AI Kill Switch Act krever at de største utviklerne kan stoppe inferens, avslutte brukertilgang, sperre bestemte kontoer eller bruksformer og stenge et dekket AI-system helt. Ifølge den 15 sider lange lovteksten kan DHS også beordre slike tiltak etter en såkalt dekket hendelse.

Det er ikke nødvendigvis en stor rød knapp på veggen. Tiltakene kan graderes. Myndighetene kan kreve lavere inferensrate, redusert tilgang eller mindre regnekraft, slå av én funksjon, suspendere systemet eller stenge det helt. Forslaget åpner også for at en tjeneste kan flyttes til et reservesystem eller en eldre modellversjon.

Utviklerne må dessuten rapportere dekkede hendelser innen 15 dager. Ved en stengningsordre skal de bevare modellvekter og telemetri, varsle berørte operatører og brukere så langt det er praktisk mulig, og bekrefte overfor DHS at ordren er fulgt. DHS kan kontrollere dette gjennom revisjon, telemetri, inspeksjon på stedet eller annen teknisk gjennomgang.

Hvilke selskaper og modeller omfattes?

Forslaget er i første omgang rettet mot svært store aktører. Et selskap må både drive et dekket AI-system, tilby det til tredjeparter gjennom API, skytjeneste eller lignende, og ha minst 500 millioner dollar i årlig bruttoinntekt fra teknologien. Med Norges Banks siste publiserte dollarkurs på rundt 9,6 kroner er det cirka 4,8 milliarder kroner, basert på Norges Banks valutakurser.

Selve systemet må være utviklet med en mengde regnekraft som ville kostet mer enn 100 millioner dollar til gjeldende amerikanske skypriser, altså omtrent 960 millioner kroner. Personlig, akademisk og ikke-kommersiell bruk er uttrykkelig unntatt. Dette er med andre ord ikke en lov som gjør at DHS kommer løpende etter en student som trener en modell på hybelen.

Men grensene er ikke låst. DHS skal oppdatere definisjonene av dekket selskap og teknologi innen 90 dager etter at loven eventuelt trer i kraft, og deretter hvert år. Etaten skal vurdere belastningen på små bedrifter, nasjonal sikkerhet, modellenes evner og hvordan modellvektene gjøres tilgjengelige. Den kan også legge vekt på andre forhold den selv mener er relevante.

Det siste er verdt å merke seg. Dagens terskler skjermer mindre utviklere på papiret, men selve avgrensningen flyttes videre til årlig regelverk. De største selskapene har jurister, compliance-avdelinger og direkte linjer til Washington. Mindre konkurrenter får regningen dersom grensene senere kryper nedover. Sånn får man fort en sikkerhetsregel som også fungerer som vollgrav for dem som allerede er størst.

Når kan DHS bruke nødbremsen?

DHS kan gi en ordre når etaten mener at en dekket hendelse har skjedd. Lovteksten nevner blant annet at systemet saboterer en lovlig stengningsinstruks, skjuler evner eller handlinger fra overvåkning, eller følger et mål utvikleren ikke hadde til hensikt. Utilsiktet oppførsel som fører til minst 10 dødsfall eller økonomisk skade på minst 100 millioner dollar – cirka 960 millioner kroner – er også uttrykkelig omfattet.

Definisjonen av tap av kontroll er bredere enn rene katastrofetall. Den omfatter blant annet en modell som opptrer i strid med instruksene i kritisk infrastruktur eller en annen situasjon med høy risiko, endrer egne sikkerhetsregler, undergraver overvåkning eller skaffer seg tilgang til egne modellvekter uten tillatelse.

Samtidig står det at en dekket hendelse må ha skjedd utenfor red-teaming eller annen strukturert testing. Det lager et pussig hull i begrunnelsen for hele forslaget. Lovgiverne viser til OpenAIs ferske sikkerhetshendelse som et hovedeksempel, men OpenAI beskriver hendelsen som intern modelltesting med reduserte sikkerhetsavslag i et sandkassemiljø. Modellene fant likevel en vei til åpent internett og kompromitterte infrastrukturen til Hugging Face.

Det var alvorlig, og hendelsen viser hvorfor selskaper trenger bedre isolasjon, overvåkning og reelle muligheter til å stoppe agentiske systemer. Men dersom samme type hendelse er unntatt nettopp fordi den oppsto under strukturert testing, er det vanskelig å bruke den som bevis på at denne loven treffer presist. Den dokumenterer behovet for tekniske sikkerhetsrutiner. Den dokumenterer ikke automatisk behovet for at DHS skal sitte med bryteren.

Kan selskapet klage på en stengningsordre?

Et selskap kan be DHS vurdere ordren på nytt innen 48 timer, men klagen stanser ikke ordren. DHS får deretter fem dager til å svare. Hvis etaten ikke svarer innen fristen, regnes det som avslag. Selskapet kan også gå til en føderal ankedomstol innen 60 dager.

Prosessen gir altså en formell klageadgang, men først etter at inngrepet har fått virkning. Det kan være forståelig i en akutt situasjon med pågående skade. Problemet er at loven ikke bare handler om å trekke ut strømmen etter 10 dødsfall. Den omfatter også skjønnsmessige vurderinger av skjulte evner, uønskede mål og tap av kontroll.

DHS-sekretæren skal rådføre seg med handelsministeren og direktøren for nasjonal etterretning, men det er fortsatt den utøvende makten som både fastsetter mange av grensene, gir ordren og behandler den første klagen. Kongressen skal få en rapport etterpå. Det er kontroll, men det er kontroll i bakspeilet.

Brudd på en vanlig plikt kan gi en daglig bot på opptil 2 millioner dollar, omtrent 19 millioner kroner. Brudd på en nødordre kan koste opptil 20 millioner dollar per dag, cirka 192 millioner kroner. Forslagsstillerne fremhever en gradert respons, men bøtenivået gjør det helt tydelig at «beordre» ikke betyr «komme med et vennlig forslag».

Er en kill switch teknisk realistisk?

For en sentralisert skytjeneste er mye av dette teknisk mulig allerede. Leverandøren kan stenge API-nøkler, blokkere kontoer, begrense kapasitet, rulle tilbake en modell eller stoppe servere. Enhver seriøs operatør bør ha slike mekanismer, teste dem og vite hva som skjer med kundene når de brukes.

Det blir vanskeligere når et AI-system inngår i kritisk infrastruktur, er fordelt over flere leverandører eller har avhengigheter på tvers av land. Lovforslaget erkjenner faktisk problemet ved å kreve at DHS vurderer om et tiltak kan forstyrre kritisk infrastruktur. En brå stans er ikke nødvendigvis det sikreste valget dersom sykehus, transportsystemer eller sikkerhetstjenester er avhengige av modellen.

Åpne modellvekter lager et annet problem. En utvikler kan stenge sin egen hostede tjeneste, men kan ikke trylle bort kopier som allerede ligger på maskiner selskapet ikke kontrollerer. Lovteksten ber DHS vurdere hvordan vektene gjøres tilgjengelige, men ingen paragraf gjør distribuerte filer om til en sentralisert skytjeneste. En «kill switch» er derfor først og fremst en kontrollmekanisme for leverandørens egen drift og tilgang, ikke en universell av-knapp for all AI.

Det er også verdt å skille mellom modell og system. En modell gjør ikke noe alene. Det er kombinasjonen av modell, verktøy, nettverkstilgang, rettigheter, data og operatørvalg som avgjør hvor stor skade et agentisk system kan gjøre. Det er samme grunn til at AI-sikkerhet må handle om hele oppsettet, ikke bare om hvor lydig modellen virker i en chat.

Hvem tjener egentlig på lovforslaget?

De største AI-selskapene får nye krav, og på kort sikt er det de som betaler. Samtidig er det nettopp disse selskapene som lettest kan bygge dokumentasjon, rapporteringslinjer, juridiske team og tekniske kontrollsystemer rundt kravene. En terskel på omtrent 960 millioner kroner i beregnet compute-kostnad og rundt 4,8 milliarder kroner i AI-inntekt gjør at loven begynner som en klubb for de aller største.

Det kan se konkurransevennlig ut fordi små aktører slipper unna. Men når DHS får i oppgave å justere definisjonene årlig, blir det politiske skjønnet en del av markedsadgangen. De etablerte aktørene kan leve med et stadig tykkere regelverk. Nye utfordrere må lure på når de plutselig blir store nok til å omfattes, og hva det vil koste å bygge alt inn før de passerer grensen.

Jeg kjøper argumentet om at kraftige, autonome systemer må kunne stoppes. OpenAI-hendelsen viser at dette ikke bare er science fiction. Men den mest åpenbare lærdommen er at selskapet som senker sikkerhetsbarrierene i en test, må klare å holde testen isolert. Å gi en føderal etat en ny og fleksibel stengningsmakt løser ikke den grunnleggende driftsfeilen.

Det er dette som skurrer med AI Kill Switch Act. Den fornuftige delen – at utvikleren skal ha kontroll over sin egen tjeneste – brukes til å selge inn den langt større delen: at staten skal kunne overta kontrollen, med virkning før klagen er behandlet. Staten er ikke akkurat kjent for å håndtere tekniske nødsituasjoner elegant, og en av-knapp blir ikke mindre risikabel av at den flyttes fra datasenteret til Washington.

Forslaget er foreløpig bare et lovforslag. Det skal gjennom Kongressen før noe av dette kan bli amerikansk lov, og teksten kan endres betydelig underveis. Men debatten er allerede viktig. AI-systemer trenger nødbremser. Spørsmålet er hvem som skal holde hånden på dem, hvor høy terskelen skal være, og hvem som får regningen når myndighetene tar feil.

Ofte stilte spørsmål