Innhold Vis
Biovåpen og AI-systemer som kommer ut av kontroll skal nå vurderes av et norsk hasteutvalg. Regjeringen har gitt en ekspertgruppe ledet av professor Olav Lysne frist til 1. mars 2027 med å gi råd om hvordan avansert AI kan ramme grunnleggende nasjonale interesser.
Det er bra at noen ser på de alvorlige scenarioene før de eventuelt treffer oss. AI-sikkerhet blir ikke mindre viktig av at de verste utfallene er usikre. Men når biovåpen, nasjonal sikkerhet og løpsk teknologi legges på samme bord, skal varsellampen også blinke hos alle som har sett hvor lett en utredning blir til nye kontrollkrav.
Jeg vil vite hvilken risiko et tiltak faktisk reduserer, hvem som får makt til å håndheve det og hvem som betaler regningen. De spørsmålene er langt viktigere enn hvor dramatisk man klarer å beskrive trusselen. Staten er tross alt bedre kjent for nye skjemaer enn for elegante teknologiske løsninger.
Hva skal ekspertutvalget undersøke?
Utvalget skal vurdere AI-trusler mot grunnleggende nasjonale interesser og levere råd innen 1. mars 2027. Ifølge Digis omtale av det første møtet omfatter de ekstreme scenarioene blant annet bruk av AI i utvikling av biovåpen og teknologi som kommer helt ut av kontroll.
Olav Lysne leder gruppen. Han er sjefsforsker ved Simula og professor ved OsloMet, og har tidligere ledet offentlige utvalg om digital sårbarhet og nasjonal kontroll med infrastruktur. Rådene skal inn i regjeringens nye nasjonale AI-strategi og revisjonen av den nasjonale sikkerhetsstrategien, som etter planen skal legges fram i første halvår 2027.
Det betyr ikke at Norge allerede har bestemt seg for nye lover eller særnorske forbud. Dette er en utredning med kort frist. Digi stilte digitaliseringsminister Torgeir Micaelsen spørsmål om Norge kan få egne regler som går lenger enn EUs AI-forordning, men selve opprettelsen av utvalget er ikke et vedtak om slike regler. Det skillet må holdes fast fra første dag.
Hvorfor vurderer Norge de verste AI-scenarioene nå?
Regjeringen mener AI-utviklingen har løpt fra strategien fra 2020. I kunngjøringen av den nye nasjonale AI-strategien 5. oktober skriver departementet at de mest avanserte systemene nå kan utføre komplekse oppgaver på egen hånd. Strategien skal derfor ta opp sikkerhet, makt og kontroll, og er planlagt lagt fram i første halvår 2027.
Dette skjer samtidig som Norge knytter seg tettere til britiske sikkerhetsmiljøer. Norge og Storbritannia inngikk 12. november en intensjonsavtale om samarbeid innen blant annet testing og evaluering av AI-modeller, cyberrisiko, forsvarsformål og samspillet mellom AI, bioteknologi, robotikk og kvanteteknologi. Regjeringens egen oversikt over samarbeidet peker konkret på britiske AI Security Institute som partner for AI-sikkerhet.
Det er en mer praktisk retning enn bare å skrive enda en strategi. Modelltesting, hendelsesrapportering og teknisk evaluering kan avdekke reelle svakheter før systemene får tilgang til kritisk infrastruktur, laboratorier eller forsvarssystemer. Et lite land trenger heller ikke late som det kan teste de største modellene alene. Å dele metode og kompetanse med et etablert fagmiljø er sunn fornuft.
Samtidig er en intensjonsavtale nettopp en intensjonsavtale. Den sier hvilke områder landene vil utforske, men ikke hvilke tester som skal brukes, hvilke terskler som skal utløse tiltak eller hvem som får tilgang til resultatene. Det er detaljene som avgjør om dette blir nyttig beredskap eller bare en pen internasjonal ramme rundt mer byråkrati.
Er biovåpen og løpsk AI reelle trusler?
Ja, de er alvorlige nok til å undersøkes. Det er ikke det samme som at noen har dokumentert at et bestemt system står på terskelen til å utslette menneskeheten. For biovåpen må utvalget blant annet undersøke om avanserte modeller kan senke kunnskapsterskelen, kombinere farlig informasjon eller hjelpe en aktør gjennom deler av en komplisert prosess. Det er et spørsmål som krever dokumentasjon, ikke en konklusjon som kan tas for gitt.
«Løpsk AI» er et langt videre uttrykk. Det kan bety et system som omgår begrensninger for å nå et mål, en agent som får for vide rettigheter, en modell som bidrar til cyberangrep eller det langt mer spekulative scenarioet der mennesker mister kontrollen over svært avanserte systemer. Hvis alt dette behandles som én trussel, blir analysen fort ubrukelig. Tiltak mot en dårlig avgrenset agent i et bedriftsnettverk er ikke det samme som tiltak mot et hypotetisk superintelligent system.
Utvalgets første oppgave bør derfor være å skille kapasitet, sannsynlighet og konsekvens. Hva kan dagens systemer faktisk gjøre? Hvilke handlinger krever fortsatt laboratorieutstyr, spesialkunnskap eller menneskelig gjennomføring? Hvor finnes den konkrete norske eksponeringen? Og hvilke scenarioer er alvorlige fordi de er sannsynlige, kontra scenarioer som må tas med fordi konsekvensen kan bli enorm selv om sannsynligheten er lav?
Jeg bruker agenter i hverdagen og vet hvor mye de kan få gjort når de får verktøy og tilgang. Jeg vet også hvor viktig det er å skille en imponerende demonstrasjon fra et system som kan arbeide pålitelig uten tilsyn. Den samme nøkternheten trengs her. Verken panikk eller skuldertrekk er en sikkerhetsstrategi.
Her kan sikkerhetsarbeidet gå galt
Den største politiske faren er at ekstreme scenarioer brukes til å hoppe over den vanskelige delen av jobben. Hvis begrunnelsen bare er at noe katastrofalt kan skje, kan nesten ethvert inngrep selges som føre var. Da slipper myndighetene å vise at tiltaket faktisk treffer årsaken, og offentligheten får beskjed om å være takknemlig fordi noen «tar ansvar».
Det andre problemet er hvem som tåler reglene. De største AI-selskapene har jurister, sikkerhetsavdelinger og penger til omfattende rapportering. Et lite norsk fagmiljø eller en oppstartsbedrift har ikke det samme apparatet. Lager man dyre lisenskrav, lange godkjenningsløp eller uklare plikter, går de største rett gjennom porten mens de små blir stående utenfor.
Det er den klassiske fellen: Selskapene som allerede sitter med mest makt, kan ende med å få enda mer av den fordi reglene gjør konkurranse dyrere. Når etablerte aktører ber om globale standarder og obligatoriske tester, bør utvalget derfor spørre om kravene er proporsjonale og åpne for uavhengig kontroll. Ellers kan «AI-sikkerhet» bli konkurransevern med penere navn. Det er en faens uting.
Norge har allerede sluttet seg til et internasjonalt initiativ som ber om transparente sikkerhetsprotokoller, ekstern evaluering, rapportering av alvorlige hendelser og muligheten for en internasjonal institusjon som kan reagere når bestemte kapasitetsterskler overskrides. Oppropet ble fulgt opp av nær 30 land 28. oktober. Det gjør spørsmålet om konkrete terskler, innsyn og maktfordeling enda viktigere.
Hva bør utvalget levere innen 1. mars 2027?
Utvalget bør levere en prioritert risikoliste, ikke en katalog over alt som kan gå galt. Hver risiko bør beskrives med dokumentert kapasitet, norske sårbarheter, sannsynlighet, mulig skade og hvilke eksisterende tiltak som allerede gjelder. Da blir det mulig å se om et forslag tetter et reelt hull eller bare legger enda et kontrollag oppå EU-regler og eksisterende sikkerhetsarbeid.
Rådene bør også skille mellom tiltak som myndighetene selv kan gjøre, og krav som skyves over på alle som utvikler eller bruker AI. Bedre kompetanse i sikkerhetsmiljøene, felles testmetoder, beredskapsøvelser og deling av alvorlige hendelser er noe annet enn brede lisenskrav. Det første kan bygge faktisk kapasitet. Det andre kan fort bli en avgift på innovasjon uten at sikkerheten blir bedre.
Jeg vil også se en ærlig vurdering av hva Norge ikke kan løse alene. De mest avanserte modellene utvikles i hovedsak utenfor Norge. Da er samarbeid om evaluering og hendelser fornuftig, mens særnorske regler lett kan ramme norske brukere og små aktører hardere enn selskapene de er ment å kontrollere.
Til slutt må rapporten være åpen nok til at fagfolk kan kontrollere resonnementet. Nasjonal sikkerhet vil alltid kreve at noe holdes tilbake, men det kan ikke bli et universalargument mot innsyn. Hvis offentligheten bare får katastrofeordene og konklusjonen, mens premissene forblir skjult, har vi ikke fått en sikkerhetsanalyse. Vi har fått en autoritetsøvelse.
Alvor uten blankofullmakt
Det er riktig å undersøke om AI kan senke terskelen for biologiske angrep, forsterke cybertrusler eller handle på måter utviklerne ikke klarer å kontrollere. Å avfeie alt som science fiction ville vært like slapt som å vedta regler ut fra de mest dramatiske overskriftene.
Men et hasteutvalg med frist 1. mars må motstå fristelsen til å levere store ord og vage fullmakter. Det må vise hva som er observert, hva som er sannsynlig, hva som bare er mulig og hva hvert foreslått tiltak faktisk gjør med risikoen. Det må også regne inn kostnaden ved å gjøre markedet enda lettere å dominere for aktørene som allerede er størst.
Ta truslene på alvor. Test modellene. Bygg beredskap. Del alvorlige hendelser. Men krev at hvert nytt kontrollgrep kan forsvares med mer enn «tenk om». Frykt er et dårlig måleinstrument, og biovåpen er et altfor alvorlig ord til å brukes som politisk universalnøkkel.
Ofte stilte spørsmål
Hvem leder det norske ekspertutvalget om AI-trusler?
Professor Olav Lysne leder ekspertutvalget. Han er sjefsforsker ved Simula og professor ved OsloMet, og har tidligere ledet offentlige utvalg om digital sårbarhet og nasjonal kontroll med digital infrastruktur.
Når skal utvalget levere rådene sine?
Utvalget skal levere rådene innen 1. mars 2027. Rådene skal brukes i regjeringens nye nasjonale AI-strategi og i revisjonen av den nasjonale sikkerhetsstrategien, som er varslet i første halvår 2027.
Har Norge allerede vedtatt strengere AI-regler?
Nei. Opprettelsen av ekspertutvalget er en utredning, ikke et vedtak om særnorske regler. Digi har reist spørsmålet om Norge kan gå lenger enn EUs AI-forordning, men eventuelle konkrete tiltak må vurderes etter at rådene foreligger.
Hva kan AI ha med biovåpen å gjøre?
Utvalget skal undersøke om avanserte modeller kan senke kunnskapsterskelen, kombinere farlig informasjon eller hjelpe en aktør gjennom deler av en komplisert prosess. Det er ikke dokumentert at en chatbot alene kan lage et biovåpen, og nettopp slike skiller må utvalget avklare.
