Innhold Vis
TV4 mistet den ferdigklippede sesongen av «The Challenge Sverige», og en AI-agent fikk først skylden. Problemet er at TV4 avviser nettopp den forklaringen. Kanalen sier at menneskelig feil og et backup-system som ikke virket, gjorde at sesongen må klippes på nytt.
Det sikre er dramatisk nok: Premieren var planlagt til 22. november, råmaterialet finnes fortsatt, men alt det ferdige klippearbeidet må gjøres om. Programmet er skjøvet til våren 2027. En enorm arbeidsinnsats forsvant fordi det ikke fantes en fungerende vei tilbake.
Her er lærdommen for alle som slipper AI-agenter inn i filsystemer, databaser og produksjonsmiljøer: Agenten kan gjøre feilen, et menneske kan gjøre feilen, eller en kjede av systemer kan svikte. Ansvaret ligger likevel hos den som ga tilgang uten å sørge for at skaden kunne begrenses og rulles tilbake.
Hva skjedde med «The Challenge Sverige»?
Den ferdigklippede sesongen forsvant omtrent fem uker før den planlagte premieren. Aftonbladet skrev først at en AI-agent hadde fått tilgang til serverne hos produksjonsselskapet Mastiff og slettet prosjektet. Avisen viste til ikke navngitte kilder.
TV4 bekreftet at redigert materiale var borte og at sesongen måtte klippes på nytt, men kanalen bekreftet ikke AI-forklaringen. Senere samme dag opplyste TV4 at deres undersøkelse pekte på «den menneskelige faktoren» hos Mastiff, ikke AI.
TV4s programdirektør Mia Lindqvist sier at råmaterialet er i behold. Det er den gode nyheten. Den dårlige er at backupen av det ferdige arbeidet ikke kunne brukes. TV4s omtale gjengir at flere hundre personer må forsøke å gjenskape omkring 100 dagers arbeid.
Var det virkelig en AI-agent som slettet sesongen?
Det vet offentligheten ikke. Påstanden kommer fra Aftonbladets anonyme kilder, mens TV4 uttrykkelig sier at en selvstendig AI-agent ikke sto bak. Mastiff har ikke forklart den tekniske hendelseskjeden offentlig. Dermed mangler vi logger, verktøynavn, kommandoer, tilgangsnivå og en beskrivelse av hva som faktisk ble slettet.
Overfor Sveriges Radio beskrev TV4 hendelsen som et havarert backup-system. Aftonbladets oppdaterte sak gjengir også TV4s konklusjon om menneskelig feil. Det er mer enn en liten detalj. En fengende historie om en «ond AI-agent» kan ikke behandles som bevist når selskapet som bestilte programmet avviser den.
Det betyr ikke nødvendigvis at AI var helt fraværende i arbeidsflyten. Lindqvist sier at AI brukes av de fleste produksjonsselskaper i dag, men at dette er noe annet enn at en agent handlet selvstendig. Kanskje et AI-verktøy var involvert, kanskje ikke. Uten en teknisk hendelsesrapport blir resten spekulasjon.
Og akkurat her bør vi være nøye. AI får ofte både æren når et menneske har bygd noe godt og skylden når et dårlig systemoppsett går i grøfta. Ingen av delene hjelper oss å forstå hva som faktisk sviktet.
Backup-feilen er den virkelige katastrofen
En feilaktig sletting skal være en hendelse du kan rette, ikke en hendelse som flytter en TV-premiere til neste år. At redigert materiale kan forsvinne er alvorlig. At arbeidet ikke kan gjenopprettes, er utilgivelig drift når verdien tilsvarer rundt 100 arbeidsdager og involverer flere hundre mennesker.
Backup er heller ikke en mappe ved siden av originalen. Hvis samme bruker, agent, program eller feil kan slette både produksjonsdata og sikkerhetskopien, har du i praksis én kopi med ekstra trinn. En kopi som aldri er prøvd gjenopprettet, er dessuten bare et håp med filnavn.
TV4s forklaring viser hvorfor årsakskjeden må skilles i to. Først skjedde en sletting eller annen form for datatap. Deretter sviktet gjenopprettingen. Den andre feilen gjorde den første katastrofal. Et robust oppsett skal tåle at mennesker misforstår, programvare krasjer og automasjon gjør noe dumt.
Det handler om flere adskilte kopier, minst én kopi som ikke kan endres av den vanlige produksjonskontoen, og jevnlige tester der noen faktisk gjenoppretter et prosjekt. Ikke bare sjekk at backup-jobben har et grønt ikon. Sjekk at filene kan åpnes, at prosjektet kan bygges opp igjen og at tidsbruken er akseptabel.
En AI-agent skal aldri få større makt enn oppgaven krever
Hvis en agent bare skal analysere eller merke videofiler, trenger den lesetilgang. Hvis den skal foreslå opprydding, kan den skrive en liste over filer som bør flyttes. Den trenger ikke permanent rett til å slette et helt prosjekt, og den skal i hvert fall ikke ha tilgang til backupen med samme legitimasjon.
OWASP kaller dette «excessive agency»: Et AI-system får flere verktøy, funksjoner eller tillatelser enn oppgaven krever. Anbefalingen er ganske jordnær. Begrens funksjonene, bruk minst mulige rettigheter og krev menneskelig godkjenning før handlinger med stor konsekvens.
Dette er samme grunnprinsipp enten agenten rydder e-post, endrer kode eller behandler videofiler. Lesing kan ofte automatiseres trygt. Oppretting og endring trenger mer kontroll. Sletting, overskriving, publisering og andre irreversible handlinger bør ligge bak en egen sperre.
Jeg har tidligere skrevet om hva som kan skje når en AI-agent får et mål og velger en vei ingen ba om. Poenget er ikke at agenten er ond. Poenget er at språkmodellen ikke er en sikkerhetsgrense. Den kan misforstå, hallusinere eller bruke et legitimt verktøy på feil måte. Tilgangskontrollen rundt modellen må stoppe handlingen.
Menneskelig godkjenning må være mer enn en pyntet knapp
«Spør før sletting» høres trygt ut, men en vag dialogboks er ikke nok. En god godkjenning må vise nøyaktig hvilken handling som skal utføres, hvilke filer som berøres, hvor mange objekter det gjelder og om operasjonen kan reverseres. «Agenten vil gjøre endringer. Godkjenn?» er ikke kontroll. Det er ansvarsfraskrivelse med en OK-knapp.
Store handlinger bør også deles opp. Flytt først filer til et karanteneområde. Vis en diff eller en fullstendig liste. La det gå en tidsperiode før permanent sletting. Krev en ny godkjenning når omfanget overstiger en fast grense. Da får både mennesker og systemer flere muligheter til å oppdage at noe er galt.
Godkjenningen bør dessuten håndheves utenfor selve språkmodellen. En agent som kan velge verktøy, formulere begrunnelsen og godkjenne sin egen handling, har ikke møtt noen reell sperre. En separat policy eller tjeneste må kontrollere identitet, mål, omfang og tillatelse før handlingen når lagringssystemet.
Dette er særlig viktig når agenten leser innhold fra e-post, nettsider eller dokumenter. Uventet tekst kan påvirke modellen og få den til å bruke verktøyene på måter utvikleren aldri planla. Minste privilegium og reelle godkjenningsporter begrenser skaden selv når modellen tar feil.
Hvem har ansvaret når en agent gjør feil?
Den som setter agenten i arbeid, eier ansvaret for tilgangen. Ferdig. Det er meningsløst å gi et statistisk system skrivetilgang til produksjon, la det gjøre noe dumt og deretter snakke som om en digital praktikant stakk av med nøkkelkortet.
En leverandør kan selvfølgelig ha levert defekt programvare, uklare standardvalg eller farlige verktøy. Det må undersøkes når fakta finnes. Men virksomheten som kobler systemet til egne data, må definere hvilke handlinger som er tillatt, hvor stor skade én handling kan gjøre, hvordan den logges og hvordan den rulles tilbake.
Det er også grunnen til at TV4-saken er nyttig selv om AI-påstanden viser seg å være helt feil. En menneskelig feil kan være like ødeleggende som en agentfeil. Tiltakene er i stor grad de samme: avgrens tilgang, skill produksjon fra backup, logg endringer og test gjenoppretting før du trenger den.
AI endrer ikke grunnleggende driftsansvar. Den øker tempoet. En person kan slette feil mappe én gang. En agent med brede fullmakter kan gjøre samme feil raskt, systematisk og på tvers av flere tjenester. Derfor må sikkerhetsmarginene bli større når handlingstakten øker.
Dette bør du gjøre før en agent får tilgang til ekte data
Start med å klassifisere handlingene. Lesing er lav risiko. Endring er høyere. Sletting, utsending, betaling, tilgangsendringer og publisering er handlinger som kan være vanskelige eller umulige å hente tilbake. En agent bør få selvstendighet etter konsekvens, ikke etter hvor imponerende den virker i en demo.
Bruk en egen konto for agenten med kortvarige og smale rettigheter. Gi den tilgang til én mappe, ett prosjekt eller ett API-endepunkt om gangen. Kjør først mot kopier eller et avgrenset testmiljø. Sett grenser for hvor mange filer eller poster som kan endres i én operasjon.
Deretter kommer den kjedelige delen som redder deg: logg alle verktøykall, bruk versjonering eller papirkurv der det er mulig, og sørg for at backupen ikke kan nås med agentens konto. Gjennomfør en gjenopprettingstest. Hvis du ikke kan vise hvor lang tid det tar å hente tilbake prosjektet, vet du heller ikke om backupen virker.
En god sjekkliste før produksjon er derfor kort:
- Agenten får bare tilgang til data og funksjoner oppgaven krever.
- Destruktive handlinger krever presis og separat menneskelig godkjenning.
- Store endringer skjer i trinn, med karantene eller mulighet for rollback.
- Backupen er adskilt, beskyttet mot endring og testet gjennom faktisk gjenoppretting.
- Logger viser hvem eller hva som gjorde endringen, når den skjedde og hvilke mål som ble berørt.
AI-sikkerhet handler nettopp om å bygge flere lag rundt systemet, ikke om å håpe at modellen alltid tolker oppgaven riktig. Modellens gode intensjoner er irrelevante når den har teknisk mulighet til å gjøre uopprettelig skade.
AI-forklaringen må dokumenteres, men driftsdommen står
TV4 og Mastiff bør legge fram en teknisk forklaring når undersøkelsen er ferdig. Ikke fordi offentligheten trenger navnet på en syndebukk, men fordi hendelsen kan lære andre hvordan en produksjon med stor verdi endte uten en brukbar kopi. Var AI involvert, bør det dokumenteres nøyaktig. Var AI ikke involvert, bør den påstanden ryddes av veien like tydelig.
Inntil da er den ærlige formuleringen at AI-agenten fikk skylden, mens TV4 avviser at den handlet selvstendig og peker på menneskelig feil. Alt annet later som vi vet mer enn vi gjør.
Men selve driftsdommen trenger ingen venting: En sletting skal ikke koste rundt 100 arbeidsdager og utsette en hel TV-sesong. Om det siste tastetrykket kom fra et menneske eller en modell, var systemet rundt for svakt. Når du kobler en agent til ekte data, må du bygge som om den kommer til å gjøre feil. Før eller siden gjør både mennesker og maskiner nettopp det.
Ofte stilte spørsmål
Slettet en AI-agent hele «The Challenge Sverige»?
Det er ikke bekreftet. Aftonbladets anonyme kilder hevdet at en AI-agent slettet den ferdigklippede sesongen. TV4 avviser at en selvstendig agent sto bak og sier at egen undersøkelse peker på menneskelig feil og et backup-system som sviktet.
Er opptakene fra TV4-programmet borte?
Nei. TV4 sier at råmaterialet fortsatt finnes. Det som forsvant, var det redigerte arbeidet, og sesongen må derfor klippes på nytt. Den planlagte premieren 22. november ble flyttet til våren 2027.
Hvordan hindrer jeg at en AI-agent sletter viktige filer?
Gi agenten minst mulige rettigheter, bruk en egen konto, blokker permanent sletting og krev konkret menneskelig godkjenning for destruktive handlinger. La den jobbe på kopier eller i et avgrenset miljø før den får tilgang til produksjonsdata.
Hvorfor er backup ikke nok alene?
En backup hjelper bare hvis den er adskilt fra produksjonen, ikke kan slettes med samme tilgang og faktisk lar seg gjenopprette. Test derfor regelmessig en full gjenoppretting. Et grønt statusikon beviser ikke at prosjektet kan hentes tilbake.
