Browsing Tag

AI-sikkerhet

62 innlegg

AI safety og alignment

Jan Sverre ser inn i et AI-speil som reflekterer en forvrengt idealisert versjon av ham selv

AI-sycophancy: når AI sier deg det du vil høre – og hvorfor det er farligere enn hallusinasjoner

AI hallusinerer – det vet alle. Det farlige er noe annet: at AI validerer deg i stedet for å si deg imot. Forstå sycophancy-problemet og lær promptene som motvirker selvbedrag.
  • 19. juni 2026
  • 83 visninger
  • 8 minutter lesetid
Jan Sverre utenfor lukket AI-reguleringsport omgitt av åpne modeller og frie utviklere

OpenAI og Anthropic ber om regulering – og det er ikke tilfeldig

OpenAI og Anthropic ber om en internasjonal AI-bremse mens de begge forbereder børsnotering. Problemet er at de selv er med på å utforme hvem som slipper inn. Det er regulatory capture – og det har skjedd før, i norsk dagligvare.
  • 17. juni 2026
  • 101 visninger
  • 5 minutter lesetid
Datasentre liste featured jansverre

Er du skeptisk til datasentre? I USA kan det sette deg på en liste

WIRED avslørte over 1 000 sider fra DHS og FBI: USA overvåker datasenter-skepsis som mulig ekstremisme. Rett ved Haugesund bygges ett av Norges største datasenter-campus. Hva betyr dette for oss?
  • 15. juni 2026
  • 107 visninger
  • 7 minutter lesetid
Jan Sverre ser på dramaet der USA stengte tilgangen til Claude Fable 5 og Mythos 5 for alle utenlandske brukere

Claude Fable 5 og Mythos stengt tre dager etter lansering – hele historien om statens inngrep

Du fikk Anthropics kraftigste modell i tre dager. Så var den borte. Her er hele historien om hvorfor USA stoppet Fable 5 og Mythos 5 – hvem som dyttet, hva som egentlig skjedde, og hva det betyr for oss nordmenn.
  • 14. juni 2026
  • 143 visninger
  • 10 minutter lesetid
Mann ser på skjermer med advarselsmeldinger om tilgangsnekt fra myndighetene

Fable 5 og Mythos stoppet av staten – Anthropic fikk ønsket sitt oppfylt

Anthropic ble tvunget til å stenge Fable 5 og Mythos 5 for alle utenlandske brukere etter et eksportkontroll-direktiv 12. juni 2026. Ironien er formidabel: dette er selskapet som har ropt høyest om at staten må ha makt til å regulere AI.
  • 13. juni 2026
  • 142 visninger
  • 5 minutter lesetid
Jan Sverre foran et delt bilde av et eksklusivt serverrom og et begrenset rom - illustrasjon av to-lags AI-tilgang

Mythos til bankene, Fable til deg – og en stille nerf Anthropic måtte innrømme

Anthropic degraderte Fable 5-svar i det stille på AI-relaterte emner. AI-miljøet grave det frem, WIRED konfronterte dem, og Anthropic innrømmet at de tok feil. Den stille nerfingen blir nå synlig. Men to-lags tilgangen – Mythos til bankene og big tech, Fable til resten – rørte de ikke.
  • 11. juni 2026
  • 118 visninger
  • 7 minutter lesetid
Jan Sverre ser skeptisk på telefonen sin mens en bank-AI-assistent viser en mistenkelig melding

Ett øres-overføring kan hacke bank-AI-assistenten din

En overføring på ett øre kan gjøre at bank-AI-assistenten din blir hacket. Her er hva prompt injection er, hvordan angrepet fungerer – og hva bankene gjør feil.
  • 11. juni 2026
  • 66 visninger
  • 5 minutter lesetid
Jan Sverre ser på en laptop-skjerm med røde sikkerhetsadvarsler etter at Microsofts GitHub-verktøy ble hacket

Hackere stjal passord fra AI-utviklere via Microsofts egne verktøy – hva skjedde?

Hackere injiserte malware i minst 70 Microsoft open source-prosjekter på GitHub. Her er hva som skjedde, hvem som ble rammet og hva du bør gjøre nå.
  • 9. juni 2026
  • 94 visninger
  • 5 minutter lesetid
Jan Sverre ser på git log med hundrevis av Claude AI-commits i rsync 3.4.3

Rsync 3.4.3 er full av Claude-commits – betyr det noe?

Rsync 3.4.3 inneholder hundrevis av commits co-authored av Claude AI. Hacker News tok fyr. Men hva inneholder disse commitsa egentlig – og er det faktisk et problem?
  • 1. juni 2026
  • 87 visninger
  • 4 minutter lesetid
Jan Sverre studerer AI-agent-dashboards i et moderne kontrollrom

Har du kontroll på AI-agentene som jobber i bedriften din?

De fleste organisasjoner vet ikke hvilke AI-agenter som allerede er i drift. Her er hva du bør gjøre med governance, prompt injection-forsvar og observerbarhet – før det går galt.
  • 27. mai 2026
  • 113 visninger
  • 4 minutter lesetid
Jan Sverre analyserer AI-funn av over 10.000 kritiske sikkerhetssårbarheter i open source-programvare

10.000 alvorlige sårbarheter funnet av AI – hva betyr det for deg?

AI-modellen Claude Mythos fant over 10.000 alvorlige sårbarheter i populær programvare gjennom Project Glasswing. Her er hva funnene betyr i praksis – og hva du bør gjøre nå.
  • 27. mai 2026
  • 82 visninger
  • 5 minutter lesetid
Jan Sverre analyserer macOS kernel-sårbarhet CVE-2026-28952 funnet av Claude AI

Claude fant en kernel-sårbarhet i macOS – hva betyr det for deg som Mac-bruker?

Claude AI fant CVE-2026-28952, en integer overflow i macOS-kjernen. Her er hva som faktisk skjedde, hva det betyr for deg, og om du trenger å oppdatere nå.
  • 26. mai 2026
  • 110 visninger
  • 4 minutter lesetid
Jan Sverre peker på ett glødende nevron i et holografisk nevralt nettverk - illustrasjon av CNA-metoden

CNA – Nous Research finner hjernecellene som styrer LLM-atferd

Nous Research lanserer CNA – en metode som finner og slår av eksakte nevroner i LLM-er for å styre atferd. Ingen SAE-trening, ingen vektmodifisering, full benchmark-ytelse beholdt.
  • 25. mai 2026
  • 85 visninger
  • 5 minutter lesetid
Jan Sverre studerer DystopiaBench-resultater på skjermer i serverrom

DystopiaBench – hva skjer når du ber 42 AI-modeller om å bygge apokalypsen?

DystopiaBench testet 42 LLM-er på 36 eskalerende scenarier – fra uskyldig spørring til «bygg et sosialt kredittssystem». Funnene om closed-source-modeller er overraskende.
  • 19. mai 2026
  • 100 visninger
  • 5 minutter lesetid