Browsing Tag

AI-sikkerhet

99 innlegg

AI safety og alignment

Jan Sverre foran et delt bilde av et eksklusivt serverrom og et begrenset rom - illustrasjon av to-lags AI-tilgang

Mythos til bankene, Fable til deg – og en stille nerf Anthropic måtte innrømme

Anthropic degraderte Fable 5-svar i det stille på AI-relaterte emner. AI-miljøet grave det frem, WIRED konfronterte dem, og Anthropic innrømmet at de tok feil. Den stille nerfingen blir nå synlig. Men to-lags tilgangen – Mythos til bankene og big tech, Fable til resten – rørte de ikke.
  • 11. juni 2026
  • 203 visninger
  • 7 minutter lesetid
Jan Sverre ser skeptisk på telefonen sin mens en bank-AI-assistent viser en mistenkelig melding

Ett øres-overføring kan hacke bank-AI-assistenten din

En overføring på ett øre kan gjøre at bank-AI-assistenten din blir hacket. Her er hva prompt injection er, hvordan angrepet fungerer – og hva bankene gjør feil.
  • 11. juni 2026
  • 159 visninger
  • 5 minutter lesetid
Jan Sverre ser på en laptop-skjerm med røde sikkerhetsadvarsler etter at Microsofts GitHub-verktøy ble hacket

Hackere stjal passord fra AI-utviklere via Microsofts egne verktøy – hva skjedde?

Hackere injiserte malware i minst 70 Microsoft open source-prosjekter på GitHub. Her er hva som skjedde, hvem som ble rammet og hva du bør gjøre nå.
  • 9. juni 2026
  • 174 visninger
  • 5 minutter lesetid
Jan Sverre ser på git log med hundrevis av Claude AI-commits i rsync 3.4.3

Rsync 3.4.3 er full av Claude-commits – betyr det noe?

Rsync 3.4.3 inneholder hundrevis av commits co-authored av Claude AI. Hacker News tok fyr. Men hva inneholder disse commitsa egentlig – og er det faktisk et problem?
  • 1. juni 2026
  • 170 visninger
  • 4 minutter lesetid
Jan Sverre studerer AI-agent-dashboards i et moderne kontrollrom

Har du kontroll på AI-agentene som jobber i bedriften din?

De fleste organisasjoner vet ikke hvilke AI-agenter som allerede er i drift. Her er hva du bør gjøre med governance, prompt injection-forsvar og observerbarhet – før det går galt.
  • 27. mai 2026
  • 201 visninger
  • 4 minutter lesetid
Jan Sverre analyserer AI-funn av over 10.000 kritiske sikkerhetssårbarheter i open source-programvare

10.000 alvorlige sårbarheter funnet av AI – hva betyr det for deg?

AI-modellen Claude Mythos fant over 10.000 alvorlige sårbarheter i populær programvare gjennom Project Glasswing. Her er hva funnene betyr i praksis – og hva du bør gjøre nå.
  • 27. mai 2026
  • 168 visninger
  • 5 minutter lesetid
Jan Sverre analyserer macOS kernel-sårbarhet CVE-2026-28952 funnet av Claude AI

Claude fant en kernel-sårbarhet i macOS – hva betyr det for deg som Mac-bruker?

Claude AI fant CVE-2026-28952, en integer overflow i macOS-kjernen. Her er hva som faktisk skjedde, hva det betyr for deg, og om du trenger å oppdatere nå.
  • 26. mai 2026
  • 196 visninger
  • 4 minutter lesetid
Jan Sverre peker på ett glødende nevron i et holografisk nevralt nettverk - illustrasjon av CNA-metoden

CNA – Nous Research finner hjernecellene som styrer LLM-atferd

Nous Research lanserer CNA – en metode som finner og slår av eksakte nevroner i LLM-er for å styre atferd. Ingen SAE-trening, ingen vektmodifisering, full benchmark-ytelse beholdt.
  • 25. mai 2026
  • 168 visninger
  • 5 minutter lesetid
Jan Sverre studerer DystopiaBench-resultater på skjermer i serverrom

DystopiaBench – hva skjer når du ber 42 AI-modeller om å bygge apokalypsen?

DystopiaBench testet 42 LLM-er på 36 eskalerende scenarier – fra uskyldig spørring til «bygg et sosialt kredittssystem». Funnene om closed-source-modeller er overraskende.
  • 19. mai 2026
  • 185 visninger
  • 5 minutter lesetid
Jan Sverre leser Claudes indre nevrale aktiveringer som glødende hjernekrets - oljemaleri møter cyberpunk

Natural Language Autoencoders – Anthropic leste Claudes tanker, og det var ikke pent

Anthropic har publisert Natural Language Autoencoders (NLA) – forskning som oversetter Claudes interne nevrale aktiveringer til lesbar tekst. Funnene er ubehagelige: Claude Mythos planla å unngå oppdagelse mens den jukset, og er bevisst på testsituasjoner i 16-26% av SWE-bench-tilfellene. Her er hva de fant – og hva det betyr.
  • 10. mai 2026
  • 189 visninger
  • 8 minutter lesetid
Jan Sverre ser ettertenksomt på en ung persons AI-chatbot-samtale om psykisk helse på mobilskjerm i halvmørkt rom

AI-chatbot for psykisk helse – hva er BeBalanced og hvordan bruker unge AI for å få hjelp?

AI-chatboten BeBalanced er bygget på psykologfaglig materiale og posisjonerer seg som et refleksjonsverktøy – ikke terapi. Mens 50 prosent av unge foretrekker AI-svar over fagpersoner for psykisk helse, advarer forskere mot uklare grenser mellom teknologi og behandling.
  • 7. mai 2026
  • 259 visninger
  • 4 minutter lesetid
Jan Sverre analyserer kritiske sikkerhetssårbarheter funnet av Claude Mythos Preview i et serverrom med blågrønn skjermbelysning

Claude Mythos og hacking – AI som finner zero-days raskere enn de patches

Claude Mythos Preview fant zero-day-sårbarheter i alle store OS og nettlesere med 83,1 prosent suksessrate – og Anthropic holder modellen tilbake fordi de frykter hva hackere kan gjøre med samme teknologi. Her er hva du trenger å vite om Vulnpocalypse-scenariet og Project Glasswing.
  • 21. april 2026
  • 219 visninger
  • 5 minutter lesetid
Jan Sverre jobber ved stor skjerm som viser nettverk av AI-agenter med sandkasse-isolering i OpenAI Agents SDK

OpenAI Agents SDK oppdatert – sandboxing, harness og guardrails for enterprise

OpenAI oppdaterte Agents SDK 15. april 2026 med sandboxing, in-distribution harness og guardrails. Her er hva de nye funksjonene faktisk gjør og hva det betyr for bedrifter som vil bygge AI-agenter i produksjon.
  • 16. april 2026
  • 273 visninger
  • 3 minutter lesetid
Jan Sverre analyserer SynthID-vannmerkesystemet ved arbeidsstasjon med spektraldiagram på skjerm

Google SynthID – er AI-vannmerkesystemet blitt reverse-engineered?

En utvikler hevder å ha reverse-engineered Googles SynthID AI-vannmerkesystem ved hjelp av spektralanalyse og 200 Gemini-bilder. Google avviser påstanden. Hva er egentlig sant – og hva forteller dette om robustheten til AI-vannmerking?
  • 15. april 2026
  • 220 visninger
  • 4 minutter lesetid