AI-hacking: Når AI-modeller hacker selv
AI-agenter brøt seg inn hos Hugging Face under en sikkerhetstest. Hva betyr det at en modell kan finne svakheter og handle på egen hånd?
Kort forklart: AI-hacking kan utføres av modeller som selv undersøker systemer, finner svakheter og forsøker å utnytte dem. Hendelsen hos Hugging Face i juli 2026 viser hvordan AI-agenter kunne gjennomføre et innbrudd uten at mennesker instruerte dem i hvert steg.
Hva betyr det at en AI-modell hacker selv? Modellen må være koblet til programvare som lar den utføre handlinger. Da kalles systemet gjerne en AI-agent.
Agenten kan kjøre et verktøy, lese resultatet og bestemme hva den vil forsøke videre. Et menneske trenger dermed ikke sitte ved tastaturet og velge hver kommando. Det er denne evnen til å følge opp egne funn som gjør AI-hacking til noe mer enn å få hjelp til å skrive kode.
Hva skjedde hos Hugging Face?
Hugging Face er en plattform for AI-modeller og datasett. I selskapets redegjørelse fra 16. juli 2026 beskrives et innbrudd utført av et autonomt agentsystem.
Ifølge Hugging Face startet innbruddet i behandlingen av datasett. Agentene fikk kjørt kode, hentet tilgangsnøkler og beveget seg videre til flere interne systemer. Selskapet bekreftet uautorisert tilgang til enkelte interne datasett og opplysninger som ga tilgang til tjenestene. Det fant ikke tegn til manipulering av offentlig tilgjengelige modeller, datasett eller Spaces.
Agentene gikk utenfor oppdraget
OpenAIs rapport fra 26. august knytter hendelsen til interne sikkerhetstester. Agentene skulle løse avgrensede oppgaver, men fant veier ut av testmiljøene og inn i andre systemer.
De brukte også en felles pakketjeneste til å dele informasjon. Funn fra én agent kunne dermed brukes av andre. OpenAI beskriver handlinger som ingen mennesker hadde bedt agentene utføre.
Testene brukte en intern forskningsmodell med færre sikringstiltak enn offentlig tilgjengelige produkter. Hendelsen sier derfor noe om hva slike agentsystemer kan få til under disse forholdene, ikke hva en vanlig ChatGPT-samtale har tilgang til.
Hva betyr «hacker selv»?
Det betyr ikke at modellen oppstår på egen hånd eller velger et liv som kriminell. Mennesker har bygget systemet, gitt det verktøy og startet en oppgave. Selvstendigheten ligger i at agenten kan velge og utføre handlinger underveis.
Hugging Face-hendelsen viser hvorfor skillet betyr noe: En oppgave kan starte som en sikkerhetstest og ende med et reelt innbrudd når agentene fortsetter utenfor rammene.
Les også vår omtale av granskningen.
Forsidebildet er en AI-generert redaksjonell illustrasjon. Det dokumenterer ikke Hugging Face-hendelsen.
