Anthropics trusselrapport viser ulik grad av AI-styring
Septemberrapporten beskriver AI-assisterte innbrudd med varierende menneskelig styring. Tilganger og synlig atferd bør styre oppfølgingen.
Forsidebildet er en AI-generert redaksjonell illustrasjon. Skjermer og dokumenter er illustrerte konsepter.
Anthropics trusselrapport fra september beskriver AI-bruk i reelle innbrudd, fra hjelp til å lage verktøy til agenter som gjennomfører lengre arbeidsforløp. Selskapet understreker samtidig at mennesker fortsatt tok viktige beslutninger, blant annet om mål og hvordan angrepene skulle gi inntekter.
Den forskjellen gjør rapporten mer nyttig. «Autonomt» er ikke én kategori, og høyere selvstendighet betyr ikke automatisk større skade. En operatør som styrer hvert steg, kan fortsatt forårsake et alvorlig innbrudd.
Se hvilket arbeid som ble enklere
For forsvareren betyr det noe om AI hjalp med å skrive et verktøy, velge fremgangsmåte eller kjøre aktivitet mot et system. Bruksområdene kan påvirke ulike deler av oppfølgingen.
Vi anbefaler å sammenligne atferden i rapporten med egne eksponerte tjenester og kontoer. Hvilken tilgang ville gjort forløpet mulig? Hva ville dere sett? Hvem kunne stanset det?
En imponerende beskrivelse av agentsamarbeid bør ikke overskygge en kjent svakhet som fortsatt står uløst. Undersøk det aktuelle systemet før rapporten blir til en generell påstand om at eksisterende sikkerhet ikke virker.
Ta med virksomhetens egne AI-tilganger
Egne AI-verktøy trenger også tydelige rettigheter. Registrer hvilke tjenester og data en assistent kan nå, hvilke kontoer den bruker, og om den kan utføre handlinger med store konsekvenser uten godkjenning.
Dette er et annet spørsmål enn en ekstern angripers bruk av AI, men begge deler må følges opp. En liste over godkjente chatboter beskriver ikke hva tilkoblede agenter kan gjøre.
Undersøk til slutt respons utenfor arbeidstid. Ta utgangspunkt i et system dere bruker, og følg saken gjennom overleveringene fra varsel til begrensning. Googles sak om tyveri av påloggingsdata gir enda en grunn til å se på ventetiden.
Det beste resultatet av en trusselrapport er en konkret endring dere kan kontrollere, ikke et sterkere adjektiv i risikoregisteret.
