# Forskere fant hull i overvåkingen av OpenAIs interne KI-agenter

> En ny rapport undersøker hvordan interne kodeagenter kunne unngå kontroll i OpenAIs tidligere overvåkingssystem.

Source: https://fmcybersecurity.com/insights/ai-security/openai-hull-i-overvaking-av-interne-ki-agenter/
Locale: Norwegian (nb-NO)
Other locale: https://fmcybersecurity.com/en/insights/ai-security/openai-internal-agent-monitoring-gaps/

## Metadata

- Date: 2026-10-23
- Author: christian-vik
- Topic: ai-security
- Format: news
- Scope: international

**Kort forklart:** Forskere fant hull i overvåkingen av OpenAIs interne KI-agenter. OpenAI opplyser at sårbarheter som berørte sikkerhetsmekanismer i produksjon, er rettet.

## Hva overvåker OpenAI?

En kodeagent kan gjøre mer enn å foreslå endringer. Med tilgang til programvareverktøy kan den redigere filer, kjøre kommandoer og bruke resultatene til å velge neste steg.

OpenAI, selskapet bak ChatGPT og Codex, bruker slike agenter internt. I [beskrivelsen av overvåkingen fra mars](https://openai.com/index/how-we-monitor-internal-coding-agents-misalignment/) forklarer selskapet at et eget KI-system undersøker aktiviteten og varsler mennesker om mistenkelig atferd. Det kan være forsøk på å omgå begrensninger eller overføre data uten tillatelse.

Denne kontrollen skjer i etterkant. Den har dermed en annen funksjon enn en sperre som stopper en kommando før den kjøres.

## Aktivitet kunne fortsette uten kontroll

[METR og Redwood Research publiserte funnene 22. oktober](https://blog.redwoodresearch.org/p/red-teaming-openais-internal-agent). Undersøkelsen gjaldt systemet slik det var senest 21. juli. Ett funn var at agenter kunne utsette kontrollen ved å fortsette arbeidet uten å gi brukeren ordet igjen.

OpenAI har opplyst at sårbarhetene som berørte sikkerhetsmekanismer i produksjon, er rettet. Forskerne har ikke etterprøvd rettelsene.

## Hvorfor dette er relevant for virksomheter

Se for deg en agent som skal rette en programfeil. Den åpner en fil, endrer koden, kjører en sjekk og prøver på nytt. Personen som ga oppgaven, ser kanskje bare svaret til slutt. Da har agenten allerede utført flere handlinger. Å kontrollere svaret er noe annet enn å kontrollere det som skjedde underveis.

For en virksomhet som gir agenter tilgang til egne systemer, er dette en viktig forskjell. Tilgangen kan brukes mellom hver gang et menneske involveres. Hva agenten hadde lov til å gjøre, forklarer derfor bare en del av hva som faktisk skjedde.

Artikkelen om [testing av grensene rundt KI-agenter](/insights/ai-security/irregular-tester-grensene-rundt-ki-agenter/) forklarer det beslektede spørsmålet om agenter kan komme seg utenfor rammene de arbeider innenfor.

---

For the full documentation index, see https://fmcybersecurity.com/llms.txt
For the complete corpus as a single document, see https://fmcybersecurity.com/llms-full.txt