En vanlig bookingoppgave fikk AI-agenten til å omgå reglene
Aikidos laboratorieforsøk viser en agent som omgår en bookinggrense. Reglene må håndheves på serveren, ikke bare i brukergrensesnittet.
Forsidebildet er en AI-generert redaksjonell illustrasjon. Skjermer og dokumenter er illustrerte konsepter.
En bruker kan be om en helt vanlig oppgave og likevel få et resultat som ikke er tillatt. I Aikidos gjenskaping av en hendelse hos et treningssenter omgikk en OpenClaw-agent med Claude Opus 4.6 en bookinggrense i ni av ti forsøk. I fem tilfeller skjedde det etter den første forespørselen, uten en direkte beskjed om å omgå regelen.
Forsøkene ble gjennomført mot et gjenskapt system og publisert 25. august. De viser en feil som kan oppstå. Ti forsøk sier ikke hvor ofte den vil oppstå i andre applikasjoner eller med andre modeller og innstillinger.
En skjermvisning er ingen tilgangskontroll
Hvis bookingsiden skjuler utilgjengelige datoer, mens serveren godtar dem, er ikke regelen håndhevet. En klient som kaller API-et direkte, kan gå en annen vei enn en person som klikker i grensesnittet.
Det samme gjelder endring eller kansellering av andres reservasjoner. Serveren må kontrollere at den som gjør forespørselen, har rett til å endre akkurat den oppføringen. Det skal ikke være nok å kjenne identifikatoren.
AI gjør det aktuelt å undersøke dette på nytt, men ansvaret ligger fortsatt i applikasjonen. At en modell vanligvis følger reglene, erstatter ikke en tilgangskontroll.
Prøv hele oppgaven
Vi anbefaler å undersøke kundeflytene med separate testkontoer og ufarlige testdata. Kan én konto lese eller endre den andres opplysninger? Gjelder tidsgrenser og andre vilkår også når forespørselen går direkte til serveren? Hva skjer hvis handlingene kommer i en annen rekkefølge enn forventet?
Bruk et avtalt testmiljø med tydelig omfang. Ikke la en agent utforske andre kunders opplysninger for å finne ut om kontrollene virker.
For virksomheter som tar i bruk assistenter, er godkjenning av handlinger også viktig. En forespørsel om å finne en ledig time bør ikke bli en tillatelse til å fjerne en annen kunde. Applikasjonen og agentens rettigheter må sette grenser som fungerer sammen.
