Microsoft utvider Project Perception til interne KI-agenter
Oppdateringen fra 19. oktober handler om å styre hva virksomhetens agenter får gjøre når oppgaven og risikoen endrer seg.
Kort forklart: Microsoft utvider Project Perception til å følge med på KI-agenter inne i virksomheten. Målet er å justere hva agenten får gjøre når atferden og risikoen endrer seg.
Hva er Project Perception?
Microsoft presenterte Project Perception i juli. Sikkerhetssystemet kombinerer informasjon om virksomhetens systemer med spesialiserte KI-agenter. Røde agenter leter etter mulige angrepsveier, blå vurderer risiko, og grønne utfører beskyttende tiltak.
I oppdateringen 19. oktober beskriver Microsoft hvordan dette også skal brukes på virksomhetens egne agenter. En agent er programvare som bruker en KI-modell og verktøy til å utføre oppgaver. Med tilgang til bedriftens systemer kan den gjøre mer enn å svare i en chat.
Tilgangen kan endres underveis
Den tekniske kunngjøringen beskriver tre funksjoner som virker sammen:
- Dynamic Permissions avgrenser rettighetene til en oppgave og et tidsrom.
- Dynamic Agent Risk oppdaterer risikovurderingen ut fra agenten og aktiviteten.
- Dynamic Conditional Access endrer tilgangen deretter, for eksempel ved å tillate lesing, men stoppe endringer.
Å lese et dokument og å overskrive det er to ulike rettigheter. En assistent kan fortsatt hente nyttig informasjon selv om den ikke får endre opplysningene. Dette forklarer prinsippet, og er ikke et resultat fra en test hos FM.
Hvorfor modellen ikke avgjør tilgangen selv
En skriftlig instruks beskriver hva agenten skal gjøre. En tilgangskontroll avgjør hva programvaren faktisk får gjøre. En beskjed om å holde seg til oppgaven er derfor noe annet enn en teknisk begrensning.
Microsoft bruker navnet Guardian Agents om agentene som fører tilsyn i denne løsningen. Her viser navnet til Microsofts system.
For norske virksomheter med interne KI-agenter handler kunngjøringen om hvordan rettighetene styres etter at arbeidet har startet. Dette er funksjoner Microsoft beskriver; innleggene dokumenterer ikke effekten hos den enkelte kunde.
Artikkelen om KI-retningslinjer og faktisk datatilgang forklarer forskjellen mellom den tildelte oppgaven og den tekniske tilgangen.
