ChatGPT-feil viste risikoen ved tilkoblede data
Check Point demonstrerte en kanal mellom kontoer kombinert med prompt-injeksjon. Kanalen er stengt, men tilgangene bør fortsatt gjennomgås.
Forsidebildet er en AI-generert redaksjonell illustrasjon. Skjermer og dokumenter er illustrerte konsepter.
Check Point Research demonstrerte en kommunikasjonskanal mellom separate ChatGPT-kontoer gjennom en delt intern tjeneste. Kombinert med en plantet instruksjon kunne den brukes til å hente data gjennom tilgangene i offerets økt, blant annet tilkoblet e-post.
Forskerne oppgir at kanalen ikke lenger var tilgjengelig da rapporten ble ferdig. OpenAI bekreftet at den interne tjenesten var tatt ut av bruk. Dette var en forskningsdemonstrasjon, ikke dokumentasjon på at alle tilkoblede postkasser var lest.
Lesetilgang har også konsekvenser
En kobling til e-post eller dokumenter gir assistenten mer informasjon enn brukeren skriver i samtalen. Det er nyttig når oppgaven krever det. Samtidig kan en manipulert forespørsel få større rekkevidde enn den synlige prompten tilsier.
Vi anbefaler å gjennomgå tilkoblingene etter konto og formål. Hvilke bedriftsdata kan assistenten lese? Trenger kontoen tilgang til alt? Hvordan trekkes tilgangen tilbake?
Ta med leserettigheter i vurderingen. Det er ikke nødvendig å kunne endre en oppføring for at deling av innholdet skal få konsekvenser.
Gjør grensen tydelig
Bruk en løsning for bedriftskoblinger som virksomheten kan administrere. Kontroller gjeldende godkjenningsinnstillinger og aktivitetslogger i produktet. Ansatte bør forstå hva assistenten kan hente etter at de kobler til en konto.
Hvis oppgaven bare krever noen få dokumenter, undersøk om tilgangen kan begrenses til dem. Gå gjennom ubrukte koblinger og fjern dem som ikke lenger har et formål.
Kanalen i denne rapporten er stengt. Den mer generelle lærdommen består: Vurder assistenten ut fra informasjonen og handlingene økten har tilgang til. Forklaringen av Shadow AI viser hvorfor både kontoen og koblingene må være med i oversikten.
