Det korte svar
AI bør kun kunne tilgå de data og handlinger, der er nødvendige for den godkendte opgave. Skeln mellem brugerens rettigheder, integrationens tekniske konto og modellens forslag. En instruktion i en prompt er ikke en adgangskontrol.
Kortlæg tre forskellige identiteter
Brugeren stiller spørgsmålet, applikationen behandler opgaven, og en teknisk konto kan udføre et systemkald. Hvis den tekniske konto har bred adgang, skal applikationen stadig håndhæve, hvad den konkrete bruger må se og gøre.
Begynd med at beskrive de tilladte handlinger enkeltvis. Læse ordrestatus, se aftalepris og ændre en kreditgrænse er forskellige beføjelser. Undgå en generel rettighed som fuld kundehåndtering, der skjuler forskellen.
Lav en rettighedsmatrix, som forretningen kan læse
Brug roller og handlinger, ikke kun tekniske systemnavne. Matrixen nedenfor er et illustrativt udgangspunkt, ikke et forslag til en universel rollemodel. Tilpas den til jeres reelle ansvar og kontrolkrav.
| Handling | Kundeservice | Økonomi | AI-integration |
|---|---|---|---|
| Læse relevant ordrestatus | Efter kundeadgang | Efter behov | Kun for tilladt opgave |
| Klargøre svarforslag | Ja, efter regler | Efter behov | Uden automatisk afsendelse som udgangspunkt |
| Ændre kreditramme | Ikke i dette eksempel | Kræver godkendt rolle | Ingen selvstændig beføjelse |
| Godkende undtagelse | Efter mandat | Efter mandat | Kan sende til godkendelse |
Test at dokumentadgang følger med ind i svaret
En medarbejder må ikke få adgang til et fortroligt dokument gennem et AI-resumé, hvis vedkommende ikke må åbne dokumentet direkte. Test derfor både søgning, viste uddrag og det endelige svar med forskellige roller.
Afprøv også fjernede rettigheder og dokumenter, der er flyttet til et andet område. Hvis søgeindekset har en gammel kopi af adgangen, kan den aktuelle dokumentplacering give falsk tryghed. Aftal, hvordan rettighedsændringer slår igennem.
Begræns indflydelsen fra eksternt indhold
OWASP beskriver prompt injection som et problem, hvor input forsøger at påvirke modellens adfærd. Et dokument eller en mail bør derfor behandles som data, ikke som en ny tilladelse. Faste værktøjsgrænser og kontrol af handlinger er nødvendige, også når modellen får en tydelig instruktion.
Bevar logning af adgangsafslag og ændringer i rettigheder uden at kopiere unødvendigt fortroligt indhold ind i logs. Udpeg en ejer for regelmæssig gennemgang, og fjern adgange, når de ikke længere er nødvendige.
Brug det i praksis
Jeres næste skridt
- Skeln mellem bruger, applikation og teknisk konto.
- Beskriv læse- og skrivehandlinger enkeltvis.
- Test svar med forskellige roller og fjernede adgange.
- Lad ikke dokumenttekst ændre systemets beføjelser.
- Gennemgå integrationens rettigheder løbende.
Ofte stillede spørgsmål
Kan vi give AI en administratorkonto for nemheds skyld?+
Det øger konsekvensen af fejl. Afgræns den tekniske adgang til de nødvendige opgaver og systemer.
Er en prompt om ikke at dele data nok?+
Nej. Adgangen skal håndhæves af systemet og datakilderne.
Hvad skal testes efter en rolleændring?+
Søgning, uddrag, svar og mulige systemhandlinger. Kontrollér også eventuelle kopier og indekser.
Kilder og faglig baggrund
De praktiske eksempler og tjeklister er udarbejdet til denne guide. Følgende kilder uddyber de angivne faglige begreber.
Baggrund om instruktioner skjult i eksternt indhold og begrænsning af deres indflydelse.
Begreber i guiden
Fra guiden til jeres arbejdsgang
Se hvilke oplysninger, adgange og kontroller der skal afklares, før jeres systemer forbindes.
Brug skabelonen
Saml jeres egne oplysninger i et arbejdsgrundlag, som kan udfyldes og downloades.
Udgivet af Norstream med AI-assisteret udarbejdelse. Eksempler er illustrative, medmindre andet er angivet. Tilpas metoder og kontroller til jeres systemer og faglige ansvar.
Har du en rettelse eller et spørgsmål?