Sikkerhed for AI-agenter i din virksomhed

Få overblik over, hvad jeres AI-agenter kan nå, og styr adgangen. En
agent med forbindelse til mail, dokumenter eller et API giver
rettigheder og fejlmuligheder, der skal gennemgås. Vi kortlægger de
aftalte systemer, vurderer risici, indfører godkendte
sikkerhedsforanstaltninger og afprøver de begrænsede handlinger. I
får adgangskortet, fundene og dokumentationen for kontrollen.

Kortlagt: hver agent, og hvad den kan nå

Vi kortlægger agenter inden for det aftalte omfang, både godkendte
integrationer og andre forbindelser, som gennemgangen med jeres
medarbejdere viser. Kortet beskriver legitimationsoplysninger,
værktøjer og tilgængelige data for hver agent. I får kortet sammen
med fundene, og vi aftaler ansvaret for opdatering ved
overdragelsen. Gennemgangens omfang og huller fremgår udtrykkeligt.

Låst: hver agent med mindste privilegium

En agent får sin egen identitet og kun den adgang, dens opgave
kræver — mindste privilegium: roller i stedet for delte konti
(RBAC), kun læseadgang som udgangspunkt og skriveadgang kun gennem
snævert afgrænsede værktøjer med loft over, hvor ofte og hvor meget.
Hemmeligheder deles op pr. agent og pr. vært, indsættes aldrig i en
prompt og roteres uden en kodeændring. Ekstern tekst, en agent læser
— en e-mail, en webside eller et dokument — behandles som data, der
ikke er tillid til. Værktøjernes rettigheder og
valideringskontroller håndhæver de aftalte grænser; en besked med
»ignorer dine regler« er ikke en tilladelse til at udføre en
handling. Kontrollerne er fail-closed: kan et tjek ikke køre, bliver
handlingen afvist.

Registreret: hvad den gjorde, og for hvem

Hvert værktøjskald logges med den person, det blev foretaget på
vegne af, hvad agenten blev bedt om, hvad den rørte ved, og hvad der
kom tilbage, og loggen gemmes et sted, hvor agenten ikke selv kan
ændre den. Alarmregler aftales for systemet. De kan omfatte en
pludselig stigning i antallet af læsninger, brug uden for de
forventede tider eller adgang til data uden for agentens aftalte
dataområde. Går noget alligevel galt, er det loggen, der gør en
sikkerhedshændelse til en tidslinje i stedet for et gæt.

En lås skal afprøves, ikke tages for givet

Vi tester adgangskontroller inden for opgavens omfang og
dokumenterer, hvad der blev forsøgt, afvist eller kræver mere
arbejde. Test kan omfatte afviste værktøjskald, ratebegrænsning,
adskilte legitimationsoplysninger og forsøg på prompt-injektion.
Resultatet er dokumentation og gentagelige kontroller med beskrevne
grænser. Hændelseshåndtering og rotation af legitimationsoplysninger
aftales særskilt, når et eksisterende læk skal begrænses.

Arbejdet, der ligger bag

Vi har udført dette arbejde på servere, i identitetssystemer og på
platforme. Vi skrev 1.000 RBAC-regler til Linux- og databaseservere,
ledede adgangsstyringen i M365 og single sign-on og kørte et løbende
sikkerhedsscanningsprogram med 21 skriftlige revisioner. Vi adskilte
alle driftshemmeligheder pr. vært, tilføjede et preflight-tjek af
hemmeligheder på ét sekund, fandt tre låse på døren, og ingen af dem
var låst, og beviste, at indtrængningsblokeringen virker ved hver
kørsel. Vi byggede fail-closed rate limiting mod misbrug og skrev en
afgrænsningsregel efter et læk. Hvordan vi selv holder orden i eget
hus, kan du læse under sådan arbejder vi sikkert.

Sådan forløber et samarbejde

Det begynder med ren læseadgang. Vi kortlægger agenterne inden for
det aftalte omfang, deres adgangsoplysninger og det, de giver adgang
til, og giver dig fundene sorteret efter risiko, hvert med sin
begrundelse og sin rettelse. Derefter laves rettelserne i din
konfiguration og dit repository, gennem dit review og med tjek, der
slår fejl, når de kontrollerede adgangsveje giver adgang ud over de
aftalte rettigheder. Du beholder kortet, loggen og testene — den
mappe, du rækker en revisor eller et forsikringsselskab — og de
data, dine agenter læser, kan adgangsstyres på samme måde. Det købes
som resten af vores arbejde, på vilkårene i hvad det koster.

Har agenter allerede nøgler til dine systemer, så fortæl os, hvilke
(læses af ingeniøren).

hDenne side på nettet	URL:https://platform.engineer.company/da/ai-security/	platform.engineer.company	70
