Hva Copilot ikke kan fortelle deg

Microsoft Copilot for 365 er bygget på et fornuftig prinsipp: den respekterer SharePoints granulære tilgangskontroll. To ansatte som stiller nøyaktig samme spørsmål, vil få ulike svar avhengig av hvilke dokumenter de har lov til å se. Fra et informasjonssikkerhetsperspektiv er dette riktig oppførsel — alternativet, en AI som lekker innhold på tvers av tilgangsgrenser, ville vært en katastrofe for etterlevelsen.

Problemet er mer subtilt, og slik jeg ser det, farligere. Copilot leverer delvis kunnskap med full overbevisning.

Når Copilot svarer på et spørsmål, henter den bare fra innhold du har tilgang til. Hvis det beste, mest fullstendige eller mest sikkerhetskritiske materialet ligger bak en tilgangsgrense du ikke kan krysse, vil Copilot ikke fortelle deg det. Den kan ikke. Selv det å antyde at det finnes begrenset innhold om emnet, ville i seg selv være en metadatalekkasje — et brudd på selve tilgangskontrollmodellen den er designet for å overholde.

Det setter designet i en umulig posisjon. Hvis Copilot markerer ufullstendig dekning, avslører den at det finnes begrenset informasjon. Hvis den tier om hullene, stoler brukerne på et delvis svar som om det var fullstendig. Begge veiene fører et eller annet dårlig sted. Microsoft valgte den andre.

Uten Copilot søker ansatte manuelt i SharePoint. De gjenkjenner grensene for det de finner. De spør kolleger. De eskalerer. Den manuelle prosessen bærer sin egen form for ærlighet — du vet at du kan ha gått glipp av noe. Copilot fjerner den usikkerheten. Den erstatter "jeg lette litt og fant dette" med "her er svaret". Flyten i et generert svar undertrykker instinktet til å verifisere. To personer i samme møte går derfra med ulike AI-genererte sammendrag, begge selvsikre, begge ufullstendige, og ingen av dem har grunn til å betvile sitt.

Tenk deg to ingeniører på ulike anlegg som spør Copilot om en idriftsettelsesprosedyre. Den ene har tilgang til hele dokumentasjonsbiblioteket, inkludert sikkerhetskritiske blokkeringskrav. Den andre har bare tilgang til den generelle idriftsettelsessjekklisten. Begge får et selvsikkert, velstrukturert svar. Begge går videre. Den ene mangler sikkerhetskritiske trinn og har ingen grunn til å mistenke det. I den typen arbeid jeg driver med, er det ikke en hypotetisk risiko.

Tradisjonell tilgangskontroll beskytter mot uautorisert tilgang. Det vi ser nå, er noe annet: autorisert men ufullstendig tilgang som blir presentert som fullstendig kunnskap. Risikorammeverk for virksomheter har ennå ikke en klar kategori for dette, og Microsofts egen dokumentasjon om ansvarlig AI feier det stort sett bort med rådet om å "sikre god styring". Det overlapper med NIS2s leverandørkjede-plikt under artikkel 21(2)(d) , men plikten der vurderer leverandører som diskrete avhengigheter — den krever ennå ikke at AI-utdataene deres kommer med tillitskalibrering.

En generell ansvarsfraskrivelse på hvert svar kunne kanskje hjelpe — noe à la "dette svaret er bare basert på innhold du har tilgang til". Microsoft har ikke innført noe slikt. En dekningsindikator som varsler om manglende kontekst uten å avsløre hva som mangler, er et vanskeligere designproblem, og jeg ser ingen tegn til det på veikartet.

Copilots nytte er gissel for kvaliteten på en organisasjons informasjonsforvaltning. De fleste store virksomheter sliter med år av SharePoint-spredning — inkonsistente tilganger, foreldede områder, overdeling, brutt arving. Copilot fikser ingenting av det. Den forsterker det.

Verktøyet respekterer bokstaven i tilgangskontrollen, samtidig som det undergraver ånden i informerte beslutninger. Det er kanskje den dyreste typen AI-feil som finnes — ikke et dramatisk datainnbrudd, men en langsom, usynlig erosjon av beslutningskvalitet i hele organisasjonen.

Spørsmålet det er verdt å stille, er ikke om Copilot kan se dataene dine. Det er om Copilot er ærlig om hva den ikke kan se.