Hvad er Copilot, og hvilke af jeres data kan den se?

Copilot er Microsofts AI-assistent i Microsoft 365. Microsoft beskriver den som en behandlings- og orkestreringsmotor: den kobler en sprogmodel sammen med indholdet i Microsoft Graph og med de programmer, medarbejderne bruger hver dag. Derfor kan Copilot svare ud fra jeres egne mails, dokumenter, møder og chats, ikke kun ud fra sin generelle træning.

Det korte svar på, hvilke data den kan se: kun det, den enkelte bruger i forvejen har mindst visningsadgang til. Copilot giver ingen nye rettigheder. Den gør bare de rettigheder, der allerede findes, meget hurtigere at bruge, og det er både pointen og risikoen ved værktøjet.

Hvad er Copilot bygget af?

Copilot består af tre dele, der afhænger af hinanden: en sprogmodel, Microsoft Graph og selve Microsoft 365-programmerne. Sprogmodellen forstår og formulerer sproget. Microsoft Graph leverer konteksten fra organisationen, altså mails, filer, møder, kalendere og relationer. Programmerne, det vil sige Word, Excel, PowerPoint, Outlook, OneNote og Teams, er der, hvor svaret lander.

I den fulde udgave kommer der flere lag oven på. Semantisk indeksering gør Copilot bedre til at finde det relevante i Microsoft Graph. Copilot Search søger på tværs af programmerne og de tilkoblede datakilder. Work IQ er et lag, der lader agenter ræsonnere over organisationens indhold, og I kan slå det til og fra.

Hvilke data kan Copilot se?

Grænsen går ved brugerens egne rettigheder. Microsoft skriver, at Copilot kun viser organisationens data, som den enkelte bruger har mindst visningsadgang til, og at den semantiske indeksering respekterer den samme identitetsbaserede adgangsgrænse. Rettighederne i SharePoint, Teams og OneDrive er derfor den egentlige adgangskontrol.

Er indholdet krypteret med en følsomhedsmærkat, skal brugeren have både visningsretten og udtræksretten, før Copilot må returnere det. Mails beskyttet med S/MIME bliver ikke returneret, og adgangskodebeskyttede dokumenter kan Copilot slet ikke tilgå, medmindre brugeren allerede har dem åbne.

Microsoft peger selv på den reelle risiko: generativ AI forstærker problemet med overdeling. Har hele organisationen ved en fejl læseadgang til et bibliotek med personalesager, har den haft det hele tiden. Forskellen er, at ingen tidligere kunne finde sagerne på fem sekunder ved at spørge i almindeligt sprog. Ryd derfor op i rettighederne, før I tænder for værktøjet, ikke bagefter.

Er der forskel på Copilot Chat og Microsoft 365 Copilot?

Ja, og forskellen handler netop om, hvad værktøjet automatisk har adgang til.

Alle tre er omfattet af Enterprise Data Protection, når brugeren er logget ind med sin arbejdskonto i Microsoft Entra. Microsoft beskriver beskyttelsen som de samme kontraktlige vilkår, der gælder for mails i Exchange og filer i SharePoint.

Hvad sker der, når medarbejderen er logget ind privat?

Beskyttelsen følger kontoen, ikke mærkatet på skærmen. Fortæl det videre til resten af organisationen. Microsoft lister selv de indgange, hvor en bruger kan være logget ind privat, blandt andet Copilot-appen, copilot.microsoft.com, bing.com/chat og copilot.com.

Logger Anders Andersen ind med sin private konto og indsætter en klagesag i det, der ligner den samme assistent, er det reelt en anden tjeneste med andre vilkår. Skriv det direkte ind i jeres retningslinjer. Se også shadow AI.

Hvad med agenter og websøgning?

Copilot kan trække på mere end Microsoft 365. Gennem Microsoft Graph-forbindelser og agenter kan den referere til tredjepartsværktøjer, og data fra en forbindelse kan indgå i svaret, hvis brugeren har adgang til oplysningerne. Bruges en agent, danner Copilot en søgeforespørgsel på brugerens vegne ud fra prompten, aktivitetshistorikken og det, brugeren i forvejen har adgang til.

Det åbner flere veje ud for data, så styr det bevidst. I administrationscentret kan I se, hvilke rettigheder og hvilken dataadgang en agent kræver, samt agentens vilkår og privatlivspolitik. I bestemmer selv, hvilke agenter der må bruges i organisationen.

Websøgning er den anden udvidelse. Bruger Copilot websøgning, udleder den søgetermer af prompten og sender en forespørgsel til Bing. Det er en anden behandling end den, der foregår inde i jeres eget miljø. Administratorer kan styre websøgningen.

Hvor bliver data behandlet?

Kaldene til sprogmodellen sendes til de nærmeste datacentre i regionen, men kan også gå til andre regioner, når belastningen er høj. For brugere i EU er der en ekstra ramme: EU-trafik holder sig inden for EU Data Boundary, mens trafik fra resten af verden kan sendes til EU og andre lande.

To forbehold hører med. Modeller leveret af Anthropic som underdatabehandler er aktuelt ikke omfattet af EU Data Boundary, og Copilot blev først tilføjet som omfattet arbejdsbelastning i Microsofts forpligtelser om dataplacering den 1. marts 2024. Begge dele skal med i jeres fortegnelse og i jeres vurdering af overførsler.

Hvad skal I selv tage stilling til?

Microsoft leverer rammen. Beslutningerne er jeres. Datatilsynet og Digitaliseringsstyrelsen har etableret en regulatorisk sandkasse for AI, hvor virksomheder og myndigheder kan få gratis adgang til ekspertise og vejledning i GDPR og i risikoklassifikation efter AI-forordningen.

Fire beslutninger går igen, før et værktøj som dette bør åbnes for alle:

• Ryd op i rettighederne i SharePoint, Teams og OneDrive først, så Copilot ikke fremskynder en overdeling, I ikke kendte til.
• Fastlæg hvilke typer data medarbejderne må bruge, og hvilke der aldrig må indtastes.
• Skriv ned, hvem der godkender et nyt AI-værktøj, og på hvilket grundlag.
• Husk, at Copilot ikke er den eneste AI i browseren. Fanen ved siden af kan være en helt anden tjeneste.

Digitaliseringsstyrelsens guide til virksomheder er tydelig på det sidste punkt: personoplysninger bør kun indtastes i generative AI-værktøjer, hvis værktøjet er vurderet og godkendt. Vurderingen gælder værktøj for værktøj, ikke leverandør for leverandør. Se også ChatGPT, Copilot, Gemini og Claude og GDPR og DPIA før I lukker AI ind.

Se også: browserudvidelsen på produktsiden.