Hvad er shadow AI, og hvordan opdager I, at det foregår hos jer?

Shadow AI er de AI-værktøjer, medarbejderne bruger, uden at IT eller ledelsen har vurderet og godkendt dem. Det foregår næsten altid i browseren, på en privat konto, midt i en travl arbejdsdag. I opdager det ikke i en fakturaoversigt, for der er sjældent en faktura. I opdager det ved at se på, hvad der faktisk sker på maskinerne, og ved at spørge medarbejderne på en måde, der ikke gør et ærligt svar farligt.

Hvad er shadow AI helt præcist?

Shadow AI er brug af AI-tjenester uden for organisationens kontrol. En medarbejder åbner ChatGPT, Gemini, Claude eller Copilot på sin egen konto og indsætter et udkast, en mail eller et uddrag af et regneark for at komme videre. Valget af værktøj er ofte fornuftigt nok. Det, der mangler, er vurderingen af, hvad der må sendes ind i det.

Digitaliseringsstyrelsen skriver i guiden til virksomheder, at personoplysninger kun må indtastes i et generativt AI-værktøj, hvis værktøjet er vurderet og godkendt til brug med personoplysninger. I guiden til offentlige myndigheder er formuleringen skarpere: personoplysninger må ikke indtastes i generative AI-værktøjer, der er gratis tilgængelige via offentlige hjemmesider. En privat konto i browseren er per definition ikke vurderet og ikke godkendt.

Prisen afgør ikke, om noget er shadow AI. En medarbejder kan bruge et værktøj, organisationen selv har købt, og alligevel arbejde i skyggen, hvis hun er logget ind med sin private konto. Det afgørende er, om aftalen, vurderingen og sikkerheden omkring brugen er jeres, ikke hvem der betaler regningen. Er de det ikke, ligger oplysningerne uden for det, I kan stå inde for.

Hvorfor opstår shadow AI hos ellers ordentlige medarbejdere?

Fordi den godkendte vej enten ikke findes eller er langsommere end den forbudte. En medarbejder, der skal svare en borger inden fyraften, vælger det værktøj, der er åbent. Hvis retningslinjen ligger i et intranetdokument fra sidste år, og værktøjet ligger et klik væk, vinder værktøjet.

Ordet fortrolig er sjældent oversat til noget, man kan genkende i en prompt. De fleste ved godt, at en sagsakt er fortrolig. Færre tænker over, at et telefonnummer, en mailadresse og et fødselsår tilsammen peger på én bestemt person. Digitaliseringsstyrelsen gør samtidig opmærksom på, at udbyderne af frit tilgængelige værktøjer ofte har ret til at bruge prompts, metadata og svar i andre sammenhænge, herunder til at træne værktøjerne. Det står i vilkårene, og vilkårene er ikke læst.

Hvordan opdager I, at det foregår hos jer?

Fem spor virker bedst sammen:

• Spørg først. En kort, anonym rundspørge om, hvilke AI-værktøjer folk bruger, og hvad de bruger dem til, giver mere end et halvt års logning. Sig på forhånd, at svaret ikke får konsekvenser.
• Kig i browseren, ikke kun i softwarelisten. Shadow AI installerer ingenting. Se på browserudvidelser og på de faner, der er åbne hele dagen.
• Se på trafikken. Netværks- og proxylog viser opslag mod kendte AI-domæner. Det fortæller jer omfanget, ikke indholdet, og det er også nok.
• Sammenhold med jeres positivliste. Digitaliseringsstyrelsen peger i begge guides på positivlister over de generative AI-værktøjer, ledelsen har godkendt. Uden listen findes der ingen målestok for, hvad der er shadow.
• Følg opgaverne. Spørg, hvilke opgaver værktøjet løser. Det peger direkte på, hvilke oplysninger der er i prompten.

Husk rækkefølgen, når I når til trafikken. Datatilsynets vejledning om ansættelsesforhold kræver, at medarbejderne på forhånd og på en klar og utvetydig måde er informeret om, at registreringen af internetbrugen finder sted, og om at loggen kan blive gennemset ved mistanke om misbrug. Registreringen skal samtidig være nødvendig for at forfølge berettigede interesser, og hensynet til de ansatte må ikke overstige dem. Kontrol, I tænder først og fortæller om bagefter, skaber et nyt problem oven i det, I ville løse.

Hvad siger databeskyttelsesreglerne om det?

Databeskyttelsesforordningens artikel 32 kræver et sikkerhedsniveau, der passer til risikoen. Den udpeger ikke bestemte produkter, og den siger ikke noget om AI. Den siger, at I skal vurdere risikoen og vælge tekniske og organisatoriske foranstaltninger derefter.

Datatilsynets katalog over foranstaltninger er den praktiske oversættelse. Kataloget samler tekniske og organisatoriske foranstaltninger til artikel 5, 25 og 32. Valget skal følge organisationens egen risikovurdering, og den enkelte foranstaltnings værdi afhænger af, hvilke andre foranstaltninger der allerede er på plads. Et forbud i en politik er en foranstaltning. Det er bare ikke en stærk en, hvis den står alene.

Kataloget beskriver awareness som en organisatorisk foranstaltning, der typisk bruges, hvor truslen ikke kan håndteres tilstrækkeligt teknisk. Læs det som en rækkefølge: tag først det, der kan løses teknisk, og brug undervisningen på resten.

Hvornår bliver shadow AI til et brud på persondatasikkerheden?

Et brud på persondatasikkerheden er, når personoplysninger ved et uheld eller ulovligt bliver tilintetgjort, tabt, ændret, videregivet eller gjort tilgængelige for nogen, der ikke skulle have dem. En kundeliste indsat i et værktøj, I hverken har vurderet eller har en aftale med, kan være netop det. Vurderingen afhænger af, hvad der blev sendt, til hvilken tjeneste og på hvilke vilkår.

Fristen gør spørgsmålet ubehageligt. Medmindre det er usandsynligt, at bruddet indebærer en risiko for de berørte, skal det anmeldes til Datatilsynet uden unødig forsinkelse og om muligt senest 72 timer, efter at den dataansvarlige er blevet bekendt med det. En formodning om et brud er nok til, at I skal undersøge hændelsen hurtigst muligt. Det forudsætter, at nogen opdager det, og at I kan svare på, hvilke oplysninger der forlod huset.

Det er her shadow AI koster mest. Uden viden om, hvad der er sendt hvorhen, kan I hverken afgrænse et brud, besvare en indsigtsanmodning eller dokumentere over for et tilsyn, hvad der faktisk er sket. Derfor er en tælling af omfanget ikke bureaukrati. Den er forudsætningen for at kunne svare.

Hvad gør I ved shadow AI, uden at lukke for AI?

Et forbud flytter kun brugen hjem på telefonen. Målet er at gøre den godkendte vej til den hurtigste vej:

1. Godkend nogle værktøjer, og skriv dem ned. En positivliste med to navne slår en politik på fire sider.
2. Sig konkret, hvad der aldrig må i en prompt. CPR-numre, helbred, sagsakter og hele kundelister. Se hvad der overhovedet tæller som personoplysninger.
3. Giv et alternativ, der er lige så hurtigt. Hvis den godkendte konto er tre klik væk, bliver den ikke brugt.
4. Sæt stoppet der, hvor teksten forlader maskinen. Det er det sidste sted, en fejl stadig kan rettes uden at skulle anmeldes.
5. Mål i antal, ikke i navne. Ledelsen har brug for omfanget. Den har ikke brug for at læse med.

Så er shadow AI ikke længere et skyggeområde, men en opgjort mængde, I kan arbejde med. Reglerne for den enkelte medarbejder er samlet i GDPR-regler for medarbejdere.

Se også: Microsoft Purview og browseren og browserudvidelsen på produktsiden.