Hvorfor virker jeres awareness-træning ikke på AI-værktøjer?

Awareness-træning er bygget til en situation med en modstander. Nogen forsøger at narre medarbejderen, og træningen lærer hende at genkende signalet og lade være med at klikke. Det billede holder ikke, når den samme medarbejder selv indsætter en borgers oplysninger i en AI-chat. Der er ingen modstander og intet falsk afsenderfelt, kun en opgave der skal være færdig inden fyraften og en formulering, der er hendes egen. Derfor rammer træningen forbi, selv når den ellers er god.

Hvad er awareness-træning ifølge Datatilsynet?

Datatilsynet bruger awareness som samlebetegnelse for tiltag, der øger medarbejdernes bevidsthed og viden om sikkerhedsmæssige forhold. Det er en organisatorisk foranstaltning, en personrelateret og adfærdsmæssig af slagsen, og den supplerer de tekniske og fysiske løsninger.

Eksemplerne i tilsynets katalog er genkendelige: træning i at spotte phishing, vejledning om sikre adgangskoder, information om direktørsvindel, og instruktion i at sikre den rigtige modtager, når der sendes e-mail. Fælles for dem er, at medarbejderen skal opdage noget, der er galt.

Hvorfor virker awareness-træning på phishing?

Fordi phishing har kendetegn: et afsenderfelt der ligner det rigtige men ikke er det, en hastende tone, en anmodning der ikke passer til afsenderens rolle. Træningen giver medarbejderen et mønster at holde beskeden op imod, og en simulering giver mulighed for at øve genkendelsen, før det gælder for alvor.

Resultatet kan også gøres op. En simulering giver et tal, tallet kan sammenlignes med sidste kvartal, og en afdeling, der falder for den, kan få en ekstra runde. Security awareness som fag er bygget op om netop den sløjfe.

Lige så vigtigt: den rigtige handling er at lade være. Det koster medarbejderen intet at slette mailen og gå videre.

Hvad er anderledes, når medarbejderen bruger et AI-værktøj?

Det hele falder væk, for chatbotten sender ingen fælde. Den svarer venligt og hurtigt, og der sidder ingen modstander bag skærmen. Mønsteret mangler også, fordi teksten er medarbejderens egen, og opgaven skal stadig løses, så at lade være er ikke en mulighed denne gang.

Tag et eksempel. Anders Andersen har klaget over en afgørelse. Sagsbehandleren skal svare i dag, teksten er svær, og hun indsætter klagen med navn, mailadressen anders@havnia.dk og CPR-nummeret 240571-0000 i et chatvindue for at få hjælp til formuleringen. Hun gør det, fordi hun vil gøre sit arbejde ordentligt. Ingen undervisning har lært hende at være mistænksom over for sig selv.

Dertil kommer tempoet. En mail bliver læst, vurderet og besvaret over nogle minutter. En indsættelse i et chatvindue tager to sekunder og sker midt i en tankerække, uden noget naturligt stop hvor en husket regel kan nå at melde sig.

Phishing-træning beder medarbejderen mistro en fremmed. AI-situationen kræver noget andet: at hun i et halvt sekund mistror sin egen rutine.

Hvad awareness-træning stadig skal dække om AI

Der står også et lovkrav bag. Digitaliseringsstyrelsen skriver, at alle virksomheder og myndigheder, der udbyder og idriftsætter AI-løsninger, skal sikre tilstrækkelige AI-færdigheder hos de medarbejdere, der bruger systemerne, og at der ikke skelnes mellem grader af risiko.

Træningen skal hverken skrottes eller gøres længere. De fleste organisationer har allerede undervisning, som medarbejderne oplever som tilstrækkelig i omfang. Den skal bare have et nyt kapitel, kort nok til at blive husket:

• Hvilke AI-værktøjer er godkendt hos os, og til hvilke opgaver?
• Hvilke oplysninger må aldrig indsættes, sagt i samme sprog som jeres regler om mail?
• Hvad sker der med teksten, når den er sendt, og hvem har adgang til den bagefter?
• Hvem spørger man, når man er i tvivl, og hvor lang tid tager det at få svar?
• Hvad gør man, hvis det allerede skete i går?

Det sidste punkt bliver næsten altid glemt, og det er det, der afgør, om I overhovedet hører om hændelserne. En medarbejder, der frygter en personalesag, fortæller det ikke, og så opdager I først noget, når en borger spørger.

Skriv kapitlet med jeres egne værktøjer nævnt ved navn. En generisk lektion om kunstig intelligens hjælper ikke den, der sidder med et konkret vindue åbent og en deadline i dag.

Hvornår skal en organisatorisk foranstaltning følges af en teknisk?

Artikel 32 i databeskyttelsesforordningen kræver passende tekniske og organisatoriske foranstaltninger, så sikkerhedsniveauet svarer til risikoen. Begge ord står der. Undervisning dækker kun det ene.

Datatilsynets katalog beskriver forskellen mellem dem, men tilføjer at kategorien ikke er det afgørende. Afgørende er, om der er etableret tilstrækkelige foranstaltninger: I bliver ikke målt på, om I har holdt et kursus, men på om niveauet passer til risikoen.

Er jeres organisation omfattet af NIS2, peger direktivet i samme retning. Kravene til risikostyring omfatter både grundlæggende cyberhygiejne og uddannelse i cybersikkerhed, og ledelsen skal selv gennemgå træning og føre tilsyn med foranstaltningerne. Uddannelse er nævnt som ét krav blandt flere, ikke som løsningen på de andre.

Hvordan måler I, om det virker?

Forordningen kræver en procedure for løbende at afprøve, vurdere og evaluere, om foranstaltningerne virker. På phishing er den måling nem, for en simulering giver et tal. På AI-brug findes tallet sjældent, og derfor bliver emnet ofte diskuteret på fornemmelser.

Det, der kan tælles uden at læse med over skulderen, er hændelser: hvor mange gange om måneden er en oplysning på vej ind i et AI-værktøj, hvilke typer var der tale om, og hvilke tjenester blev brugt. Tal af den slags kan bruges til at prioritere uden at gøre medarbejderne til mistænkte, og de siger langt mere end en deltagerliste fra et kursus.

Hold målingen på antal og typer. I det øjeblik I begynder at gemme selve indholdet af medarbejdernes tekst for at forstå hændelserne, har I bygget et nyt problem oven på det, I ville løse. Hvilke oplysninger der overhovedet er tale om, kan I læse i følsomme personoplysninger og AI, og hvorfor brugen ofte foregår på private konti, står i shadow AI.

Se også: AI-kursus eller AI-kompetencer, GDPR-regler for medarbejdere, der bruger AI og browserudvidelsen på produktsiden.