AI i det offentlige: hvad må en kommunal sagsbehandler bruge AI til, og hvad må aldrig i prompten?

AI i det offentlige er ikke forbudt, men prompten er ikke et frirum. Digitaliseringsstyrelsen beskriver generativ AI som noget, en myndighed kan bruge til at generere nye ideer eller komme med udkast, og KL nævner tekstforbedring i samme åndedrag. Personoplysninger må derimod ikke indtastes i generative AI-værktøjer, der er gratis tilgængelige via offentlige hjemmesider, og det samme gælder fortrolige oplysninger.

Hvor langt er AI i det offentlige nået?

KL's guide om generativ AI dækker brugen af offentligt tilgængelige tjenester, kommunernes egne løsninger og leverandørernes løsninger. Guiden udkom første gang i 2023 og er opdateret i december 2025.

Den nævner idéudvikling, tekstforbedring og brug af AI-agenter som eksempler. Guiden er tydelig om, at outputtet ikke står alene: en fagperson bør altid gennemgå, korrigere og godkende et udkast, uanset hvor godt det ser ud ved første øjekast.

Datatilsynets kortlægning af den offentlige sektor fra 2023 viste, at brug af kunstig intelligens endnu ikke var vidt udbredt blandt offentlige myndigheder, og at de løsninger, der blev brugt, oftest var standardløsninger eller den samme specialudviklede løsning hos flere myndigheder. Det er værd at huske, når presset for at komme i gang er stort.

De to spor opfører sig forskelligt. En indkøbt løsning kan reguleres i en kontrakt. Den fritekstboks, medarbejderen selv finder frem til på en offentlig hjemmeside, kan ikke.

Hvad må aldrig stå i prompten?

Digitaliseringsstyrelsen skriver, at personoplysninger kun må indtastes i generative AI-værktøjer, hvis værktøjet er vurderet og godkendt til netop det, og derfor ikke i værktøjer, som er gratis tilgængelige via offentlige hjemmesider. Fortrolige oplysninger bør kun indtastes, hvis der er foretaget en risikovurdering af den valgte løsning, og de må heller ikke indtastes i de gratis tilgængelige værktøjer.

KL's guide siger det samme i sine opmærksomhedspunkter: du må ikke dele personoplysninger i offentligt tilgængelige AI-løsninger, og du må ikke dele forretningskritisk information som fortrolige orienteringer eller strategisk følsomme oplysninger.

Oversat til en sagsbehandlers hverdag betyder det, at følgende ikke hører hjemme i en fritekstboks hos en leverandør, I ikke har en aftale med:

• Navn, adresse og CPR-nummer på en borger, for eksempel Anders Andersen, 240571-0000.
• Helbred, sociale forhold, strafbare forhold, fagforening, religion og etnicitet.
• Journalnotater, klagesager, indstillinger og referater, også når navnet er fjernet, hvis sagen alligevel kan genkendes.
• Kontaktoplysninger som anders@havnia.dk, der peger direkte på én person.

Det sidste punkt er det, der oftest bliver overset. En sag kan være genkendelig uden et eneste navn, hvis adressen, datoen og forløbet står der.

Hvornår må kommunen videregive personoplysninger om en borger?

Når en tekst indsættes i en AI-tjeneste, forlader oplysningen kommunens kontrol. Det kræver sit eget grundlag. Datatilsynet skriver, at retten til én bestemt form for databehandling, for eksempel indsamling, ikke automatisk medfører ret til andre former, for eksempel videregivelse, af de samme oplysninger.

At kommunen lovligt har journalen, siger altså intet om, hvorvidt indholdet må sendes videre. Det samme gælder CPR-nummeret: offentlige myndigheder kan behandle personnummeret med henblik på entydig identifikation eller som journalnummer, men det er en tilladelse til identifikation, ikke til deling. Reglen er udfoldet på siden om videregivelse af personoplysninger.

Hvad betyder tavshedspligten for AI-brug?

Tavshedspligten forsvinder ikke, fordi modtageren er et program. En oplysning, en sagsbehandler ikke må nævne til naboen, må heller ikke indtastes i en tjeneste, kommunen ikke har taget stilling til.

Det praktiske problem er, at der ikke findes et øjeblik, hvor nogen spørger. En mail til en forkert modtager kan kaldes tilbage i nogle systemer. En prompt kan ikke.

Derfor er rækkefølgen vigtig: afklar værktøjet, før medarbejderen står med sagen. Digitaliseringsstyrelsen anbefaler netop først at fastlægge en tilgang til værktøjerne, dernæst at udarbejde retningslinjer og endelig at etablere de organisatoriske rammer.

Retningslinjerne bør ifølge styrelsen tage højde for faldgruberne gennem oplysning af medarbejderne, kvalitetskontrol med krydstjek af svarene, transparens om, hvornår generativ AI er brugt, og en separat adgangskode til de værktøjer, der kræver login. De organisatoriske rammer handler derimod om ressourcer, om en åben dialog internt og om løbende at tage valget af værktøjer op til revurdering.

Hvad kræver AI-forordningen af medarbejderne?

Med AI-forordningens ikrafttræden den 2. februar 2025 skal alle offentlige myndigheder sikre, at de medarbejdere, der anvender AI-systemer, har de nødvendige AI-færdigheder. KL beskriver dem i tre grupper:

1. Teknologiske færdigheder, altså en forståelse af, hvordan AI-systemer er bygget og fungerer.
2. Praktiske færdigheder, altså kendskab til anvendelser, begrænsninger og forholdsregler.
3. Etiske færdigheder, altså en forståelse af konsekvenserne for medarbejdere, borgere og samfund.

Om medarbejderen vidste noget om AI på forhånd, betyder mindre end om den, der trykker send, kan gennemskue, hvad værktøjet kan og ikke kan.

Hvad skal være på plads, før I går i gang?

Datatilsynets vejledning til offentlige myndigheder behandler de grundlæggende overvejelser, myndigheder skal gøre sig, inden de går i gang med at udvikle AI-løsninger: behandlingsgrundlag, oplysningspligt og konsekvensanalyser.

Kortlægningen viste, at myndighederne overvejende sikrer sig et relevant behandlingsgrundlag, men har udfordringer med at overholde kravet om at foretage konsekvensanalyser eller at foretage dem rettidigt. Det er det hul, der oftest står åbent.

Oplysningspligten bliver let glemt i samme omgang. Borgeren skal kunne se, hvad kommunen gør med oplysningerne, og en ny behandling i et AI-værktøj er en ny oplysning at give.

Hvorfor kan svaret ikke stå alene?

Risikoen ligger også i selve teksten, værktøjet leverer tilbage. Digitaliseringsstyrelsen peger på, at værktøjerne kan give forkerte eller opdigtede svar på en måde, der gør det svært at gennemskue, om der er tale om opdigtet indhold, og at de kan producere fordomsfulde eller forudindtagede svar. KL's guide nævner opfundne tal, ikke-eksisterende kilder og forkerte paragraffer.

For en myndighed, der skal begrunde afgørelser, er det ikke en detalje. En henvisning til en paragraf, der ikke findes, er ikke en skrivefejl, men en fejl i afgørelsen. Derfor skal en fagperson altid godkende udkastet, og paragraffen skal slås efter i det rigtige regelsæt, ikke i chatten. Værktøjet kan skrive hurtigere end mennesket. Det kan ikke tage ansvaret for indholdet, og det ansvar bliver i kommunen.

Se også: tavshedspligt og AI, NIS2 og medarbejdernes brug af AI og browserudvidelsen på produktsiden.