Hvad er generativ AI, og hvor bliver det, du skriver, af?

Generativ AI er systemer, der skaber nyt indhold ud fra en prompt. Digitaliseringsstyrelsen definerer kunstig intelligens bredere: systemer baseret på algoritmer, der ved at analysere og finde mønstre i data kan identificere løsninger eller generere svar på forespørgsler. Generativ kunstig intelligens er den del af feltet, der genererer svar uanset emne.

Og det, du skriver, bliver ikke på maskinen. Prompten sendes til leverandørens servere, behandles der og gemmes typisk som en historik. Hvad der sker derefter, afhænger af aftalen med leverandøren og af, om medarbejderen er logget ind på en arbejdskonto eller en privat konto.

Hvad er generativ AI teknisk set?

Værktøjet er ikke en database og slår ikke op. Digitaliseringsstyrelsens guide til virksomheder er præcis på det punkt: generativ AI er ikke intelligens i menneskelig forstand. Modellen forsøger at forudsige, hvilken tekst, hvilket billede eller hvilken lyd der med størst sandsynlighed tilfredsstiller den givne prompt.

Den sætning rummer både styrken og svagheden ved værktøjet. Det kan formulere et udkast om stort set hvad som helst på få sekunder, men et sandsynligt svar er ikke det samme som et rigtigt svar, og værktøjet kan ikke selv kende forskel. Det er grunden til, at et udkast fra værktøjet altid skal læses igennem, ikke bare sendes videre.

Hvad er forskellen på AI og generativ AI?

Kunstig intelligens er paraplyen. Et spamfilter er et eksempel. Det samme er en anbefalingsmotor eller en prognosemodel, ingen af dem genererer noget som helst. Generativ AI er den undergruppe, der producerer nyt indhold: tekst, billeder, lyd eller kode.

Skelnen er ikke akademisk. Det er den generative del, der får medarbejdere til at indsætte hele sagstekster i et chatfelt. Det er også den, en retningslinje skal forholde sig til.

Hvor bliver det, medarbejderen skriver, af?

Forløbet er kort, og de færreste tænker over det, mens det sker. Teksten forlader browseren, når der trykkes send, behandles hos leverandøren og gemmes som regel, så samtalen kan fortsætte. I mange tjenester kan den tilgås igen bagefter, enten af brugeren selv eller af en administrator.

Tre ting afgør, hvad det betyder for jer: kontoen, aftalen og selve indholdet. En arbejdskonto med en erhvervsaftale og en privat gratiskonto er to forskellige tjenester, også når skærmbilledet ser ens ud. Hvad leverandøren må gøre med indholdet, står i aftalen, ikke i markedsføringen. Og det eneste, der med sikkerhed ikke bliver behandlet hos leverandøren, er det, der aldrig blev sendt.

Det sidste punkt er grunden til, at en drøftelse om generativ AI hurtigt bliver konkret. Sjældent handler den om, hvorvidt medarbejderne må bruge værktøjet. Den handler om, hvad der må stå i feltet. Se også må man bruge ChatGPT på arbejdet.

En medarbejder skal skrive et svar til borgeren Anders Andersen og indsætter hele sagsnotatet i chatfeltet, fordi udkastet bliver bedre af det. Navnet, adressen og CPR-nummeret 240571-0000 følger med i samme bevægelse, selv om kun to sætninger af notatet var nødvendige for et brugbart udkast. Værktøjet bad ikke om resten. Det fik det bare.

Hvad går galt i praksis?

Digitaliseringsstyrelsens guide til virksomheder peger på tre risici ved generativ AI.

Den ene er forkerte eller opdigtede svar. Værktøjet kan tage fejl, særligt når datagrundlaget er forældet eller mangelfuldt, og det sker med samme rolige tone som ved et korrekt svar.

Svarene kan også være skæve: fordomsfulde eller forudindtagede, for eksempel om køn, etnicitet eller politiske holdninger, fordi de stammer fra træningsdata eller fra indbyggede filtre.

Endelig er der informationssikkerheden. Datalæk er en vedvarende risiko ved onlinetjenester, så valget af løsning bør risikovurderes. Guiden anbefaler, at virksomheder fastlægger, hvilke typer data der må bruges, og slår fast, at personoplysninger kun bør indtastes i generative AI-værktøjer, der er vurderet og godkendt.

Datatilsynet og Digitaliseringsstyrelsen har etableret en regulatorisk sandkasse for AI. Her kan virksomheder og myndigheder få gratis adgang til ekspertise og vejledning i GDPR og i risikoklassifikation efter AI-forordningen.

Hvad siger AI-forordningen om generativ AI?

AI-forordningen er bygget op om fire risikoniveauer. Uacceptabel risiko dækker ni forbudte anvendelser. Høj risiko gælder systemer, der kan true sundhed, sikkerhed eller grundlæggende rettigheder, for eksempel inden for ansættelse, uddannelse og kritisk infrastruktur. Chatbotter og lignende hører under transparensrisiko. Langt de fleste systemer i EU falder i den sidste kategori, minimal risiko, hvor der ikke gælder særlige krav.

For generativ AI er transparenssporet det centrale. Brugerne skal kunne vide, at de taler med en maskine, og AI-genereret indhold skal kunne identificeres, med tydelig mærkning af deepfakes og af AI-skabt indhold af offentlig interesse.

Datoerne ligger fast hos Europa-Kommissionen: forbuddene mod de uacceptable anvendelser har været gældende siden 2. februar 2025, reglerne om generelle AI-modeller siden 2. august 2025, transparensreglerne fra 2. august 2026, og kravene til højrisikosystemer fra 2. december 2027, for systemer indlejret i regulerede produkter dog først 2. august 2028. Det nyeste af forbuddene, mod seksualiserede deepfakes og materiale med seksuelt misbrug af børn, gælder fra december 2026. Se også AI-forordningen på dansk.

Hvad skal I beslutte, før medarbejderne bruger det?

Fem beslutninger dækker det meste. De kan tages på ét møde:

1. Hvilke opgaver må løses med generativ AI, og hvilke må ikke.
2. Hvilke værktøjer er vurderet og godkendt, og hvem vedligeholder listen.
3. Hvilke typer data må indtastes, og hvilke må aldrig.
4. Hvem kontrollerer svaret, før det sendes videre til en borger eller en kunde.
5. Hvad gør medarbejderen, hvis noget alligevel er blevet sendt.

Det femte punkt er det, de fleste retningslinjer glemmer. En medarbejder, der ved, hvad hun skal gøre bagefter, siger det. En medarbejder, der frygter konsekvensen, lader være, og så opdager I det aldrig. Se også databrud, når persondata havner i en chatbot.

Se også: browserudvidelsen på produktsiden.