Kodeks for anvendelse af kunstig intelligens

Indstilling

Økonomiforvaltningen indstiller over for Økonomiudvalget,

1. at forslag til kodeks for anvendelse af kunstig intelligens i Københavns Kommune, jf. bilag 1, godkendes.

Problemstilling

Anvendelsen af kunstig intelligens i den offentlige sektor er generelt på et tidligt stadie, men der er store forventninger til, at teknologien fremover kan hjælpe med give bedre og mere effektiv service til borgere og virksomheder. For eksempel vil kunstig intelligens kunne hjælpe kommunens sagsbehandlere med forslag til indsatser baseret på en maskinel vurdering af, hvad der tidligere har givet god effekt i en lignende situation. Som et redskab til beslutningsstøtte kan kunstig intelligens dermed både støtte medarbejderne og være til stor gavn for borgerne. 

I Københavns Kommune er anvendelsen også på et tidligt stadie. Her har kunstig intelligens sammen med andre nye teknologier indtil nu hovedsageligt været anvendt til at effektivisere administrative processer og i begyndende grad til beslutningsstøtte i den borgernære og administrative sagsbehandling. Kunstig intelligens anvendes desuden til kontrol med snyd, hvor kommunen har særlige pligter og beføjelser til at føre tilsyn. Selvom erfaringerne endnu kun er gjort i det små, så tyder alt på, at der er et stort potentiale fremadrettet i Københavns Kommune.

Kunstig intelligens kan bedst beskrives som en form for avanceret statistik, der anvender matematiske formler til at analysere og finde mønstre i data. Ud fra det kan teknologien give bud på løsninger på en given opgave. Det kan for eksempel være på beskæftigelsesområdet, hvor kunstig intelligens kan bruges til at analysere store mængder af data og komme med bud på, hvilke beskæftigelsesindsatser der har virket for borgere i samme situation og med lignende kompetencer. 

Den eksisterende lovgivning, herunder forvaltningsloven og databeskyttelsesloven, giver i vid udstrækning klare rammer for, hvordan man som myndighed skal behandle borgernes data. Selvom lovgivningen er implementeret, og brugen af kunstig intelligens og behandling af data sker indenfor dens rammer, kan der opstå spørgsmål knyttet til ny praksis, eller mere etiske spørgsmål. Det kan for eksempel være om, i hvilket omfang man skal anvende mulighederne i teknologien til at lave forudsigelse om borgere. Københavns Kommunes anvendelse af kunstig intelligens er endnu ikke et sted, hvor de etiske spørgsmål er opstået, men udviklingen og anvendelsen af teknologien går hurtigt, og spørgsmålene kan snart opstå.

For at imødekomme de spørgsmål, der kan komme af både etisk og juridisk karakter, har staten etableret et dataetisk råd, ligesom der med Økonomiaftalen for 2020 er igangsat en række fællesoffentlige signaturprojekter med kunstig intelligens. Signaturprojekterne er pilotprojekter, som skal finde svar på spørgsmål i brugen af kunstig intelligens, da disse ofte vil gøre sig gældende på tværs af den offentlige sektor.

Københavns Kommune er projektejer på to af signaturprojekterne på henholdsvis beskæftigelsesområdet og byggesagsområdet. Begge projekter handler om anvendelse af kunstig intelligens til beslutningsstøtte i sagsbehandlingen og medfører ikke etiske spørgsmål, men vil rejse en række spørgsmål relateret til ny praksis. Det er blandt andet spørgsmål om, hvordan der kan skabes gennemsigtighed for både medarbejdere og borgere i de anbefalinger, der gives af teknologien. Der vil også være behov for at se på, hvordan det kan sikres, at teknologien bliver en støtte til medarbejdernes faglighed og ikke kommer til at erstatte den.

Løsning

Med en stigende anvendelse af kunstig intelligens i Københavns Kommune er der behov for fælles retningslinjer for brugen af teknologien. Med budgetaftalen for 2020 blev det derfor besluttet, at der skal udarbejdes et kodeks for anvendelsen af kunstig intelligens.

Økonomiforvaltningen har i samarbejde med de øvrige forvaltninger i regi af kommunens administrative It-direktørkreds udarbejdet et forslag til et kodeks med mål og principper, som fremgår af bilag 1. Kodekset har været i administrativ høring i forvaltningerne, og er desuden godkendt af kredsen af administrerende direktører. Kodekset har ikke været i høring i de politiske fagudvalg, men Økonomiudvalget kan vælge at sende kodekset i høring i fagudvalgene forud for en endelig godkendelse i Økonomiudvalget. Det bemærkes, at der ikke lægges op til en godkendelse af kodekset i Borgerrepræsentationen.

Kodekset bygger i høj grad på retningslinjer fra EU og principperne om brug af kunstig intelligens i den nationale strategi på området. Sammen med den eksisterende lovgivning skal kodekset sætte rammen for anvendelsen af kunstig intelligens i Københavns Kommune.

Kodeksets fem mål for anvendelsen af kunstig intelligens er:

1. Der skal være tillid til kommunens brug af kunstig intelligens
2. Kunstig intelligens skal bidrage til bedre service for borgere og virksomheder
3. Kunstig intelligens skal frigive ressourcer til kernevelfærden
4. Kunstig intelligens skal være en støtte til fagligheden
5. Kodekset skal følge erfaringer og udvikling i lovgivningen

Større etiske og juridiske spørgsmål vil blive afsøgt i dialog med staten og KL og i de fællesoffentlige signaturprojekter. Kommunens administrative It-kreds vil vurdere behovet for yderligere administrative retningslinjer om anvendelsen af kunstig intelligens i kommunen.

Eksempler på anvendelsespotentialet i kommunen
Københavns Kommune anvender løbende ny teknologi til at understøtte medarbejderne og frigive tid til kerneopgaverne. Et eksempel er softwarerobotter, som siden 2016 har frigivet ca. 78.000 timer ved at automatisere simple og regelbundne opgaver som journalisering eller indsamling af dokumenter i forbindelse med aktindsigter.

Næste naturlige skridt er at anvende ny teknologi til at understøtte mere komplekse processer. Her har kunstig intelligens et stort potentiale, da den er god til at analysere og finde mønstre i store datamængder, og med en hastighed mange gange hurtigere end et menneske. I kommunal kontekst kan det særligt oplagt anvendes til at lette medarbejdernes forberedelse af sager og understøtte beslutninger i valg af indsatser eller afgørelser. Eksempler fra Københavns Kommune kan findes i bilag 2.

Løbende revidering af kodekset
Der vil i de kommende år blive hentet erfaringer fra de førnævnte fællesoffentlige signaturprojekter i samarbejde med KL og Digitaliseringsstyrelsen. I første halvår af 2020 forventes desuden et udspil fra EU-kommissionen om dataetik, som vil omfatte anvendelsen af kunstig intelligens. Økonomiforvaltningen følger udviklingen og vil løbende vurdere behovet for at revidere kodekset og tilhørende retningslinjer.

Økonomi

Indstillingen har ikke i sig selv økonomiske konsekvenser for Københavns Kommune.

Videre proces

Med Økonomiudvalgets godkendelse vil kodekset træde i kraft.

 Søren Hartmann Hede /Mads Grønvall