Hvad gør robotter ved retssikkerheden?

Kommunens kodeks for anvendelse af kunstig intelligens siger, at der skal være tillid til kommunens anvendelse af kunstig intelligens, at den skal bidrage til bedre service, og at anvendelsen skal ske åbent, forsvarligt og inden for lovgivningens rammer.

Langt de fleste af kommunens udviklede it-systemer er alene beslutningsunderstøttende, dvs. at det fortsat er sagsbehandleren, der træffer den endelige afgørelse eller beslutter, på hvilken måde systemoplysningen skal påvirke konkrete borgere. Det menneskelige filter er med til at sikre, at eventuelle systemfejl rettes, så de ikke kommer borgeren til skade.

Borgerrådgiverens undersøgelse giver imidlertid anledning til alvorlig bekymring for, om kommunen i tilstrækkeligt omfang har tænkt borgernes rettigheder og retssikkerhed ind ved udvikling og ibrugtagning af softwarerobotter og i en vis udtrækning kunstig intelligens.

Borgernes rettigheder og kravene til kommunens sagsbehandling gælder på samme måde som i øvrigt, når sagsbehandlingen digitaliseres og automatiseres. De digitale hjælpemidler skal dermed leve op til de grundlæggende forvaltningsretlige krav. Fejl i it-systemer kan potentielt masseproducere tilsidesættelser af borgernes rettigheder, så det er vigtigt at være opmærksom og på forkant.

Folketingets Ombudsmand fremhæver i Generelle forvaltningsretlige krav til offentlige it-systemer vigtigheden af at indtænke borgernes rettigheder fra start, dvs. allerede i idé-, beslutnings- og udviklingsfasen. Borgerrådgiveren er ikke i tvivl om, at de relevante kompetencer findes i kommunen, men undersøgelsen indikerer, at kompetencerne ikke inddrages i nødvendigt omfang.

Borgerrådgiveren har derfor bl.a. anbefalet kommunen

• at overveje, hvordan det i højere grad kan sikres, at kommunen overholder borgernes rettigheder ved udvikling og anvendelse af softwarerobotter og kunstig intelligens mv.
• at tydeliggøre borgernes rettigheder i kommunens retningslinjer på området 
• at faglige fyrtårne/erfarne sagsbehandlere inddrages tidligt i udviklingsprojekterne
• at sikre menneskelig involvering i processer, der direkte berører borgerne, herunder ved fortsat at prioritere beslutningsunderstøttende systemer frem for fuldautomatiske systemer

Borgerrådgiveren har desuden anbefalet, at forvaltningerne fremover trækker på Borgerrådgiverens kompetencer i overensstemmelse med de allerede gældende retningslinjer.

Borgerrådgiveren vejleder i rapporten om de væsentligste forvaltningsretlige regler, som skal overholdes, og giver eksempler på, hvordan disse regler kan glemmes ved udvikling og brug af softwarerobotter mv. Derudover har Borgerrådgiveren henvist til forskellige værktøjer, som kan anvendes for at sikre borgernes rettigheder i forbindelse med udvikling af softwarerobotter mv.

Borgerrådgiveren har bedt om en tilbagemelding om, hvad anbefalingerne giver forvaltningerne anledning til.

Læs Borgerrådgiverens rapport om retssikkerhed ved udvikling og brug af robotter i sagsbehandlingen (link)