Efterretningssag om AI-chatbot og ansøgning til regulatorisk sandkasse

Resumé

BIU modtog via fredagsmailen den 17. maj en orientering om, at forvaltningen deltager i pilotforsøg om udviklingen af en AI-chatbot i fagsystemet Fasit. Forvaltningen vil med sagen præsentere Beskæftigelses- og Integrationsudvalget for funktionaliteten af leverandørens AI-chatbot gennem en præsentation fra leverandøren under udvalgsmødet d. 17. juni 2024.  

Med sagen her orienteres udvalget også om, at forvaltningen – som en del af pilotforsøget - står som medansøger sammen med leverandøren af AI-chatbotten på en ansøgning til Datatilsynets såkaldte ’regulatoriske sandkasse’. Formålet med ansøgningen er at få vejledning fra Datatilsynet ift. juridiske rammer og sikkerhed ved brug af AI-chatbotten, så det sikres, at brugen af den lever op til alle gældende regler på området.

Indstilling

Beskæftigelses- og Integrationsforvaltningen indstiller,

1. At Beskæftigelses- og Integrationsudvalget tager leverandøren Schultz’ præsentation af AI-chatbotten i fagsystemet Fasit til efterretning.
2. At Beskæftigelses- og Integrationsudvalget tager til efterretning, at forvaltningen står som medansøger på leverandøren Schultz’ ansøgning til Datatilsynets regulatoriske sandkasse for AI vedrørende pilotprojekt om AI-chatbot-funktionalitet i fagsystemet Fasit.

Problemstilling

Frem mod 2030 skal forvaltningen finde store effektiviseringer på over 300 mio. kr., samtidig med at kvaliteten overfor borgerne så vidt muligt skal bibeholdes. Derfor finder forvaltningen det relevant at afdække, om AI-chatbot-funktionalitet i forvaltningens primære fagsystem, Fasit, vil have potentiale ift. at finde effektiviseringer, som potentielt ligeledes vil bidrage til at højne og ensarte kvaliteten i den borgerrettede sagsbehandling.

Forvaltningen deltager derfor, som BIU blev orienteret om via fredagsmail den 17. maj 2024, i pilotprojekt om udvikling og test af AI-chatbot i samarbejde med leverandøren Schultz. 

For at sikre lovmedholdeligheden af projektet, står forvaltningen derudover som medansøger på leverandørens ansøgning om vejledning fra Datatilsynets regulatoriske sandkasse ift. AI-chatbot pilotprojektet med henblik på at præge den endelige udvikling af produktet.

Løsning

Schultz’s teknologidirektør Morten Maate deltager til udvalgsmødet d. 17. juni 2024 og præsenterer deres AI-chatbot til fagsystemet Fasit, med mulighed for efterfølgende spørgsmål fra udvalget.

Funktionaliteten giver sagsbehandleren mulighed for at fremsøge kvalitetssikret information med tydelig kildehenvisning i et afgrænset tekstmateriale i det fagsystem, der understøtter sagsbehandlerens daglige kontakt med borgerne.

AI-chatbot kan således: 

• Fremsøge eksisterende viden fra vejledninger, arbejdsgange, lovtekst mv.
• Give et resume af borgerens sagsforløb, herunder antal samtaler, aktiviteter og dokumentation

Det ønskede resultat er, at tilgængeligheden af lovgivningsopslag, vejledninger, arbejdsgange mv. øges over for sagsbehandlere i fagsystemet, samt at sagsbehandlerne får adgang til ny funktionalitet ift. sagsresumeer med henblik på at højne kvaliteten i borgersager samt en mere effektiv og ensartet brug af fagsystemet. 

Forvaltningen står som medansøger på ansøgningen til den regulatoriske sandkasse mhp. at sikre fuld lovmedholdelighed i test og anvendelse af den nye teknologi, som pilotprojektet vedr. AI-funktionaliteten udgør.

Da AI-chatbot-funktionaliteten forventeligt vil skulle behandle personoplysninger, er forvaltningen enig med leverandøren i, at det er relevant at benytte sig af muligheden for gratis rådgivning fra den relevante tilsynsmyndighed.

Formålet med ansøgningen er således at sikre, at pilotprojektet sker i fuld overensstemmelse med gældende lovgivning, herunder ift. Databeskyttelses- og AI-forordningerne, og på etisk forsvarlig vis.

Databeskyttelsesrådgiveren i Københavns Kommune er orienteret om, at Beskæftigelses- og Integrationsforvaltningen står som medansøger på Schultz’ ansøgning og har ikke haft bemærkninger hertil.

Økonomi

Deltagelse i pilotprojektet er finansieret inden for forvaltningens eksisterende økonomiske ramme ved omprioritering af bl.a. andre systemmæssige udviklingsønsker. Prisen for at deltage i AI-chatbot pilotprojekt er mellem 1,0 -1,5 mio. kr., og forvaltningen forestår aftaleindgåelse om deltagelse i piloten.

Politisk handlerum

Beskæftigelses- og Integrationsudvalget kan bede om yderligere oplysninger eller komme med bemærkninger til forvaltningens deltagelse pilotprojektet. 

Videre proces

Såfremt forvaltningen vurderer potentiale i at idriftsætte AI-chatbotten, forelægges BIU en særskilt sag herom. Forvaltningen vil løbende holde Beskæftigelses- og Integrationsudvalget orienteret pilotprojektet.

Henrik Lund / Signe Maria Christensen