Forstå på tre minutter, hvorfor en robot godt må være sagsbehandler.
I takt med at robotter går fra at varetage dele af sagsbehandlingen til fuldautomatiske afgørelser, melder de etiske udfordringer sig. Foto: Getty Images
Siden jeg afsluttede min uddannelse som journalist fra Danmarks Journalisthøjskole i 1986, har jeg erhvervet mig en bred erfaring med forretningsudvikling, kommunikation og marketing, samt organisation og ledelse på både strategisk og operationelt niveau i privat og offentligt regi.
Jeg arbejder for EG, det offentlige Danmarks mest værdifulde samarbejdspartner, fordi vi tager medansvar for at udvikle den offentlige velfærd gennem digitalisering.
Som redaktør for SamfundsDesign er jeg altid på udkig efter spændende, vedkommende relevante historier om digitalisering af det offentlige Danmark. Så kontakt mig, hvis du sammen med os vil være med til at forankre den digitale forandring, der skal sikre velfærdssamfundet – og når vores børn bliver forældre.
Kontakt og følg Per Roholt
Både simple og avancerede softwarerobotter flytter ind på de offentlige kontorer. Her overtager de små og store dele af sagsbehandlingen.
Spørgsmålet er, hvor de retslige grænser for brug af kunstig intelligens går.
I takt med at robotter går fra at varetage dele af sagsbehandlingen til fuldautomatiske afgørelser, melder de etiske udfordringer sig.
For er det i orden, at en kunstig intelligens beslutter, om du må få jagttegn? Må en robot fx afgøre, om din gangbesværede mor skal have afslag på forlænget fodbehandling? Må den udbetale udbytteskat? For blot at nævne nogle få eksempler. Nej, siger blandt andet forsker og lektor Helle Antczak, der i Socialrådgiveren advarer mod at automatisere det socialfaglige skøn.
Det højaktuelle tema er også i fokus på kurset Brug af kunstig intelligens – retslige udfordringer og muligheder, som JUC afholder. Her får deltagerne et grundlæggende overblik over mulighederne og de juridiske rammer for brug af AI i den offentlige og private sektor.
Her er budskabet, at reglerne i udgangspunktet er ganske enkle.
Offentlige softwarerobotter må gerne træffe fuldautomatiske afgørelser i de borgersager, hvor der er udtrykkelig hjemmel i loven.
Læs artikel: Kan robotterne give dig varme hænder?
Endnu er brugen af fuldautomatiske afgørelser ikke særligt udbredt.
Inden for det offentlige findes der dog en række kendte eksempler, hvor reglerne er klare. Det er fx selvbetjeningsløsninger, hvor den studerende kan ansøge om SU ved at indtaste egne oplysninger, der samkøres med oplysninger fra andre registre og beregner, om den unge har ret til SU eller ej.
Læs artikel: Erstatningsansvar: Er vi klar til robotterne?
Når robotterne i visse tilfælde må træffe afgørelser, gælder det altså kun områder, hvor der er klare betingelser for de fuldautomatiske afgørelser.
Borgeren har desuden ret til at få meningsfulde oplysninger om den systemlogik, der ligger bag algoritmen, der traf den fuldautomatiske afgørelse, og en begrundelse for den konkrete afgørelse, jævnfør forvaltningslovens bestemmelser.
Borgeren har med andre ord krav på at vide, hvilke faktiske omstændigheder der blev lagt vægt på.
I princippet er borgeren godt beskyttet, idet både forvaltningsloven og EU's databeskyttelsesregler er teknologineutrale. Det vil sige, at borgerne har de samme rettigheder, uanset om det er en robot eller en sagsbehandler, der træffer afgørelserne.
Læs artikel: Vingeskudt robot sat i drift
I virkeligheden er det næppe de fuldautomatiske afgørelser, der er de mest udfordrende for borgerens retssikkerhed. Måske er det de små robotter.
Allerede i dag er der hundredevis af små RPA-robotter, der yder de ansatte i de offentlige forvaltninger beslutningsstøtte.
Et eksempel er Erhvervsstyrelsen, hvor man ved hjælp af machine learning finder mønstre, der kan afsløre, om nye selskaber er fupselskaber oprettet med henblik på hvidvask, eller ATP's chatbot, der tager imod kundernes opkald og giver dem et hurtigt svar eller får dem dirigeret hen til den rigtige sagsbehandler.
Et andet eksempel er robotten Vera i Aalborg Kommune, der er udviklet specielt til at håndtere de blanketter, som kommunen modtager fra KMD – DP 133, hvorfra data efterfølgende skal indtastes i kommunens eget lønsystem, valideres og bogføres, så de kan blive udbetalt til de enkelte arbejdsgivere.
Jo flere af sådanne systemer til beslutningsstøtte sagsbehandleren får, jo sværere kan det være at afgøre, om der er foregået en reel sagsbehandling. Dermed risikerer man, at sagsbehandleren ender som en "monkey", der bare blåstempler sager og sender dem videre i systemet uden at foretage en reel vurdering af sagens oplysninger.
Og den går ikke.
Det offentlige skal have systemer og procedurer, så man på en dokumentarbar måde kan vise fx Datatilsynet, hvordan robottens algoritme arbejder, og hvordan sagsbehandleren efterfølgende eftergår beslutningen og foretager et reelt skøn, inden der træffes en beslutning i de sager, hvor der ikke er direkte hjemmel i loven til fuldautomatiske afgørelser.
Læs artikel: Danmark skal være førende på kunstig intelligens
Læs artikel: RPA-robot tager nordjyder med storm
Læs mere: Digital automatisering med softwarerobotter
