CEPOS og Institut for Menneskerettigheder: Det offentliges brug af kunstig intelligens truer retssikkerheden

Af Louise Holck, direktør for Institut for Menneskerettigheder, og Jes Brinchmann, direktør for CEPOS.

Bragt i Berlingske d. 16. oktober.

Forholdet mellem stat og borger står midt i en historisk omvæltning, der drives af statens digitalisering og brug af kunstig intelligens.

Husejere, virksomhedsejere og andre borgere har for længst oplevet, hvordan de hastige teknologiske forandringer har skabt graverende fejl i blandt andet ejendomsvurderinger og gældsinddrivelsessystemer.

Det vidner om, at velfærdsstatens udrulning af digitale og kunstigt intelligente løsninger hurtigt kan komme til at vægte højere end respekten for borgernes privatliv og retssikkerhed.

Hver fjerde offentlige myndighed anvender i dag kunstig intelligens til at løse sine opgaver. Ideen er at frigive både tid og medarbejdere til at løse andre presserende opgaver og sikre, at sager behandles effektivt og ensartet.

Men når store mængder persondata behandles i statens digitale systemer, er det med risiko for, at privatlivsbeskyttelsen sættes under et betydeligt pres.

Udbetaling Danmark, Erhvervsstyrelsen og Skatteforvaltningen har fået tildelt meget brede adgange til at indsamle, sammenkøre og videredele personoplysninger om en stor del af den danske befolkning – men de store beføjelser er ikke blevet fulgt op med et tilstrækkeligt fokus på at overholde de grundlæggende regler, der skal beskytte borgernes ret til privatliv.

Tværtimod viser en kortlægning fra efteråret 2023 fra Datatilsynet, at danske myndigheder har svært ved at finde ud af, om deres it-løsninger bruger kunstig intelligens, og om de behandler særligt beskyttede kategorier af personoplysninger for eksempel oplysninger som etnisk oprindelse, politisk overbevisning eller helbredsoplysninger – og i givet fald, om de overhovedet har lov til det.

Brugen af personoplysninger skal være lovlig, nødvendig og proportional, men der er stor risiko for, at myndighederne ikke lever op til det, når de fodrer kunstig intelligens med data.

På bekostning af rettigheder

Skattemyndighederne har erkendt, at de endnu ikke har gennemført de lovpligtige konsekvensanalyser for halvdelen af de ai-systemer, som de allerede har taget i brug eller har under udvikling.

Alligevel har den offentlige debat om konsekvenserne ved den digitale omvæltning glimret ved sit fravær. For hvordan protesterer man imod algoritmer, som ingen ved, hvordan virker? Hvordan råber man op om rettigheder, som få ved, at de har fået krænket?

Den manglende debat om myndighedernes brug af kunstig intelligens skyldes ikke mindst statens lukkethed. Borgere kan ikke få indblik i de algoritmer og modeller, som udgør kernen i myndighedernes nye systemer, og de kan derfor heller ikke få svar på, om kunstig intelligens har været med til at danne grundlag for beslutninger i deres sag.

Digitaliseringen af den offentlige forvaltning sker med andre ord på bekostning af borgernes grundlæggende rettigheder. En udvikling, vi finder bekymrende i et liberalt demokrati.

Derfor er vores anbefaling klar: For retssikkerhedens skyld skal det være gennemsigtigt, hvad der ligger til grund for myndighedernes kontrolindsatser, og borgerne har krav på at vide, hvordan myndighederne når frem til deres afgørelser.

Myndigheder bør altid kunne forklare, hvordan deres algoritmiske modeller er udviklet og trænet, hvad der ligger til grund for modellernes vurderinger, og hvilken kvalitet og risici, der er forbundet med modellernes anvendelse.

Egentlig burde det være en selvfølge. Grundlæggende rettigheder og principper stiller faktisk krav om, at borgerne, virksomhederne og offentligheden kan få indblik i myndighedernes modeller. Borgere og virksomheder, der er genstand for myndighedernes afgørelser og kontrol, skal desuden have mulighed for at kunne afdække eventuelle fejl eller uregelmæssigheder.

Kontrol og korrigering bekymrer

Myndighederne har selvfølgelig en legitim interesse i at kunne tilrettelægge en effektiv kontrolindsats, men når det skal flugte med loven, kommer vi ikke uden om hensynet til borgernes privatliv og retssikkerhed. Ikke mindst, fordi myndighedernes kontroller ikke altid udføres på baggrund af et konkret fagligt skøn af, hvilke borgere og virksomheder, der kan være grund til at holde ekstra øje med.

Kontrollerne udføres i stedet på baggrund af generelle risikovurderinger af alle landets borgere, som i høj grad baserer sig på ukendte kriterier.

Her kommer retten til privatliv nemt i klemme. Og statens kontroller kommer hurtigt til at lægge mere vægt på mistænkeliggørelsen og overvågningen af borgerne end det, staten reelt set skal – nemlig at beskytte borgerne og deres rettigheder.

Gennemsigtighed og åbenhed i forvaltningen er afgørende for både borgeres og virksomheders retssikkerhed. Alligevel har Vurderingsstyrelsen, Skattestyrelsen og Udbetaling Danmark alle afvist at give offentligheden indblik i, hvordan de anvender kunstig intelligens. Det er et problem for borgerne og virksomhederne og for den demokratiske kontrol med forvaltningen.

En anden bekymring næres af den måde, staten har vist sig at løse opdagede fejl eller risici. I de senere år har vi set en række eksempler på, hvordan store offentlige digitaliseringsprojekter kuldsejler eller viser sig ikke at overholde lovgivningen, hvorefter man politisk vælger at justere lovgivningen, så systemerne holder sig inden for lovens rammer, i stedet for at sende de digitale systemer tilbage på tegnebrættet. Det har i flere tilfælde udfordret borgeres og virksomheders retssikkerhed.

Som eksempel kan nævnes, da SKAT i 2010erne forsøgte at etablere et stort gældsinddrivelsessystem, det såkaldte EFI-system. Det viste sig, at systemet led af en række systemfejl, der var så alvorlige, at EFI ikke kunne understøtte en lovlig offentlig gældsinddrivelse. Alligevel blev det forsinkede system sat i drift uden sikkerhed for, at det overhovedet kunne fungere, endsige opkræve lovligt.

Et vigtigt første skridt bør være, at ansvarlige myndigheder fremadrettet sørger for de lovpligtige konsekvensanalyser, før de igangsætter nye ai-løsninger.

Men vi kommer ikke uden om, at der er et presserende behov for, at vi tager en mere principiel diskussion af, om myndigheder og politikere er gået for langt i deres iver efter at effektivisere og kontrollere på bekostning af borgernes grundlæggende ret til privatliv.