MENU
FN offentliggjorde i 2019 en større rapport om digitaliseringen af de offentlige forvaltninger, herunder den øgede brug af kunstig intelligens, hvor det indledningsvis anføres:
»It is argued that big technology companies (frequently referred to as ‘big tech’) operate in an almost human rights-free zone, and that this is especially problematic when the private sector is taking a leading role in designing, constructing and even operating significant parts of the digital welfare state.«[1]FN Special Rapporteur, Report of the Special Rapporteur on extreme poverty and human rights, 11. Oktober 2011, tilgængelig via https://undocs.org/A/74/493
I rapporten opfordres til øget opmærksomhed på offentlig digitaliserings påvirkning af de grundlæggende retsstatslige og demokratiske værdisæt, ligesom der advares om tech-industriens stigende indflydelse på de offentlige administrationer. Dette er en del af baggrunden for nærværende pilot-projekt, der har til formål at udpege områder, hvor de nordiske lande med fordel kan etablere samarbejder samt sikre kortlægninger, undersøgelser og forskning, der kan bidrage til, at den digitale udvikling i de nordiske og baltiske lande kan ske under respekt for og på grundlag af de fællesnordiske værdier om demokrati, retsstat, retssikkerhed og tillid mellem borgere og myndigheder.
Størstedelen af de offentlige forvaltninger i de udvalgte nordiske lande rangerer allerede blandt verdens mest digitaliserede. Hertil kommer, at der fremadrettet må forudses anvendelse af endda meget avancerede teknologier til en bred vifte af forskelligartede opgaver. Digitaliseringen af de nordiske retsstater har således karakter af en fremskreden og stadig pågående udvikling, der omfatter mange forskellige forvaltningsaktiviteter, der i stigende grad påvirker den offentlige administrations styringsforhold, organisation og arbejdsgange.
I relation til de retlige aspekter synes der – i hvert fald baseret på ombudsmandspraksis fra de højest digitaliserede af de undersøgte lande – hidtil at have været en tendens til, at de grundlæggende forfatningsretlige og forvaltningsretlige regler og principper (for) ofte overses i forbindelse med udvikling, anvendelse og vedligehold af offentlige digitale løsninger. Hvor udpræget denne tendens forsat er, kan ikke udledes med sikkerhed baseret på de begrænsede data, der er indhentet i nærværende pilot-projekt. Det synes dog at være hensigtsmæssigt med et proaktivt fokus på fremme af såvel lovmedholdelighed som retssikkerhed i bred forstand parallelt med den forventede øgede anvendelse af mere avancerede teknologier.
Et særligt fokusområde bør være, at det er en fællesnævner for navnlig Norge, Sverige, Finland og Danmark, at der aktuelt satses på udvikling af kunstig intelligens som redskab til at effektivisere og forbedre den offentlige sektors opgaveløsning. For disse lande er det bemærkelsesværdigt, at der gøres en række etiske overvejelser, mens de retlige og retssikkerhedsorienterede spørgsmål primært adresseres som temaer relateret til datadeling- og beskyttelse, privatlivets fred, overvågning og til dels diskrimination (ofte omtalt som bias i den offentlige debat).
Videre har de til pilotprojektet tilsendte data afdækket, at også lovgivningen i de nordiske lande påvirkes af den øgede digitalisering. Der kan således observeres en begyndende retsudvikling, hvor den almindelige forvaltningsret justeres til den øgede digitalisering. De højest digitaliserede lande arbejder desuden mere eller mindre strategisk med det, der kaldes digitaliseringsklar lovgivning, hvilket oftest er placeret eller koordineret i Finansministeriernes regi.
Det anbefales for det første, at der enten søges dialog om at udbyde post.doc. projekter i Nordforsk-regi eller af ministerrådet igangsættes et arbejde mellem seniorforskere i de nordiske og baltiske lande, hvor de forfatnings- og menneskeretlige rammer for offentlig digitalisering afdækkes og analyseres – og at der udarbejdes vurderinger af, om de nugældende forvaltningsretlige regler støtter tilstrækkelig op om praktisk compliance med disse overordnede rammer. Et vigtigt aspekt synes at være, at projektet eller projekterne adresserer problematikker relateret til kunstig intelligens, herunder om og på hvilke områder et krav om dokumentation som ordensforskrift er relevant som en fremtidssikring af de fællesnordiske værdier.
Det anbefales på baggrund af de indsamlede data – for det andet - at der indledes dialog om at udbyde et eller flere post.doc-projekter i Nordforsk-regi til grundigt at undersøge digitaliseringens påvirkning af styrings- og ansvarskonstruktioner i de digitale forvaltninger og eventuelt også domstolsadministrationerne. Det bør sikres, at sådanne projekter gennemfører analyser og vurderinger af, i hvilket omfang og hvordan der via henholdsvis kontrakters udformning eller lovgivningsmæssige tiltag kan sikres tilstrækkelig styring med private leverandørers (tech-industriens) indflydelse på den fremtidige – højt digitaliserede – forvaltning.
Som det tredje anbefales det at udrede, i hvilken retning retsudviklingen både inden for den generelle og specielle forvaltningsret går, hvilke hensyn udviklingen hviler på – og hvorvidt denne udvikling i lyset af de faktiske forhold sker på et velovervejet og retssikkerhedsmæssigt betryggende grundlag. Et sådan arbejde kan gennemføres både som samarbejder mellem senior-forskere i lighed med Digi-courts eller som ph.d. eller post-doc-projekter i Nordforsk.
For det fjerde anbefales det kraftigt at imødekomme behovet for styrkelse af vidensdeling og erfaringer indenfor det fællesnordiske samarbejde specifikt i relation til retlige aspekter af den digiale forvaltning ved at etablere et længerevarende projekt, hvor der kontinuerligt over flere år indsamles praksis mv. fra de nordiske – og eventuelt de baltiske – lande – og udarbejdes årlige rapporter herom til udgivelse via Nordisk Ministerråd.
Endelig anbefales det – for det femte – at Nordisk Ministerråd generelt overvejer i en dialog med Nordforsk at anbefale retsvidenskabelig forskning som en integreret del af de øvrige projekter, der relaterer sig til offentlig digitalisering indenfor programmet. Dette synes især relevant inden for de mange projekter relateret til nyere og mere avancerede teknologier såsom kunstig intelligens.
Det overordnede formål med projektet har været på baggrund af foreløbige data fra en række lande at vurdere, om der er behov for styrke vidensdeling, undersøgelser og forskning i de retlige aspekter af offentlig digitalisering, der relaterer sig til de centrale fællesnordiske værdier om demokrati, retsstat, retssikkerhed og tillid mellem borgere og myndigheder. De udvalgte lande er Island, Færørene, Finland, Norge, Sverige og Danmark. Der er alene tale om et mindre pilotprojekt, der skal udpege felter og temaer, hvor der kan være behov for styrket vidensdeling og forskning i de forfatningsretlige, menneskeretlige og forvaltningsretlige spørgsmål relateret til offentlig digitalisering, der samtidig kan indebære ikke-ubetydelige udfordringer for de fællesnordiske værdier.
Baggrunden for projektet er et bagvedliggende ønske om at sikre, at såvel forvaltningspraksis som retsudviklingen også i en digital tid hviler på de fællesnordiske værdier. Undersøgelsen hviler på en underliggende formodning for, at de nordiske lande med fordel kan samarbejde om at identificere tendenser og udfordringer, samt drage nytte af hinandens erfaringer og forskningsresultater. Sidstnævnte skyldes de store ligheder mellem de nordiske landes forvaltningsorganisationer- og processer, forvaltningernes opgaver, de grundlæggende værdier udtrykt i lovgivningen og de værdier, som relationen mellem borgere og myndigheder grundlæggende bygger på (god forvaltningsskik).
Som led i pilotprojektet er der indhentet materiale fra centrale myndighedsaktører i de respektive lande i det omfang, de har fundet at kunne bidrage hermed.[1]Det var planlagt at besøge de respektive aktører i de enkelte lande. Dette blev alene gennemført som et fysisk møde for den norske ombudsmandsinstitutions vedkommende, idet de øvrige dialoger har været digitale som følge af Covid-19. Hertil kommer, at især de nordiske justitsministerier har givet udtryk for at være under et stort – helt forståeligt – arbejdspres i perioden. Aktørerne har varieret fra land til land, men i alle lande er justitsministerierne og ombudsmandsinstitutionerne blevet kontaktet, ligesom der er indhentet materiale fra de aktører, der på det overordnede plan er ansvarlige for den offentlige digitalisering. Sidstnævnte har vist sig primært at være myndigheder i finansministeriernes regi. Ligeledes har der været etableret kommunikation med de kommunale fællesskaber i et enkelt land (Færøerne).
Der er således indsamlet foreløbigt materiale om a) gennemførte og påtænkte digitaliseringstiltag i de respektive lande b) klagesags- samt domstolspraksis relateret til offentlig digitalisering og c) lovgivningsmæssige tendenser forbundet til sådan offentlig digitalisering.
For så vidt angår prøvelsespraksis, viste et fællestræk ved de nordiske lande sig at være, at domstolsprøvelse ikke er videre udbredt. Dette skyldes antageligvis de processuelle forhold samt muligvis omkostningerne til at føre retssager.[2]Se om prøvelsesspørgsmålet og ombudsmandsinstitutionernes rolle i lyset af den begrænsede domstolsprøvelse i af den digitale forvaltning Folketingets Ombudsmand i Danmark, Niels Fenger, FOB 2019, Hvordan digitaliserer vi uden at skade vores retssikkerhed? og samme i Ombudsmanden – et værn for borgernes retssikkerhed, UfR 2020 B, s. 37 ff. De nordiske ombudsmandsinstitutioner synes derimod at spille en meget central rolle (især) i de lande, hvor digitaliseringen af forvaltningen er længst fremme. Det drejer sig navnlig om embederne i Danmark, Norge, Sverige og Finland, men også den islandske ombudsmandinstitution har givet udtryk for at være opmærksom på områdets stigende betydning.
Det indsamlede materiale er derefter undersøgt og de relevante dele beskrevet, se herom nedenfor i afsnit 2-4. Ikke alt det tilsendte materiale er anvendt i rapporten, idet opdraget er at fokusere på de forfatningsmæssige, menneskeretlige og mest centrale forvaltningsretlige rammer. En række sager om f.eks. aktindsigt, om anvendelse af urigtige oplysninger fra it-systemer og retsstridig opbygning af selvbetjeningssystemer er således ikke nævnt i rapporten.
På baggrund af de relevante dele af det tilsendte materiale, er der på en foreløbig basis peget på de udfordringer inden for projektets temaer, der synes at gå igen i prøvelsespraksis, på indikationer på lovgivningsmæssige tendenser og på fremadrettede udfordringer. Videre er der – afslutningsvis – peget på mulige modeller, hvorved Nordisk Ministerråd kan bidrage til, at de fællesnordiske værdier vedrørende retssikkerhed både formelt og reelt kan påvirke rammerne for de fremtidige (digitale) forvaltninger. Hvor det har været relevant, er der tillige løbende udpeget felter, hvor de enkelte lande synes at skille sig ud. Sidstnævnte er valgt at inddrage for at understøtte Nordisk Ministerråds overvejelser om, hvorvidt de øvrige lande kan drage nytte af den indsigt, der må antages at være opbygget i sådanne lande med særlige fokusområder.
I det følgende ridses status for de nordiske forvaltningers digitalisering kort op i afsnit 2, hvorefter der baseret på udvalgte dele af den tilsendte prøvelsespraksis identificeres retssikkerhedsmæssige udfordringer, som denne hidtidige digitalisering har ført med sig (hvor disse udfordringer relaterer sig til forfatningsretlige, menneskeretlige, centrale forvaltningsretlige eller dog vigtige retssikkerhedsmæssige og styringsmæssige aspekter). I afsnit 3 beskrives den lovgivningsmæssige udvikling oversigtligt, og det vurderes, om der kan være behov for yderligere forskning inden for dette område. De nordiske strategier for den fremtidige udvikling gennemgås i afsnit 4, hvor der også udpeges potentielle udfordringer af retlig karakter. I afsnit 5 opsummeres, på hvilke områder det er vurderet, at der er behov for yderligere viden om og indsigt. Der opstilles tillige forslag til forskellige modeller, der kan imødekomme disse behov.
Generelt gælder det for de udvalgte lande, at deres offentlige forvaltninger ifølge FN rangerer blandt verdens mest digitaliserede.[1]E-Government Survey 2020, Digital Government in the Decade of Action for Sustainable Development with addendum on COVID-19 Response, s. 25 (XXV) ff. Her bortses fra Færørene, der ikke er omfattet af FNs globale rapporter (og hvorfra de interviewede aktører har givet udtryk for ikke at være helt så langt fremme som de øvrige lande). Satsninger på udvikling af bl.a. den centrale infrastruktur er imidlertid iværksat, og en tilsvarende udvikling må således forventes for Færøernes vedkommende inden for en kortere årrække. F.eks. vil den nuværende MinLykil blive erstattet med Samleikin, der er en signaturløsning lignende den finske og islandske signaturløsning. Tilsvarende arbejdes med øget anvendelse af digitale løsninger i kommunalt regi, se om fællesnordisk inspiration og teknologideling nedenfor i afsnit 2.2.
I det følgende ridses status for forvaltningens digitalisering i de udvalgte lande kort op i afsnit 2.2, hvorefter det bl.a. baseret på prøvelsespraksis gennemgås i afsnit 2.3, hvilke forfatningsretlige, menneskeretlige og overordnede retssikkerhedsmæssige udfordringer de indhentede data indikerer i relation til denne hidtidige digitalisering. For læsevenlighedens skyld opsummeres i afsnit 2.4 de identificerede områder, samtidig med at der gives anbefalinger til videre kortlægninger, undersøgelser og forskning, inden der ses på den lovgivningsmæssige udvikling i afsnit 3.
Fælles for de fleste af de udvalgte lande er, at den centrale fællesoffentlige infrastruktur er udviklet og etableret over de sidste 10-15 år, at skatte- og ydelsesområderne er helt eller delvist automatiserede samtidig med, at der er sket en vis centralisering af begge administrationsområder, at der pågår øget digitalisering i kommunalt regi og at der sker stigende automatisering af såvel interne og eksterne forvaltningsopgaver.
Den nordiske fællesoffentlige digitale infrastruktur består bl.a. af fællesoffentlige portaler, hvor indgange til de forskellige myndigheders borger- og virksomhedsrettede løsninger samles (selvbetjening- og indberetningsløsninger).[1]F.eks. borger.dk, Virk.dk fra Danmark, Government.no i Norge samt specialiserede portaler, såsom Altinn.no til indberetninger til statslige myndigheder. Data.norge.no udstiller offentlige data og Anskaffelser.no er beregnet til udbud. Se også Government.is og Government.se. Finland skiller sig ud ved at have samlet alle services på samme portal under mottoet one-stop-shop.
Især Danmark har etableret en udbredt brug af digitale selvbetjeningsløsninger til kommunikation mellem borgere, virksomheder og myndigheder. Alene på den ene af de store portaler, borger.dk, er der udstillet omkring 2000 selvbetjeningsløsninger fordelt på 775 forvaltningsområder.[2]Digitaliseringsstyrelsens udtalelse i FOB 2019-22. I Danmark er der desuden via bemyndigelser i speciallovgivningen givet ressortministerierne omfattende adgang til at udstede bekendtgørelser, hvori brugen af de pågældende selvbetjeningsløsninger kan gøres obligatorisk for borgere og virksomheder, medmindre der konkret træffes afgørelse om dispensation herfra pga. f.eks. handicap.[3]Dette har sin baggrund i det, der kaldes bølgeplanen, der var et led i den forrige danske digitaliseringsstrategi. Her blev iværksat fire bølger af digital kommunikation understøttet af fire såkaldte samlelove, se herom https://digst.dk/strategier/digitaliseringsstrategien/tidligere-strategier/digitaliseringsstrategien-2011-2015/lovgivning-om-obligatorisk-digital-selvbetjening/
Andre centrale løsninger i den fællesoffentlige infrastruktur er officielle sikrede postkasser, der er etableret for både fysiske og juridiske personer (borger og virksomheder) og digitale signaturer. Om end digitale signaturer er etableret i de fleste lande, er der dog betydelig variation landene imellem i forhold til udbredelse og anvendelse.[4]Danmark anvender en udbyder (NETS) til NemID, der er en to-faktor-løsning med brugernavn og password samt kode på papkort eller via app. Sverige har flere udbydere og softwarebaserede løsninger, samt smartcards, eller via smartphone. Norge har aktuelt MinID, BankID på mobil, BankID, Buypass, Commfides eller Buypass ID på mobil og et Nyt e-ID (MinID) udvikling. Finland har flere udbydere og forskellige løsninger, bl.a. borgerkortet (smartcard m. chip), samt BankID og eID udbudt af mobiloperatører. Island har Icekey, der er en to-faktor ID-løsning kombineret med Multi IceKey Danmark skiller sig i denne sammenhæng ud ved, at den digitale signatur (NemID, fremadrettet MitID) længe har været offentligt ejet og styret, hvilket formentlig har været medvirkende til en udbredt anvendelse. Besiddelse af NemID i Danmark er desuden blevet afgørende for borgeres og virksomheders mulighed for at anvende offentlige digitale løsninger, herunder tilgå den officielle mail (Offentlig Digitial Post). NemID udgør ligeledes grundlaget for borgeres og virksomheders møde med domstolene i civile retssager. Danmark har – som følge heraf – bl.a. prøvelsespraksis om de praktiske og retlige implikationer af at overlade beføjelser til (private) leverandører af fællesoffentlig infrastruktur, se nedenfor i afsnit 2.3.4.[5]Se note 6 om obligatorisk digital selvbetjening i Danmark.
Der er – som et yderligere fælles led i opbygningen af fællesoffentlig infrastruktur – ensartede betalingsløsninger under udvikling samt i vidt omfang implementeret forskellige former for tværgående økonomistyringsløsninger. Herudover vil opbygningen af databaser og datawarehouses formentlig på sigt blive betragtet som en del af denne centrale infrastruktur. Årsagen er, at adgang til data på tværs af myndighedsressortområder både er en forudsætning for brug af digitale løsninger til at understøtte eller automatisere aktiviteter i såvel tilsynsøjemed, afgørelsessager og inden for servicetilbud – og for udvikling af kunstig intelligens til at understøtte disse aktiviteter, se herom nedenfor i afsnit 4.2. Indtil videre synes det dog primært at være ressortmyndighederne, der varetager opbygning og vedligehold af registre, databaser, datawarehouses mv. De senere år er der også taget initiativ til at udstille de indsamlede offentlige data til bl.a. kommerciel anvendelse, muligvis som en del af forberedelserne på at implementere det reviderede PSI-direktiv fra EU.[6]Europa-Parlamentets og Rådets direktiv (EU) 2019/1024 af 20. juni 2019 om åbne data og videreanvendelse af den offentlige sektors informationer. Se initiativer f.eks. Datafordeler.dk, opnnadata.se, fellesdatakatalog.digdir.no/, avoindata.fi, opingogn.is. Der er endnu ikke udviklet en portal på Færørene. Især Norge synes at være langt fremme med dette arbejde. Tilsvarende indeholder alle landestrategier aspekter og initiativer, der skal øge borgernes adgang til information om egne sager og de oplysninger, det offentlige indsamler om dem og lagrer i de her omtalte systemer. FN fremhæver Sverige som et land, der har etableret en udpræget transparens i forhold til borgerne.[7]E-Government Survey 2020, Digital Government in the Decade of Action for Sustainable Development with addendum on COVID-19 Response, s. 52.
Af en række årsager forstærkede digitaliseringen opdelingen af forvaltningens aktiviteter i fagområder (siloer) i 00´erne og starten af 10´erne.[8]Fra forvaltningsjurist til udviklingsjurist – introduktion til offentlig digitalisering, Djøf forlag, 2000, s. 32 f. Det er formentlig baggrunden for, at de aktuelle landestrategier mere eller mindre implicit indeholder målsætninger om en højere grad af sammenhæng i den offentlige forvaltning – og som led heri øge delingen af og genbrug af data.[9]I Norge er der f.eks. i et bredt myndighedssamarbejde arbejdet med SmartGovernment, der skal sikre interoperalitet, større grad af datadeling mv. Som følge af Finlands fokus på sammenhæng, borgervenlighed, inddragelse af borgergrupper, forskere samt erhvervsliv kombineret med målsætningen om, at alle services skal være digitalt tilgængelige i 2023, sidder de finske myndigheder formentlig inde med særlig indsigt i at skabe sammenhæng på tværs af administrationsområder.
Nogle af de indsamlede oplysninger peger i retning af, at der er tendenser til øget nordisk-baltisk samarbejde indenfor det digitale område, herunder opbygning af fælles løsninger eller brug af hinandens teknologi. F.eks. er det blevet oplyst, at skattemyndighederne i Danmark, Norge, Sverige, Finland og Island har udviklet en portal, kaldet the Nordisk eTax. For så vidt angår (gen-)anvendelse af hinandens teknologi, er et eksempel, at den islandske regering i 2018 besluttede at anvende Estonian X-Road platformen, der også er oplyst at blive anvendt i Finland. I forbindelse med dialogerne med Færøerne, er det desuden blevet oplyst, at de kommunale enheder i høj grad finder inspiration via de danske, kommunale digitaliseringsfællesskaber, især i de løsninger der udstilles som open source af fællesskabet OS2.[10]Se herom https://os2.eu/
Det bemærkes, at DigiCourts projektet har afdækket, at der i de nævnte lande er ved at blive etableret en tilsvarende struktur for digital sagsbehandling, som er beskrevet ovenfor, ved de nordiske (og baltiske) domstole. Dette er bl.a. i form af selvbetjenings- og indberetningsløsninger for retssagsbehandling og sagshåndtering. Det er dog karakteristisk for alle de i nærværende undersøgelse belyste lande, at den digitale udvikling på domstolsområdet har været langsommere end inden for forvaltningerne. Fra et retligt perspektiv er det karakteristisk, at hverken de nordiske domstoles administration eller judicielle virksomhed er omfattet direkte af den forvaltningsretlige lovgivning. De grundlæggende forvaltningsretlige principper vil dog i et vist omfang finde analog anvendelse på domstoles administrative sagsbehandling og have en vis betydning i judiciel virksomhed, der involverer det offentlige. Det må derfor antages, at såvel domstolenes administration som dommerne i deres judicielle virksomhed vil møde lignende udfordringer af forfatningsretlig, menneskeretlig og forvaltningsretlige karakter i takt med digitaliseringen ved domstolene. Når der i det følgende henvises til udfordringer for forvaltningen i de nordiske lande, antages dette således tillige at kunne udfordre nordiske domstole administration.
Til projektet er der blevet tilsendt et meget omfattende materiale af varierende relevans. Den norske ombudsmandsinstitution har f.eks. gennem sit tilsyn identificeret en række problemstillinger i relation til borgernes og offentlighedens adgang til aktindsigt i den digitale forvaltning. Den danske ombudsmandsinstitution besidder en så omfattende praksis vedrørende digitaliseringens udfordringer for de centrale partsrettigheder, at der er oprettet et særskilt afsnit herom i embedets myndighedsguide. Dette materiale er dog i hovedsagen ikke inddraget i det følgende. Det skyldes for det første, at dette falder uden for opdraget for pilotprojektet. For det andet er der allerede enkelte undersøgelser af disse udfordringer for lovmedholdelighed og god forvaltningsskik i de nordiske forvaltninger.
Fokus i de følgende afsnit er rettet mod de overordnede aspekter, der falder inden for opdraget. Det drejer sig om hjemmelsproblematikker forbundet med digitalisering og mulighederne for styring og kontrol med forvaltningens virksomhed. Herudover er sikring af borgernes retssikkerhed og grundlæggende (menneske-)rettigheder betragtet som omfattet af opdraget.
Legalitetsprincippet er grundlæggende for de nordiske lande, og kan overordnet betragtes som en konsekvens af det i de nordiske forfatninger fastlagte forhold mellem den lovgivende og den udøvende magt. For de nordiske lande indebærer princippet overordnet for forvaltningsmyndighederne, at de skal have en bemyndigelse (en hjemmel) til deres aktiviteter, og at administrative regler og afgørelser skal være i overensstemmelse med lovgivningen og øvrige trinhøjere normer (formelle lovs princip).
I Danmark og Norge antages det i kortfattede henvisninger i betænkninger og litteratur, at digitalisering, herunder automatisering, som udgangspunkt kan pågå uden en særskilt hjemmel.[1]NOU 2019: 5, pkt. 18.3.3.3 og f.eks. Nikolaj Aarø-Hansen i Niels Fenger (red.), Forvaltningsret, Djøf forlag, 2018, s. 626 og Hanne Marie Motzfeldt, Jøren Ullits og Jens Kjellerup, Fra forvaltningsjurist til udviklingsjurist, Djøf forlag, 2020, s. 57. I den svenske forvaltningslovs § 28 er det fastsat, at automatisering ikke kræver særskilt lovhjemmel.[2]Förvaltningslagen (2017:900), tilgængelig via http://rkrattsbaser.gov.se/sfst?bet=2017:900.
I dele af den danske litteratur drøftes det dog, om forvaltningens underordnede placering i statsstyret kan tale for, at den demokratisk legitimerede lovgiver inddrages, når der besluttes digitaliseringsprojekter, der vil føre til omfattende ændringer i forvaltningens organisation, styrings- og ansvarsforhold og arbejdsgange, samt for samspillet mellem myndigheder og borgere. [3]Fra forvaltningsjurist til udviklingsjurist – introduktion til offentlig digitalisering, Djøf forlag, 2000, s. 56 ff.
Spørgsmålet om hjemmel til automatisering er behandlet af den finske ombudsmand, der har tilsendt pilotprojektet flere sager om hjemmelkrav og forholdet til den finske forfatning, herunder en sag vedrørende et sagsbehandlingssystem, der anvendes af de finske skattemyndigheder. Systemet håndterer rykkere og træffer automatisk afgørelse i et stort antal skattesager (ca. 300.000 rykkere til borgere for manglende skatteopgørelser og ca. 112.000 afgørelser uden indblanding fra en sagsbehandler).
Af den tilsendte udtalelse fremgår, at den finske ombudsmand i lighed med den finske forfatningskomité er af den opfattelse, at automatiseret sagsbehandling skal hvile på et klart og præcist hjemmelsgrundlag. Heri ligger, at det skal være klart, hvordan sager udvælges til automatisk sagsbehandling og der skal være gennemsigtighed i forhold til, hvordan de bagvedliggende algoritmer fungerer. Sidstnævnte skal være i en form, som individet kan forstå. Af udtalelsen fremgår desuden, at finske borgere på grundlag af »the doctrine of fair expectations on the basis of good governance« har krav på at blive informeret, hvis deres sag behandles af et automatiseret sagsbehandlingssystem. Er dette ikke tilfældet – anføres det – kan borgere ikke fuldt ud varetage deres interesser. Endelig pegede embedet på uklarheder relateret til embedsmandsansvaret, når sådanne systemer anvendes.[4]Mark Suksi. Administrative due process when using automated decision-making in public administration: some notes from a Finnish perspective, Artif Intell Law, 2020 s. 7, tilgængelig via https://doi.org/10.1007/s10506-020-09269-x, s. 7.
Den finske ombudsmands konklusion var, at automatiseringen hvilede på et for uklart hjemmelsgrundlag og dermed ikke levede op til de forfatningsretlige forudsætninger om »the rule of law over administration, good governance, legal protection and the requirement for regulation by law«.[5]EOAK 3379/2018, EOAK 2898/2018, EOAK 2216/2018. Den finske ombudsmand vurderede således, at manglende gennemsigtighed i systemerne er i strid med flere bestemmelser i den finske forfatning, bl.a. artikel 2 om legalitetsprincippet, artikel 21 om god forvaltningsskik og artikel 80 om offentlige ansattes ansvar.
Ovenstående giver anledning til at henlede opmærksomheden på, at forfatningsretlige spørgsmål ikke var relevante, da digitale løsninger alene fungerede som relativt simple redskaber for sagsbehandlerne i den offentlige forvaltning. De langt mere avancerede teknologier, der tages i brug i dag, og disses påvirkning af forvaltningernes sagsgange, organisation og trufne afgørelser over for borgerne, indebærer imidlertid, at den manglende klarlæggelse af de forfatningsmæssige rammer for den digitale forvaltning kan blive problematisk fremadrettet.
Som det fremgår af forudgående afsnit, følger det af legalitetsprincippet, at der ikke må pålægges borgerne byrder uden hjemmel i lovgivningen, og at myndighedernes sagsbehandling og afgørelser i øvrigt skal være i overensstemmelse med lovgivningen.
For så vidt angår pålæggelse af byrder, synes dette primært at have givet problemer i forbindelse med etableringen af digital kommunikation, idet der navnlig i Danmark har været en række sager, hvor myndigheder har pålagt borgerne digital kommunikation uden fornøden hjemmel.[1]Den danske ombudsmands myndighedsguide, Generelle forvaltningsretlige krav til offentlige IT-systemer, overblik #13, pkt. 3, tilgængelig via https://www.ombudsmanden.dk/myndighedsguiden/specifikke_sagsomraader/generelle_forvaltningsretlige_krav_til_offentlige_it-systemer/.
Vedrørende den anden forudsætning om overholdelse af lovgivningen, peger det sagkyndige udvalg bag den norske betænkning NOU 2019:5 på vigtigheden af, at automatiserende systemers programmering svarer til den gældende lovgivning.[2]NOU 2019:5, pkt. 18.3.3.3. Se om betænkningen nedenfor i afsnit 3.2. Fra den tilsendte praksis er der ingen sager, hvor spørgsmålet om mangelfuld eller endda fejlagtig programmering i forhold til hjemmelslovgivningens indhold står alene, idet alle tilsendte sager indeholder en række forskellige retlige problemstillinger. Problemstillingen indgår dog som delelementer i to danske sager om systemerne EFI og Én skattekonto (FOB 2014-24 og FOB 2019-1).
EFI var en digital sagsbehandlingsløsning udviklet ved de danske skattemyndigheder, der skulle automatisere store dele af det offentliges restanceinddrivelse (inddrive den gæld, som borgere og virksomheder har til det offentlige). Systemet skulle modtage fordringer (krav) fra fordrings- og rettighedshavere til inddrivelse og vurdere, om skyldneren havde den lovpligtige betalingsevne på baggrund af en række data. I 2014 gav udviklingsforløbet og manglende dokumentation af arbejdet med at sikre systemets lovmedholdelighed den danske ombudsmand anledning til principiel kritik.[3]Note 17, pkt. 2 og FOB 2014-24, s. 3. På baggrund af ombudsmandens udtalelse og den omstændighed, at systemets idriftsættelse indikerede, at det var alvorligt fejlbehæftet, bad myndighederne derfor et advokatfirma (Kammeradvokaten) om at foretage en såkaldt legalitetsanalyse af løsningen.[4]Kammeradvokaten er et privat advokatfirma, der gennem det danske Finansministerium har aftale med staten om at levere advokatydelser til centraladministrationen. Analysen afdækkede, at der var indbygget en række ikke-lovmedholdelige processer i systemet – og Kammeradvokatens vurdering var, at der var systematisk risiko for, at løsningen ville foretage ulovlige inddrivelser. Skattemyndighederne valgte at standse brugen af løsningen. Den danske inddrivelse af gæld er stadig ikke velfungerende, se om den danske skatteforvaltnings såkaldte sammenbrud nedenfor i afsnit 2.3.4.
Sagen FOB 2019-17 omhandlede en virksomheds klage over en efteropkrævning af renter fra skattemyndighederne. Det var – uomtvisteligt – myndighedernes lovpligtige opgave efter den danske lovgivning at forrente virksomhedernes gæld til myndighederne, beregne renten dagligt og tilskrive denne månedligt. Opgaven var imidlertid ikke blevet udført pga. udfordringer med en it-løsning kaldet Én Skattekonto. Løsningen var nok taget i brug den 1. august 2013, men var først i stand til korrekt og effektivt at tilskrive renter i oktober 2019. Dette skyldtes bl.a. funktionelle fejl i forhold til renteberegningen. Den virksomhed, der havde klaget, fremhævede konsekvenserne af fejlene, og anførte bl.a., at revisor havde aflagt et forkert årsregnskab, som der var disponeret på baggrund af – og at virksomhedens ledelse måske ville have truffet andre beslutninger, hvis den havde været bevidst om den større gæld. Den danske ombudsmand udtalte, at det måtte »… anses for overordentlig uheldigt, at et IT-system med sådanne mangler overhovedet blev sat i drift«, og gjorde opmærksom på, at embedet ville kunne støtte en ansøgning om økonomisk støtte til en retssag mod ministeriet efter den danske fri proces-ordning, når klagers og andre berørte virksomheders sager var færdigbehandlet i det administrative system.[5]FOB 2019-17, s. 4. Den danske ombudsmand kritiserede herudover skattemyndighederne for ikke at overholde den forvaltningsretlige vejledningspligt, eftersom myndighederne ikke havde ydet virksomhederne tilstrækkelig vejledning om problemerne med rentetilskrivningen og konsekvenserne heraf for virksomhederne. Herudover fandt Ombudsmanden hjemmelsgrundlaget for efteropkrævningen tvivlsomt og opfordrede virksomheden til at prøve spørgsmålet ved domstolene.
Ovenstående illustrerer væsentlige udfordringer for fremtidig digitalisering, idet fejl i automatiserende systemer vil føre til, at samme fejl begås systematisk.[6]Påpeget af Folketingets Ombudsmand i Danmark, Niels Fenger, FOB 2019, Hvordan digitaliserer vi uden at skade vores retssikkerhed? og samme i Ombudsmanden – et værn for borgernes retssikkerhed, UfR 2020 B, s. 37 ff. Dette synes dog ikke i sig selv at være et spørgsmål af egentlig retsvidenskabelig relevans. En overset retssikkerhedsmæssig – og samfundsmæssig – udfordring synes snarere at være, hvorvidt digitale løsningers fejl og mangler efterfølgende bliver ’rettet’ ved hjælp af lovændringer, der tilpasser de retlige krav til systemernes opbygning. Sådan bagudrettet digitaliseringsklar lovgivning, hvor mangelfuldt udviklede løsninger rettes til lovmedholdelighed ved at ændre lovgivningen frem for systemerne, er ikke i overensstemmelse med de forfatningsmæssigt forudsatte magtbalancer og demokratiske idealer, som er en del af det fællesnordiske værdigrundlag.
I den finske ombudsmandssag, der er omtalt overfor i afsnit 2.3.2, pegede den finske ombudsmand på uklarheder om ansvarsforholdene i den automatiserede finske skatteforvaltning. Dette indgik som et af flere momenter, der førte til, at det finske digitale skattesystem blev vurderet som forfatningsstridigt.
Den finske sag illustrerer, at digitaliseringen af den offentlige sektor kan føre til uklarheder om ansvarsforhold, og at sådan uklarhed kan udgøre en alvorlig fremadrettet udfordring for at bevare effektiv styring med den offentlige forvaltning, og for at kunne placere et ansvar ved fejl og mangler – i sidste ende et ministeransvar. Samlet peger det til pilotprojektet tilsendte materiale i retning af, at digitaliseringen har skabt nye udfordringer i relation til ansvarsplaceringer i navnlig tre relationer:
Udfordringer med at klarlægge og placere ansvar internt i myndighederne illustreres af det forløb, der i Danmark går under betegnelsen SKATs sammenbrud.[1]Overmod og afmagt, Historien om det nye SKAT af Jørgen Grønnegård Christensen og Peter Bjerre Mortensen, Djøf forlag. Se også https://www.skm.dk/aktuelt/presse-nyheder/pressemeddelelsesarkiv/regeringen-klar-med-handlingsplan-for-skat/ En væsentlig årsag til dette sammenbrud, der pågik i perioden efter 2015, var følgerne af nedlukningen af det ovenfor omtalte, fejlbehæftede system EFI.
Dette såkaldte sammenbrud – og vanskelighederne med at placere det interne ansvar for EFI-projektet – er en af de væsentlige årsager til, at der er blevet nedsat en undersøgelseskommission i Danmark, der har fået mandat til adgang til tavshedspligtsbelagte oplysninger og til at afhøre embedsmænd mv. Kommissionen har et bredt kommissorium, men en af dens mest centrale opgaver bliver at undersøge og redegøre for årsagerne til EFI-sagen. Videre skal kommissionen foretage retlige vurderinger til belysning af, om der er grundlag for, at det offentlige søger nogen draget til ansvar – og om relevant komme med forslag til ændringer af regler og praksis.[2]Se https://kommissionenomskat.dk/kommissorium/justitsministeriets-kommissorium-af-3-juli-2017-for-en-undersoegelseskommission-om-skat.html
I relationen mellem myndigheder og private leverandører synes der at være en vis opmærksomhed omkring risikoen for, at myndighederne bindes til bestemte leverandører med forøgede omkostninger og ringere service til følge. I den svenske betænkning, SOU 2018:25, nævnes den retlige og styringsmæssige problematik, at leverandører af it-løsninger kan få meget stor indflydelse på de dele af administrationen, der anvender en given digital løsning – og at myndighedernes indsigt og styring svækkes.[3]SOU 2018:25, s. 184: »En anpassning bör göras i den reglering som säkerställer insynsmöjligheter när vissa automatiserade förfaranden används. Det gäller regler som säkerställer möjligheter till insyn dels i hur den digitala förvaltningen använder vissa algoritmer eller datorprogram vid mål- eller ärendehantering, dels i underlaget i enskilda mål eller ärenden. En sådan anpassning undanröjer en rättslig osäkerhet som nu hindrar eller hämmar digitaliseringen samtidigt som offentlighetsprincipen säkerställs och rättssäkerheten stärks Se om betænkningen nedenfor i afsnit 3.2. Konkret anføres i betænkningen, at det »inte alltid varit möjligt för en myndighet att på egen hand kontrollera fel i bakomliggande beräkningar, på grund av att myndigheten inte haft tillgång till det datorprogram som använts eller för egen del haft tillräcklig möjlighet till insyn i den bakomliggande funktionaliteten.«[4]Ibid., s. 189
At det svenske udvalg påpeger en vigtig pointe, der er af praktisk betydning, kan også illustreres af den danske EFI-sag. Da den danske kammeradvokat udarbejdede den såkaldte legalitetsanalyse af EFI, undersøgte advokatfirmaet kun dele af funktionaliteterne i EFI.[5]Kammeradvokaten, Rapport om legalitetsanalyse af EFI- delsystemfunktionaliteter, Lønindeholdelse, Tvungne Betalingsordninger, og Betalingsevneberegning Budget, 8. september 2015, 7513085 SFS/PFJ At kun en del af systemet blev undersøgt, skyldtes ifølge rapporten, at der: »foreligger ikke eller kun i ringe omfang opdateret og retvisende dokumentation for, hvordan Inddrivelsessystemet fungerer i praksis, og det må konstateres, at SKAT ikke har et samlet billede af, hvad systemet foretager af konkrete beslutninger og handlinger ved automatisk behandling af enkeltsager.«[6]Ibid., s. 189. Med andre ord ville den danske inddrivelse af gæld over for borgerne i realiteten – såfremt systemet var forblevet i drift – være blevet fastlagt og styret af de private virksomheder, der havde udviklet systemet. Denne problemstilling kan blive af stigende forfatnings- og forvaltningsretlig betydning i takt med den stigende automatisering af de offentlige forvaltninger i Norden.
Dansk ombudsmandspraksis viser dog, at myndighedernes udfordringer med overladelse af indflydelse og kompetencer til it-leverandører ikke kun opstår i relation til automatisering. Også i andre sammenhænge kan der kan være risiko for, at myndighedsudøvelse over for borgerne utilsigtet overlades til virksomheder i den private sektor.
I sagen FOB 2017-19 blev den danske ombudsmand af en kommunal borgerrådgiver gjort opmærksom på den daværende mangel på lovregulering af den danske digitale signatur (NemID). Baggrunden for sagen var, at borgerrådgiveren var blevet kontaktet af nogle ældre borgere, der havde brug for et NemID for at indberette forpagtningsaftaler vedrørende deres landbrug til en statslig myndighed via en selvbetjeningsløsning. Det var ved bekendtgørelse gjort obligatorisk for de pågældende borgere at anvende løsningen, medmindre de ansøgte om dispensation. De ældre gårdejere havde imidlertid fået mundtligt afslag af deres hjemkommune på at få udstedt et NemID. Afslaget var af kommunen begrundet med, at disse borgere ikke ville være i stand til at bruge eller forstå NemID.
Den danske ombudsmand afdækkede, at kommunens retlige grundlag for at udstede NemID fandtes i en såkaldt RA-aftale med den private virksomhed, Nets DanID. Nets DanID driver det danske NemID for Digitaliseringsstyrelsen, der er en statslig myndighed under Finansministeriet. Kommunen havde i aftalen med Nets DanID forpligtet sig til at udstede NemID på de vilkår, som var fastsat af virksomheden og beskrevet i en række retningslinjer til kommunerne.
Ombudsmanden fastslog i sit høringsbrev til Digitaliseringsstyrelsen, at det i teori og prøvelsespraksis er almindeligt antaget, at delegation af afgørelseskompetence eller myndighedsudøvelse fra en statslig myndighed til private virksomheder eller til de uafhængige kommuner kræver udtrykkelig lovhjemmel. Dette krav skyldes blandt andet de svækkede muligheder for styring af opgavernes udførelse, når funktionerne overlades til organer uden for ministerstyrets forudsatte hierarki. Det fremgår, at embedet hældede til at have den opfattelse, at der var overladt beføjelser til myndighedsudøvelse til Nets DanID.
Sagens udkomme var, at Digitaliseringsstyrelsen og ombudsmanden blev enige om, at konstruktionen skulle lovreguleres. Baggrunden var, at NemID i kraft af den øgede digitalisering, især de mange obligatoriske selvbetjeningsløsninger, var gået fra at være et tilbud til i praksis at være afgørende for, at borgerne kan opnå en tidssvarende betjening i forhold til store dele af det offentlige, både for så vidt angår offentlig servicevirksomhed (faktisk forvaltningsvirksomhed) og for så vidt angår offentlig afgørelsesvirksomhed.[7]Lov nr. 439 af 8. maj 2018 om udstedelse af NemID med offentlig digital signatur til fysiske personer og til medarbejdere i juridiske enheder. I den konkrete sag blev spørgsmålet således løst med bagudrettet lovregulering.
Både dansk og norsk ombudsmandspraksis peger i retning af, at der også opstår udfordringer relateret til ansvar, rettigheder og styring mellem flere myndigheder indbyrdes, når der deles digitale løsninger. I sagerne FOB 2019-11 og 2019-22 berørte den danske ombudsmand ansvarsfordelingerne i relation til vejledning af borgerne, når kommunernes selvbetjeningsløsninger udstilles på den fællesoffentlige portal, borger.dk. Myndighederne erklærede sig enige heri og det blev det aftalt, at Digitaliseringsstyrelsen ville tage initiativ til at sikre en bedre koordinering og hensigtsmæssige samarbejdsformer.[8]FOB 2019-11, s. 21. Se også FOB 2019-22, s. 5.
En af de til projektet udleverede norske ombudsmandssager vedrører aktindsigt, når myndigheder benytter sig af fælles løsninger – og afdækker en forbunden problemstilling, når der anvendes fælles løsninger.[9]Innsyn hos Skattedirektoratet i aksjonærregister af 14.11.2014 (2014/1596) Baggrunden for sagen var en klage fra en journalist over, at Finansdepartementet havde fastholdt et afslag på aktindsigt i aktionærregisteroplysninger for en virksomhed, som Skattedirektoratet havde meddelt som førsteinstans. Baggrunden for afslaget var, at aktionærregisteroplysninger blev indleveret elektronisk til Altinn, som er en ekstern database for store dele af forvaltningen i Norge. Fra dokumentet i Altinn til Skatteetatens aktionærregister bliver (kun) aktionærregisteroplysningerne automatisk overført til skattemyndighederne. Derfor – mente skattemyndighederne – var de ikke i besiddelse af et sagsdokument og kunne dermed ikke pålægges at give aktindsigt efter den norske offentlighedslov, eftersom aktindsigt efter den norske offentlighedslov kræver, at der findes et sagsdokument.
Om den underliggende arbejds- og ansvarsfordeling fremgår det af sagen, at Altinn er en fællesoffentlig samarbejdsløsning for en række forvaltningsmyndigheder. Disse myndigheder er såkaldte ’tjenesteejere’ i Altinn-samarbejdet, og skal som udgangspunkt alle have adgang til hver deres tjenesteejerarkiver i Altinn. Skattedirektoratet har som en del af Skatteetaten fuld adgang til de informationer, som samles på vegne af Skatteetaten gennem Altinn, eftersom Skatteetaten er tjenesteejer.
I den konkrete sag gav ombudsmanden to alternative begrundelser for, hvorfor skattemyndighederne som udgangspunkt var forpligtede til at give aktindsigt oplysningerne, som de havde fået overført fra Altinn. Sagen er dog i nærværende sammenhæng illustrerende for, at digitaliseringen påvirker en række organisatoriske forhold i forvaltningen – og betydningen heraf bør afklares i forhold til forskellige samarbejdskonstruktioner, der anvendes. Det gælder også de tilfælde, hvor fejl, mangler eller andre forhold ved en myndigheds digitale løsninger får konsekvenser for andre myndigheder.
Sidstnævnte kan illustreres af den danske ombudsmandssag FOB 2018-1, der blev rejst som følge af, at en borger klagede til den danske ombudsmand, fordi han ikke havde fået svar på en henvendelse, han havde rettet til Arbejdsmarkedets Feriefond (AFF) via Offentlig Digital Post. Se om Offentlig Digital Post ovenfor i afsnit 2. Borgeren havde efter lov om Offentlig Digital Post ret til at rette henvendelse til AFF via Digital Post. AFF var imidlertid ifølge kontrakten mellem Digitaliseringsstyrelsen og den private leverandør af IT-systemet ikke berettiget til at blive tilsluttet Digital Post.
AFF havde forsøgt at udvikle en ’lappeløsning’, der muliggjorde modtagelse af henvendelser, der var sendt via Digital Post – men det var teknisk vanskeligt, og løsningen kunne derfor ikke håndtere de tilfælde, hvor borgeren ikke havde angivet kontaktoplysninger. Den danske ombudsmand udtalte, at han havde: ».. forståelse for, at de retlige og tekniske rammevilkår for tilslutningen til postløsningen Digital Post har været vanskelige for fonden. (...) Ikke desto mindre er det myndighedens ansvar at sikre, at de it-løsninger, som myndigheden anvender, lever op til de forvaltningsretlige krav. Det er således Arbejdsmarkedets Feriefonds ansvar at sikre, at fonden som offentlig afsender kan modtage og håndtere de henvendelser, der sendes til fonden via Digital Post.«
Der er ingen klar evidens herfor i det foreløbig indhentede materiale, men det kan ikke udelukkes, at ovenstående illustrerer generiske problemer i relation til ansvar, styring og rettigheder, der kan opstå, når digitaliseringen af den offentlige forvaltning når til et tilstrækkeligt højt niveau. Det må derfor antages at være hensigtsmæssigt at iværksætte retsvidenskabelig forskning på området, der nærmere kan kortlægge de omtalte udfordringer samt bidrage til etablering af en hensigtsmæssig retstilstand via analyser, modeller og anbefalinger.
En af de centrale forudsætninger for at placere ansvar i den offentlige forvaltning, men også for at realisere en række af de centrale fællesnordiske værdier såsom åbenhed og dermed tillid til forvaltningen, er, at myndighedernes aktiviteter er dokumenterede. Hertil kommer, at dokumentation antages at være en væsentlig faktor i forhold til at skabe overblik, indsigt og dermed et forsvarligt beslutningsgrundlag mv. i den offentlige forvaltning[1]Jørgen Steen Sørensen, Tørre regler giver kvalitet i forvaltningen, FOB 2018.
I de nordiske forvaltninger er gældende lovbestemmelser og ulovbestemte principper relateret til dokumentation koncentreret om at sikre notater og journalisering af dokumenter, der indgår i administrative sager eller f.eks. regnskabsmæssige forhold. Dette er naturligvis også relevant i den digitale forvaltning – men af de data, der er indhentet til pilotprojektet, fremgår imidlertid, at der opstår yderligere retssikkerhedsmæssige spørgsmål relateret til dokumentation. Dokumentationsbehov synes således at opstå i relation til:
For så vidt angår dokumentation af udvikling og ibrugtagning af digitale løsninger ses sådanne udfordringer i de tidligere omtalte danske ombudsmandssager om EFI og Én skattekonto (FOB 2014-24 og FOB 2019-1).
I sagen om EFI udtalte den danske ombudsmand bl.a. om udviklingsprocessen, at på: »det mere generelle plan illustrerer forløbet omkring EFI efter min opfattelse, hvor kompleks en proces der kan være tale om, når der skal udvikles nye IT-systemer til det offentlige, og hvilke krav der må stilles til den måde, arbejdet tilrettelægges på [...]. En forsvarlig tilrettelæggelse forudsætter således efter min opfattelse bl.a., at man fra starten skaber sig et overblik over de sagstyper og processer, som det nye IT-system skal omfatte, at man gør sig klart, hvilke formelle og materielle regler der gælder for behandlingen af de pågældende sager, og at man er meget omhyggelig med at tage stilling til, hvorledes det nye IT-system konkret skal udformes for at kunne overholde disse regler i de forskellige forløb, som sagerne kan tænkes at ville få.« I forlængelse heraf fandt embedet det meget beklageligt, at der ikke havde været løbende dokumentation for systemets overholdelse af de forvaltningsretlige regler.
I sagen om Én skattekonto var dokumentationen af udviklingsprocessen, herunder testprocedurerne, så mangelfuld, at den danske ombudsmand udtalte, at han ikke havde mulighed for at vurdere, hvorvidt processen havde været forsvarlig. Han kunne derfor blot bemærke, at fejlene i systemet blev erkendt allerede kort efter idriftsættelsen. Dette illustrerer de i den svenske betænkning SOU 2018:25 anførte retssikkerhedsmæssige og ordensmæssige hensyn samt styringsmæssige og økonomiske interesser. Se herom nedenfor i afsnit 3.
Vedrørende sikring af, at processer og afgørelser, der håndteres via digitale løsninger hviler på korrekte oplysninger, synes det for en umiddelbar betragtning at være naturligt, at anvendelse af digitale løsninger kan styrke kvaliteten af offentlig sagsbehandling. Der synes dog i praksis at være udfordringer forbundet med bl.a. kombinationen af manuelt indtastede data og automatiserede processer, hvilket kan illustreres med en sag fra Justitieombudsmanden, hvor en borger havde klaget over sagsbehandling i Arbetsförmedlingen (AF).
Borgeren var utilfreds med gentagne gange at have modtaget varsel om mulige sanktioner for ikke rettidigt at have indleveret en månedlig aktivitetsrapport samt for udeblivelse fra et møde. Borgeren kunne dokumentere, at han havde indleveret rapporterne rettidigt. Hertil kom, at det ikke var borgeren, men sagsbehandleren, der var udeblevet fra et møde pga. sygdom. Under ombudsmandssagen blev det afdækket, at AF havde registreret afleveringen af rapporterne for sent, og sandsynligvis ved en fejl ikke havde registreret, at borgeren var mødt op til mødet på AF. Varslet var udsendt, fordi AF anvender et automatiseret system til at udsende meddelelser om bl.a. varsel om sanktioner til borgere, der er i jobaktivering, hvis systemet registrerer, at borgere eksempelvis ikke har indleveret de omtalte aktivitetsrapporter eller i tilfælde af udeblivelse fra møder. Meddelelserne bliver således sendt ud til borgerne uden indblanding eller godkendelse fra sagsbehandlere.
Justitieombudsmanden fandt dette i strid med princippet om saglig forvaltning og udtalte: »En myndighet ska naturligtvis inte meddela en enskild att en sanktion kan bli aktuell utan att det finns grund för det. Ett sådant förfarande undergrä̈ver förtroendet för myndigheterna och står i strid med kravet på myndigheter att iaktta saklighet och endast lämna korrekt information.« Justitieombudsmanden anmodede AF om at sikre regelmæssig kontrol af automatisk udsendte meddelelser af denne art.[2]Dnr 5700-2015, årsberetning 2017/2018, s. 42ff.
For så vidt angår dokumentation for programmeringen af offentlige digitale løsninger, er der både i den norske betænkning NOU 2019:5 og den svenske betænkning SOU 2018:25 stillet forslag om, at visse systemer skal være dokumenterede. Se herom nedenfor i afsnit 3.2. Efter den danske offentlighedslovs § 1, stk. 2, skal myndigheder mv., der er omfattet af loven, i almindelighed sørge for, at hensynet til åbenhed i videst muligt omfang varetages ved valg, etablering og udvikling af nye it-løsninger – hvilket naturligvis forudsætter en vis grad af dokumentation. Det er dog uklart ud fra lovens forarbejder, om bestemmelsen alene omfatter opbygning af databaser. Den danske ombudsmand har dog tilsyneladende fulgt ordlyd og formål som centrale fortolkningsbidrag – og har derfor bl.a. henvist til bestemmelsen i relation til en økonomisk model kaldet ADAM. I sagen henledte embedet Finansministeriets opmærksomhed på, at ministeriet ved udviklingen af modellen skulle indtænke offentlighedslovens § 1, stk. 2, dvs. skabe åbenhed om, hvordan modellen beregnede konsekvenserne af politiske initiativer og reformer.[3]Modellen skal anvendes til økonomisk fremskrivninger og udregne konsekvenserne af politiske tiltag. Sagen fremgår af den danske ombudsmands ombudsmandens nyhed af 3. maj 2017.
Temaet om dokumentation strækker sig dog fra en retlig vinkel ud over den nordiske forvaltningsret, idet dokumentation kan være en forudsætning for (objektivt og subjektivt korrekt) at kunne forklare, hvordan digitale løsninger fungerer. Sådan forklarlighed må både regnes som en forudsætning for at bevare en vis kontrol med forvaltningen, og som værende af central retssikkerhedsmæssig betydning for de borgere, der berøres af forvaltningernes myndighedsudøvelse. Hertil kommer, at de nordiske landes folkeretlige og EU-retlige forpligtelser er relevante som en del af den retlige ramme for den digitale forvaltning.
En af de mange NGO-organisationer på det digitale område fører aktuelt en sag, hvor en hollandsk underdomstol den 5. februar 2020 afsagde en (første) dom om den hollandske stats anvendelse af et IT-system kaldet SyRi. SyRi er baseret på en profileringsalgoritme, der på grundlag af en lang række data skal ’rate’ sandsynligheden for, om borgerne svindler med offentlige velfærdsydelser. Ifølge hjemmelsgrundlaget anvendes data fra 17 forskellige, men meget bredt afgrænsede oplysningskategorier i SyRi’s analyser. Dette kan eksempelvis være data om arbejde, bopæl eller gæld (eller enhver anden type data, som den hollandske domstol indvendte i forhold til hjemmelsgrundlagets udformning).[4]The Hague District court. Case number / cause list number: C/09/550982 / HA ZA 18-388. https://uitspraken.rechtspraak.nl/inziendocument?id=ECLI:NL:RBDHA:2020:1878. Se om dommen f.eks.: Blackbox welfare fraud detection system breeches human rights, Dutch court rules af Natasha Lomas, TechCrunch 6, 2020.Februar 2020. Tilgængelig via https://techcrunch.com/2020/02/06/blackbox-welfare-fraud-detection-system-breaches-human-rights-dutch-court-rules/ Den hollandske administration er tilrettelagt efter, at systemet beregner sandsynligheden for svindel med velfærdsydelser, hvorefter en medarbejder fra socialministeriet notificeres om de tilfælde, hvor sandsynligheden er beregnet som høj. Medarbejderne, der notificeres, undersøger sagerne nærmere.
Den hollandske domstol nåede – ikke helt ukontroversielt – frem til, at den hollandske stats anvendelse af SyRI nok forfulgte et legitimt formål (opdagelse af svindel med velfærdsydelser), men anvendelsen var i strid med EMRK artikel 8 om retten til privatliv, da der var tale om et ikke-proportionalt indgreb i denne rettighed.
Udover fortolkningen af EMRK artikel 8 inddrog domstolen Den Europæiske Unions charter om Grundlæggende rettigheder og databeskyttelsesforordningen.[5]Europa-Parlamentets og Rådets forordning (EU) 2016/679 af 27. april 2016 om beskyttelse af fysiske personer i forbindelse med behandling af personoplysninger og om fri udveksling af sådanne oplysninger og om ophævelse af direktiv 95/46/EF (generel forordning om databeskyttelse). Set i lyset af disse retskilder vurderede domstolen, at hjemmelsgrundlaget for SyRi ikke opfyldte kravet om gennemsigtighed og klarhed, da den hollandske lovgivning ikke i tilstrækkelig grad redegjorde for, hvordan systemets algoritmer fungerer. Blandt de momenter, der blev opregnet, var den manglende beskrivelse af systemets opbygning, model, og med hvilken vægtning de forskellige data indgår i algoritmens profilering af borgerne.
Domstolen fremhævede, at det er retssikkerhedsmæssigt betænkeligt, at borgere ikke har adgang til viden om grundlaget for de dannede vurderinger – og dermed, hvordan deres adfærd påvirker profileringen af dem. Denne uigennemsigtighed vanskeliggjorde borgeres muligheder for at forsvare sig mod SyRis ’vurderinger’. Domstolen vægtede dermed den klassiske retsstatslige værdi om forudsigelighed frem for den hollandske stats indvending om, at borgeres viden den digitale løsning ville indebære, at de ville omgå kontrollen ved at ændre adfærd.
Herudover hæftede domstolen sig ved, at staten hovedsageligt havde anvendt SyRi til at profilere indbyggere i udsatte områder. Risikoen for diskrimination kombineret med det faktiske forhold, at der bor mange sårbare grupper af borgere i disse områder førte efter domstolens opfattelse til et skærpet proportionalitetskrav.[6]SyRi-dommen punkt 6.69.
Det er på den ene side evident, at SyRi-dommen ikke har præcedensvirkning i de nordiske lande. På den anden side peger dommen i lighed med den svenske betænkning SOU 2018: 25 og den norske betænkning NOU 2019:5 samt den i afsnit 2.3.2 omtalte finske ombudsmandssag på en række grundlæggende retssikkerhedsmæssige hensyn, der er en central del af de fællesnordiske værdier, ligesom den indikerer, at de menneskeretlige forpligtelser kan få stigende betydning som ramme for de nordiske landes digitale forvaltninger. Disse temaer er alle i større eller mindre grad forbundet med temaet om dokumentation for i hvert fald visse digitale løsninger, idet dokumentation kan vise sig at blive en forudsætning for både åbenhed og effektiv kontrol med forvaltningens aktiviteter.
Til trods for, at dette ikke ligger inden for pilotprojektets ramme, henledes opmærksomheden på, at de tilvejebragte data peger i retning af, at der kan være hensyn at tage til udsatte borgere, når den offentlige forvaltning digitaliseres.
Dette illustreres bl.a. af en norsk ombudsmandsudtalelse af 14. oktober 2016 vedrørende vejledningspligt over for brugere med særlige kommunikationsbehov (2016/689). Ombudsmanden havde i sagen rettet henvendelse til Arbeids- og velferdsetaten (NAV) for at få deres udtalelser om, hvordan de sikrede opfyldelse af vejledningspligten over for borgere med sådanne behov. Henvendelsen skete ikke baggrund af en enkelt, konkret sag, men skyldtes ifølge udtalelsen, at [h]envendelser hit illustrerer at brukere som har særlig stort behov for tilpasset veiledning, for eksempel på grunn av hørselshemming kombinert med svake eller manglende norskkunnskaper, er ekstra sårbare når Navs veiledning svikter på denne måten.«
Med ’særskilte kommunikationsbehov’ sigtede embedet – ud fra udtalelsen – til borgere, som af forskellige grunde ikke har fuld nytte af den information, som Nav kommunikerer via telefon, SMS eller e-mail, især fysiske funktionsnedsættelser eller sproglige vanskeligheder.
Efter dialog med NAV understregede ombudsmanden, at NAV burde gøre det tydeligt for alle medarbejdere, at en opfyldelse af den forvaltningsretlige vejledningspligt indebærer en pligt til at give vejledning i en form, der er tilpasset den enkelte borgers behov – herunder borgere med eksempelvis dårligt syn eller hørelse eller sproglige vanskeligheder.
De tilsendte sager tyder også på, at sikring af forståelig og brugervenlig vejledning til borgerne i højere grad end hidtil bør påvirke opbygningen af digitale løsninger. En norsk ombudsmandssag om mangler ved udlændingedirektoratets vejledning om mulighederne for at anmode om prioriteret behandling af 10.4.2018 (2017/2622) er et eksempel. Baggrunden for sagen var en klage fra en familie, der som flygtninge havde søgt om opholdstilladelse i Norge med henvisning til frygt for repressalier fra Taliban. På grund af overhængende fare ønskede familien at få prioriteret sagsbehandlingen, så deres sag kunne blive behandlet hurtigere.
Den digitale ansøgningsportal var bygget op som en skematisk guide med overskriften »Kan søknaden din gå foran i køen?« I guiden blev ansøgeren bedt om at begrunde, hvorfor sagen skulle prioriteres. Dette skete ved, at ansøgeren krydsede af i ét af 11 felter med forskellige begrundelser, som guiden foreslog. Hvis ingen af de 11 typeforslag passede på ansøgerens situation, kunne ansøgeren krydse af i ’andre grunde’. Ved afkrydsning af ’andre grunde’ samt øvrige 7 ud af de 11 muligheder, fik ansøgeren imidlertid det automatiske svar, at ansøgningen desværre ikke kunne komme frem i køen.
Det automatiske svar var imidlertid ikke korrekt, idet myndighedens prioritering af sagsbehandling altid skete ud fra en konkret vurdering af hver enkelt sags omstændigheder. Det var derfor, udtalte den norske ombudsmand, betænkeligt, at et afvisende svar blev givet automatisk ved afkrydsning af andre grunde »... som lett kan tenkes å romme spesielle omstendigheter ved søknaden som tilsier at den bør prioriteres.«
En af de andre centrale forvaltningsretlige rettigheder, der kan have betydning for sårbare borgere, er retten til at have en repræsentant – en rettighed, hvis eksistens har ført til en række sager ved den danske ombudsmandsinstitution som følge af, at muligheden for repræsentation ikke var indbygget i digitale selvbetjeningsløsninger.[1]Den danske ombudsmands myndighedsguide, Partsrettigheder og offentlige it-systemer, overblik # 12, indledningen og pkt. 5, https://www.ombudsmanden.dk/myndighedsguiden/specifikke_sagsomraader/partsrettigheder_og_offentlige_it-systemer_/. Sikring af retten til at have en repræsentant i den digitale forvaltning er dog – baseret på de tilsendte data – også af betydning for borgere, der ikke har særlige behov. En norsk ombudsmandsudtalelse af 13. juni 2017 drejede sig om digital kommunikation med en advokat som repræsentant i en tvist vedrørende en tvist om en servitut, hvor advokaten hævdede ikke at have modtaget nævnets henvendelser (2017/334).
Ovenstående er alene en tilføjelse til afrapporteringen af pilot-projektet. Der anbefales ikke yderligere forskning inden for området for nuværende. Det skyldes bl.a., at tilgængelighedsdirektivet har fået virkning i de af de nordiske lande, der er medlemmer af EU eller EØS. Dette kan øge interessen for at indrette digitale løsninger (og supplerende analoge tilbud) på en sådan måde, at også sårbare borgere kan rummes indenfor den stadig mere digitaliserede forvaltning – og dermed også få afsmittende virkning på interessen for brugervenlighed generelt.[2]Europa-Parlamentets og -rådets Direktiv (EU) 2016/2102 af 26. oktober 2016 om tilgængeligheden af offentlige organers websteder og mobilapplikationer.
Som det er beskrevet i afsnit 2.2, anvendes der i dag langt mere avancerede teknologier i de offentlige forvaltninger, end tilfældet var for blot 10 år siden – og påvirkningen af myndighedernes sagsbehandling og organisation og endda indholdet af afgørelser rettet til borgerne er dermed også langt mere markant end førhen. Især for automatiserede processer synes der at være behov for retsvidenskabelig forskning i de forfatnings- og menneskeretlige rammer for offentlig digitalisering.
Sådan forskning bør inddrage udfordringerne af de traditionelle styrings- og ansvarskonstruktioner i de offentlige forvaltninger, der er beskrevet ovenfor i afsnit 2.3.4.[1]SOU 2018:25, s. 184: »En anpassning bör göras i den reglering som säkerställer insynsmöjligheter när vissa automatiserade förfaranden används. Det gäller regler som säkerställer möjligheter till insyn dels i hur den digitala förvaltningen använder vissa algoritmer eller datorprogram vid mål- eller ärendehantering, dels i underlaget i enskilda mål eller ärenden. En sådan anpassning undanröjer en rättslig osäkerhet som nu hindrar eller hämmar digitaliseringen samtidigt som offentlighetsprincipen säkerställs och rättssäkerheten stärks.« Det anbefales, at gældende ret undersøges og at der samtidig gennemføres analyser med praktiske vinkler, f.eks. vurderinger af, i hvilket omfang og hvordan der via kontrakters udformning eller lovgivningsmæssige tiltag kan sikres tilstrækkelig styring med private leverandørers indflydelse på den fremtidige – højt digitaliserede – forvaltning.
Forbundet hermed – som en nødvendig forudsætning for, at sådan forskning er fremtidssikret – er forskning i de retssikkerhedsmæssige og retlige aspekter relateret til kunstig intelligens, herunder dokumentation som ordensforskrift for at sikre mod manglende forklarlighed og transparens. Se om kunstig intelligens nedenfor i afsnit 4 og om anbefalingerne samlet i afsnit 5.
De nordiske forvaltningslove er grundlæggende udarbejdet på baggrund af ombudsmands- og domstolspraksis, der i et samspil med retsvidenskaben (forskningen) udviklede sig i takt med velfærdsstaternes fremkomst og den stigende regulering af alle samfundssektorer.[1]Hanne Marie Motzfeldt, Towards a Legislative Reform in Denmark? Naveiñ Reet: Nordic Journal of Law and Social Research 2020. Forvaltningslovene udgør en form for milesten, der bl.a. via procesorienterede krav til myndighederne styrker forsvarlig forvaltning, og samtidig sikrer borgerne centrale rettigheder i forhold til den udøvende magt, der er tildelt beføjelser overfor dem.
Forvaltningslovene er oprindeligt udarbejdet med den manuelle sagsbehandling i en papirbaseret forvaltning for øje, hvorfor anvendelsen af analoge paradigmer naturligt udfordres af den digitale virkelighed i forvaltningerne. Reformer og justeringer synes dermed at være såvel naturlige som nødvendige. I det følgende afsnit 3.2 redegøres for de indhentede data vedrørende ændringer og pågående arbejde med ændringer i forvaltningslovene, der er relateret til offentlig digitalisering. I afsnit 3.3 anføres en række supplerende betragtninger, inden mulige tendenser og anbefalinger er angivet i afsnit 3.4.[2]Det har ikke været muligt inden for rammerne af det herværende pilotprojekt at indhente data om ændringer i de specielle forvaltningslove såsom sundhedslovene, miljølovgivningen, beskæftigelseslovgivningen, skattelovgivningen mv.
Den danske forvaltningslov fra 1987 blev i 2004 ændret for at give hjemmel for, at der administrativt kan udstedes regler om, at borgerne har ret til at henvende sig digitalt til forvaltningen, og formkrav kan fraviges, jf. forvaltningslovens § 32 a. I 2013 blev det uskrevne krav om personlig underskrift på afgørelser samt vigtige øvrige henvendelser rettet til borgerne justeret via indsættelse af § 32 b. I § 32 b fastsættes for det første, at det er muligt at erstatte en underskrift med anden entydig identifikation af den offentlige afsender, der samtidig sikrer, at dokumentet er endeligt, jf. forvaltningslovens § 32 b.[1]Se henholdsvis lov nr. 215 av 22. april 2004 og lov nr. 1624 av 26. december 2013. For det andet fraviges underskriftskravet, når der træffes automatiske afgørelser.
Et embedsmandsudvalg undersøger aktuelt i Danmark, om reglerne i forvaltningsloven samt visse ulovbestemte grundsætninger udgør unødige hindringer for den fortsatte offentlige digitalisering.[2]Enkle regler, mindre bureaukrati – lovgivning i en digital virkelighed, Finansministeriet, oktober 2017 s. 19. Det drejer sig bl.a. om officialprincippet, vejledningspligten og partshøringsreglerne. Som en udmøntning heraf blev der i december 2018 sendt et forslag til ændring af den danske forvaltningslov i høring under overskriften ‘Klare juridiske rammer for effektiv digital forvaltning’. Forslaget var rent administrativt forberedt, og der havde således ikke været nedsat et sagkyndigt udvalg.
Lovforslaget om klare juridiske rammer for effektiv digital forvaltning lagde op til at etablere en bred hjemmel til, at vedkommende minister kunne pålægge borgere at anvende digital selvbetjening på specifikke områder (hvor disse bemyndigelser for nuværende er spredt ud over de mange hjemmelslove inden for de forskellige områder). Herudover skulle lovforslaget etablere hjemmel til administrativt – efter forhandling med justitsministeriet – at erstatte den i loven fra 1980´erne etablerede partshøringsprocedure med såkaldte agterskrivelser, hvor myndigheder i én og samme postgang kan partshøre over og meddele en afgørelse.[3]Se https://hoeringsportalen.dk/Hearing/Details/62638 Lovforslaget blev dog ikke fremsat for Folketinget, da det modtog massiv kritik i høringsfasen for den lovtekniske kvalitet og for ikke at tage fuldt ud højde for de retssikkerhedsmæssige betænkeligheder ved agterskrivelser i forhold til især mindre ressourcestærke borgere. Af kritikken fremgik herudover – til dels i forlængelse af en i øvrigt verserende debat om forskydning af lovgivningsmagten til administrationen i Danmark – at pålæggelse af krav om digital selvbetjening ikke burde ske via ministerbemyndigelser, men burde under direkte parlamentarisk kontrol.[4]Se bl.a. Justitia, Bemærkninger til forslag til lov om ændring af forvaltningsloven (klare juridiske rammer for effektiv digital forvaltning), 18. januar 2019 eller Retspolitisk Forenings høringsbrev af 21. december 2018. Justitsministeriet trak lovforslaget tilbage for at arbejde yderligere med bl.a. den lovtekniske kvalitet. Der er efterfølgende blevet nedsat et Advisory Board for den danske digitaliseringsstyrelse under Finansministeriet, der skal rådgive om de retlige rammer for den digitale forvaltning og bl.a. understøtte den lovtekniske kvalitet.[5]https://digst.dk/forenkling/advisory-board/
De svenske myndigheder har til nærværende pilotprojekt sendt informationer om, at det svenske parlament i 2017 vedtog en ny forvaltningslov, der erstattede forvaltningsloven fra 1986 den 1. juli 2018. Iblandt en række øvrige ændringer ønskede regeringen at tilpasse loven til den teknologiske udvikling, hvorfor der blev indført en generel hjemmel til anvendelse af automatiserede afgørelser i lovens § 28. Baggrunden for bestemmelsen fremgår af forarbejderne, hvor det bl.a. angives, at det var fundet nødvendigt, at »det i lagen slås fast att beslut kan fattas automatiserat [og at det] tydliggörs att det inte behövs en reglering i en specialförfattning för att en myndighet ska kunna använda denna beslutsform. Regleringen skapar därmed också bättre förutsättningar för en fortsatt utveckling av den digitala förvaltningen«[6]Regeringens proposition 2016/17:180, En modern och rättssäker förvaltning – ny förvaltningslag, s. 179-180.. Det er bemærkelsesværdigt, at mens størstedelen af ændringerne havde helt eller delvist grundlag i en forudgående udvalgsbetænkning[7]SOU 2010:29 - En ny förvaltningslag. Betänkande av Förvaltningslagsutredningen, Stockholm 2010., var denne ændring ikke forudgående behandlet af et sagkyndigt udvalg. Der fremgår intet af forarbejderne om de eventuelle forfatningsmæssige eller menneskeretlige rammer for anvendelse af den nye forvaltningslovs § 28, se om disse ovenfor i afsnit 2.3.2.
Videre har de svenske myndigheder sendt den tidligere omtalte betænkning SOU 2018:25: Juridik som stöd för förvaltningens digitalisering.[8]SOU 2018:25 - Juridik som stöd för förvaltningens digitalisering, betänkande av Digitaliseringsrättsutredningen, Stockholm 2018. Betænkningen kortlægger og analyserer, i hvilken grad den nuværende lovgivning vanskeliggør digital udvikling og samarbejde i forvaltningen, men fokuserer også på, hvordan de retlige rammer kan støtte op om de svenske forvaltningsværdier, navnlig åbenhed og tillid til myndighederne. Der foreslås i betænkningen en række ændringer i de almindelige forvaltningslove, herunder:
Bemærkelsesværdigt er især forslaget til ændring af § 3 og om indsættelse af en § 3 a i offentlighets-och sekretesslagen.[9]Forslagene lyder sådan: »§ 3. Om en myndighet för handläggning av ett mål eller ärende använder sig av ett underlag i en databas eller annan digital källa, ska underlagettillföras handlingarna i målet eller ärendet i läsbar form. En myndighet behöver inte tillföra underlaget till handlingarna i målet eller ärendet enligt första meningen om det finns särskilda skäl mot det. När en myndighet tillämpar första stycket andra meningen ska myndigheten se till att information kan lämnas om vilken eller vilka databasereller andra digitala källorsom innehåller ett underlagför handläggningen av målet eller ärendet« og »§ 3 a. En myndighet ska se till att information kan lämnas om hur myndigheten vid handläggning av mål eller ärenden använder algoritmer eller datorprogram som, helt eller delvis, påverkar utfallet eller beslutet vid automatiserade urval eller beslut.« Det foreslås, at myndighederne skal forpligtes til at sikre mulighed for indsigt i både de data (oplysninger) og de systemlogikker, der anvendes ved hel- og delvis automatiserede beslutninger.[10]SOU 2018:25 - Juridik som stöd för förvaltningens digitalisering, betänkande av Digitaliseringsrättsutredningen, Stockholm 2018, s. 184. Af betænkningen fremgår, at forslaget skal varetage flere hensyn, hvor tilliden til den offentlige forvaltning synes at være det vægtigste. En række yderligere hensyn og interesser nævnes, f.eks. at forvaltningens manglende viden om løsningernes opbygning mv. kan vanskeliggøre leverandørskift, og dermed være bekostelig rent økonomisk. Herudover – anføres det – bør muligheden for at identificere eventuelle fejl og brister i systemerne styrkes af hensyn til f.eks. tilsynsmyndigheders virke.[11]Ibid., s. 185. I forlængelse heraf anbefaler udvalget, at databeskyttelsesforordningens[12]Europa-Parlamentets og Rådets forordning (EU) 2016/679 af 27. april 2016 om beskyttelse af fysiske personer i forbindelse med behandling af personoplysninger og om fri udveksling af sådanne oplysninger og om ophævelse af direktiv 95/46/EF (generel forordning om databeskyttelse). regulering i forbindelse med automatiserede afgørelser klarlægges, da denne regulering ifølge udvalget er uklar på flere områder.[13]Ibid., s. 169.
Af det materiale, der er modtaget fra Norge, fremgår, at den norske forvaltningslov i 2000 blev gennemgået for at fjerne hindringer for brug af digitale løsninger i sagsbehandlingen. En række definitioner blev ændret med henblik på at gøre forvaltningsloven teknologineutral.[14]NOU 2019: 5, s. 255. Efter den nuværende forvaltningslovs § 15 a kan forvaltningsmyndighederne således som udgangspunkt anvende digital kommunikation ved henvendelse til borgerne. Af eForvaltningsforskriftens[15]Forskrift 25. juni 2004 nr. 988 om elektronisk kommunikasjon med og i forvaltningen. § 9 følger dog en række undtagelser til dette udgangspunkt. Borgere kan således reservere sig mod at modtage digital post, bl.a. hvis posten indeholder en afgørelse, eller hvis posten indeholder anden information, som har betydning for borgerens retsstilling.[16]Herudover kan borgeren reservere sig mod at modtage digital post, hvis meddelelsen har betydning for vedkommendes retsstilling eller for behandling af sagen, og hvis det af andre grunde er af særlig betydning, at borgeren modtager meddelelsen. Virksomheder kan dog som udgangspunkt ikke reservere sig mod at få tilsendt digital post.[17]Undtagen virksomheder, der ikke er registreret i Enhetsregisteret, jf. eForvaltningsforskriftens § 9, 1. pkt. Forvaltningslovens § 15 a, 3. pkt., litra f, indeholder herudover en bemyndigelse til regeringen til at fastsætte regler for tekniske og organisatoriske standarder, som skal overholdes af myndighederne.
I lighed med Sverige er der i Norge for nylig udkommet en betænkning fra et sagkyndigt udvalg; NOU 2019:5[18]NOU 2019: 5, Ny forvaltningslov — Lov om saksbehandlingen i offentlig forvaltning (forvaltningsloven).. Betænkningen indeholder et særskilt afsnit om digital forvaltning. Udvalget stillede et forslag, der har store ligheder med den svenske § 3 a, som er omtalt ovenfor. Forslaget lød: »Forvaltningsorganet skal dokumentere det rettslige innholdet i automatiserte saksbehandlingssystemer. Dokumentasjonen skal offentliggjøres, hvis ikke annet følger av lov eller særlige hensyn taler mot det.« Udvalget anførte en række hensyn, der taler for en sådan systemdokumentation, herunder muligheden for legalitetskontrol, sikring af korrekte begrundelser over for borgerne samt bedre muligheder for ændringer af systemerne.
Også det norske udvalg anbefalede klargørende bestemmelser om databeskyttelsesforordningens artikel 22 om automatiske afgørelser.[19]NOU 2019:5, s. 262.
Den finske forvaltningslov indeholder ingen særskilt regulering af digital sagsbehandling, men lovens § 5 henviser til lag om elektronisk kommunikation i myndigheternas verksamhet[20]Lag om elektronisk kommunikation i myndigheternas verksamhet, 24.1.2003/13., som finder anvendelse »vid anhängiggörande och behandling av förvaltningsärenden samt vid delgivning av beslut«. Af denne lov om elektronisk kommunikation i forvaltningen fastsættes ifølge lovens § 1 de rettigheder og pligter, som myndigheder og borgere har i forbindelse med elektronisk kommunikation. Dette omfatter eksempelvis myndighedernes ansvar for at informere borgere om den adresse, der skal anvendes til elektronisk kommunikation med myndigheden (§ 7), ankomsttidspunktet for en elektronisk meddelelse (§ 10), og elektronisk signering af afgørelser (§ 16). Formålet med lag om förvaltningens gemensamma stödtjänster för e-tjänster[21]Lag om förvaltningens gemensamma stödtjänster för e-tjänster, 29.6.2016/571. er at forbedre tilgængeligheden af og kvaliteten på offentlige digitale tjenester, tjenesternes informationssikkerhed og interoperabilitet, samt styringen af disse. Loven fastsætter regler om ansvarlige aktører og styring af den fælles digitale infrastruktur og fastsætter, at det er obligatorisk for offentlige myndigheder at anvende tjenesterne. Lag om informationshantering inom den offentliga förvaltningen[22]Lag om informationshantering inom den offentliga förvaltningen, RP 284/2018 rd. indeholder en række krav til forvaltningen, når de håndterer information om borgere. Bestemmelserne skal sikre, at informationen overholder standardiserede krav til informationssikkerhed, samtidig med at interoperabilitet mellem systemer (at de kan ’tale sammen’) og informationsudveksling i forvaltningen fremmes.
I Island blev der i 2003 tilføjet et kapitel til den islandske forvaltningslov, der skulle fjerne hindringer for brug af elektronisk sagsbehandling i forvaltningen.[23]Lög nr. 51 20. mars 2003 um breytingu á stjórnsýslulögum, nr. 37/1993 (rafræn stjórnsýsla). (Lov nr. 51 af 20. marts 2003 om ændring af forvaltningsloven (e-forvaltning)). Forvaltningslovens § 35 giver forvaltningen hjemmel til, at myndigheder kan behandle sager helt eller delvist elektronisk. Bestemmelsen giver dog ikke hjemmel til, at borgere kan pålægges kun at henvende sig elektronisk til forvaltningen.[24]Páll Hreinsson, Electronic Administration in Iceland i Scandinavian studies in law, ISSN 0085-5944, Nº 47, 2004, pages 225-244, 2004, s. 231-232. Af den islandske forvaltningslovs §§ 36 og 37 fremgår det, at elektroniske dokumenter, som kan tilgås af modtageren, under visse forudsætninger anses at opfylde forvaltningsretlige krav om skriftlighed og originalitet. Kravene til, at der kan afgives en elektronisk signatur, som er bindende i lighed med en almindelig underskrift fremgår af lovens § 38 – og er baseret på det dagældende EU-direktiv for elektroniske signaturer.[25]Act No 28/2001 on electronic signatures som implementerer Europa-Parlamentets og ådets direktiv 1999/93/EF af 13. december1999 om en fællesskabsramme for elektroniske signaturer. Eftersom retsvirkningen af en handling ofte afhænger af tidspunktet for handlingen, fastslår forvaltningslovens § 39, at ansøgninger og andre dokumenter anses for ankommet til myndighederne på det tidspunkt, hvor det er muligt for myndigheden at gøre sig bekendt med meddelelsen. Herudover fastslår bestemmelsen, at myndighederne om muligt skal bekræfte modtagelsen af meddelelsen.
Der synes at have været en tendens til at gennemføre ændringer i de nordiske forvaltningslove med henblik på at fjerne hindringer for digitaliseringen af den offentlige forvaltning, herunder i varierende omfang at pålægge borgerne at henvende sig via digitale løsninger. Med Finland som undtagelse er det først i de senere år, at vinklen er skiftet til at lovregulere, hvilke krav den digitale forvaltning skal leve op til for at fungere forsvarligt og i overensstemmelse med de grundlæggende retssikkerhedsorienterede værdier. Hertil kan dog tilføjes, at EU igennem længere tid har udstedt retsakter, hvor denne sidstnævnte vinkel er anlagt, f.eks. tilgængelighedsdirektivet, PSI-direktivet, retshåndhævelsesdirektivet, databeskyttelsesforordningen og til dels NIS-direktivet.[1]Se note 4, 40 og 69. Europa-Parlamentets og Rådets direktiv (EU) 2016/680 af 27. april 2016 om beskyttelse af fysiske personer i forbindelse med kompetente myndigheders behandling af personoplysninger med henblik på at forebygge, efterforske, afsløre eller retsforfølge strafbare handlinger eller fuldbyrde strafferetlige sanktioner og om fri udveksling af sådanne oplysninger og om ophævelse af Rådets rammeafgørelse 2008/9 og Europa-Parlamentets og Rådets direktiv (EU) 2016/1148 af 6. juli 2016 om foranstaltninger, der skal sikre et højt fælles sikkerhedsniveau for net- og informationssystemer i hele Unionen.
Det er ikke entydigt ud fra de indhentede data, om den nordiske retsudvikling er udtryk for en nedprioritering af forsvarligheds-, retssikkerheds- og borgerhensyn samt øvrige fællesnordiske værdier over for en opprioritering af effektivitets- og systemhensyn samt muligvis kommercielle interesser. Det er heller ikke entydigt, om der ligefrem er tale om en bevægelse væk fra de hidtidig anerkendte fællesnordiske værdier henholdsvis en udfordring for de nordiske demokratier og forfatningsmæssigt forudsatte balancer og garantier. Det synes dog at være nyttigt og konstruktivt for samspillet mellem lovgivningspraksis og den retsvidenskabelige forskning, at det udredes grundigere, i hvilken retning retsudviklingen både inden for den generelle og specielle forvaltningsret går, hvilke hensyn udviklingen hviler på – og hvorvidt denne udvikling i lyset af de faktiske forhold sker på et velovervejet og retssikkerhedsmæssigt betryggende grundlag.
Det må forventes, at kunstig intelligens vil blive anvendt i stigende omfang i de nordiske forvaltninger – og at denne udvikling vil pågå med en vis hastighed som følge af det nuværende digitaliseringsniveau (tilstedeværende af omfattende mængder af digitale data). I den forbindelse er det bemærkelsesværdigt, at de ovenfor omtalte svenske og norske betænkninger (SOU 2018:25 og NOU 1029:5) konkluderede, at det er for tidligt at foreslå særlig regulering af de offentlige systemer, der anvender kunstig intelligens (AI).[1]Se SOU 2018:25, s. 207f og NOU 2019:5, s. 268.
I det følgende afsnit 4.2 gives en oversigtlig beskrivelse af, hvad kunstig intelligens er – og der gives en række eksempler fra Danmark på anvendelse af kunstig intelligens i den offentlige forvaltning. De nordiske strategier for den fremtidige udvikling gennemgås i afsnit 4.3 med henblik på at give et overordnet billede af de udvalgte landes satsninger herpå. Herefter peger afsnit 4.4 på centrale retssikkerhedsmæssige udfordringer ved anvendelse af kunstig intelligens – og det anbefales, at Nordisk Ministerråd proaktivt aktiverer retsvidenskabelig forskning med henblik på, at forskningen kan understøtte både prøvelsespraksis og lovgivningsmæssig udvikling med det overordnede sigte, at den nordiske udvikling kommer til at hvile på de fællesnordiske værdier.
Der er ikke enighed blandt »tekniske« eksperter om, hvordan kunstig intelligens skal defineres. I det følgende anvendes derfor ingen definition, men der gives en beskrivelse af de centrale karakteristika ved de machine learning-baserede teknologier, der i stigende omfang udvikles til og anvendes i de nordiske forvaltninger.
Machine learning er grundlæggende forskellige teknikker, hvor algoritmer udleder sammenhænge og logiske mønstre gennem »oplæring«. Baseret på de identificerede mønstre udvikles en ny algoritme, der f.eks. kan anvendes som led i faktisk forvaltningsvirksomhed eller sagsbehandling ved at blive præsenteret for nye data, hvorefter den udviklede algoritme ud fra disse nye data kan forme prognoser. Den prognose, der har den største sandsynlighed kan fungere som »output«.
Der er flere måder at udvikle machine learning-baserede løsninger på. Der kan opdeles i vejledet læring, ikke-vejledet læring og forstærkende læring. Når der anvendes vejledet læring, trænes algoritmerne med datasæt, hvor både inddata og uddata er kendte i forvejen, dvs. både opgave og facit til at danne et logisk mønster præsenteres under udviklingen. Herudfra kan der dannes mønstre, der kan genkende karakteristika ved nye inddata, når disse ligner inddata fra træningen – hvorefter der kan dannes uddata, selvom resultatet ikke kendes på forhånd. Udvikling kan også ske som ikke-vejledet læring, hvor der kun bruges inddata til oplæring. Her er algoritmen indrettet til selv at søge efter mønstre i datasættet – og baseret på de fundne mønstre vil der dannes en ny algoritme. Den udviklede algoritme kan derefter anvendes til at foretage vurderinger baseret på nye data. Ikke-vejledet læring suppleres ofte med forstærkende læring, hvor uddata så-at-sige tilføjes manuelt. Det kan være, at en bruger eller en operatør registrerer i systemet, om en dannet vurdering er korrekt eller ej, dvs. tilbagemeldingen til systemet udgør træningsdata.[1]Uddybende beskrivelse note 9 eller Kommunal- og moderniseringsdepartementet, Nasjonal strategi for kunstig intelligens af 14. januar 2020, pkt. 1.1, tilgængelig via https://www.regjeringen.no/no/dokumenter/nasjonal-strategi-for-kunstig-intelligens/id2685594/?ch=1
Udvikling på baggrund af identificerede mønstre i datasæt indebærer visse risici. Er træningsdata fejlbehæftede, kan de ukorrekte data føre til tilsvarende fejlbehæftede mønstre. Det norske datatilsyn har meget rammende skrevet om denne risiko: »Søppel in, søppel ut«.[2]Datatilsynet, Kunstig intelligens og personvern, 2018, s. 10, tilgængelig via https://www.datatilsynet.no/regelverk-og-verktoy/rapporter-og-utredninger/kunstig-intelligens/ Også andre forhold end objektive fejl i de anvendte historiske data kan påvirke kvaliteten af de logikker (mønstre), der udvikles. Der kan være mønstre, der er uønskede, og leder til algoritmer, der vil diskriminere direkte eller indirekte på baggrund af køn, race, alder mv. Også simpel uopmærksomhed i forhold til mangler (ufuldstændighed) i det samlede datasæt, herunder metadata, eller en uhensigtsmæssig oplæringsstrategi kan påvirke de udviklede algoritmer.
Et klassisk – og illustrerende – eksempel på sidstnævnte drejer sig om udvikling af billedgenkendelse af henholdsvis ulve og hunde. I et datasæt bestående af billeder af hunde og ulve vil der være en række karakteristika ved dyrene, som en mønstersøgende løsning kan identificere, f.eks. kropsbygning, pelsstruktur, hovedfacon og snudeform. Disse karakteristika kan anvendes til at udvikle en løsning, der automatisk kan skelne mellem billeder af ulve og hunde til brug for overvågning af bestanden af ulve i et givet område. På træningsbillederne kan der imidlertid også være andre elementer, der logisk danner et mønster. Det kan være sne i baggrunden på de fleste ulvebilleder. Udvises der ikke omhyggelighed under udviklingen, kan den udviklede algoritme kan derfor meget vel identificere dyr på baggrund af sne i baggrunden – hvorefter myndighederne vil få urigtige data om ulvebestanden i området. Med andre ord kræver det stor omhyggelighed at sikre, at kunstig intelligens anvender og vægter de relevante kriterier korrekt.[3]Marco Tulio Ribeiro, Sameer Singh, Carlos Guestrin, »Why Should I Trust You?«: Explaining the Predictions of Any Classifier, Cornell, Computer science, tilgængelig via https://arxiv.orgtemanord2021-501.pdf1602.04938.pdf. Se evt. også f.eks. European Union Agency for Fundamental Rights: Data quality and artificial intelligence – mitigating bias and error to protect fundamental rights, tilgængelig via https://fra.europa.eu/sites/default/files/fra_uploads/fra-2019-data-quality-and-ai_en.pdf.
Risikoen for, at fejl, mangler og uhensigtsmæssige oplæringsstrategier fører til forfejlede underliggende logikker (mønstre), er især en udfordring i relation til den variant af machine learning, der kaldes dyb læring. Årsagen er, at nogle former for dyb læring vanskeliggør – eller ligefrem umuliggør – verificering af den dannede logik. Det kan således ikke oplyses eller dokumenteres, hvilke kriterier der inddrages, og hvordan disse vægtes over for hinanden. Dette kaldes populært black box-problematikken. Dette kan på sigt blive en udfordring i forhold til at sikre og påse, at de løsninger, der anvendes i det offentlige, lever op til de i lovgivningen fastsatte krav – det være sig professionsstandarder, grundlæggende retlige principper eller andre fastsatte krav til forvaltningens aktiviteter.
Machine learning-baserede løsninger kan udvikles og anvendes til at understøtte forskellige opgaver i de nordiske forvaltninger. Inden for sundhedssektoren kan der udvikles f.eks. diagnosticeringsteknologier og løsninger, der kan foreslå individuelt tilpassede behandlingsforløb til den enkelte borger. Der kan udvikles velfærdsteknologier til plejesektoren såsom digitale fysioterapeuter eller intelligente boliger, der kan minde borgerne om at tage deres medicin, registre fald via sensorer i gulvene eller registrere ændringer i bevægelsesmønstre, toiletvaner mv. med henblik på at forudsige svækkelse og iværksætte forebyggende behandling eller træning.[4]Se som eksempler på diagnosticeringsteknologier til henholdsvis akutte patienter og prostatakræft via https://www.regionsyddanmark.dk/wm517550 og om talende kopper som eksempel på velfærdsteknologi, f.eks. https://zibocare.dk/den-talende-kop/ På undervisningsområdet kan kunstig intelligens anvendes til kontrol af elevers og studerendes eventuelle plagiat og til individuelt tilpassede undervisningsforløb, der øger læringsudbyttet for den enkelte. Kunstig intelligens er også f.eks. et element i post- og journaliseringsrobotter.[5]https://www.kl.dk/okonomi-og-administration/digitalisering-og-teknologi/kommunernes-arbejde-med-kunstig-intelligens/intelligent-fordeling-og-journalisering-af-mails-kan-give-borgere-hurtigere-sagsbehandling/. Se også https://digst.dk/strategier/kunstig-intelligens/signaturprojekter/. Post- og journaliseringsrobotter kombinerer algoritmisk analyse af tekst og identifikation af sagsnumre eller sagsområder til at ’læse’ de henvendelser, myndighederne modtager. Når dette suppleres med en simpel RPA-programmering, kan indgående post soteres, journaliseres og fordeles til relevante interne postkasser og/eller medarbejdere.[6]Den danske finansministers svar af 30. oktober 2019 på spørgsmål nr. 3 fra Finansudvalget af 24. oktober vedrørende aktstykke nr. 15, tilgængelig via https://www.ft.dk/samling/20191/aktstykke/aktstk.15/spm/3/svar/1602319/2096955/index.htm
Herudover kan kunstig intelligens anvendes til såkaldt beslutningsstøtte, dvs. fastlægge faktum. Det kan være dannelse af ejendomsvurderinger til brug for beregning af ejendomsskat.[7]Lovforslag nr. 211 af 3. maj 2017 om ejendomsvurderingsloven, almindelige bemærkninger, pkt. 2.13.2.4 og Ekspertudvalg om ejendomsvurdering og Forbedring af ejendomsvurderingen, resultater og anbefalinger fra regeringens eksterne ekspertudvalg, 2014, s. 70, tilgængelig via https://www.skm.dk/skattetal/analyser-og-rapporter/rapporter/2014/september/forbedring-af-ejendomsvurderingen-resultater-og-anbefalinger-fra-regeringens-eksterne-ekspertudvalg/ekspertudvalg-om-ejendomsvurdering/prm . Det kan også være vurderinger af, hvordan geografiske områder skal kategoriseres efter naturbeskyttelses- og miljøbeskyttelseslovgivningen ved hjælp af billedgenkendelse fra droneoptagede film.[8]https://mst.dk/service/om-miljoestyrelsen/jump/billedgenkendelse-af-natur/. Prognoser for lediges fremtidige jobsituation (profilering) via kunstig intelligens må også regnes som sådant digitalt dannet faktum, idet prognoserne bidrager til det socialfaglige skøn i konkrete beskæftigelsessager. [9]Viden på tværs: Robotten Asta hjælper jobkonsulenten med at forberede borgersamtalen, tilgængelig via https://vpt.dk/jobcenter/robotten-asta-hjaelper-jobkonsulenten-med-forberede-borgersamtalen.
Kunstig intelligens ses dog også søgt udviklet til at støtte det retlige skøn. Et eksempel stammer fra Frederiksberg Kommune i Danmark, hvor der udvikles en løsning, der skal »understøtte medarbejderne i at vurdere, hvorvidt en ledig borgers udeblivelse fra samtale eller aktiveringstilbud skal medføre en sanktion i borgerens ydelse. Algoritmen understøtter medarbejdere med at træffe en afgørelse ud fra en optræning af mange tusinde sager, med henblik på at understøtte ensartet vurderingspraksis på tværs.[10]Beskrevet på Kommunernes Landsforenings hjemmeside, https://www.kl.dk/tema/kommunale-projekter-med-kunstig-intelligens/#. Se også https://digst.dk/strategier/kunstig-intelligens/signaturprojekter/ Som løsningen er beskrevet, er formålet at understøtte vurderingen af, om en borger har ’rimelig’ grund til at være udeblevet fra samtaler eller tilbud.
Kunstig intelligens – om korrekt udviklet – er også teknisk velegnet til at søge i store mængder data (oplysninger og dokumenter) efter tegn på forskellige former for ulovligheder, f.eks. hvidvask, korruption, momssvindel, socialt bedrageri, regnskabsfejl mv.
Som det gerne skulle fremgå af ovenstående, kan kunstig intelligens anvendes på stort set alle forvaltningsområder til næsten alle de former for opgaver, som de nordiske forvaltninger er pålagt at udføre.
Et fælles træk for Danmark, Norge, Sverige og Finland er, at der er besluttet og igangsat strategiske satsninger med henblik på at tage mere avancerede teknologier i brug.[1]https://www.regeringen.dk/media/6537/ai-strategi_web.pdf Interessen er samlet om kunstig intelligens, hvorom der er udarbejdet særskilte strategier for at øge anvendelsen. En gennemgang af disse strategier viser udprægede fællestræk, men også særlige karakteristika for de enkelte lande.
Udvikling af sprogteknologi til de nationale sprog, herunder mindretalssprog, går igen i alle landestrategier. Dette skyldes formentlig, at sprogteknologi er en forudsætning for at videreudvikle de mange portaler og selvbetjeningsløsninger til at vejlede borgere via chatbots og for yderligere automatisering af en række sagsområder og administrative funktioner. Flere og individbaserede (individuelt tilpassede) borger-forløb i den offentlige sektor synes også at være en fælles målsætning for fremtidig anvendelse af kunstig intelligens på social- og sundhedsområdet. Hertil kommer – til dels uden for de nationale strategier – at kunstig intelligens i stigende grad ses som et redskab, der kan anvendes som led i klima-indsatserne.
Over for disse ligheder står, at de forskellige landestrategiers vægtninger og afbalanceringer af forskellige værdier og samfundsmæssige hensyn synes at variere. Den norske strategi for kunstig intelligens skiller sig ud fra de øvrige lande ved et meget stærkt fokus på at skabe (fri) adgang til data fra både den offentlige og private sektor (åbne data). I lighed med den svenske strategi er der tillige fokus på etik, databeskyttelse og internationalt samarbejde for at fremme ansvarlig og pålidelig anvendelse af kunstig intelligens.[2]https://www.regjeringen.no/no/tema/statlig-forvaltning/ikt-politikk/KI-strategi/id2639883/ Også den svenske strategi indeholder disse temaer, men synes dog at have en højere grad af fokus på systemernes robusthed og informationssikkerhed end de øvrige lande. Der kan her være tale om en afsmitning fra den bredere, svenske digitaliseringsstrategi, der har fem hovedområder; digitale kompetencer, digital innovation, informationssikkerhed, digitalt lederskab og digital infrastruktur.[3]Svenske almindelige digitaliseringsstrategi.
På området for etisk anvendelse af data og kunstig intelligens synes især Finlands vægtning af området at være markant, og Finland har samtidig med udarbejdelse af strategien vedrørende udbredelse af kunstig intelligens lanceret en holistisk tilgang, hvor informationspolitik anses som et særskilt politikområde.[4]https://valtioneuvosto.fi/sv/-/10623/tietopolitiikasta-uusi-politikka-alue-suomeen Erfaringsgrundlaget i forhold til den offentlige sektor på netop dette område kan dog muligvis være begrænset som følge af, at Finland især ser muligheder i udvikling af kunstig intelligens business to business.[5]https://tem.fi/en/-/raportti-suomi-ponnistaa-tekoalyajan-karkimaaksi
Det særlige præg ved den danske strategi på området er en eksperimenterende tilgang, idet der er igangsat en række signaturprojekter inden for forskellige forvaltningsgrene med henblik på at opnå erfaringer med kunstig intelligens indenfor især sundhedssektoren, det sociale område og beskæftigelsesområdet. Hertil kommer, at en række nationale rapporter giver det indtryk, at Danmark har omfattende erfaringer med brug af forskellige former for data analytics i tilsyns-, profilerings- og håndhævelsesfunktioner, ligesom der i statsligt regi arbejdes systematisk med at åbne for øget dataanvendelse via fravigelser fra den europæiske databeskyttelsesforordning (GDPR). Sidstnævnte sker både via administrativt udstedte bekendtgørelser og via særlovgivning på de specielle forvaltningsområder.[6]https://oes.dk/media/36453/erfaringskatalog-for-advanced-analytics-i-staten.pdf s. 57-60 og http://justitia-int.org/analyse-udbetaling-danmarks-systematiske-overvaagning/
World Economic Forum udgav i 2017 rapporten Global Risk Report 2017, hvor det blev anbefalet løbende at diskutere, hvordan det sikres, at udvikling og anvendelse af kunstig intelligens sker på forsvarlig vis.[1]World Economic Forum, The Global Risks Report 2017, 12. udg., s. 48 ff., tilgængelig via https://www.weforum.org/reports/the-global-risks-report-2017. Dette samt efterfølgende links senest tilgået 20. april 2020. OECD har publiceret en række rapporter og udsendt en rekommandation i maj 2019.[2]OECD Council, Recommendation on Artificial Intelligence (AI), 22. maj 2019, tilgængelig via https://www.oecd.org/going-digital/ai/principles/. EU har på baggrund af Coordinated Plan on Artificial Intelligence og for at imødekomme et ønske om regulering fra Europa-Parlamentet[3]EU-kommisionen, Coordinated Plan on Artificial Intelligence (COM(2018) 795 final, tilgængelig via https://ec.europa.eu/digital-single-market/en/news/coordinated-plan-artificial-intelligence. nedsat en række arbejdsgrupper, der har drøftet behovet og mulighederne for at stille etiske og retlige krav til kunstig intelligens og dens anvendelse.[4]Europa-Parlamentet, beslutning af 16. februar 2017 med henstillinger til Kommissionen om civilretlige bestemmelser om robotteknologi, tilgængelig via https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_DA.html. For god ordens skyld oplyses det, at forfatteren til nærværende artikel var medlem af New Technologies Formation, der udgav rapporten Liability for Artificial Intelligence and other emerging digital technologies, tilgængelig via https://ec.europa.eu/transparency/regexpert/index.cfm?do=groupDetail.groupMeetingDoc&docid=36608. En række anbefalinger, rapporter og analyser er udarbejdet.[5]Ekspertgruppen på Højt Niveau om Kunstig Intelligens, Etiske retningslinjer for pålidelig kunstig intelligens, 2019, tilgængelig via https://ec.europa.eu/futurium/en/ai-alliance-consultation. Det må forventes, at EU-Kommissionen på baggrund af disse rapporter og som led i en nylig lanceret strategi, Shaping Europe´s Digital Future, fremsætter forslag til retlig regulering i 2021.[6]EU-Kommisonen, White Paper on Artificial Intelligence: a European approach to excellence and trust, tilgængelig via https://ec.europa.eu/info/files/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en, og strategipapiret Shaping Europe's digital future, tilgængelig via https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/shaping-europe-digital-future_en. En sådan retlig regulering vil dog antageligvis være koncentreret om den private sektor, herunder regulering af erstatningsspørgsmål. Der er med andre ord ikke umiddelbart udsigt til, at de retssikkerhedsmæssige udfordringer og de forfatningsretlige og menneskeretlige rammer for den offentlige forvaltning, vil blive adresseret af EU-kommissionen via lovgivning.
FN har derimod udsendt den indledningsvis nævnte rapport i oktober 2019, hvor fokus i højere grad var rettet mod de offentlige forvaltninger. I FN-rapportens opsummering står der bl.a.:
»The digital welfare state is either already a reality or emerging in many countries across the globe. In these states, systems of social protection and assistance are increasingly driven by digital data and technologies that are used to automate, predict, identify, surveil, detect, target and punish. In the present report, the irresistible attractions for Governments to move in this direction are acknowledged, but the grave risk of stumbling, zombie-like, into a digital welfare dystopia is highlighted.«[7]FN Special Rapporteur, Report of the Special Rapporteur on extreme poverty and human rights, 11. Oktober 2011, tilgængelig via https://undocs.org/A/74/493.
I de oven for nævnte rapporter og udredninger nævnes de europæiske databeskyttelsesretlige regler som et centralt retligt værn mod de skadevirkninger, som den offentlige forvaltnings fremtidige brug af kunstig intelligens frygtes at kunne medføre. Derimod nævnes den forvaltningsretlige regulering sjældent. På et nordisk plan vil både sagsbehandlingsregler og hjemmelskrav (herunder de centrale forvaltningsretlige retsgrundsætninger og principper) samt god forvaltningsskik imidlertid være af en betydelig interesse, da disse netop værner om en både lovmedholdelig og forsvarlig forvaltning, der agerer i overensstemmelse med god forvaltningsskik samt kan styres af lovgivningsmagten og kontrolleres af ombudsmandsinstitutionerne og domstolene.
I lyset af de alvorlige advarsler fra FN synes det oplagt, at retsvidenskaben både kan og bør undersøge, hvorvidt de fællesnordiske værdier om demokrati, retsstat, retssikkerhed og tillid mellem borgere og myndigheder beskyttes i tilstrækkeligt omfang af de eksisterende retlige rammer.[8]Justitsministeriet, Forvaltningsretlige krav til det offentliges it-løsninger, s. 21. Det bør bl.a. undersøges, om de centrale forvaltningsretlige regler også ved anvendelse af kunstig intelligens beskytter mod forskydning af magtbalancerne mellem de øverste statsorganer og mod underminering af borgernes retssikkerhed overfor myndighedernes og deres it-leverandørers ageren. I den forbindelse bør det i afsnit 2.3.2 og 2.3.4 anførte inddrages, dvs. hvilke forfatnings- og menneskeretlige rammer der er sat for den digitale forvaltning, hvordan forsvarlige ansvarskonstruktioner etableres og hvorvidt den nugældende regulerings ordensforskrifter i tilstrækkeligt omfang understøtter især domstols- og ombudsmandskontrol med forvaltningen.
For så vidt angår sidstnævnte, er det helt overskyggende tema dokumentation af de digitale løsninger, se herom ovenfor i afsnit 3.2.5. Temaet drøftes i den dataetiske diskurs under overskrifterne forklarlighed og transparens. Forklarlighed drejer sig for det første om forvaltningens egen indsigt i den udviklede løsnings programmering og for det andet om indsigt i dataanvendelsen. I den danske nationale strategi for kunstig intelligens står f.eks., at forklarlighed indebærer, at man: »kan beskrive, kontrollere og genskabe data, bagvedliggende logikker og konsekvenser af anvendelsen af kunstig intelligens, fx ved at kunne spore og forklare beslutninger og beslutningsunderstøttelse«.[9]Ibid, s. 28. Transparens drejer sig derimod om, hvorvidt og i hvilket omfang forklarligheden også skal udstrækkes til at omfatte omverdenen, dvs. sagsparter, offentligheden mv.
Spørgsmålet om, hvorvidt og i givet fald på hvilke områder dokumentation, forklarlighed henholdsvis transparens er en forudsætning (nødvendige ordensforskrifter) for at sikre muligheden for styring af og kontrol med den fremtidige digitale forvaltning, synes at være et særdeles aktuelt spørgsmål, som bør inddrages i forbindelse med ovenstående.
I nærværende afsnit opsummeres det, i forhold til hvilke temaer det er vurderet, at der er behov for at understøtte retsvidenskabelig forskning med henblik på at styrke det samspil mellem lovgivere, prøvelsesinstanser og retsvidenskaben, som førte til en afbalanceret udvikling af de retlige rammer for den analoge forvaltning op til udarbejdelsen af de nordiske forvaltningslove i 1960´erne til 1980´erne.
Opbygningen af den fællesoffentlige infrastruktur kombineret med de enkelte myndigheders øgede brug af selvbetjeningssystemer til borgerkontakt, interne digitale løsninger samt hel- og delvis automatisering synes at have medført omfattende, men i det store hele ubemærkede retssikkerhedsmæssige, herunder styringsmæssige, udfordringer i de respektive lande. Der har således verseret en række sager af alvorligere karakter ved især de danske, norske og finske ombudsmandsinstitutioner, hvor borgernes retssikkerhed, de forvaltningsretlige regler og endda de forfatningsmæssige rammer har været udfordret eller ligefrem overskredet.
Der synes desuden at være betydelige ligheder mellem både de udvalgte landes allerede etablerede, digitale infrastruktur og på de fremtidige satsninger på øget digitalisering, herunder i forhold til øget anvendelse af kunstig intelligens. Dette burde give gode muligheder for at foretage tilbundsgående – og fremtidsrelevante – undersøgelser af, hvordan den offentlige digitalisering påvirker f.eks. de demokratiske funktioner, de retsstatslige principper, retssikkerheden generelt samt tillidsforholdet mellem borgere og myndigheder. På baggrund af sådanne undersøgelser bør der videre gives anbefalinger til, hvordan de fællesnordiske værdier kan bringes med videre ind i den digitale æra.
Som det er beskrevet i afsnit 2.2, anvendes der i dag langt mere avancerede teknologier i de offentlige forvaltninger, end tilfældet var for blot 10 år siden – og påvirkningen af myndighedernes sagsbehandling og organisation og endda indholdet af afgørelser rettet til borgerne er dermed også langt mere markant end tidligere. Især for automatiserede processer synes der at være behov for retsvidenskabelig forskning i de forfatnings- og menneskeretlige rammer for offentlig digitalisering. Videre kan dette revitalisere samspillet mellem forskning, praksis og lovgivningspraksis, hvorfor der bør foretages vurderinger af, om de nugældende forvaltningsretlige regler støtter tilstrækkeligt op om bevarelsen af de omtalte værdier. Forbundet hermed – som en nødvendig forudsætning for, at sådan forskning er fremtidssikret – er forskning i de retssikkerhedsmæssige og retlige aspekter relateret til kunstig intelligens, herunder dokumentation som ordensforskrift for at sikre mod manglende forklarlighed og transparens.
Ovenstående ville i en klassisk retsvidenskabelig kontekst typisk etableres som et eller flere post.doc-forløb. Forfatterne til nærværende pilot-projekt er imidlertid i tvivl om, hvorvidt et sådan teoretisk funderet arbejde er den mest hensigtsmæssige konstruktion, da arbejdet bør være rettet mod de virkelige (faktiske) forhold i den offentlige forvaltning. Dette kan dog angives som et krav eller en forudsætning i calls. Et alternativ vil være, at Nordisk Ministerråd tager initiativ til et projektarbejde i lighed med DigiCourts, hvor relevante senior-forskere på området bidrager til kortlægning og analyse i en fælles rapport. Dette vil formentlig kunne gennemføres under samme økonomiske ramme som DigiCourts.
Som det er beskrevet ovenfor, synes også retsvidenskabelig forskning relateret til styrings- og ansvarskonstruktioner i de offentlige forvaltninger at være af central betydning. Det anbefales på det kraftigste, at gældende ret undersøges og der samtidig gennemføres analyser med praktiske vinkler, f.eks. vurderinger af, i hvilket omfang og hvordan der via kontrakters udformning kan sikres tilstrækkelig styring med private leverandørers indflydelse på den fremtidige – højt digitaliserede – forvaltning. Det bør vurderes, om anbefalinger til kontraktsudformning og/eller samarbejdsaftaler er tilstrækkeligt til at sikre styring og ansvarlighed, eller om der bør ske supplerende lovgivningsmæssige tiltag. Dette arbejde kan udformes som et eller flere post.doc-projekter i samarbejde med et universitet, hvor arbejdet så at sige udgør en overbygning på et allerede udarbejdet phd-projekt om offentlige myndigheders aftaler med private eller embedsmandansvarskonstruktioner. Et sådan arbejde vil kunne gennemføres via Nordforsk, og under samme økonomiske rammer som anvendes for Nordforsk-projekter i øvrigt.
Som det er nævnt i afsnit 3, er det ikke entydigt ud fra de indhentede data, om den nordiske retsudvikling er udtryk for en nedprioritering af retssikkerheds- og borgerhensyn samt øvrige fællesnordiske værdier over for en opprioritering af effektivitets- og systemhensyn samt muligvis kommercielle interesser. Det synes dog at være nyttigt og konstruktivt for samspillet mellem lovgivningspraksis, domstols- og ombudsmandspraksis og den retsvidenskabelige forskning, at det udredes grundigere, i hvilken retning retsudviklingen både inden for den generelle og specielle forvaltningsret går, hvilke hensyn udviklingen hviler på – og hvorvidt denne udvikling i lyset af de faktiske forhold sker på et velovervejet og retssikkerhedsmæssigt betryggende grundlag. Dette kan gennemføres både som samarbejder mellem senior-forskere i lighed med Digi-courts eller som ph.d. eller post-doc-projekter i Nordforsk. I begge tilfælde bør der gennemføres en omfattende undersøgelse af de hidtidige lovændringer, disses historik samt af verserende forslag og betænkningsarbejder for at klarlægge de hensyn og interesser, der er tilgodeset samt de underliggende afbalanceringer med henblik på at vurdere, om der er sket og forsat sker en svækkelse af de fællesnordiske værdier og hidtidige balancer. I hvert fald udvalgte dele af den specielle forvaltningsret bør inddrages for at give et dataunderbygget billede af udviklingen, dvs. udviklingen inden for udvalgte dele af de specielle forvaltningsområder (sundhedsområdet, socialområdet, skatteområdet mv.).
Hertil kommer – som et vigtigt særligt forhold – at det er observeret under pilot-projektet, at der savnes en styrkelse af det fællesnordiske samarbejde specifikt i relation til retlige aspekter af den digiale forvaltning. De nordiske forvaltninger er undergivet retlig regulering med store ligheder, ligesom forvaltningerne i store træk er organiseret på nogenlunde samme vis. Omend tempoet varierer, undergår alle lande desuden den samme digitale udvikling – og meget peger i retning af, at denne tendens vil forsætte i takt med en øget anvendelse af kunstig intelligens.
For nuværende forholder især ombudsmandsinstitutionerne sig hver især til de retlige problemstillinger, som de får præsenteret via klager eller observerer som led i deres tilsynsaktiviteter. De nordiske datatilsyn har et mere formaliseret samarbejde, men ikke specifikt i relation til offentlig digtialisering. Under pilot-projektet har det klart været indtrykket, at en øget og formidlingsvenlig vidensdeling om de respektive prøvelsesinstansers rapporter, udtalelser samt om eventuelle retssager og/eller redegørelser og initiativer relateret til forvaltningens anvendelse af digitale løsninger, vil være et for instanserne kærkomment bidrag til at accelerere udviklingen af retten. Et sådant tilbag vurderes samtidigt at være konstruktivt samt ressourcebesparende både for prøvelsesinstanserne og for de myndigheder, der har brug for viden om de retlige rammer og udviklingen af retten.
Det synes dog urealistisk, at de nordiske ombudsmandsorganisationer, datatilsyn og øvrige prøvelsesinstanser finder ressourcer til at gennemføre den type af praksisnær retsvidenskabelig forskning, der består af kontinuerlig dataindsamling fra alle involverede lande kombineret med analyser og formidlingsvenlige struktureringer af praksis, herunder resumeér og identificering af nye principper under udvikling.
Det anbefales på baggrund af ovenstående på det kraftigste, at der etableres et længerevarende projekt, hvor der kontinuerligt over en årrække indsamles praksis mv. fra de nordiske – og eventuelt de baltiske – lande. Den indsamlede praksis struktueres og tilgængeliggøres årligt i rapporter fra Nordisk Ministerråd. Det anbefales, at disse rapporter tillige angiver en liste over udgivet litteratur, artikler og rapporter relateret til retlige aspekter af offentlig digitalisering. Ovenstående vurderes at kunne gennemføres indenfor en økonomisk ramme på under 300.000 danske kroner årligt.
Endelig anbefales det, at Nordisk Ministerråd generelt overvejer at anbefale retsvidenskabelig forskning som en integreret del af andre projekter, der relaterer sig til offentlig digitalisering i Nordforsk. Dette synes især relevant inden for de mange projekter relateret til nyere og mere avancerede teknologier såsom kunstig intelligens.
– pilotprojekt
Hanne Marie Motzfeldt og Frederik Waage
ISBN 978-92-893-6881-0 (PDF)
ISBN 978-92-893-6882-7 (ONLINE)
http://dx.doi.org/10.6027/temanord2021-501
TemaNord 2021:501
ISSN 0908-6692
Cover photo: Glenn Carstens-Peters / Unsplash
© Nordic Council of Ministers 2021
This publication was funded by the Nordic Council of Ministers. However, the content does not necessarily reflect the Nordic Council of Ministers’ views, opinions, attitudes or recommendations.
This work is made available under the Creative Commons Attribution 4.0 International license (CC BY 4.0) https://creativecommons.org/licenses/by/4.0.
Translations: If you translate this work, please include the following disclaimer: This translation was not produced by the Nordic Council of Ministers and should not be construed as official. The Nordic Council of Ministers cannot be held responsible for the translation or any errors in it.
Adaptations: If you adapt this work, please include the following disclaimer along with the attribution: This is an adaptation of an original work by the Nordic Council of Ministers. Responsibility for the views and opinions expressed in the adaptation rests solely with its author(s). The views and opinions in this adaptation have not been approved by the Nordic Council of Ministers.
Third-party content: The Nordic Council of Ministers does not necessarily own every single part of this work. The Nordic Council of Ministers cannot, therefore, guarantee that the reuse of third-party content does not infringe the copyright of the third party. If you wish to reuse any third-party content, you bear the risks associated with any such rights violations. You are responsible for determining whether there is a need to obtain permission for the use of third-party content, and if so, for obtaining the relevant permission from the copyright holder. Examples of third-party content may include, but are not limited to, tables, figures or images.
Photo rights (further permission required for reuse):
Any queries regarding rights and licences should be addressed to:
Nordic Council of Ministers/Publication Unit
Ved Stranden 18
DK-1061 Copenhagen
Denmark
pub@norden.org
Nordic co-operation is one of the world’s most extensive forms of regional collaboration, involving Denmark, Finland, Iceland, Norway, Sweden, and the Faroe Islands, Greenland and Åland.
Nordic co-operation has firm traditions in politics, economics and culture and plays an important role in European and international forums. The Nordic community strives for a strong Nordic Region in a strong Europe.
Nordic co-operation promotes regional interests and values in a global world. The values shared by the Nordic countries help make the region one of the most innovative and competitive in the world.
The Nordic Council of Ministers
Nordens Hus
Ved Stranden 18
DK-1061 Copenhagen
pub@norden.org
Read more Nordic publications on www.norden.org/publications