5 Særlig om bruk av automatiserte avgjørelser

5.1 Forslaget i høringsnotatet

Departementet foreslo hjemmel for at Kongen kan gi forskrift om adgang til å behandle statsborgersaker ved bruk av automatiserte avgjørelser. Bruk av helautomatiserte avgjørelser ved utøvelse av offentlig myndighet krever særskilt lovhjemmel, jf. personvernforordningen artikkel 22 nr. 2.

Hvor spesifikk en bestemmelse som åpner for automatiserte avgjørelser må være, vil slik departementet ser det avhenge av hvilke sakstyper som skal automatiseres, herunder hvilke opplysningskategorier som skal behandles, hvilken betydning og hvilke konsekvenser avgjørelsen har for søkeren. Departementet vurderte at det ikke er hensiktsmessig at bruken av automatiserte avgjørelser knyttes til spesifikke og angitte saksporteføljer, da det vil kunne forhindre nødvendig fleksibilitet ettersom behovet varierer over tid. På den annen side er det ikke ønskelig å åpne for bruk av automatisering i alle typer saker. Departementet foreslo på denne bakgrunn en forskriftsbestemmelse som stiller krav om at behandlingen må være «forsvarlig» og at «avgjørelsen ikke inneholder skjønnsmessige vurderinger».

Automatiserte avgjørelser kan omfatte både innvilgelse og avslag av norsk statsborgerskap og bygge på særlige kategorier av personopplysninger og opplysninger om straffedommer og lovovertredelser. Særlige kategorier av personopplysninger kan kun behandles ved bruk av automatiserte avgjørelser hvis det er nødvendig av hensyn til viktige allmenne interesser på grunnlag av unionsretten eller nasjonal rett, og behandlingen står i et rimelig forhold til det målet som søkes oppnådd og det innføres egnede tiltak for å verne den registrertes rettigheter, friheter og berettigede interesser, jf. artikkel 22. nr.4 og artikkel 9 nr. 2 bokstav g. Hvilke tiltak som kreves for å verne den registrerte vil være avhengig av hvilke opplysningskategorier som behandles, hvilken betydning og hvilke konsekvenser avgjørelsen vil ha for den registrerte. Det følger av forordningen fortalepunkt 71 at nødvendige garantier bør omfatte spesifikk informasjon til den registrerte og rett til menneskelig inngripen, til å uttrykke sine synspunkter, til å få en forklaring på avgjørelsen som er truffet etter en slik vurdering, og til å protestere mot avgjørelsen. Departementet vurderte at statsborgermyndighetenes plikter og den enkeltes rettigheter etter forvaltningsloven må anses som egnede tiltak for å verne den registrertes rettigheter, friheter og berettigede interesser. Det ble i den forbindelse vist særlig til reglene om veilednings- og utredningsplikt, forhåndsvarsling og kontradiksjon, begrunnelsesplikt og klageadgang.

Departementet viste til at kontroll med erverv og tap av norsk statsborgerskap er av viktig allmenn interesse. Videre vurderte departementet at bruk av automatiserte avgjørelser i statsborgersaker, for å oppnå en mer effektiv og rask saksbehandling, ikke vil være et uforholdsmessig inngrep i den registrertes privatliv. Som nevnt foreslo departementet en forskriftsbestemmelse som stiller krav om at behandlingen må være «forsvarlig» og at «avgjørelsen ikke inneholder skjønnsmessige vurderinger. I denne vurderingen vil det være relevant å se hen til både hvor inngripende avgjørelsen er for den registrerte, hvor kurant avgjørelsen er og hvilke opplysningskategorier som behandles.

Kravet om forsvarlighet innebærer at UDI må vurdere om de ulike saksporteføljene er egnet for helautomatisering. Kravet om at avgjørelsene ikke skal baseres på skjønnsmessige vurderinger vil sikre at avgjørelser med et skjønnselement ikke underlegges helautomatisering, selv om den teknologiske utviklingen skulle komme så langt at det ville vært «forsvarlig». Departementet utelukket ikke at det i fremtiden kan være aktuelt å underlegge mer kompliserte vurderinger helautomatisert behandling basert på kunstig intelligens og maskinlære. Slik behandling vil imidlertid kreve mer spesifikk og konkret regulering.

5.2 Høringsinstansenes syn

Oslo politidistrikt uttaler at forslaget om å avgrense mot skjønnsmessige vilkår ved helautomatiserte prosesser er en fornuftig avgrensning og fremhever viktigheten av førstelinjens arbeid i disse sakene. Oslo politidistrikt understreker at spørsmålet om automatiseringen kan anses å være forsvarlig på bakgrunn av profilering, i stor grad vil være avhengig av hva slags kriterier som settes for profileringen. Oppfølgingen av vurderingen av kriteriene må derfor vurderes nøye i hver enkelt portefølje og fortløpende revurderes dersom utfallene i de ulike sakene skulle tilsi det.

Agder politidistrikt er kritisk til forslaget om at behandling av statsborgerskapssøknader skal kunne helautomatiseres. Det vises til at det er viktige områder som angår saksbehandlingen av statsborgerskapssaker, som ikke kan automatiseres fordi de krever grundighet og skjønn. Agder politidistrikt ser at det muligens kan være hensiktsmessig og forsvarlig med helautomatisering i noen få og svært enkle sakstyper, men påpeker at en maskinell behandling i flertallet av sakene kan være problematisk og få uønskede konsekvenser.

POD mener at avgrensningen mot skjønnsmessige vilkår ved helautomatiserte prosesser er fornuftig. POD viser til merknadene fra Oslo politidistrikt om kriteriene i profileringen og til Agder politidistrikts spørsmål om hvem som i realiteten vil få arbeidet med å legge inn de ulike opplysningene som skal brukes i den automatiserte behandlingen. POD anbefaler at det utredes videre hvordan arbeidsflyten/oppgavene skal fordeles mellom etatene.

Politiets sikkerhetstjeneste (PST) forutsetter at kravet i statsborgerloven § 7 annet ledd ivaretas på en adekvat måte også i de sakene som skal behandles maskinelt, og at instruks F-05/18 tilpasses foreslåtte behandlingsmåte dersom det anses nødvendig.

Institutt for samfunnsforskning viser til at regler for innhenting, lagring og bruk av opplysninger fra sosiale medier må avklares i forbindelse med automatisering av statsborgerskapssaker.

MiRA-Senteret forstår behovet for effektivisering av behandlingen av en omfattende saksmengde og har forståelse for at en viss automatisering kan benyttes i enkle sakstyper, men er imot at det skal gis en generell hjemmel for automatisering, slik at automatisering kan anvendes i de aller fleste saker. Senteret viser til at ved automatisering vil generelle erfaringer med søkere fra samme område og samme bakgrunn legges til grunn for behandlingen av en søknad, og mener at dette kun er akseptabelt så lenge det i tillegg gjøres en individuell vurdering av søknaden, der individuelle forhold også legges til grunn. Det uttales at en praksis der søkere fra bestemte nasjonaliteter og sosiale kategorier automatisk avvises, vil innebære at disse gruppene diskrimineres på grunn av sin gruppetilhørighet, noe som vil være lovstridig. Senteret mener at det ikke er godt nok at UDI vil pålegges å gjennomføre jevnlige manuelle kontroller og anbefaler at saker hvor en søker får avslag ved en automatisert avgjørelse automatisk blir manuelt kontrollert for å ivareta søkers rettigheter. MiRA-Senteret uttaler at det ikke er nok at søkeren har adgang til å klage på vedtaket.

Rettspolitisk forening er negative til forslaget om adgang til å bruke automatiserte avgjørelser, og mener at vilkårene for bruk av automatiserte avgjørelser må lovfestes, slik at Stortinget får vurdert dem. Rettspolitisk forening mener at automatiserte avgjørelser bare bør brukes ved innvilgelser og uttaler at det strider mot den allmenne rettsfølelse dersom vedtak om avslag på søknad om statsborgerskap kan fattes uten at en menneskelig saksbehandler har vært involvert. Foreningen viser til at skjønnsmessige vurderinger skal gjøres manuelt og at dette må reguleres i loven. Videre uttaler foreningen at formuleringene i forslaget er uheldige og at det i større grad må konkretiseres hva som menes med «forsvarlig» og «skjønnsmessig». Rettspolitisk forening er enig i at det ikke skal være adgang til automatisert behandling i klageomgangen, men mener at dette bør lovfestes. Det uttales at manuelle kontroller også må gjelde på vedtak som ender med avslag og som ikke blir påklaget. Foreningen uttaler også at alle vedtak som berører barn må behandles manuelt og at maskinelle feil aldri kan legges søkeren til last, for eksempel gjennom tilbakekall av statsborgerskapet. Jussbuss stiller seg bak Rettspolitisk forenings høringsinnspill.

Universitetet i Sørøst-Norge slutter seg til den forsiktige linjen for bruk av automatiserte avgjørelser og fremhever at hyppig kontroll av særlig negative vedtak er naturlig å forvente i introduksjonsfasen, både av rettssikkerhetshensyn og av effektivitetshensyn.

Utenriksdepartementet har ikke innvendinger mot en automatisering av statsborgersaker, sett i lys av at dette ikke vil føre til administrative og økonomiske konsekvenser for utenriksstasjonene.

UDI viser til at selv om enkelte bestemmelser og vilkår i statsborgerregelverket er skjønnsmessig utformet, vil det likevel være mulig å avgjøre enkeltsaker på bakgrunn av forhåndsdefinerte kriterier som ikke innebærer bruk av skjønn. UDI legger til grunn at hjemmelen for bruk av automatiserte avgjørelser også er ment å gjelde vurdering av vilkår som er formulert skjønnsmessig, så lenge vurderingen kan gjøres på bakgrunn av objektive forhåndsdefinerte kriterier.

5.3 Departementets vurderinger

Bruk av helautomatiserte avgjørelser ved utøvelse av offentlig myndighet krever særskilt lovhjemmel, jf. personvernforordningen artikkel 22. Departementet opprettholder forslaget om å gi hjemmel i statsborgerloven § 29 a annet ledd om at Kongen kan gi forskrift om adgang til å behandle statsborgersaker ved bruk av automatiserte avgjørelser.

I tråd med den teknologiske og digitale utviklingen ønsker departementet å legge til rette for at UDI kan automatisere saksbehandlingen på statsborgerfeltet, herunder ta i bruk helautomatiserte individuelle avgjørelser. Helautomatiserte avgjørelser innebærer at individuell saksbehandling skjer utelukkende maskinelt, uten innblanding fra saksbehandlere.

Flere høringsinstanser har påpekt at avslag enten ikke bør kunne gis ved automatisert behandling eller at det må kreves manuell gjennomgang av alle avslag. Departementet påpeker at det i statsborgerforskriften skal oppstilles vilkår om at behandlingen må være forsvarlig, og at avgjørelsen ikke inneholder skjønnsmessige vurderinger. Dette vil sette grenser for hvilke saker som kan underlegges helautomatisering. I saker der vilkårene ikke kan vurderes på bakgrunn av objektive kriterier alene, vil det ikke være forsvarlig å bruke automatiserte avgjørelser. Slike saker skal behandles manuelt. Hjemmelen for automatiserte avgjørelser kan imidlertid også omfatte saker som er underlagt vilkår som er formulert skjønnsmessig, så lenge vurderingen av om søkeren skal innvilges norsk statsborgerskap kan gjøres på bakgrunn av objektive og forhåndsdefinerte kriterier. For eksempel gir vilkåret om klarlagt identitet i statsborgerloven § 7 første ledd bokstav a og statsborgerforskriften kapittel 1, i flere henseender rom for skjønn. Like fullt vil man ofte kunne ta stilling til vilkåret på bakgrunn av objektive kriterier, slik som at søkeren har fremlagt gyldig pass fra bestemte land, og at saken ikke inneholder inkonsistente registreringer om identitet. Hjemmelen for automatiserte avgjørelser bør også omfatte slike saker såfremt behandlingen er forsvarlig. Departementet mener at bestemmelsen gjennom disse grensene ivaretar søkernes rettigheter i tilstrekkelig grad og viser også til at alle klager skal behandles manuelt, både klagebehandling hos førsteinstansen og hos klageinstansen. Departementet vil videre pålegge UDI å gjennomføre jevnlige manuelle kontroller for å sikre at de automatiserte avgjørelsene er basert på riktig grunnlag. De manuelle kontrollene vil gjelde både positive vedtak og negative vedtak som ikke blir påklaget. Det blir opp til UDI å vurdere hvor ofte slike kontroller eller stikkprøver skal gjennomføres. I denne vurderingen vil det være relevant å se hen til resultater av tidligere kontroller og hvilken betydning og konsekvens avgjørelsen har for den registrerte.

Departementet vurderer at manuelle kontroller og manuell klagebehandling, er å anse som «egnede tiltak» for å verne den registrertes rettigheter, friheter og berettigede interesser etter personvernforordningen art. 22 nr. 2. bokstav b. Tilsvarende gjelder statsborgermyndighetenes plikter og den enkeltes rettigheter etter forvaltningsloven, slik som reglene om veilednings- og utredningsplikt, forhåndsvarsling, kontradiksjon, begrunnelse og klageadgang.

Institutt for samfunnsforskning uttaler at regler for innhenting, lagring og bruk av opplysninger fra sosiale medier må avklares i forbindelse med automatisering av statsborgerskapssaker. Departementet viser til at det ikke vil være aktuelt å hente opplysninger fra sosiale medier i saker som blir automatisert. Dersom slike opplysninger skal vektlegges, vil saken behandles manuelt.

Politiets sikkerhetstjeneste (PST) forutsetter at kravet i statsborgerloven § 7 annet ledd om at søkere ikke har rett til norsk statsborgerskap dersom grunnleggende nasjonale interesser taler mot, ivaretas på en adekvat måte også i de sakene som skal behandles maskinelt.

Departementet bemerker at UDI ikke skal innføre helautomatisert behandling i statsborgersaker uten å ta stilling til kravet i statsborgerloven § 7 annet ledd der hvor loven forutsetter dette. Dersom UDI i den automatiserte løsningen ikke på en forsvarlig måte kan undersøke og ta stilling til kravet i statsborgerloven § 7 annet ledd, skal ikke saksbehandlingen helautomatiseres.

Dersom UDI enten gjennom egne tidligere undersøkelser eller gjennom informasjon fra andre etater har avdekket at en sak kan berøre utenrikspolitiske hensyn eller grunnleggende nasjonale interesser, vil den ikke inngå i et automatisert behandlingsløp. Det er også naturlig at porteføljer som det kan knyttes usikkerhet ved, for eksempel søkere fra bestemte konfliktområder, ikke underlegges automatisert behandling. Imidlertid er det ikke alltid slik at særskilte kjennetegn som er registrert i UDI sine registre, slik som land, kjønn, alder etc. kan gi indikasjoner om en person kan utgjøre en trussel eller ikke. UDI vil derfor ha behov for å avklare med PST at søkeren ikke er i PST sitt søkelys og av sikkerhetsmessige grunner ikke bør gis norsk statsborgerskap, før saken inngår i et automatisk saksbehandlingsløp. Effektivitetshensyn tilsier at henvendelsen til PST og kontrollen i PST skjer maskinelt. UDI og PST er derfor i ferd med å utrede en løsning hvor søknader om statsborgerskap, før de skal inngå i automatiseringsløsningen, innledningsvis sjekkes mot PST sine registre for å identifisere saker som må underlegges en nærmere vurdering hos PST. Departementet vil forutsette at en slik løsning er etablert før helautomatisert behandling av statsborgersaker settes i verk. Utfyllende regler for samhandlingen vil bli fastsatt i forskrift.

MIRA-Senteret uttaler at en praksis der søkere fra bestemte nasjonaliteter og sosiale kategorier automatisk avvises, vil innebære at disse gruppene diskrimineres på grunn av sin gruppetilhørighet, noe som vil være lovstridig. Departementet bemerker at statsborgermyndighetene alltid vil vurdere hver enkelt sak individuelt. Dersom en søker fyller vilkårene, vil vedkommende få innvilget norsk statsborgerskap uavhengig av om saken behandles automatisk eller av en saksbehandler. Logikken som styrer den automatiserte behandlingen skal ikke innrettes slik at statsborgerskap nektes eller innvilges på uriktig grunnlag. Dersom det er tvil om vilkårene for norsk statsborgerskap er oppfylt, vil saken bli behandlet manuelt.

Rettspolitisk forening uttaler også at alle vedtak som berører barn må behandles manuelt. Departementet bemerker at det i forordningen artikkel 22 ikke skilles mellom helautomatiserte avgjørelser som gjelder voksne og barn. Det følger imidlertid av fortalepunkt 38 at barns personopplysninger fortjener et særlig vern, ettersom barn kan være mindre bevisste på aktuelle risikoer, konsekvenser og garantier samt på de rettigheter de har når det gjelder behandling av personopplysninger. Det fremgår videre av fortalepunkt 71 at helautomatiserte avgjørelser, inkludert profilering, ikke «bør» gjelde barn. Artikkel 29-gruppen, som var forløperen til Personvernrådet, har i «Guidelines on Automated individual decision-making and Profiling» uttalt at det ikke eksisterer et absolutt forbud mot helautomatiserte avgjørelse som gjelder barn, men at det bør utvises forsiktighet. Dette begrunnes med at barn er en sårbar gruppe som lett kan påvirkes på internett og gjennom reklame. Departementet vurderer at hensynene bak fortalepunkt 38 og Personrådets anbefaling ikke i like stor grad gjør seg gjeldende for barn i statsborgersaker, og viser at det ofte vil være den som har foreldreansvaret eller vergen som opptrer på vegne av barnet overfor myndighetene. Departementet legger til grunn at de foresatte vil ivareta barnets rettigheter og friheter. Adgangen til å bruke automatiserte avgjørelser er videre begrenset til saker som først og fremst baserer seg på objektive kriterier og avgjørelser som ikke inneholder skjønnsmessige vurderinger. Departementet mener derfor at barn i denne sammenhengen ikke vil være mer sårbar enn andre søkere. Barn vil ofte også søke om norsk statsborgerskap sammen med sine foreldre, og det vil være hensiktsmessig at sakene kan behandles samlet.

Rettspolitisk forening uttaler videre at maskinelle feil aldri kan legges søkeren til last, for eksempel gjennom tilbakekall av statsborgerskapet. Departementet viser til at det følger av statsborgerloven § 26 at et vedtak om statsborgerskap kan tilbakekalles der omgjøringsadgang følger av forvaltningsloven § 35 eller alminnelige forvaltningsrettslige regler. Tilbakekall av statsborgerskap som er bygget på uriktige eller ufullstendige opplysninger, kan likevel bare foretas hvis søkeren mot bedre vitende har gitt de uriktige opplysningene eller har fortiet forhold av vesentlig betydning for vedtaket. Departementet vurderer at bestemmelsen ivaretar hensynet til en part som på uriktig grunnlag har fått norsk statsborgerskap på en god nok måte.

Rettspolitisk forening uttaler at vilkårene for bruk av automatiserte avgjørelser bør fremgå av statsborgerloven, ikke forskriften. Til dette bemerker departementet at den foreslåtte strukturen i statsborgerregelverket er tilsvarende som for utlendingsregelverket, og at disse bør være like.