7 Bruk av helseopplysninger i beslutningsstøtteverktøy (kunstig intelligens)

7.1 Høringsforslaget

Departementet foreslo endringer i helsepersonelloven § 29 (ikke i kraft) om bruk av helseopplysninger til statistikk, helseanalyser, forskning mv., ved at beslutningsstøtteverktøy ble presisert som et eget formål, som grunnlag for dispensjon fra taushetsplikt. Endringen innebar at departementet etter søknad kan bestemme at opplysninger fra pasientjournaler og andre behandlingsrettede helseregistre skal tilgjengeliggjøres uten hinder av taushetsplikt når opplysningene skal brukes til et uttrykkelig angitt formål knyttet til beslutningsstøtteverktøy.

Det ble presisert i motivene til forslaget at begrepet beslutningsstøtteverktøy i dette høringsforslaget ikke omfatter verktøy som tar helautomatiske avgjørelser om for eksempel diagnose eller behandlingsforløp.

Det ble også presisert at formålet knyttet til beslutningsstøtteverktøy inkluderer både utvikling, herunder utprøving, av slike verktøy og innføring av slike verktøy, i klinikk, og at bestemmelsen ikke var ment å forstås snevert.

Departementet etterspurte høringsinstansenes syn på om begrepet beslutningsstøtteverktøy vil være et dekkende og godt egnet begrep, eller hvorvidt det bør brukes et annet begrep i lovteksten.

7.2 Høringsinstansenes syn

32 høringsinstanser støtter eller ser positivt på forslaget. Det inkluderer Datatilsynet, Direktoratet for e-helse, Helsedirektoratet, Statens helsetilsyn, Kreftregisteret, Norsk Helsearkiv, Helseplattformen AS, Statens legemiddelverk, Helse Sør-Øst RHF, Helse Vest RHF, Akershus universitetssykehus HF, Helse Bergen HF, Oslo universitetssykehus HF, Sykehusapotekene Vest HF, Universitetssykehuset Nord-Norge HF, Vestre Viken HF, Stord kommune, KS, BigMed, DIPS, Kreftforeningen, Nasjonalt senter for e-helseforskning, Norsk Forening for Medisinsk Genetikk (NFMG), Norsk Radiografforbund, Norsk sykepleierforbund, Legemiddelindustrien, Novartis, Senter for e-helse ved Universitetet i Agder, Siemens Healthineers, Teknologirådet, Universitetet i Bergen og Universitetet i Oslo.

11 medlemmer i Bioteknologirådet støttet forslaget. Fire medlemmer i rådet fremførte at bruk av kunstig intelligens som beslutningsstøtteverktøy ennå er på utviklingsstadiet og mener det heller er behov for en lovhjemmel i helseforskningsloven.

Ingen høringsinstanser uttalte at de er imot forslaget.

Flere av høringsinstansene som i utgangspunktet stiller seg positiv til endringene, tilføyde at forslaget fremstår som uklart og lite utredet, og kan gi utfordringer i praksis.

Den norske legeforening mener at forslaget ikke reflekterer at bruk av kunstig intelligens (KI) i stor grad er på forskningsstadiet.

Datatilsynet fremfører:

«I og med at ordet beslutningsstøtteverktøy er ment å dekke både utvikling, bruk og videreutvikling av kunstig intelligens – noe som i seg selv reiser mange spørsmål som ikke nødvendigvis aktualiseres ved bruk til de andre formålene omfattet av bestemmelsen, kunne departementet vurdert om denne kategorien må omtales i en egen bestemmelse der det gis mer rom for å tydeliggjøre forhold som aktualiseres når temaet er bruk av helseopplysninger til dette formålet.»

Videre uttales:

«Bestemmelsen gjenspeiler i liten grad at kunstig intelligens er en teknologi som utløser en rekke særegne problemstillinger og som stiller særlige krav til den behandlingsansvarlige virksomheten. Bestemmelsen gjenspeiler heller ikke at utlevering til dette formålet kan omfatte utlevering til teknologibedrifter i ulike faser av utviklingsprosessen før man har å gjøre med et ferdig utviklet beslutningsstøtteverktøy. Når verktøyet tas i bruk vil det ofte være behov for et stadig påfyll av opplysninger for å gjøre systemet bedre og mer treffsikkert.

[…]

I høringen er det vist til Regjeringens retningslinjer for utvikling av kunstig intelligens. Vi mener det ville være hensiktsmessig å trekke viktige føringer for eksempel fra disse retningslinjene inn i lovforslaget. Spørsmålet vi stiller er derfor om departementet har vurdert konsekvensen av å åpne for denne type bruk av helseopplysninger uten at det er stilt ytterligere krav til formålet – ut over det som stilles av krav til annen utlevering til mer tradisjonelle sekundære formål.»

Direktoratet for e-helse fremfører at spørsmålet om hvorvidt beslutningsstøtte faktisk bør tas i bruk i tjenesten og når det eventuelt bør tas i bruk, må baseres på grundige vurderinger der flere sentrale hensyn gjør seg gjeldende. Direktoratet mener at de vilkår og vurderinger som er beskrevet i høringsnotatet tar ikke opp i seg alle de spesielle egenskapene ved maskinlærende systemer. Videre uttales:

«I høringsnotatet forstås begrepet kunstig intelligens som «… dataprogrammer som har evnen til å lære, forbedre seg over tid og tilpasse seg nye miljøer» (5.2.1.1). I tillegg gir kunstig intelligens/maskinlæring mulighet for å finne nye, komplekse sammenhenger og mønstre i datasett, uten at de nødvendigvis kan forklare den kausale sammenhengen. Dataprogrammene/modellene kan derfor bli lite gjennomsiktige og vanskelige å forstå. Disse egenskapene ved maskinlæring reiser flere spørsmål som er relevante i vurderingene om det skal gjøres vedtak om dispensasjon fra taushetsplikten bl.a. knyttet til svart boks-problemet og dynamisk læring.»

Direktoratet foreslår også at begrepet «beslutningsstøtteverktøy» endres til et mer teknologinøytralt begrep som «beslutningsstøtte».

Universitetssykehuset Nord-Norge HF mener det er tvilsomt om begrepet «beslutningsstøtteverktøy» vil være dekkende for behovet av to grunner. For det første kan det tenkes bruk av kunstig intelligens på måter som innebærer helautomatiserte avgjørelser. For det andre kan det tenkes bruk av kunstig intelligens på måter som ikke innebærer at det treffes en «beslutning». Sykehuset fremfører:

«KI-baserte beslutningsstøtteverktøy utvikles ved bruk av treningsdata. Derfor er tilgang til data i treningsbasen et felles behov for all utvikling av slike beslutningsstøtteverktøy. Men når treningen har resultert i en modell som skal settes i drift, kan det tenkes at ulike KI-baserte beslutningsstøtteverktøy vil fungere på forskjellige måter. Et spørsmål som har stor betydning for reguleringen er hvordan treningsdata bør kunne brukes etter at et KI-basert beslutningsstøtteverktøy er satt i drift. Høringsnotatet inneholder ingen utredning av hvorvidt det er behov for å videreføre treningsdata fra forsknings- og utviklingsstadiet og inn i driftsfasen. Det er nærliggende å forstå forslaget slik at det skal kunne gis dispensasjon for slik videreføring av data, men en klargjøring er ønskelig.

I mange tilfeller er det grunn til å anta at det vil være et begrenset behov for videre bruk av treningsdata i driftsfasen; etter endt trening vil ikke systemet eller brukeren ha behov for tilgang til treningsdataene. I noen tilfeller kan det likevel, av forskjellige grunner, være ønskelig med fortsatt tilgang til treningsdataene i driftsfasen. Det kan tenkes flere formål med fortsatt oppbevaring og bruk av treningsdata i driftsfasen, avhengig av hvordan ulike beslutningsstøtteverktøy vil fungere i praksis. Mest aktuelt er kanskje oppbevaring av treningsdataene med sikte på feilsøking, feilretting, oppdatering og re-trening av systemet basert på originale treningsdata i kombinasjon med nyinnsamlede data. Til disse formålene kan man tenke seg at bruk av helseopplysninger vil skje i stort omfang, men at bruken vil foregå i kontrollerte omgivelser og med begrenset hyppighet. Det bør utvilsomt legges til rette for dette.

Det kan imidlertid også tenkes KI-baserte beslutningsstøtteverktøy der løpende tilgang til treningsdataene er en forutsetning for at systemet skal kunne komme med en anbefaling. Dette vil innebære at det løpende gjøres bruk av historiske treningsdata når systemet er i bruk, altså ikke begrenset til tilfeller av feilsøking, osv. Ved slike beslutningsstøtteverktøy vil formålet med bruk av helseopplysningene i treningsgrunnlaget endres fra forskning og/eller utvikling til ytelse av helsehjelp.

Løpende bruk av treningsdata når verktøyet er satt i drift stiller andre krav til informasjonssikkerhet og vurdering av personvernkonsekvenser enn systemer som kan brukes uten tilgang til historiske treningsdata i driftsfasen. Det kan dreie seg om tusenvis av pasientjournaler som direkte brukes ved behandlingen av nye pasienter.

Etter hvert som nytteverdien blir utforsket og forstått i tiden fremover, kan det tenkes at behovet for tilgang til de opprinnelige treningsdataene i driftsfasen vil bli sterkere.

Høringsgruppen UNN/UiT vil oppfordre departementet til å klargjøre om den foreslåtte dispensasjonsbestemmelsen er ment å omfatte løpende bruk av historiske treningsdata i driftsfasen. Departementet oppfordres også til å vurdere nærmere om en dispensasjonsbestemmelse er den mest hensiktsmessige reguleringen av slik databruk. Alternativt bør det vurderes en lovbestemmelse som uttrykkelig regulerer til hvilke formål og under hvilke forutsetninger treningsdata skal kunne brukes i driftsfasen. En konkret lovbestemmelse vil gi større forutsigbarhet både for utviklere og for de registrerte personene. Trolig vil menneskerettslige og personvernrettslige krav om forutberegnelighet og proporsjonalitet kunne ivaretas bedre enn ved innføring av en generell dispensasjonshjemmel for beslutningsstøtteverktøy.»

Helseplattformen AS fremfører:

«Beslutningsstøtte er en sentral funksjonalitet i journalsystemet som nå innføres i helsetjenesten i Midt-Norge. I vårt arbeid med klinisk beslutningsstøtte har vi lagt følgende definisjon til grunn: «IT-verktøy som tilbyr situasjons-, kliniker- og pasient- tilpassede opplysninger og kunnskapsbaserte råd til klinikere og/eller pasienter for å sikre at helsehjelpen får høy kvalitet og kan leveres på en trygg, effektiv og etterprøvbar måte.» Vi har altså definert beslutningsstøtte som et verktøy.»

Akershus universitetssykehus HF viser til at elektroniske søk i et sentralt «datavarehus» i stor grad reduserer behovet for manuell gjennomgang av pasientjournaler. Slike uttrekk synliggjør kun opplysninger som er nødvendige og relevante for det aktuelle formålet, og kan foreløpig ikke erstatte journalgjennomgang der opplysningene ikke foreligger i strukturert form, men kun som tekst. I fremtiden kan ifølge sykehuset, kunstig intelligens ved eksempelvis maskinlæring, bidra til elektroniske uttrekk av relevante parametere også fra fritekst i journal. Sykehusene må derfor kunne høste data til «datavarehus» for å gjøre data tilgjengelig for prosessering til videre bruk i beslutningsstøttesystemer og for rapportering, forsknings- og kvalitetssikringsformål. Ut fra kriteriene som stilles i forslaget er sykehuset usikker på om slike situasjoner vil være omfattet av begrepet «beslutningsstøtteverktøy».

Helsedirektoratet er usikre på om departementets forslag til lovendring åpner for at det kan gis dispensasjon fra taushetsplikten til kommersielle aktører, som for eksempel Google, som ikke skal utvikle beslutningsstøttesystemet i et forskningsprosjekt, men heller som ren produktutvikling. Helsedirektoratet fremfører at dersom det er tilfellet, bør det omtales nærmere i proposisjonen. Utlevering til rene kommersielle formål utløser ifølge direktoratet en del prinsipielle spørsmål. Det kan for eksempel stilles spørsmål ved om slik utlevering kan sies å oppfylle vilkåret i ny § 29 om at opplysningene skal brukes til et uttrykkelig angitt formål som er knyttet til beslutningsstøtteverktøy «for å fremme helse, forebygge sykdom og skade eller gi bedre helse- og omsorgstjenester».

Helsedirektoratet mener at før en eventuell endring gjøres, bør det blant annet drøftes om dispensasjonsadgang til kommersielle formål er i samsvar med nasjonale planer, som for eksempel Nasjonal strategi for kunstig intelligens og Nasjonal helse- og sykehusplan, og hvordan tilliten fra pasientene kan ivaretas.

Novartis viser til at Akershus Universitetssykehus HF (Ahus) og Novartis Norge har et pågående forskningssamarbeid rundt behandling av hjertesvikt som baseres på kunstig intelligens. Novartis fremfører at de i dette prosjektet har sett behov for å benytte de mest egnede teknologiplattformene og en avansert fagkompetanse. Videre uttales:

«Vi har samtidig tatt i bruk algoritmer utviklet utenfor Norges landegrenser, da det er knapphet på ressurser og algoritmer trent på norske pasientgrupper i Norge. Vi ser at kompetanse og ny teknologi ofte må innhentes fra aktører som normalt ikke benyttes i offentlig helsevesen. Det må derfor defineres tydelige føringer og rammeverk for bruk av slike eksterne tjenester i forlengelsen av et nytt lovverk knyttet til slike beslutningsverktøy.»

Kreftforeningen fremfører at begrepet beslutningsstøtteverktøy kan være for snevert og må tydeliggjøres.

Oslo universitetssykehus HF fremfører at det er en risiko for at begrepet ikke favner bredt nok. Sykehuset uttaler:

«Begrepet «beslutningsstøtteverktøy» i forslaget synes å omfatte kun løsninger som henvender seg til en sluttbruker. Dette er ikke alltid tilfellet. Kunstig intelligens eller andre stordatabaserte ekspertsystemer kommer til å bli benyttet på en rekke områder innen helsetjenesten uten at den nødvendigvis henvender seg til en sluttbruker. Dette gjelder for eksempel automatisk ruting av kommunikasjon mellom aktører inne i og utenfor helseforetaket, automatisert uttrekk av data fra journaldokumentasjon til aktivitetsrapportering, registre og forskning, forbedret søketeknologi, automatisk prioritering av analyser, talegjenkjenning og korrektur, optimalisering av bildeundersøkelser mv.»

Sykehuset mener det kan være usikkerhet knyttet til hvordan begrepet «beslutningsstøtteverktøy» skal tolkes i denne sammenhengen. Videre uttales:

«Et av de viktigste bruksområdene for stordataanalyse i andre sektorer har vært avviksanalyse, for eksempel innen bank og finans og datasikkerhet. Det er grunn til å tro at tilsvarende tilnærminger for å oppdage avvikende pasientforløp kan komme til anvendelse i helsetjenesten, enten for å varsle om enkeltpasienter som har et dramatisk forløp, for å avdekke lokale oppblomstringer av smitte, eller for å identifisere nye subgrupper av pasienter som burde behandles mer individualisert. Det er uklart om endringsforslaget tar høyde for denne type KI-teknologi, da flere av disse eksemplene ikke nødvendigvis gir direkte beslutningsstøtte i relasjon til en enkelt pasient og/eller en enkelt behandler.

OUS stiller også spørsmål ved om enkelte andre typer verktøy som anses nødvendige å kunne ta i bruk i nærmeste framtid for å fremme implementering av persontilpasset medisin, faller utenfor begrepet «beslutningsstøtteverktøy». Departementet synes å forutsette at verktøyene som det kan søkes om dispensasjon for, bygger på maskinlæring eller annen KI-teknologi. Som ledd i genetisk diagnostikk er det imidlertid behov for å ta i bruk bioinformatiske verktøy. Eksempler på dette er nettbaserte datadelingsløsninger som Beacon Networks og Matchmaker Exchange. Disse tjenestene vil kunne utgjøre kilder for KI-løsninger og inngå som deler av en beslutningsstøtteløsning, men det er uklart hvordan denne typen tjenester skal kunne tas i bruk i helsetjenesten […]. Begrepene «beslutningsstøtteverktøy» og «beslutningsverktøy» i denne sammenheng blir heller ikke helt treffende fordi begrepene allerede er i bruk for andre systemer enn det forslaget omhandler. Begrepet kan således forveksles med systemer og verktøy som allerede i dag er lovlig og som omtales som «beslutningsstøtteverktøy».

Sykehuset forslår at formuleringen «prosess- og beslutningsstøtteverktøy» benyttes, eventuelt «kliniske beslutningsstøtteverktøy» – for å indikere at det er snakk om KI-baserte systemer til bruk innenfor klinikk. Et tredje forslag er begrepet «digitale beslutningsstøttesystemer» eller «digitale beslutningssystemer» fremfor «beslutningsstøtteverktøy». De to sistnevnte foreslås primært for å skille systemene fra andre verktøy, som er lovlige i dag.

Sykehuset viser avslutningsvis til at departementet nevner i høringsnotatet at det kan bli aktuelt å regulere dette på en annen måte senere, dersom det viser seg å være behov for det. Sykehuset oppfatter derfor dette forslaget som en midlertidig løsning som sørger for at noen løsninger kan tas i bruk så tidlig som mulig, i påvente av en mer gjennomtenkt og helhetlig regulering.

DIPS fremfører at det er viktig for dem som industriaktør at det er tydelige føringer for hvordan de skal gå frem i praksis for å få dispensasjon til å utvikle og ta i bruk beslutningsstøtteverktøy basert på kunstig intelligens. Og videre at det er mulig å få gjennomført utforskende aktivitet for å finne frem til verktøy som effektiviserer og forbedrer pasientbehandling ved prosessering av kliniske fritekster, såkalt NLP. Videre uttales:

«Det er sterkt ønskelig at lovendringen dermed omfatter ikke-superviserte læringsmetoder og utvikling av mer grunnleggende journalfunksjonalitet som kanskje ikke dekkes av begrepet «beslutningsstøtte», men som kan ha stor betydning for brukervennlighet og pasientsikkerhet. Eksempler kan være KI-basert utvikling av søkefunksjoner, automatiske rapporteringsfunksjoner, tekstkorrektur, sammendragsfunksjoner og lignende. I enkelte sammenhenger er samlebegrepet «prosess- og beslutningsstøtte» benyttet, og det synes å dekke behovene bedre.»

Teknologirådet fremfører at etter deres vurdering vil begrepet beslutningsstøtteverktøy ikke være dekkende for all form for kunstig intelligens som vil kunne utvikles og tas i bruk i helse- og omsorgstjenesten fremover. I tillegg til helautomatiserte beslutninger, som departementet selv utelukker fra begrepet, vil for eksempel kunstig intelligens brukt i selve behandlingen kunne utelukkes ved en slik definisjon. Teknologirådet mener også det er uklart hvorvidt begrepet vil omfatte verktøy med kunstig intelligens benyttet i forskning eller utvikling av medisiner og legemidler. Råder fremfører:

«Dersom formålet ved en slik definisjon er at norske (taushetsbelagte) helsedata aldri skal kunne brukes for å utvikle helautomatiserte beslutningssystemer eller andre typer kunstig intelligens i helse- og omsorgssektoren, mener Teknologirådet det vil være for innskrenkende. Også andre KI-løsninger enn beslutningsstøtteverktøy bør kunne få tilgang til helsedata, i tilfeller der grundige vurderinger tilsier at dette er «ubetenkelig ut fra etiske, medisinske og helsefaglige hensyn», slik det spesifiseres i helsepersonelloven og helseregisterloven.»

Videre uttales:

«Dersom beslutningsstøtteverktøy skilles ut som eget formål, er en mulighet at utvikling av kunstig intelligens som ikke er beslutningsstøtteverktøy likevel kan få dispensasjon, dersom prosjektet sorterer under et av de andre formålene, som for eksempel forskning. Da vil slike prosjekter kunne få tilgang til de aktuelle dataene, gitt at de oppfyller øvrige vilkår. Ulempen vil være at man for disse prosjektene er tilbake i situasjonen der man må vurdere om utviklingen av et kunstig intelligent system er forskning, kvalitetssikring eller noe annet. Dette kan i enkelte tilfeller være vanskelig å avgjøre, særlig på forhånd.»

Flere høringsinstanser, inkludert Statens helsetilsyn, BigMed, DIPS, Oslo universitetssykehus HF (UiO) og Universitetssykehuset Nord-Norge HF ved Norges arktiske universitet (UiT) stiller imidlertid spørsmål om avgrensningen mot helautomatiserte systemer. BigMed uttaler at avgrensningen ved helautomatiserte beslutninger synes ubegrunnet.

Etter Helsetilsynets vurdering krever dette en nærmere diskusjon fordi KI-verktøy som skal anvendes i helse- og omsorgstjenesten ofte vil inneholde elementer av automatiserte beslutninger. Et eksempel er KI som gir forslag til diagnose gjennom celletelling på digitale patologiske snitt og hvor kun de med usikker diagnose blir flagget til gjennomgang av patolog. Statens helsetilsyn stiller spørsmål om slike verktøy omfattes av bestemmelsen.

Statens legemiddelverk bemerker at Europaparlamentets- og rådsforordning (EU) nr. 2017/745 om medisinsk utstyr (MDR) og Europaparlamentets- og rådsforordning (EU) nr. 2017/746 om in vitro-diagnostisk medisinsk utstyr (IVDR) sammen med personvernforordningen (EU) 2016/679 (GDPR) inneholder krav til at kunstig intelligens i helsetjenesten skal være sikkert og oppfylle krav til ytelse. Legemiddelverket uttaler:

«Medisinsk utstyr med kunstig intelligens vil ha en grad av automatisering og en grad av autonomi, og begrepet som beskrevet kan bli mangefult i retning om og hvor skillet går mellom utstyret sin autonomi og helsepersonell sin autonomi. Det fremstår uklart om medisinsk utstyr brukt innen bl.a. screening og behandlingsrettet diagnostikk (companion diagnostics) vil dekkes av begrepet «beslutningsstøtte».»

Akershus universitetssykehus HF (Ahus) fremfører at etter deres vurdering bør det tydelig fremkomme av ordlyden at kunstig intelligens ikke er en selvstendig beslutningstaker. Kunstig intelligens bør ikke ta endelige beslutninger uten behandler om hvilken helsehjelp som skal ytes. Slik sykehuset vurderer det er det viktig å skille mellom automatisering og beslutningsstøtteverktøy. Sykehuset mener det bør fremkomme av lovteksten at behandlende personell ikke har fritt spillerom til å overprøve algoritmer som er vist seg å være overlegen menneskelig beslutningsevne.

Oslo universitetssykehus HF (OUS) stiller spørsmål ved hvorvidt det i realiteten vil være mulig å trekke et skille mellom beslutningsstøtteverktøy og «helautomatiserte avgjørelser». Sykehuset viser til tilfeller der et beslutningsstøtteverktøy gir en klar anbefaling, systemet ikke gir noen forklaring på resonnementet bak, og helsepersonellet (beslutningstakeren) følger verktøyets anbefaling eller det etablerer seg en praksis i helseforetaket om å følge disse anbefalingene, uten at et menneske foretar en reell vurdering av beslutningsgrunnlaget. Da kan det i realiteten være vanskelig å skille mellom beslutningsstøtte og «helautomatiserte avgjørelser».

Sykehuset gir flere eksempler på verktøy sykehuset er usikre på om faller utenfor på grunn av avgrensningen mot «helautomatiserte avgjørelser». Sykehuset understreker at dette er nyttige verktøy som bør kunne tas i bruk i klinikk, for eksempel automatisk prioritering av CT av hodet for å identifisere hjerneslag, automatisk kvalitetssikring av mammografibilder for å detektere kreft, eller verktøy som automatisk gjør en gjennomgang av CT av lunger og deretter varsler helsepersonellet om kreftforandringer. Sykehuset viser til at dette er verktøy som er med på å prioritere pasientenes bilder som står i «kø» for analyse, og til å sortere ut hvilke bilder som bør sees på igjen i forbindelse med for eksempel kreftdiagnostikk. I følge sykehuset vil denne sorteringen utføres av verktøyet alene uten at et helsepersonell manuelt gjennomgår eller på annen måte overprøver eller verifiserer sorteringen. Det er ingen lege som manuelt vil gjøre denne sorteringen – verktøyet gjør dette alene. Det vil imidlertid være et helsepersonell som dernest analyserer bildet og konkluderer i forhold til diagnose og behandling.

DIPS uttaler at det er uklart om avgrensningen til ikke-automatiserte beslutninger er hensiktsmessig, både når det gjelder utvikling og bruk av NLP-baserte verktøy, og i andre sammenhenger der KI er på rask vei inn i helsevesenet. DISP mener at KI-baserte verktøy for pasientlogistikk, dokumenthåndtering, prioritering, mv. vil kunne rammes av denne avgrensningen.

7.3 Departementets vurderinger og forslag

7.3.1 Generelt

Helse- og omsorgsdepartementet opprettholder høringsforslaget med enkelte justeringer på bakgrunn av innkomne høringsinnspill.

Departementet foreslår en tydeliggjøring i helsepersonellovens regler om adgang til å gi dispensasjon fra taushetsplikten, slik at det blir klart at det kan gis dispensasjon for bruk av helseopplysninger i klinisk beslutningsstøtteverktøy i helse- og omsorgstjenesten. Formålet med forslaget er å forhindre at taushetsplikt skal stå i veien for at viktige beslutningsstøtteverktøy kan utvikles og tas i bruk, når helsefaglige hensyn tilsier at slikt verktøy bør utvikles.

Departementet mener at utvikling og innføring av slike verktøy har en tett sammenheng med både forskning og kvalitetssikring. Det er derfor naturlig å se hen til reglene om bruk av opplysninger til disse formålene, ved utformingen av regler om bruk av opplysninger til utvikling av beslutningsstøtte og kunstig intelligens.

Innspill fra helsetjenesten tyder på at bruk av beslutningsstøtte og kunstig intelligens utfordrer dagens regelverk og juridiske rammer for deling og bruk av helseopplysninger, og at det er et behov for å gjøre snarlige endringer og presiseringer i dette regelverket.

Departementet vil understreke at forslaget i denne proposisjonen kun omfatter dispensjon fra taushetsplikt. Mange av høringsinnspillene gjelder andre sider av beslutningsstøtte og kunstig intelligens enn behov for å gjøre unntak fra taushetsplikten.

Departementet har merket seg høringsinnspillene fra blant annet Universitetet i Oslo og Norges arktiske universitet (UiT) der det stilles spørsmål om hensiktsmessigheten av å regulere utvikling og bruk av beslutningsstøtte gjennom en dispensasjonsadgang fra taushetsplikt. Taushetsplikt er bare en av flere utfordringer ved bruk av beslutningsstøtte basert på kunstig intelligens. Vel så viktig er kravene til faglig forsvarlighet, klare ansvarsforhold og beslutningslinjer, transparens etc. Forsvarlighetskravet er et grunnleggende og overordnet prinsipp innen norsk helserett og innebærer at all helsehjelp som ytes skal være faglig forsvarlig, jf. helsepersonelloven § 4, spesialisthelsetjenesteloven § 2-2 og helse- og omsorgstjenesteloven § 4-1. At ansvarsforholdene må være klare er grunnleggende for tjenestenes kvalitet.

Departementet kan dele høringsinstansenes oppfatning av at det kan være behov for en mer overordnet og helhetlig regulering av område, enn en dispensasjonsadgang fra taushetsplikt. Det er heller ikke gitt at alle former for beslutningsstøtte som bygger på kunstig intelligens bør reguleres likt.

Departementet ser derfor at det kan bli nødvendig å regulere utvikling og bruk av beslutningsstøtte på en annen måte senere. Men, for å vite hvordan det bør eller kan reguleres, er det behov for et større kunnskapsgrunnlag, enn det vi nå har. Erfaringene fra herværende forslag vil da gi viktige innspill til utforming av et regelverk, så vel til form som innhold. Departementet viser også til at Helsedirektoratet, Direktoratet for e-helse og Statens legemiddelverk har oppdrag om å gå gjennom nasjonale rammebetingelser for bruk av kunstig intelligens og legge til rette for at helsetjenestene kan ta denne teknologien i bruk. Helseregionene skal bidra i dette arbeidet.

I denne proposisjonen foreslår departementet at det gjøres endringer i helsepersonelloven § 29 om dispensasjon fra taushetsplikt til forskning, kvalitetssikring mm., slik denne bestemmelsen ble vedtatt ved lov 4. desember 2020 nr. 133. Bestemmelsen er ikke trådt i kraft.

Det følger av bestemmelsen at departementet kan fatte vedtak om at opplysninger fra pasientjournaler og andre behandlingsrettede helseregistre skal tilgjengeliggjøres uten hinder av taushetsplikt. Bestemmelsen gjelder dersom «opplysningene skal brukes til et uttrykkelig angitt formål som er knyttet til statistikk, helseanalyser, forskning, kvalitetsforbedring, planlegging, styring eller beredskap for å fremme helse, forebygge sykdom og skade eller gi bedre helse- og omsorgstjenester».

Departementet foreslår å legge til «klinisk beslutningsstøtteverktøy» som et av dispensasjonsformålene, for å tydeliggjøre at det gjelder beslutningsstøtteverktøy i klinisk virksomhet. Bestemmelsen omfatter ikke bruk av helseopplysninger til merkantile formål eller rent kommersielle formål.

En dispensasjon fra taushetsplikt etter bestemmelsen vil tilfredsstille kravet om supplerende rettsgrunnlag i personvernforordningen.

7.3.2 Omfanget av begrepet «beslutningsstøtteverktøy»

Departementet foreslår å bruke begrepet «klinisk beslutningsstøtteverktøy», og ikke kun «beslutningsstøtteverktøy» som i høringsnotatet. Se høringsinnspill fra blant annet Oslo Universitetssykehus HF. I sin videste form omfatter beslutningsstøtteverktøy alle typer hjelpemidler som kan hjelpe et menneske til å ta en beslutning, som for eksempel kunnskapsoppsummeringer som bidrar til at helsehjelp kan baseres på kunnskapsbasert grunnlag. Slik beslutningsstøtte er ikke avhengig av kunstig intelligens. Foreliggende forslag omfatter ikke verktøy som i hovedsak har et merkantilt formål, rent administrative oppgaver etc. Departementet antar at det ikke er nødvendig å behandle taushetsbelagte helseopplysninger for å utvikle slike systemer. Departementet oppfatter ordet verktøy sammen med ordet beslutningsstøtte å være et teknologinøytralt ord, og kan ikke se at det i unødig grad vil begrense anvendelsen av bestemmelsen.

Det følger av kravet om dataminimering i personvernforordningen artikkel 5 at personopplysninger skal være adekvate, relevante og begrenset til det som er nødvendig for formålet de behandles for. Graden av personidentifikasjon skal ikke være større enn nødvendig for formålet, se helsepersonelloven § 29 andre ledd (ikke i kraft). Det betyr at herværende dispensasjonshjemmel ikke gjelder der utvikling av et beslutningsstøtteverktøy kan utvikles ved hjelp av fiktive helse- og personopplysninger. Bestemmelsen vil heller ikke komme til anvendelse der beslutningsstøtten kun baserer seg på anonyme opplysninger.

Begrepet klinisk beslutningsstøtteverktøy kan i tillegg til å være datasystemer som oppsummerer kunnskap, omfatte systemer som gir anbefalinger basert på den kunnskapen systemet har. Slike beslutningsstøtteverktøy er ofte basert på maskinlæring. Det innebærer at algoritmer lærer av samme type opplysninger, eller data, som verktøyets virkeområde, for eksempel tekst eller bilder. Ved hjelp av maskinlæring avdekkes mønstre i opplysningene. Resultatet av læringen eller treningen er beslutningsstøtteverktøyet. Slike beslutningsstøtteverktøy vil trenge store mengder helseopplysninger for å kunne læres opp (trenes) og vedlikeholdes.

Departementet har merket seg at flere høringsinstanser stiller spørsmål ved hensiktsmessigheten av å avgrense begrepet mot helautomatiserte avgjørelser. Flere av de eksemplene Oslo universitetssykehus HF nevner synes å være helautomatiske diagnoseverktøy som brukes i en klinisk beslutningsprosess om helsehjelp. Departementet antar at et flertall av slike systemer må bygge på «ekte» pasientopplysninger for å sikre at verktøyet som tas i bruk i klinikken har den kvalitet som er nødvendig for å kunne yte forsvarlig helsehjelp. Dersom ikke utvikling av slike systemer kan omfattes av dispensasjonsadgangen, kan heller ikke slike systemer utvikles. Departementet mener derfor at også slike «prosesstøttende» systemer etter omstendighetene bør kunne omfattes av den foreslåtte dispensasjonshjemmelen.

Departementet presiserer at formål knyttet til beslutningsstøtteverktøy vil inkludere både utvikling, herunder utprøving, av slike verktøy, og innføring av slike verktøy i klinikk. Videre presiseres at begrepet innføring ikke er ment å forstås snevert. Innføring er ment å omfatte både selve prosessen med å rulle ut et verktøy i tjenesten, og også en viss periode etter at verktøyet er tatt i bruk. Dette innebærer at bestemmelsen er ment å legge opp til at det kan gis relativt langvarige dispensasjoner knyttet til innføring av et beslutningsstøtteverktøy i helse- og omsorgstjenesten.

7.3.3 Hvem kan få tilgjengeliggjort opplysninger etter dispensasjon

Den foreslåtte bestemmelsen inneholder ikke begrensninger i hvem som kan søke om å få dispensasjon fra taushetsplikt etter bestemmelsen. Spørsmålet om dispensasjon eller unntak fra taushetsplikten når opplysninger skal utleveres til forskere eller andre i utlandet, avgjøres etter reglene i helsepersonelloven, helseregisterloven og helseforskningsloven.

Adgangen til å overføre helseopplysninger til utlandet reguleres ellers av personvernforordningen. Prinsippet er at personopplysninger bare kan overføres til stater som sikrer en forsvarlig behandling av opplysningene. Reglene er ulike avhengig av om opplysningene overføres til EU/EØS eller til land utenfor EU/EØS (tredjeland).

Det gjelder ingen særlige begrensninger med hensyn til å tilgjengeliggjøre opplysninger mellom EU/EØS-stater, utover de alminnelige vilkårene som også gjelder ved tilgjengeliggjøring til virksomheter i Norge. Overføring til tredjestater (utenfor EU/EØS) reguleres av artiklene 44 til 50 i personvernforordningen.

7.3.4 Løpende dispensasjoner for tilgjengeliggjøring av opplysninger

Beslutningsstøtteverktøy basert på maskinlæring vil utvikle seg etter hvert som verktøyet analyserer og får tilgang til flere helseopplysninger. Dette innebærer at verktøyet ikke bare vil ha behov for å lære av helseopplysninger som er lagret i for eksempel en pasientjournal på tidspunktet hvor det søkes om en dispensasjon fra taushetsplikten, men at verktøyet også vil ha behov for opplysninger som først vil bli lagret på et senere tidspunkt.

Dagens bestemmelse om taushetsplikt omfatter ikke bare opplysninger som allerede er innsamlet til helse- og omsorgstjenesten, men kan etter omstendighetene også omfatte opplysninger som vil bli innsamlet i fremtiden. Dette er også lagt til grunn i Prop. 63 L (2019–2020) der det fremgår at loven gir adgang til å søke om flere (eller periodiske) utleveringer av opplysninger, se proposisjonens punkt 11.4.4.

Dispensasjonsadgangen for bruk av helseopplysninger i beslutningsstøtteverktøy basert på kunstig intelligens vil både omfatte utvikling, inkludert trening av systemet, og videre bruk av treningsdataene i systemet etter at det er satt i drift.

Departementet har merket seg uttalelsene fra Norges arktiske universitet (UiT) om at løpende bruk av treningsdata når verktøyet er satt i drift stiller andre krav til informasjonssikkerhet og vurdering av personvernkonsekvenser, enn systemer som kan brukes uten tilgang til historiske treningsdata i driftsfase. Universitetet fremfører at det kan dreie seg om tusenvis at pasientjournaler som direkte brukes ved behandling av pasienter. Etter hvert som nytteverdien blir utforsket og forstått i tiden fremover, kan det ifølge universitetet også tenkes at behovet for tilgang til de opprinnelige treningsdataene i driftsfasen blir sterkere.

Departementet legger til grunn at bestemmelsen åpner for dispensasjoner som omfatter opplysninger som går inn i et maskinlærende beslutningsstøtteverktøy, herunder at det gis dispensasjon fra taushetsplikten til å løpende få tilgjengeliggjort opplysninger som omfattes av dispensasjonsvedtaket. Dispensasjonsvedtaket må imidlertid angi rekkevidden av unntaksadgangen, for eksempel typen opplysninger vedtaket omfatter og hvilken tidsperiode vedtaket gjelder.

Departementet legger til grunn at en dispensasjonssøknad etter bestemmelsen på en tydelig måte må redegjøre for databehovene i de ulike fasene av verktøyets utvikling og videre bruk, at dispensjonsadgang i utgangspunktet gis tidsbegrenset, men forutsettes fornyet og endret etter hvert som verktøyet tas i bruk og en vinner erfaring med systemet, risikoforhold etc., selvfølgelig innenfor rammen av kravet til faglig forsvarlighet. Det kan etter omstendighetene også innebære at systemet må avvikles, fordi det ikke fungerer eller tilfredsstiller tilsiktende krav.

7.3.5 Øvrige vilkår for å gi dispensasjon fra taushetsplikten

Det er ikke tilstrekkelig for å få dispensasjon fra taushetsplikten at opplysningene skal brukes til eller i et uttrykkelig angitt klinisk beslutningsstøtteverktøy. Det følger av den nye bestemmelsen i helsepersonelloven § 29 at ytterligere vilkår må være oppfylt:

• Mottakeren må gjøre rede for hvilke egnede tekniske og organisatoriske tiltak som skal settes i verk for å ivareta informasjonssikkerheten (opplysningenes konfidensialitet, integritet mv.).

• Behandlingen av opplysningene må være av vesentlig interesse for samfunnet.

• Det skal ikke tilgjengeliggjøres flere opplysninger enn det som er nødvendig for formålet med mottakerens behandling.

• Opplysningene skal tilgjengeliggjøres uten navn, fødselsnummer eller andre direkte personentydige kjennetegn, med mindre særlige grunner gjør det nødvendig for mottakeren å få opplysningene med slike kjennetegn.

• Tilgjengeliggjøringen er ubetenkelig ut fra etiske, medisinske og helsefaglige hensyn.

• Ved medisinsk og helsefaglig forskning må mottakeren på forhånd ha fått godkjenning fra den regionale komitéen for medisinsk og helsefaglig forskningsetikk (REK).

I tillegg kan det settes særskilte vilkår for tilgjengeliggjøringen for å verne den registrertes grunnleggende rettigheter og interesser.

Hva gjelder tilgjengeliggjøring av helseopplysninger fra helseregistre som er omfattet av helseregisterloven, vil det kunne gis dispensasjon fra taushetsplikten etter den nylig vedtatte bestemmelsen i § 19 e i helseregisterloven (ikke i kraft). Registerets formål vil blant annet være avgjørende for hvorvidt det kan tilgjengeliggjøres opplysninger fra registeret.

7.3.6 Øvrige aspekter ved innføring av beslutningsstøtteverktøy basert på kunstig intelligens i helse- og omsorgstjenesten

Krav til faglig forsvarlighet og klare ansvarsforhold

Forslaget i dette høringsnotatet åpner som nevnt kun for å klargjøre at taushetsplikt etter helselovginingen ikke er til hinder for utvikling og bruk av klinisk beslutningsstøtteverktøy basert på kunstig intelligens i helse- og omsorgstjenesten.

Spørsmålet om hvorvidt et beslutningsstøtteverktøy faktisk bør utvikles og tas i bruk i tjenesten må baseres på grundige vurderinger der flere sentrale hensyn gjør seg gjeldende. Kravet til faglig forsvarlighet er sentralt.

For det første skal helsetjenester som tilbys eller ytes være forsvarlige, jf. spesialisthelsetjenesteloven § 2-2 og helse- og omsorgstjenesteloven § 4-1. Spesialisthelsetjenesten og kommunene skal tilrettelegge sine tjenester slik at personell som utfører tjenestene, blir i stand til å overholde sine lovpålagte plikter. Dataansvarlig må også vurdere hvorvidt systemene som tas i bruk oppfyller kravene i annet regelverk, som for eksempel personvernforordningen.

Videre må etiske aspekter tas i betraktning ved vurderingen av hvorvidt beslutningsstøtteverktøy basert på kunstig intelligens skal tas i bruk i helsetjenesten, og ansvarsforholdene må være klarlagt og nødvendige sårbarhets- og risikovurderinger må være gjennomført.

Medisinsk utstyr

Dersom et helseforetak skal utvikle et eget system med kunstig intelligens som regnes som medisinsk utstyr, må det oppfylle de krav som gjelder for slikt utstyr, blant annet krav til dokumentasjon og merking. Klinisk utprøving av medisinsk utstyr krever tillatelse fra Statens legemiddelverk. Visse former for produksjon og bruk av medisinsk utstyr internt i en helseinstitusjon er imidlertid unntatt fra mange av de krav som ellers gjelder for medisinsk utstyr.

Dersom systemet med kunstig intelligens ikke er medisinsk utstyr og utprøvingen gjøres i et forskningsprosjekt, vil de alminnelige reglene for forskning komme til anvendelse.

Nasjonal strategi for kunstig intelligens

Regjeringen fremhever i sin nasjonale strategi at kunstig intelligens skal bygge på etiske prinsipper, respekt for personvernet og god digital sikkerhet. Regjeringen peker blant annet på at:

• kunstig intelligens som utvikles og brukes i Norge skal bygge på etiske prinsipper, og respektere menneskerettighetene og demokratiet

• forskning, utvikling og bruk av kunstig intelligens i Norge skal bidra til ansvarlig og pålitelig kunstig intelligens

• utvikling og bruk av kunstig intelligens i Norge skal ivareta den enkeltes integritet og personvern

• digital sikkerhet skal bygges inn i utvikling, drift og forvaltning av kunstig intelligensløsninger

• tilsynsmyndigheter skal føre kontroll med at systemer basert på kunstig intelligens på sitt tilsynsområde opererer innenfor prinsippene for ansvarlig og pålitelig bruk av kunstig intelligens.

Dette er punkter som også vil være relevante ved utvikling og bruk av beslutningsstøtteverktøy basert på kunstig intelligens i helse- og omsorgstjenesten.

Systemer basert på kunstig intelligens må være til å stole på, samtidig som de er robuste, sikre, trygge og nøyaktige. Avhengig av funksjonen til systemet, kan konsekvensene som oppstår når et kunstig intelligens-system feiler eller manipuleres i noen tilfeller være vesentlig mer omfattende enn for et tradisjonelt IT-system. Dette må man ta hensyn til når man gjennomfører risikovurdering for slike løsninger.

Regjeringen viser i nevnte strategi til at EU-kommisjonen har nedsatt en ekspertgruppe som har utarbeidet etiske retningslinjer for pålitelig bruk av kunstig intelligens (Independent High Level Expert Group on Artificial Intelligence set up by the European Commission (2019): Ethics guidelines for trustworthy AI). Retningslinjene er basert på EUs charter om grunnleggende rettigheter og internasjonal menneskerettighetslovgivning. Formålet med retningslinjene er å fremme ansvarlig og bærekraftig utvikling og bruk av kunstig intelligens i Europa.

For at utvikling og bruk av kunstig intelligens skal kunne defineres som pålitelig og tillitvekkende, mener EU-kommisjonens ekspertgruppe at den må være lovlig, etisk og sikker. Det bør rettes særlig oppmerksomhet mot sårbare personer eller grupper, som for eksempel barn. Med utgangspunkt i dette har ekspertgruppen foreslått syv prinsipper for etisk og ansvarlig utvikling av kunstig intelligens. Regjeringen vil legge disse prinsippene til grunn for ansvarlig utvikling og bruk av kunstig intelligens i Norge:

• KI-baserte løsninger skal respektere menneskets selvbestemmelse og kontroll

• KI-baserte systemer skal være sikre og teknisk robuste

• KI skal ta hensyn til personvernet

• KI-baserte systemer må være gjennomsiktige

• KI-systemer skal legge til rette for inkludering, mangfold og likebehandling

• KI skal være nyttig for samfunn og miljø

• Ansvarlighet