Etiske overvejelser ved brug af AI i sundhedsvæsenet

Kunstig intelligens (AI) har potentiale til at revolutionere sundhedsvæsenet. Fra diagnosticering af sygdomme til personaliseret behandling, er mulighederne næsten grænseløse. Men med denne transformative kraft følger en række etiske spørgsmål. Sundhedsvæsenet som vi kender det i dag er præget af ulighed og uensartet adgang til behandling. AI rummer muligheden for at udjævne de uligheder, men det kræver, at teknologiens potentiale udnyttes og at der træffes en række valg om, hvilket sundhedsvæsen vi ønsker. Dette indlæg tager et kritisk kig på nogle af de etiske overvejelser, der skal tages i betragtning.

Datasikkerhed og privatliv

AI-systemer skal designes til at beskytte patienternes privatliv og sikre, at deres data ikke misbruges eller udsættes for sikkerhedsbrud. Sundhedsdata er nogle af de mest følsomme personoplysninger af alle og det stiller ekstra store krav til sikkerhed i systemerne. Og det stiller krav til at denne sikkerhed indtænkes allerede i udviklingsfasen og ikke som en efterfølgende hovsa-løsning.

Bias i algoritmer

Ulighed i sundhed, som vi ser det i det danske sundhedsvæsen i dag, skyldes en lang række faktorer såsom økonomi, kultur og uddannelsesniveau. Når visse patientgrupper går mindre til lægen eller ikke modtager behandling, så afspejler det sig i de data, som sundhedsvæsenet indsamler. Af mange forskellige grunde opstår der ”huller” i data – blinde pletter der skal udfyldes når dataene indgår i et datagrundlag for en AI. Med inddragelse af alle vigtige stakeholders i processen – dvs. patienter, patientforeninger og sundhedspersonale – så vil AI kunne medvirke til at ujævne ulighederne.

Informeret samtykke

En af udfordringerne i sundhedsvæsenet er kommunikationen mellem sundhedspersonale og myndigheder og borgere. Det skaber problemer på flere niveauer. Fokus her er det, vi kalder informeret samtykke – altså at patienten forstår hvad der foregår. I denne sammenhæng handler det om, at borgeren forstår hvordan han eller hendes data bliver anvendt. Informeret samtykke er endnu et element, der fra starten skal indbygges i AI-systemer på sundhedsområdet. 

Ansvar ved fejl

Ansvar i forbindelse med AI-systemer, dvs. ansvaret for hvis noget går galt som en konsekvens af fejl i svarene fra systemet. Indenfor sundhedsvæsenet kan forkerte svar og analyser have alvorlige konsekvenser for borgerne. Det gælder både i forhold til utilstrækkelig sikkerhed omkring sundhedsdata og i forhold til patientbehandling understøttet af AI. Klare regler for ansvar ved fejl og klare arbejdsprocedurer er en nødvendighed i sundhedsvæsenet, som vi kender det i dag og det vil det også være i et sundhedsvæsen med AI. 

Adgang til teknologi

Ulighed i sundhed handler også om adgang til behandling og når vi taler AI, adgang til teknologi. Ensartet adgang til behandling er vigtig for at få optimalt udbytte af AI-systemer i sundhedsvæsenet. En del af problemerne omkring adgang til behandling er af økonomisk art. Hvad er det for ressourcer som kommuner og regioner har til rådighed og prioriterer. AI-systemer og automatisering i sundhedsvæsenet har potentiale til at frigøre ressourcer ved besparelser gennem effektiv arbejds- og behandlingsplanlægning. Det kan være med til at sikre en mere ensartet tilgang til livreddende teknologier.

Autonomi og menneskelig indgriben

Diskussionen om AI kommer og tager vores jobs er ikke mindre aktuel på sundhedsområdet. Der er en klar sammenhæng mellem denne diskussion og diskussionen om i hvor høj grad vi skal lade AI tage beslutninger på vores vegne. Ovenfor har vi set på en række områder, hvor det er vigtigt at de tænkes ind i udviklingen af AI, men mange af dem kræver også grundig løbende overvejelser og der er ikke nogen i sundhedsvæsenet, der særligt på behandlingssiden vil lægge beslutningerne fuldstændigt i hænderne på AI. Det samme gælder for prioriteringer af behandlingerne. Det vil sige, at der er en række områder, hvor det menneskelige skøn og menneskelig overvågning stadigt er og i fremtiden vil være uundværlige.

Åbenhed og forståelighed

Patienter har ret til at forstå de beslutninger, der træffes omkring deres sundhed. Det kræver, at AI-systemer er transparente og forklarlige. I det omfang, at beslutninger om diagnosticering og behandling træffes med hjælp for AI er det nødvendigt, at patienterne bliver fuldt informeret om dette og de kriterier, der ligger til grund for beslutningerne. En af de ting, der skaber mest skepsis overfor AI på alle områder, er uigennemsigtighed af systemerne. Det fremgår ikke tydeligt at svar fra de fleste AI-systemer, hvad kriterierne for deres svar er og ofte forstår udviklerne af systemet det ikke engang. 

Langsigtede Virkninger

Som med enhver anden teknologi er det vigtigt at i så høj grad som muligt at overveje langsigtede virkninger både på de sundhedsansattes roller, patient oplevelse og på hele sundhedsvæsenet og det er væsentligt, at have gjort sig disse overvejelser på forhånd. Det sikrer også, at vi får optimal fordel af AI i sundhedsvæsenet, at de ansatte får gode arbejdsforhold og at patienterne får den optimale behandling og en god oplevelse med sundhedsvæsenet.

Kliniske Forsøg og Validering

Da det i sidste ende handler om vores alles sundhed, så er det vigtigt at alle AI-systemer gennemgår strenge kliniske forsøg for at sikre deres sikkerhed og effektivitet, ligesom enhver anden medicinsk teknologi.

Lovgivningsmæssige Rammer

Regulering af AI er et aktuelt debatemne over hele verden. Når vi taler regulering, er det vigtigt at huske, at det bare handler om de lovmæssige rammer. Danmark er på mange måder et gennemreguleret samfund og det vil sige, at der er eksisterende rammer indenfor sundhedssystemet, som AI-systemer skal leve op til. Det handler lige så meget om etiske og tekniske standarder indenfor den branche, som AI skal implementeres indenfor. Det er vigtigt, at forhastet regulering ikke sætter grænser for innovation, men samtidigt vigtigt at AI udvikles og implementeres ansvarligt.

Der er et presserende behov for klare og omfattende lovgivningsmæssige rammer, der kan styre brugen af AI i sundhedsvæsenet på en sikker og etisk måde.

Fordele og ulemper

Mens AI rummer utrolige muligheder inden for sundhedspleje, er det afgørende at nærme sig med omhu og opmærksomhed over for de mange etiske spørgsmål, der opstår. Det er vores ansvar som samfund at sikre, at denne teknologi bruges på en måde, der gavner alle, beskytter patienternes rettigheder og opretholder de højeste standarder for etisk praksis.

Som vi står på kanten af denne nye æra i medicin, er det afgørende, at vi tager tid til refleksion og aktivt former den måde, vi integrerer AI i sundhedsvæsenet på. Dette indebærer at anerkende og aktivt adressere de etiske udfordringer, der ligger foran os. 

Vi skal ikke lade unødvendig og forhastet regulering spænde ben for udviklingen men være bevidst om risici og etiske spørgsmål omkring AI og som en selvfølge udvikle ansvarlig og transparente AI-systemer.