Precis som annan teknologi måste AI följa de lagar och riktlinjer som finns. Men vad händer när en teknologisk utveckling skapar situationer som lagstiftarna inte kunnat förutsäga?

Det krävs inte mycket fantasi för att se att AI kan förbättra vår hälsa, inte minst när det gäller diagnostisering och precisionsmedicin. Till skillnad från oss människor och vår begränsade möjlighet att bearbeta material, kan AI söka igenom enorma datamängder och på betydligt kortare tid än oss upptäcka mönster och rekommendera den mest effektiva behandlingen.

– Det finns lagar som är generella och som ska appliceras på all teknologi, oavsett om det gäller manuella eller automatiserade beslut. Däremot kan ny teknologi skapa oväntade situationer som lagstiftaren inte tänkt på innan. Då behöver man tolka, förtydliga eller stifta nya lagar, säger Ana Nordberg.

Hon är forskare i juridik vid Lunds universitet och projektledare för AI och rätten till hälso- och sjukvård, ett projekt som ingår i det nationella forskningsprogrammet Wasp-HS (The Wallenberg AI, Autonomous Systems and Software Program – Humanities and Society). Syftet med projektet är att förutse fallgropar med AI i vården och att hitta förslag på lösningar. Man kommer bland annat att undersöka hur patienter och sjukvårdsanställda ser på detta.

Knepig ansvarsfråga

Med de alltmer avancerade AI-program som utvecklas, följer en del knepiga ansvarsfrågor. Ett exempel på detta rör allvarligt sjuka patienters rätt till ny medicinsk bedömning, det som tidigare kallades second opinion, och som innebär att patienten ska kunna känna sig trygg med att få den vård som passar bäst.

– Om alla sjukhus om några år använder sig av samma AI-system, varifrån ska man då inhämta en ny medicinsk bedömning? Ett helt annat AI-system? Eller ska alla patienter också ha rätt att få en mänsklig läkares bedömning som alternativ till AI-systemet?

Vad ligger bakom AI:s beslut?

En annan nöt att knäcka rör transparens kring de beslut AI kommer fram till. Om en läkare fattar ett beslut går det i efterhand att gå tillbaka och undersöka på vilka grunder beslutet fattades. Vad som ligger bakom AI:s beslut kan vara betydligt svårare att få grepp om. Och enligt patientlagen har hälso- och sjukvården skyldighet att informera och patienten har rätt till inflytande över sin egen behandling.

– Risken med helt automatiserade system är att vi hamnar i det som kallas teknologisk paternalism; när maskinerna kan fatta beslut om något utan att patienterna får möjlighet att välja eller ifrågasätta.

Rasistisk AI-bot fick stängas ned

Diskriminering är ytterligare en utmaning. När Microsoft 2016 släppte chatfunktionen Tay, en AI-bot som har lärt sig att chatta genom att analysera och delta i konversationer på twitter, visste de nog inte vad de släppt loss. Det dröjde inte ens ett dygn innan Tay twittrade som en rasistisk, frustrerad och arg kvinnohatare som förnekade förintelsen. Tay fick stängas ned, men är långtifrån det enda exemplet på att AI kan agera diskriminerande. Exemplet ligger långt från vården, men visar att den data AI utgår från är viktig.

Men samtidigt som man debatterar och försöker lösa dessa utmaningar lyfter Ana Nordberg också fram att AI eller algoritmer kan förbättra vården och rädda liv.

– Det ska man inte heller underskatta när man tampas med de lagliga aspekterna av en ny teknologi, avslutar hon.

Några av de frågeställningar Ana Nordberg och projektet AI och rätten till hälso-och sjukvård ska arbeta med:

– Hur kan AI bidra till att vår rätt till hälsa blir realiserad?

– Hur ska läkare förhålla sig till datorns rekommendationer?

– Vem ska få tillgång till patientjournalerna och på vilket sätt?

– Hur säkrar man att den AI-baserade vården blir tillgänglig för alla, utan diskriminering?

Länk till mer information

Text: TOVE SMEDS