Textversion

Tove Smeds: Hej och välkommen till vetenskap och hälsa. I det här avsnittet ska vi lära oss mer om artificiell intelligens, hur den kan förbättra vår hälsa och hjälpa forskningen framåt. Vi ska också ta upp en del etiska frågeställningar som teknikutvecklingen väcker.

Med mig i studion har jag Mats Johansson, filosof och docent i medicinsk etik vid Lunds universitet och ordförande i Region Skånes Etiska råd.

Välkommen hit Mats.

Tove Smeds: Hur skulle du beskriva AI?

Mats Johansson: Det är en svår fråga och ta sig an, därför att AI kan betyda så många olika saker och jag tror att det betyder vissa saker för gemene man i samhället och andra saker för experterna.

Tove Smeds: Ja och eftersom AI är ett begrepp som används flitigt, kanske ibland utan att vi riktigt vet vad det betyder, så tar vi en liten genomgång om vad AI egentligen är.

Artificiell betyder konstgjord och intelligens brukar definieras som den mentala förmågan att planera, lösa problem, dra slutsatser och vara självlärande. Artificiell intelligens kan då definieras som en dator eller maskin som efterliknar dessa mänskliga förmågor.

Exempel på områden där AI används idag är i första hand bildanalys för att ställa diagnoser men även taligenkänning.

Det finns olika nivåer av AI. Snäv AI är specialiserad på att lösa en specifik uppgift inom ett snävt och avgränsat område. Den kan inte överföra sina färdigheter till att lösa andra uppgifter. All AI som används idag hör till den här kategorin.

I framtiden så tänker man sig att det kommer att komma generell AI som har mer likheter med vår mänskliga intelligens. Då kan systemet ta det den lärt sig inom ett område och applicera det på ett annat. Men det finns inte idag.

Sen tänker man sig också artificiell superintelligens, en AI som överträffar mänskliga förmågor på nästan allt och inte heller den finns idag.

Men bättre matchning vid organdonationer, snabb och träffsäker tolkning av röntgenbilder, appar med vars hjälp man kan ladda upp bilder på sina födelsemärken och låta AI-system bedöma om det är cancer. Ja, allt det här är exempel på hur AI redan påverkar våra liv och människors hälsa.

Tove Smeds: Mats, var tror du att AI kommer att göra störst nytta om man tänker ur ett hälsoperspektiv?

Mats Johansson: Det där är en jättesvår fråga att svara på. Det beror väldigt mycket på om vi talar om på kort sikt eller lång sikt. Jag hör väl till dem som är teknikoptimister i den meningen att jag tror att den här tekniken kommer att kunna assistera oss i många olika typer av beslut på sikt. Idag handlar det, precis som du har sagt, om diagnostik och liknande beslutsstöd. Men som sagt, jag tror att i framtiden kan vi se AI inom i snart sagt alla områden.

Tove Smeds: Maskinerna har ju lärt sig en del uppgifter som de också lyckas utföra bättre än oss människor och med fördelen att de inte tröttnar, vilket vi kan göra. En del ser ju stora möjligheter medan andra ser risker med det här. Oavsett vad man tycker så medför AI en del etiska problem som vi behöver fundera kring, eller hur?

Mats Johansson: Det stämmer och jag skulle nog vilja backa till frågan ”Var bör vi satsa på AI idag?” för att här finns det en risk att man satsar stora resurser på tillämpningar som idag är möjliga, men som kanske egentligen inte täcker de största behoven i sjukvården. Det skulle leda på kort sikt till en undanträngning av annat som är viktigt. En stor del av detta kanske också sker mer eller mindre i blindo och vi vet inte riktigt vilka effekter det här kommer att få på en viss verksamhet. Det ligger ju i forskningens natur förstås. Men där finns det vissa etiska frågor man bör ställa sig.

Tove Smeds: Kan du ge ett exempel på det?

Mats Johansson: Jag tänker på områden som, om vi börjar med vad som kan trängas undan, så kan det ju vara områden som idag vi är långt från att lösa med artificiell intelligens. Det kan kanske handla om palliativ vård. Det kan handla om vård av äldre. En typ av stöd som vi i dag inte kan låta ett AI eller en robot ta hand om.  Att det är liksom ingen fråga man då kanske satsar på tillräckligt mycket.

Tove Smeds: Mats, vi nämnde inledningsvis generell AI och superintelligent AI som inte finns. Det är ju sånt som man kan se på filmer när AI och robotar blir ett hot mot människan och tar över världen. Det kanske färgar lite grand hur en del tänker kring AI. Men vad tänker du om det här, att de skulle bli så smarta att de tar över världen?

Mats Johansson: Ja under antagande att vi får en superintelligens, då tror jag nog att det är en risk som vi får ta på allvar. Nu talar vi idag om vad som är science fiction. Men under de antaganden av att vi har ett intelligent system som överträffar oss i alla avseenden, ja då blir ju det systemets målsättning oerhört viktig för oss att kontrollera. Därför att den kan lura oss hur mycket som helst och göra allting mycket bättre än vi. Men som sagt var, det är idag ren science fiction.

Tove Smeds: Man kan ju fråga sig varför man skulle designa ett sådant system.

Mats Johansson: Jag tror inte att man kanske vill göra det, men jag tror att det kan vara svårt att kontrollera vad som ett sådant system väljer att göra och hur det här målet vi sätter den att göra, tolkas i enskilda situationer. Jag tror det är oerhört komplext att göra. Avsikten kan vara god men det kan leda käpprätt åt… ja…

Tove Smeds: Men här är det ju också en fråga om den data som AI tränas upp med. Den måste ju tränas på någonting och där finns det också en del etiska utmaningar.

Mats Johansson: Ja det gör det och då kanske du tänker mer på just när vi tänker oss att den ska göra en specifik grej åt oss. Träningen blir ju inte bättre än vad data är, kvalitén på data och så. Man har ju sett att viss uppträning kan leda fram till ett AI som exempelvis är rasistiskt om det matas med rasistiska övertygelser eller beskrivningar. Så data är A och O och det här gäller också förstås inom andra områden som diagnostik. Vi behöver bra data för att lära upp de här systemen, för att göra rätt bedömningar.

Tove Smeds: Vi pratar ju om det här med bra data nu men vad innebär det? Vad är bra data?

Mats Johansson: Bra data är data som hjälper systemet att lära sig att utföra uppgiften på ett bra sätt och där finns det ju många risker. En kan vara att man har tränat data på korrupt data eller data som inte förts in på ett bra sätt. Det kan till exempel vara om vi tar ett patientregister, så kanske man fyller i vissa uppgifter sist på dagen, som går in i det här registret och som gör att det finns felaktigheter i datasetet. Det kan leda till vissa problem. Ett annat är att man bara tar hänsyn till vissa delar av data, exempelvis bara till data som kommer från män eller inga data från barn eller andra, som gör data begränsade i det setet som gör att den inte löser uppgiften korrekt.

Tove Smeds: Det blir liksom inte representativt?

Mats Johansson: Nej det kan vara en av sakerna att det inte blir representativt. Men huvudproblemet är ju om data inte liksom lär AI att göra rätt.

Tove Smeds: Där kommer det in det här perspektivet med säkerheten kring systemen också. För att om vi har ett system som matas med information och det finns andra som kan ta sig in i systemet, är ju också en aspekt i det.

Mats Johansson: Den typen av säkerhet finns ju egentligen i alla system vi arbetar med. Man kan ju tänka sig att det skulle kunna finnas ekonomiska skäl till att laborera med data kanske på sikt, jag vet inte. Men det är också vissa områden där vi inte har tillgång till bra data. Om man tittar på de riktigt stora landvinningar eller några stora landvinningar så är det ju till exempel i spel där AI idag överträffar människan med råge inom Go till exempel, eller Starcraft 2, eller sedan länge schack. Det är system som har perfekta regler där vi kan träna upp datorn mot sig själv i otrolig hastighet, så att säga. Men väldigt mycket i samhället har ju inte den karaktären. Det finns inte enkla facit som vi på något sätt kan testa maskinen mot.

Tove Smeds: Ett konkret exempel där AI ändå används idag är ju de här självkörande bilarna. Jag vet att man ofta tar det som ett exempel när man diskuterar kring AI så du som etiker kanske känner dig lite trött på, eller tänker att det är tjatigt. Men här kan man ju tänka sig att AI-systemet snabbt i en farlig situation behöver välja vilken person som den ska köra på. Hur tänker du kring det här?

Mats Johansson: Först och främst vill jag säga att ja, trött kanske man är på det här exemplet. Men kanske därför att det bara är ett i mängden av alla exempel som man borde diskutera.

Det som är kanske extra intressant med de självkörande bilarna idag, det är att AI inte bara behöver komma fram med en bedömning, utan också fatta ett beslut. Den hinner inte konsultera personen bakom ratten och det är själva poängen för att det här ska gå så fort. Det innebär att systemet måste fatta ett aktivt beslut.

Medan om vi jämför det med bilddiagnostik så kan man spotta ut en rekommendation till en läkare som i sin tur gör en bedömning, så där finns ett tidsfönster. Så på det här sättet så är det intressant.

Nej, men det väcker många intressanta frågor och ställningstagande för människorna men också bilägaren. Det är inte bara hur man ska värdera eventuella liv man riskerar att köra på, utan också hur man ska värdera föraren i relation till den man riskerar att köra på. Om det skulle alls vara möjligt att göra en sån kalkyl. Så det är ju väldigt likt ett ganska känt etiskt tankeexperiment där man just tvingas ta ställning till olika liv i olika situationer. Men nu måste vi hantera det också eftersom vi har dem ute på vägarna.

Tove Smeds: Vi var inne här lite tidigare på det med all data som behövs för att träna upp maskinerna, eller AI då. Då tänker jag på att här måste ju användas en del patientinformation också. Hur fungerar det, jag tänker med samtycke och patienternas rätt att godkänna att data används. Finns det några problem kring det att lösa?

Mats Johansson: Ja om vi tänker oss att det är ett regelrätt forskningsprojekt där man vill få tillgång till ett patientregister exempelvis eller någon bildbank. Då måste detta genomgå så kallad forskningsetisk prövning innan det får godkännas, därför att det är känsliga uppgifter som hanteras.

Ett problem i sammanhanget är ju att även om huvudregeln är att man ska inhämta samtycke från alla dem som uppgifterna handlar om så kanske det är praktiskt omöjligt om det handlar om tiotusentals patienters uppgifter.

Nu finns det möjlighet att sådana här projektet kan bli godkända ändå. Men om det är forskning så ska man åtminstone ha en extern grupp. En särskild myndighet som tittar på detta. Så i det avseendet så finns det en kontroll av vad som sker.

Tove Smeds: Det här att en AI-lösning gör något bättre än en människa – det är egentligen inte tillräckligt för att man ska plocka in den i vården?

Mats Johansson: Det beror ju lite på vad man menar att den gör det bättre än oss.  Därför att om detta sker till en väldigt stor kostnad – och det inte är säkert att den kan prestera bättre än oss. Men säg att vi köper in ett system från ett företag som tar hutlöst betalt, men det den kan göra är att förbättra livskvaliteten på marginalen för någon grupp. Då kanske det inte är värt pengarna även om det den gör är bättre än människan. Och det är också en sån här risk med undanträngning, för då är risken att de pengarna går dit, istället för till ett annat område där patienter har ett större vårdbehov.

Tove Smeds: Men hur ska man tänka då? Vilka system har potential att göra stor nytta och vilka kostar mer än de smakar när man sitter och ska fatta sådana beslut?

Mats Johansson: Ja, det är också svårt att svara på, därför att prislapparna är ju inte alltid satta och hur det här kommer att användas i vården får ju framtiden utvisa. Jag tror ju utifrån vad jag själv har läst och de experter jag har talat med, att när det gäller bilddiagnostik, att detektera avvikelser tumörer och så vidare, så kanske datorerna kommer att göra ett fantastiskt jobb till ett pris som vi är villiga att betala. Detta för att det är väldigt viktigt också för de patienter det rör.

Men som i alla prioriteringssammanhang så ska detta viktas mot andra patienter, andra patienters behov och andra metoder som man kan använda.

Tove Smeds: Då kommer vi in lite grand på patientgrupperna och deras engagemang i det här. Finns de med i utvecklingen utav AI, eller hur upplever du det?

Mats Johansson: Ja det beror på vad du menar med att de finns med. Det finns ju forskning över hela världen där man försöker få in ett brukarperspektiv. Att man försöker identifiera behov och frågeställningar, som kan lösas med forskningen hjälp. AI är ju däri inget nytt undantag, utan det är någonting man gärna vill. Man vill att de problem man löser ska svara mot ett behov och också ett upplevt behov hos patienterna.

I den mån det sker tror jag varierar väldigt mycket med forskargrupp, med forskningssatsningar och på vilken nivå man befinner sig, hur nära tillämpning man är. Men liksom med all sån här ny teknik så är det ju viktigt att titta på, inte bara så att det tycks fungera bra från ett externt perspektiv, utan också utifrån patientperspektivet och följa hur man upplever detta.

Tove Smeds: Men om man tänker hur det här kan förändra sjukvården på sikt. Man pratar om AI, att det kanske kan ersätta vissa yrkesgrupper och så där. Hur ska man tänka som läkare kring det här – att AI ska komma in och ta över här?

Mats Johansson: Ja men det tror jag nog att AI delvis kommer att göra när det gäller vissa arbetsuppgifter till att börja med och på sikt kanske fler och fler arbetsuppgifter. Det gäller ju läkare och det gäller många andra yrkeskategorier i samhället.

Alla sammanhang där ett AI kan göra en bättre bedömning och lösa ett problem bättre än människan, den delen av yrkena är hotade. Det är ju förenligt med att vi får nya roller, för vårdpersonal och exempelvis läkare.

Tove Smeds: Idag är det ju så här att allvarligt sjuka patienter har rätt till ny medicinsk bedömning, det som tidigare kallades för second opinion. Det innebär att patienten ska kunna känna sig trygg med att få den vård som verkligen passar bäst i situationen. Men ponera att alla använder samma AI-system, hur ska man se på det här? Vem ska ge en second opinion?

Mats Johansson: Om vi når den punkten där AI är bättre än människor på alla sätt. Ja, då skulle det vara, möjligtvis, att vi har två olika system. Jag vet inte hur man skulle kunna lösa det. Det är klart att man skulle kunna vända sig till en människa då för en bedömning. Men det kanske kommer att vara lika meningslöst som om vi skulle vända oss till en människa för att i huvudet räkna ut ett otroligt komplicerat tal idag. Det skulle vi kanske inte göra då. Vi kanske ska se på den framtiden på det sättet att AI kommer vara så pass överlägset att ingen människa kommer att vara värd mer att lita på än AI.

Tove Smeds: Där är väl utmaningen transparensen? Vad har AI fattat beslutet på för underlag? För det är lite svårt att veta kanske?

Mats Johansson: Ja men det är det. Alltså dels är det fråga om tillförlitlighet. Men om vi antar att vi har ett tillförlitligt system så uppstår ändå frågan ”Förstår vi varför AI kom fram till det här beslutet?” Och det finns ju ingen garanti för att vi gör det. Därför att det här systemet använder ju inte våra resonemangsbegrepp eller sätt att tänka, utan detta är ju ett system som har tränats upp att ha rätt.  Så det finns ingen garanti att det här går att översätta på ett sätt som passar oss bra.  Det här systemet kan överraska väldigt mycket. Det har ju bland annat visats när man har testat det i olika spel att det kan hitta strategier som vi under många hundra år aldrig har kommit att tänka på överhuvudtaget i spelsammanhang.

Tove Smeds: Vi var inne på det här lite grand förut, men det var ju så här att tvåtusensexton släppte Microsoft en chattfunktion som kallades Tay. Det var en AI-bot som lärde sig att chatta genom att analysera och delta i samtal på Twitter. Det dröjde inte ens ett dygn innan Tay twittrade som en rasistisk, frustrerad och arg kvinnohatare som förnekade Förintelsen. Då fick de ju så klart stänga ner Tay, men det visade ju lite grand – även om det var ett par år sedan – så visar det hur tekniken riskerar att upprepa våra egna fördomar.

Mats Johansson: Ja och det där är jätteintressant och jag tror överhuvudtaget det är farligt att se på AI som att det ska matcha människan. För vi människor har mängder av brister. Vi är kortsiktiga. Vi är ofta lite liksom vinklade åt olika håll och så där.  Vi vill ha ett AI som respekterar alla människor, rättigheter och så vidare. Så att träna upp ett AI i den typen av miljö, det är nog bäddat för problem kan jag tänka mig.

Tove Smeds: Men det här – låt oss säga att man skulle kunna programmera AI, att man skulle kunna programmera den moraliskt. Vi ponerar att man har löst det då. Det är väl fortfarande en fråga om vilka normer och vilken moral. Den skiljer sig lite grand över världen. Hur ska man liksom närma sig det då?

Mats Johansson: Ja den skiljer sig inte bara över världen utan den skiljer sig här. Jag tror att det finns en stor enighet i vissa etiska frågor, både i Sverige och globalt sett. Men det finns många frågor där det råder djup oenighet och där är det ett filosofiskt ställningstagande som måste göra ett etiskt ställningstagande som måste göras om vilka grundprinciper som ska gälla.

Men det är ju inte alltid AI har beslutsrätten så att om vi tänker oss idag att ett AI kommer med rekommendation i sjukvården då kommer ju den rekommendationen sedan att viktas i relation till vårdens resurser, vad man anser är lämpligt att göra för den här patientgruppen.

Så jag tror vi är långt från den frågan, för den frågan lever vi med hela tiden idag. Hur ska vårt politiska system se ut? Hur ska prioriteringar ske? Så det är frågor vi måste ta ställning till oavsett om vi är ett AI eller inte.

Tove Smeds: En annan aspekt av det här, det är ju att vi som bor i den här delen av världen kanske kommer få tillgång till de här fiffiga AI-funktionerna och utvecklingen ganska snabbt. Men så ser det ju inte ut i andra delar av världen. Och det etiska perspektivet, hur tänker du?

Mats Johansson: Ja och det där är ju återigen ett problem som vi redan lever med. Ta vaccinationen, vaccinet som finns i överflöd nu i många västländer men inte över hela planeten, och andra tillämpningar. Man kan också ställa frågan – har vi samma problem, så att säga? Ett land som inte har en sjukvård som är i närheten av den svenska, kanske inte är i lika stort behov av den här typen av diagnostik som vi talar om. Man har inga resurser att göra något när tumören är identifierad – där är det kanske helt andra insatser som bör göras för att de länderna ska få bättre villkor. Eller de som saknar rent vatten och så…

Men om vi talar om länder som liknar oss i viss utsträckning men som kanske inte har finansiella resurser att själva utveckla detta. Då kan ju förhoppningen vara att dom här systemen ska kunna vara så billiga eller att man på andra sätt ska kunna erbjuda dem i de länderna.

Tove Smeds: Jag tänker du sitter ju med i Region Skånes etiska råd. Är det här med AI någonting som ni diskuterar?

Mats Johansson: Vi diskuterar väl inte det specifikt, men det finns ju hela tiden i bakgrunden och de senaste åren så har vi sett en enorm ökning i intresset för AI. För bara några år sedan uppfattade många att AI var ren science fiction. Så är det inte idag och det är därför jag också blir lite vaksam varje gång någon säger ”ja men det där kan vi inte göra idag, det är ren science fiction”. Därför att den här utvecklingen går åt det hållet.

Nej, men det är många problem. Jag tror ju också att några av de större problemen vi måste ta ställning till det är hur sjukvården ska möta den här nya tekniken när det gäller resurser – att prioritera vad man lägger sina resurser på.

Tove Smeds: Nu har vi ju fokuserat en del på de etiska problemen som AI kan medföra. Samtidigt så måste det ju också medföra problem, att inte gå den vägen också. Alltså att inte utforska de möjligheterna.

Mats Johansson: Ja men absolut. Det här, det är ju likt all utveckling att det finns ju en alternativkostnad här. Att om vi inte gör något som hade lett till ökad hälsa och förbättrade villkor för patienter – så har vi ju ett ansvar för det också.

Så att det gäller ju att förbättra vården i alla avseenden och det här kommer nu ganska snabbt, som jag kan uppleva det.  Så försiktighet har ju också ett pris, ett potentiellt pris i alla fall. Så det gäller att röra sig framåt, men på ett ansvarsfullt sätt. Men däremot så tror jag att det finns stora risker med breda införanden som inte är ordentligt studerade. Därför att även om det gynnar framtida patienter så kan det komma till last för de nuvarande patienterna, om inte systemen är tillförlitliga.

Tove Smeds: Du som medicinetiker, när du liksom tänker kring en utveckling. Vilka frågor är det du liksom checkar av på din lista? Vad är viktiga frågor när man har en ny utveckling, så här?

Mats Johansson: Ja en fråga är ”För vem är detta bra och till vilket pris?”. Därför att jag tror man kan bländas av forskning och utveckling som är sexig så att säga. Det kan gälla hel-genom-analys eller AI och det kan finnas andra områden också där man kan bländas av att man vill ligga i framkanten. Så den första frågan är ”Okej, var ska detta mappas eller matcha in i sjukvården?” och ”Vem ska gynnas av det?” och sedan kommer frågan ”Gynnas sätt person i sjukvården?” sett till vårdbehov.

Så det är nog de första frågorna och sedan så kommer ju frågor förstås ”Okej, här finns det en möjlighet. Är den tillförlitlig nog? Är den patientsäker?”. Det är ett annat sätt att se på det. Och det kan ju variera över tid så det är inte säkert att det vi har idag är det, men det vi har om ett år kanske är otroligt tillförlitligt.

Tove Smeds: Tror du att det hade blivit bättre om vi hade ersatt mig med AI här? Det hade blivit ett mer intressant program förmodligen.

Mats Johansson: Nej, men i framtiden borde man ersätta oss båda med AI – i den här avlägsna framtiden och om vi då har en superintelligens för det följer per definition att den är bättre än oss på allt.

Tove Smeds: Och det är då vi kommer hinna läsa alla de där böckerna som inte vi hinner läsa nu.

Mats Johansson: Ja om vi nu utvecklar den här goda superintelligensen snarare än den onda, för då vet man aldrig vad som händer.

Tove Smeds: Det får bli ett medskick till forskarkåren då.

Då vill jag tacka dig Mats Johansson för att du kom hit och poddade med oss.

Mer information om forskning som rör din hälsa kan du alltid hitta på vår hemsida www.vetenskaphalsa.se.

Jag vill passa på att tipsa alla lyssnare om att Forskningens dag 2021 handlar om just det här ämnet. Temat är Hajp eller hjälp. Vad kan AI göra för vår hälsa? Forskningens dag äger rum den 9 november i Malmö och den 10 november i Lund. Ta en titt på vår hemsida www.vetenskaphalsa.se där det finns mer information om detta. Lyssnar du på programmet efter det att Forskningens dag ägt rum så ska du inte bli ledsen för då finns det möjlighet att ta del av föreläsningarna som spelas in och som också kommer att läggas ut på vår hemsida. Där finns det också en hel tidning med olika artiklar som handla om AI och forskning kring AI.

 

---