Latest / Gästen Först / När maskinen hade rätt
Transcript
- [musik] Det är tisdag morgon kvart över åtta och i ett väntrum någonstans i Sverige sitter en kvinna med en kallelse i handen. Hon är femtiotvå år. Det är tredje gången hon är här. De två föregående gångerna tänkte hon inte så mycket på det. Hon gick dit på lunchen och var tillbaka på kontoret innan eftermiddagsmötet. Man går dit, man blir klämd och man får ett brev några veckor senare där det står att allt ser bra ut. Två gånger har det stått så. Men i går kväll läste hon något i telefonen som fastnat. Att AI ska börja granska bilderna. Och nu sitter hon här och undrar vem det egentligen är som tittar på henne. Frågan hon bär med sig in i rummet är enklare än den låter. Vem litar man på? Välkomna till "Gästen först". Jag heter Olivia. Det här är andra dagen i en vecka där vi tittar på sådant som fastnar när man läser snabbt. I går handlade det om jobben. Idag ska vi till vården. Med mig har jag Karin, som fick sin kallelse förra veckan och läste något som gjorde henne tveksam. Och Ove, som arbetat i vården i många år. Karin, vad var det du läste? Det var en text om att AI ska granska mammografibilder i stället för läkare. Och min första tanke var väldigt enkel. Jag vill att en människa tittar på mina bilder. Inte för att jag tror att datorer är dumma, utan för att om det blir fel, då vill jag att någon har tagit ansvar för det. En maskin kan inte stå till svars för någonting. Den kan inte ens beklaga. Och du är långt ifrån ensam om att tänka så. Det är en av de vanligaste reaktionerna när man frågar folk om AI i vården. Och den finns oavsett hur mycket eller lite man vet om tekniken. Det finns faktiskt forskning på just den känslan. En liten intervjustudie i tidskriften BMJ Open 2024 frågade sexton kvinnor som deltagit i screeningen vad de tyckte. Och de kvinnorna var positiva till att fler cancerfall hittas. Men de var mer toleranta mot mänskliga misstag än mot fel från en algoritm. Sexton personer är förstås för få för att säga något om alla. Samma fel, olika reaktion, beroende på vem som gjorde det. Ja men det är precis så. Om en läkare missar något så var det ett misstag. Om en dator missar något så känns det som ett systemfel som ingen kunde förutse. Fast resultatet är ju precis detsamma för mig som patient. Det spelar ingen roll vem som missade. Jag ska säga en sak som kanske låter konstigt från någon som jobbat i vården. Jag delar din reflex. Jag har den själv och jag har jobbat med det här. Det spelar ingen roll hur mycket man vet. Känslan finns kvar. Men det som gör den här frågan intressant är att den redan är besvarad. Inte i teorin, i praktiken. Det här har pågått i skarp drift i Sverige i över tre år. Va? Menar att det redan görs? På riktigt nu? På riktiga patienter? Jag trodde det var något som diskuterades inför framtiden. Och för den som inte varit där. Mammografiscreening innebär att alla kvinnor i en viss ålder kallas regelbundet, oavsett om de känner något eller inte. Det är hela poängen. Man letar efter det som ännu inte märks, vilket också gör det till en av de svåraste bedömningarna som finns. Eftersom man tittar på tusentals bilder där de allra flesta är helt normala. Sedan juni 2023 på Capio S:t Görans sjukhus i Stockholm används AI vid granskningen av mammografibilder som en del av den ordinarie verksamheten. Och det föregicks av en av de mest genomarbetade studierna som gjorts på området någonstans i världen. Den heter Screen Trust CAD och publicerades i Lancet Digital Health i september 2023. Femtiofemtusen femhundraåttioen kvinnor mellan fyrtio och sjuttiofyra år. Och upplägget var att man jämförde det svenska standardförfarandet där två oberoende läkare granskar varje bild mot en läkare plus AI. Och vad blev resultatet? Hittade de färre fall när bara en läkare tittade? Minst lika många. Studien var upplagd för att pröva om en läkare plus AI var sämre än två läkare. Och det var den inte. Upptäckten låg på samma nivå, möjligen något högre, men skillnaden var för liten för att man ska kunna säga att den är säkerställd. Det låter blygsamt, men tänk på vad det innebär. Samma resultat med halva läkarinsatsen. Men vem är det egentligen som har gjort den där studien? Är det de som säljer tekniken som räknas själva? För det är ju så det brukar vara. Det är en helt rätt fråga att ställa. Studien gjordes av forskare vid Karolinska institutet och genomfördes på ett svenskt sjukhus och den publicerades i en granskad medicinsk tidskrift. Det betyder att andra forskare läste igenom metoden innan den fick publiceras. Det är inte en produktbroschyr. Det är den hårdaste sortens granskning som finns. Och det finns en sak till som gör svenska studier ovanligt bra på just det här. Sverige har haft dubbelgranskning som standard i decennier, alltså att två läkare, oberoende av varandra, tittar på samma bild. Det betyder att vi har ett facit att jämföra mot som de flesta länder saknar. I ett land där bara en läkare tittar går det inte att mäta det här lika noggrant. Och det finns en till. Masai-studien i Skåne med runt åttiotusen skannade kvinnor i den första analysen. Där användes AI för att sortera bilderna så att de med låg risk granskades av en läkare medan de med hög risk granskades av två. Där syntes en ökning av upptäckta fall på omkring tjugo procent. Men jag ska vara noggrann här. Den skillnaden nådde inte riktigt fram till att kunna kallas statistiskt säkerställd i den analysen. Men det säger ju bara att det fungerar bra i en studie. Studier görs under kontrollerade former. Det är inte samma sak som en vanlig tisdag på ett sjukhus. Den invändningen är riktig. Och därför är driftsiffrorna viktigare än studiesiffrorna. Läkarnas granskningsarbete i studien minskade med ungefär hälften när den andra granskningen kunde ersättas. Det frigör tid på en klinik som redan har för få granskare. Och för patienten hände något som jag tycker är det mest anmärkningsvärda i hela det här. Vad då? När den andra granskningen kan göras av ett system istället för en andra läkare frigörs tid. Och tid i den här kedjan betyder kortare väntan på besked. Jag vill att man stannar upp vid vad väntan betyder. Veckor av att vakna på natten och undra. Veckor av att inte kunna planera något. Det är den delen som aldrig kommer med i rubrikerna, för väntan syns inte i någon statistik över överlevnad. Jag väntade fyra veckor förra gången, från undersökningen till brevet. Jag sa till mig själv att det säkert var lugnt för de hade ju sagt att de flesta får ett normalt svar. Men jag tänkte på det varje dag, varenda dag i fyra veckor. Min man frågade varje kväll om det kommit post och till slut bad jag honom sluta fråga. Och nu kommer vi till det som jag tycker är det verkligt intressanta i den här forskningen. För det finns en uppföljande studie publicerad i tidskriften Radiology 2025 som tittade på något helt annat än träffsäkerhet. Den tittade på vad som händer när människan och maskinen är oense. Femtiofyratusen niohundranittioen undersökningar. Om man tittade på de fall där bara den ena parten flaggade en bild som misstänkt. Antingen tyckte läkaren att något såg fel ut medan systemet sa att bilden var frisk eller tvärtom. När bara läkaren flaggade en bild kallades kvinnan tillbaka i fjorton komma två procent av de fallen. Och av de som kallades tillbaka visade det sig vara cancer i tre komma fyra procent. När bara systemet flaggade kallades kvinnan tillbaka i bara fyra komma sex procent av fallen. Men av de som faktiskt kallades tillbaka var det cancer i tjugotvå procent. Vänta, jag måste få det där långsamt. Menar du att när maskinen sa till så hade den rätt oftare, men man lyssnade mindre? Ja, av de kvinnor som kallades tillbaka på maskinens larm visade det sig vara cancer i drygt sex gånger så stor andel som när läkaren larmat ensam. Och ändå kallades de tillbaka ungefär tre gånger så sällan. Vi litade på oss själva just när vi hade fel. Det är värt att stanna vid. Vi litade på oss själva just när vi hade fel. Och det gäller inte bara i vården. Det är samma sak som händer när vi läser en rubrik och tycker oss veta. Men det är ju skrämmande. Det betyder att det fanns kvinnor som fick veta att allt var bra fast maskinen hade sagt till. Hur många? Nu måste jag bromsa dig lite och det här är viktigt. Det här handlar inte om att läkare är slarviga eller dåliga. Fenomenet har ett namn. Det heter automationsbias och det drabbar precis alla yrkesgrupper som arbetar tillsammans med ett automatiskt system. Piloter, ingenjörer, sjöbefäl. Överallt där en människa och ett system ska komma överens finns det här mönstret och det har studerats i decennier inom flyget, långt innan någon pratade om AI. Man övervärderar sin egen bedömning och undervärderar systemets, särskilt när man är erfaren. Det är ett känt, väl studerat mänskligt mönster, inte ett fel hos svensk sjukvård. Och det ska sägas rakt ut. Den svenska screeningen har varit och är fortfarande ett av de bättre programmen som finns. Det som studien visar är inte att den varit dålig, utan att kombinationen människa och maskin har en svaghet som ingen förutsåg. Att den mänskliga delen av kombinationen inte alltid vet när den ska ge med sig. Men vad hände med dem då? De fallen där maskinen sa till och läkaren sa nej. Fick de veta det sen? I studien följdes alla upp så där finns svaren. Men i den vanliga vården är det svårare. En cancer som inte upptäcks vid screeningen upptäcks oftast ändå, senare när den ger symptom och då är den större. Det är därför de här procenten spelar roll. Det handlar sällan om liv eller död direkt. Det handlar om hur tidigt och skillnaden mellan att hitta något tidigt och att hitta det ett år senare. Den kan vara skillnaden mellan en behandling som är jobbig och en som är mycket jobbigare. De handlar om tid, inte om siffror. Och samtidigt ska det sägas att de allra flesta som kallas till screening får ett normalt svar. Vi pratar om marginaler här. Skillnaden mellan bra och ännu bättre, inte mellan fungerande och trasigt. Men då är väl slutsatsen enkel. Om maskinen har rätt oftare, låt maskinen bestämma. Nej, och det är precis den slutsatsen jag är rädd att folk drar av det här. Siffran tjugotvå procent betyder att i fyra fall av fem hade systemet fel även när det flaggade. Den är alltså inte pålitlig i den meningen att man kan följa den blint. Den är bara mer träffsäker än vi trodde i just den situationen. Det som behövs är inte mindre människa, det är bättre samarbete. Men Ove, då är vi tillbaka i Karins ursprungliga fråga. Om läkaren avfärdar maskinens korrekta larm och maskinen inte kan följas blint, vem skyddar då patienten? Någon måste ju avgöra. Det är den svåraste frågan i hela sammanhanget och jag har inget bra svar. Det jag tror är att man måste bygga in i rutinerna att en avvikelse mellan människa och system inte får avfärdas tyst. Att det ska krävas ett aktivt ställningstagande när man går emot. Inte för att systemet har rätt, utan för att oenigheten i sig är information. Just nu försvinner den informationen. Blir läkarna sämre av det här? Alltså, om maskinen alltid tittar först, slutar man då att titta lika noga själv? Det är en av de mest diskuterade frågorna på området och svaret vet vi inte än. Det finns en risk att man tappar skärpan när något annat kollar efter en. Piloter har brottats med det i fyrtio år. Men det finns också en motsatt effekt. När man slipper de rutinnässiga fallen får man mer tid på de svåra. Vilken av de två krafterna som väger tyngst i längden, det får vi veta om tio eller femton år. Inte nu. Och den som påstår något annat gissar. Och regelverket då? Det finns en ny EU-lagstiftning om AI och vård räknas som ett område med höga krav. Grundprincipen där är att en människa ska finnas kvar i beslutet. Man får använda systemet som stöd, men inte låta det avgöra ensamt. Vilket är precis vad vi pratat om hela tiden. Frågan är bara om den människan verkligen tittar eller bara står där som en formalitet. Men det är precis så siffrorna visar. Att människan finns där och ändå avfärdar. Så själva regeln är uppfylld, men skyddet finns inte på riktigt. Där satte du fingret på något som forskarvärlden brottas med. En människa i loopen är inte samma sak som en människa som faktiskt tittar. Och den skillnaden syns inte i något regelverk. Vad gör jag då? Jag ska dit på torsdag och nu har jag hört allt det här. Det var kanske lättare innan jag visste något alls. Gå dit. Det är det viktigaste. Screening räddar liv, oavsett vem eller vad som granskar bilden och den som uteblir har ingen som tittar alls. Och om du undrar över hur det går till just där du bor, fråga dem. Det är en helt rimlig fråga att ställa och de svarar gärna. Men det jag säger här är en beskrivning av forskningsläget. Det är inte medicinska råd och det ersätter inte ett samtal med din vårdgivare. Det är en sak jag funderat på under hela det här samtalet. Väntetiden på besked blev kortare och det har pågått i tre år. Varför vet nästan ingen om det? För att ingenting hände och det är svårt att rapportera. Hade det blivit fel, hade det varit en nyhet på alla kanaler samma dag. Att det gick bra i tre år är ingen händelse. Det finns ingen dag då man kan skriva att i dag fortsatte det fungera. Det jag läste i går kväll var ju formulerat som något som skulle komma. Som en varning. Fast det var egentligen en beskrivning av något som redan gjorts och som gått bra. Samma sak, helt olika känsla. Karin, du kom hit i morse med en känsla. Har den ändrats? Ja och nej. Jag vill fortfarande att en människa är med och jag tror inte jag kommer sluta tycka det. Det står jag fast vid. Men jag trodde att det här var något som skulle komma och något jag kunde tycka till om. Det har pågått i tre år. Det räddar liv och det jag läste i går kväll berättade inte det. Det berättade bara att det skulle hända. Och du, Ove? Du har jobbat med det här länge. Vad är det du bär med dig från de här siffrorna? Att jag antagligen gjort samma sak själv. Jag har suttit i situationer där ett system sagt en sak och jag tyckt en annan och jag har litat på min egen känsla. Och jag hade säkert rätt ibland, men nu vet jag att jag hade fel oftare än jag trodde. Och det är obehagligt att veta om sig själv att man är den som ser det andra missar, inte tvärtom. Men det är väl precis därför man mäter saker. Man kan ju inte upptäcka ett mönster som ingen tittat efter. För att komma på sånt som ingen kunde veta innan. Och det är kanske det som är svårast med den här tekniken. Att den redan hunnit göra en hel del gott innan de flesta av oss ens bildat oss en uppfattning. Och att vi därför diskuterar den i efterhand och att den samtidigt har svagheter som inte syns i marknadsföringen. Båda sakerna är sanna samtidigt och det gör den svår att ha en enkel åsikt om. Man mäter för att få veta, inte för att bekräfta det man redan trodde. Det svenska screeningprogrammet hittar minst lika många fall som förut med hälften så mycket granskningsarbete. Och i samma material finns en obekväm siffra. När människa och maskin var oense hade maskinen rätt betydligt oftare än vi antog. Vi litade på oss själva just när vi hade fel. Omdömet först, sen tekniken. Det här avsnittet beskriver forskningsresultat på gruppnivå och ersätter inte medicinsk rådgivning. Prata alltid med din vårdgivare om dina egna provsvar. Imorgon fortsätter vi. Då handlar det om en fråga som nästan aldrig ställs när ett företag ska skaffa AI. Vem äger egentligen det som byggs? Tack för att du lyssnade på Gästen först. Det här avsnittet är helt skapat med AI-genererade röster