AI kan vara till stor hjälp inom vården till exempel när det gäller att snabbt leta igenom stora mängder bilder av cellprover för att se om det finns tecken på cancer i bilderna. Men ett problem är att AI:n inte är ofelbar så det går inte att lita blint på det AI:n kommer fram till.

– Vi förväntar oss att AI:n kommer göra fel. Vi vet att vi kan göra den bättre över tid genom att säga till när AI:n har fel respektive rätt. Samtidigt som man ser till de aspekterna, behöver man arbeta med att systemet blir ändamålsenligt och effektivt att använda. Det är också viktigt att användarna tycker att maskininlärningskomponenten tillför något positivt, säger Martin Lindvall, forskare vid Linköpings universitet, i ett pressmeddelande.

Martin Lindvall har i sin forskning undersökt vilka problem som kan uppstå när en AI ska leta efter cancer i bilder av vävnadsprover. Det handlar till exempel om att man byter tillverkare av de kemikalier som används för att färga in vävnadssnitten, hur tjocka vävnadssnitten är eller om det finns damm på glaset i skannern. Det kan göra att modellen som AI:n byggt upp med maskininlärning inte längre fungerar.

– Just de här faktorerna är kända nu och AI-utvecklare kontrollerar för dem. Men vi kan inte utesluta att fler sådana störfaktorer kommer att upptäckas i framtiden. Därför vill man gärna ha en barriär som hindrar även faktorer som vi ännu inte känner till, säger Martin Lindvall.

Problemen gör att läkare och patient kan ha svårt att lita på AI:ns resultat. Men genom att låta AI:n samarbeta med en mänsklig patolog, kan vi få det bästa av båda världar. AI:n kan väldigt snabbt gå igenom stora mängder prover och hjälpa patologen att snabbare se vad som är viktigt i bilden.

AI:n pekar då ut de områden i bilden den tycker ser misstänkta ut. Om läkaren inte ser något i de områdena, anses provet vara cancerfritt. Målet är att läkaren ska känna sig trygg med resultatet, att det ska gå fortare och att det inte ska bli några felbeslut.

– De flesta användare börjar på samma sätt. De ser på vad AI:n föreslår, men struntar i det. Med tiden bygger de upp en trygghet och använder AI:n mer. Så att ha en sådan användarinteraktion i systemet är dels en säkerhetsbarriär, dels får det patologen att känna sig trygg. Användaren sitter i förarsätet jämfört med mer autonoma AI-produkter, säger Martin Lindvall.

Sex patologer har testat AI:n och resultatet blev att de kunde arbeta snabbare. AI:n blir också bättre med tiden eftersom läkarna hela tiden säger till om AI:ns förslag bedöms vara rätt eller fel.

Läs hela studien här.

🩺 Bättre vård när AI skapar mening i stora datamängder

Inom modern medicin genereras enorma mängder data. Genom att bli bättre på att analysera dessa kan vi både ta fram läkemedel snabbare och använda vårdens resurser mer effektivt, menar Taha Kass-Hout, direktör inom maskininlärning och Chief Medical Officer hos Amazon Web Services.

Warp NewsMaria Eriksson

🩸 AI visar vilka behandlingar mot blodförgiftning som är mest riskabla

Forskare har utvecklat en AI som kan visa vilka behandlingar mot blodförgiftning som riskerar att göra patienten sämre i stället för bättre.

Warp NewsKent Olofsson