Oberoende validering är en nyckel för säker AI-användning

Olika former av AI-stöd blir allt vanligare inom hälso- och sjukvården. Särskilt god nytta kan AI ge när tekniken används som ett beslutsstöd inom bilddiagnostik för att granska röntgenbilder och inom digital patologi.

I dag finns ett stort antal kommersiella lösningar tillgängliga för användning inom bland annat mammografi, patologi och strokediagnostik. Men även etablerade AI-produkter kan ge felaktiga svar om de används i andra sammanhang än där de tränats. Därför behövs mer än löften från tillverkarna av AI-produkterna innan de blir en del av vårdens vardag. Att först låta validera en lösning innan den tas i bruk blir därför ett viktigt steg innan ett införande.

Innovationsmiljön VAI, Inkubator för nationella plattformar för systematisk klinisk validering av AI inom bilddiagnostik, drevs 2021-2024. Inom ramen för plattformen utvecklades flera plattformar för validering av AI-verktyg som är tänkta att fungera som beslutsstöd inom bilddiagnostik.

VAI finanserades inom ramen för Medtech4Health där det strategiska projektet Analytic Imaging Diagnostics Arena, AIDA, erbjöd en miljö för kunskapsutbyte och samverkan mellan plattformar. AIDA är en nationell arena för forskning och innovation kring artificiell intelligens för medicinsk bildanalys, där akademi, sjukvård och industri möts och samverkar.

Projektet avslutades vid årsskiftet 2024/2025. Då hade de tre ingående plattformarna nått olika grad av utveckling och en fjärde initierats med inriktning på diagnostik inom prostatacancer.

VAI-B (bröst/mammografi) startade först och nådde även längst med ett insamlat bildmaterial från fem regioner, fyra AI-företag och cirka 4000 annoterade bilder. I dagsläget förvaltas plattformen vid Karolinska Universitetssjukhuset. På längre sikt finns målet att utveckla den vidare till en nationell resurs.

VAI-P (patologi) har utvecklat en pilotplattform med material från fyra olika sjukhus och algoritmer från två AI-leverantörer. Digital patologi är ett ungt område och projektet har haft ambitionen att undersöka både möjligheter och förtjänster med olika AI-lösningar. Ett samarbete har etablerats mellan flera regioner samt Nationell Arbetsgrupp för Digital Patologi och KVAST-gruppen för bröstpatologi.

VAI-S (stroke) har skapat flera valideringsplattformar för olika former av strokerelaterade sjukdomar. Flera AI-algoritmer har också utvärderats med hjälp av material från Region Skåne. Plattformarna drivs vidare för forskning vid Skånes Universitetssjukhus men att dela teknik och material har visat sig svårt på grund av legala hinder.

Denna webbplats ger längre beskrivningar av de tre plattformsprojektet och lyfter röster från deltagarna. En sida är dessutom vigd till vidareläsning i form av publicerade forskningsartiklar samt olika rapporter.