Visualisering viktig för att förstå maskininlärning
Forskare i datavetenskap från grupperna VAESS och ISOVIS har gjort en metaanalys om visuell tolkning av modeller för maskininlärning. Deras ”översikt över översikter”, publicerad av Sage Journals, bekräftar att tolkning av maskininlärning med hjälp av visualiseringar är en ökande trend och identifierar forskningsmöjligheter för visualiseringsforskare.
Forskarna bakom metaanalysen kommer från forskargrupperna Visual Analytics for Engineering Smarter Systems (VAESS) och Information and Software Visualization (ISOVIS). Totalt omfattade deras ”översikt över översikter” 18 översikter som tillsammans tog upp 520 publikationer.
Lär en dator att förutsäga
Maskininlärning handlar om att lära ett datorsystem att göra så exakta förutsägelser som möjligt utifrån att det förses med provdata. Man lär en maskininlärningsalgoritm att känna till specifika svar för tidigare existerande prov och att sedan svara på samma frågor för framtida okända data – det vill säga, att göra en förutsägelse. Fördelen med att använda maskiner istället för människor för att analysera data, är att genom att använda automatiska tekniker kan effektiviteten och skalbarheten för stora datamängder förbättras enormt.
Maskininlärning används idag inom många områden som medicin, bioinformatik och byggvetenskap, inom både akademin och industrin. Ett exempel är att ställa diagnos om en sjukdom genom att använda maskininlärningstekniker på röntgen- och/eller MRT-bilder från patienter på ett sjukhus. De tekniker som används kan då ge ett svar om någon är frisk eller inte, utifrån tidigare data som samlats in från andra patienter och träning med hjälp av läkare.
En avgörande punkt i utvecklingen är att människor – det vill säga läkare, patienter, sjuksköterskor etc i vårt exempel – måste ha förtroende för resultaten av maskininlärning. De måste också förstå på vilka grunder en förutsägelse har gjorts. Här kan visualisering hjälpa till med att ge svar på dessa frågor. Följaktligen är visualisering en viktig aspekt inom det nya ämnesområdet förklarbar konstgjord intelligens (XAI).
Identifierade forskningsmöjligheter
– De viktigaste resultaten från vår översikt är de forskningsmöjligheter vi har identifierat, vilket är till hjälp för visualiseringsforskare, de som arbetar med visualisering inom olika områden och experter på maskininlärning. Mer detaljerat kan vi bekräfta den ökande trenden att tolka maskininlärning med visualiseringar under de senaste åren, och att visualisering kan hjälpa till i exempelvis online-träningsprocesser för modeller för djupinlärning (ett underområde till maskininlärningstekniker) och öka förtroendet för maskininlärningsmodeller.
– Men ändå är frågan om exakt hur det här stödet ska ske fortfarande en öppen utmaning för alla som sysslar med visualisering. Vår översikt belyser dessa frågor och föreslår lovande inriktningar för framtida forskning, säger Angelos Chatzimparmpas, doktorand i datavetenskap och artikelns huvudförfattare.
Artikeln A survey of surveys on the use of visualization for interpreting machine learning models har publicerats av Sage Journals tidning Information Visualization.