grafik från undersökning

Doktorandprojekt: Visuell analys för förklarlig och pålitlig maskininlärning

Detta doktorandprojekt syftar till att utveckla grundläggande principer, tekniker och verktyg för visuell analys, för att analysera data- och maskinmodeller med olika tillämpningar inom ramen för dataintensiva vetenskaper. Det övergripande målet är att göra komplexa modeller för maskininlärning lättare att begripa och förklara, samt att ge tillförlitlig tilltro till modellerna och deras resultat.

Fakta om projektet

Doktorand
Angelos Chatzimparmpas
Huvudhandledare
Andreas Kerren
Biträdande handledare
Rafael Messias Martins, Ilir Jusufi
Finansiär
Linnaeus University Centre for Data Intensive Sciences and Applications (DISA)
Tidsplan
5 febr 2018–5 febr 2023
Ämne
Data- och informationsvetenskap (Institutionen för datavetenskap och medieteknik, Fakulteten för teknik)

Mer om projektet

Forskning inom maskininlärning (ML) och artificiell intelligens (AI) har blivit mycket populär de senaste åren. Många typer av modeller föreslås för att förstå och förutsäga mönster och trender i data som härstammar från olika områden. I takt med att dessa modeller blir mer och mer komplexa blir det också svårare för användare att bedöma och lita på deras resultat, eftersom deras interna funktioner oftast är dolda i ”svarta lådor”. Förklaringen av ML/AI-modeller är för närvarande ett hett ämne bland de som sysslar med informationsvisualisering (InfoVis), med resultat som visar att insikter i ML-modeller kan leda till bättre förutsägelser och förbättra pålitligheten hos resultaten.

Visuell analys (VA) gör det möjligt för oss att analysera stora och komplexa informationsmängder som samlas in från komplexa system, experiment eller andra datakällor. Olika typer av modeller (till exempel statistiska modeller eller algoritmer för maskininlärning) används för att undersöka de insamlade datamängderna, för att klassificera dem eller för att förutsäga framtida trender. Dessa modeller är även beroende av lämpliga parameterinställningar och kan integreras i ett större sammanhang. Alla dessa aspekter måste förstås tydligt av mänskliga experter. För detta, och för att ge tillförlitlig tilltro till modellerna, utvecklar vi grundläggande principer, tekniker och verktyg för visuell analys, för att analysera både data och modeller.

Vårt nuvarande fokus inom detta forskningsområde är (1) metodiskt, genom att tillhandahålla undersökningar och vägledning genom kvalitativa och kvantitativa analyser av dess litteratur och forskarsamhälle, samt (2) tekniskt, genom att utveckla VA-metoder för att öppna de svarta lådorna hos olika ML/AI-modeller. I det senare fallet omfattar vår forskning både modeller utan övervakad dimensionalitetsreduktion (DR) och övervakade inlärningsmodeller, som system med enkel eller flerdubbel klassificering (det vill säga samspelande inlärningsmetoder).

För att genomföra denna forskning kombinerar vi expertis från medarbetare som kommer från flera områden: från interaktiv visualisering och visuell analys till maskininlärning och smalare områden. Doktorandprojektet utförs inom ramen för forskargruppen ISOVIS.