När människa och maskin samarbetar upptäcks fel lättare

Användarcentrerad anomalidetektering spelar en nyckelroll för att göra datadrivna anomalidetekteringsmetoder mer effektiva och praktiska. Min forskning visar ett omfattande ramverk som möjliggör samarbete mellan människa och maskin och där parterna lär av varandra.

Ece Calikus

Hej, Ece Calikus! För ett år sedan, innan du försvarade din licentiatuppsats, skrev vi en artikel om din forskning. Den handlade om hur gemensam människa- och maskininlärning, joint human learning på engelska, kan förbättra fjärrvärmen. Vad har hänt sedan dess?

– Jag har fortsatt min forskning inom intelligenta självövervakande system där artificiell intelligens används i kombination med mänsklig kunskap. I mars presenterade jag min doktorsavhandling och mina forskningsfrågor och utmaningar har varit i linje med min licentiatuppsats. Men mitt övergripande fokus är nu så kallad ”användarcentrerad anomalidetektering”.

Kan du berätta lite mer om din forskning?

– Inom datavetenskap beskrivs anomalidetektering som identifieringen av sällsynta händelser och observationer i en datamängd som avsevärt skiljer sig från majoriteten av data. Användarcentrerad anomalidetektering spelar en nyckelroll för att göra datadrivna anomalidetekteringsmetoder mer effektiva och praktiska. Min forskning visar ett omfattande ramverk som möjliggör samarbete mellan människa och maskin och där parterna lär av varandra. Detta kan förbättra prestandan avsevärt för anomalidetektering och dess praktiska användning i ett specifikt tillämpningsområde, till exempel inom fjärrvärme, säger Ece Calikus och fortsätter:

– I vår forskning fokuserar vi på att designa och utvärdera algoritmer för användarcentrerad anomalidetektering där människor undersöker, tolkar och lär sig av detektorernas resultat, för att sedan bidrar med sin domänkunskap och ge återkoppling till systemet.

Var kan anomalier hittas?

– Anomalier, det vill säga avvikelser i insamlade data, finns i många olika områden och situationer som påverkar våra dagliga liv. De kan till exempel innebära intrång i ett datorsystem, finansbedrägeri, fel eller avbrott i produktionsenheter eller en första indikation på ett sjukdomstillstånd eller diagnos, säger Ece Calikus.

Kan anomalidetektering vara problematiskt?

– Alla typer av onormala observationer i data är inte lika intressanta för slutanvändaren. Till exempel kan avvikelser i form av höga temperaturer registreras i ett varmvattensystem när rören desinficeras från legionellabakterier. I det fallet är avvikelsen normal och inte särskilt intressant för en analytiker som söker efter faktiska fel i varmvattensystemet, till exempel kompressorfel i pumparna, säger Ece Calikus och fortsätter:

– Den stora skillnaden mellan upptäckta avvikande beteenden och ”avvikelser av intresse” kan ge många falska larm och gör avvikelsedetektering oanvändbar i praktiken. Mänsklig kunskap inom det givna området spelar därför en viktig roll för att överbrygga denna klyfta. Till exempel kan en mänsklig analytiker hjälpa till att göra tillförlitligare beräkningar för att hitta relevanta anomalier eller ge återkoppling som underlättar att skilja dem från irrelevanta, säger Ece Calikus.

Det låter som att människor och maskiner behöver samarbeta för att skapa mer exakta och effektiva sätt att upptäcka avvikelser. Kan du berätta mer om detta?

– Efter att anomalier i en datamängd har identifierats genomför mänskliga experter vanligtvis en rotorsaksanalys, felsökning eller åtgärdsplanering. Som jag nämner i föregående exempel kan man inte automatiskt schemalägga en reparation utan att veta vad anomalin orsakas av, exempelvis ett kompressorfel och inte av bakterierdesinfektion. Att kunna tolka de upptäckta extremvärdena och ge förklaringar till onormala beteenden, kan minska arbetet avsevärt för sådana manuella inspektioner, säger Ece Calikus.

Du har också fokuserat på så kallad ”kontextuell anomalidetektering”. Vad är det och hur kan det vara till hjälp?

– Genom kontextuell anomalidetektering vill vi kunna identifiera objekt som är onormala, men är förklädda som normala, inom specifika sammanhang. Till exempel är hög energiförbrukning i ett värmesystem under sommaren onormalt, medan samma förbrukningsnivå kan vara helt normal på vintern. Vi försöker ta fram kontextbaserade förklaringar av anomalier, som kan förklara och specificera vad som gör att något uppfattas som avvikande. Sådana förklaringar kan hjälpa till att karakterisera och tolka olika typer av anomalier och normala grupper, säger Ece Calikus och fortsätter:

– Med anomalidetektorer vill vi effektivt kunna separera sällsynta och ovanliga observationer från majoriteten. De sällsynta uppgifterna som rapporterats som anomalier kan dock leda till diskriminering av de minoritetsgrupper som finns i uppgifterna eller data. Till exempel kan övervakningsprogram som är utformade för att upptäcka brottslig verksamhet vara rasistiska om upptäckten i hög grad är beroende av och baserad på människors utseende. Ytterligare information om vad som gör att visst beteende sticker ut gör det möjligt för oss att upptäcka och hantera partiska beslut gjorda av algoritmerna och på så vis utforma mer rättvisa algoritmer.

Hur bidrar din forskning till samhällsutvecklingen?

– Med hjälp av användarcentrerad anomalidetektering kan vi urskilja anomalier bättre. Vidare kan vi, genom att förbättra arbetet för tolkbarheten av detekteringsresultat, göra det möjligt för slutanvändaren att validera algoritmens prestanda vilket skapar tillit för anomalidetekteringssystemet. Detta är särskilt viktigt för datamängder som innefattar känsliga egenskaper som kön, etnicitet eller ålder, säger Ece Calikus.