Lars Henry Berge Olsen from BigInsight successfully defended his thesis

BigInsight congratulates Lars Henry Berge Olsen from BigInsight and the Department of Mathematics, who successfully defended his thesis "What’s in the Black Box? Improving the Shapley Value Explanation Methodology" for the degree of Philosophiae Doctor on February 7, 2025.

Main research findings:

Artificial intelligence and machine learning models are increasingly used in predictive tasks across various sectors, e.g., finance, healthcare, and retail, due to their high-performance accuracy. However, their predictions are often impossible to understand due to their opaque decision-making processes. To address this issue and comply with regulations like the EU AI Act, explainable AI (XAI) has emerged to explain how and why the model reached specific predictions. A prominent XAI framework is Shapley values, which originated in cooperative game theory in the 1950s but is today extensively used as a tool that can explain predictions made by any model.

This thesis improves the Shapley value explanation methodology in four key areas: developing methods to incorporate feature dependencies into the explanations, making them more precise and trustworthy; categorizing both existing and novel methods into distinct classes for thorough comparison and evaluation, with accompanying user recommendations; introducing stabilization and correction strategies to improve the accuracy of Shapley value approximations consistently; and creating the open-source shapr package for R and Python to ensure that these advancements are accessible to researchers and practitioners.

Adjudication committee:

• Professor Marvin Wright, University of Bremen 

• Associate professor Inga Strümke, Norwegian University of Science and Technology 

• Associate professor Johan Pensar, University of Oslo 

Supervisors:

• Professor Ingrid Kristine Glad, University of Oslo

• Dr. Martin Jullum, Norwegian Computing Center

• Dr. Philos Kjersti Aas, Norwegian Computing Center

Lars Henry Berge Olsen

Ingrid Dæhlen from BigInsight successfully defended her thesis

BigInsight congratulates Ingrid Dæhlen from BigInsight and the Department of Mathematics, who successfully defended her thesis "The best of the bad: Precise and robust estimation and model selection" for the degree of Philosophiae Doctor on January 31, 2025.

Main research findings:

A model is a mathematical description of some phenomenon. Models can help us predict, understand and shape the world around us. That being said, the world is complex, and the language of mathematics is rigid. This gives models a major flaw. They are almost always wrong. But models work well in practice and are crucial for humans to make sense of the world. This thesis attempts to guide scientists in the search for good models, by deriving ways of evaluating, fitting and ranking candidates without trusting them blindly. This is achieved by formulating precise approximations to the "error" of models, and by studying methods for fitting wrong models in the best possible way.

Adjudication committee:

• Professor Ingrid van Keilegom, University of Leuven

• Associate Professor Kristoffer Herland Hellton, OsloMet

• Associate Professor David Ruiz Banos, University of Oslo

Supervisors:

• Associate Professor Ingrid Hobæk Haff, Universitetet i Oslo

• Professor Nils Lid Hjort, Universitetet i Oslo

Ingrid Dæhlen

SIMON BOGE BRANT FROM BIGINSIGHT SUCCESSFULLY DEFENDED HIS THESIS

BigInsight congratulates Simon Boge Brant and the department of Mathematics, who successfully defended his thesis “Selected topics in regression with a binary outcome: Fraud detection, and applications of copulas to logistic regression” for the degree of Philosophiae Doctor on November 8th, 2024.

Main research findings:

The thesis concerns different topics that all are related to logistic regression - models for the log-odds where inference is based on a (Bernoulli) likelihood for the conditional distribution of the outcome given covariates. Three papers make up the thesis. The first of these discusses a fraud detection problem, which we summarise in terms of a loss function, and discuss strategies for finding suitable models that approximately minimise this function. In both the second and third papers we present new models, and algorithms for fitting these. In the first of these we construct a boosting algorithm where the base learners are copula-based regression models (Noh et al., 2013; Chang and Joe, 2019), and in the last paper we present an extension of the linear logistic regression model, which is constructed through an R-vine based extension of a discriminant analysis analogue of the linear logistic regression model.

Adjudication committee:

• Professor Thomas Nagler, Ludwig Maximilian University of Munich 

• Professor Bart Baesens, KU Leuven 

• Professor Geir Storvik, University of Oslo

 Supervisors:

• Associate Professor Ingrid Hobæk Haff, University of Oslo

• Associate Professor Riccardo De Bin, University of Oslo

Simon Boge Brant

Nye videoer ute om XAI-verktøyet eXplego

Har du laget en maskinlæringsmodell og sliter med å skjønne hva modellen egentlig legger vekt på? eXplego er et enkelt verktøy som hjelper deg som data scientist eller KI-utvikler med å velge en forklaringsmetode som faktisk gir deg svar på det du vil forklare. Verktøyet består av et interaktivt trediagram, der du blir guidet frem til en forklaringsmetode ved å svare på spørsmål om ditt forklaringsbehov.

 Det finnes en versjon på norsk og en litt mer teknisk versjon på engelsk.

Videoene er av: Jacob Sjødin (NAV), Martin Jullum (NR), Robindra Prabhu (NAV), Wivi Eilertsen (NAV) og Tore Græsdal (NAV). Produsent: Arild Stenbæk (NAV).

Clara Bertinelli Salucci from BigInsight successfully defended her thesis

BigInsight congratulates Clara Bertinelli Salucci from BigInsight and the the Department of Mathematics, who successfully defended her thesis "Advancing data-driven diagnostics and prognostics for lithium-ion batteries: A focus on model interpretability and accuracy" for the degree of Philosophiae Doctor on April 19, 2024.

Main research findings:
Machine Learning techniques are transforming industries, yet their opaque decision-making poses challenges, especially in safety-critical applications like lithium-ion (Li-ion) batteries. Li-ion batteries are pivotal in driving sustainable transportation but are also associated with hazards, as seen in incidents such as explosions leading to particularly intense fire. Traditional testing methods for battery health are costly and disruptive. My research addresses this issue by integrating data-driven methodologies within the Battery Management Systems (BMS). These algorithms, utilising sensor data, offer an efficient monitoring of battery health and remaining life, enabling both diagnostics and prognostics. By achieving a delicate balance between interpretability and prediction accuracy, they may enhance battery performance and durability while mitigating risks associated with degradation. Moreover, the methodologies developed in this research hold promise for broader applications beyond battery diagnostics, including fields like biostatistics. By bridging the gap between interpretability and prediction accuracy, these methods offer versatile solutions for addressing complex data challenges across various domains.

Adjudication committee:

• Professor Emeritus Bo Henry Lindquist, NTNU: Norwegian University of Science and Technology

• Professor Sören Ehlers, Hamburg University of Technology

• Associate Professor Thordis Thorarinsdottir, University of Oslo

 Supervisors:

• Associate Professor Riccardo De Bin, University of Oslo

• Professor Ingrid Kristine Glad, University of Oslo

• Azzeddine Bakdi

• Associate Professor Erik Vanem, University of Oslo

BigInsight Celebration Day was fun!

As BigInsight is approaching its final year, it was time to celebrate ourselves and our achievements. The invitational BigInsight Celebration Day took place in the beautiful Georg Sverdrups hus at the University of Oslo, on November 17, 2023. We learned from some of our successes, discussed how we have merged innovation and science, looked to the future and mingled with the BigInsight family.

Erlend Wiland-Evensen, chairman of the BigInsight board

Camilla Stoltenberg, the former head of FHI (the Norwegian Institute of Public Health) praised BigInsight’s substantial efforts with the modelling of the COVID-19 pandemic in Norway. Please see the video from Camilla Stoltenberg below.

Gunnar Rø (FHI) followed up with a talk on experiences from modelling the COVID-19 pandemic in Norway.

Idris Eckley, distinguished professor at Lancaster University and the chair of BigInsight’s Scientific Advisory Committee, also praised BigInsight’s work: «There have been fantastic contributions in terms of fundamental research, making an impact on important industrial challenges, and helping society, especially given the prominent role the people within the BigInsights team played during the pandemic.»

The two research partners NR and UiO were represented by their respective leaders, André Teigland (CEO) and Svein Stølen (Rector), who agreed were much on the importance of centers like these.

Svein Stølen, rector UiO

The strong connection between research and innovation was further demonstrated by four panels talks where an important BigInsight paper was presented, and the related innovation was discussed broadly. The talks and panels included Kjersti Aas (NR), Cathrine Pihl Lyngstad (NAV), Erlend Willand-Evensen (Gjensidige), Karl Aksel Festø (DNB), Morten Stakkeland (ABB), Erik Vanem (DNV), Martin Tveten (NR), Ingrid Glad (UiO), Alvaro Köhn-Luque (UiO) and Vessela N. Kristensen (UiO), Håvard Kvamme (Abelee). The four papers were:

• «Explaining individual predictions when features are dependent: More accurate approximations to Shapley values». Artificial Intelligence (2021)

• «Predicting mortgage default using convolutional neural networks». Expert Systems with Applications (2018)

• «Scalable changepoint and anomaly detection in cross-correlated data with an application to condition monitoring». Annals of Applied Statistics (2022)

• «Toward Personalized Computer Simulation of Breast Cancer Treatment: A Multiscale Pharmacokinetic and Pharmacodynamic Model Informed by Multitype Patient». Cancer Research (2019)

Martin Tveten

Alvaro Köhn-Luque

Morten Stakkeland

Arnoldo Frigessi, who has been an instrumental director of BigInsight until recently (he is now director of Integreat – Norwegian Centre for Knowledge-driven Machine Learning), received many kind words and gratitude for his efforts as director of BigInsight.

Arnoldo Frigessi and Anders Løland

Finally, Anders Løland (director of BigInsight) finished off by reminding ourselves that some work remains to be done in the centre in 2024, and that BigInsight’s legacy will live far beyond 2024.

Klare for å levere toppforskning og innovasjon innen kunstig intelligens

Som ledere for tre av Norges fremste forskningssentre innen kunstig intelligens var det naturlig for oss å være tilstede når statsminister Støre og forsknings- og høyere utdanningsminister Borch la fram regjeringens nye strategi for kunstig intelligens støttet opp med målrettet finansiering på 1 milliard over 5 år.

Støre og Borch la fram ambisiøse mål for utvikling av framtidas kunstig intelligens som er trygg, pålitelig, presis og effektiv, og som vil ha enorm betydning for liv og helse og samfunnet forøvrig, for innovasjon i næringslivet og offentlig sektor, og for utdanning på alle nivåer for å ruste Norge for framtidas muligheter og utfordringer. 

Vi står klare til å levere toppforskning og innovasjon innen kunstig intelligens på høyeste nivå for bidra på en sentral måte i dette nasjonale løftet.

Vi er optimistiske på at vi skal klare å levere store resultater raskt for å bidra til nyskaping, helse, demokrati, bærekraft, til nytte for jorda vi lever på og for en bedre fordeling av ressurser.

Våre sentre, generøst finansiert av Norges forskningsråd, UiT Norges arktiske universitet, Universitetet i Oslo, og våre partnere, er klare for å katalysere dette taktskiftet fra KI som vi i noen tilfeller ikke forstår godt nok eller kontrollerer godt nok, til KI som en ressurs som vi utnytter som en instrument for bedre liv for alle. Vi kommer til å jobbe utrettelig, fra våre toppforskere til våre yngste studenter, i samarbeid, med kompetanse, med mot, "drive" og entusiasme!

BigInsight, ved senterleder Anders Løland Tlf. 470 83 894

Integreat, ved senterleder Arnoldo Frigessi                  Tlf. 957 35 574

Visual Intelligence, ved senterleder Robert Jenssen    Tlf. 416 99 612

Ny leder av BigInsight

– Jeg vil takke Arnoldo Frigessi for en fenomenal innsats for BigInsight gjennom åtte år, sier påtroppende leder for BigInsight, Anders Løland.

–  Frigessi har vært utrolig inspirerende og viktig ikke bare for BigInsight og senterets partnere, men også for den rivende utviklingen i og betydningen av det som gjerne kalles kunstig intelligens i dag (statistisk modellering/maskinlæring/data science) i Norge.

– Det har vært en stor ære å lansere BigInsight i 2015 og lede det frem til nå. Jeg kan stolt si at reisen til BigInsight er en viktig suksess for alle våre partnere og for norsk forskningsbasert innovasjon. Vi har oppfunnet metoder og designet nye modeller som har stor effekt allerede nå og mer vil komme, det er jeg sikker på, sier Arnoldo Frigessi.

– Dette er andre gang jeg prøver å overlate ledelsen av BigInsight til noen andre: I 2018 takket Ingrid Glad nei til å overta stafettpinnen. Så jeg er glad for at Anders denne gangen har sagt ja til å lede senteret vårt i den siste perioden, noe som er veldig viktig da vi nå skal samle de siste fruktene av arbeidet vårt. BigInsight er i de beste hender, med en erfaren, fremtidsrettet, kunnskapsrik, engasjert og veldig snill ny direktør, sier Arnoldo Frigessi.

Ny og avtroppende leder av BigInsight

BigInsights styreleder Erlend Willand-Evensen (Gjensidige) vil også takke den avtroppende BigInsight-lederen:

– Arnoldo Frigessi har med sitt store engasjement vært svært viktig for BigInsight. Det økende fokuset på AI i samfunnet den siste tiden viser hvor fremsynte BigInsights ledelse var fra starten. Selv gjennom vanskelige corona-år er det levert utrolig mye og verdifull forskning for samfunnet og partnerne.

– Når vi nå både skal høste de siste fruktene av åtte års arbeid, og sikre at vi kan videreføre det gode samarbeidet etter BigInsight, trenger vi en leder med solid erfaring fra AI-området og inngående kjennskap til BigInsight. Derfor er jeg svært glad for at Anders Løland har takket ja til å ta over som leder for senteret.

Integreat – Senter for fremragende forskning – starter opp 1. oktober 2023 med Arnoldo Frigessi (UiO) som leder. Siden Frigessi ikke kan lede både Integreat og BigInsight samtidig, tar Anders Løland (NR) derfor fra 1. september over som leder av BigInsight. Frigessi blir co-director i BigInsight fra samme dato.

BigInsight, som er et senter for forskningsdrevet innovasjon og har eksistert siden 2015, vil leve i beste velgående ut 2024. Senteret har skapt forskningsbaserte, innovative løsninger for sine femten partnere gjennom alle disse årene.

– Heldigvis har BigInsight med seg Arnoldo videre som co-director, og BigInsight ser fram til et tett samarbeid med Integreat framover, avslutter Løland med.

BigInsight presents new tool for selection of XAI methods

The growing demand for transparency, interpretability, and explainability of machine learning models and AI systems has fueled the development of methods aimed at understanding the properties and behavior of such models (XAI). Since different methods answer different explainability questions, it is crucial to understand the kind of explanation the different XAI-methods provide, and in what situations they should be used. We have therefore developed eXplego, an interactive tree-structured tool designed to assist users in selecting the most suitable XAI method for their use case.

eXplego prompts users to answer questions regarding the type of explanation they seek, guiding them along the branches of the decision tree for further inquiries. After 2-5 questions, the tree reaches one of its leaves to suggest an XAI method aligned with the user's explainability need.

The tool also provides helpful practical examples, simplified descriptions of the suggested method's functionality and interpretability, points to consider when using the method, and links to the paper introducing the method, additional resources, and software implementations.

The tool is developed from an in-depth study to discern the characteristics of the most prominent methods and the nature of the explanations they provide.

We believe eXplego will help streamline the process of XAI method selection and contribute to the practical implementation of XAI in various domains.

The tool is developed by the BigInsight partners NAV and NR and will be presented at the 1st World Conference on Explainable Artificial Intelligence (XAI 2023).

eXplego is available at explego.nr.no.

Ny styreleder for BigInsight

– I en tid der avansert analyse av data, maskinlæring og kunstig intelligens har gått fra å være et fagfelt få vet om til allemannseie, har BigInsight vært svært viktig. Både for å sikre at Norge er i forskningsfronten på dette området, gjennom å være sparringspartner for bedrifter og for å tilrettelegge for å ta denne kunnskapen i bruk, og gjennom å utdanne dyktige spesialister. Det sier den avtroppende styrelederen Karl Aksel Festø.

Avtroppende styreleder Karl Aksel Festø, DNB (til venstre) og påtroppende styreleder Erlend Willand-Evensen, Gjensidige. Foto: Norsk Regnesentral

BigInsight, som er et senter for forskningsdrevet innovasjon og har eksistert siden 2015, vil leve i beste velgående ut 2024. Senteret har skapt forskningsbaserte, innovative løsninger for sine femten partnere gjennom alle disse årene.

Viktige gjennombrudd for statistisk-matematiske modeller

Hvor har BigInsight satt spor så langt? Da pandemien traff verden våren 2020 var innovasjonssenteret godt forberedt etter flere års forskning på statistisk-matematiske modeller. Disse modellene utnytter mobildata for å regne på smittespredning og R-tallet, og dermed var løypa allerede klar da data for covid-smitten begynte å tikke inn.

– Samarbeidet i BigInsight gjorde at vi var forberedt da pandemien traff oss. Modellene ble operative allerede i mars samme vår, i et samarbeid mellom BigInsight-partnerne Folkehelseinstituttet, Universitetet i Oslo, Norsk Regnesentral og Telenor, og bidro til at Norge var et av få land i hele verden som raskt kunne anslå smittetall, forteller Festø.

Resultatene ble brukt av myndighetene gjennom hele pandemien for å vurdere om det ville være rom for å åpne opp Norge ytterligere, eller om det måtte strammes inn hvis R-tallet økte for mye. Dette arbeidet har vært avgjørende for Norges vei gjennom pandemien.

Skape verdier fra komplekse data

Nettopp det å skape verdier fra komplekse data gjennom statistisk-matematisk modellering og maskinlæring, er et av BigInsights hovedmål. Festø mener mye har skjedd på åtte år. – Jeg er overbevist om at partnerne i Big Insight har et helt annet modenhetsnivå i dag enn da senteret ble startet, og at BigInsight har vært en viktig faktor for denne modningen. Denne SFI´en vil gi varige ringvirkninger og verdiskapning for Norge, både gjennom konkrete innovasjoner, nye løsninger og ikke minst et høyere kunnskapsnivå innenfor dette viktige forskningsfeltet.

Ny styreleder

Karl Aksel Festø jobber til daglig som Engineering Manager hos BigInsight-partneren DNB, og gir stafettpinnen videre til Erlend Willand-Evensen, SVP Head of Pricing i en av BigInsight andre partnere Gjensidige. Selv om innovasjonssenteret går inn i avslutningsfasen, ser Willand-Evensen for seg noen aktive og viktige måneder.

– Fremover blir det viktig at vi fullfører BigInsight på en god måte, både å sluttføre forskningsarbeidet og publisere resultater, og ikke minst at de ulike partnerne kan ta i bruk løsningene vi har utviklet i sitt eget arbeide.

– Videre jobber vi med hvordan vi skal beholde og videreutvikle det samarbeidsmiljøet BigInsight har skapt. Det er stor verdi i samarbeidet mellom partnerne. Dette må vi ta vare på, enten vi skal søke om en ny SFI eller videreføre samarbeidet på andre måter.