<?xml version="1.0" encoding="utf-8"?>
<TEI xmlns="http://www.tei-c.org/ns/1.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:hal="http://hal.archives-ouvertes.fr/" xmlns:gml="http://www.opengis.net/gml/3.3/" xmlns:gmlce="http://www.opengis.net/gml/3.3/ce" version="1.1" xsi:schemaLocation="http://www.tei-c.org/ns/1.0 http://api.archives-ouvertes.fr/documents/aofr-sword.xsd">
  <teiHeader>
    <fileDesc>
      <titleStmt>
        <title>HAL TEI export of tel-04507525</title>
      </titleStmt>
      <publicationStmt>
        <distributor>CCSD</distributor>
        <availability status="restricted">
          <licence target="https://creativecommons.org/publicdomain/zero/1.0/">CC0 1.0 - Universal</licence>
        </availability>
        <date when="2026-05-24T19:15:18+02:00"/>
      </publicationStmt>
      <sourceDesc>
        <p part="N">HAL API Platform</p>
      </sourceDesc>
    </fileDesc>
  </teiHeader>
  <text>
    <body>
      <listBibl>
        <biblFull>
          <titleStmt>
            <title xml:lang="en">Predictive models &amp; reasoning with explanations</title>
            <title xml:lang="fr">Modèles prédictifs &amp; raisonnement avec les explications</title>
            <author role="aut">
              <persName>
                <forename type="first">Ryma</forename>
                <surname>Boumazouza</surname>
              </persName>
              <idno type="idhal" notation="numeric">823748</idno>
              <idno type="halauthorid" notation="string">2457677-823748</idno>
              <idno type="ORCID">https://orcid.org/0000-0002-3940-8578</idno>
              <affiliation ref="#struct-90448"/>
              <affiliation ref="#struct-56711"/>
              <affiliation ref="#struct-441569"/>
              <affiliation ref="#struct-529058"/>
            </author>
            <editor role="depositor">
              <persName>
                <forename>Ryma</forename>
                <surname>Boumazouza</surname>
              </persName>
              <email type="md5">c0c1d64befed3c38eb79fddcb56cc876</email>
              <email type="domain">gmail.com</email>
            </editor>
            <funder>50% Université d'Artois</funder>
            <funder>50% Région Hauts-de-France</funder>
          </titleStmt>
          <editionStmt>
            <edition n="v1" type="current">
              <date type="whenSubmitted">2024-03-16 17:14:04</date>
              <date type="whenModified">2024-03-19 10:52:57</date>
              <date type="whenReleased">2024-03-18 10:22:33</date>
              <date type="whenProduced">2022-12-08</date>
              <date type="whenEndEmbargoed">2024-03-16</date>
              <ref type="file" target="https://hal.science/tel-04507525v1/document">
                <date notBefore="2024-03-16"/>
              </ref>
              <ref type="file" subtype="author" n="1" target="https://hal.science/tel-04507525v1/file/113085_BOUMAZOUZA_2022_archivage.pdf" id="file-4507525-3907451">
                <date notBefore="2024-03-16"/>
              </ref>
            </edition>
            <respStmt>
              <resp>contributor</resp>
              <name key="1071276">
                <persName>
                  <forename>Ryma</forename>
                  <surname>Boumazouza</surname>
                </persName>
                <email type="md5">c0c1d64befed3c38eb79fddcb56cc876</email>
                <email type="domain">gmail.com</email>
              </name>
            </respStmt>
          </editionStmt>
          <publicationStmt>
            <distributor>CCSD</distributor>
            <idno type="halId">tel-04507525</idno>
            <idno type="halUri">https://hal.science/tel-04507525</idno>
            <idno type="halBibtex">boumazouza:tel-04507525</idno>
            <idno type="halRefHtml">Artificial Intelligence [cs.AI]. Université d'Artois, 2022. English. &lt;a target="_blank" href="https://www.theses.fr/"&gt;&amp;#x27E8;NNT : &amp;#x27E9;&lt;/a&gt;</idno>
            <idno type="halRef">Artificial Intelligence [cs.AI]. Université d'Artois, 2022. English. &amp;#x27E8;NNT : &amp;#x27E9;</idno>
            <availability status="restricted">
              <licence target="https://creativecommons.org/publicdomain/zero/1.0/">CC0 1.0 - Universal<ref corresp="#file-4507525-3907451"/></licence>
            </availability>
          </publicationStmt>
          <seriesStmt>
            <idno type="stamp" n="UNIV-ARTOIS">Université d'Artois</idno>
            <idno type="stamp" n="CNRS">CNRS - Centre national de la recherche scientifique</idno>
            <idno type="stamp" n="CRIL" corresp="UNIV-ARTOIS">Centre de recherche en informatique de Lens</idno>
          </seriesStmt>
          <notesStmt/>
          <sourceDesc>
            <biblStruct>
              <analytic>
                <title xml:lang="en">Predictive models &amp; reasoning with explanations</title>
                <title xml:lang="fr">Modèles prédictifs &amp; raisonnement avec les explications</title>
                <author role="aut">
                  <persName>
                    <forename type="first">Ryma</forename>
                    <surname>Boumazouza</surname>
                  </persName>
                  <idno type="idhal" notation="numeric">823748</idno>
                  <idno type="halauthorid" notation="string">2457677-823748</idno>
                  <idno type="ORCID">https://orcid.org/0000-0002-3940-8578</idno>
                  <affiliation ref="#struct-90448"/>
                  <affiliation ref="#struct-56711"/>
                  <affiliation ref="#struct-441569"/>
                  <affiliation ref="#struct-529058"/>
                </author>
              </analytic>
              <monogr>
                <imprint>
                  <date type="dateDefended">2022-12-08</date>
                </imprint>
                <authority type="institution">Université d'Artois</authority>
                <authority type="school">ED n°585 : École doctorale sciences, technologies, santé (EDSTS)</authority>
                <authority type="supervisor">Bertrand Mazure</authority>
                <authority type="supervisor">Karim Tabia</authority>
                <authority type="jury">Sylvain Lagrue</authority>
                <authority type="jury">Marie-Jeanne Lesot</authority>
                <authority type="jury">Christine Solnon</authority>
                <authority type="jury">Fahima Cheikh-Alili</authority>
              </monogr>
            </biblStruct>
          </sourceDesc>
          <profileDesc>
            <langUsage>
              <language ident="en">English</language>
            </langUsage>
            <textClass>
              <keywords scheme="author">
                <term xml:lang="en">Multi-label classification</term>
                <term xml:lang="en">eXplainable AI (XAI)</term>
                <term xml:lang="en">Symbolic explanations</term>
                <term xml:lang="en">Score-based explanation</term>
                <term xml:lang="en">Feature attribution</term>
                <term xml:lang="en">Satisfiability testing</term>
                <term xml:lang="en">Model-agnostic</term>
                <term xml:lang="fr">Explications basées-score</term>
                <term xml:lang="fr">Modèle-agnostique</term>
                <term xml:lang="fr">Classification multi-étiquettes</term>
                <term xml:lang="fr">Satisfiabilité booléenne</term>
                <term xml:lang="fr">Attribution de caractéristiques</term>
                <term xml:lang="fr">Explications symboliques</term>
                <term xml:lang="fr">IA explicable</term>
              </keywords>
              <classCode scheme="halDomain" n="info.info-ai">Computer Science [cs]/Artificial Intelligence [cs.AI]</classCode>
              <classCode scheme="halTypology" n="THESE">Theses</classCode>
              <classCode scheme="halOldTypology" n="THESE">Theses</classCode>
              <classCode scheme="halTreeTypology" n="THESE">Theses</classCode>
            </textClass>
            <abstract xml:lang="en">
              <p>This thesis studies the problem of explaining individual predictions of black-box machine learning models. This problem is addressed in both single and multi-label classification. Firstly, we introduce an explanation approach representing a combination of SAT solving and numerical measures to develop amodel-agnostic method for providing both symbolic and score-based explanations. The idea is to take a single-label classifier, together with an instance, and produce a propositional formula that we will use to generate our explanations. We consider both cases where we can have the logical representation of the model as a whole or an approximation based on a surrogate model. In the second case, a crucial component of the proposed approach is to approximate the model with another (simpler) one that does admit a tractable logical representation to efficiently enumerate explanations. To comply with the original predictor, the selected surrogate model needs to ensure fidelity. Subsequently, this trained model is used to generate symbolic and numerical explanations. In a second time, we consider a SAT framework with theaim of using SAT solvers as the problem solving engine. Given an unsatisfiable formula corresponding to a negative prediction, modern SAT solvers are able to report the cores generating an inconsistency.In this contribution, we provide two complementary types of symbolic explanations of unsatisfiability called sufficient reasons and counterfactuals centered around Minimal Unsatisfiable Subsets (MUS) and Minimal Correction Subsets (MCS) respectively. Secondly, we have worked on defining measures of the quality of an explanation and of a variable contribution to properly assess how relevant they areas it becomes necessary to focus on those providing more insights. Next, we have worked on defining possible explanation mechanisms to explain the outcomes of multi-label classifiers. We have introduced explanations at different granularity levels which go from structural relationships between labels to the selection of features. Finally, we were interested in feature-level importance scores for how much a giveninput feature contributes to a multi-label model’s output. This contribution looks into two different possibilities of using existing methods for single-label as oracles or using feature attributions obtained from symbolic explanations. In order to evaluate the quality of feature attributions, we extend the properties of sensitivity, data-stability to the multi-label setting in addition to a new property specific to multi-labelclassification we called label-explanation correlation.</p>
            </abstract>
            <abstract xml:lang="fr">
              <p>Cette thèse étudie une méthode d’explicabilité qui allie à la fois le caractère "agnostique" des méthodes numériques et qui propose des explications plus "rigoureuses" qui caractérisent les explications symboliques. Le but étant d’expliquer les prédictions des techniques de classification mono-étiquette et multi-étiquettes. Plusieurs contributions sont apportées dans cette thèse. Premièrement, nous avonstravaillé sur le cas mono-étiquette. Nous avons proposé une approche qui va de l’encodage en représentation symbolique du modèle dont on souhaite expliquer les prédictions à la génération d’explication basée sur un oracle SAT. L’idée est de prendre un classifieur, avec une instance, et de produire une formule propositionnelle que nous utiliserons pour générer nos explications. L’inconsistance de cette formule permet d’expliquer les prédictions. Nous considérons les deux cas où nous pouvons avoir la représentation logique du modèle dans son ensemble ou une approximation basée sur un modèle de substitution. Nous nous intéressons à deux types complémentaires d’explications symboliques : les raisons suffisantes qui correspondent à un sous-ensemble minimal de l’entrée conduisant à une prédiction spécifique et les contrefactuelles qui correspondent à un sous-ensemble de l’entrée permettant de déterminer les modifications minimales à apporter pour obtenir une prédiction différente. Deuxièmement, nous avons proposé des propriétés à considérer afin de prioriser et sélectionner les explications en évaluant leur pertinence ainsi que celle des variables les composants. Par la suite, nous nous sommes intéressésà l’explication des prédictions multi-étiquettes. Nous avons proposé des explications multi-étiquettes à différents niveaux de granularité et étudié la combinaison d’explications mono-étiquette ainsi que les relations structurelles entre classes comme moyen de les générer. Enfin, nous nous sommes intéressés aux scores d’importance au niveau des caractéristiques pour déterminer dans quelle mesure chacune contribue à la sortie d’un modèle multi-étiquettes. Cette contribution examine deux possibilités différentes d’utiliser des méthodes existantes pour le cas mono-étiquette comme oracles ou d’utiliser des attributions de caractéristiques obtenues à partir d’explications symboliques. Afin d’évaluer la qualité des attributions de caractéristiques, nous étendons les propriétés de sensibilité, de stabilité des donnéesau cas multi-étiquettes en plus d’une nouvelle propriété spécifique à la classification multi-étiquettes que nous appelons corrélation label-explication.</p>
            </abstract>
          </profileDesc>
        </biblFull>
      </listBibl>
    </body>
    <back>
      <listOrg type="structures">
        <org type="laboratory" xml:id="struct-90448" status="VALID">
          <idno type="IdRef">08345585X</idno>
          <idno type="RNSR">200812835W</idno>
          <orgName>Centre de Recherche en Informatique de Lens</orgName>
          <orgName type="acronym">CRIL</orgName>
          <date type="start">2008-01-01</date>
          <desc>
            <address>
              <addrLine>Faculté Jean Perrin Rue Jean Souvraz - SP 18 - 62307 LENS CEDEX</addrLine>
              <country key="FR"/>
            </address>
            <ref type="url">http://www.cril.univ-artois.fr</ref>
          </desc>
          <listRelation>
            <relation name="UMR8188" active="#struct-56711" type="direct"/>
            <relation name="UMR8188" active="#struct-441569" type="direct"/>
          </listRelation>
        </org>
        <org type="institution" xml:id="struct-56711" status="VALID">
          <idno type="IdRef">034634894</idno>
          <idno type="ISNI">000000012364777X</idno>
          <idno type="ROR">https://ror.org/053x9s498</idno>
          <orgName>Université d'Artois</orgName>
          <orgName type="acronym">UA</orgName>
          <date type="start">1992-09-01</date>
          <desc>
            <address>
              <addrLine>9 rue du Temple - BP 10665 - 62030 Arras cedex</addrLine>
              <country key="FR"/>
            </address>
            <ref type="url">http://www.univ-artois.fr/</ref>
          </desc>
        </org>
        <org type="regroupinstitution" xml:id="struct-441569" status="VALID">
          <idno type="IdRef">02636817X</idno>
          <idno type="ISNI">0000000122597504</idno>
          <idno type="ROR">https://ror.org/02feahw73</idno>
          <orgName>Centre National de la Recherche Scientifique</orgName>
          <orgName type="acronym">CNRS</orgName>
          <date type="start">1939-10-19</date>
          <desc>
            <address>
              <country key="FR"/>
            </address>
            <ref type="url">https://www.cnrs.fr/</ref>
          </desc>
        </org>
        <org type="institution" xml:id="struct-529058" status="INCOMING">
          <orgName>Région Hauts-de-France</orgName>
          <desc>
            <address>
              <country key="FR"/>
            </address>
          </desc>
        </org>
      </listOrg>
    </back>
  </text>
</TEI>