| Zugriffsnummer | 56585 |
| Dokumenttyp | Zeitschriftenartikel |
| Peer Review | mit Peer Review |
| Sprache | Englisch |
| Titel | Explainable AI needs formalization |
| Autor(in); Institution |
Haufe, Stefan; 8.4, Mathematische Modellierung und Datenanalyse, PTB-Berlin
Wilming, Rick; 8.4, Mathematische Modellierung und Datenanalyse, PTB-Berlin
Clark, Benedict; 8.4, Mathematische Modellierung und Datenanalyse, PTB-Berlin
Zhumagambetov, Rustam; 8.4, Mathematische Modellierung und Datenanalyse, PTB-Berlin
Boubekki, Ahcène; 8.4, Mathematische Modellierung und Datenanalyse, PTB-Berlin
Martin, Jörg; 8.4, Mathematische Modellierung und Datenanalyse, PTB-Berlin
Panknin, Danny; 8.4, Mathematische Modellierung und Datenanalyse, PTB-Berlin
|
| Quelle/Jahr | npj Artificial Intelligence: 2 (2026), 1, 1 - 9 |
| Artikelnummer | 42 |
| Availability | [online only] |
| ISSN | 3005-1460 (online) |
| DOI | |
| URL | |
| Verlag | [London]: Springer Science and Business Media LLC |
| Zusammenfassung | The field of “explainable artificial intelligence” (XAI) seemingly addresses the desire that decisions of machine learning systems should be human-understandable. However, in its current state, XAI itself needs scrutiny. Popular methods cannot reliably answer relevant questions about ML models, their training data, or test inputs, because they systematically attribute importance to input features that are independent of the prediction target. This limits the utility of XAI for diagnosing and correcting data and models, for scientific discovery, and for identifying intervention targets. The fundamental reason for this is that current XAI methods do not address well-defined problems and are not evaluated against the targeted criteria of explanation correctness. Researchers should formally define the problems they intend to solve and design methods accordingly. This will lead to diverse use-case-dependent notions of explanation correctness and objective metrics of explanation performance that can be used to validate XAI algorithms. |
| Kostenfreier Zugang | Open Access Gold |
| Rechteinformation | CC BY 4.0 ; Creative Commons Attribution 4.0 License |
| Themenbereich der Metrologie | Metrologie in der Medizin |
| Förderinformationen (1) |
Förderername: European Research Council (ERC)
Förderer ID: 0000 0000 8923 0953 Förderer ID Typ: ISNI Förderprogramm: European Union's Horizon 2020 research and innovation programme Förderungsnummer: Grant agreement No. 758985 |
| Förderinformationen (2) | Förderername: Bundesministerium für Wirtschaft und Klimaschutz,Germany |
| Förderinformationen (3) |
Förderername: European Partnership on Metrology
Förderer ID: 0000 0005 0727 0588 Förderer ID Typ: ISNI Förderungsnummer: Grant Numbers: 22HLT05 |
| Förderinformationen (4) |
Förderername: Bundesministerium für Wirtschaft und Klimaschutz (BMWK)
Förderer ID: 0000 0001 0945 2036 Förderer ID Typ: ISNI Förderprogramm: Metrology for Artificial Intelligence in Medicine (M4AIM) |
| Förderinformationen (5) | Förderername: Bundesministerium für Wirtschaft und Klimaschutz,Germany |
| Förderinformationen (6) | Förderername: European Partnership on Metrology |