Erklärbare Künstliche Intelligenz

Die erklärbare künstliche Intelligenz (engl. eXplainable AI (XAI)) bezeichnet einen Forschungsbereich, der sich mit Methoden und Ansätzen beschäftigt, mit deren Hilfe sich Entscheidungen und Vorhersagen von komplexeren KI-Modellen transparenter und nachvollziehbarer machen lassen. Man spricht in diesem Zusammenhang auch von der Erklärung von „Black-Box-Modellen“. Entsprechende Ansätze sind vor allem dann relevant, wenn ihnen KI-Modelle in Form von Neuronalen Netzen zugrunde liegen, deren Ausgaben keine nachvollziehbaren Rückschlüsse auf die Entscheidungen ermöglichen.

XAI kann aber auch dafür verwendet werden, ein erstelltes KI-Modell auf dessen Performanz hin zu untersuchen, d.h. ob die Modellausgaben auch einer manuellen Beurteilung entsprechen würden und dementsprechend nachvollziehbar sind. Erkenntnisse aus diesen Analysen könnten dann für potenziell notwendige Modellanpassungen herangezogen werden. Grundsätzlich wird im Zusammenhang mit XAI darin unterschieden, ob direkt erklärbare Modelle wie Entscheidungsbäume oder Black-Box-Modelle zum Einsatz kommen.

Die von XAI-Ansätzen produzierten Ergebnisse lassen sich problemlos anschaulich visualisieren. Für einzelne Datenattribute ist aber auch eine Darstellung möglich, die den quantitativen Einfluss der XAI-Ansätze auf die finale Vorhersage aufzeigt. Dabei kann bspw. visualisiert werden, ob niedrige oder hohe Attributausprägungen zu einem negativen bzw. positiven Einfluss auf die Vorhersage geführt haben.

Ein konkretes Beispiel für solche Erklärungen ist ein KI-Modell, das basierend auf diversen Attributen eines Grundstücks dessen Marktwert vorhersagen soll. In diesem Fall ist es naheliegend, dass z. B. die Grundstücksfläche einen positiven, sprich erhöhenden Einfluss auf den Marktwert hat. Dabei ist zu erwarten, dass mit zunehmender Fläche auch der Marktpreis entsprechend steigt. Visualisiert man ein solches Vorhersagemodell mit den geschilderten XAI-Methoden, können die Zusammenhänge bestätigt werden.

Mit Hilfe von XAI können aber auch wichtige Faktoren wie Fairness und Bias (Vorurteil) eines KI-Modells adressiert werden. Denn insbesondere falsche Untersuchungsmethoden wie bspw. Suggestivfragen führen mitunter zu verzerrten oder sogar falschen Ergebnissen.

Zur besseren Veranschaulichung ein praktisches Beispiel: Ein kritischer Anwendungsfall ist die Entwicklung eines Klassifikationsmodells, das die Kreditwürdigkeit einer Person anhand verschiedener personenbezogener Attribute einstufen soll. Denkbare Merkmale könnten neben der Höhe des Kredits bspw. das Geschlecht oder die Religionsangehörigkeit sein. Trainiert man ein solches Modell anhand von vorliegenden Daten, die einen Bias gegenüber bestimmten Personengruppen enthalten, würde sich dies unmittelbar auch auf das Modell auswirken. Eine entsprechende Erklärung des Modells mit Hilfe von XAI-Methoden könnte genau solche Problematiken aufdecken. Indem für die einzelnen Attribute aufgezeigt wird, welche Ausprägung tatsächlich zu welchen Entscheidungen des Modells führen.

Für den Steuerbereich ist XAI in vielerlei Hinsicht relevant: So nimmt die Anzahl an KI-Anwendungen im Steuerbereich stetig zu. Insbesondere komplexere KI-Methoden kommen dabei immer häufiger zum Einsatz, während „einfachere“ Verfahren des ML (wie bspw. Entscheidungsbäume, die eine transparente Erklärung für die Vorhersagen bieten) eine geringere Beliebtheit erfahren. Somit lässt sich ein Trend zu immer performanteren, jedoch zunehmend intransparenteren Methoden feststellen. In diesem Zusammenhang können XAI-Methoden dazu beitragen, für Unternehmenstätigkeiten verwendete intransparente KI-Modelle besser zu erklären und deren Entscheidungen in nachvollziehbarer Form darzulegen.

Gerade der Steuerbereich unterliegt diversen Compliance-Anforderungen und gesetzlichen Regelungen. Dies ist mit ein Grund, warum steuerrelevante Entscheidungen sowohl eine Kontrollierbarkeit nach innen als auch nach außen ermöglichen sollten. Außerdem regeln diverse Gesetze und Rechte die Behandlung des Individuums, die auch dessen Besteuerung betreffen. Hier sei beispielhaft die Europäische Menschenrechtskonvention mit Artikel 6 („Recht auf ein faires Verfahren“), Artikel 8 („Recht auf Achtung des Privat- und Familienlebens“) und Artikel 14 („Diskriminierungsverbot“) genannt[23]. Auch die DSGVO regelt bspw. in Artikel 22, wie und ob Personen basierend auf automatisierten Entscheidungen behandelt werden, wie es bspw. KI-Lösungen ermöglichen.

Auch wenn sich die Erklärbarkeit von Black-Box-Modellen mit Hilfe von XAI adressieren lässt, sind dem Einsatz entsprechender Methoden auch klare Grenzen gesetzt. Selbst die am weitesten verbreiteten XAI-Ansätze können nicht für sämtliche KI-Modelle herangezogen werden. Denn diese beziehen sich in erster Linie auf klassische Klassifikationsmodelle.

Ein Beispiel für nicht betrachtete Modelle sind sogenannte Autoencoder. Deren Aufgabe ist es, verschiedene Eingabedaten zunächst in eine modellinterne, verdichtete Repräsentation zu überführen und diese im Anschluss wieder so nah wie möglich an die Eingabedaten zu transformieren. Solche Modelle können bspw. zur Anomalieerkennung (vgl. Kapitel Anomalieerkennung) herangezogen werden. Sollen diese Modelle mithilfe von XAI erklärt werden, muss dies indirekt und über Umwege geschehen. Die Autoren Gnoss, Schultz, und Tropmann-Frick zeigen dazu eine mögliche Vorgehensweise, indem die Vorhersagen des Autoencoders genutzt werden, um darauf basierend beschriftete Daten abzuleiten [24]. Diese beschriftete Datenbasis wird genutzt, um ein „traditionelles“ Klassifikationsmodell zu trainieren, welches dann wiederum von den genannten XAI-Methoden erklärbar gemacht werden kann. Das Resultat: ein erheblicher Mehraufwand und keine unmittelbare Erklärung des Ausgangsmodells.

Ebenfalls erwähnt werden muss, dass die Aussagekraft der von XAI-Ansätzen generierten Erklärungen nicht in dem Maße ausfällt, wie es für eine nachvollziehbare Darstellung des Modellverhaltens notwendig wäre. Dadurch kann die für Endanwender erforderliche, vollständige Transparenz und Nachvollziehbarkeit nicht immer sichergestellt werden.