Ein internationales Team hat ein Handbuch zur künstlichen Intelligenz (KI) entwickelt, das darauf abzielt, die Transparenz und das Vertrauen in diese disruptive Technologie zu verbessern, insbesondere in Bereichen wie Gesundheitswesen, Finanzen und Recht.
Koordiniert von der Universität Granada (UGR), bietet dieses Dokument eine Methode zur Überprüfung und Zertifizierung der Ergebnisse komplexer Modelle und trägt zur Entwicklung von KI-Systemen bei, die sowohl effektiv als auch verständlich sind.
In den letzten Jahren hat die Nutzung automatisierter Entscheidungshilfesysteme, wie z.B. Deep Neural Networks (DNN), aufgrund ihrer Vorhersagefähigkeiten erheblich zugenommen. Ihre opake Natur erschwert jedoch die detaillierte Interpretation ihres Verhaltens und wirft ethische und legitimitätsbezogene Bedenken auf.
Um dieses Problem anzugehen, hat das UGR-Team einen umfassenden Leitfaden zu erklärbarer künstlicher Intelligenz (XAI) vorgestellt.
Dieses Dokument soll als wesentlicher Leitfaden für IT-Profis dienen, die die Ergebnisse von Machine-Learning-Modellen verstehen und erklären möchten. Jedes Kapitel beschreibt anwendbare KI-Techniken für alltägliche Situationen, ergänzt durch Beispiele und Arbeitshefte.
Der Leitfaden wird von Professorin Natalia Díaz Rodríguez vom Department für Informatik und künstliche Intelligenz der UGR geleitet, die auch Mitglied des Andalusischen Interuniversitären Instituts für Datenwissenschaft und Computerintelligenz (Instituto DaSCI) ist.
„Es ist wichtig, sich der Fähigkeiten und Grenzen sowohl fortgeschrittener KI-Modelle als auch der Erklärbarkeitstechniken bewusst zu sein. Manchmal sind die Erklärungen nicht zufriedenstellend oder leicht überprüfbar,” bemerkte Díaz.
Diese Arbeit wurde während des Aufenthalts von Professorin Díaz am Polytechnikum Paris durchgeführt und umfasst eine internationale Zusammenarbeit mit Experten aus dem Vereinigten Königreich, Frankreich und Österreich sowie anderen Ländern.