Prof. Dr. Christian Meske hat in dieser Woche zusammen mit Niklas Kühl vom Karlsruhe Institute of Technology (KIT) sowie Jodie Lobana von der McMaster University (Hamilton, Kanada) den Paper-a-Thon auf der International Conference on Information Systems 2019 (VHB-Rank: A) gewonnen. Das finale Thema lautete „Do you comply with AI? – The impact of personalized explanations of learning algorithms on compliance behavior“.

Das Paper fokussiert auf Machine Learning-Algorithmen als „Black Boxes“ und adressiert die Situation, dass basierend auf unterschiedlichen Hintergründen der User (Erfahrungen, Ausbildung, etc.) auch unterschiedliche mentale Modelle über die Realität und somit die Algorithmen im Arbeitskontext existieren. Dadurch wird eine Modell-spezifische Personalisierung von Erklärungen („Explainable AI“) notwendig, die wiederum einen Einfluss auf Vertrauen, Compliance Behavior und letztlich Task Performance haben. Erste Ergebnisse aus einer qualitativen Studie unterstützen diese Annahmen, die in einem Folgeprojekt quantitativ getestet werden.