Paper über die mögliche Diskriminierung bei der Studienberatung
Auf der AMCIS 2021 haben Daniel Schömer, Sven Laumer, Karl Wilbers, Tobias Wolbring, Jonas Weigert und Dr. Edgar Treischl heute ihr Paper „Data-driven Student Advisory and Potential Direct Discrimination: A Literature Review on Machine Learning for Predicting Students‘ Academic Success“ vorgestellt. Es wurde als eines der 25 besten Paper ausgezeichnet, was ein toller Erfolg für die Autoren ist.
In der Studie wurden systematisch wissenschaftliche Arbeiten über künstliche Intelligenz untersucht. Dabei wurde identifiziert, welche von ihnen sensible Attribute zur Vorhersage des akademischen Erfolgs von Studenten verwenden, die aufgrund rechtlicher Beschränkungen nicht in den Entscheidungsprozess einfließen dürften. Ziel war es, herauszufinden, welche Attribute verwendet wurden, die möglicherweise zu einer direkten Diskriminierung bei der datengesteuerten Studienberatung führen könnten.
Die Untersuchung zeigt, dass von 95 betrachteten Studien über 52 Prozent mindestens ein diskriminierendes Merkmal verwenden. Dies unterstreicht deutlich die Notwendigkeit, kausale Mechanismen zu erforschen, um potenzielle Diskriminierung zu verhindern oder alternative Lösungen zu finden, ohne problematische Merkmale zu verwenden.