Verantwortungsbewusste Künstliche Intelligenz

KI, einst Gegenstand der menschlichen Fantasie und Stoff für Science-Fiction-Romane, wird branchenübergreifend zunehmend zur Realität. Fortschritte bei der Rechenleistung und die Verfügbarkeit von enormen Datenmengen haben dazu geführt, dass Unternehmen in großem Umfang in die Leistungsfähigkeit von KI-Lösungen investieren. Anders als in dystopischen Science-Fiction-Romanen geht es beim derzeitigen Einsatz von KI allerdings nicht darum, Maschinen die Kontrolle über die Welt zu übertragen. Vielmehr haben die hohe Genauigkeit von KI und die ihr zugrundeliegenden Algorithmen das Potenzial, die menschliche Entscheidungsfindung zu optimieren und zu erheblichen wirtschaftlichen Vorteilen zu führen.

Dabei ist der Gedanke Entscheidungsprozesse von menschlichen Entscheidungsträgern durch Automatisierung von Entscheidungsprozessen zu optimieren nicht neu. Jahrzehntelange Forschungsergebnisse zeigen, dass Algorithmen in vielen Entscheidungssituationen präzisere Prognosen erstellen können als Menschen. Die jüngsten bedeutenden Investitionen in KI scheinen jedoch im Widerspruch zu aktuellen Akzeptanzraten zu stehen. Mehrere Studien haben gezeigt, dass Menschen algorithmischen Ergebnissen in einer Vielzahl von Entscheidungsbereichen misstrauen, ein Phänomen, das als „Algorithmus-Aversion“ bezeichnet wurde. Experten, aber auch Laien wollen sich oftmals nicht auf Algorithmen verlassen und ziehen eine menschliche Prognose der eines Algorithmus vor.

Dieses generelle Misstrauen ist kostspielig und gefährdet optimale Entscheidungsergebnisse. Aus diesem Grund widmet sich der Forschungsbereich Faktoren, die einen Einfluss auf die Bewertung von Algorithmen haben. Dabei wird auch auf Fragestellungen eingegangen, wie fair Algorithmen eigentlich sein können und wie wir nachhaltig eine erfolgreiche Zusammenarbeit von Mensch und Maschine sicherstellen können.

In einer Welt, in der KI immer stärker in unserem Alltag präsent ist, ist es wichtiger denn je, die möglichen negativen Auswirkungen dieser Technologie zu verstehen und zu minimieren. Mit unseren Forschungsarbeiten zu den Bereichen KI-Fairness und Algorithmic Accountability, versuchen wir zur verstehen, wie KI-Systeme zu schädlichen Auswirkungen führen können und wie sie gestaltet werden müssen, damit Unternehmen und Individuen gleichermaßen von den Vorteilen von KI profitieren, ohne dabei die Rechte und Würde von Menschen zu verletzen. Dabei untersuchen wir, wie Unternehmen ethische und rechtliche Anforderungen, die aus der Entwicklung und Nutzung von KI entstehen, umsetzten können.

KI ist immer wieder aufgrund der Diskriminierung und Benachteiligung marginalisierter Gruppen in den Schlagzeilen. Tatsache ist, dass KI nur ein Spiegel unserer Gesellschaft ist und das zeigt, was bisher in unserer Gesellschaft und Wirtschaft schon vorhanden ist. Damit KI einen entscheidenden Beitrag zur Erfüllung der Menschenrechte leistet und zur Erreichung der Sustainable Development Goals (SDGs) beiträgt, brauchen Unternehmen eine Governance für KI. Die Aufgabe dieser KI Governance ist es sicherzustellen, dass die Entwicklung und der Einsatz von KI im Unternehmen den Zielen des Unternehmens folgt, Regulierungen beachtet und ethische Prinzipien nicht verletzt. Organisatorische KI Governance ist noch ein junges Forschungsfeld und steht auch in vielen Unternehmen noch ganz Anfang. KI Governance ist aber sehr entscheidend, weil sie den Rahmen schafft für zukünftigen Auswirkungen von KI auf unsere Wirtschaft und Gesellschaft.

In der Praxis erfordern die Aktivitäten, die für die Entwicklung und Implementierung von System der künstlichen Intelligenz in Geschäftsbereichen erforderlich sind – von der Datenerfassung und -aufbereitung über das Modelltraining bis hin zur kontinuierlichen Überwachung und Wartung – (neue) und vielseitige (digitale) Fähigkeiten und Ressourcen, die in der Regel in einem Unternehmen oder bei einem einzelnen Anbieter nur schwer zu finden sind. Unternehmen müssen daher große organisatorische Veränderungen vornehmen und/oder mit bestehenden und neuen Partnern zusammenarbeiten, um Zugang zu den erforderlichen Fähigkeiten und Ressourcen zu erhalten.

Mit unserer Forschung zu KI-Ökosystemen versuchen wir aus verschiedenen Perspektiven zu verstehen, welche Strukturen, Rollen, Fähigkeiten und Ressourcen neben den notwendigen (technischen Komponenten) für die Realisierung eines KI-Systems unerlässlich sind sowie welche Geschäftsmodelle und welche Herausforderungen und Potenziale mit dieser Form der Wertschöpfung verbunden sind.