Künstliche Intelligenz verändert, wie Entscheidungen getroffen, Informationen vermittelt und Wert geschaffen werden. Damit diese Entwicklung ihr Potenzial entfalten kann, muss KI verstanden, verantwortungsvoll gestaltet und sinnvoll in Organisationen und Gesellschaft eingebettet werden.
Wir untersuchen künstliche Intelligenz als sozio-technisches Phänomen auf drei Ebenen:
- Wie beeinflusst KI individuelle Entscheidungen, Wahrnehmungen und Identitätsprozesse?
- Wie prägen technische Architekturen und Plattformlogiken Informationsräume und gesellschaftliche Machtstrukturen?
- Welche organisatorischen sowie institutionellen Rahmenbedingungen sind notwendig, damit KI langfristig legitim und verantwortungsvoll eingesetzt werden kann?
Im Zentrum steht dabei das Zusammenspiel von Mensch, KI und Organisation.
Unsere Forschung folgt dabei einem übergreifenden Dreiklang:
- KI verstehen – Wie beeinflusst KI individuelle Entscheidungen, Wahrnehmung und Identität?
- KI gestalten – Wie lassen sich KI-Systeme technisch, ökonomisch und normativ verantwortungsvoll gestalten?
- KI einbetten – Wie kann KI dauerhaft und legitim in Organisationen und Gesellschaft verankert werden?
Diese drei Perspektiven strukturieren unsere Forschungsarbeiten, Projekte und Transferaktivitäten.
KI verstehen: Individuelle Entscheidungen, Wahrnehmung und Identität
Mensch–KI-Interaktion und individuelle Entscheidungsprozesse analysieren
KI-Systeme unterstützen oder automatisieren zunehmend menschliche Entscheidungen. Besonders in folgenreichen, zeitkritischen oder emotional aufgeladenen Situationen entsteht ein Spannungsfeld zwischen algorithmischer Präzision, subjektiver Wahrnehmung und individueller Verantwortung. KI beeinflusst dabei nicht nur die Entscheidungsqualität, sondern auch Selbstbild, Lernverhalten und Zuschreibungsprozesse. In diesem Schwerpunkt analysieren wir die kognitiven und situativen Bedingungen der Mensch–KI-Interaktion sowie deren Folgen für individuelles Handeln.
In diesem Schwerpunkt untersuchen wir:
- wie Menschen algorithmische Empfehlungen wahrnehmen, bewerten und in ihre Entscheidungsprozesse integrieren,
- unter welchen Bedingungen Vertrauen, Akzeptanz oder algorithmische Skepsis entstehen und wieder verloren gehen,
- wie KI Verantwortungszuschreibungen, Erfolgsattributionen und Selbstwirksamkeit verändert,
- wie KI Identitätsbildung und Lernverhalten beeinflusst, etwa durch den Einsatz von Generativer KI in Bildung und Wissensarbeit.
Ein besonderer Fokus liegt darauf, Entscheidungsprozesse mit KI realistisch zu modellieren und Ansatzpunkte für einen reflektierten, verantwortlichen Umgang auf individueller Ebene abzuleiten.
KI gestalten: Systeme, Plattformlogiken und strukturelle Effekte
Die sozio-technische Architektur von KI gestalten
KI ist kein neutraler Akteur. Technische Designentscheidungen, Dateninfrastrukturen und Plattformlogiken bestimmen, welche Informationen sichtbar werden, wessen Perspektiven privilegiert sind und welche Gruppen strukturell benachteiligt werden. KI-basierte Systeme beeinflussen damit nicht nur individuelle Entscheidungen, sondern prägen Informationsräume, Marktstrukturen und gesellschaftliche Machtverhältnisse. In diesem Schwerpunkt untersuchen wir die technischen, ökonomischen und normativen Voraussetzungen verantwortungsbewusster KI-Gestaltung.
In diesem Schwerpunkt untersuchen wir:
- wie KI-basierte Plattformen durch algorithmische Personalisierung informationslimitierende Umgebungen (z. B. Filterblasen) erzeugen und wie diese reduziert werden können,
- wie Fairness, Transparenz und Nachvollziehbarkeit in KI-Systemen technisch umgesetzt und überprüfbar gemacht werden können,
- wie Bias, Diskriminierung und strukturelle Benachteiligung (z. B. im Kontext von Geschlecht oder anderen marginalisierten Gruppen) entstehen und reduziert werden können,
- wie KI-basierte Plattformökonomien neue Machtstrukturen, Abhängigkeiten und Formen der Privatisierung digitaler Öffentlichkeit hervorbringen.
Ein besonderer Fokus liegt auf der Entwicklung konkreter Gestaltungsansätze, die technische Leistungsfähigkeit mit gesellschaftlicher Verantwortung und einer kritischen Reflexion ökonomischer Machtwirkungen verbinden.
KI Einbetten: Governance, Organisation und gesellschaftliche Verantwortung
Institutionelle und strategische Rahmenbedingungen für KI entwickeln
Damit KI langfristig legitim und gesellschaftlich akzeptiert eingesetzt werden kann, muss sie in geeignete organisatorische und institutionelle Strukturen eingebettet sein. Verantwortung entsteht nicht allein durch technisches Design, sondern durch klare Zuständigkeiten, Prozesse, Kontrollmechanismen und strategische Zielsetzungen. Organisationen agieren dabei nicht isoliert, sondern innerhalb von Wertschöpfungsnetzwerken, Plattformökosystemen und regulatorischen Rahmenbedingungen.
In diesem Schwerpunkt untersuchen wir:
- wie organisationale KI-Governance aufgebaut, implementiert und kontinuierlich weiterentwickelt werden kann,
- welche Rollen, Kompetenzen und Ressourcen für Entwicklung, Monitoring und verantwortlichen Einsatz von KI erforderlich sind und wie Nutzer:innen befähigt werden können, KI-Systeme kritisch zu reflektieren,
- wie Unternehmen KI in Kooperation mit Partnern und innerhalb von Innovations- und Plattformökosystemen entwickeln und steuern,
- wie KI im Einklang mit gesellschaftlichen Zielen eingesetzt werden kann, etwa im Bereich Menschenrechte, digitale Souveränität, Teilhabe und Nachhaltigkeit.
Ein besonderer Fokus liegt auf der Entwicklung strategischer Governance-Modelle, die langfristige ökonomische und gesellschaftliche Wirkungen von KI systematisch berücksichtigen und aktiv gestalten.