Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO
Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO

Verantwortliche KI-Gestaltung

Warum KI verantwortungsvoll gestaltet werden muss

  • Auf welche Ziele hin optimieren wir das algorithmische System?
  • Benachteiligt mein KI-System bestimmte Gruppen?
  • Sind Ergebnisse und folgende Entscheidungen für alle Beteiligten nachvollziehbar?
  • Welche unerwünschten Folgen hat der Einsatz des KI-Systems? Welche externen oder internen Stakeholder sind davon betroffen?
  • Sind bestehende Kontrollprozesse ausreichend? Welche Handlungsautonomie hat der Einzelne gegenüber dem System?
  • Stehen die ökologischen Kosten des Systems, bspw. im Hinblick auf den Ressourceneinsatz in einem angemessenen Verhältnis zu seinen Vorteilen?
  • Welche Kompetenzen brauche ich in Zukunft für den Einsatz und das Monitoring des Systems?

Diese und viele weitere Fragen sollten Sie sich stellen, wenn Sie die Entwicklung oder Nutzung von Algorithmen, insbesondere von KI- und ML-basierter Systeme, planen. Nur der verantwortungsvolle Einsatz von KI-Systemen ist langfristig erfolgreich.

Mit unserem Ansatz von »Verantwortlicher KI-Gestaltung« helfen wir Ihnen dabei, die gesellschaftlichen Anforderungen an KI-Systeme zu erheben, relevante ethischen Fragen zu identifizieren (AI Ethics Foresight) und geeignete Maßnahmen für einen verantwortungsvollen Umgang zu entwickeln und umzusetzen. Ziel ist es dabei, den übergeordneten Themen der gesellschaftlichen Akzeptanz, der organisationalen Kontrolle (AI Governance) oder der unternehmenskulturellen Einbettung (RAI corporate culture) gerecht zu werden.

Unsere Leistung – Ihr Mehrwert

Nachhaltig

Sie sorgen für eine langfristig erfolgreiche, sichere und nachhaltige Integration und Nutzung von KI-Technologien.

Verantwortlich

Wir entwickeln mit Ihnen Maßnahmen z.B. mit Governance-Standards & Prozessen für einen verantwortlichen Umgang mit KI.

Individuell

Wir betrachten die Auswirkungen des KI-Projekts in Ihrem Unternehmenskontext und gestalten mit Ihnen eine auf Sie zugeschnittene »KI-ready«-Organisationskultur.

Vorausschauend

Sie identifizieren neue Potenziale für Ihr Unternehmen – von Services über Angebote, Marktnischen, Positionierungschancen Nutzungspfade bis hin zu innovativen Geschäftsmodelle. Sie positionieren sich als vertrauenswürdiger Wettbewerber.

Vertrauensbildend

Sie verbessern ihre Kundenbindung und stärken das Vertrauen Ihrer Mitarbeitenden.

Neutral und objektiv

Profitieren Sie von unseren wissenschaftlich basierten Methoden und aktuellen Forschungsergebnissen für neutrale und maßgeschneiderte Empfehlungen.

Wirtschaftlich

Wir haben bei der Entwicklung neuer Lösungen auch immer mögliches Einsparungspotenzial im Blick.

Wissenschaftlich fundiert verantwortungsvolle KI einführen

Mit unserem interdisziplinären Forschungsteam bieten wir Ihnen ein ganzheitliches Vorgehen: Wir integrieren technische und gesellschaftliche Aspekte sowie organisationale Maßnahmen rund um die Themen

  • Governance
    Organisationsstruktur, Team-Verantwortlichkeiten, Audits, Monitorings, interne Prozesse und Standards
  • Kultur
    Leitbilder, Führungskultur, Teamnormen, Kommunikationsstandards
  • Ökosystem
    externe Gremien, Audits durch Dritte, Stakeholder-Dialoge

Dabei greifen wir auf erprobte wissenschaftlich basierte Foresight- sowie Impact Assessment-Methoden zurück.

Unser Vorgehen für Ihre Einführung verantwortungsvoller KI

Damit Ihr KI-Projekt kein reines IT-Projekt wird, zeigen wir Ihnen, wie Sie den technischen Blick auf Algorithmen und KI-Systeme für breitere Perspektiven und Maßnahmen öffnen können. Dafür ist es notwendig, unterschiedliche Disziplinen und Abteilungen im Projekt zu integrieren und bei der Gestaltung von Maßnahmen zu berücksichtigen.

Neben technischen Themen wie Entwicklung, Integration und Beschaffung nehmen wir weitere interne Perspektiven in den Blick. Dazu gehören betroffene Stakeholder, potenziell Nutzende sowie auch Bereiche wie Policy, Controlling/Compliance, CSR/Marketing.

Grundsätzlich lässt sich das Vorgehen in vier Schritte unterteilen:

1.  Foresight

Durch unterschiedliche Foresight-Methoden (qualitativ, quantitativ, partizipativ) identifizieren wir gemeinsam mit Ihnen potenzielle Auswirkungen.

2. Assessment

Die unterschiedlichen Auswirkungen werden bewertet (Relevanz, Wahrscheinlichkeit, Auswirkungsstärke, Priorisierung).

3. Maßnahmenentwicklung

Wir entwickeln passgenaue Maßnahmen (Governance-Instrumente, Kulturentwicklung, ext. Kooperationen, technische Anpassungen), die sich für Ihre individuelle Unternehmenssituation eignen.

4. Umsetzung

Wir begleiten Sie bei der Implementierung der entwickelten Maßnahme und unterstützen Sie beim Monitoring der Wirkung.

Sie planen den Einsatz eines algorithmischen Systems oder einer KI-Technologie? Dann vereinbaren Sie ein unverbindliches Beratungsgespräch mit uns. Unsere Expert*innen besprechen mit Ihnen mögliche Herausforderungen und Befürchtungen bei der Implementierung Ihres Systems. Unabhängig davon, ob dieses intern oder extern eingesetzt werden soll: es sollte verantwortungsvoll sein! Gerne entwickeln wir mit Ihnen den für Sie passenden Lösungsansatz.

Referenzen und weitere Informationen

 

Responsible AI Learning Lab

Künstliche Intelligenz hat großes Potenzial, einen gesellschaftlichen Mehrwert zu leisten. Doch wie können wir darauf vertrauen, dass KI keine Entscheidungen trifft oder Maßnahmen erlässt, die wir für unfair oder unethisch halten würden?
Das Responsible AI (RAI) Learning Lab bietet die Möglichkeit sich intensiv mit Chancen und ethischen Herausforderungen der Zukunftstechnologie auseinanderzusetzen.

 

 

 

 

© Fraunhofer IAO, Illustration: Thomas Kuhlenbeck

Projektvorstellung

Ethische Normen für KI in der Praxis

Wie vermeidet man, dass Künstliche Intelligenz Menschen diskriminiert? Antworten auf diese Frage sucht der Weltkonzern Microsoft.

mehr

Blogbeiträge