KI-Ethik: RTeKI stellt drei Lösungskonzepte für eine verantwortungsvolle Gestaltung von KI-Systemen vor

Um die sozialen, ökonomischen und ökologischen Risiken von KI-Systemen abzumildern und Nutzungsvorteile gleichzeitig auszuschöpfen, suchen Unternehmen zunehmend nach Maßnahmen für eine verantwortungsbewusste und werteorientierte Entwicklung von KI. Welche Methoden tatsächlich wirksam sind und welche Hürden sich bei der Berücksichtigung ethischer Werte in der KI-Entwicklung stellen, hat die Roundtable-Reihe ethische KI-Entwicklung (RTeKI) der Stiftung Mercator und Gesellschaft für Informatik e.V. (GI) im Verlauf eines Jahres mit insgesamt sieben Roundtable-Veranstaltungen untersucht.

Der Einblick in und Austausch zwischen den 13 teilnehmenden Unternehmen belegte viele Kritikpunkte aus der KI-Ethik-Forschung. Zwar wächst die Liste selbstverpflichtender Ethik-Leitlinien, unternehmensinterner Austauschformate und praktischer Methoden wie Assessment-Verfahren. Jedoch herrscht gleichzeitig nur ein vages Verständnis über die genaue Bedeutung und die Ziele ethischer Prinzipien: Leitlinien sind vielen Mitarbeitenden teils vollkommen unbekannt, Erfahrungswerte zur Umsetzung praktischer Methoden fehlen und Verantwortlichkeiten sind nicht klar geregelt. Zusätzlich wird die Relevanz von Ethik in der KI-Entwicklung von einigen Mitarbeitenden grundlegend angezweifelt.

Um diese Herausforderungen anzugehen und die Selbstwirksamkeit von Mitarbeitenden in KI-entwickelnden Unternehmen zu stärken, haben die Teilnehmenden von RTeKI prototypische Lösungskonzepte für drei verschiedene Handlungsfelder erarbeitet:

1. TOFU-Test (Translating Obligations For Each Use Case) stellt Transparenz und Vergleichbarkeit zu bestehenden KI-Ethik-Praktiken her

Ausgangspunkt dieses Prototyps ist die Annahme, dass Unternehmen je nach Profil sehr spezifische Informationen weiterhelfen können. In Orientierung an Persönlichkeitstest hat die erste RTeKI-Kleingruppe ein Testverfahren konzipiert, mit dem Interessierte herausfinden, welcher „Unternehmenstyp“ sie sind. Dafür bewerten Nutzer*innen ihre KI-Use Cases entsprechend der Relevanz vorgegebener Kriterien (z. B. die Rolle der autonomen Entscheidungsfindung oder die Verarbeitung personenbezogener Daten). Als Ergebnis erhalten Sie Ihren „Typ“ sowie ein Überblick über dazu besonders passende Maßnahmen oder Tools und werden spielerisch für bedarfsgerechte KI-Ethik-Lösungen sensibilisiert. Nach einer ersten Testphase gelangte die Gruppen zu den beiden Thesen, dass sich erstens viele scheinbar unterschiedliche Unternehmen mit nur ca. 4-5 Profilen abbilden lassen. Zweitens hält die Gruppe die Verknüpfung des Tests mit dem zweiten Prototyp, dem „KI-Ethik Repository“ für möglich, sodass sich die für das Testverfahren relevanten Inhalte im Repository finden. Beide Vermutungen müssen durch weitere Tests belegt werden.

2. KI-Ethik Repository sensibilisiert Entscheider*innen für KI-Ethik

Wenn nur wenige Mitarbeitende KI-Ethik im Unternehmen vorantreiben müssen, führt dies häufig zu Überlastungen. Wichtig ist daher, KI-Ethik strukturell anzugehen und als zentrales Thema im Unternehmen zu positionieren. Dies jedoch kann nur gelingen, wenn sich die Führungsebene der Relevanz bewusst ist sowie grundlegende theoretische und praktische Aspekte bekannt sind. Informationen zu KI-Ethik gibt es zwar in großer Fülle, allerdings sind sie nur dezentral verfügbar, z. B. auf Websites von Forschungsinstituten, Bildungseinrichtungen und Fachverbänden. Ziel der zweiten RTeKI-Kleingruppe war es daher, ein exemplarisches Repository mit bestehenden Schulungen und sonstigen Bildungsmaterialien, wissenschaftlichen Forschungsarbeiten, Veranstaltungen und einschlägigen Akteuren aufzusetzen. Als kompakte, aktuelle Zusammenstellung von Informationen zum Thema KI-Ethik ermöglicht das Repository Entscheidungsträger*innen in softwareentwickelnden Unternehmen, nötige Maßnahmen zur Entwicklung von ethischer KI auf den Weg zu bringen. Es hilft aber auch allen anderen KI-Ethik-Interessierten in Bildung, Forschung und Anwendung, das komplexe Thema rasch zu durchdringen. Als Prototyp bietet es eine gute Grundlage, hat jedoch nicht den Anspruch, ein umfassendes oder gar vollständiges Bild über das Thema KI-Ethik zu geben. Angestrebt wird der Aufbau eines langfristigen Beitragenden-Netzwerks, eines Kuratoriums aus Wissenschafts- und Industrievertretenden sowie die Durchführung von Community-Formaten, die die Aktualität, Relevanz und Wirksamkeit der gebotenen Inhalte sicherstellen.

Das Repository ist in Form eines Miro-Boards öffentlich verfügbar. Alle Interessierten sind herzlich eingeladen, selbst Inhalte beizutragen und diese direkt auf dem Board als Kommentar zu hinterlassen, oder sie dem Projektteam per Mail an rteki[at]gi.de zuzusenden.

3. Austauschformate fördern Kollaboration und Wissenstransfer – auch außerhalb der „KI-Bubble“

Dem Problem, dass sich zwar viele Akteure mit KI-Ethik beschäftigen, Know-how jedoch dezentral aufgebaut und kaum zwischen den entsprechenden Akteuren ausgetauscht wird, nahm sich die dritte Teilgruppe an. Sie identifizierte verschiedene Veranstaltungen rund um KI-Ethik und stellte fest, dass sich diese meistens nur an Wissenschaftler*innen oder Industrievertretende, nicht jedoch an beide richten. Das dritte prototypische Konzept ist daher die Etablierung von Veranstaltungs- und Austauschformaten zum Thema KI-Ethik, die gleichermaßen Wirtschaft, Wissenschaft, Zivilgesellschaft und Politik ansprechen. Sie ermöglichen es, bereits geschaffenes Wissen und Good Practices, aber auch Herausforderungen und Bedarfe, zwischen unterschiedlichen Interessengruppen zu teilen. Erstmalig setzte die Gruppe das Konzept als Workshop auf der GI-Jahrestagung, dem INFORMATIK FESTIVAL 2023, um. Hier präsentierten drei teilnehmende Unternehmen zunächst bewährte Verfahren zur Berücksichtigung ethischer Prinzipien in der KI-Entwicklung. Anschließend kamen sie mit dem Publikum, bestehend unter anderem aus Lehrkräften und Wissenschaftler*innen, ins Gespräch.

Den aktuellen Stand und mögliche Perspektiven ihrer prototypischen Konzepte stellten die Gruppen bei der letzten Roundtable-Veranstaltung am 26. September im AI Campus Berlin vor. Bis zum Projektende im Dezember setzen die Teilnehmenden den Austausch fort und suchen nach Möglichkeiten, die drei Prototypen miteinander zu verknüpfen und langfristig in die Anwendung zu bringen. Die Ergebnisse der Roundtable-Reihe und die ihr zugrundeliegende Methodik werden im November 2023 detailliert in einer Abschlusspublikation veröffentlicht.