KI-Ethik methodisch begegnen: Abschlusspublikation zu RTeKI veröffentlicht
Wie bringen wir KI-Ethik aus der Theorie in die Praxis? Dieser Frage sind leitende Vertretende softwareentwickelnder Unternehmen vom Start-up bis zum Konzern und aus verschiedenen Branchen über knapp zwei Jahre hinweg in einer Roundtable-Reihe zu ethischer KI-Entwicklung nachgegangen. Die Abschlusspublikation des Projekts stellt vor, welche Ergebnisse sie erzielt haben und wie sie Design Thinking als zentrale Methode dabei angeleitet hat.
Nicht zuletzt aufgrund des bevorstehenden AI Act greifen Organisationen zunehmend zu selbstverpflichtenden Maßnahmen im Umgang mit ethischen Implikationen von KI-Anwendungen. Hierzu zählt etwa die Veröffentlichung von Ethik-Leitlinien, die Prinzipien wie Fairness, Robustheit und Transparenz nennen. Zweifelhaft allerdings ist, wie wirksam derartige Maßnahmen sind. Vor diesem Hintergrund initierten die Stiftung Mercator und GI die Roundtable-Reihe ethische KI-Entwicklung (RTeKI). Zum Ende der rund zweijährigen Laufzeit stellt die nun veröffentlichte Abschlusspublikation zentrale Ergebnisse und die methodische Vorgehensweise vor.
Welchen Wert haben Ethik-Leitlinien also tatsächlich für softwareentwickelnde Unternehmen? Wie widmen sich Unternehmen ethischen Risiken bei der Entwicklung von KI-Anwendungen? Welche Good Practices, Herausforderungen und Bedarfe zur Berücksichtigung von KI-Ethik gibt es? Und lassen sich dabei Unterschiede zwischen verschiedenen Branchen und Unternehmensgrößen erkennen? Um das zu ermitteln, brachten die Initiatorinnen 13 Unternehmen zusammen: von Predictive Maintenance in der Industrie bis zum Retail, vom Start-up bis zum Konzern. Sie wurden von leitenden Mitarbeitenden aus unterschiedlichen Tätigkeitsbereichen vertreten, die zum einen von den Initiatorinnen identifiziert und akquiriert wurden, zum anderen proaktiv ihr Teilnahmeinteresse äußern konnten. Am 21. Juni 2022 trafen die Teilnehmenden erstmals im Merantix AI Campus aufeinander und setzen ihren Austausch in ca. 2-3-monatlichen Abständen bis November 2023 fort.
Schritt für Schritt zu konkreten Antworten
Methodisch prägte die Reihe der Design-Thinking-Ansatz, der es ermöglichen sollte, sich dem komplexen Thema KI-Ethik Stück für Stück anzunähern. Ziel war es dabei, erstens ein differenziertes Verständnis der verschiedenen Herausforderungen zu bekommen und zweitens den Raum auch für unkonventionelle Lösungen jenseits von weiteren Leitlinien und Whitepapers offen zu halten. Von der Entwicklung eines gemeinsamen Problembewusstseins im ersten Roundtable über die Identifikation von Handlungsfeldern bis zur Erstellung von prototypischen Lösungskonzepten durchliefen die Teilnehmenden somit sieben Sitzungen, in denen die iterative Gegenüberstellung von Problemen und Lösungsmöglichkeiten zu immer konkreteren Antworten führte.
Das Vorgehen ist einzigartig, sowohl in der Zusammenstellung der Teilnehmenden, als auch in der angewendeten Methodik. Es brachte schnell eine Vielzahl von Hürden in der Berücksichtigung von KI-Ethik hervor. Dabei zeigte sich, dass die diesbezüglichen Unterschiede zwischen Unternehmen überraschend gering sind. So haben alle Teilnehmenden mit Aspekten wie mangelnder Klarheit hinsichtlich Verantwortlichkeiten, Prozessen und Expertisen sowie knappen Ressourcen zu kämpfen und widmen sich in allen teilnehmenden Unternehmen nur vereinzelt Personen der KI-Ethik, was mit hoher Überlastung verbunden ist. Diesen Herausforderungen nahmen sich die Unternehmen jedoch auf unterschiedliche Weise an: Während einige Unternehmen bereits standardisierte Tools und Templates zur Berücksichtigung ethischer Aspekte erstellt und andere Austauschformate und Ethik-Gremien etabliert haben, sind andere über die Aufstellung von Leitlinien noch nicht wesentlich hinauskommen – wobei im Projektverlauf festgestellt wurde, dass die Aufstellung von Leitlinien noch lange nicht heißt, dass diese den Entwicklungs-Teams überhaupt bekannt sind.
„Dank der bemerkenswert offenen und konstruktiven Herangehensweise aller Beteiligten an das Thema ist es gelungen, große Baustellen zu erkennen und gleichzeitig viel voneinander zu lernen“, so Julia Meisner, Projektleiterin von der GI. „RTeKI hat den Teilnehmenden gezeigt, wie vielschichtig die Auseinandersetzung mit KI-Ethik ist und dass weder die Aufstellung von Ethik-Prinzipien, noch technische Lösungen allein ausreichen.“
Aus der Schnittmenge der identifizierten Herausforderungen und Handlungsbedarfe kristallisierten sich zur Mitte der Reihe drei zentrale Ziele heraus:
- organisationale Entscheider*innen auf oberster Ebene für KI-Ethik zu sensibilisieren, damit Maßnahmen zur Steigerung der Selbstverantwortung und -wirksamkeit aller involvierten Mitarbeitenden strukturell im Unternehmen verankert werden
- Transparenz und Vergleichbarkeit zwischen den Use Cases und ethischen Pflichten verschiedener Unternehmen und bestehenden Maßnahmen zu schaffen, damit Unternehmen schnell, bewährt und zielgerichtet handeln können
- Wissen zu KI-Ethik effizient zwischen Industrie, Wissenschaft, Zivilgesellschaft und Politik zu teilen, um disziplinspezifische Anforderungen besser zu verstehen, voneinander zu lernen und gemeinsame Antworten auf bestehende Hürden zu finden
Die von den Teilnehmenden hierfür entwickelten prototypischen Lösungskonzepte in Form eines Schulungs- und Wissens-Repository rund um KI-Ethik, einem Testverfahren zur Ermittlung von KI-Ethik-Profilen sowie disziplin- und branchenübergreifenden Austauschformaten stellen zwar Maßnahmen jenseits von Leitlinien „für die Schublade“ dar, gleichzeitig müssen diese nun weiterentwickelt und praktisch erprobt werden, damit auch andere Unternehmen sie nutzen können. Schon jetzt bieten sie aber Anstoß und Inspiration dafür, einen praktischen Zugang zum komplexen Themenfeld KI-Ethik zu finden, das – vielleicht gerade insbesondere – auch mit Inkrafftreten des AI Acts nicht aus dem Blick geraten sollte.
Großer Dank gilt den Vertretenden von ai-omatic solutions, Aleph Alpha, BMW, der Bundesagentur für Arbeit, Continental, Lufthansa Industry Solutions, Microsoft, ML6, team neusta, Deutsche Telekom, SAP, VW und Zalando, die die Reihe mit ihrer Expertise, ihrer Zeit und ihrem Engagement unterstützt und bereichert haben! Besonderer Dank gilt weiterhin dem Merantix AI Campus, in dessen Räumen die Reihe verwirklicht werden konnte. Anlässlich des Projektabschlusses findet hier am 24. Januar ein öffentliches Closing Event statt, zu dem alle Interessierten herzlich eingeladen sind. Programm und Anmeldung unter: https://gi.de/veranstaltung/roundtable-reihe-ethische-ki-entwicklung-closing-event
Die Abschlusspublikation steht zum Lesen und Download bereit unter https://gi.de/fileadmin/PR/Roundtable-KI/RTeKI_Abschlusspublikation_digital.pdf.
