KI-Ethik revisited: Das war die RTeKI-Abschlussveranstaltung

Ein gleichzeitig aufregender und trauriger Anlass sei die Veranstaltung – so eröffnete Julia Meisner, Projektleiterin der Roundtable-Reihe ethische KI-Entwicklung (RTeKI) den Abend. Traurig, da das Event den Abschluss der Reihe markiert, die die Stiftung Mercator und GI rund zwei Jahre lang gemeinsam umgesetzt haben. Aufregend, da der Zeitpunkt für Diskussionen darüber, wie sich KI-Anwendungen fair und sicher gestalten lassen, kurz nach der gemeinsamen Einigung der EU-Kommission, des Europaparlaments und des Europäischen Rats über den Gesetzesentwurf zum AI Act, jedoch noch vor dessen Inkrafttreten und seiner konkreten Umsetzung, wohl kaum passender sein konnte.

Mit Blick auf den AI Act, der die Pflichten von Unternehmen in Bezug auf KI-Anwendungen verbindlich regeln und Verstöße sanktionieren soll, war 2022 auch RTeKI gestartet. Das Projekt brachte 13 Unternehmen vom Start-up bis zum Konzern und aus verschiedenen Branchen zur Frage zusammen, welche Maßnahmen Unternehmen (ob im Vorgriff auf die Rechtsdurchsetzung oder motiviert durch intrinsisches Wertebewusstsein) bereits freiwillig ergreifen, um kontrollierbare, sichere und gemeinwohlorientierte Systeme zu entwickeln. Dass weder ein Rechtsrahmen, noch Werteorientierung im Widerspruch mit der Innovations- und Wettbewerbskraft von Unternehmen stehen müssen, machte unter anderem Carla Hustedt, Leiterin des Bereichs Digitalisierte Gesellschaft bei der Stiftung Mercator, in ihrem Impulsvortrag deutlich. Zentral seien jedoch konkrete Handlungsempfehlungen für statt abstrakter Diskussionen über den verantwortungsvollen Umgang mit KI.

Wie solche Handlungsempfehlungen aussehen können, stellte Dr. Sebastian Wieczorek, Global Lead AI Ethics bei SAP und RTeKI-Teilnehmer, in seiner Keynote vor. Grundlegend sei bei SAP ein geteiltes Werteverständnis, dessen Berücksichtigung und praktische Umsetzung dedizierte Ethik-Teams und -Boards sowie konkrete Policies vorantreiben. Die teils bereits gut etablierten Maßnahmen müssten aber stets auf technologische Weiterentwicklungen angepasst werden. So stellen etwa generative KI-Modelle neue Herausforderungen an Methoden zur Förderung von Transparenz und Erklärbarkeit.

Nach einer Präsentation der in der Reihe erzielten Ergebnisse durch Julia Meisner eröffnete Moderator Nikolas Becker, Teamleiter Politik & Wissenschaft bei der GI, die abschließende Diskussionsrunde mit Hanna Behnke, Team Lead Machine Learning Project Management bei Merantix Momentum, Rainer Rehak, Wissenschaftlicher Mitarbeiter am Weizenbaum-Institut, RTeKI-Teilnehmerin Maike Scholz, Senior Compliance Expert bei der Deutschen Telekom, und Tim Vallée vom gemeinnützigen Verein Beyond AI Collective. Zentral war dabei die Frage, welchen Wert KI-Ethik gegenüber dem AI Act noch hat. Braucht es „schwammige“ Ethik, wenn verbindliche Regeln und Saktionen auf Unternehmen zukommen? Trotz ihrer unterschiedlichen Verankerungen in der Wissenschaft, Zivilgesellschaft und Industrie waren sich die Panelists hier einig: Ethik bleibe ein unabdingbares Instrument, um den Sinn von Regulierugsmaßnahmen überhaupt zu verstehen und beständig zu überpüfen, ob diese uns auch effektiv schützen. Auch helfe Ethik dabei, den Einfluss von KI als soziotechnisches System auf die Gesellschaft umfassend wahrzunehmen – und gleichzeitig den Einfluss, den Menschen selbst auf KI-Systeme haben. Eine bedeutende Aufgabe sei es in diesem Sinne auch, Regulierungsvorhaben als partizpatorische Chance zu verstehen, die von wirtschaftlichen und dringend auch zivilgesellschaftlichen Akteur*innen gestaltet werden kann und sollte. Dass viele Aspekte zur Nachhaltigkeit und zum Schutz von Menschenrechten lange aus dem Geltungsrahmen des AI Acts ausgeklammert wurden, zeige unter anderem, dass hier noch großer Diskussions- und Ausgestaltungsbedarf bestünde.

Weitere Ergebnisse aus der Reihe stehen unter https://roundtable-ki.gi.de/ zum Nachlesen und zum Download bereit.