Ethische KI – aber wie? Das war der RTeKI-Workshop auf der re:publica 2023
Warum ist die Berücksichtigung ethischer Werte in der KI-Entwicklung wichtig? Und wie kann sie gelingen? Diese Fragen lotete das Projektteam der „Roundtable-Reihe ethische KI-Entwicklung“ (RTeKI) auch mit den Teilnehmenden der diesjährigen re:publica Berlin aus. Im Workshop diskutierten sie Anforderungen an KI-Systeme und zeigten Möglichkeiten und Grenzen einer ethischen KI-Entwicklung aufgezeigt.
Am 5. Juni sammelte sich schon eine halbe Stunde vor Beginn eine große Menschentraube vor der kleinen Bühne im Glashaus der Arena Berlin. Kein Wunder: Mit dem Einzug generativer KI-Systeme wie ChatGPT in den Alltag von immer mehr Menschen, hatten die öffentlichen Debatten rund um künstliche Intelligenz wenige Wochen vor der re:publica, Europas größter Konferenz für digitale Gesellschaft und Netzkultur, rasant an Fahrt aufgenommen.
Welche Maßnahmen hilfreich sein können, um den sozialen, ökonomischen und ökologischen Auswirkungen algorithmischer Systeme im Allgemeinen und generativer Systeme im Speziellen zu begegnen und KI-Anwendungen wertebasiert zu gestalten, untersucht das Projekt RTeKI bereits seit einem Jahr. Ziel des Workshops auf der re:publica war es nun, diese Frage auch mit Vertreter*innen aus der Zivilgesellschaft zu erörtern und dabei erste Erkenntnisse aus dem Projekt in die Breite zu tragen.
Die Workshop-Leitenden Julia Meisner und Linda Schwarz von der Gesellschaft für Informatik e.V. starteten mit einer kurzen Einführung in KI-Ethik und bestehende Maßnahmen, wie unternehmensinterne Ethik-Leitlinien, oder politische Regulierungsvorhaben wie der AI Act. Sie stellten das Fallbeispiel KI-basierte Zusammenfassung eines Online Bewerbungsgesprächs vor, zu dem die Teilnehmenden anschließend selbst aktiv wurden: Sie diskutierten, welches Problem das KI-Tool lösen soll und welche Folgen dessen Einsatz besten- oder schlimmstenfalls haben könnte. Darauf aufbauend arbeiteten die Teilnehmer*innen in einem Aktionsplan aus, mit welchen Maßnahmen das Positivszenario realisiert bzw. das Negativszenario abgewendet werden könnte.
Während sich bei RTeKI ausschließlich Vertreter*innen softwareentwickelnder Unternehmen über KI-Ethik austauschen, wollte der Workshop bewusst Zielkonflikte herauskitzeln, die im Aufeinandertreffen verschiedener Expertise- und Anspruchsgruppen entstehen. Die Workshop-Teilnehmenden teilten sich daher in vier Gruppen mit einer je anderen Perspektive auf: Technisch (Entwickler*innen), rechtlich (Jurist*innen), unternehmerisch (anwendende Unternehmen) und zivilgesellschaftlich (Bewerber*innen).
In der finalen Paneldiskussion war es bemerkenswert zu sehen, wie konstruktiv und differenziert die Teilnehmenden sich mit dem KI-System auseinandersetzten. Alle Gruppen hatten sich auf ein positives Szenario geeinigt und hielten dieses mit der konsequenten Einhaltung weniger Maßnahmen für realistisch. So forderten die Entwickler*innen beispielsweise Checklisten für die Überprüfung der Systeme – eine Aufforderung an Politik, Rechtwissenschaft und Zivilgesellschaft. Andersherum forderten die Vertretenden der Zivilgesellschaft und Rechtswissenschaft, dass KI-Systeme ihre Entscheidungen – wie in analogen Bewerbungsprozessen – dokumentieren, sodass menschliche Recruiter*innen oder Betriebsräte sie verstehen können. Kontrovers wurde die Debatte für die unternehmerische Perspektive bei der Frage, wem die KI-Anwendung eigentlich nützt und welches Ziel sie verfolgen soll (auch bekannt und diskutiert als AI Alignment). In einem Bewerbungsprozess ginge es demnach grundlegend um die Auswahl bestimmter Personen nach bestimmten Kriterien und den Ausschluss zahlreicher anderer Personen, die diese Kriterien nicht erfüllen – Diskriminierung sei diesem Prozess also inhärent.
KI-Entwicklung, in der ethische Werte berücksichtigt werden, ist gemäß den Diskussionen im Workshop kein unrealistisches Marketingversprechen. Vielmehr bestätigten die Teilnehmenden, wie wichtig eine wertebasierte KI-Gestaltung ist und dass bestehende Maßnahmen bereits auf einem guten Weg sind, diese sicherzustellen. Gleichzeitig ist der weitere intensive Austausch zwischen verschiedenen Interessen- und Betroffenengruppen essentiell, um einerseits die Komplexität von KI(-Ethik) von allen Seiten zu durchdringen und andererseits zu einer kollektiven Verbesserung und Dissemination von Ethik-Maßnahmen beizutragen.
Eine Zusammenfassung gibt es zum Nachhören auch im radioeins-Beitrag von Julia Vismann, die den Workshop begleitet hat: https://www.radioeins.de/programm/sendungen/sondersendung/republica/ethische-ki-aber-wie.html
Auch WDR „Kulturzeit“ thematisierte KI auf der re:publica, mit Statements des RTeKI-Teams und der Workshopleitungen Linda Schwarz und Julia Meisner (ab 15:43): https://www.3sat.de/kultur/kulturzeit/an-der-front-der-ukrainische-fotograf-maxim-dondyuk-100.html
