Von Chatbots und Kitaplatzvergaben: Wie die öffentliche Verwaltung KI & Algorithmen ethisch einsetzen kann

Den einen geht es nicht schnell genug, den anderen fehlt eine nachhaltige Kulturveränderung. Die meisten sind sich in einem Punkt jedoch einig: Wir brauchen eine digitale öffentliche Verwaltung. Deshalb geht es längst nicht mehr um das „Ob“, sondern um das „Wie“! In ihrer Session beim Creative Bureaucracy Festivals 2021 diskutieren Julia Gundlach und Lajla Fetic, wie die öffentliche Hand Algorithmen und Künstliche Intelligenz fürs Gemeinwohl einsetzen kann, geben Beispiele aus ganz Deutschland und Anregungen, wie ethischen Prinzipien in die Praxis kommen.

Am Beispiel der Kita-Patzvergabe zeigt Julia Gundlach auf, wie Kitaleitungen algorithmische Systeme nutzen können, um die mühsame Vergabe auf kommunaler Ebene effizienter und gerechter zu gestalten. Eine Forschungsgruppe am ZEW – Leibniz-Zentrum für Europäische Wirtschaftsforschung in Mannheim 2017 hat dafür eine Software entwickelt, die im Kreis Steinfurt seit einigen Jahren zum Einsatz kommt. Das Beispiel illustriert, welche Verbesserungen für Eltern und Kitaleitungen ermöglicht werden können. Die Grundlage dafür ist ein partizipativ erarbeiteter und einheitlicher Kriterienkatalog, der dem Algorithmus zu Grunde liegt. Doch auch der beste Algorithmus kann keine neuen Betreuungsplätze schaffen. Der Ausbau muss parallel zur Verbesserung des Vergabesystems vorangetrieben werden.

Welche Kriterien bei der Gestaltung und dem Einsatz von Algorithmen wichtig sind, stellt Lajla Fetic vor: Es gibt weltweit über 200 KI-Ethik Guidelines. Oft fehlt es aber an einem Transfer in die Praxis und Verbindlichkeit. Um diese Lücke zu schließen, hat die Bertelmanns Stiftung zusammen mit dem iRights.Lab und 500 Beteiligten neun Gestaltungskriterien – die Algo.Rules – entwickelt. Sie wenden sich dabei nicht nur an Entwickler: innen, sondern auch an Verantwortliche in den Verwaltungen selbst.

Eine der Algo.Rules verdient im öffentlichen Sektor besondere Aufmerksamkeit: Kompetenzaufbau! Die verantwortlichen Personen brauchen dabei nicht unbedingt Coding-Skills, sondern ein gutes Verständnis über die Möglichkeiten und Grenzen algorithmischer Systeme. Die in der Session vorgestellte Handreichung für die digitale Verwaltung zeigt für diese und die anderen Regeln auf, was es bei der Planung, der Entwicklung und dem Einsatz von KI und Algorithmen zu beachten gilt. Beispiele von Chatbots und Predictive Policing Anwendungen sowie konkrete Anleitungen geben Hinweise, wie man die Vorschläge gleich selbst in der eigenen Behörde umsetzen kann.

Zum Abschluss gibt es von Julia Gundlach und Lajla Fetic drei Punkte für die nächste Kaffeepause:

  1. Es kommt nicht auf die technische Komplexität an!
  2. Ethische Leitlinien müssen jetzt ins Praktische umgesetzt werden!
  3. Der soziale Kontext ist entscheiden!

Die vollständige Session vom 13. September 2021 können Sie hier nachsehen:



Kommentar verfassen