Algo.Rules

In 22 Schritten zu gemeinwohlorientierten Algorithmen: Handreichung für die digitale Verwaltung

Das Ziel ist nicht neu, aber spätestens seit Corona noch dringlicher geworden: Wir brauchen eine digitale Verwaltung! Welche Herausforderungen der Einsatz von digitalen Anwendungen im öffentlichen Sektor mit sich bringt und wie die Transformation ethisch gestaltet werden kann, bleibt aber oftmals vage. Die neue „Handreichung für die digitale Verwaltung“ setzt an dieser Lücke an und bietet konkrete Handlungsempfehlungen für den gemeinwohlorientierten Einsatz algorithmischer Systeme. In 22 Schritten und mithilfe von Praxisbeispielen zeigt sie auf, wie das Vertrauen der Bürger:innen und die Akzeptanz von Mitarbeitenden für den digitalen Wandel in der Verwaltung gewonnen werden kann.

Er trägt Brille, spricht neun Sprachen und weiß erstaunlich viel über das Corona-Virus. Die Rede ist von Chatbot Bobbi, den die Berliner Senatsverwaltung zurzeit testet. Er soll Bürger:innen schnell und niedrigschwellig Fragen zu Dienstleistungen der Berliner Be-hörden beantworten. In Düsseldorf nutzt die Polizei automatisch erstellte Routen-empfehlungen, um die Streifenfahrten zu planen. In Österreich sollten Arbeitssuchende vom staatlichen Arbeitsmarktservice bei der Suche nach einer geeigneten Qualifizierung von algorithmisch erstellten Prognosen unterstützt werden. Diese drei Beispiele zeigen: Algorithmische Assistenzsysteme sind bei der Verwaltungsmodernisierung keine Zukunftsvision mehr.

Viele Umsetzungsfragen sind noch offen 

Insbesondere der Fall des österreichischen Arbeitsmarktservice (AMS) verdeutlicht jedoch auch, dass viele Fragen zur Gestaltung und Einsatz der Systeme häufig unbeantwortet bleiben und somit auch den Erfolg von Digitalisierungsprojekten gefährden: So stoppte die österreichische Datenschutzbehörde im August 2020 den Testbetrieb des AMS-Algorithmus, weil die rechtlichen Grundlagen für den Einsatz nicht geklärt war. Auch konnte nicht sichergestellt werden, dass Empfehlungen algorithmischer Assistenzsysteme mit kritischer Überprüfung von Mitarbeitenden übernommen werden. Von diesen Erfahrungswerten können und müssen wir lernen.

Der staatliche Einsatz algorithmischer Assistenzsysteme kann das Leben von vielen Bürger:innen erheblich beeinflussenNur unter der rechtzeitigen Beachtung von ethischen Gestaltungsprinzipien kann Vertrauen in für die digitale Transformation der Verwaltung gewonnen werden. Lajla Fetic, Co-Autorin der Handreichung 

Innovationen müssen sich an gesamtgesellschaftliche Bedarfe orientieren 

Der Staat setzt die Rahmenbedingungen für das gesellschaftliche Zusammenleben. Er garantiert die öffentliche Sicherheit, sorgt für die Verteilung sozialer Güter und organisiert die dafür notwendigen Verwaltungsvorgänge. Der Einsatz digitaler Technologien und insbesondere algorithmischer Systeme kann dabei neue Potentiale schaffen, wenn die Gemeinwohlperspektive nicht auf der Strecke bleibt.  Die Innovationen müssen deshalb so gestaltet werden, dass sie die Bedarfe der gesamten Gesellschaft und nicht nur Partikularinteressen erfüllen. Damit werden gleich mehrere positive Effekte erzielt:

  • Prävention: Mögliche (technische) Fehlentwicklungen können im Vorfeld antizipiert, diskutiert und vermieden werden 
  • Vertrauen der Bürger:innenBerechtigte Ansprüche an transparente Prozesse und Produkte können bedient werden 
  • Akzeptanz der MitarbeitendenVeränderungsprozesse in der Verwaltung können mit und nicht nur für Mitarbeitende angestoßen werden 
  • Vorbildcharakterder Staat kann mit dieser Perspektive als Vorbild für nicht-staatliche Organisationen und Unternehmen auftreten  

„Ethische Gestaltungskriterien umzusetzen ist kein Selbstzweck. Eine gemeinwohlorientierte Gestaltung von Softwareanwendungen sichert Akzeptanz und Vertrauen. Gerade im öffentlichen Sektor ist das entscheidend” Michael Puntschuh, Co-Autor der Hand-reichung 

KI-Ethikprinzipien auf die Verwaltung übertragen 

Die „Handreichung für die digitale Verwaltung“ soll Mitarbeitende der öffentlichen Hand inspirieren und befähigen, algorithmische Assistenzsysteme für das Gemeinwohl einzu-setzen. Die in der Handreichung vorgestellten Hinweise und Checklisten setzen auf Offenheit und Kompetenzaufbau: Transparenz über Entscheidungskriterien algorithmischer Assistenzsysteme kann sie für Bürger:innen vertrauenswürdiger machen. Schulungen zum richtigen Umgang mit der Software können dazu beitragen, dass Mitarbeitende der öffentlichen Hand die neuen Anwendungen akzeptieren. Das Rad muss dafür nicht neu erfunden werden. Ethische Kriterien aus der aktuellen KI-Ethik-Debatte lassen sich auf das Anwendungsfeld der digitalen Verwaltung übertragen. So baut die Handreichung neben den 2019 veröffentlichten Algo.Rules – 9 Regeln für die Gestaltung algorithmischer Systeme – auf den Erfahrungswerten aktueller Fallbeispiele aus der DACH-Region und bereits etablierter Verwaltungsprozesse auf.

Beteiligung Vieler in drei Phasen sicherstellen

Geeignete Maßnahmen, um algorithmische Assistenzsysteme gemeinwohlorientiert einzusetzen, müssen der sozio-technischen Natur der Systeme und den komplexen Zusammenhängen innerhalb der Verwaltung gerecht werden: Von den Zielvorgaben über die Trainingsdaten bis hin zur Art und Weise, wie die Softwareanwendungen in organi-sationale Strukturen eingebettet werden – all das spielt eine Rolle für die Wirkung des Automatisierungsprozesses. Die Handreichung unterteilt den gesamten Prozess in drei Phasen: Planung, Entwicklung und Einsatz algorithmischer Assistenzsysteme erfordern jeweils die Beteiligung Vieler.

Die Handreichung unterstützt alle beteiligten Akteur:innen dabei, ihren Teil zum Gelingen einer algorithmischen Anwendung beizutragen. Sie ist sowohl für jene Mitarbeitende aus der Verwaltung nutzbar, die bereits Projekte mit algorithmischen Assistenzsystemen durchgeführt haben, als auch für Personen, die erstmals mit einem solchen Projekt konfrontiert sind. Die Handreichung stellt dafür elf Rollenprofile von Akteuren vor, die an der Gestaltung mitwirken. Denn ein klares Verständnis von unterschiedlichen Rollen und entsprechenden Anforderungen hilft, Verantwortung zuzuweisen und wahrzunehmen.

Die Handreichung bietet für alle diese Akteur:innen in 22 Schritten einen modularen Einstieg in die Gestaltung algorithmischer Assistenzsysteme in der digitalen Verwaltung. Aufbauend auf den identifizierten Rollen und Verantwortlichkeiten wird für jede Projektphase – Planung, Entwicklung und Einsatz – jeweils eine einseitige Anleitung mit Handlungsempfehlungen vorgestellt und anhand konkreter Beispiele aus der Praxis veranschaulicht.

Digitale Verwaltung heißt: Mutig voranschreiten und aus Fehlern lernen 

Natürlich lassen sich diese Empfehlungen nicht von heute auf morgen und in Gänze umsetzen. Der Weg dorthin erfordert Mut, den ersten Schritt zu wagen, Fehler zu machen, aus ihnen zu lernen und Erfahrungen mit anderen Projekten auszutauschen. Die Handreichung bietet dafür einen geeigneten Rahmen und kann zu jedem Zeitpunkt einen orientierenden Bezugspunkt bieten. Am Ende lohnt sich die intensive Auseinandersetzung mit ethischen Gestaltungsprinzipien: Denn nur mit Vertrauen in die digitale Verwaltung kann diese ein Erfolg für die gesamte Gesellschaft werden.



Kommentar verfassen