AlgoRail

Systematische Überwachung bei der dänischen Wohlfahrt?

Beim sechszehnten und letzten Stopp unseres AlgoRail durch Europa berichtet Nicolas Kayser-Bril von Udbetaling Danmark, die seit 2012 staatliche Sozialleistungen auszahlt. Dabei setzt die Organisation auf Datenanalysen statt persönlicher Gespräche und erfährt deswegen viel Kritik von Bürger:innen und dem dänischen Rat für Datenethik, die Eingriffe in die Privatsphäre beklagen. 

Automatisierte Wohlfahrt in Schweden

Seit drei Jahren zahlt die Stadt Trelleborg Transferleistungen über ein automatisiertes Entscheidungsfindungssystem aus. Katarina Lind und Leo Wallentin berichten von der seitdem in Schweden intensiv geführten Debatte über die Zukunft des Berufes der Sozialarbeiter:innen und zeigen auf, wie wichtig der sorgfältige Umgang mit Transparenz ist.

Finnland: Wenn Algorithmen den Weg bestimmen

Die Proteste von Justice4Couriers haben in Finnland eine Debatte um die Arbeitsbedingungen von Essenslieferant:innen ausgelöst. Beim vierzehnten Stopp unseres AlgoRail durch Europa berichtet Aleksi Knuutila, welche Rolle der Einsatz algorithmischer Systeme spielt und warum sie bei richtigem Einsatz auch zu einer Verbesserung der Arbeitsbedingungen führen könnten. Während die meisten Arbeitnehmer:innen in Finnland Rechte wie Krankenurlaub […]

Estland: Strom sparen mit Smart Homes

In Tartu, der zweitgrößten Stadt Estlands, werden alte Häuserblöcke mit automatisierten Systemen ausgestattet, um den Stromverbrauch erheblich abzusenken. Beim dreizehnten Stopp unseres AlgoRail durch Europa berichtet Gerda Pill, wie mit dem Projekt das Bewusstsein der Bewohner:innen über ihr Verhalten verändert werden soll und welche Ergebnisse damit bereits erreicht wurden.

Italien: In Echtzeit gegen rassistische Fußballfans

Kann man mit Gesichtserkennungstechnologie und Geräuschüberwachung Rassismus in Fußballstadien eindämmen? Vor der Corona-Pandemie war das der Plan der italienischen Regierung, berichtet Fabio Chiusi beim zwölften Stopp unseres AlgoRail durch Europa und fragt sich: Schießt Italien damit über das Ziel hinaus? Während sich viele Menschen zu Beginn des Jahres 2020 zunehmend mit den diskriminierenden und rassistischen […]

Polen will das Mehrwertsteuer-Karussell stoppen

Polen hat dem Mehrwertsteuerbetrug den Kampf angesagt. Beim elften Stopp unseres AlgoRail durch Europa berichtet Konrad Szczygieł über den Einsatz eines undurchsichtigen algorithmischen Systems namens STIR, das Firmen identifizieren soll, die ihren fairen Anteil nicht zahlen. Zu Beginn eine kurze Erklärung: STIR ist eine Abkürzung (System Teleinformatyczny Izby Rozliczeniowej) für ein technisches System, das darauf […]

Automatisiert und intransparent: Verhaltensvorhersagen in der Schweiz

Precobs, Dyrias und ROS – drei automatisierte Systeme, die in der Schweiz eingesetzt werden, um Einbrüche, Gewalt gegen Frauen und Rückfälligkeit von Straftäter:innen vorherzusagen. Beim 10. Stopp unseres AlgoRail durch Europa berichtet Nicolas Kayser-Bril über die fehlende Transparenz und geringe Wirksamkeit der Systeme. Die schweizerischen Polizei- und Justizbehörden setzen nach einer Zählung über 20 verschiedene […]

AlgoRail in Slowenien: Legalisierung kommt danach

Einsatz von Gesichtserkennungssoftware, eine invasive Covid-19 Tracing App, das Verknüpfen von biometrischen Daten wie Fingerabdrücken und DNA – die Wunschliste der slowenischen Polizei war lang. Beim neunten Stopp unseres AlgoRail durch Europa berichtet Lenart J. Kučić, wie die Polizei ihre Macht kontinuierlich ausbaut, indem sie ihre Grenzen überschreitet und dies anschließend legalisieren lässt. Als die […]

AlgoRail in Griechenland: Automatisierungsforschung im Elfenbeinturm

Im Bereich der Sicherheitsforschung bekommt kein anderes Land so viel Geld aus dem Horizon 2020-Programm wie Griechenland. Daraus resultierende Anwendungen lassen sich jedoch kaum finden. Beim achten Stopp unseres AlgoRail durch Europa berichtet Nikolas Leontopoulos, wie die europäische Forschungsfinanzierung dazu verwendet wird, Unternehmen wettbewerbsfähig zu halten. Darunter leiden besonders die Endnutzer:innen, deren Bedürfnisse bei der […]

AlgoRail in Portugal: Arzneimittelbetrug automatisiert bekämpfen

Im Jahr 2019 wurden 97% der Arzneimittelrezepte im öffentlichen Gesundheitssektor Portugals elektronisch ausgestellt. Beim siebten Stopp unseres AlgoRail durch Europa berichtet Paula Simoes, dass die Digitalisierung des Systems nicht nur zu einer Optimierung der Ressourcen und einer Kostensenkung geführt hat, sondern vor allem ermöglicht hat, gegen Arzneimittelbetrug vorzugehen – der wurde im ersten Jahr um 80% reduziert.   2016 wurden ein Programm zur papierlosen Arzneiverschreibung und ein elektronisches System für medizinische Verschreibungen eingeführt – verbindlich für den ganzen öffentlichen Sektor mit […]

AlgoRail in Spanien: Mit algorithmischen Prognosen gegen Gewalt

Seit 2007 wird das algorithmische System VioGén in Spanien eingesetzt, um das Risiko von Gewalt gegen Frauen und Kinder zu bewerten. Beim sechsten Stopp unseres AlgoRail durch Europa berichtet Michele Catanzaro, wie entscheidend die personelle Ausstattung und eine spezielle Ausbildung für die Polizist:innen für den Erfolg ist und wie der Algorithmus kontinuierlich verfeinert wird, um […]

AlgoRail: Gesundheitsdaten in Frankreich – ein historisches Sorgenkind

Im März 2019 wurde die Einrichtung eines „Health Data Hub“ von der französischen Nationalversammlung verabschiedet, um KI-Projekten einen einfachen Zugang zu gesundheitsbezogenen Daten zu ermöglichen. Beim fünften Stopp unseres AlgoRail durch Europa nimmt uns Nicolas Kayser-Bril 200 Jahre in die Vergangenheit, als Frankreich wegen einer weit verbreiteten Epidemie begann, Gesundheitsinformationen seiner Bürger:innen zu sammeln. Im […]

AlgoRail: Mit Hilfe einer App trotz Brexit im Vereinigten Königreich bleiben

EU-Bürger:innen können über eine mobile App eine Aufenthaltsgenehmigung für das Vereinigte Königreich erhalten. Die teilweise automatisierte Überprüfung hat eine schnelle Bearbeitung vieler der bereits über 3 Millionen eingegangenen Anträge ermöglicht. Beim vierten Stopp unseres AlgoRail durch Europa erklärt Hugo Barbieux die Funktionsweise der App und die Gründe, warum sowohl junge wie auch ältere Nutzer:innen mit […]

AlgoRail: Belgiens Bemühungen um faire Schulplatzverteilungen

Im flämischen Teil Belgiens wurde Zelten zum Symbolbild von Ungerechtigkeit. Eltern schliefen vor den besten Schulen, um die ersten in der Schlange zu sein, die ihre Kinder dort anmelden konnten. Diese entnervende und unfaire Praxis wurde dadurch gestoppt, dass die Regierung ein algorithmisches System zur Vergabe von Schulplätzen einführte. Beim dritten Stopp unseres AlgoRail durch […]

AlgoRail: Forderung nach transparenterem Datenmanagement in den Niederlanden

Die niederländische Regierung hat in den vergangenen Jahren einen geheimen Algorithmus zur Bekämpfung von Sozialleistungsbetrug verwendet. Im Februar 2020 entschied ein Gericht die sofortige Einstellung wegen Verletzung der Privatsphäre und Intransparenz. Zivilgesellschaftliche Organisationen fordern, dass Bürger:innen besser darüber informiert werden, wofür ihre Daten im öffentlichen Sektor verwendet werden. Diese von Koen Vervloesem zusammengetragenen Erkenntnisse machen […]

AlgoRail: Algorithmen auf der Spur

Der Sommer ist da, doch die Corona-Pandemie hat bereits vielen einen Strich durch die Urlaubsplanung gemacht. Deshalb wollen wir uns in unserer neuen Blogreihe „AlgoRail“ auf Reisen begeben – quer durch Europa und immer auf der Spur algorithmischer Systeme. Wo werden algorithmische Systeme in anderen Ländern schon eingesetzt? Welche Chancen und Risiken bringt das mit […]