Automatisiert und intransparent: Verhaltensvorhersagen in der Schweiz

Precobs, Dyrias und ROS – drei automatisierte Systeme, die in der Schweiz eingesetzt werden, um Einbrüche, Gewalt gegen Frauen und Rückfälligkeit von Straftäter:innen vorherzusagen. Beim 10. Stopp unseres AlgoRail durch Europa berichtet Nicolas Kayser-Bril über die fehlende Transparenz und geringe Wirksamkeit der Systeme. Die schweizerischen Polizei- und Justizbehörden setzen nach einer Zählung über 20 verschiedene […]

AlgoRail in Slowenien: Legalisierung kommt danach

Einsatz von Gesichtserkennungssoftware, eine invasive Covid-19 Tracing App, das Verknüpfen von biometrischen Daten wie Fingerabdrücken und DNA – die Wunschliste der slowenischen Polizei war lang. Beim neunten Stopp unseres AlgoRail durch Europa berichtet Lenart J. Kučić, wie die Polizei ihre Macht kontinuierlich ausbaut, indem sie ihre Grenzen überschreitet und dies anschließend legalisieren lässt. Als die […]

Algorithmische Systeme in der Corona-Pandemie – Europas Antwort zwischen Überwachungspotenzial und Grundrechtswahrung

Technologien wie Contact Tracing Apps und Gesichtserkennung als schnelles Allheilmittel in der Corona-Pandemie? Das hofften viele Länder und setzen im Eiltempo algorithmische Entscheidungssysteme (ADM) ein. Im Spannungsverhältnis zwischen technologischem Krisenmanagementpotenzial und Grundrechtswahrung will Europa Vorbild sein und effektive Technologien mit Anforderungen an Menschenrechte und Datenschutz verbinden. Dass das keine einfache Aufgabe ist, zeigt unsere Sonderausgabe […]

Bald online: Automating Society Report 2020

Mit dem Automating Society Report werfen wir gemeinsam mit AlgorithmWatch bereits zum zweiten Mal ein Schlaglicht auf algorithmische Entscheidungssysteme (ADM) in Europa: Welche neuen Anwendungsbeispiele gibt es in den verschiedenen Ländern, vor allem im öffentlichen Sektor? Welche aktuellen Debatten, politischen Reaktionen und regulatorischen Entscheidungen prägen den Diskurs um ADM? Am 28. Oktober erscheint die neue […]

AlgoRail in Griechenland: Automatisierungsforschung im Elfenbeinturm

Im Bereich der Sicherheitsforschung bekommt kein anderes Land so viel Geld aus dem Horizon 2020-Programm wie Griechenland. Daraus resultierende Anwendungen lassen sich jedoch kaum finden. Beim achten Stopp unseres AlgoRail durch Europa berichtet Nikolas Leontopoulos, wie die europäische Forschungsfinanzierung dazu verwendet wird, Unternehmen wettbewerbsfähig zu halten. Darunter leiden besonders die Endnutzer:innen, deren Bedürfnisse bei der […]

Wir brauchen ein Ökosystem der KI-Ethik!

„Verantwortungsvolle KI – von Prinzipien zur Praxis“ lautet der Titel der ersten DigiLounge, einer neuen digitalen Eventreihe von Microsoft. Ihren Input zur gemeinsamen Diskussion mit Anna Christmann, Obfrau der Enquete-Kommission KI für Bündnis 90/Die Grünen und Thomas Langkabel, National Technology Officer von Microsoft Deutschland, am 13. August 2020 fasst Carla Hustedt in diesem Beitrag zusammen […]

Photo by Erik Mclean on Unsplash

Algorithmen zum Überleben

Nach einem Herzinfarkt ist der Kampf ums Überleben ein Wettrennen gegen die Zeit. Je länger das Herzmuskelgewebe von der Sauerstoffzufuhr abgeschnitten bleibt, desto höher die Todesgefahr. Jede Minute ohne Reanimation verringert die Wahrscheinlichkeit einer erfolgreichen Wiederbelebung um 10 %. Deshalb werden Herzpatient:innen in Krankenhäusern permanent von Medizintechnik überwacht. Wenn einer der gemessenen Gesundheitswerte auf einen […]

AlgoRail in Portugal: Arzneimittelbetrug automatisiert bekämpfen

Im Jahr 2019 wurden 97% der Arzneimittelrezepte im öffentlichen Gesundheitssektor Portugals elektronisch ausgestellt. Beim siebten Stopp unseres AlgoRail durch Europa berichtet Paula Simoes, dass die Digitalisierung des Systems nicht nur zu einer Optimierung der Ressourcen und einer Kostensenkung geführt hat, sondern vor allem ermöglicht hat, gegen Arzneimittelbetrug vorzugehen – der wurde im ersten Jahr um 80% reduziert.   2016 wurden ein Programm zur papierlosen Arzneiverschreibung und ein elektronisches System für medizinische Verschreibungen eingeführt – verbindlich für den ganzen öffentlichen Sektor mit […]

AlgoRail in Spanien: Mit algorithmischen Prognosen gegen Gewalt

Seit 2007 wird das algorithmische System VioGén in Spanien eingesetzt, um das Risiko von Gewalt gegen Frauen und Kinder zu bewerten. Beim sechsten Stopp unseres AlgoRail durch Europa berichtet Michele Catanzaro, wie entscheidend die personelle Ausstattung und eine spezielle Ausbildung für die Polizist:innen für den Erfolg ist und wie der Algorithmus kontinuierlich verfeinert wird, um […]

Schneisen durchs Gemeinwohl: Die unsichtbaren Wirkweisen von Navigationsanwendungen

Ob zu Fuß, per Rad, Rollstuhl oder Auto: Navigationsanwendungen bringen uns durch den Alltag. Der „Freund und Helfer“ GoogleMaps gibt uns meist den Weg vor. Jedoch denkt kaum jemand darüber nach, welche Auswirkungen die digitalen Lotsen auf unsere Leben und Städte haben. Professor Johannes Schöning von der Universität Bremen hat die Funktionsweisen einiger Systeme untersucht […]