Transparenz

Automating Society Report: Beim Einsatz algorithmischer Systeme in Europa fehlt es weiterhin an Transparenz, Aufsicht und Kompetenzen

Für den Automating Society Report 2020 hat ein journalistisches Recherche-Netzwerk im Auftrag der Bertelsmann Stiftung und AlgorithmWatch über 100 Anwendungsfälle automatisierter Entscheidungsfindung in 16 europäischen Ländern untersucht. Der Report zeigt: Auch wenn die Systeme immer häufiger von der öffentlichen Verwaltung und privaten Unternehmen eingesetzt werden, fehlt es weiterhin an Transparenz, Aufsicht und Kompetenzen.

Automatisierte Wohlfahrt in Schweden

Seit drei Jahren zahlt die Stadt Trelleborg Transferleistungen über ein automatisiertes Entscheidungsfindungssystem aus. Katarina Lind und Leo Wallentin berichten von der seitdem in Schweden intensiv geführten Debatte über die Zukunft des Berufes der Sozialarbeiter:innen und zeigen auf, wie wichtig der sorgfältige Umgang mit Transparenz ist.

Polen will das Mehrwertsteuer-Karussell stoppen

Polen hat dem Mehrwertsteuerbetrug den Kampf angesagt. Beim elften Stopp unseres AlgoRail durch Europa berichtet Konrad Szczygieł über den Einsatz eines undurchsichtigen algorithmischen Systems namens STIR, das Firmen identifizieren soll, die ihren fairen Anteil nicht zahlen. Zu Beginn eine kurze Erklärung: STIR ist eine Abkürzung (System Teleinformatyczny Izby Rozliczeniowej) für ein technisches System, das darauf […]

Automatisiert und intransparent: Verhaltensvorhersagen in der Schweiz

Precobs, Dyrias und ROS – drei automatisierte Systeme, die in der Schweiz eingesetzt werden, um Einbrüche, Gewalt gegen Frauen und Rückfälligkeit von Straftäter:innen vorherzusagen. Beim 10. Stopp unseres AlgoRail durch Europa berichtet Nicolas Kayser-Bril über die fehlende Transparenz und geringe Wirksamkeit der Systeme. Die schweizerischen Polizei- und Justizbehörden setzen nach einer Zählung über 20 verschiedene […]

Algorithmenethik Erlesenes #97

Gesichtserkennungstechnologie steht in der Kritik – doch wie können wir Sie nutzbringend für das Gemeinwohl einsetzen? Wo kann Künstliche Intelligenz (KI) uns beim früheren Aufspüren von Epidemien helfen? Und wie berechnet man den CO2-Fußabdruck von KI-Modellen? Unsere fünf Impulse zeigen: Die Zukunft der Entwicklung und des Einsatzes von neuer Software liegt in unseren Händen. Diskutieren […]

Verteilung: Ausreichend knapp

Der sechste von neun Beiträgen über die Effekte von Algorithmen auf einzelne Personen, Staat und Gesellschaft sowie das soziale Miteinander behandelt die faire Verteilung knapper Güter mit algorithmischer Hilfe. Bereits erschienen: Personalisierung, Zugang, Befähigung, Freiraum und Kontrolle.

Raus aus der Black Box. Algorithmen für alle nachvollziehbar machen – aber wie?

Im Rahmen des Kooperationsprojektes „Algorithmen fürs Gemeinwohl“ von Stiftung Neue Verantwortung und Bertelsmann Stiftung haben wir die Chancen und Risiken algorithmischer Systeme sektorübergreifend diskutiert. Nach der Auseinandersetzung mit den drei Anwendungsbereichen Predictive Policing, Robo Recruiting und Gesundheits-Apps stellt Leonie Beining in einem neuen Arbeitspapier die verschiedenen Dimensionen von Nachvollziehbarkeit algorithmischer Systeme vor.  In der US-amerikanischen Stadt Boston musste die Schulbehörde […]

Algorithmenethik Erlesenes #83

Haben Sie diese Woche das bei Twitter gehypte Spiel #ImageNetRoulette ausprobiert? Dahinter steckt wohlmöglich etwas anderes als nur ein harmloser Gesichtserkennungsspaß! Außerdem im Erlesenes-Newsletter der Woche: Wie können Algorithmen bei der Obdachlosenhilfe unterstützen? Und was sind die fünf Vorschläge von Nesta-Chef Geoff Mulgan für effektivere Algorithmenethik? Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die […]

Algorithmenethik Erlesenes #81

Was uns gerade in der Algorithmenethik-Welt bewegt: Lohnt sich Verhaltensforschung an Künstlicher Intelligenz (KI)? Würde ein Algorithmus die achte Klasse meistern? Wie verändern Apps Verkehrsflüsse in L.A.? Eine bunte Themenauswahl erwartet Sie auch diese Woche im Erlesenes-Newsletter. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass […]

Algorithmen-Transparenz. Was steckt hinter dem Buzzword?

Am Montag, 06.05.2019 habe ich in der Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ einen Vortrag zum Thema „KI-Transparenz“ gehalten. Bedeutet KI-Transparenz die Offenlegung des Quellcodes? Der Daten? Oder ist damit etwa ein Vermummungsverbot für maschinelle Entscheidungen gemeint? In diesem Beitrag nehme ich das Buzzword “KI-Transparenz” auseinander und stelle die 3 Thesen vor, die ich in der Kommissionssitzung erläutert habe.  Der Wunsch, die […]

Algorithmenethik Erlesenes #62

Worüber streiten sich zwei KI-Forscher? Sollten wir uns mindestens einmal am Tag gegen eine Algorithmus-Empfehlung entscheiden? Was sollten Forscher:innen bei Studien zu den Sozialen Medien bedenken? Antworten auf diese und andere Fragen finden sich auch diese Woche im „Erlesenes“-Newsletter. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen […]

Algorithmenethik Erlesenes #51

Während die wackeren Digital-Nomad:innen gerade ihre Passwörter und Social-Media-Accounts hackerfest machen, haben wir für Sie vielfältige Artikel rund um das Thema Algorithmenethik kuratiert. In der ersten Erlesenes-Ausgabe 2019 erwarten Sie u. a. folgende Fragen: Können Algorithmen helfen, Alzheimer früher zu diagnostizieren? Wie macht die finnische Regierung ihre Bevölkerung KI-fit? Können Algorithmen uns zu glücklicheren Arbeitnehmer:innen machen? […]

Algorithmenethik Erlesenes #50

Kann Gesichtserkennungssoftware dabei helfen, den Amerikanischen Bürgerkrieg aufzuarbeiten? Wo liegen die Grenzen von Deep Learning? Was hat es mit dem neuen Spitzen-Verbund für maschinelles Lernen (ELLIS) auf sich? Wir verabschieden uns für dieses Jahr mit einer kuratierten Auswahl an Debattenbeiträgen, neuen Anwendungsfällen, wissenschaftlichen Erkenntnissen rund ums Thema Algorithmenethik. All unseren Leser:innen wünschen wir erholsame Feiertage […]

Algorithmenethik Erlesenes #46

Worauf sollten Behörden achten, wenn sie sich Algorithmen zulegen? Kann KI den Fußball revolutionieren? Welche Gefahr stellt die Gesichtserkennungstechnologie für die Menschenrechte dar? Diese und viele weitere spannende Fragen erwarten Sie im neuen Erlesenes Newsletter. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum […]

Algorithmenethik Erlesenes #44

Falls Sie es noch nicht wussten: Am 1. November war Allerheiligen. Der Erlesenes Newsletter kommt daher diese Woche erst am Freitag. Laut dem israelischen Historiker Yuval Noah Harari werden diejenigen unter uns, die Künstlicher Intelligenz (KI) erschaffen und beherrschen können, selber zu gottartigen Wesen. Wir haben den Feiertag daher genutzt, um einmal tief durchzuatmen und […]

Algorithmenethik Erlesenes #31

Was passiert, wenn Software automatisch einen Mitarbeiter feuert? Warum ist es so schwer, Fairness beim Einsatz algorithmischer Systeme herzustellen? Zu diesen Fragen gibt es Antworten in dieser Ausgabe von Erlesenes. Außerdem erwarten Sie spannende Artikel zu neuen Errungenschaften aus der Forschung: eine debattierende KI und ein sprachbegabter Multitasking-Algorithmus. Die Meinungen in den Beiträgen spiegeln nicht […]

Parcoursup – das außerirdische Universitätsauswahlsystem der französischen Regierung

Bereits seit 2009 verwendet die französische Regierung Algorithmen, um Studienplatzbewerber Unis zuzuteilen. Das System scheiterte – an fehlender Transparenz und an fragwürdigen Entscheidungsprozessen. Das neue System, „Parcoursup“ soll nun alles besser machen. Doch ist Parcoursup vielleicht nicht mehr als eine neue, schönere Verpackung für ein altes problembelastetes System?

Algorithmenethik Erlesenes #23

Auf der re:publica 2018, die diese Woche stattfindet, drehen sich diesmal besonders viele Vorträge um das Thema Algorithmenethik. Was dabei immer wieder deutlich wurde: Wir brauchen mehr Transparenz über den Einsatz algorithmischer Systeme und ein besseres Verständnis für ihre Funktionsweise und Auswirkungen. Umso mehr freuen wir uns, Ihnen auch diese Woche wieder eine kuratierte Auswahl […]

Automatisierter Finanzhandel: überforderte Aufsichtsbehörden?

„Vor zehn Jahren mussten wir siebzig Orders je Händler an einem einzigen Tag analysieren“, so Laurent Combourieu, der Chefermittler der französischen Finanzmarktaufsichtsbehörde AMF. „Heute sendet ein einziger Hochfrequenzhändler eine Million Orders pro Tag an fünf verschiedene Handelsplätze. Es ist deshalb alles deutlich komplizierter“, so Combourieu. Die Automatisierung der Finanzmärkte (siehe Teil 1: „Automatisierter Finanzhandel: So […]

Algorithmen für die Berechnung von Todesrisiken: die Lehren

Tiere haben außergewöhnliche Fähigkeiten. So wie der Kater Oscar. Als Kätzchen adoptiert, wuchs er in einem US-Pflegezentrum für Demenzkranke auf. Nach einiger Zeit bemerkten die Pfleger ein besonderes Verhaltensmuster: Der Kater, der sich ansonsten nicht besonders zu Menschen hingezogen fühlte, legte sich zu Patienten, die wenige Stunden später starben. Schließlich gingen die Pfleger dazu über, […]

Algorithmenethik Erlesenes #15

Vielen Dank an alle, die an unserer Umfrage teilgenommen haben! Wir werten die Ergebnisse derzeit aus und werden versuchen, möglichst viele Ihrer Anregungen umzusetzen. Sollten Sie weiteres Feedback, Themenhinweise oder Verbesserungsvorschläge haben, mailen Sie uns gerne: carla.hustedt@bertelsmann-stiftung.de

Algorithmenethik Erlesenes #12

Willkommen zur zwölften Ausgabe der wöchentlichen Algorithmenethik-Lektüreempfehlungen „Erlesenes“ (hier abonnieren).  Wir bieten mit „Erlesenes“ einmal pro Woche eine einordnende Auswahl wichtiger Debattenbeiträge, wissenschaftlicher Ergebnisse und intelligenter Sichtweisen zu Chancen und Herausforderungen algorithmischer Entscheidungsvorgänge. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen, dass sie zum Nachdenken anregen und […]

Algorithmenethik Erlesenes #3

Willkommen zur dritten Ausgabe der wöchentlichen Algorithmenethik-Lektüreempfehlungen „Erlesenes“ (hier abonnieren).  Der Einfluss von Algorithmen auf den Alltag der Menschen nimmt stetig zu – und das häufig im Verborgenen. Die Konsequenzen für Individuum und Gesellschaft sind ohne Zweifel weitreichend, bislang jedoch nicht ausreichend erforscht.