Algorithmenethik | Publikation Archive

Automating Society Report: Beim Einsatz algorithmischer Systeme in Europa fehlt es weiterhin an Transparenz, Aufsicht und Kompetenzen

28. Oktober 2020 / Julia Gundlach, Dr. Sarah Fischer

Für den Automating Society Report 2020 hat ein journalistisches Recherche-Netzwerk im Auftrag der Bertelsmann Stiftung und AlgorithmWatch über 100 Anwendungsfälle automatisierter Entscheidungsfindung in 16 europäischen Ländern untersucht. Der Report zeigt: Auch wenn die Systeme immer häufiger von der öffentlichen Verwaltung und privaten Unternehmen eingesetzt werden, fehlt es weiterhin an Transparenz, Aufsicht und Kompetenzen.

0 Kommentare

Die Corona-Transformation: Megatrend-Report analysiert Auswirkungen der Pandemie auf Globalisierung und Digitalisierung

24. September 2020 / Dr. Thieß Petersen, Dr. Christian Bluth, Ralph Müller-Eiselt

Der zweite Megatrend-Report der Bertelsmann Stiftung skizziert zentrale mittel- bis langfristige Auswirkungen der Corona-Pandemie auf die Digitalisierung und Globalisierung – und beleuchtet mögliche Folgen für unser Wirtschafts- und Gesellschaftssystem Wir stecken mitten in der Corona-Pandemie und es wird voraussichtlich Jahre dauern, bis alle ihre ökonomischen und sozialen Schäden einigermaßen behoben sind. Dieses einschneidende Ereignis wird […]

0 Kommentare

Algorithmische Systeme in der Corona-Pandemie – Europas Antwort zwischen Überwachungspotenzial und Grundrechtswahrung

1. September 2020 / Dr. Sarah Fischer, Fabio Chiusi

Technologien wie Contact Tracing Apps und Gesichtserkennung als schnelles Allheilmittel in der Corona-Pandemie? Das hofften viele Länder und setzen im Eiltempo algorithmische Entscheidungssysteme (ADM) ein. Im Spannungsverhältnis zwischen technologischem Krisenmanagementpotenzial und Grundrechtswahrung will Europa Vorbild sein und effektive Technologien mit Anforderungen an Menschenrechte und Datenschutz verbinden. Dass das keine einfache Aufgabe ist, zeigt unsere Sonderausgabe […]

0 Kommentare

Digitale Souveränität in der EU

2. Juli 2020 / Falk Steiner, Viktoria Grzymek

„Digitale Souveränität“ – ein oft genutzter Begriff in politischen Debatten auf nationaler wie europäischer Ebene. Was ist damit gemeint? Und ist die EU fähig, eigene Werte und Rechtsvorstellungen in der Digitalpolitik durchzusetzen? Die Debatte um die „Digitale Souveränität“ ist derzeit nicht ausreichend evidenzbasiert. Bislang mangelt es sowohl an Konzepten zur Erkenntnis des tatsächlichen Abhängigkeitsgrades Deutschlands […]

0 Kommentare

Praxisleitfaden für KI-Ethik-Prinzipien: Die Algo.Rules gemeinsam umsetzen!

10. Juni 2020 / Lajla Fetic, Michael Puntschuh

Neben unseren Algo.Rules fordern zahlreiche Initiativen in weit über hundert Leitlinien die ethische Gestaltung algorithmischer Systeme. Doch vielen Entwickler:innen und ihren Führungskräften fehlt eine Orientierung, was das konkret für sie bedeutet. Zusammen mit Expert:innen aus der Praxis haben wir deshalb einen Leitfaden zur Umsetzung der Algo.Rules entwickelt, der an dieser Herausforderung ansetzt. Relevanzprüfungen, Erfolgsfaktoren und […]

0 Kommentare

From principles to practice: Wie wir KI-Ethik messbar machen können

2. April 2020 / Carla Hustedt, Lajla Fetic

Die Diskussion über die gesellschaftlichen Auswirkungen von Algorithmen hat an Fahrt angenommen. Neben unseren Algo.Rules wurden eine Vielzahl an Leitlinien für die ethische Gestaltung sogenannter „Künstlicher Intelligenz“ (KI) durch Akteure aus Wirtschaft, Zivilgesellschaft, Wissenschaft und Politik veröffentlicht. Offen bleibt aktuell jedoch die Frage, wie die darin enthaltenen Prinzipien konkret umgesetzt werden sollen. In Kooperation mit […]

0 Kommentare

WilliamCho / Pixabay, modifiziert – Pixabay License

Automatisch erlaubt? Fünf Anwendungsfälle algorithmischer Systeme auf dem juristischen Prüfstand

5. Februar 2020 / Carla Hustedt, Lajla Fetic

Auf Hochtouren arbeitet die Politik derzeit an der Regulierung von algorithmischen Systemen. Doch was ist eigentlich aktuell in Deutschland erlaubt und was muss für automatisierte Software-Entscheidungen (ADM) wirklich neu geregelt werden? Eine Autorengruppe um Prof. Dr. Mario Martini, zuletzt Mitglied der Datenethikkommission, findet darauf in unserem neuen Arbeitspapier „Automatisch erlaubt?“ Antworten für fünf prominente Anwendungsfälle […]

0 Kommentare

Raus aus der Black Box. Algorithmen für alle nachvollziehbar machen – aber wie?

21. November 2019 / Leonie Beining, Carla Hustedt

Im Rahmen des Kooperationsprojektes „Algorithmen fürs Gemeinwohl“ von Stiftung Neue Verantwortung und Bertelsmann Stiftung haben wir die Chancen und Risiken algorithmischer Systeme sektorübergreifend diskutiert. Nach der Auseinandersetzung mit den drei Anwendungsbereichen Predictive Policing, Robo Recruiting und Gesundheits-Apps stellt Leonie Beining in einem neuen Arbeitspapier die verschiedenen Dimensionen von Nachvollziehbarkeit algorithmischer Systeme vor. In der US-amerikanischen Stadt Boston musste die Schulbehörde […]

0 Kommentare

Gesund dank Algorithmen? Chancen und Risiken von Gesundheits-Apps für Patient:innen

5. November 2019 / Anita Klingel, Carla Hustedt

Im Rahmen des Kooperationsprojektes „Algorithmen fürs Gemeinwohl„ von Stiftung Neue Verantwortung und Bertelsmann Stiftung haben wir drei Anwendungsfelder algorithmischer Systeme sektorübergreifend diskutiert. Nach der Auseinandersetzung mit Predictive Policing und Robo Recruiting analysiert Anita Klingel nun die Chancen und Risiken beim Einsatz von Gesundheits-Apps für Patient:innen in einem neuen Arbeitspapier.

0 Kommentare

Terry Virts, NASA, National Geographic Image Collection/Alamy Stock Photo

The bigger picture: Megatrend-Report sieht wachsende Polarisierungsgefahr

4. September 2019 / Falk Steiner, Dr. Thieß Petersen

Globalisierung, Digitalisierung und demografischer Wandel sind für sich genommen schon große Herausforderungen für eine Gesellschaft. Wir fragen uns: Wie wirken sie zusammen? Der erste Megatrend-Report der Bertelsmann Stiftung versucht die zu erwartende Wirkung auf die internationale Arbeitsteilung und die Rückwirkungen auf Deutschland zu analysieren.

0 Kommentare

Robo Recruiting – Dank Algorithmen bessere Mitarbeiter:innen finden?

24. Juni 2019 / Carla Hustedt

Mit der Hoffnung, bessere Mitarbeiter:innen und den passenden Arbeitsplatz zu finden, nutzen Personalverantwortliche, wie Bewerber, vermehrt algorithmische Systeme. Welche Chancen und Herausforderungen die neuen Technologien mit sich bringen und wie sich Personaler:innen für den Wandel ihres Berufsfelds rüsten können, diskutieren Carla Hustedt und Tobias Knobloch in unserem neuen Policy Paper.

0 Kommentare

Automatisierte Entscheidungen: Europa muss mit einer Stimme sprechen

14. Februar 2019 / Ralph Müller-Eiselt, Lajla Fetic

Automatisierte Entscheidungen sind im Alltag vieler Europäer:innen angekommen: Ob bei der Jobsuche in Finnland, im italienischen Gesundheitswesen oder bei der Identifizierung vernachlässigter Kinder in Dänemark, in vielen EU-Ländern kommen solche Systeme zum Einsatz, nicht selten in zentralen Bereichen der öffentlichen Verwaltung. Findet die EU darauf eine gemeinsame Antwort? In unserem neuen Report „Automating Society – […]

0 Kommentare

StockSnap / Pixabay, modifiziert – Pixabay License, https://pixabay.com/de/service/license/

Was Europa über Algorithmen weiß und denkt

6. Februar 2019 / Viktoria Grzymek

Algorithmen bestimmen über die Werbung, die wir sehen, entscheiden über die Vergabe von Krediten und Studienplätzen oder machen uns auf Datingportalen Vorschläge für passende Partner. Jede:r Einzelne von uns ist Tag für Tag von Entscheidungen betroffen, die Algorithmen für und über uns treffen. Doch was wissen und denken die Menschen in Europa eigentlich über Algorithmen? […]

0 Kommentare

Ethik für Algorithmiker – Was wir von erfolgreichen Professionsethiken lernen können

15. August 2018 / Noëlle Rohde

Transparenz, Fairness und Nachhaltigkeit. Das sind nur einige der Anforderungen, die derzeit – auch von uns – an algorithmische Prozesse gestellt werden. Die Personen, die algorithmische Systeme beauftragen, gestalten und einsetzen – die „Algorithmiker:innen“ –, stehen in der Verantwortung, diese Anforderungen umzusetzen. Doch warum sollten sie dieser Verantwortung nachkommen? Wir glauben, eine verbindliche Professionsethik könnte […]

0 Kommentare

Gütekriterien für Algorithmen – Lehren aus bestehenden Forderungskatalogen

2. Juli 2018 / Noëlle Rohde

Was dürfen Algorithmen und was nicht? Welche Qualitätsstandards müssen sie erfüllen? Zu welchen Zwecken dürfen sie eingesetzt werden? Wichtige Fragen, zu denen es bisher keine Einigung gibt. Eine Vielzahl internationaler Organisationen versucht, sie durch die Formulierung von Gütekriterien für Algorithmen zu beantworten und so eine Grundlage für einen ethischeren Einsatz algorithmischer Systeme zu schaffen. In […]

0 Kommentare

Vorausschauende Polizeiarbeit: mit Algorithmen „vor die Lage kommen“

14. Juni 2018 / Dr. Tobias Knobloch

In nordrhein-westfälischen Großstädten bekommen Streifenpolizisten zu Anfang ihrer Schicht Informationen an die Hand, in welchen Wohnbezirken ihres Einsatzgebietes erhöhte Präsenz und Aufmerksamkeit gefragt ist. Für diese Areale hat das Predictive-Policing-Computerprogramm SKALA eine erhöhte Wahrscheinlichkeit zukünftiger Kriminalität errechnet. „Solche Gebiete wurden früher auch schon gekennzeichnet und den Beamten als Orientierungshilfe an die Hand gegeben“, sagt Joachim […]

1 Kommentar

Deutschland noch nicht in der algorithmischen Welt angekommen

23. Mai 2018 / Dr. Thomas Petersen

Algorithmische Systeme sind längst Teil unseres Alltags und betreffen jeden von uns. Doch was wissen und denken eigentlich die Menschen in Deutschland über Algorithmen? Dieser Frage sind wir in einer repräsentativen Bevölkerungsbefragung nachgegangen. Die Ergebnisse machen deutlich: Wenn es um Algorithmen geht, herrscht in Deutschland Unkenntnis, Unentschlossenheit und Unbehagen. Wenn wir Informationen googeln, auf Facebook unterwegs sind […]

1 Kommentar

Welche Lösungen es jetzt braucht, damit algorithmische Prozesse den Menschen dienen

14. Mai 2018 / Konrad Lischka, Julia Krüger

Verträglichkeitsprüfungen, Qualitätssiegel für Herkunft und Güte von Daten, Verbandsklagerechte für die Antidiskriminierungsstelle des Bundes, eine kompetente Algorithmenagentur – es gibt viele sehr konkrete Ideen, was zu tun ist, um algorithmische Systeme zum Wohl aller Menschen zu nutzen. Das Arbeitspapier „Damit Maschinen den Menschen dienen“ zeigt das Spektrum der bisher in Wissenschaft, Wirtschaft, Zivilgesellschaft und Politik […]

2 Kommentare

Datenschutz-Grundverordnung reicht für Kontrolle algorithmischer Systeme nicht aus

13. April 2018 / Prof. Dr. Wolfgang Schulz, Stephan Dreyer

Algorithmische Systeme bewerten Menschen und das bringt Risiken mit sich – für den Einzelnen, für Personengruppen und die Gesellschaft als Ganzes. Deshalb ist es wichtig, dass algorithmische Prozesse überprüfbar sind. Kann die Datenschutz-Grundverordnung zu einer derartigen Kontrolle beitragen und vor Risiken algorithmischer Entscheidungsfindung schützen? Diese Frage beantworten Wolfgang Schulz und Stephan Dreyer in einer Analyse […]

1 Kommentar

Wo Maschinen irren können – Fehlerquellen und Verantwortlichkeiten in Prozessen algorithmischer Entscheidungsfindung

5. Februar 2018 / Prof. Dr. Katharina Zweig, Konrad Lischka

Der Entwicklungsprozess von algorithmischen Entscheidungssystemen ist lang und eine große Anzahl unterschiedlicher Akteure ist daran beteiligt. Deshalb können an vielen Stellen Fehler passieren – die meisten lassen sich aber vermeiden oder beheben. Katharina Zweig beschreibt anschaulich, wie algorithmische Systeme derzeit entwickelt und eingesetzt werden, und zeigt Verantwortlichkeiten sowie potenzielle Fehlerquellen auf. Wo algorithmische Systeme gebaut […]

0 Kommentare

The Sounds of Earth Record Cover, NASA Commons, https://flic.kr/p/fq2Wjo

Was zu tun ist: Neun Herausforderungen maschineller Entscheidungen

25. Juli 2017 / Konrad Lischka, Anita Klingel

Algorithmische Entscheidungsfindung wird nur dem Wohl der Gesellschaft dienen, wenn sie diskutiert, kritisiert und korrigiert wird. Als Impuls für diese Debatte hier neun Erkenntnisse, die wir aus der Analyse von Fallbeispielen im Arbeitspapier „Wenn Maschinen Menschen bewerten“ gezogen haben. Neun Herausforderungen, bei denen Handeln notwendig ist.

1 Kommentar

Digitale Öffentlichkeit: Wie algorithmische Prozesse den gesellschaftlichen Diskurs beeinflussen

19. Juni 2017 / Konrad Lischka, Christian Stöcker

Algorithmische Entscheidungsprozesse haben Einfluss auf die Teilhabe vieler Menschen am gesellschaftlichen Diskurs: Software personalisiert Suchergebnisse und den Nachrichtenstrom in sozialen Netzwerken. Welche Auswirkung dieser Strukturwandel der Öffentlichkeit hat, beschreibt das Arbeitspapier „Digitale Öffentlichkeit“. Es untersucht drei zentrale Fragen zur Öffentlichkeit im digitalen Zeitalter.

1 Kommentar

Teilhabe, ausgerechnet: Wie Algorithmen Teilhabe ermöglichen können

2. Juni 2017 / Kilian Vieth, Ben Wagner

Algorithmen bestimmen unser Leben nicht nur auf Facebook, sondern auch in vielen anderen Lebensbereichen: Für die Einsatzplanung der Polizei beobachten und bewerten algorithmische Prozesse, wie oft in Wohnvierteln eingebrochen wird. Oder aber sie überwachen für Versicherungen die Fahrweise in manchen Autos. Wir haben ein Verfahren entwickelt, mit dem man solche Prozesse darauf überprüfen kann, wie […]

0 Kommentare

Wenn Maschinen Menschen bewerten

2. Mai 2017 / Konrad Lischka, Anita Klingel

Kriminalitätsprognosen, Kreditvergabe, Bewerberauswahl: Algorithmische Systeme beeinflussen heute auf unterschiedlichen Gebieten die Leben vieler Menschen. Damit maschinelle Entscheidungen den Menschen dienen, braucht es gesellschaftliche Gestaltung, zum Beispiel in Form von Gütekriterien für algorithmische Prognosen. Vorhersagen müssen sachgerecht angewendet werden, widerlegbar und unabhängig zu überprüfen sein.

4 Kommentare

Publikation Archive - Algorithmenethik

Filter

Publikation

Automating Society Report: Beim Einsatz algorithmischer Systeme in Europa fehlt es weiterhin an Transparenz, Aufsicht und Kompetenzen

Die Corona-Transformation: Megatrend-Report analysiert Auswirkungen der Pandemie auf Globalisierung und Digitalisierung

Algorithmische Systeme in der Corona-Pandemie – Europas Antwort zwischen Überwachungspotenzial und Grundrechtswahrung

Digitale Souveränität in der EU

Praxisleitfaden für KI-Ethik-Prinzipien: Die Algo.Rules gemeinsam umsetzen!

From principles to practice: Wie wir KI-Ethik messbar machen können

Automatisch erlaubt? Fünf Anwendungsfälle algorithmischer Systeme auf dem juristischen Prüfstand

Raus aus der Black Box. Algorithmen für alle nachvollziehbar machen – aber wie?

Gesund dank Algorithmen? Chancen und Risiken von Gesundheits-Apps für Patient:innen

The bigger picture: Megatrend-Report sieht wachsende Polarisierungsgefahr

Robo Recruiting – Dank Algorithmen bessere Mitarbeiter:innen finden?

Automatisierte Entscheidungen: Europa muss mit einer Stimme sprechen

Was Europa über Algorithmen weiß und denkt

Ethik für Algorithmiker – Was wir von erfolgreichen Professionsethiken lernen können

Gütekriterien für Algorithmen – Lehren aus bestehenden Forderungskatalogen

Vorausschauende Polizeiarbeit: mit Algorithmen „vor die Lage kommen“

Deutschland noch nicht in der algorithmischen Welt angekommen

Welche Lösungen es jetzt braucht, damit algorithmische Prozesse den Menschen dienen

Datenschutz-Grundverordnung reicht für Kontrolle algorithmischer Systeme nicht aus

Wo Maschinen irren können – Fehlerquellen und Verantwortlichkeiten in Prozessen algorithmischer Entscheidungsfindung

Was zu tun ist: Neun Herausforderungen maschineller Entscheidungen

Digitale Öffentlichkeit: Wie algorithmische Prozesse den gesellschaftlichen Diskurs beeinflussen

Teilhabe, ausgerechnet: Wie Algorithmen Teilhabe ermöglichen können

Wenn Maschinen Menschen bewerten

FILTER

SORTIERUNG

Suche

Filter

Publikation

@algoethik

FILTER

SORTIERUNG

TAGS