Publikation

Diese Kategorie enthält 32 Beiträge

Hier finden Sie eine aktuelle und kompakte Übersicht unserer Impulse!

© Getty Images/iStockphoto/bojanstory

Mehr Wissen, aber wenig Orientierung: Wie sich das Verhältnis Deutschlands zu Algorithmen und KI entwickelt hat

27. April 2022 / Markus Overdiek, Julia Gundlach

Algorithmen und Künstliche Intelligenz (KI) prägen immer stärker unseren Alltag. Was die Bevölkerung Deutschlands über diese digitalen Technologien weiß und denkt, zeigen wir in einer neuen Bevölkerungsumfrage. Im Vergleich zu Erhebungen von 2018 und 2020 zeigt sich: Während die Bekanntheit und Akzeptanz von automatisierten Entscheidungen über die vergangenen Jahre zugenommen hat, können weite Teile der […]

0 Kommentare weiterlesen
Photo by Markus Spiske on Unsplash

Bessere Kitaplatzvergabe per Algorithmus

30. Juni 2021 / Julia Gundlach

Viele Eltern haben Probleme, einen Betreuungsplatz für ihr Kind zu finden. In einigen Gemeinden wird eine Software eingesetzt, um die Plätze effizienter und gerechter zu vergeben. Unser Impulspapier skizziert Potenziale und Erfolgsfaktoren für einen solch gemeinwohlorientierten Algorithmeneinsatz. 

0 Kommentare weiterlesen
Das Wort "barrierefrei" wird auf Würfeln angezeigt, wobei die Buchstaben von "Barriere" gut lesbar nach vorne ausgerichtet sind und die Buchstaben von "frei" auf der Kippe stehen
Photo by Patrick Fore on Unsplash

Deutschland, wir müssen reden…über die gesellschaftliche Bedeutung von Algorithmen!

11. März 2021 / Carla Hustedt, Markus Overdiek

Deutschland hat sich in kürzester Zeit von einer automatisierenden zu einer automatisierten Gesellschaft entwickelt. Sei es zur Überwachung des öffentlichen Raums, zur Prognose von Straftaten oder für die Vergabe von Sozialleistungen – der Einsatz von algorithmischen Systemen in teilhaberelevanten Bereichen hat rasant zugenommen. Anders als bei dieser Entwicklung erwartet, fehlt es jedoch an medialer Aufmerksamkeit […]

0 Kommentare weiterlesen
Roman Kraft / Unsplash – Unsplash License, https://unsplash.com/licens

Wie Deutschland über Algorithmen schreibt

4. Februar 2021 / Dr. Sarah Fischer, Carla Hustedt, Markus Overdiek, Ralph Müller-Eiselt

Algorithmen und künstliche Intelligenz (KI) spielen eine wachsende Rolle in Leit-, Fach- und sozialen Medien. Die Darstellung der Themen ist jedoch sehr einseitig und konzentriert sich mehr auf wirtschaftliche Potenziale als auf gemeinwohlorientierte Akteure und Perspektiven. Das zeigt unsere Analyse des Diskurses über Algorithmen und KI in deutschen Medien im Zeitraum von 2005 bis 2020.

0 Kommentare weiterlesen
Photo by Sharon McCutcheon on Unsplash

In 22 Schritten zu gemeinwohlorientierten Algorithmen: Handreichung für die digitale Verwaltung

17. Dezember 2020 / Lajla Fetic, Michael Puntschuh

Das Ziel ist nicht neu, aber spätestens seit Corona noch dringlicher geworden: Wir brauchen eine digitale Verwaltung! Welche Herausforderungen der Einsatz von digitalen Anwendungen im öffentlichen Sektor mit sich bringt und wie die Transformation ethisch gestaltet werden kann, bleibt aber oftmals vage. Die neue „Handreichung für die digitale Verwaltung“ setzt an dieser Lücke an und […]

0 Kommentare weiterlesen
© Alexander Sinn / Unsplash

Im Dschungel der Datenteilungsmodelle: Worüber wir jetzt reden müssen

10. Dezember 2020 / Lajla Fetic

Die Europäische Kommission will es, die Bundesregierung auch. Unternehmen wollen es schon lange und immer mehr zivilgesellschaftliche Organisationen kommen dazu. Die Rede ist vom Teilen und anschließenden Verarbeiten von Daten. Aber wie soll dieser Prozess des Teilens gestaltet werden? Dazu gibt es mindestens so viele Ideen wie Akteur:innen. In unserem Panorama der Datenteilungsmodelle gibt der Autor […]

0 Kommentare weiterlesen

Automating Society Report: Beim Einsatz algorithmischer Systeme in Europa fehlt es weiterhin an Transparenz, Aufsicht und Kompetenzen

28. Oktober 2020 / Julia Gundlach, Dr. Sarah Fischer

Für den Automating Society Report 2020 hat ein journalistisches Recherche-Netzwerk im Auftrag der Bertelsmann Stiftung und AlgorithmWatch über 100 Anwendungsfälle automatisierter Entscheidungsfindung in 16 europäischen Ländern untersucht. Der Report zeigt: Auch wenn die Systeme immer häufiger von der öffentlichen Verwaltung und privaten Unternehmen eingesetzt werden, fehlt es weiterhin an Transparenz, Aufsicht und Kompetenzen.

0 Kommentare weiterlesen
© Getty Images/iStockphoto/imaginima

Die Corona-Transformation: Megatrend-Report analysiert Auswirkungen der Pandemie auf Globalisierung und Digitalisierung

24. September 2020 / Dr. Thieß Petersen, Dr. Christian Bluth, Ralph Müller-Eiselt

Der zweite Megatrend-Report der Bertelsmann Stiftung skizziert zentrale mittel- bis langfristige Auswirkungen der Corona-Pandemie auf die Digitalisierung und Globalisierung – und beleuchtet mögliche Folgen für unser Wirtschafts- und Gesellschaftssystem Wir stecken mitten in der Corona-Pandemie und es wird voraussichtlich Jahre dauern, bis alle ihre ökonomischen und sozialen Schäden einigermaßen behoben sind. Dieses einschneidende Ereignis wird […]

0 Kommentare weiterlesen
Bild von iXimus auf Pixabay

Algorithmische Systeme in der Corona-Pandemie – Europas Antwort zwischen Überwachungspotenzial und Grundrechtswahrung

1. September 2020 / Dr. Sarah Fischer, Fabio Chiusi

Technologien wie Contact Tracing Apps und Gesichtserkennung als schnelles Allheilmittel in der Corona-Pandemie? Das hofften viele Länder und setzen im Eiltempo algorithmische Entscheidungssysteme (ADM) ein. Im Spannungsverhältnis zwischen technologischem Krisenmanagementpotenzial und Grundrechtswahrung will Europa Vorbild sein und effektive Technologien mit Anforderungen an Menschenrechte und Datenschutz verbinden. Dass das keine einfache Aufgabe ist, zeigt unsere Sonderausgabe […]

0 Kommentare weiterlesen
© Getty Images/iStockphoto/Mehmet Şeşen 

Digitale Souveränität in der EU

2. Juli 2020 / Falk Steiner, Viktoria Grzymek 

„Digitale Souveränität“ – ein oft genutzter Begriff in politischen Debatten auf nationaler wie europäischer Ebene. Was ist damit gemeint? Und ist die EU fähig, eigene Werte und Rechtsvorstellungen in der Digitalpolitik durchzusetzen? Die Debatte um die „Digitale Souveränität“ ist derzeit nicht ausreichend evidenzbasiert. Bislang mangelt es sowohl an Konzepten zur Erkenntnis des tatsächlichen Abhängigkeitsgrades Deutschlands […]

0 Kommentare weiterlesen
Photo by Ian Stauffer on Unsplash

Praxisleitfaden für KI-Ethik-Prinzipien: Die Algo.Rules gemeinsam umsetzen!

10. Juni 2020 / Lajla Fetic, Michael Puntschuh

Neben unseren Algo.Rules fordern zahlreiche Initiativen in weit über hundert Leitlinien die ethische Gestaltung algorithmischer Systeme. Doch vielen Entwickler:innen und ihren Führungskräften fehlt eine Orientierung, was das konkret für sie bedeutet. Zusammen mit Expert:innen aus der Praxis haben wir deshalb einen Leitfaden zur Umsetzung der Algo.Rules entwickelt, der an dieser Herausforderung ansetzt. Relevanzprüfungen, Erfolgsfaktoren und […]

0 Kommentare weiterlesen
Photo by William Warby on Unsplash

From principles to practice: Wie wir KI-Ethik messbar machen können

2. April 2020 / Carla Hustedt, Lajla Fetic

Die Diskussion über die gesellschaftlichen Auswirkungen von Algorithmen hat an Fahrt angenommen. Neben unseren Algo.Rules wurden eine Vielzahl an Leitlinien für die ethische Gestaltung sogenannter „Künstlicher Intelligenz“ (KI) durch Akteure aus Wirtschaft, Zivilgesellschaft, Wissenschaft und Politik veröffentlicht. Offen bleibt aktuell jedoch die Frage, wie die darin enthaltenen Prinzipien konkret umgesetzt werden sollen. In Kooperation mit […]

0 Kommentare weiterlesen
WilliamCho / Pixabay, modifiziert – Pixabay License

Automatisch erlaubt? Fünf Anwendungsfälle algorithmischer Systeme auf dem juristischen Prüfstand

5. Februar 2020 / Carla Hustedt, Lajla Fetic

Auf Hochtouren arbeitet die Politik derzeit an der Regulierung von algorithmischen Systemen. Doch was ist eigentlich aktuell in Deutschland erlaubt und was muss für automatisierte Software-Entscheidungen (ADM) wirklich neu geregelt werden? Eine Autorengruppe um Prof. Dr. Mario Martini, zuletzt Mitglied der Datenethikkommission, findet darauf in unserem neuen Arbeitspapier „Automatisch erlaubt?“ Antworten für fünf prominente Anwendungsfälle […]

0 Kommentare weiterlesen
Photo by Sam 🐷 on Unsplash

Raus aus der Black Box. Algorithmen für alle nachvollziehbar machen – aber wie?

21. November 2019 / Leonie Beining, Carla Hustedt

Im Rahmen des Kooperationsprojektes „Algorithmen fürs Gemeinwohl“ von Stiftung Neue Verantwortung und Bertelsmann Stiftung haben wir die Chancen und Risiken algorithmischer Systeme sektorübergreifend diskutiert. Nach der Auseinandersetzung mit den drei Anwendungsbereichen Predictive Policing, Robo Recruiting und Gesundheits-Apps stellt Leonie Beining in einem neuen Arbeitspapier die verschiedenen Dimensionen von Nachvollziehbarkeit algorithmischer Systeme vor.  In der US-amerikanischen Stadt Boston musste die Schulbehörde […]

0 Kommentare weiterlesen
© Andrey Popov - stock.adobe.com

Gesund dank Algorithmen? Chancen und Risiken von Gesundheits-Apps für Patient:innen

5. November 2019 / Anita Klingel, Carla Hustedt

Im Rahmen des Kooperationsprojektes „Algorithmen fürs Gemeinwohl„ von Stiftung Neue Verantwortung und Bertelsmann Stiftung haben wir drei Anwendungsfelder algorithmischer Systeme sektorübergreifend diskutiert.  Nach der Auseinandersetzung mit Predictive Policing und Robo Recruiting analysiert Anita Klingel nun die Chancen und Risiken beim Einsatz von Gesundheits-Apps für Patient:innen in einem neuen Arbeitspapier. 

0 Kommentare weiterlesen
Terry Virts, NASA, National Geographic Image Collection/Alamy Stock Photo

The bigger picture: Megatrend-Report sieht wachsende Polarisierungsgefahr

4. September 2019 / Falk Steiner, Dr. Thieß Petersen

Globalisierung, Digitalisierung und demografischer Wandel sind für sich genommen schon große Herausforderungen für eine Gesellschaft. Wir fragen uns: Wie wirken sie zusammen? Der erste Megatrend-Report der Bertelsmann Stiftung versucht die zu erwartende Wirkung auf die internationale Arbeitsteilung und die Rückwirkungen auf Deutschland zu analysieren. 

0 Kommentare weiterlesen
© Rawpixel / pexels – Pexels License

Robo Recruiting – Dank Algorithmen bessere Mitarbeiter:innen finden?

24. Juni 2019 / Carla Hustedt

Mit der Hoffnung, bessere Mitarbeiter:innen und den passenden Arbeitsplatz zu finden, nutzen Personalverantwortliche, wie Bewerber, vermehrt algorithmische Systeme. Welche Chancen und Herausforderungen die neuen Technologien mit sich bringen und wie sich Personaler:innen für den Wandel ihres Berufsfelds rüsten können, diskutieren Carla Hustedt und Tobias Knobloch in unserem neuen Policy Paper.

0 Kommentare weiterlesen
Pixabay

Algo.Rules – Wie kriegen wir die Ethik in den Code?

7. März 2019 / Carla Hustedt

Algorithmische Systeme treffen in immer mehr Bereichen Entscheidungen für und über uns Menschen, häufig ohne, dass wir es merken. Um bestehende Rechte und Freiheiten auch im algorithmischen Zeitalter durchsetzen zu können, braucht es Regeln für die Gestaltung und den Einsatz der Systeme. Zusammen mit dem iRights.Lab haben wir deshalb in einem breiten Beteiligungsprozess die Algo.Rules […]

0 Kommentare weiterlesen
Getty Images/iStockphoto/sarah5

Automatisierte Entscheidungen: Europa muss mit einer Stimme sprechen

14. Februar 2019 / Ralph Müller-Eiselt, Lajla Fetic

Automatisierte Entscheidungen sind im Alltag vieler Europäer:innen angekommen: Ob bei der Jobsuche in Finnland, im italienischen Gesundheitswesen oder bei der Identifizierung vernachlässigter Kinder in Dänemark, in vielen EU-Ländern kommen solche Systeme zum Einsatz, nicht selten in zentralen Bereichen der öffentlichen Verwaltung. Findet die EU darauf eine gemeinsame Antwort? In unserem neuen Report „Automating Society – […]

0 Kommentare weiterlesen
StockSnap / Pixabay, modifiziert – Pixabay License, https://pixabay.com/de/service/license/

Was Europa über Algorithmen weiß und denkt

6. Februar 2019 / Viktoria Grzymek 

Algorithmen bestimmen über die Werbung, die wir sehen, entscheiden über die Vergabe von Krediten und Studienplätzen oder machen uns auf Datingportalen Vorschläge für passende Partner. Jede:r Einzelne von uns ist Tag für Tag von Entscheidungen betroffen, die Algorithmen für und über uns treffen. Doch was wissen und denken die Menschen in Europa eigentlich über Algorithmen? […]

0 Kommentare weiterlesen
Alex Perez (unsplash)

Ethik für Algorithmiker – Was wir von erfolgreichen Professionsethiken lernen können

15. August 2018 / Noëlle Rohde

Transparenz, Fairness und Nachhaltigkeit. Das sind nur einige der Anforderungen, die derzeit – auch von uns – an algorithmische Prozesse gestellt werden. Die Personen, die algorithmische Systeme beauftragen, gestalten und einsetzen – die „Algorithmiker:innen“ –, stehen in der Verantwortung, diese Anforderungen umzusetzen. Doch warum sollten sie dieser Verantwortung nachkommen? Wir glauben, eine verbindliche Professionsethik könnte […]

0 Kommentare weiterlesen

Gütekriterien für Algorithmen – Lehren aus bestehenden Forderungskatalogen

2. Juli 2018 / Noëlle Rohde

Was dürfen Algorithmen und was nicht? Welche Qualitätsstandards müssen sie erfüllen? Zu welchen Zwecken dürfen sie eingesetzt werden? Wichtige Fragen, zu denen es bisher keine Einigung gibt. Eine Vielzahl internationaler Organisationen versucht, sie durch die Formulierung von Gütekriterien für Algorithmen zu beantworten und so eine Grundlage für einen ethischeren Einsatz algorithmischer Systeme zu schaffen. In […]

0 Kommentare weiterlesen
Rawpixel; Unsplash

Vorausschauende Polizeiarbeit: mit Algorithmen „vor die Lage kommen“

14. Juni 2018 / Dr. Tobias Knobloch

In nordrhein-westfälischen Großstädten bekommen Streifenpolizisten zu Anfang ihrer Schicht Informationen an die Hand, in welchen Wohnbezirken ihres Einsatzgebietes erhöhte Präsenz und Aufmerksamkeit gefragt ist. Für diese Areale hat das Predictive-Policing-Computerprogramm SKALA eine erhöhte Wahrscheinlichkeit zukünftiger Kriminalität errechnet. „Solche Gebiete wurden früher auch schon gekennzeichnet und den Beamten als Orientierungshilfe an die Hand gegeben“, sagt Joachim […]

2 Kommentare weiterlesen
© Shutterstock/William Perugini

Deutschland noch nicht in der algorithmischen Welt angekommen

23. Mai 2018 / Dr. Thomas Petersen

Algorithmische Systeme sind längst Teil unseres Alltags und betreffen jeden von uns. Doch was wissen und denken eigentlich die Menschen in Deutschland über Algorithmen? Dieser Frage sind wir in einer repräsentativen Bevölkerungsbefragung nachgegangen. Die Ergebnisse machen deutlich: Wenn es um Algorithmen geht, herrscht in Deutschland Unkenntnis, Unentschlossenheit und Unbehagen. Wenn wir Informationen googeln, auf Facebook unterwegs sind […]

1 Kommentar weiterlesen
Pixabay

Welche Lösungen es jetzt braucht, damit algorithmische Prozesse den Menschen dienen

14. Mai 2018 / Konrad Lischka, Julia Krüger

Verträglichkeitsprüfungen, Qualitätssiegel für Herkunft und Güte von Daten, Verbandsklagerechte für die Antidiskriminierungsstelle des Bundes, eine kompetente Algorithmenagentur – es gibt viele sehr konkrete Ideen, was zu tun ist, um algorithmische Systeme zum Wohl aller Menschen zu nutzen. Das Arbeitspapier „Damit Maschinen den Menschen dienen“ zeigt das Spektrum der bisher in Wissenschaft, Wirtschaft, Zivilgesellschaft und Politik […]

2 Kommentare weiterlesen
© Shutterstock/Alexander Image

Datenschutz-Grundverordnung reicht für Kontrolle algorithmischer Systeme nicht aus

13. April 2018 / Prof. Dr. Wolfgang Schulz, Stephan Dreyer

Algorithmische Systeme bewerten Menschen und das bringt Risiken mit sich – für den Einzelnen, für Personengruppen und die Gesellschaft als Ganzes. Deshalb ist es wichtig, dass algorithmische Prozesse überprüfbar sind. Kann die Datenschutz-Grundverordnung zu einer derartigen Kontrolle beitragen und vor Risiken algorithmischer Entscheidungsfindung schützen? Diese Frage beantworten Wolfgang Schulz und Stephan Dreyer in einer Analyse […]

1 Kommentar weiterlesen
Shutterstock / Budur Nataliia

Wo Maschinen irren können – Fehlerquellen und Verantwortlichkeiten in Prozessen algorithmischer Entscheidungsfindung

5. Februar 2018 / Prof. Dr. Katharina Zweig, Konrad Lischka

Der Entwicklungsprozess von algorithmischen Entscheidungssystemen ist lang und eine große Anzahl unterschiedlicher Akteure ist daran beteiligt. Deshalb können an vielen Stellen Fehler passieren – die meisten lassen sich aber vermeiden oder beheben. Katharina Zweig beschreibt anschaulich, wie algorithmische Systeme derzeit entwickelt und eingesetzt werden, und zeigt Verantwortlichkeiten sowie potenzielle Fehlerquellen auf. Wo algorithmische Systeme gebaut […]

0 Kommentare weiterlesen
The Sounds of Earth Record Cover, NASA Commons, https://flic.kr/p/fq2Wjo
Konrad Lischka CC BY-SA-2.0

Digitale Öffentlichkeit: Wie algorithmische Prozesse den gesellschaftlichen Diskurs beeinflussen

19. Juni 2017 / Konrad Lischka, Christian Stöcker

Algorithmische Entscheidungsprozesse haben Einfluss auf die Teilhabe vieler Menschen am gesellschaftlichen Diskurs: Software personalisiert Suchergebnisse und den Nachrichtenstrom in sozialen Netzwerken. Welche Auswirkung dieser Strukturwandel der Öffentlichkeit hat, beschreibt das Arbeitspapier „Digitale Öffentlichkeit“. Es untersucht drei zentrale Fragen zur Öffentlichkeit im digitalen Zeitalter.

1 Kommentar weiterlesen
Konrad Lischka, CC BY-SA-2.0

Teilhabe, ausgerechnet: Wie Algorithmen Teilhabe ermöglichen können

2. Juni 2017 / Kilian Vieth, Ben Wagner

Algorithmen bestimmen unser Leben nicht nur auf Facebook, sondern auch in vielen anderen Lebensbereichen: Für die Einsatzplanung der Polizei beobachten und bewerten algorithmische Prozesse, wie oft in Wohnvierteln eingebrochen wird. Oder aber sie überwachen für Versicherungen die Fahrweise in manchen Autos. Wir haben ein Verfahren entwickelt, mit dem man solche Prozesse darauf überprüfen kann, wie […]

0 Kommentare weiterlesen
Konrad Lischka, CC BY-SA-2.0

Wenn Maschinen Menschen bewerten

2. Mai 2017 / Konrad Lischka, Anita Klingel

Kriminalitätsprognosen, Kreditvergabe, Bewerberauswahl: Algorithmische Systeme beeinflussen heute auf unterschiedlichen Gebieten die Leben vieler Menschen. Damit maschinelle Entscheidungen den Menschen dienen, braucht es gesellschaftliche Gestaltung, zum Beispiel in Form von Gütekriterien für algorithmische Prognosen. Vorhersagen müssen sachgerecht angewendet werden, widerlegbar und unabhängig zu überprüfen sein.

4 Kommentare weiterlesen

FILTER

SORTIERUNG

RSS-Feed folgen

TAGS

Algorithmen Künstliche Intelligenz Algorithmenethik Algorithmus Ethik KI Forschung Diskriminierung Entscheidungssysteme USA Medizin Gesichtserkennung maschinelles Lernen Gemeinwohl Transparenz EU Regulierung Automatisierung Digitalisierung Chancen