Regulierung

From principles to practice: Wie wir KI-Ethik messbar machen können

Die Diskussion über die gesellschaftlichen Auswirkungen von Algorithmen hat an Fahrt angenommen. Neben unseren Algo.Rules wurden eine Vielzahl an Leitlinien für die ethische Gestaltung sogenannter „Künstlicher Intelligenz“ (KI) durch Akteure aus Wirtschaft, Zivilgesellschaft, Wissenschaft und Politik veröffentlicht. Offen bleibt aktuell jedoch die Frage, wie die darin enthaltenen Prinzipien konkret umgesetzt werden sollen. In Kooperation mit […]

Algorithmenethik Erlesenes #99

Wie können wir algorithmische Systeme ethisch entwickeln, ihren Einsatz regulieren und die Chancen für das Gemeinwohl nutzen? Wo potenzielle Risiken durch Regulation minimiert werden, können die Potenziale für Medizin und Co. vielleicht auch besser gehoben werden. Impulse zu diesen Fragen finden sich auch diese Woche in Erlesenes. Diskutieren Sie mit – über Twitter (@algoethik) oder […]

Automatisch erlaubt? Fünf Anwendungsfälle algorithmischer Systeme auf dem juristischen Prüfstand

Auf Hochtouren arbeitet die Politik derzeit an der Regulierung von algorithmischen Systemen. Doch was ist eigentlich aktuell in Deutschland erlaubt und was muss für automatisierte Software-Entscheidungen (ADM) wirklich neu geregelt werden? Eine Autorengruppe um Prof. Dr. Mario Martini, zuletzt Mitglied der Datenethikkommission, findet darauf in unserem neuen Arbeitspapier „Automatisch erlaubt?“ Antworten für fünf prominente Anwendungsfälle […]

Algorithmenethik Erlesenes #95

Zur vierten Staffel von Erlesenes dürfen wir Sie im neuen Jahr 2020 herzlich begrüßen – mit vielen Impulsen zur Algorithmenethik! Inwiefern hat Künstliche Intelligenz Auswirkungen auf das Klima? Welche Nation überrascht mit der Veröffentlichung von ethischen Prinzipien? Und wie müssen wir sogenannten „Biases“ in Datensets und Köpfen begegnen? Ab dieser Woche werden wir uns wieder […]

DSGVO: Fluch oder Segen für Europas Wettrennen um Künstliche Intelligenz?

Seit dem 25. Mai 2018 ist die Verarbeitung personenbezogener Daten in der Europäischen Union durch die Datenschutzgrundverordnung (DSGVO) geregelt. Künstliche Intelligenz (KI) ist schon seit einiger Zeit das bestimmende Thema der digitalen Transformation. Da es wesentlich durch Daten getrieben wird, müssen sich KI-Expert:innen mit den Auswirkungen der DSGVO intensiv auseinandersetzen. Dies gilt ganz besonders in […]

Algorithmenethik Erlesenes #68

Können Algorithmen gegen die Kriminalität in Dörfern angehen? Wie können algorithmische Systeme Naturkatastrophen verhindern? Und wieso braucht es für Facebooks Künstliche Intelligenz eine händische Vorarbeit? Antworten auf diese Fragen gibt es wie jede Woche in fünf spannenden Beiträgen im Erlesenes-Newsletter! Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir […]

Algorithmenethik Erlesenes #66

Von Algorithmen, die Bücher schreiben und fehlender Diversität bei KI Entwickler:innen – im Erlesenes kuratieren wir wieder eine bunte Mischung an Themen. Die Welt der Algorithmenethik ist in Bewegung. Jetzt Erlesenes lesen und auf dem neuesten Stand bleiben! Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, […]

Algorithmenethik Erlesenes #64

Klappt Selbstregulierung bei Künstlicher Intelligenz (KI)? Welche Richtlinien veröffentlicht die Expert:innengruppe der EU? Und woher kommen (auch künftige) KI-Expert:innen? Diese Woche im Erlesenes-Newsletter gibt es wieder eine bunte Mischung an Meinungsbeiträgen und neuesten Erkenntnissen aus der Algorithmenwelt! Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass […]

Algo.Rules – Wie kriegen wir die Ethik in den Code?

Algorithmische Systeme treffen in immer mehr Bereichen Entscheidungen für und über uns Menschen, häufig ohne, dass wir es merken. Um bestehende Rechte und Freiheiten auch im algorithmischen Zeitalter durchsetzen zu können, braucht es Regeln für die Gestaltung und den Einsatz der Systeme. Zusammen mit dem iRights.Lab haben wir deshalb in einem breiten Beteiligungsprozess die Algo.Rules […]

Automatisierte Entscheidungen: Europa muss mit einer Stimme sprechen

Automatisierte Entscheidungen sind im Alltag vieler Europäer:innen angekommen: Ob bei der Jobsuche in Finnland, im italienischen Gesundheitswesen oder bei der Identifizierung vernachlässigter Kinder in Dänemark, in vielen EU-Ländern kommen solche Systeme zum Einsatz, nicht selten in zentralen Bereichen der öffentlichen Verwaltung. Findet die EU darauf eine gemeinsame Antwort? In unserem neuen Report „Automating Society – […]

Mediamodifier on Pixabay

„Man darf keinen dazu zwingen, getrackt zu werden“

In diesem Interview spricht Barbara Wimmer über das Internet der Dinge, seine Chancen und Gefahren, sowie Lösungsvorschläge, um diese Technologie in den Dienst der Gesellschaft zu stellen. Das Gespräch mit der Netzjournalistin, Buchautorin und Vortragenden führte Michael Puntschuh im Rahmen der „Das ist Netzpolitik!“-Konferenz.

Algorithmenethik Erlesenes #39

Welche Risiken bestehen für das Justizsystem, wenn Algorithmen zur Kriminalitätsprävention eingesetzt werden? Wo liegen die größten Schwächen von Bilderkennungssystemen? Kann Künstliche Intelligenz (KI) anhand von Satellitenbildern vorhersagen, mit welcher Wahrscheinlichkeit Menschen in einer bestimmten Gegend übergewichtig sind? Um diese und einige weitere spannende Fragen, Meinungsbeiträge und neue wissenschaftliche Erkenntnisse geht es in unserem Erlesenes Newsletter […]

Auf dem Weg zu Gütekriterien für den Algorithmeneinsatz

Unser #algorules-Prozess mit dem Think Tank iRights.Lab läuft seit drei Monaten – Zeit für einen Zwischenstand! Unser Ziel ist es, einen Gütekriterienkatalog für algorithmische Prozesse zu entwickeln. Dieser kann als Referenzpunkt für Beschwerden und Überprüfungen dienen. Hier können Sie sich einen Überblick über unsere vergangenen, aktuellen und zukünftigen Aktivitäten verschaffen.

Algorithmenethik Erlesenes #34

Was haben Künstliche Intelligenz und Wolpertinger gemeinsam? Können Algorithmen Leben retten? Warum fordert Microsoft auf einmal mehr Regulierung? Wie immer gibt’s bei Erlesenes viele Fragen (und auch die eine oder andere Antwort) zu den ethischen Perspektiven und neuesten Entwicklungen im Bereich Algorithmen und Künstliche Intelligenz (KI). Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen […]

Welche Lösungen es jetzt braucht, damit algorithmische Prozesse den Menschen dienen

Verträglichkeitsprüfungen, Qualitätssiegel für Herkunft und Güte von Daten, Verbandsklagerechte für die Antidiskriminierungsstelle des Bundes, eine kompetente Algorithmenagentur – es gibt viele sehr konkrete Ideen, was zu tun ist, um algorithmische Systeme zum Wohl aller Menschen zu nutzen. Das Arbeitspapier „Damit Maschinen den Menschen dienen“ zeigt das Spektrum der bisher in Wissenschaft, Wirtschaft, Zivilgesellschaft und Politik […]

Verhaltenskodex für den Einsatz von Algorithmen – Startschuss für breiten Beteiligungsprozess

Wir wagen den großen Wurf: Der Think Tank iRights.Lab entwickelt einen Gütekriterienkatalog für gesellschaftlich relevante algorithmische Prozesse. Dazu organisiert das iRights.Lab im Auftrag der Bertelsmann Stiftung einen umfangreichen Meinungsbildungsprozess in Kooperation mit hochrangigen externen Spezialistinnen und Spezialisten und unter Einbeziehung einer Vielzahl von Stakeholdern aus Politik, Wirtschaft, Wissenschaft und Verbänden. Der professionsethische Katalog für die Beteiligten an der Gestaltung von Algorithmen soll vergleichbar sein mit dem Hippokratischen Eid für Medizinerinnen und Mediziner oder dem Pressekodex […]

Automatisierter Finanzhandel: überforderte Aufsichtsbehörden?

„Vor zehn Jahren mussten wir siebzig Orders je Händler an einem einzigen Tag analysieren“, so Laurent Combourieu, der Chefermittler der französischen Finanzmarktaufsichtsbehörde AMF. „Heute sendet ein einziger Hochfrequenzhändler eine Million Orders pro Tag an fünf verschiedene Handelsplätze. Es ist deshalb alles deutlich komplizierter“, so Combourieu. Die Automatisierung der Finanzmärkte (siehe Teil 1: „Automatisierter Finanzhandel: So […]

Automatisierter Finanzhandel: Zu komplex für die Politik?

In den frühen 1980er Jahren begannen die ersten Börsenhändler mit Computern zu experimentieren. Als ihre Methoden Erfolg hatten, schafften sich weitere Händler einen Rechner an. Zug um Zug wurde der Finanzhandel automatisiert. Algorithmen treffen nun großteils die Handelsentscheidungen, mit gravierenden Auswirkungen für die Gesellschaft (siehe Teil 1: „Automatischer Finanzhandel: So krempeln Algorithmen die Finanzmärkte um„). […]