Algorithmen

Algorithmenethik Erlesenes #41

Warum sollten Kunstschaffende und KI-Forscher:innen zusammenarbeiten? Welche Rolle spielen Algorithmen für die Sockenbestellung bei Amazon? Und welche menschlichen Fähigkeiten gilt es im KI-Zeitalter zu fördern? Diese und viele weitere Fragen und die ein oder andere Antwort erwarten Sie diese Woche im Erlesenes-Newsletter.

Algorithmenethik Erlesenes #40

Nach dem Feiertag fällt es schwer, die Gehirnzellen wieder anzukurbeln? Vielleicht kann Erlesenes den nötigen Anstoß bieten. Denn auch diese Woche gibt’s wieder viele Fragen, Ideen und Denkanregungen rund um das Thema Algorithmenethik: Was können Unternehmen und Regierungen tun, um Diskriminierung durch algorithmische Systeme zu vermeiden? Wieso hat Instagram ein Drogen-Problem? Was hat Artenschutz mit […]

Algorithmenethik Erlesenes #39

Welche Risiken bestehen für das Justizsystem, wenn Algorithmen zur Kriminalitätsprävention eingesetzt werden? Wo liegen die größten Schwächen von Bilderkennungssystemen? Kann Künstliche Intelligenz (KI) anhand von Satellitenbildern vorhersagen, mit welcher Wahrscheinlichkeit Menschen in einer bestimmten Gegend übergewichtig sind? Um diese und einige weitere spannende Fragen, Meinungsbeiträge und neue wissenschaftliche Erkenntnisse geht es in unserem Erlesenes Newsletter […]

Algorithmenethik Erlesenes #38

Was wäre, wenn… Künstliche Intelligenz (KI) ihre “Denkvorgänge” erklären könnte? Algorithmen kranke Menschen und Organspender:innen zusammenbringen könnten? Man Geld damit machen könnte, diskriminierende Software zu bekämpfen? Ihr stellt Euch diese Fragen? Dann seid Ihr hier genau richtig. Denn bei Erlesenes gibt es Antworten – und viele neue Fragen. Die Meinungen in den Beiträgen spiegeln nicht […]

Auswertung der Blogparade – Eure Meinungen und Ideen zu Künstlicher Intelligenz fürs Gemeinwohl

In den letzten Wochen und Tagen hat sich die Politik weiter auf die Auseinandersetzung mit Algorithmen und Künstlicher Intelligenz (KI) vorbereitet. Die Sachverständigen der KI-Enquete wurden berufen. Der Digitalrat der Bundesregierung kam das erste Mal zusammen. Die Datenethikkommission wurde durch die Bundesminister Horst Seehofer und Katarina Barley zu ihrer ersten Sitzung begrüßt. Während die verschiedenen […]

Algorithmenethik Erlesenes #37

Unumstritten, Algorithmen und Künstliche Intelligenz (KI) bieten große Chancen für alle Gesellschaftsbereiche. Doch wenn YouTube Falschnachrichten und Hass verbreitet, Übersetzungssoftware Genderstereotypen reproduziert und durch autonome Software Situationen entstehen, in denen niemand für Schäden haftet, dann brauchen wir eine Debatte über die Risiken der Technologie – und vor allem über mögliche Lösungen. Wir hoffen, dass die Artikel, […]

Auf dem Weg zu Gütekriterien für den Algorithmeneinsatz

Unser #algorules-Prozess mit dem Think Tank iRights.Lab läuft seit drei Monaten – Zeit für einen Zwischenstand! Unser Ziel ist es, einen Gütekriterienkatalog für algorithmische Prozesse zu entwickeln. Dieser kann als Referenzpunkt für Beschwerden und Überprüfungen dienen. Hier können Sie sich einen Überblick über unsere vergangenen, aktuellen und zukünftigen Aktivitäten verschaffen.

Blogparade: Künstliche Intelligenz fürs Gemeinwohl? Sagt uns Eure Meinung!

Die Bundesregierung hat am 17. Juli die „Eckpunkte für eine Strategie Künstliche Intelligenz (KI) der Bundesregierung“ veröffentlicht. Sie sollen einen Orientierungsrahmen für die eigentliche KI-Strategie darstellen, welche bis zum November unter Federführung des Bundeswirtschaftsministeriums (BMWi), des Bundesforschungsministeriums (BMBF) und des Bundesarbeitsministeriums (BMAS) entwickelt werden soll. Im internationalen Vergleich ist Deutschland somit zwar eher ein Nachzügler […]

Algorithmenethik Erlesenes #35

Liebe Leser, wir möchten uns mit der heutigen Ausgabe in die Sommerpause verabschieden. Im August wird es keinen Newsletter geben und somit geht es nach der Pause am 6. September 2018 weiter. Bis dahin ruht unser Projekt „Ethik der Algorithmen“ nicht, wir arbeiten u. a. an unserer Professionsethik für Algorithmiker weiter. Wem es in der Zwischenzeit […]

Algorithmenethik Erlesenes #34

Was haben Künstliche Intelligenz und Wolpertinger gemeinsam? Können Algorithmen Leben retten? Warum fordert Microsoft auf einmal mehr Regulierung? Wie immer gibt’s bei Erlesenes viele Fragen (und auch die eine oder andere Antwort) zu den ethischen Perspektiven und neuesten Entwicklungen im Bereich Algorithmen und Künstliche Intelligenz (KI). Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen […]

Algorithmenethik Erlesenes #33

Diese Erlesenes-Ausgabe führt uns sehr deutlich die Fehleranfälligkeit und Limitiertheit von Künstlicher Intelligenz (KI) und algorithmischer Technologie vor Augen: Der Facebookalgorithmus hat die US-Unabhängigkeitserklärung als Hassrede gekennzeichnet. Selbstfahrende Autos haben Probleme mit ungewöhnlichen Situationen umzugehen. Algorithmen zur Benotung von Schüleraufsetzen können sehr einfach ausgetrickst werden. Trotz dieser eher negativen Perspektiven hoffen wir, dass die ausgewählten […]

Algorithmenethik Erlesenes #32

Sie wollten schon immer mal ein Gedicht über Algorithmen lesen? Sie fragen sich „Können Algorithmen sich bald selber programmieren?“ Sie wünschen sich mehr Aufstände der Mitarbeiter von Google, Facebook und Co. gegen unethisches Verhalten ihrer Arbeitgeber? Dann bietet Ihnen diese Erlesenes-Ausgabe einige spannende Einsichten, neue Perspektiven und wirft sicherlich auch die eine oder andere neue […]

Gütekriterien für Algorithmen – Lehren aus bestehenden Forderungskatalogen

Was dürfen Algorithmen und was nicht? Welche Qualitätsstandards müssen sie erfüllen? Zu welchen Zwecken dürfen sie eingesetzt werden? Wichtige Fragen, zu denen es bisher keine Einigung gibt. Eine Vielzahl internationaler Organisationen versucht, sie durch die Formulierung von Gütekriterien für Algorithmen zu beantworten und so eine Grundlage für einen ethischeren Einsatz algorithmischer Systeme zu schaffen. In […]

Algorithmenethik Erlesenes #31

Was passiert, wenn Software automatisch einen Mitarbeiter feuert? Warum ist es so schwer, Fairness beim Einsatz algorithmischer Systeme herzustellen? Zu diesen Fragen gibt es Antworten in dieser Ausgabe von Erlesenes. Außerdem erwarten Sie spannende Artikel zu neuen Errungenschaften aus der Forschung: eine debattierende KI und ein sprachbegabter Multitasking-Algorithmus. Die Meinungen in den Beiträgen spiegeln nicht […]

Algorithmenethik Erlesenes #30

Diese Ausgabe von Erlesenes bietet einige, auch für (Halb-)Laien verständliche Einblicke in die neusten „Fähigkeiten“ algorithmischer Systeme: Zauberwürfel lösen, Handlungen antizipieren und Kausalitäten erkennen. Auch erwartet Sie ein Essay über den Einfluss von KI auf die willentliche Unwissenheit und ein sehr informationshaltiger Longread über die Gefahren des KI-Nationalismus. Die Meinungen in den Beiträgen spiegeln nicht […]

Algorithmenethik Erlesenes #29

Was ist von Googles neuen ethischen Prinzipien für KI zu halten? Welche Rolle spielen Algorithmen bei der Moderation von Sozialen Netzwerken? Und warum hat das MIT eine psychopatische KI geschaffen? Diese und einige weitere Fragen erwarten Sie diese Woche in Erlesenes. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. […]

Vorausschauende Polizeiarbeit: mit Algorithmen „vor die Lage kommen“

In nordrhein-westfälischen Großstädten bekommen Streifenpolizisten zu Anfang ihrer Schicht Informationen an die Hand, in welchen Wohnbezirken ihres Einsatzgebietes erhöhte Präsenz und Aufmerksamkeit gefragt ist. Für diese Areale hat das Predictive-Policing-Computerprogramm SKALA eine erhöhte Wahrscheinlichkeit zukünftiger Kriminalität errechnet. „Solche Gebiete wurden früher auch schon gekennzeichnet und den Beamten als Orientierungshilfe an die Hand gegeben“, sagt Joachim […]

Algorithmenethik Erlesenes #28

Die ausgewählten Beiträge dieser Woche machen zwei Dinge mal wieder sehr deutlich: Algorithmen können in diversen Bereichen eingesetzt werden – zur Automatisierung von Waffensystemen, zur Hautkrebserkennung oder auch, um Gedichte zu schreiben. Somit bestimmt nicht die Technologie, sondern die Art, wie sie genutzt wird, welchen Einfluss die Systeme auf die Gesellschaft haben. Die Meinungen in […]

Algorithmenethik Erlesenes #27

Diese Woche in Erlesenes – von uns für Sie ausgewählt und zusammengefasst: Die Niederländische Polizei nutzt KI, um ungelöste Fälle wieder aufzurollen. Das britische Militär fürchtet, dass die Technologie von Terroristen missbraucht werden könnte. Daniel Kahnemann sagt im Interview, dass Menschen, nicht Algorithmen die wahre Gefahr sind. Sie sehen, es gibt mal wieder viel spannende […]

Algorithmenethik Erlesenes #26

Was denken die Deutschen über den Einsatz algorithmischer Systeme? Wie kann man mehr Vertrauen in die Technik schaffen? Und wie kann man ethische Prinzipien in den Prozess der Algorithmenentwicklung integrieren? Diese und viele weitere Fragen und die ein oder andere Antwort gibts in den Artikeln und Studien, die wir Ihnen diese Woche ausgewählt haben. Die […]

Deutschland noch nicht in der algorithmischen Welt angekommen

Algorithmische Systeme sind längst Teil unseres Alltags und betreffen jeden von uns. Doch was wissen und denken eigentlich die Menschen in Deutschland über Algorithmen? Dieser Frage sind wir in einer repräsentativen Bevölkerungsbefragung nachgegangen. Die Ergebnisse machen deutlich: Wenn es um Algorithmen geht, herrscht in Deutschland Unkenntnis, Unentschlossenheit und Unbehagen.   Wenn wir Informationen googeln, auf Facebook unterwegs […]

Algorithmenethik Erlesenses #25

Diese Woche haben wir für Erlesenes mal wieder Beiträge sehr unterschiedlicher Formate ausgewählt. Neue Innovationen, Debattenbeiträge und Lösungsansätze. Es sollte für jeden was dabei sein: U.a. erwartet Sie ein Kommentar zu Googles neuer algorithmische Innovation – dem sehr menschlich klingenden Sprachassistenten Duplex + Einblicke in die Arbeit von Chinas KI-Riesen SenseTime + ein Interview mit […]

Welche Lösungen es jetzt braucht, damit algorithmische Prozesse den Menschen dienen

Verträglichkeitsprüfungen, Qualitätssiegel für Herkunft und Güte von Daten, Verbandsklagerechte für die Antidiskriminierungsstelle des Bundes, eine kompetente Algorithmenagentur – es gibt viele sehr konkrete Ideen, was zu tun ist, um algorithmische Systeme zum Wohl aller Menschen zu nutzen. Das Arbeitspapier „Damit Maschinen den Menschen dienen“ zeigt das Spektrum der bisher in Wissenschaft, Wirtschaft, Zivilgesellschaft und Politik […]

Algorithmenethik Erlesenes #23

Auf der re:publica 2018, die diese Woche stattfindet, drehen sich diesmal besonders viele Vorträge um das Thema Algorithmenethik. Was dabei immer wieder deutlich wurde: Wir brauchen mehr Transparenz über den Einsatz algorithmischer Systeme und ein besseres Verständnis für ihre Funktionsweise und Auswirkungen. Umso mehr freuen wir uns, Ihnen auch diese Woche wieder eine kuratierte Auswahl […]

Algorithmenethik Erlesenes #22

Was passiert, wenn ein Algorithmus eine Abkürzung nimmt? Wie funktioniert eigentlich Deep Learning? Und welchen Einfluss haben Empfehlungsalgorithmen auf unser Konsumverhalten? Auch diese Woche mangelt es in den von uns ausgewählten Texten nicht an Fragen zu „Algorithmenethik“. Zum Glück gibt’s auch die ein oder andere Antwort. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die […]

Algorithmenethik Erlesenes #21

Google macht große Fortschritte in der Entwicklung von Spracherkennungssoftware. Damit einher geht ein erhöhtes Missbrauchspotential. Der Philosophie-Professor C. Thi Nguyen erklärt die Unterschiede zwischen den Phänomenen Echokammer und Filterblase. Netflix zeigt, wie sie algorithmische Personalisierung nutzen, um unsere Aufmerksamkeit zu gewinnen. Diese Themen und vieles mehr erwartet Sie in dieser Erlesenes Ausgabe. Die Meinungen in […]

Datenschutz-Grundverordnung reicht für Kontrolle algorithmischer Systeme nicht aus

Algorithmische Systeme bewerten Menschen und das bringt Risiken mit sich – für den Einzelnen, für Personengruppen und die Gesellschaft als Ganzes. Deshalb ist es wichtig, dass algorithmische Prozesse überprüfbar sind. Kann die Datenschutz-Grundverordnung zu einer derartigen Kontrolle beitragen und vor Risiken algorithmischer Entscheidungsfindung schützen? Diese Frage beantworten Wolfgang Schulz und Stephan Dreyer in einer Analyse […]

Algorithmenethik Erlesenes #20

Warum verhalten sich freundliche Menschen in  Soziale Netzwerken unfreundlich? Werden zukünftig Algorithmen über unsere Beförderung entscheiden? Warum rebelliert Chinas Bevölkerung nicht gegen das „Social Scoring“-System ihrer Regierung? Viele Fragen. Und sogar einige Antworten gibt’s bei uns im Erlesenes Newsletter. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass […]

Automatisierter Finanzhandel: überforderte Aufsichtsbehörden?

„Vor zehn Jahren mussten wir siebzig Orders je Händler an einem einzigen Tag analysieren“, so Laurent Combourieu, der Chefermittler der französischen Finanzmarktaufsichtsbehörde AMF. „Heute sendet ein einziger Hochfrequenzhändler eine Million Orders pro Tag an fünf verschiedene Handelsplätze. Es ist deshalb alles deutlich komplizierter“, so Combourieu. Die Automatisierung der Finanzmärkte (siehe Teil 1: „Automatisierter Finanzhandel: So […]

Automatischer Finanzhandel: So krempeln Algorithmen die Finanzmärkte um

Menschliche Finanzhändler, die in blauen Jacken laut schreiend und wild gestikulierend auf den Börsenparketts miteinander um Preise feilschen, sind nur noch Bilder aus vergangenen Tagen. Sichtbare Zeugen des heutigen Finanzhandels sind moderne Rechenzentren, Laserrichtfunkanlagen auf Hochhausdächern oder hohe Mikrowellenfunktürme, die zwischen London und Frankfurt am Main von Handelsunternehmen angemietet werden, damit sie innerhalb von wenigen […]

Entwarnung zu Fake News? Neue Studie zeigt: Falschnachrichten hatten im Bundestagswahlkampf eine geringere Reichweite als befürchtet

Die allgemeine Sorge, wir seien in einem Zeitalter des Postfaktischen angelangt, ist groß. Doch die Ergebnisse einer neuen Studie „Fakten statt Fakes“ der Stiftung Neue Verantwortung lassen aufatmen: Fake News erzielten im Bundestagswahlkampf 2017 im Vergleich zu Nachrichten klassischer Medien nur überschaubare Reichweiten. Eine Entwarnung geben die Autoren jedoch nicht. Denn die Studie zeigt auch, […]

Algorithmen für die Berechnung von Todesrisiken: die Lehren

Tiere haben außergewöhnliche Fähigkeiten. So wie der Kater Oscar. Als Kätzchen adoptiert, wuchs er in einem US-Pflegezentrum für Demenzkranke auf. Nach einiger Zeit bemerkten die Pfleger ein besonderes Verhaltensmuster: Der Kater, der sich ansonsten nicht besonders zu Menschen hingezogen fühlte, legte sich zu Patienten, die wenige Stunden später starben. Schließlich gingen die Pfleger dazu über, […]

Algorithmenethik Erlesenes #16

Falschnachrichten auf Twitter, neuronale Netzwerke zum Stricken, Googles Kooperation mit dem US- Militär – diese und viele weitere Themen erwarten Sie in der sechzehnten Ausgabe von Erlesenes. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen.

Wie Algorithmen Menschen vor einem frühzeitigen Tod bewahren können

In Arztserien wie Doctor House oder ER ist es eine typische Szene: Ein Alarmsignal tönt und hektisch eilen Mediziner herbei, um den Patienten wiederzubeleben. Doch was wäre, wenn die Warnmeldung schon einige Stunden vor dem lebensbedrohlichen Kammerflimmern einsetzt? Ein solches System hat vor kurzem die US-Behörde Food and Drug Administration zugelassen. „FDA genehmigt Algorithmus, um […]

Algorithmenethik Erlesenes #13

Willkommen zur dreizehnten Ausgabe der wöchentlichen Algorithmenethik-Lektüreempfehlungen „Erlesenes“ (hier abonnieren).  Wir bieten mit „Erlesenes“ einmal pro Woche eine einordnende Auswahl wichtiger Debattenbeiträge, wissenschaftlicher Ergebnisse und intelligenter Sichtweisen zu Chancen und Herausforderungen algorithmischer Entscheidungsvorgänge. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen, dass sie zum Nachdenken anregen und […]

Skype-Interview: 3 Fragen an … Jules Polonetsky, Future of Privacy Forum

  Jules Polonetsky ist CEO des Future of Privacy Forum. Die Non-Profit Organisation aus Washington, DC setzt sich mit den Herausforderungen neuer Technologien auseinander sowie mit der Frage, wie Datenschutz weiterentwickelt werden kann, um den neuen Anforderungen gerecht zu werden. Sie arbeitet unter anderem zu den Themen Big Data, Connected Cars und Internet der Dinge […]

Wo Maschinen irren können – Fehlerquellen und Verantwortlichkeiten in Prozessen algorithmischer Entscheidungsfindung

Der Entwicklungsprozess von algorithmischen Entscheidungssystemen ist lang und eine große Anzahl unterschiedlicher Akteure ist daran beteiligt. Deshalb können an vielen Stellen Fehler passieren – die meisten lassen sich aber vermeiden oder beheben. Katharina Zweig beschreibt anschaulich, wie algorithmische Systeme derzeit entwickelt und eingesetzt werden, und zeigt Verantwortlichkeiten sowie potenzielle Fehlerquellen auf. Wo algorithmische Systeme gebaut […]

To-dos für Teilhabe

Bei der „Das ist Netzpolitik!“-Konferenz  sprach ich über To-dos, um Prozesse algorithmischer Entscheidungsfindung für mehr gesellschaftliche Teilhabe zu gestalten. Hier sind die Folien: Mehr Material: In diesem Arbeitspapier (PDF) sind einige der erwähnten Fallbeispiele. In diesem Arbeitspapier (PDF) stehen einige Lösungsansätze für das Teilgebiet digitale Öffentlichkeit.

Dem Menschen untertan

Wir müssen über das Verhältnis von Menschen und Maschinen neu nachdenken. Denn der digitale Wandel bedeutet weit mehr als nur schnelles Internet und bequemes Online-Shopping. Entscheidungen über das Leben von Menschen werden zunehmend digitalisiert. Algorithmen bestimmen für und über uns – und genau an dieser Stelle wird Programmierkunst politisch.

Neun Chancen, neun Risiken algorithmischer Entscheidungsfindung

Bis zu 70 Prozent der Stellenbewerber in Großbritannien und den Vereinigten Staaten werden zuerst von automatisierten algorithmischen Verfahren bewertet, bevor ein Mensch ihre Unterlagen sieht. Gerichte in neun US-Bundesstaaten nutzen in Strafverfahren Software, die Risikoprognosen für die Angeklagten berechnet. Automatisierte Prognosen zur Kreditwürdigkeit werden in den Vereinigten Staaten auch genutzt, um die Höhe von Versicherungspolicen […]