Neueste Beiträge
Risiken
What strategies are needed to ensure machines serve humankind?
Impact assessments, seals of quality for the origin and quality of data, creating class-action rights for federal anti-discrimination agencies, establishing an agency with algorithmic oversight – there are several ways…
Risiken
Welche Lösungen es jetzt braucht, damit algorithmische Prozesse den Menschen dienen
Verträglichkeitsprüfungen, Qualitätssiegel für Herkunft und Güte von Daten, Verbandsklagerechte für die Antidiskriminierungsstelle des Bundes, eine kompetente Algorithmenagentur – es gibt viele sehr konkrete Ideen, was zu tun ist, um algorithmische…
Risiken
Digital public: looking at what algorithms actually do
The development and expansion of today’s communications platforms have led to a radical change in how public discourse is conducted and public opinion formed. In particular, the traditional boundary between…
Risiken
Wo Maschinen irren können – Fehlerquellen und Verantwortlichkeiten in Prozessen algorithmischer Entscheidungsfindung
Der Entwicklungsprozess von algorithmischen Entscheidungssystemen ist lang und eine große Anzahl unterschiedlicher Akteure ist daran beteiligt. Deshalb können an vielen Stellen Fehler passieren – die meisten lassen sich aber vermeiden…
Risiken
Mehr Transparenz und zivilgesellschaftliche Kontrolle von Algorithmen: Bertelsmann Stiftung fördert AlgorithmWatch
Die Bertelsmann Stiftung fördert die gemeinnützige Organisation AlgorithmWatch. Ziel ist es, gesellschaftlich relevante algorithmische Entscheidungen (ADM) transparent zu machen und einen informierten öffentlichen Diskurs über die Bedeutung, Risiken und Chancen…
Kompetenzen
Algorithmische Systeme: Was zu tun ist, um Teilhabe zu stärken
Bei der ÖFIT Konferenz des Fraunhofer FOKUS sprach ich über den heute erkennbaren Handlungsbedarf, um algorithmische Entscheidungsfindung für mehr gesellschaftliche Teilhabe zu gestalten. Hier sind die Folien: https://speakerdeck.com/klischka/wenn-maschinen-menschen-bewerten-was-zu-tun-ist-um-teilhabe-zu-starken Über neue…
Risiken
Wenn Algorithmen irren, sind Menschen verantwortlich
Menschen entscheiden nicht per se fairer als Maschinen. Deshalb schadet das Trugbild vom Gegensatz Mensch - Maschine der Debatte über algorithmisch Entscheidungssysteme. Es verdeckt die eigentlichen Herausforderungen. Zum Beispiel: Wie…
Risiken
Wie algorithmisch sortierte Intermediäre wirken
Bei den Medientagen München sprach ich über algorithmische Systeme und den Strukturwandel der digitalen Öffentlichkeit. Hier sind die Folien: https://speakerdeck.com/klischka/wie-algorithmisch-sortierte-intermediare-wirken In diesem Arbeitspapier (PDF) steht viele mehr über Leitwerte und Lösungsansätze. Hier die…
Risiken
Mathwashing – wie man sich mit Algorithmen eine weiße Weste verschafft
Viele Menschen glauben, Algorithmen seien allein wegen ihrer mathematischen Grundlagen neutral. Die Visualisierung Mathwashing räumt mit diesem Irrglauben auf – Text und Illustrationen kann jeder kostenlos für eigene Vorträge, Lehrmaterialen…
Chancen
Risiken
Was die Wahlprogramme über Maschinen sagen, die Menschen bewerten
Algorithmen-TÜV, Enquete-Kommission, öffentlich-rechtliche Plattformen: Was zu maschinellen Entscheidungen in den Wahlprogramme steht, zeigt dieser große Vergleich. Darum geht's: Maschinelle Entscheidungen Welches Gewaltrisiko geht von einem Angeklagten aus? Welche Verdächtigen sollte…
Chancen
Risiken
To-dos für Teilhabe
Bei der „Das ist Netzpolitik!“-Konferenz sprach ich über To-dos, um Prozesse algorithmischer Entscheidungsfindung für mehr gesellschaftliche Teilhabe zu gestalten. Hier sind die Folien: https://speakerdeck.com/klischka/wenn-maschinen-menschen-bewerten-to-dos-fur-teilhabe Mehr Material: In diesem Arbeitspapier…
Risiken
Nine corrective responses to Algorithmic Decision-Making
Processes of algorithmic decision-making (ADM) now evaluate people in many areas of life. To take advantage of the opportunities ADM offers in the area of participation, one overall goal must…
Risiken
Video: What we really know about filter bubbles
Talk, presented in German on May 10th at re:publica in Berlin with Christian Stöcker (dubbed version below) Intermediaries like Facebook judge the relevance of content based on the public’s immediate reaction…
Chancen
Risiken
Nine Opportunities and Risks of Algorithmic Decision-Making
1. Normative principles Opportunity: When an ADM process is designed, normative decisions (e.g. about fairness criteria) must be made before the process is used. This offers an opportunity to discuss ethics…
Risiken
Was zu tun ist: Neun Herausforderungen maschineller Entscheidungen
Algorithmische Entscheidungsfindung wird nur dem Wohl der Gesellschaft dienen, wenn sie diskutiert, kritisiert und korrigiert wird. Als Impuls für diese Debatte hier neun Erkenntnisse, die wir aus der Analyse von…
Risiken
Digitale Öffentlichkeit: Schauen wir den Algorithmen auf die Finger
Öffentlichkeit konstituiert sich heute radikal anders als noch vor wenigen Jahren. Es ist Zeit, Medienvielfalt neu zu denken. Sechs Thesen zur Gestaltungsleistung der Intermediäre und den Herausforderungen, die sich daraus für…
Risiken
Fast alles, was man über digitale Öffentlichkeit wissen muss
Wir versuchen hier, ein 90-seitiges Arbeitspapier in einem binnen zehn Minuten lesbaren Text zusammenzufassen. Im Kern beantworten wir drei zentrale Fragen der Öffentlichkeit im digitalen Zeitalter: Wie verändert sich Öffentlichkeit?…
Risiken
Almost everything you need to know about the digital public sphere
We try to condense the 90+ pages of our paper "Digitale Öffentlichkeit" (full version in German: DOI 10.11586/2017028) to a short summary below that answers three key questions: Media transformation:…
Risiken
Infografik: Was die digitale Öffentlichkeit auszeichnet
Ohne den Strukturwandel der Öffentlichkeit sind Phänomene wie der Aufstieg und Fall der Piratenpartei schwer vorstellbar. Das birgt auch für die Organisation von Bewegungen um Themen herum ein neues Mobilisierungspotenzial.…
Chancen
The digital public – How algorithmic processes influence social discourse
Essentially this paper answers three key questions relating to public communication and opinion in the digital age: 1. Media transformation: How is public discourse changing because of the new digital…
Chancen
Digitale Öffentlichkeit: Wie algorithmische Prozesse den gesellschaftlichen Diskurs beeinflussen
Algorithmische Entscheidungsprozesse haben Einfluss auf die Teilhabe vieler Menschen am gesellschaftlichen Diskurs: Software personalisiert Suchergebnisse und den Nachrichtenstrom in sozialen Netzwerken. Welche Auswirkung dieser Strukturwandel der Öffentlichkeit hat, beschreibt das Arbeitspapier…
Chancen
Risiken
Infografik: Wie der Strukturwandel der Öffentlichkeit wirkt
Die Mehrheit der in Deutschland für die Meinungsbildung besonders relevanten Intermediäre nutzt algorithmische Entscheidungsfindung zur personalisierten Auswahl und Strukturierung. Facebook personalisiert den News Feed seit September 2006, Google die Suchergebnisse…
Chancen
Risiken
Neun Chancen, neun Risiken algorithmischer Entscheidungsfindung
Bis zu 70 Prozent der Stellenbewerber in Großbritannien und den Vereinigten Staaten werden zuerst von automatisierten algorithmischen Verfahren bewertet, bevor ein Mensch ihre Unterlagen sieht. Gerichte in neun US-Bundesstaaten nutzen…
Risiken
Video von der Republica: Was wir wirklich über Filterblasen wissen
Vortrag, gehalten am 10.05.2017 auf der re:publica mit Christian Stöcker Fake News, Filterblasen, Hate Speech, Social Bots: Starke Schlagworte zum Wandel der Öffentlichkeit in der digitalen Sphäre gibt es im Überfluss. Die Empirie…
Risiken
Fallbeispiele
When Machines Judge People – International Case Studies of Algorithmic Decision-making
Processes of algorithmic decision-making (ADM) now evaluate people in many areas of life. ADM processes have been used for years to categorize people, without any real discussion of whether those…
Fallbeispiele
Risiken
Wenn Maschinen Menschen bewerten
Kriminalitätsprognosen, Kreditvergabe, Bewerberauswahl: Algorithmische Systeme beeinflussen heute auf unterschiedlichen Gebieten die Leben vieler Menschen. Damit maschinelle Entscheidungen den Menschen dienen, braucht es gesellschaftliche Gestaltung, zum Beispiel in Form von Gütekriterien…
Risiken
Wie Software-Design den gesellschaftlichen Diskurs beeinflusst
Vortrag, gehalten am 8. März in Fulda bei der Tagung "Digital 2020: Werte und politische Kommunikation im Internet" https://speakerdeck.com/klischka/wie-software-design-gesellschaftlichen-diskurs-beeinflusst PDF-Download