Mathwashing – wie man sich mit Algorithmen eine weiße Weste verschafft

Viele Menschen glauben, Algorithmen seien allein wegen ihrer mathematischen Grundlagen neutral. Die Visualisierung Mathwashing räumt mit diesem Irrglauben auf – Text und Illustrationen kann jeder kostenlos für eigene Vorträge, Lehrmaterialen oder Veröffentlichungen nutzen.

Wenn Software die Relevanz von Nachrichten, die Karrierechancen von Bewerbern oder die Kreditwürdigkeit von Kunden bewertet, heißt es oft: Der Computer, der Algorithmus oder gar die künstliche Intelligenz hat das ausgerechnet. Dabei gerät leicht in Vergessenheit, dass in jedem Fall ein spezielles Programm am Werk ist, das Menschen für diesen einen Zweck entwickelt und trainiert haben. Menschen entscheiden, welche Daten das System nutzt und woraufhin es optimiert. Und Menschen können irren, haben Vorurteile und verfolgen manchmal ganz eigene Interessen.

Für diesen Irrglauben an die Objektivität algorithmischer Entscheidungssysteme hat Data Scientist Fred Benenson (früher Kickstarter, heute Y Combinator) den Begriff Mathwashing geprägt. Benenson erklärt:

„Wenn jemand Begriffe wie Algorithmus oder Modell nutzt, um eine viel subjektivere Realität zu überdecken, ist das Mathwashing. (…) Mathematik kann vorliegende Daten objektiv beschreiben. (…) Doch beim Messen von Dingen wie menschlichem Verhalten gibt es nicht so etwas wie perfekte Daten. (…) Alles was wir basierend auf Daten konstruieren, reflektiert unsere Verzerrungen und Urteile beim Messen.“

Je mehr maschinelle Entscheidungen das Leben vieler Menschen beeinflussen, desto wichtiger ist das richtige Gespür für Mathwashing. Darum hat der niederländischen Designer Tijmen Schep diese eingängige, visuelle Erklärung von Mathwashing entworfen:

Kopieren und Verbreiten erwünscht!

Wir haben die Visualisierung mit Scheps Einverständnis ins Deutsche übersetzt und unter der freien Creative-Commons-Lizenz CC BY-SA 3.0 DE (Namensnennung – Weitergabe unter gleichen Bedingungen) lizenziert. Das bedeutet: Wenn Sie das Phänomen Mathwashing erklären wollen, können Sie einfach unser Angebot als Vorlage nutzen, den Text kopieren und auch die Bilder verwenden. Diese stammen allesamt vom Public Domain-Angebot Pixabay. Wenn Sie Poster oder Flyer zu Mathwashing entwickeln wollen, können Sie auch das tun.

Hier eine Auflistung aller verwendeten Grafiken:



Kommentar verfassen