Während die wackeren Digital-Nomad:innen gerade ihre Passwörter und Social-Media-Accounts hackerfest machen, haben wir für Sie vielfältige Artikel rund um das Thema Algorithmenethik kuratiert. In der ersten Erlesenes-Ausgabe 2019 erwarten Sie u. a. folgende Fragen: Können Algorithmen helfen, Alzheimer früher zu diagnostizieren? Wie macht die finnische Regierung ihre Bevölkerung KI-fit? Können Algorithmen uns zu glücklicheren Arbeitnehmer:innen machen?

Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns stets sehr über Vorschläge für Erlesenes von unseren Leser:innen. Wer einen spannenden Text gefunden hat, kann uns diesen gerne per E-Mail an carla.hustedt@bertelsmann-stiftung.de zukommen lassen.

🔖Künstliche Intelligenz entdeckt Alzheimer sechs Jahre vor der Diagnose

(Artificial Intelligence Can Detect Alzheimer’s Disease in Brain Scans Six Years Before a Diagnosis), 2. Januar 2019, University of California San Francisco

Künstliche Intelligenz (KI) ist in der Lage, bei Menschen durchschnittlich rund sechs Jahre vor der tatsächlichen Diagnose eine Alzheimer-Erkrankung zu erkennen. Das zeigte ein Team von Forscher:innen des Fachbereichs Radiologie der University of California San Francisco mit einem Experiment, über das die Wissenschaftlerin und freie Autorin Dana Smith berichtet. Die Forscher:innen trainierten die KI anhand eines öffentlichen Datensets mit Informationen aus 1921 Gehirnscans, um subtile und langsame, mit Alzheimer in Verbindung stehende Veränderungen des Glukoseniveaus zu entdecken. Derartige Musterveränderungen entgehen menschlichem Fachpersonal leicht, gehören allerdings zu den Paradedisziplinen von KI. Im anschließenden Testeinsatz identifizierte der Algorithmus in über 90 Prozent der Fälle sich abzeichnende Alzheimer-Erkrankungen akkurat. Bevor die KI im klinischen Alltag eingesetzt werden kann, seien jedoch noch weitere und umfangreichere Tests erforderlich.

🔖Wie Finnland seine Bevölkerung für KI fit macht

(Finland’s grand AI experiment), 2. Januar 2019, Politico

In Finnland wird momentan rund ein Prozent der Bevölkerung, etwa 55.000 Personen, in die Grundkonzepte Künstlicher Intelligenz (KI) eingeführt. Im Laufe der nächsten Jahre soll sich die Zahl weiter erhöhen. Ziel ist es, das kleine nordische Land weltweit führend in der praktischen, breiten Anwendung von KI zu machen und so eine lukrative und zukunftsorientierte Nische zu schaffen. Janosch Delcker, KI-Reporter bei Politico, stellt die Initiative vor, die nicht etwa staatlich konzipiert wurde, sondern ihre Anfänge in einem KI-Kurs der Universität Helsinki sowie einem daraufhin mit der Kreativ- und Strategieagentur Reaktor entwickelten Onlinekurs hat. Um Aufmerksamkeit für den Kurs zu generieren, überzeugten die Initiatoren hunderte führende Unternehmen, ihren Mitarbeiter:innen die Weiterbildung zugänglich zu machen. Nachdem der Stein ins Rollen gekommen war, wurde die finnische Regierung auf die Aktion aufmerksam – und schloss sich an.

🔖Unpassende Onlinewerbung: Dumme Maschinen sollten uns recht sein

12. Dezember 2018, Spiegel Online

Warum wird man durch Werbung zum Waschmaschinenkauf angeregt, nachdem man bereits online eine gekauft hat? Warum folgt auf ein verschwörungstheoretisches Video eine Reihe von ähnlich dubiosen Empfehlungen? Und warum bekommt eine Nutzerin bei Facebook Anzeigen für Schwangere angezeigt, obwohl sie zuvor in einem Update sehr deutlich die Trauer über eine Fehlgeburt zum Ausdruck gebracht hatte? Letzteres Beispiel, jüngst öffentlich angeprangert von der US-Journalistin Gillian Brockell, nimmt Spiegel-Online-Redakteur Patrick Beuth als Aufhänger für einen Kommentar über die Dummheit der Algorithmen. Diese basieren auf fehlerhaften, eindimensionalen Prinzipien wie “Mehr vom Selben” oder der Annahme eines “linear immer guten” Lebens. Was Anwender:innen mitunter nervt oder sie, wie im Beispiel von Gillian Brockell, gar mit einem enormen Schmerz konfrontiert, habe aber eine gute Seite, so Beuth: Die letzte Distanz zwischen Netzwerk und Nutzer:in sei wünschenswerter als Maschinen, die Menschen jederzeit richtig einschätzen und diese somit zum perfekten Kontrollinstrument würden.

🔖Algorithmen stellen den liberalen Sozialstaat vor eine Herausforderung

(The Welfare State Is Committing Suicide by Artificial Intelligence), 25. Dezember 2018, Foreign Policy

Der Einsatz Künstlicher Intelligenz (KI) stellt eine Bedrohung für liberale Demokratien und den Sozialstaat dar. Das konstatieren die Menschenrechtsaktivisten Jacob Mchangama und Hin-Yan Liu, Professor der Universität Kopenhagen, am Beispiel Dänemarks. Das Land sei ein weltweites Vorbild der liberalen, um das Wohl seiner Bürger:innen bemühten Demokratie. Damit einhergeht aber das immanente stetige Streben eines solchen Systems nach Effizienz, Konsistenz und Genauigkeit in Entscheidungen. Gepaart mit der Verlockung, dafür stark auf KI zu setzen, verlagere sich die Macht unweigerlich weg von Politik und Rechtssystem hin zu technokratischen Behörden und intransparentem Code. Eine derartige “Algocracy” führe zu Einschränkungen für Privatsphäre, Familienleben und die freie Meinungsäußerung. Die Autoren nennen als Beispiel KI, die das Risiko von Kindesmissbrauch vorherzusagen versucht – was im Falle einer falschen Prognose bedeuten könnte, dass Eltern zu Unrecht ihr Kind weggenommen würde. Der Konflikt könne nur durch eine konsequente Regulierung des Einsatzes von Algorithmen sowie durch einen Kompromiss gelöst werden, der davon absieht, algorithmische Effizienz als einzige Zielstellung zu verfolgen.

🔖Ein Algorithmus, der Angestellte zufriedener machen soll

(Firm Led by Google Veterans Uses A.I. to ‘Nudge’ Workers Toward Happiness), 31. Dezember 2018, New York Times

Können Algorithmen Angestellte glücklicher machen? Das kalifornische Start-up Humu glaubt fest daran. Daisuke Wakabayashi, Journalistin bei der New York Times, porträtiert das Unternehmen, das anderen Firmen KI-basierte Technologie genau dafür bereitstellt. Mithilfe von personalisierten, zeitlich und inhaltlich optimierten Kurznachrichten soll die Zufriedenheit der Angestellten erhöht werden. Der Algorithmus basiert auf der verhaltensökonomischen Theorie des “Nudging” sowie auf darauf zurückführbaren Konzepten, die das Gründertrio selbst über Jahre bei seinem ehemaligen Arbeitgeber Google im Einsatz erlebt hat. Wakabayashi erläutert, dass die KI auf teils sensible Daten der Belegschaft zugreift, diese jedoch auf Anfrage gelöscht werden können. Fraglich bleibe, ob Angestellte Nudges als hilfreich oder manipulativ empfinden. Zudem bestehe die Gefahr, dass Firmen die Technologie dafür verwenden, die Belegschaft auf eine Art zu “nudgen”, die nicht im Interesse der Mitarbeiter:innen liegt.

Das war‘s für diese Woche. Sollten Sie Feedback, Themenhinweise oder Verbesserungsvorschläge haben, mailen Sie uns gerne: carla.hustedt@bertelsmann-stiftung.de 

Sie können die Algorithmenethik Lektüreempfehlungen „Erlesenes“ hier abonnieren.