Algorithmenethik Erlesenes #54

Wussten Sie schon, dass eines der meist gefälschten Lebensmittel der Welt Honig ist? Wie ein Algorithmus den „richtigen“ Honig vom „falschen“ unterscheiden kann, was 25 Jahre KI-Forschung über die Zukunft verraten und wie es durch den gezielten Einsatz von Algorithmen vielleicht zu weniger Fehlalarmen auf den Intensivstationen kommen kann, lesen Sie auch diese Woche in den von uns kuratierten Beiträgen.

Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns stets sehr über Vorschläge für Erlesenes von unseren Leser:innen. Wer einen spannenden Text gefunden hat, kann uns diesen gerne per E-Mail an carla.hustedt@bertelsmann-stiftung.de zukommen lassen.


🔖Wie sich Künstliche Intelligenz (KI) in 25 Jahren verändert hat

(We analyzed 16,625 papers to figure out where AI is headed next), 25. Januar 2019, MIT Technology Review

Was verraten mehr als 16.000 Forschungspapiere zu Künstlicher Intelligenz (KI), die seit 1993 auf dem Wissenschaftsserver arXiv veröffentlicht wurden, über die verschiedenen Phasen und die künftige Entwicklung der Disziplin? Das MIT Technology Review wollte genau dieser Frage nachgehen und analysierte dafür sämtliche Kurzbeschreibungen der Publikationen hinsichtlich der Häufigkeit auffälliger Fachbegriffe. Gemäß Karen Hao, Reporterin dieses Onlinemagazins, erlebte das Feld in den vergangenen 25 Jahren drei prägende Wendungen: Zunächst erfolgte etwa zum Jahrtausendwechsel eine breite Abkehr vom ineffektiven regelbasierten System hin zum maschinellen Lernen. Ab 2012 kristallisierte sich Deep Learning unter Einsatz neuronaler Netze als vorläufiger Schwerpunkt heraus. In den letzten Jahren geriet Reinforcement Learning als eine besonders raffinierte Form des Deep Learning in den Fokus der KI-Expert:innen. Für die Zukunft lasse der Blick zurück eines erahnen: Die Ära des Deep Learning werde vermutlich auch nicht für immer andauern.


🔖Algorithmus soll für weniger Fehlalarme auf der Intensivstation sorgen

23. Januar 2019, ETH-News

Auf Intensivstationen von Krankenhäusern kann die Zahl von Fehlalarmen dank eines Algorithmus verringert werden. Das zeigen Forscher:innen der ETH Zürich und der Neurochirurgischen Intensivstation des Universitätsspitals Zürich. Die Wissenschaftler:innen haben die Daten verschiedener Messgeräte kombiniert und synchronisiert, um anschließend mithilfe von maschinellem Lernen medizinisch nicht relevante Alarme zu identifizieren. Über das Verfahren berichtet Fabio Bergamin bei ETH-News. Damit der Algorithmus erfolgreich arbeiten kann, sei nur eine kleine Zahl an von Pfleger:innen und Ärzt:innen manuell klassifizierten Alarmen notwendig. Ganz ohne Fehlerquote arbeitet der Algorithmus allerdings (noch) nicht, was angesichts des Einsatzbereichs freilich problematisch sein kann. Die Forscher:innen erwägen, die Leistungsfähigkeit ihres Algorithmus in einer vorausblickenden klinischen Studie zu überprüfen, da die Daten bislang nur retrospektiv analysiert wurden.


🔖Eine Frau mit kurzen Haaren verwirrt die Gesichtserkennung

(AI Thinks Rachel Maddow Is A Man), 23. Januar 2019, Towards Data Science

Die Gesichtserkennungsalgorithmen von Amazon, Microsoft, IBM und Clarifai haben teilweise große Schwierigkeiten, das Geschlecht einer Person korrekt zu erkennen, wenn deren Aussehen von bestimmten Stereotypen abweicht. Diese Feststellung machte der Unternehmer Edwin Ong, wie er in diesem Blogbeitrag berichtet. Kurze Haare und eine Brille mit dickem Rand, wie sie z. B. die US-Nachrichtenmoderatorin Rachel Maddow trägt, genügten, um die Künstlichen Intelligenzen (KI) der Technologiefirmen zu dem Schluss zu bringen, Maddow sei ein Mann. Männer mit langen Haaren und Makeup wiederum führen die Algorithmen zu der Annahme, sie hätten es mit einer Frau zu tun. Offensichtlich ist, dass die teilweise seit Langem bekannten Schwächen von KI bei der Kategorisierung von Gesichtern (siehe Erlesenes #12 „Gesichtserkennungssysteme erkennen schwarze Frauen schlechter als weiße Männer“) noch immer nicht annähernd gelöst sind. Die Firmen hindert dies allerdings nicht daran, die Gesichtserkennungs-Software bereits kommerziell anzubieten.


🔖Digitale Banken: Algorithmische Willkür und gefühlte Hilflosigkeit der Kund:innen

(Revolut’s clumsy automated bank compliance results in frozen accounts and lack of customer service), 17. Januar 2019, ZDNet

Wer eine Bankfiliale betritt, erhält dort in der Regel noch immer persönliche Hilfe von Angestellten aus Fleisch und Blut. Bei hochgradig automatisierten digitalen Banken-Apps dagegen gibt es manchmal nur eine Chatfunktion – und selbst da weiß man nicht, ob man es mit einem Bot zu tun hat. Für Kund:innen kann der fehlende menschliche Kontakt bei automatisierten Services schnell zum Albtraum werden, schreibt der Unternehmensberater Oliver Marks in diesem Essay bei ZDNet. Am Beispiel des Banken-Startups Revolut schildert er, wie die für Sicherheit und Regeleinhaltung eingesetzten Algorithmen des Unternehmens Konten auf Verdacht automatisch sperren, das darauf enthaltene Geld einfrieren und Betroffenen nur sehr begrenzte Möglichkeiten bieten, das Problem aus der Welt zu räumen. Zumindest wenn etwas schiefgeht, dann sei Banking im Zeitalter vor “Fintech” einfacher gewesen, konstatiert Marks.


🔖Ein Algorithmus ist Honigfälscher:innen auf der Spur

(Researchers develop a machine learning method to identify fake honey), 21. Januar 2019, Tech Xplore

Honig gehört zu den am meisten gefälschten Lebensmitteln der Welt. Einzelne Honigarten werden etwa als andere Arten verkauft oder gestreckt, damit sie billiger produziert werden können. Gemäß Ingrid Fadelli, freie Journalistin bei Tech Explore, soll nun Künstliche Intelligenz (KI) der Branche dabei helfen, Honigfälscher:innen aufzuspüren. Fadelli berichtet über eine Methode von Wissenschaftler:innen des Imperial College London und des University College London. Ihr Verfahren, für das eine KI mit Daten zu verschiedenen Honig- und Pollentypen trainiert wurde, analysiere mikroskopische Aufnahmen von Honigproben, identifiziere die jeweiligen Pollen und mache Aussagen über die geographische beziehungsweise botanische Herkunft. Die Forscher:innen seien gerade dabei, das Pollen-Datenset auszubauen, damit ihr wissenschaftliches Projekt ernsthaft dafür eingesetzt werden kann, die bislang hohen Kosten der Honiganalyse zu senken.


Das war‘s für diese Woche. Sollten Sie Feedback, Themenhinweise oder Verbesserungsvorschläge haben, mailen Sie uns gerne: carla.hustedt@bertelsmann-stiftung.de 

Sie können die Algorithmenethik Lektüreempfehlungen „Erlesenes“ hier abonnieren



Kommentar verfassen