Algorithmen

Algorithmenethik Erlesenes #93

Liebe, Macht, Verrat: Shakespeares Werk kennt nicht wenige Beispiele für diese Trias. Nun ist der große Lyriker selbst verraten worden – von einem Algorithmus. Außerdem in der dieswöchigen Ausgabe von Erlesenes: Gibt es zwei Wellen in der Diskussion um Algorithmenethik? Wem schaden überzogenen Erwartungen an Künstliche Intelligenz? Diskutieren Sie mit – auf Twitter (@algoethik) oder […]

Algorithmenethik Erlesenes #92

Algorithmen können, wenn sie gut gemacht sind, viel Gutes bewirken. Trotzdem kann der Einsatz der Technologie nicht alle gesellschaftlichen Probleme lösen. Wie können wir mit diesem Dilemma umgehen? Antworten finden sich in der dieswöchigen Ausgabe von Erlesenes. Außerdem: Müssen wir unser Verständnis von „nicht diskriminierenden“ Algorithmen erweitern? Was bedeutet „fair“? Diskutieren sie mit – auf […]

Algorithmen fürs Gemeinwohl: 10 Erkenntnisse aus 2 Jahren intersektoraler Arbeit

Der Austausch zwischen verschiedenen Disziplinen und Sektoren ist keine leichte, aber meist sehr hilfreiche Übung. Das gilt auch für die Diskussion zum ethischen Einsatz algorithmischer Systeme. Viele Fragen lassen sich nur durch interdisziplinäre Ansätze und eine Zusammenarbeit von Wissenschaft, Zivilgesellschaft, Wirtschaft und Politik beantworten. Die Stiftung Neue Verantwortung und die Bertelsmann Stiftung haben daher im […]

Algorithmenethik Erlesenes #91

Wie kann der öffentliche Sektor algorithmische Systeme so einsetzen, dass sie dem Gemeinwohl dienen? Wie so oft, kommt es vor allem auf das Zusammenspiel von Mensch und Maschine an. Die Beiträge in dieser Ausgabe gehen dieser Frage aus sehr unterschiedlichen Perspektiven nach. Außerdem: Kommt der Algorithmen-TÜV? Erreicht Künstliche Intelligenz (KI) die Schöpfungshöhe? Diskutieren sie mit […]

Raus aus der Black Box. Algorithmen für alle nachvollziehbar machen – aber wie?

Im Rahmen des Kooperationsprojektes „Algorithmen fürs Gemeinwohl“ von Stiftung Neue Verantwortung und Bertelsmann Stiftung haben wir die Chancen und Risiken algorithmischer Systeme sektorübergreifend diskutiert. Nach der Auseinandersetzung mit den drei Anwendungsbereichen Predictive Policing, Robo Recruiting und Gesundheits-Apps stellt Leonie Beining in einem neuen Arbeitspapier die verschiedenen Dimensionen von Nachvollziehbarkeit algorithmischer Systeme vor.  In der US-amerikanischen Stadt Boston musste die Schulbehörde […]

Algorithmenethik Erlesenes #87

Kann man Fairness mathematisch quantifizieren? Diese Frage lässt sich dank eines algorithmischen Spiels der MIT Technology Review nun interaktiv beantworten – beziehungsweise kann jede:r selbst am Computer den Versuch wagen! Außerdem: Welchen Nutzen können künstliche intelligente Systeme in deutschen Krankenhäusern stiften? Wie hängen KI und Klimawandel miteinander zusammen? Und: Warum entscheidet eine australische Software über […]

Befähigung: Das optimierte Ich

Das in unserem Projekt „Ethik der Algorithmen“ entstandene Buch „Wir und die intelligenten Maschinen“ illustriert anhand konkreter Beispiele, welche Auswirkungen Algorithmen auf einzelne Personen, Staat und Gesellschaft sowie das soziale Miteinander haben. Nach den Effekten Personalisierung und Zugang befasst sich der dritte von neun Beiträgen dieser Reihe sich mit der Frage, wie Algorithmen menschliche Fähigkeiten […]

Algorithmenethik Erlesenes #84

Wie können wir mit maschinellem Lernen „stille“ Erdbeben frühzeitig vorhersagen? Und können smarte Assistenten Menschen mit Sehbehinderung unterstützen? Welche Strategien entwickeln afrikanische KI-Forscher:innen, um es mit dem Silicon Valley aufzunehmen? Mit den fünf Impulsen der Woche zeigen wir auf, welche große und kleine gesellschaftliche Herausforderungen mit algorithmischen Helfern gelöst werden können! Die Meinungen in den […]

Algorithmenethik Erlesenes #83

Haben Sie diese Woche das bei Twitter gehypte Spiel #ImageNetRoulette ausprobiert? Dahinter steckt wohlmöglich etwas anderes als nur ein harmloser Gesichtserkennungsspaß! Außerdem im Erlesenes-Newsletter der Woche: Wie können Algorithmen bei der Obdachlosenhilfe unterstützen? Und was sind die fünf Vorschläge von Nesta-Chef Geoff Mulgan für effektivere Algorithmenethik? Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die […]

Personalisierung: Passend für jeden

Algorithmen bestimmen bereits heute unseren Alltag. In den kommenden Wochen wollen wir an dieser Stelle aufzeigen, welche Effekte Algorithmen für Individuum, Staat und Gesellschaft sowie unser soziales Miteinander haben. Im ersten von insgesamt neun Beiträgen befassen wir uns mit den Chancen und Risiken der Personalisierung.  

Algorithmenethik Erlesenes #82

Wo helfen uns Algorithmen wirklich bei den großen gesellschaftlichen Herausforderungen? Und wo werden sie eingesetzt, um unsere Schwächen auszunutzen? Können wir die richtigen Ziele falsch angehen? Und was müssen wir für den Einsatz algorithmischer Systeme Kindern beibringen? Diesen großen Fragen nähern sich unsere fünf Impulse der Woche. Bleiben Sie informiert und diskutieren Sie über Twitter […]

Algorithmenethik Erlesenes #81

Was uns gerade in der Algorithmenethik-Welt bewegt: Lohnt sich Verhaltensforschung an Künstlicher Intelligenz (KI)? Würde ein Algorithmus die achte Klasse meistern? Wie verändern Apps Verkehrsflüsse in L.A.? Eine bunte Themenauswahl erwartet Sie auch diese Woche im Erlesenes-Newsletter. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass […]

Algorithmenethik Erlesenes #80

Was kann KI? Das ist die Leitfrage Frage, der wir uns in dieser Woche im Erlesenes-Newsletter stellen. Speziell: Können Algorithmen bei Amokläufen Schlimmeres verhindern? Wie könnte Künstliche Intelligenz den Beruf von Psychiater:innen verändern? Welche Rollen nehmen algorithmische Systeme in der künftigen Arbeitswelt ein? Mit unseren Algorithmenethik-Impulsen decken Sie zahlreiche KI-Mythen auf und bleiben auf dem neusten Stand!  […]

Algorithmenethik Erlesenes #79

Der Erlesenes-Newsletter meldet sich aus der Sommerpause mit frischen Impulsen aus der Algorithmenethik-Welt zurück. Daten sind das neue CO2, nicht Öl. Wieso braucht die oft verbreitete Metapher eine Überholung? Wie kann Künstliche Intelligenz (KI) bald Gebärdensprache noch schneller und einfacher erkennen? Warum müssen Suchmaschinen-Algorithmen dringend verbessert und auf den Prüfstand gestellt werden? Diese und andere […]

Algorithmenethik Erlesenes #78

In der letzten Ausgabe vor unserer Sommerpause geht es endlich auch um unseren Zauberwürfel. Was der mit Algorithmen zu tun hat, wieso Henry Kissinger vielleicht KI-Experte wird und wie wir Firmen vom „Ethics Washing“ abhalten könnten, thematisieren unsere kuratierten Beiträge in diesem Erlesenes-Newsletter. Bis zur nächsten Ausgabe am 29. August müssen Sie uns aber nicht […]

Algorithmenethik Erlesenes #76

Auf zu neuen Ufern! Das war das Motto unseres Teamtags, bei dem wir nicht nur an neuen Projektstrategien arbeiten, sondern auch ein fahrtüchtiges Floß bauen konnten. Neue Impulse finden sich aber auch im dieswöchigen Erlesenes-Newsletter: Welche wissenschaftlichen Durchbrüche könnten durch Algorithmen vorhergesagt werden? Wie hilft eine Künstliche Intelligenz (KI), die Zahl von Demonstrant:innen richtig zu […]

Algorithmenethik Erlesenes #75

Welche Aufgaben bleiben für Physiker, wenn Algorithmen die Datenberge bearbeiten? Wie könnte Künstliche Intelligenz (KI) riskantes Spielerverhalten erkennen? Und wieso muss man KI das Pizzabacken beibringen? Drei sehr unterschiedliche Perspektiven auf Algorithmenethik bieten wir diese Woche wieder im Erlesenes-Newsletter! Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen […]

Algorithmenethik Erlesenes #74

Die Temperaturen steigen und wir fragen uns: Was haben Fridays for Future und Algorithmen gemeinsam? Die Antwort gibt es in einem der fünf Erlesenes-Impulse zur Algorithmenethik. Außerdem: Könnten Sprachassistenten Herzstillstände diagnostizieren? Und woran mangelt es den KI-Rockstars? Bleiben Sie informiert in der bunten Welt der Algorithmen! Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die […]

Algorithmenethik Erlesenes #73

Einige Glückliche in Deutschland genießen ein langes Wochenende. Deswegen erscheint unser Erlesenes-Newsletter diese Woche ausnahmsweise an einem Freitag. Für alle gibt es aber wie immer ein Potpourri an Fragen und Antworten rund um Algorithmenethik: Vergeben und vergessen – Welche Daten dürfen Algorithmen künftig nicht mehr berücksichtigen? Wie könnte Künstliche Intelligenz im Gerichtssaal helfen? Und wie […]

Algorithmenethik Erlesenes #72

Was stößt mehr CO2 aus – ein PKW oder ein algorithmisches System? Welchen Einfluss haben Tech-Konzerne auf die Forschung zur Algorithmenethik? Was will Estland mit Künstlicher Intelligenz (KI) noch optimieren? Auch diese Woche haben wir fünf spannende Beiträge für Erlesenes ausgesucht, die Antworten auf die brennendsten Fragen geben könnten. Die Meinungen in den Beiträgen spiegeln […]

Algorithmenethik Erlesenes #71

YouTube hat in den letzten Wochen für viele (analoge) Diskussionen gesorgt, aber wie genau geht die Plattform mit der konkreten Kritik an ihrem Algorithmus um? Ist Künstliche Intelligenz (KI) teamfähig? Wie verhält sich ein algorithmisches System als Chef:in? Das sind u. a. die Fragen, denen wir auch diese Woche im Erlesenes-Newsletter nachgehen! Die Meinungen in den […]

Algorithmenethik Erlesenes #70

Sind Sprachassistenzsysteme sexistisch und wie könnten wir das künftig ändern? Können Algorithmen gegen Lebensmittelverschwendung eingesetzt werden? Was läuft falsch beim derzeitigen Digitalisierungstrend? Damit Sie das verlängerte Wochenende mit frischen Impulsen zu Algorithmenethik beginnen, kuratieren wir schon heute Antworten auf die drängendsten Fragen! Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung […]

Algorithmenethik Erlesenes #69

Nach einer kleinen Urlaubspause haben wir diese Woche wieder neue und erkenntnisreiche Beiträge zur Algorithmenethik im Erlesenes-Newsletter kuratiert. Wussten Sie beispielsweise schon, wie Werbeanbieter künftig bei datenschutzrechtlichen Vergehen zur Rechenschaft gezogen werden könnten? Oder warum Algorithmen die Welt manchmal mit ganz anderen Augen sehen? Lesen Sie darüber in dieser Ausgabe und bleiben Sie informiert! Die […]

Algorithmen, arbeitet mit Anstand!

Wie Algorithmen unser Leben bestimmen und wir sie für uns nutzen können: Dieser Frage gehen meine beiden Kollegen Jörg Dräger und Ralph Müller-Eiselt in ihrem Buch „Wir und die intelligenten Maschinen“ nach. Am 15. April im Verlag dva erschienen, sehr lesenswert und als Thema über den Blog algorithmenethik.de zur Diskussion gestellt. Hier will ich mich auf einen Aspekt des Schlusskapitels beschränken, Seite 212 folgende: „Der europäische Weg: Werte […]

Algorithmenethik Erlesenes #68

Können Algorithmen gegen die Kriminalität in Dörfern angehen? Wie können algorithmische Systeme Naturkatastrophen verhindern? Und wieso braucht es für Facebooks Künstliche Intelligenz eine händische Vorarbeit? Antworten auf diese Fragen gibt es wie jede Woche in fünf spannenden Beiträgen im Erlesenes-Newsletter! Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir […]

Algorithmen-Transparenz. Was steckt hinter dem Buzzword?

Am Montag, 06.05.2019 habe ich in der Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ einen Vortrag zum Thema „KI-Transparenz“ gehalten. Bedeutet KI-Transparenz die Offenlegung des Quellcodes? Der Daten? Oder ist damit etwa ein Vermummungsverbot für maschinelle Entscheidungen gemeint? In Teil 1 meiner Beitragsserie nehme ich das Buzzword “KI-Transparenz” auseinander und stelle die 3 Thesen vor, die ich in der Kommissionssitzung erläutert habe. Im zweiten Beitrag […]

Algorithmenethik Erlesenes #67

Können Algorithmen posttraumatische Belastungsstörungen erkennen? Braucht es ein neues Forschungsfeld zu Künstlicher Intelligenz (KI)? Müssen wir algorithmische Systeme vor Menschen schützen? Diese und andere spannende Fragen gibt es im Erlesenes-Newsletter. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs […]

Algorithmenethik Erlesenes #66

Von Algorithmen, die Bücher schreiben und fehlender Diversität bei KI Entwickler:innen – im Erlesenes kuratieren wir wieder eine bunte Mischung an Themen. Die Welt der Algorithmenethik ist in Bewegung. Jetzt Erlesenes lesen und auf dem neuesten Stand bleiben! Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, […]

Algorithmenethik Erlesenes #65

Ein langes Wochenende steht vor der Tür und wir haben statt buntbemalter Ostereier wieder vielfältige Beiträge rund um Algorithmen und Künstliche Intelligenz (KI) im Erlesenes-Newsletter versteckt. Wussten Sie beispielsweise schon, wieso KI-Entwickler:innen an Hundetrainings teilnehmen? Oder wie man Tweets von Barack Obama mit einem Algorithmus vorhersagen kann? Antworten gibt es wie immer in der dieswöchigen […]

KI und Moral. Eine Grundlagendebatte

Im vergangenen Jahr ist die Skepsis gegenüber Künstlicher Intelligenz (KI) zu Recht gestiegen. Wenn all diese Technologien ohne strenge ethische Rahmenbedingungen oder ohne Berücksichtigung der öffentlichen oder mindestens betroffenen Interessen angewendet werden, fürchten viele individuelle und gesellschaftliche Nachteile und sogar die Bedrohung menschlichen Lebens. Anlass für diese Sorge könnte unter vielen Beispielen etwa die Erklärung […]

Algorithmenethik Erlesenes #64

Klappt Selbstregulierung bei Künstlicher Intelligenz (KI)? Welche Richtlinien veröffentlicht die Expert:innengruppe der EU? Und woher kommen (auch künftige) KI-Expert:innen? Diese Woche im Erlesenes-Newsletter gibt es wieder eine bunte Mischung an Meinungsbeiträgen und neuesten Erkenntnissen aus der Algorithmenwelt! Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass […]

Algorithmenethik Erlesenes #63

Haben Sie schon einmal einen Song gehört, den ein Algorithmus komponiert hat? Ist Künstliche Intelligenz (KI) in der Justiz nur ein Hype? Wie helfen finnische Häftlinge Algorithmen zu trainieren? Eine bunte Mischung an Themen und Antworten finden sich auch diese Woche in unserem Erlesenes Newsletter! Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen […]

Algorithmenethik Erlesenes #62

Worüber streiten sich zwei KI-Forscher? Sollten wir uns mindestens einmal am Tag gegen eine Algorithmus-Empfehlung entscheiden? Was sollten Forscher:innen bei Studien zu den Sozialen Medien bedenken? Antworten auf diese und andere Fragen finden sich auch diese Woche im „Erlesenes“-Newsletter. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen […]

Algorithmenethik Erlesenes #61

Was haben ein Pferd namens Hans und Algorithmen gemeinsam? Brauchst es wirklich ein KI-Wettrüsten? Wie gelingt das Zusammenspiel zwischen Mensch und Maschine künftig im Flugzeug? Neugierig? Dann gehen Sie auch diese Woche diesen Fragen im Erlesenes-Newsletter auf den Grund! Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen […]

Algorithmenethik Erlesenes #60

In dieser Ausgabe steht der Mensch im Zentrum: Sollten wir uns erst einmal mit dem Intelligenzbegriff als solchem beschäftigen, ehe wir Künstlichen „Intelligenzen“ Kontrolle über unser Leben einräumen? Würden KI-Systeme intelligenter, wenn sie sich am Denken von Kindern orientieren würden? Fordert KI unser menschliches Selbstverständnis heraus? Um diese und viele weitere spannende Fragen und (Meinungs-)Beiträge […]

Algorithmenethik Erlesenes #59

Die Berliner können sich diese Woche über einen neuen Feiertag freuen! Die (zusätzliche) freie Zeit lässt sich daher gut zum Lesen des einen oder anderen Artikels aus unserem Newsletter investieren. Wie können Algorithmen bei der „richtigen“ Ernährung helfen? Was können Journalist:innen bei der Berichterstattung zu algorithmischen Entscheidungssystemen beachten? Diese und weitere Fragen behandeln wir in […]

Algo.Rules – Wie kriegen wir die Ethik in den Code?

Algorithmische Systeme treffen in immer mehr Bereichen Entscheidungen für und über uns Menschen, häufig ohne, dass wir es merken. Um bestehende Rechte und Freiheiten auch im algorithmischen Zeitalter durchsetzen zu können, braucht es Regeln für die Gestaltung und den Einsatz der Systeme. Zusammen mit dem iRights.Lab haben wir deshalb in einem breiten Beteiligungsprozess die Algo.Rules […]

Der Mensch als Bremsklotz?

Die Technik des selbstfahrenden Autos schreitet rapide voran. Doch die größte Herausforderung ist der Mensch. Die Branchenmesse CES zeigte im Januar 2019 die kombinierte Begeisterung der IT- und Auto-Branche für das autonome Auto. Von Ubers Prototypen für ein autonomes Flugtaxi über Boschs neuen fahrerlosen Shuttle bis hin zu Audis neuem Entertainment-System für die künftig beschäftigungslose/n Fahrer:innen […]

Der lange Weg zum autonomen Auto

Die Technik der selbstfahrenden Autos schreitet rapide voran. Die Entwicklung ist nicht nur eine technische, sondern auch eine ethische Herausforderung. Plötzlich geht es ganz schnell. Im Dezember 2018 kündigte Tesla die nächste Stufe seines Autopiloten an, der die Fahrer:innen automatisch von zu Hause bis zur Arbeit fahren kann. Google zog wenige Tage später durch den […]

Algorithmenethik Erlesenes #58

Helau oder Alaaf? Welchem Narrenruf Sie auch in den kommenden Tagen folgen, diese Woche gibt es wieder Kamelle der algorithmischen Art für alle: Kann Künstliche Intelligenz (KI) das Erfinden neu erfinden? Wie werden Algorithmen Ihren Einkauf im Supermarkt vorhersagen? Wie können wir verhindern, dass algorithmische Entscheidungssysteme soziale Spannungen in der Gesellschaft verstärken? Die Meinungen in […]

Algorithmenethik Erlesenes #57

Diese Woche haben wir wieder eine bunte Mischung aus spannenden Anwendungsfeldern, starken Meinungsbeiträgen und neuen wissenschaftlichen Erkenntnissen zu Algorithmen für Sie zusammengestellt. Wie testet die finnische Regierung eine persönliche Ratgeber-KI für ihre Bürger:innen? Können Algorithmen Preisabsprachen treffen? Was bedarf es, um algorithmische Entscheidungssysteme in den Dienst von Bostoner Schüler:innen zu stellen? Bleiben Sie mit Erlesenes auf […]

Per Algorithmus zum Wunschkind?

Auch in der Gendiagnostik und Reproduktionsmedizin haben Algorithmen mittlerweile Einzug gehalten. Manche erhoffen sich nunmehr das Wunschkind per Knopfdruck. Viele Angebote halten aber nicht, was sie versprechen, und werfen dabei ernsthafte ethische Fragen auf. Im November letzten Jahres sorgte eine Schlagzeile weltweit für Aufruhr. Der chinesische Forscher He Jiankui behauptete, er habe mithilfe der sogenannten […]

Automatisierte Entscheidungen: Europa muss mit einer Stimme sprechen

Automatisierte Entscheidungen sind im Alltag vieler Europäer:innen angekommen: Ob bei der Jobsuche in Finnland, im italienischen Gesundheitswesen oder bei der Identifizierung vernachlässigter Kinder in Dänemark, in vielen EU-Ländern kommen solche Systeme zum Einsatz, nicht selten in zentralen Bereichen der öffentlichen Verwaltung. Findet die EU darauf eine gemeinsame Antwort? In unserem neuen Report „Automating Society – […]

Was Europa über Algorithmen weiß und denkt

Algorithmen bestimmen über die Werbung, die wir sehen, entscheiden über die Vergabe von Krediten und Studienplätzen oder machen uns auf Datingportalen Vorschläge für passende Partner. Jede:r Einzelne von uns ist Tag für Tag von Entscheidungen betroffen, die Algorithmen für und über uns treffen. Doch was wissen und denken die Menschen in Europa eigentlich über Algorithmen? […]

Algorithmenethik Erlesenes #54

Wussten Sie schon, dass eines der meist gefälschten Lebensmittel der Welt Honig ist? Wie ein Algorithmus den „richtigen“ Honig vom „falschen“ unterscheiden kann, was 25 Jahre KI-Forschung über die Zukunft verraten und wie es durch den gezielten Einsatz von Algorithmen vielleicht zu weniger Fehlalarmen auf den Intensivstationen kommen kann, lesen Sie auch diese Woche in […]

Algorithmenethik Erlesenes #53

Der Winter hält Einzug in Deutschland, während wir auch in dieser Ausgabe ausgewählte Debattenbeiträge und Artikel präsentieren. Gehen Sie u. a. den Fragen nach, ob KI Gerichtsurteile fairer machen kann, wie man Ungewissheit in Algorithmen integrieren sollte und wieso es KI-Systemen schwer fällt, Behinderungen zu erkennen! Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die […]

Algorithmenethik Erlesenes #51

Während die wackeren Digital-Nomad:innen gerade ihre Passwörter und Social-Media-Accounts hackerfest machen, haben wir für Sie vielfältige Artikel rund um das Thema Algorithmenethik kuratiert. In der ersten Erlesenes-Ausgabe 2019 erwarten Sie u. a. folgende Fragen: Können Algorithmen helfen, Alzheimer früher zu diagnostizieren? Wie macht die finnische Regierung ihre Bevölkerung KI-fit? Können Algorithmen uns zu glücklicheren Arbeitnehmer:innen machen? […]

Algorithmenethik Erlesenes #50

Kann Gesichtserkennungssoftware dabei helfen, den Amerikanischen Bürgerkrieg aufzuarbeiten? Wo liegen die Grenzen von Deep Learning? Was hat es mit dem neuen Spitzen-Verbund für maschinelles Lernen (ELLIS) auf sich? Wir verabschieden uns für dieses Jahr mit einer kuratierten Auswahl an Debattenbeiträgen, neuen Anwendungsfällen, wissenschaftlichen Erkenntnissen rund ums Thema Algorithmenethik. All unseren Leser:innen wünschen wir erholsame Feiertage […]

Algorithmenethik Erlesenes #49

Weil unser Team gestern mit Projektevaluation, -planung, dem Besuch einer Roboterausstellung und des Paderborner Weihnachtsmarkts ausgelastet war, erreicht Sie Erlesenes diese Woche ausnahmsweise erst am Freitag. Was sich nicht geändert hat: Die ausgewählten Artikel sind vielfältig, aktuell und werfen viele wichtige Fragen rund um das Thema Algorithmenethik auf: Wie funktioniert der Schufa-Algorithmus? Kann Künstliche Intelligenz die […]

Algorithmenethik Erlesenes #48

Auch in dieser Ausgabe erwartet sie eine bunte Mischung an Themen: Von internationalen Digitalisierungs-Konferenzen, die in afrikanische Länder umziehen. Über Algorithmen, die die Vertrauenswürdigkeit von Babysittern vorhersagen. Bis hin zu Künstlicher Intelligenz, die Röntgenbilder manipuliert. Die Welt der Algorithmenethik ist in Bewegung. Jetzt Erlesenes lesen und auf dem neuesten Stand bleiben! Die Meinungen in den […]

Algorithmenethik Erlesenes #47

In dieser Ausgabe erwartet Sie wieder eine Mischung aus neuen Fallbeispielen, wissenschaftlichen Erkenntnissen und kontroversen Meinungsbeiträgen. Es geht um die Chancen Künstlicher Intelligenz (KI) für den Tierschutz, um Mitarbeiter:innen großer Tech-Konzerne, die sich gegen unethisches Verhalten ihrer Arbeitgeber auflehnen, um sechs große Irrtümer in der KI-Debatte und vieles mehr Die Meinungen in den Beiträgen spiegeln […]

Mediamodifier on Pixabay

Algorithmenethik Erlesenes #45

Kann Künstliche Intelligenz Lügner:innen entlarven? Vertrauen Menschen eher einer Maschine als einem anderen Menschen? Zerstören algorithmische Reiseempfehlungen kulturelle Diversität? Auch diese Woche gibt’s im Erlesenes-Newsletter wieder einige spannende Fragen, Diskussionsbeiträge, Interviews und neue wissenschaftliche Erkenntnisse rund um das Thema Algorithmenethik. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir […]

„Man darf keinen dazu zwingen, getrackt zu werden“

In diesem Interview spricht Barbara Wimmer über das Internet der Dinge, seine Chancen und Gefahren, sowie Lösungsvorschläge, um diese Technologie in den Dienst der Gesellschaft zu stellen. Das Gespräch mit der Netzjournalistin, Buchautorin und Vortragenden führte Michael Puntschuh im Rahmen der „Das ist Netzpolitik!“-Konferenz.

Roboter sind auch nur Menschen!? – Ein juristischer Blick auf die Haftung für Künstliche Intelligenz

Autonomes Fahren, Robo-Advice statt menschlicher Bankberatung oder datenbasierte Medizin sind nur drei Beispiele der unendlichen Anwendungsmöglichkeiten für Künstliche Intelligenz (KI). Mit dem zunehmenden Einsatz solcher Systeme werden allerdings auch häufiger durch Technologie verursachte Schadensfälle auftreten. Doch wer haftet, wenn eine Maschine versagt? Es wird höchste Zeit, sich dieser Frage zu widmen. Selbstlernende technische Systeme, die […]

Algorithmenethik Erlesenes #43

Der britische National Health Service (NHS) kooperiert verstärkt mit Anbieter:innen von Diagnose-Apps und erhält dafür nicht nur Lobpreisungen. In Kalifornien wurde derweil ein Vermummungsverbot für Chatbots eingeführt. In den USA entwickelt sich eine Bewegung gegen selbstfahrende Autos und immer mehr Startups weltweit nutzen Gesichtserkennungssoftware zur Überwachung von Tieren.  Diese Themen und vieles mehr erwarten Sie […]

Algorithmenethik Erlesenes #42

Kann ein Algorithmus sexistisch sein? Sollten Algorithmen die Arbeitsmarktchancen von Arbeitslosen berechnen? Wann ist eine Künstliche Intelligenz (KI) eigentlich nachvollziehbar und transparent? Wie erfolgreich war das Pilotprojekt zur Gesichtserkennung am Berliner Bahnhof Südkreuz? Antworten auf diese und weitere spannende Fragen, Meinungsbeiträge und neue wissenschaftliche Erkenntnisse liefert unserer Erlesenes-Newsletter #42: Die Meinungen in den Beiträgen spiegeln […]

Algorithmenethik Erlesenes #41

Warum sollten Kunstschaffende und KI-Forscher:innen zusammenarbeiten? Welche Rolle spielen Algorithmen für die Sockenbestellung bei Amazon? Und welche menschlichen Fähigkeiten gilt es im KI-Zeitalter zu fördern? Diese und viele weitere Fragen und die ein oder andere Antwort erwarten Sie diese Woche im Erlesenes-Newsletter.

Algorithmenethik Erlesenes #40

Nach dem Feiertag fällt es schwer, die Gehirnzellen wieder anzukurbeln? Vielleicht kann Erlesenes den nötigen Anstoß bieten. Denn auch diese Woche gibt’s wieder viele Fragen, Ideen und Denkanregungen rund um das Thema Algorithmenethik: Was können Unternehmen und Regierungen tun, um Diskriminierung durch algorithmische Systeme zu vermeiden? Wieso hat Instagram ein Drogen-Problem? Was hat Artenschutz mit […]

Algorithmenethik Erlesenes #39

Welche Risiken bestehen für das Justizsystem, wenn Algorithmen zur Kriminalitätsprävention eingesetzt werden? Wo liegen die größten Schwächen von Bilderkennungssystemen? Kann Künstliche Intelligenz (KI) anhand von Satellitenbildern vorhersagen, mit welcher Wahrscheinlichkeit Menschen in einer bestimmten Gegend übergewichtig sind? Um diese und einige weitere spannende Fragen, Meinungsbeiträge und neue wissenschaftliche Erkenntnisse geht es in unserem Erlesenes Newsletter […]

Algorithmenethik Erlesenes #38

Was wäre, wenn… Künstliche Intelligenz (KI) ihre “Denkvorgänge” erklären könnte? Algorithmen kranke Menschen und Organspender:innen zusammenbringen könnten? Man Geld damit machen könnte, diskriminierende Software zu bekämpfen? Ihr stellt Euch diese Fragen? Dann seid Ihr hier genau richtig. Denn bei Erlesenes gibt es Antworten – und viele neue Fragen. Die Meinungen in den Beiträgen spiegeln nicht […]

Auswertung der Blogparade – Eure Meinungen und Ideen zu Künstlicher Intelligenz fürs Gemeinwohl

In den letzten Wochen und Tagen hat sich die Politik weiter auf die Auseinandersetzung mit Algorithmen und Künstlicher Intelligenz (KI) vorbereitet. Die Sachverständigen der KI-Enquete wurden berufen. Der Digitalrat der Bundesregierung kam das erste Mal zusammen. Die Datenethikkommission wurde durch die Bundesminister Horst Seehofer und Katarina Barley zu ihrer ersten Sitzung begrüßt. Während die verschiedenen […]

Algorithmenethik Erlesenes #37

Unumstritten, Algorithmen und Künstliche Intelligenz (KI) bieten große Chancen für alle Gesellschaftsbereiche. Doch wenn YouTube Falschnachrichten und Hass verbreitet, Übersetzungssoftware Genderstereotypen reproduziert und durch autonome Software Situationen entstehen, in denen niemand für Schäden haftet, dann brauchen wir eine Debatte über die Risiken der Technologie – und vor allem über mögliche Lösungen. Wir hoffen, dass die Artikel, […]

Auf dem Weg zu Gütekriterien für den Algorithmeneinsatz

Unser #algorules-Prozess mit dem Think Tank iRights.Lab läuft seit drei Monaten – Zeit für einen Zwischenstand! Unser Ziel ist es, einen Gütekriterienkatalog für algorithmische Prozesse zu entwickeln. Dieser kann als Referenzpunkt für Beschwerden und Überprüfungen dienen. Hier können Sie sich einen Überblick über unsere vergangenen, aktuellen und zukünftigen Aktivitäten verschaffen.

Blogparade: Künstliche Intelligenz fürs Gemeinwohl? Sagt uns Eure Meinung!

Die Bundesregierung hat am 17. Juli die „Eckpunkte für eine Strategie Künstliche Intelligenz (KI) der Bundesregierung“ veröffentlicht. Sie sollen einen Orientierungsrahmen für die eigentliche KI-Strategie darstellen, welche bis zum November unter Federführung des Bundeswirtschaftsministeriums (BMWi), des Bundesforschungsministeriums (BMBF) und des Bundesarbeitsministeriums (BMAS) entwickelt werden soll. Im internationalen Vergleich ist Deutschland somit zwar eher ein Nachzügler […]

Algorithmenethik Erlesenes #35

Liebe Leser, wir möchten uns mit der heutigen Ausgabe in die Sommerpause verabschieden. Im August wird es keinen Newsletter geben und somit geht es nach der Pause am 6. September 2018 weiter. Bis dahin ruht unser Projekt „Ethik der Algorithmen“ nicht, wir arbeiten u. a. an unserer Professionsethik für Algorithmiker weiter. Wem es in der Zwischenzeit […]

Algorithmenethik Erlesenes #34

Was haben Künstliche Intelligenz und Wolpertinger gemeinsam? Können Algorithmen Leben retten? Warum fordert Microsoft auf einmal mehr Regulierung? Wie immer gibt’s bei Erlesenes viele Fragen (und auch die eine oder andere Antwort) zu den ethischen Perspektiven und neuesten Entwicklungen im Bereich Algorithmen und Künstliche Intelligenz (KI). Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen […]

Algorithmenethik Erlesenes #33

Diese Erlesenes-Ausgabe führt uns sehr deutlich die Fehleranfälligkeit und Limitiertheit von Künstlicher Intelligenz (KI) und algorithmischer Technologie vor Augen: Der Facebookalgorithmus hat die US-Unabhängigkeitserklärung als Hassrede gekennzeichnet. Selbstfahrende Autos haben Probleme mit ungewöhnlichen Situationen umzugehen. Algorithmen zur Benotung von Schüleraufsetzen können sehr einfach ausgetrickst werden. Trotz dieser eher negativen Perspektiven hoffen wir, dass die ausgewählten […]

Algorithmenethik Erlesenes #32

Sie wollten schon immer mal ein Gedicht über Algorithmen lesen? Sie fragen sich „Können Algorithmen sich bald selber programmieren?“ Sie wünschen sich mehr Aufstände der Mitarbeiter von Google, Facebook und Co. gegen unethisches Verhalten ihrer Arbeitgeber? Dann bietet Ihnen diese Erlesenes-Ausgabe einige spannende Einsichten, neue Perspektiven und wirft sicherlich auch die eine oder andere neue […]

Gütekriterien für Algorithmen – Lehren aus bestehenden Forderungskatalogen

Was dürfen Algorithmen und was nicht? Welche Qualitätsstandards müssen sie erfüllen? Zu welchen Zwecken dürfen sie eingesetzt werden? Wichtige Fragen, zu denen es bisher keine Einigung gibt. Eine Vielzahl internationaler Organisationen versucht, sie durch die Formulierung von Gütekriterien für Algorithmen zu beantworten und so eine Grundlage für einen ethischeren Einsatz algorithmischer Systeme zu schaffen. In […]

Algorithmenethik Erlesenes #31

Was passiert, wenn Software automatisch einen Mitarbeiter feuert? Warum ist es so schwer, Fairness beim Einsatz algorithmischer Systeme herzustellen? Zu diesen Fragen gibt es Antworten in dieser Ausgabe von Erlesenes. Außerdem erwarten Sie spannende Artikel zu neuen Errungenschaften aus der Forschung: eine debattierende KI und ein sprachbegabter Multitasking-Algorithmus. Die Meinungen in den Beiträgen spiegeln nicht […]

Algorithmenethik Erlesenes #30

Diese Ausgabe von Erlesenes bietet einige, auch für (Halb-)Laien verständliche Einblicke in die neusten „Fähigkeiten“ algorithmischer Systeme: Zauberwürfel lösen, Handlungen antizipieren und Kausalitäten erkennen. Auch erwartet Sie ein Essay über den Einfluss von KI auf die willentliche Unwissenheit und ein sehr informationshaltiger Longread über die Gefahren des KI-Nationalismus. Die Meinungen in den Beiträgen spiegeln nicht […]

Algorithmenethik Erlesenes #29

Was ist von Googles neuen ethischen Prinzipien für KI zu halten? Welche Rolle spielen Algorithmen bei der Moderation von Sozialen Netzwerken? Und warum hat das MIT eine psychopatische KI geschaffen? Diese und einige weitere Fragen erwarten Sie diese Woche in Erlesenes. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. […]

Vorausschauende Polizeiarbeit: mit Algorithmen „vor die Lage kommen“

In nordrhein-westfälischen Großstädten bekommen Streifenpolizisten zu Anfang ihrer Schicht Informationen an die Hand, in welchen Wohnbezirken ihres Einsatzgebietes erhöhte Präsenz und Aufmerksamkeit gefragt ist. Für diese Areale hat das Predictive-Policing-Computerprogramm SKALA eine erhöhte Wahrscheinlichkeit zukünftiger Kriminalität errechnet. „Solche Gebiete wurden früher auch schon gekennzeichnet und den Beamten als Orientierungshilfe an die Hand gegeben“, sagt Joachim […]

Algorithmenethik Erlesenes #28

Die ausgewählten Beiträge dieser Woche machen zwei Dinge mal wieder sehr deutlich: Algorithmen können in diversen Bereichen eingesetzt werden – zur Automatisierung von Waffensystemen, zur Hautkrebserkennung oder auch, um Gedichte zu schreiben. Somit bestimmt nicht die Technologie, sondern die Art, wie sie genutzt wird, welchen Einfluss die Systeme auf die Gesellschaft haben. Die Meinungen in […]

Algorithmenethik Erlesenes #27

Diese Woche in Erlesenes – von uns für Sie ausgewählt und zusammengefasst: Die Niederländische Polizei nutzt KI, um ungelöste Fälle wieder aufzurollen. Das britische Militär fürchtet, dass die Technologie von Terroristen missbraucht werden könnte. Daniel Kahnemann sagt im Interview, dass Menschen, nicht Algorithmen die wahre Gefahr sind. Sie sehen, es gibt mal wieder viel spannende […]

Algorithmenethik Erlesenes #26

Was denken die Deutschen über den Einsatz algorithmischer Systeme? Wie kann man mehr Vertrauen in die Technik schaffen? Und wie kann man ethische Prinzipien in den Prozess der Algorithmenentwicklung integrieren? Diese und viele weitere Fragen und die ein oder andere Antwort gibts in den Artikeln und Studien, die wir Ihnen diese Woche ausgewählt haben. Die […]

Deutschland noch nicht in der algorithmischen Welt angekommen

Algorithmische Systeme sind längst Teil unseres Alltags und betreffen jeden von uns. Doch was wissen und denken eigentlich die Menschen in Deutschland über Algorithmen? Dieser Frage sind wir in einer repräsentativen Bevölkerungsbefragung nachgegangen. Die Ergebnisse machen deutlich: Wenn es um Algorithmen geht, herrscht in Deutschland Unkenntnis, Unentschlossenheit und Unbehagen.   Wenn wir Informationen googeln, auf Facebook unterwegs […]

Algorithmenethik Erlesenses #25

Diese Woche haben wir für Erlesenes mal wieder Beiträge sehr unterschiedlicher Formate ausgewählt. Neue Innovationen, Debattenbeiträge und Lösungsansätze. Es sollte für jeden was dabei sein: U.a. erwartet Sie ein Kommentar zu Googles neuer algorithmische Innovation – dem sehr menschlich klingenden Sprachassistenten Duplex + Einblicke in die Arbeit von Chinas KI-Riesen SenseTime + ein Interview mit […]

Welche Lösungen es jetzt braucht, damit algorithmische Prozesse den Menschen dienen

Verträglichkeitsprüfungen, Qualitätssiegel für Herkunft und Güte von Daten, Verbandsklagerechte für die Antidiskriminierungsstelle des Bundes, eine kompetente Algorithmenagentur – es gibt viele sehr konkrete Ideen, was zu tun ist, um algorithmische Systeme zum Wohl aller Menschen zu nutzen. Das Arbeitspapier „Damit Maschinen den Menschen dienen“ zeigt das Spektrum der bisher in Wissenschaft, Wirtschaft, Zivilgesellschaft und Politik […]

Algorithmenethik Erlesenes #23

Auf der re:publica 2018, die diese Woche stattfindet, drehen sich diesmal besonders viele Vorträge um das Thema Algorithmenethik. Was dabei immer wieder deutlich wurde: Wir brauchen mehr Transparenz über den Einsatz algorithmischer Systeme und ein besseres Verständnis für ihre Funktionsweise und Auswirkungen. Umso mehr freuen wir uns, Ihnen auch diese Woche wieder eine kuratierte Auswahl […]

Algorithmenethik Erlesenes #22

Was passiert, wenn ein Algorithmus eine Abkürzung nimmt? Wie funktioniert eigentlich Deep Learning? Und welchen Einfluss haben Empfehlungsalgorithmen auf unser Konsumverhalten? Auch diese Woche mangelt es in den von uns ausgewählten Texten nicht an Fragen zu „Algorithmenethik“. Zum Glück gibt’s auch die ein oder andere Antwort. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die […]

Algorithmenethik Erlesenes #21

Google macht große Fortschritte in der Entwicklung von Spracherkennungssoftware. Damit einher geht ein erhöhtes Missbrauchspotential. Der Philosophie-Professor C. Thi Nguyen erklärt die Unterschiede zwischen den Phänomenen Echokammer und Filterblase. Netflix zeigt, wie sie algorithmische Personalisierung nutzen, um unsere Aufmerksamkeit zu gewinnen. Diese Themen und vieles mehr erwartet Sie in dieser Erlesenes Ausgabe. Die Meinungen in […]

Datenschutz-Grundverordnung reicht für Kontrolle algorithmischer Systeme nicht aus

Algorithmische Systeme bewerten Menschen und das bringt Risiken mit sich – für den Einzelnen, für Personengruppen und die Gesellschaft als Ganzes. Deshalb ist es wichtig, dass algorithmische Prozesse überprüfbar sind. Kann die Datenschutz-Grundverordnung zu einer derartigen Kontrolle beitragen und vor Risiken algorithmischer Entscheidungsfindung schützen? Diese Frage beantworten Wolfgang Schulz und Stephan Dreyer in einer Analyse […]

Algorithmenethik Erlesenes #20

Warum verhalten sich freundliche Menschen in  Soziale Netzwerken unfreundlich? Werden zukünftig Algorithmen über unsere Beförderung entscheiden? Warum rebelliert Chinas Bevölkerung nicht gegen das „Social Scoring“-System ihrer Regierung? Viele Fragen. Und sogar einige Antworten gibt’s bei uns im Erlesenes Newsletter. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass […]

Automatisierter Finanzhandel: überforderte Aufsichtsbehörden?

„Vor zehn Jahren mussten wir siebzig Orders je Händler an einem einzigen Tag analysieren“, so Laurent Combourieu, der Chefermittler der französischen Finanzmarktaufsichtsbehörde AMF. „Heute sendet ein einziger Hochfrequenzhändler eine Million Orders pro Tag an fünf verschiedene Handelsplätze. Es ist deshalb alles deutlich komplizierter“, so Combourieu. Die Automatisierung der Finanzmärkte (siehe Teil 1: „Automatisierter Finanzhandel: So […]

Automatischer Finanzhandel: So krempeln Algorithmen die Finanzmärkte um

Menschliche Finanzhändler, die in blauen Jacken laut schreiend und wild gestikulierend auf den Börsenparketts miteinander um Preise feilschen, sind nur noch Bilder aus vergangenen Tagen. Sichtbare Zeugen des heutigen Finanzhandels sind moderne Rechenzentren, Laserrichtfunkanlagen auf Hochhausdächern oder hohe Mikrowellenfunktürme, die zwischen London und Frankfurt am Main von Handelsunternehmen angemietet werden, damit sie innerhalb von wenigen […]

Entwarnung zu Fake News? Neue Studie zeigt: Falschnachrichten hatten im Bundestagswahlkampf eine geringere Reichweite als befürchtet

Die allgemeine Sorge, wir seien in einem Zeitalter des Postfaktischen angelangt, ist groß. Doch die Ergebnisse einer neuen Studie „Fakten statt Fakes“ der Stiftung Neue Verantwortung lassen aufatmen: Fake News erzielten im Bundestagswahlkampf 2017 im Vergleich zu Nachrichten klassischer Medien nur überschaubare Reichweiten. Eine Entwarnung geben die Autoren jedoch nicht. Denn die Studie zeigt auch, […]

Algorithmen für die Berechnung von Todesrisiken: die Lehren

Tiere haben außergewöhnliche Fähigkeiten. So wie der Kater Oscar. Als Kätzchen adoptiert, wuchs er in einem US-Pflegezentrum für Demenzkranke auf. Nach einiger Zeit bemerkten die Pfleger ein besonderes Verhaltensmuster: Der Kater, der sich ansonsten nicht besonders zu Menschen hingezogen fühlte, legte sich zu Patienten, die wenige Stunden später starben. Schließlich gingen die Pfleger dazu über, […]

Algorithmenethik Erlesenes #16

Falschnachrichten auf Twitter, neuronale Netzwerke zum Stricken, Googles Kooperation mit dem US- Militär – diese und viele weitere Themen erwarten Sie in der sechzehnten Ausgabe von Erlesenes. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen.

Wie Algorithmen Menschen vor einem frühzeitigen Tod bewahren können

In Arztserien wie Doctor House oder ER ist es eine typische Szene: Ein Alarmsignal tönt und hektisch eilen Mediziner herbei, um den Patienten wiederzubeleben. Doch was wäre, wenn die Warnmeldung schon einige Stunden vor dem lebensbedrohlichen Kammerflimmern einsetzt? Ein solches System hat vor kurzem die US-Behörde Food and Drug Administration zugelassen. „FDA genehmigt Algorithmus, um […]

Algorithmenethik Erlesenes #13

Willkommen zur dreizehnten Ausgabe der wöchentlichen Algorithmenethik-Lektüreempfehlungen „Erlesenes“ (hier abonnieren).  Wir bieten mit „Erlesenes“ einmal pro Woche eine einordnende Auswahl wichtiger Debattenbeiträge, wissenschaftlicher Ergebnisse und intelligenter Sichtweisen zu Chancen und Herausforderungen algorithmischer Entscheidungsvorgänge. Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen, dass sie zum Nachdenken anregen und […]

Skype-Interview: 3 Fragen an … Jules Polonetsky, Future of Privacy Forum

  Jules Polonetsky ist CEO des Future of Privacy Forum. Die Non-Profit Organisation aus Washington, DC setzt sich mit den Herausforderungen neuer Technologien auseinander sowie mit der Frage, wie Datenschutz weiterentwickelt werden kann, um den neuen Anforderungen gerecht zu werden. Sie arbeitet unter anderem zu den Themen Big Data, Connected Cars und Internet der Dinge […]

Wo Maschinen irren können – Fehlerquellen und Verantwortlichkeiten in Prozessen algorithmischer Entscheidungsfindung

Der Entwicklungsprozess von algorithmischen Entscheidungssystemen ist lang und eine große Anzahl unterschiedlicher Akteure ist daran beteiligt. Deshalb können an vielen Stellen Fehler passieren – die meisten lassen sich aber vermeiden oder beheben. Katharina Zweig beschreibt anschaulich, wie algorithmische Systeme derzeit entwickelt und eingesetzt werden, und zeigt Verantwortlichkeiten sowie potenzielle Fehlerquellen auf. Wo algorithmische Systeme gebaut […]

To-dos für Teilhabe

Bei der „Das ist Netzpolitik!“-Konferenz  sprach ich über To-dos, um Prozesse algorithmischer Entscheidungsfindung für mehr gesellschaftliche Teilhabe zu gestalten. Hier sind die Folien: Mehr Material: In diesem Arbeitspapier (PDF) sind einige der erwähnten Fallbeispiele. In diesem Arbeitspapier (PDF) stehen einige Lösungsansätze für das Teilgebiet digitale Öffentlichkeit.

Dem Menschen untertan

Wir müssen über das Verhältnis von Menschen und Maschinen neu nachdenken. Denn der digitale Wandel bedeutet weit mehr als nur schnelles Internet und bequemes Online-Shopping. Entscheidungen über das Leben von Menschen werden zunehmend digitalisiert. Algorithmen bestimmen für und über uns – und genau an dieser Stelle wird Programmierkunst politisch.

Neun Chancen, neun Risiken algorithmischer Entscheidungsfindung

Bis zu 70 Prozent der Stellenbewerber in Großbritannien und den Vereinigten Staaten werden zuerst von automatisierten algorithmischen Verfahren bewertet, bevor ein Mensch ihre Unterlagen sieht. Gerichte in neun US-Bundesstaaten nutzen in Strafverfahren Software, die Risikoprognosen für die Angeklagten berechnet. Automatisierte Prognosen zur Kreditwürdigkeit werden in den Vereinigten Staaten auch genutzt, um die Höhe von Versicherungspolicen […]