Würde ich gern so machen, doch der Computer sagt Nein

In Ihrem Blogbeitrag diskutierten Christian Schilcher, Project Manager im Programm Unternehmen in der Gesellschaft und Carla Hustedt, Projektleiterin „Ethik der Algorithmen“, die ethischen Herausforderungen der Digitalisierung im Arbeitskontext. Dabei wird eines deutlich: Die Mensch-Maschine Interaktion verantwortlich zu gestalten, heißt Aushandlungsprozesse zu ermöglichen.

Die Mensch-Computer-Interaktion, also das Wechselspiel von wissensbasiertem Arbeitshandeln der Beschäftigten und computerbasierter Informations- und Kommunikationstechnologie, wird im Unternehmenskontext immer wichtiger. Diese Zusammenarbeit von Mensch und Computer kann sehr unterschiedlich gestaltet werden, was wiederum verschiedene Konsequenzen, etwa für das Arbeitshandeln der Mitarbeiter:innen, nach sich zieht. Das Austarieren von Interessen und Herstellen von wechselseitigem Nutzen ist eine ethische Herausforderung, die dabei im Unternehmen entsteht. Sie kann gemeistert werden, indem die Mensch-Computer-Interaktion als ein wichtiges betriebliches Thema verstanden wird, über das, im Sinne der Transparenz und Partizipation, ein organisationsinterner Diskurs zu Zielen und Wirkung geführt wird. Die ethische Dimension der Gestaltung des Verhältnisses von Mensch und Computer berührt somit grundlegende organisationale Abläufe im Betrieb.

Computersysteme durchdringen die Arbeitswelt und das Handeln der Beschäftigten

Im Zuge der Digitalisierung von Arbeit und Organisation wird die Mensch-Computer-Interaktion alltäglicher Bestandteil von Abläufen in Unternehmen. Ob im produzierenden Gewerbe, im Einzelhandel oder in der Logistikbranche, ob in wissensintensiven Branchen und IT-Unternehmen, im öffentlichen Dienst oder in der Landwirtschaft: Überall arbeiten Menschen mit mehr oder weniger komplexen Informations- und Kommunikationstechnologien (IKT). Auf Aktionen des Computers folgen menschliche Handlungen und umgekehrt – Mensch und Maschine sind in der heutigen Arbeitswelt kein Gegensatzpaar, sondern ein Zusammenspiel, das schon lange keine Zukunftsvision mehr aus einem Hollywoodfilm ist, sondern Gegenwart der modernen Arbeitswelt in der sogenannten Wissens- bzw. Netzwerkgesellschaft.

So erhalten beispielsweise Berater:innen in Banken und Versicherungen die aus einer Reihe personenbezogener Daten errechneten Kreditwürdigkeiten ihrer Kund:innen. In der Autoindustrie führen Ingenieur:innen virtuelle Crashtests durch, nachdem über die ganze Welt verteilte Teams mithilfe einschlägiger Software gemeinsam ein Fahrzeug entwickelt haben. Im Lager eines Industrieunternehmens werden Roh-, Hilfs- und Betriebsstoffe automatisch bestellt, die Maschinen und/oder Lagerist:innen dann in Hochregalen verstauen, während in der Werkhalle eine Maschine stoppt, da die Sensorik an einem Werkzeug Probleme meldet, noch bevor der zuständige Anlagenfahrer:innen das mitbekommt.

Die Fragen nach der Gestaltung solcher Verhältnisse von Mensch und Computer im Arbeitskontext führen uns auf den Boden der Ethik. Die philosophische Disziplin der Ethik als die Lehre von Moral und Ethos beschäftigt sich mit der Begründung von Spielregeln, wie Situationen zu gegenseitigen Vorteilen und Interessenausgleichen geführt werden können und wann sie als gut bzw. schlecht zu bewerten sind. Ethik ist damit praxisorientiert, denn es geht um das Finden von Maximen, um eine Praxis auszugestalten, die für alle Beteiligten verantwortbar ist. Es lässt sich somit feststellen: Wer von algorithmischen Entscheidungs(unterstützungs)systemen redet, landet recht schnell bei ethischen Fragestellungen.

Die Gestaltung der Mensch-Maschine-Beziehung als ethische Herausforderung im Unternehmen

Um der ethischen Herausforderung gerecht werden zu können, ist unseres Erachtens ein diskursethischer Ansatz besonders geeignet. Bei der Anschlussfrage, um welche Inhalte sich denn der Diskurs zu drehen hat, gelangen wir zum Verhältnis der Zwecke der Mensch-Computer-Interaktion und den Autonomiegraden, die die arbeitenden Menschen beim Verfolgen dieser Zwecke haben. Anders ausgedrückt: Da es nicht die eine richtige Ausgestaltung der Mensch-Maschine-Interaktion gibt, muss sie besprochen und gefunden werden.

Aus einer ethischen Perspektive, welche die Autonomie des Menschen als höchstes Gut hervorhebt, wäre es richtig zu sagen, dass eine Person immer die letzte Entscheidung fällt, auch wenn damit Risiken verbunden wären. Allerdings ließe sich entgegenhalten, dass es Konstellationen gibt, die so komplex sind, dass der Mensch sie nicht mehr übersehen kann, weshalb eine in Computer gegossene, autonom funktionierende Entscheidungstheorie verlässlicher und sicherer ist. Das wäre aus der Perspektive einer utilitaristischen Ethik Begründung genug, um die Autonomie von Menschen zu reduzieren. Allerdings könnte man wiederum anbringen, dass das spontane, doch nicht grundlose Abweichen von vorgegebenen Entscheidungsregeln eine Leistung menschlicher Kreativität ist, die Innovation ermöglicht, und dass eine Maschine dies nicht leisten kann.

Um die Frage nach deren guter Gestaltung zu beantworten, gilt es, konkret und nicht allgemein über die jeweiligen Mensch-Computer-Konstellationen und ihre Zielhorizonte zu sprechen und dabei die jeweiligen Interessen und Machtpositionen der Beteiligten im Blick zu haben.

Was hat es nun mit den Zielen auf sich und woraus leiten sie sich ab? Die Zusammenarbeit von Mensch und algorithmischen Systemen – oder, an die o. g. Begrifflichkeit an- schließend, die Gestaltung der Mensch-Computer-Interaktion – kann verschiedenen Zwecken dienen und/oder Motiven und Interessen folgen. Maximierung des ökonomischen Gewinns, zeitliche Beschleunigung von Vorgängen, Erhöhung der Produktqualität, Minimierung von Fehlern, Erhöhung der Kontrolle über das Verhalten der Mitarbeiter:innen oder geringe gesundheitliche Belastung für Angestellte: All das sind denkbare Ziele, nach denen der Einsatz von Computersystemen im Arbeitskontext ausgerichtet werden könnte. »Würde ich gern so machen, doch der Computer sagt Nein« – wäre diese Aussage aus dem Mund eines Mitarbeiters klagend gemeint, so kann die Klage richtig und falsch zugleich sein. Abhängig vom Ziel des IKT-Einsatzes und den Interessen, die mit den Zielen verbunden sind, kann das Einschränken von Handlungsoptionen der Beschäftigten mit Blick auf Zielerreichung mehr oder weniger sinnvoll sein.

Da wir argumentieren, dass das Ziel bzw. der Zweck von gewichtiger Bedeutung für die Beurteilung als richtig oder falsch ist, muss gefragt werden, woher die Ziel-/Zweckdefinitionen kommen. Denn die Ziele des Einsatzes von Computersystemen im Arbeitskontext sind weder zufällig, noch fallen sie vom Himmel, sondern sie sind Ausdruck von Interessen und Resultate von Aushandlungs- und Machtkonstellationen – wobei wir Macht hier als Möglichkeit verstehen, den eigenen Willen auch gegen Widerstände anderer durchzusetzen. In dem Definitionsprozess von Zielen und Zwecken nach Lösungen zu suchen, welche die Interessen der Beteiligten und Betroffenen berücksichtigen und aushandeln, ist der Schlüssel für den verantwortungsbewussten Umgang mit der ethischen Herausforderung, die sich mit der Mensch-Computer-Interaktion in Unternehmen stellt.

Verantwortlich gestalten, heißt Aushandlungen ermöglichen

Bei der Zusammenarbeit des Menschen mit der Maschine ist Akzeptanz immer ein wichtiger Faktor: Menschen glauben Systemen tendenziell weniger bzw. bauen eher Widerstände ihnen gegenüber auf, je weniger sie über diese wissen.

Das Besprechen der Ziele und die daraus folgende Ausgestaltung der Mensch-Computer-Interaktion haben wir bisher als ein ethisches Argument entfaltet. Neben dem Argument, dass sich ein verantwortlicher Mensch- Maschine-Umgang durch Partizipation auszeichnet, zeigt sich aber auch, dass mit einem partizipativen Ansatz die Chancen auf ein erfolgreiches, funktionierendes Zusammenspiel von Menschen in digitalisierten Arbeitsumgebungen steigen. Diskursive Klärungen sind also nicht nur richtig, sondern aus Perspektive der betrieblichen Praxis auch sinnvoll.

Der Sinn und Umfang sowie die Wirkungen des Einsatzes algorithmischer Systeme in Betrieben können nicht vorgegeben oder immer gleich sein, sondern sind prinzipiell verhandelbar. Die Lösung der ethischen Herausforderung, die mit der Gestaltung der Mensch-Computer-Interaktion in einem Unternehmen verbunden ist, liegt in der Organisation eines betrieblichen Diskurses der Beteiligten und Betroffenen.

Allerdings, und diesen Hinweis wollen wir abschließend geben, ist die Umsetzung dieses diskursiven Ansatzes in der Organisation nicht voraussetzungslos. Vielmehr werden hier Fragen von Hierarchien und Unternehmenskultur berührt. Ein Unternehmen, das vor allem auf das Anordnen und Befolgen von Anweisungen aufgebaut ist – und getreu klassischer tayloristischer Prinzipien das Planen und Denken auf Chefetagen und die Ausführung auf der Arbeitsebene verortet –, wird sich schwertun mit den hier beschriebenen Anforderungen an ein verantwortungsbewusstes Gestalten von Mensch-Computer-Interaktionen. Unternehmen stehen bei ethischen Fragen im Kontext von Digitalisierung somit vor Herausforderungen, die bis in das Grundverständnis der eigenen Organisation reichen.

Dieser Beitrag basiert auf einem gekürzten und adaptierten Auszug des Kapitels „Würde ich gern so machen, doch der Computer sagt Nein“. Die Gestaltung von Mensch-Computer-Interaktion als ethische Herausforderung in Unternehmen aus dem Buch „Unternehmensverantwortung im digitalen Wandel. Ein Debattenbeitrag zu Corporate Digital Responsibility.

 



Kommentar verfassen