Seit 2007 wird das algorithmische System VioGén in Spanien eingesetzt, um das Risiko von Gewalt gegen Frauen und Kinder zu bewerten. Beim sechsten Stopp unseres AlgoRail durch Europa berichtet Michele Catanzaro, wie entscheidend die personelle Ausstattung und eine spezielle Ausbildung für die Polizist:innen für den Erfolg ist und wie der Algorithmus kontinuierlich verfeinert wird, um spanische Frauen und Kinder vor Leid zu bewahren.

Am frühen Morgen des 24. Februar 2018 begab sich eine spanische Psychologin auf ein Polizeirevier, um Drohungen ihres Mannes zu melden. Nach ihrer Aussage hatte ihr Mann den Kinderwagen ihres kleineren Kindes zerstört und das ältere Kind geschlagen. Nachdem der Frau eine Reihe von Fragen gestellt wurden und die Antworten an VioGén weitergeleitet wurden, gab der Beamte einen Bericht heraus, in dem das Risiko für einen Rückfall als gering eingestuft wurde.

Misserfolge

Der Antrag, ihrem Mann den Umgang mit den gemeinsamen Kindern zu verbieten, wurde von einem Richter abgelehnt – auch aufgrund der polizeilichen geringen Risikoeinschätzung. Sieben Monate später tötete der Ehemann ihre Kinder „auf grausame Weise“ und warf sich aus einem Fenster. Die schockierende Geschichte ließ viele Menschen fragen, warum der Fall als risikoarm eingestuft wurde. VioGén hatte sein Ziel verfehlt, das Polizeipersonal bei der Einschätzung des Risikos neuer Übergriffe zu unterstützen und so das richtige Schutzniveau zuzuweisen. Seit der Einführung der Software im Jahr 2007 gab es eine Reihe von Fällen mit „geringem Risiko“, die mit der Ermordung von Frauen oder Kindern endeten.

Besser als nichts

Dennoch ist das Programm weltweit bei weitem das komplexeste seiner Art und wurde als angemessen leistungsfähig bewertet. Niemand glaubt, dass die Dinge ohne es besser wären. Aber Kritiker:innen weisen auf einige Mängel hin. Nur wenige Polizeikräfte sind spezifisch für den Umgang mit geschlechtsspezifischer Gewalt ausgebildet worden. Zudem hat VioGén das Risiko möglicherweise systematisch unterschätzt. Einige Opferorganisationen halten die Möglichkeit einer niedrigen Risikoeinstufung grundsätzlich für Unsinn, da schon die Anzeige bei der Polizei eine Situation mit hohem Risiko sei, weil die Täter dies als Herausforderung empfinden.

Einen Übergriff melden

Wenn eine Frau eine Körperverletzung durch einen Intimpartner melden will, löst sie einen Prozess aus, bei dem Polizeibeamt:innen zunächst ein Online-Formular mit ihr durchsprechen. Über die Fragen soll die Schwere früherer Übergriffe, die Merkmale des Angreifers, die Verletzlichkeit des Opfers und erschwerende Faktoren erfasst werden. Mit den Antworten wird über eine mathematische Formel eine Punktzahl errechnet, die das Risiko misst, dass der Angreifer gewalttätige Handlungen wiederholt. Obwohl bekannt ist, dass der Algorithmus Faktoren, die empirischen Studien zufolge eine Rückfälligkeit wahrscheinlicher machen, mehr Gewicht beimisst, wird die genaue Formel nicht offengelegt.

Relevanz der Berechnung

Theoretisch können spanische Polizist:innen die Punktzahl selbst erhöhen, wenn sie das Risiko höher schätzen. Doch eine Studie aus dem Jahr 2014 ergab, dass Polizist:innen sich in 95% der Fälle an das automatische Ergebnis hielten. Sobald die Punktzahl eines Falles feststeht, wird über ein Paket von Schutzmaßnahmen entschieden, die mit diesem Risikoniveau verbunden sind. Die Polizei trifft sich erneut mit der Frau, um ein zweites Formular auszufüllen und zu beurteilen, ob sich die Situation verschlechtert oder verbessert hat. Dies geschieht periodisch, je nach Risikograd mehr oder weniger häufig. Die Polizei stellt die Nachverfolgung nur dann ein, wenn keine gerichtlichen Maßnahmen ergriffen werden und das Risiko unter ein mittleres Niveau fällt.

Beste verfügbare System

Laut Ángeles Carmona, Präsidentin des Observatoriums für häusliche und geschlechtsspezifische Gewalt des spanischen Generalrats des Justizwesens, ist VioGén das beste verfügbare Mittel, um das Leben von Frauen zu schützen. Sie erinnert sich an einen Fall, den sie vor einem Gericht in Sevilla sah, mit einen Täter, der laut VioGén ein hohes Rückfallrisiko hatte. Dem Mann wurde ein Kontrollarmband angelegt. Eines Tages sah die Polizei, dass sich das Signal des Armbandes schnell auf das Haus des Opfers zubewegte. Sie brachen gerade noch rechtzeitig ein, um zu verhindern, dass er sie mit einem Kissen ersticken konnte.

Es ist jedoch unmöglich zu wissen, wie viele Leben dank VioGén gerettet wurden. Ein weitverbreitetes Erfolgsmaß für prädiktive Modelle heißt Area Under the Curve (AUC). Eine Studie aus dem Jahr 2017, die versucht hat zu messen, wie gut das System war, errechnete Werte zwischen 0,658 und 0,8. Eine AUC von 0,5 ist so gut wie der Wurf einer Münze, und eine AUC von 1 bedeutet, dass das Modell nie versagt. Mit anderen Worten: VioGén funktioniert. Vergleicht man VioGén mit anderen Instrumenten zur Bewertung des Risikos von Gewalt durch Intimpartner, kann man zu dem Schluss kommen, dass VioGén zu den besten verfügbaren Instrumenten gehört.

Ignorierte Anforderungen

Im Jahr 2017 gab es in ganz Spanien insgesamt 654 Polizist:innen, die den Frauen-Kinder-Teams der Guardia Civil angehörten, weit weniger als eine oder einen pro Polizeistation. Dies unterscheidet sich stark von dem, was das Gesetz von 2004, mit dem VioGén geschaffen wurde, vorschreibt. Demnach sollten die Fälle von einem interdisziplinären Team aus Psycholog:innen, Sozialarbeiter:innen und Gerichtsmediziner:innen bearbeitet werden. Nach der Verabschiedung des Gesetzes im Jahr 2004 wurden mehrere Teams eingerichtet, aber der Prozess wurde durch die Sparmaßnahmen nach der Finanzkrise von 2008 stark verschlankt.

VioGén 5.0

Eine Veränderung des Algorithms wurde im März 2019 in Kraft gesetzt, die fünfte große Anpassung, die VioGén seit seinem ersten Einsatz im Jahr 2007 durchlaufen hat. Jetzt identifiziert das Programm Fälle „von besonderer Relevanz“, in denen die Gefahr hoch ist, sowie Fälle mit „gefährdeten Minderjährigen“. Auch nach der Anpassung wird nicht offengelegt, wie die neue Skala aufgebaut ist. Allerdings basiert sie auf einer vierjährigen Studie, in der spezielle Faktoren identifiziert wurden, bei denen Fälle in Morden mündeten. Die Anpassung scheint bei VioGén eine große Verschiebung der Risikoskala ausgelöst zu haben: Die Zahl der Fälle mit extremem Risiko stieg an, und die mit hohem Risiko verdoppelte sich fast.

Das war’s für den sechsten Stopp unseres AlgoRails durch Europa, auf dessen Reise wir mehr darüber erfahren wollen, wie algorithmische Systeme in unserer europäischen Nachbarschaft eingesetzt werden. Nun setzen wir die Reise quer durchs Land nach Portugal fort.

Diese Story wurde von Julia Gundlach gekürzt und ins Deutsche übersetzt. Der ungekürzte Beitrag wurde auf der Webseite von AlgorithmWatch veröffentlicht.

Die Blogreihe AlgoRail ist Teil des Automating Society Reports 2020 von der Bertelsmann Stiftung und AlgorithmWatch, der im Herbst dieses Jahres veröffentlicht und von Dr. Sarah Fischer koordiniert wird. Neben journalistischen Geschichten wie dieser, gibt der Report einen Überblick über verschiedene Anwendungsbeispiele algorithmischer Systeme sowie aktuelle Debatten, Policy Responses und wichtige Akteure in 15 Ländern. Eine erste Ausgabe des Reports ist im Januar 2019 erschienen.

Dieser Text ist lizenziert unter einer Creative Commons Namensnennung 4.0 International Lizenz.