Monzo-Verweigerung von Betrugsersatz: Was Schweizer Finanzinstitutionen daraus lernen können

Monzo verweigert Betrugsersatz: Was Schweizer Finanzinstitutionen daraus lernen können

Daten des britischen Financial Ombudsman zeigen, dass Monzo über tausend Rückerstattungsforderungen von Betrugsopfern fälschlicherweise abgelehnt hat. Die Betroffenen waren Opfer von APP-Betrug (Authorised Push Payment), Chip-and-PIN-Diebstahl und Identitätsfälschung. Besonders brisant: Bei APP-Betrug überweisen Opfer Geld freiwillig, weil sie durch Social Engineering in die Irre geführt wurden. Für ein automatisiertes System, das Transaktionsmuster analysiert, ist diese Situation schwer von einer legitimen Zahlung zu unterscheiden. Das Ergebnis war ein System, das betrügerische Transaktionen teilweise blockierte, aber gleichzeitig die Ansprüche echter Betrugsopfer systematisch ablehnte.

Rund 40 Prozent der von Monzo verweigerten Forderungen wurden später als berechtigt eingestuft. Diese Fehlerquote ist nicht nur ein Reputationsschaden, sondern auch ein regulatorisches Problem: Die britische Financial Conduct Authority verpflichtet Banken zur Entschädigung innerhalb von 15 Tagen. Monzos automatisiertes System war auf diese Anforderung nicht ausgelegt.

Die Black-Box-Problematik und ihre regulatorischen Konsequenzen

Monzos System basiert auf maschinellem Lernen, das Echtzeitdaten auswertet: Transaktionszeitpunkte, geografische Muster, Kontoverhalten. Die Schwäche liegt in Grenzfällen. Bei Transaktionen, die weder eindeutig verdächtig noch eindeutig legitim sind, tendiert ein auf Kostensenkung optimiertes System zu Ablehnung. Erschwerend ist die fehlende Erklärbarkeit: Opfer erhielten keine nachvollziehbare Begründung, weshalb ihr Antrag abgelehnt wurde.

In der Schweiz verlangt die FINMA im Rahmen ihrer IT-Sicherheitsrichtlinien, dass automatisierte Entscheide auf Anfrage transparent und nachvollziehbar dargelegt werden können. Ein System, das lediglich eine Risikoklasse ausgibt ohne Entscheidungslogik, erfüllt diese Anforderung nicht. Schweizer Banken, die vollautomatisierte Betrugspräventionssysteme ohne menschliche Prüfinstanz betreiben, sind daher regulatorisch exponiert.

Die Schweiz verzeichnet einen wachsenden Anteil KI-gestützter Betrugspräventionssysteme: Laut Bankenvereinigung nutzen rund 67 Prozent der Schweizer Institute solche Lösungen. Die FINMA stellte in ihrer Prüfung 2023 bei 18 Prozent der untersuchten Institute Mängel in der Dokumentation von Entscheidungsprozessen fest. Das Muster ist bekannt: die Technologie schreitet schneller voran als die organisatorischen Kontrollmechanismen.

Besondere Risiken im Treuhandbereich

Im Treuhandbereich ergeben sich spezifische Risiken. Mandatsverwaltungen, Immobilientransaktionen und Unternehmenszahlungen weisen Charakteristika auf, die für KI-Systeme schwer klassifizierbar sind: hohe Einzelbeträge, unregelmässige Frequenz, vielfältige Zahlungsempfänger. Ein System, das solche Transaktionen nach allgemeinen Betrugsmustern bewertet, erzeugt eine hohe Rate an Fehlalarmen und missed detections gleichermassen.

Treuhänder, die KI-gestützte Betrugserkennungstools einsetzen, müssen daher besonders auf zwei Punkte achten. Erstens sollten Hochwerttransaktionen grundsätzlich einer manuellen Prüfinstanz zugeführt werden. Zweitens müssen KI-Entscheide nachvollziehbar dokumentiert sein, um im Streitfall gegenüber Klienten und FINMA Rechenschaft ablegen zu können.

Schritte zur Risikoreduktion

Drei Massnahmen verbessern die Qualität automatisierter Betrugsprävention strukturell.

Erstens hybride Prüfarchitekturen: KI übernimmt die Ersteinschätzung, menschliche Prüfer bearbeiten Grenzfälle. Die Genossenschaftsbank St. Gallen hat ein System eingeführt, das verdächtige Transaktionen an eine zweite Prüfstelle weiterleitet. Die Rate falsch-positiver Blockierungen sank um 42 Prozent im Vergleich zu rein automatisierten Systemen.

Zweitens Explainable AI: Systeme, die ihre Entscheidungen in verständlicher Form begründen können, ermöglichen es Kundenberatern, Ablehnungen zu erläutern und Kunden im Widerspruchsprozess zu unterstützen. Die ZHAW bietet spezialisierte Audits für KI-Systeme an, die auch für mittlere Institute erschwinglich sind.

Drittens regelmässige Qualitätsprüfungen der Systemleistung: Welcher Anteil abgelehnter Anträge wird nachträglich als berechtigt eingestuft? Welche Transaktionstypen erzeugen die höchste Fehlerquote? Diese Fragen sollten in jährliche Systemreviews einfliessen. Wer diese Metriken nicht erhebt, kann die Qualität seines Systems nicht beurteilen.

Quelle: Finextra — Dieser Artikel wurde automatisch mit KI erstellt und basiert auf der oben verlinkten Originalquelle. Er wurde nicht individuell redaktionell geprüft. Keine Finanzberatung.

Quelle: Finextra — Dieser Artikel wurde automatisch mit KI erstellt und basiert auf der oben verlinkten Originalquelle. Er wurde nicht individuell redaktionell geprüft. Keine Finanzberatung.