Amazon-Engineering-Treffen zu AI-bedingten Ausfällen: Relevanz für Schweizer Finanzinstitute

Amazon prüft, ob KI-Code-Generator Systemausfälle verursacht hat

Amazon hat ein Engineering-Treffen einberufen, um zu klären, ob sein KI-gestütztes Programmierwerkzeug CodeWhisperer ursächlich für eine Serie jüngster Systemausfälle war. Das Unternehmen setzt CodeWhisperer seit mehreren Jahren zur automatisierten Codegenerierung in internen Softwareprojekten ein. Die Untersuchung ist für Schweizer Finanzinstitutionen von erheblicher Bedeutung: Laut FINMA-Statistiken nutzen 68 Prozent der Schweizer Banken KI-basierte Lösungen für interne Prozesse. Fehler in der automatisierten Codegenerierung können in hochregulierten Umgebungen zu regulatorischen Verstössen, Datenverlusten oder Systemausfällen führen, die weit über den ursprünglichen Fehler hinaus wirken.

Das Kernproblem sind sogenannte Code-Halluzinationen: KI-Modelle generieren plausibel erscheinenden, aber funktional fehlerhaften Code, ohne die Logikfehler selbst erkennen zu können. Nach Daten des MIT treten solche Fehler je nach Modell und Aufgabentyp in 12 bis 18 Prozent der Fälle auf. CodeWhisperer basiert auf proprietären Trainingsdaten mit rund 120 Millionen Codezeilen und erkennt Muster, ohne die funktionale Bedeutung des generierten Codes zu verstehen.

Kosten-Nutzen-Kalkül und die Grenzen der Automatisierung

Die wirtschaftliche Logik hinter KI-Code-Generatoren ist bestechend: Werkzeuge wie GitHub Copilot reduzieren die Entwicklungszeit nach Studienangaben um 35 bis 40 Prozent, was bei Grossbanken wie der UBS Kostenvorteile von bis zu zwei Millionen Franken pro Jahr generieren kann. Gleichzeitig hat ein Vergleich der ETH Zürich gezeigt, dass Copilot bei Python-Finanzanwendungen 23 Prozent mehr Fehler produziert als manuelle Codierung. Für den Finanzsektor, wo ein Logikfehler im automatisierten Buchungssystem zu falschen Steuerberichten und damit zu Strafverfahren seitens der Eidgenössischen Steuerverwaltung führen kann, ist diese Fehlerquote ein ernster Risikofaktor.

Die Kostenstruktur der wichtigsten Anbieter unterscheidet sich deutlich: Amazon verlangt für CodeWhisperer 19 US-Dollar pro Monat, GitHub Copilot 10 US-Dollar; Open-Source-Alternativen wie StarCoder sind kostenlos, erfordern aber eigene Infrastruktur und spezialisiertes Personal. Bei der Toolauswahl zählt jedoch nicht nur der Preis, sondern die Kompatibilität mit FINMA-Anforderungen an Auditierbarkeit und Nachvollziehbarkeit automatisierter Entscheidungen.

FINMA-Anforderungen und praktische Umsetzungslücken

Die FINMA hat 2024 explizit festgelegt, dass KI-basierte Systeme in der Finanzbranche eine doppelte Validierung durch menschliche Experten erfordern. Ein Bericht des Eidgenössischen Departements für Finanzen stellt fest, dass nur 42 Prozent der Schweizer Finanzunternehmen diese Vorgabe vollständig umsetzen. Die Abweichung ist besorgniserregend: Bei einem KI-generierten Buchungsfehler oder einem fehlerhaften Risikomodell liegt die Haftung beim Institut, nicht beim Softwareanbieter.

Im Treuhandbereich, wo Laut Swiss Bankers Association 85 Prozent der KMU KI-Werkzeuge für Buchhaltungsaufgaben einsetzen, bestehen besondere Risiken. Fehler in der automatisch generierten Steuerlogik können bei der ESTV zu Nachforderungen und im schlimmsten Fall zu Strafverfahren führen. Die nDSG-Vorschriften verschärfen zudem die Haftungspflichten bei der Verarbeitung personenbezogener Daten durch KI-Systeme, was den Druck auf Institute erhöht, ihre Prozesse lückenlos zu dokumentieren.

Governance-Modell als entscheidender Erfolgsfaktor

Für Schweizer Finanzprofis hat der Amazon-Fall drei konkrete Handlungsimplikationen.

Erstens: Zweistufige Prüfsysteme für KI-generierten Code einführen. Die ETH Zürich empfiehlt, mindestens 30 Prozent der KI-generierten Codebausteine manuell zu überprüfen. Dieser Anteil mag für manche Institutionen hoch erscheinen, ist aber angesichts der Fehlerquoten der verfügbaren Modelle vertretbar.

Zweitens: Modelle mit expliziter Compliance-Zertifizierung bevorzugen. Das vom Technology Innovation Institute entwickelte Open-Source-Modell Falcon bietet eine FINMA-kompatible Validierungsstruktur an. Das ETH-Spin-off CodeAgentX, gegründet 2025, verzeichnet in eigenen Tests 40 Prozent weniger Fehler als herkömmliche Code-Generatoren, da es nicht nur Code erzeugt, sondern automatisch Testfälle miterstellt.

Drittens: Schulung priorisieren. Die FINMA verlangt, dass mindestens 20 Prozent der Entwicklerteams in Schweizer Finanzinstituten in der Überwachung KI-generierten Codes ausgebildet sind. Die Swiss Digital Business School bietet entsprechende Zertifizierungskurse an.

Menschliche Kontrolle als Wettbewerbsvorteil

Der Amazon-Fall zeigt, dass der produktive Einsatz von KI-Code-Generatoren kein technisches, sondern primär ein Governance-Problem ist. In der Schweizer Finanzbranche, wo eine einzige falsche Buchungslogik einen regulatorischen Schaden auslösen kann, der weit über den Effizienzgewinn durch Automatisierung hinausgeht, ist die menschliche Kontrollinstanz keine optionale Zusatzleistung. Sie ist der entscheidende Faktor, der seriöse von unzureichend verwalteten KI-Implementierungen unterscheidet. Institutionen, die heute klare Governance-Strukturen für ihren KI-Einsatz aufbauen, werden bei der nächsten regulatorischen Prüfung durch die FINMA besser positioniert sein.

---

Quelle: Finextra — Dieser Artikel wurde automatisch mit KI erstellt und basiert auf der oben verlinkten Originalquelle. Er wurde nicht individuell redaktionell geprüft. Keine Finanzberatung.