Künstliche Intelligenz in Compliance und Aufsicht

Die PDF-Ausgabe lesen (5 Seiten)

Transaktionsüberwachung und Finanzkriminalität

Die Compliance ist eines der vielversprechendsten und zugleich heikelsten Einsatzfelder künstlicher Intelligenz. Herkömmliche Systeme zur Transaktionsüberwachung erzeugen eine große Zahl von Warnmeldungen, von denen sich die meisten nach manueller Prüfung als unbegründet erweisen. Modelle des maschinellen Lernens können Warnmeldungen nach der Wahrscheinlichkeit ordnen, dass sie zutreffen, Muster über mehrere Konten hinweg erkennen und unstrukturierte Informationen wie Presseberichte auswerten. Die MAS stellte fest, dass Banken solche Modelle verbreitet in Systemen zur Bekämpfung der Geldwäsche und zur Betrugserkennung einsetzen. Die aufsichtsrechtliche Gefahr ist symmetrisch. Ein Modell, das echte Warnmeldungen unterdrückt, setzt die Bank dem Risiko aus, gegen die in Teil H untersuchten Vorschriften zur Bekämpfung der Geldwäsche zu verstoßen. Ein Modell, das sein Ergebnis nicht erklären kann, lässt sich vor einer Aufsichtsbehörde oder einem Gericht nur schwer verteidigen. Die MAS zählt das regulatorische Risiko zu den Hauptrisiken künstlicher Intelligenz und nennt als Beispiel die schwache Leistung eines Modells, das die Geldwäschebekämpfung unterstützen soll.¹

Auch die Daten, auf die solche Modelle angewiesen sind, haben sich verändert. Seit dem 1. April 2024 können sechs große Geschäftsbanken über COSMIC Informationen zu Kunden austauschen, die mehrere Warnsignale aufweisen. Die MAS hat diese digitale Plattform gemeinsam mit ihnen auf der Grundlage des Financial Services and Markets (Amendment) Act 2023 eingerichtet. Im Mittelpunkt stehen zunächst der Missbrauch juristischer Personen, der Missbrauch der Handelsfinanzierung und die Proliferationsfinanzierung.² Eine Plattform dieser Art liefert strukturierte Signale, die analytische Modelle verwerten können. Ihr rechtlicher Rahmen und ihre Bedeutung für die Bekämpfung der Geldwäsche werden in Teil H erörtert.

Modelle Dritter und Konzentration

Die meisten Institute beziehen ihre generativen Modelle von wenigen globalen Anbietern. Die MAS sah darin drei Risiken: unbekannte Verzerrungen aus den Daten des Vortrainings, Bedenken beim Datenschutz und ein Konzentrationsrisiko, weil viele Institute von denselben zugrunde liegenden Modellen abhängen. Die Banken reagierten mit ausgleichenden Tests, Notfallplänen und überarbeiteten Verträgen. Diese sehen Leistungsgarantien, Datenschutz, Prüfungsrechte und eine Benachrichtigung vor, wenn ein Anbieter künstliche Intelligenz in einen bestehenden Dienst einführt.³

Die endgültigen Leitlinien klären den Grundsatz. Ein Institut kann einen Drittanbieter unter Umständen nicht zwingen, ein belastbares Risikomanagement einzuführen. Es bleibt dennoch dafür verantwortlich, wie KI von Dritten in seiner Organisation eingesetzt wird und welche Auswirkungen dies auf Kunden und andere Beteiligte haben kann.⁴ Daneben gelten die in Kapitel E.I untersuchten Vorschriften über Auslagerungen und das Management von Technologierisiken.

Vorfälle, Überwachung und Notfallvorsorge

Die Leitlinien definieren KI-Vorfälle als Vorfälle, bei denen das zugrunde liegende System oder Modell versagt, fehlerhaft arbeitet oder schwache Leistung zeigt. Die MAS hat sich gegen ein eigenes Meldesystem für solche Vorfälle entschieden. Die Institute melden Vorfälle weiterhin nach den bestehenden Anforderungen an Technologierisiken und Geschäftskontinuität, gleich welche Ursache sie haben. Für Anwendungsfälle mit hoher Risikowesentlichkeit sind Notfallpläne erforderlich. Modelle, die sich selbsttätig aktualisieren, etwa Systeme des bestärkenden Lernens, verlangen eine strengere Überwachung. Ihr Verhalten kann sich im Betrieb ohne menschliches Zutun verändern.⁵

Bei agentischen Systemen soll sich die Überwachung auf die Informationsflüsse und Entscheidungswege innerhalb der Arbeitsabläufe erstrecken, einschließlich der Denkprozesse, der ergriffenen Maßnahmen und der genutzten Werkzeuge. So kann ein Institut einzelne Handlungen über Ketten von Agenten hinweg nachvollziehen und die Quelle eines Fehlers finden. Die MAS regte außerdem an, den Umfang des Zugriffs auf Werkzeuge und Systeme als zusätzliche Dimension der Risikowesentlichkeit heranzuziehen. Agenten mit weitreichenden Berechtigungen können das Risiko einer Kompromittierung von Daten vervielfachen.⁶

Die eigene Datennutzung der Aufsicht

Die MAS setzt Datenanalysen in ihrer eigenen Arbeit ein, seit sie die Stelle eines Chief Data Officer geschaffen hat. Als die FEAT Principles veröffentlicht wurden, hatte David Hardoon dieses Amt inne. Die Aufseher nutzen analytische Werkzeuge, um aufsichtsrechtliche Meldungen zu verarbeiten, Verdachtsmeldungen zu sichten und Muster des Marktmissbrauchs zu erkennen.⁷ Das Aufsichtsverhältnis selbst ändern diese Werkzeuge nicht. Sie helfen der Aufsicht, die Institute und Transaktionen auszuwählen, die Aufmerksamkeit verdienen. Die Beurteilung bleibt eine menschliche Entscheidung, die nach den in Kapitel E.I beschriebenen Gesetzen getroffen wird.

Anmerkungen

1. MAS, Information Paper, Dezember 2024, Ziff. 2.1: auf Entscheidungsbäumen beruhende ML-Modelle werden „commonly used in anti-money laundering (AML) systems to detect suspicious transactions, and in fraud detection systems“ – MAS, Information Paper, Dezember 2024, Ziff. 2.2: „Regulatory risks, e.g., poor performance of AI used to support AML efforts could lead to non-compliance with regulations.“ ↩
2. MAS, „COSMIC“ (mas.gov.sg, abgerufen im November 2026): gestartet am 1. April 2024; Teilnehmer DBS, OCBC, UOB, SCB, Citibank und HSBC; Rechtsgrundlage im Financial Services and Markets (Amendment) Act 2023 und in den Financial Services and Markets (Information Sharing Scheme for Prescribed Financial Institutions) Regulations 2024; drei Risikobereiche. ↩
3. MAS, Information Paper, Dezember 2024, Ziff. 7.2.1: zu den Risiken von KI Dritter gehören „unknown biases from pre-training data, data protection concerns, as well as concentration risks due to increased interdependencies“ – MAS, Information Paper, Dezember 2024, Ziff. 7.2.2(a)–(d): ausgleichende Tests, Notfallplanung, Verträge mit Klauseln über „performance guarantees, data protection, the right to audit, and notification when AI is introduced“ sowie Maßnahmen zur Sensibilisierung. ↩
4. MAS, Response to Feedback, 7. Oktober 2026, Ziff. 9.3–9.4: das Finanzinstitut „remains accountable for how third-party AI is used within its organisation“; „the onus is on the FI to ensure that risks arising from its use of third-party AI are appropriately managed“. ↩
5. MAS, Response to Feedback, 7. Oktober 2026, Ziff. 10.69: Definition der „AI incidents“; „MAS does not intend to introduce AI-specific incident reporting requirements at this juncture“ – MAS, Response to Feedback, 7. Oktober 2026, Ziff. 10.67 und 10.70. ↩
6. MAS, Response to Feedback, 7. Oktober 2026, Ziff. 12.8 – MAS, Response to Feedback, 7. Oktober 2026, Ziff. 7.7: ein Finanzinstitut kann „the extent of access to tools and systems granted as an additional dimension for AI risk materiality assessments of agentic AI“ berücksichtigen. ↩
7. Zum Einsatz von Datenanalyse und maschinellem Lernen durch die MAS in der Aufsicht und bei der Auswertung von Verdachtsmeldungen siehe die Jahresberichte der MAS ab 2018/19 und Reden von Vertretern der MAS zur Aufsichtstechnologie. ↩

Nur zur allgemeinen Information. Dieser Artikel ist keine Rechts- oder Steuerberatung, ersetzt nicht die Beratung im Einzelfall und begründet kein Mandatsverhältnis. Er gibt die Rechtslage zum Stand Oktober 2026 wieder.