„Wir müssen die KI bändigen“: So will Singapur Finanz-KI fair und sicher machen

Mit der Verpflichtung zu mehr Transparenz wollen die Finanzaufseher nun sicherstellen, dass sie bei KI-Anwendungen die Kontrolle nicht verlieren. „Banken müssen dafür sorgen, dass ihre KI keine undurchdringbare Blackbox ist. Sie müssen transparent und rechenschaftspflichtig bleiben“, sagt Sopnendu Mohanty, Chief Fintech Officer von Singapurs Zentralbank MAS, im Gespräch mit dem Handelsblatt. Es müssten zudem Vorkehrungen getroffen werden, die garantieren, dass Entscheidungen einer Finanz-KI, etwa bei der Kreditvergabe, fair und ethisch seien – und Finanz-KI nicht dazu führe, Diskriminierungen zu verstärken.

Mit dem Fintech-Festival mit mehr als 60.000 Branchenvertretern und internationalen Finanzaufsehern will der Stadtstaat die globale Debatte um die Regulierung von KI entscheidend prägen. „Wir stellen uns an die Spitze dieses Diskurses“, sagt Mohanty. „Wir wollen globalen Einfluss haben.“

Die Aufmerksamkeit der Finanzwelt scheint er jedenfalls zu bekommen: „Es gibt keinen besseren Ort, in die Zukunft zu blicken, als Singapur, wo Fintechs boomen“, sagte Kristalina Georgiewa, Chefin des Internationalen Währungsfonds, in einer Rede auf der Konferenz.

Dass Singapur auf Vorsicht bei der Implementierung von KI pocht, ist laut Mohanty auch ein Resultat der negativen Erfahrungen mit der Kryptobranche. „Wir haben bei den digitalen Währungen eine Menge gelernt“, sagte er dem Finanzdienst Bloomberg. „Wenn man die Sache übereilt angeht, kann es sein, dass die bösen Akteure sehr schnell kommen.“

>> Lesen Sie hier: Europas hoffnungsvollstes KI-Start-up – Die deutsche Antwort auf die US-Tech-Giganten?

Singapur hatte sich in den vergangenen Jahren erfolgreich als attraktiver Standort für Krypto-Start-ups in Szene gesetzt. So verlegte unter anderem die ursprünglich in Hongkong gegründete Börse Crypto.com ihren Hauptsitz in den Stadtstaat. 2021 entfiel laut dem Beratungsunternehmen KPMG innerhalb Asiens die Hälfte aller Investitionen in Kryptofirmen auf Singapur. 

Doch in den Jahren darauf erlebte das Finanzzentrum spektakuläre Fehlschläge in der Branche: Im Mai 2022 kollabierte der Stablecoin TerraUSA des Start-ups Terraform Labs, das in Singapur seinen Sitz hatte – US-Behörden werfen Gründer Do Kwon milliardenschweren Betrug vor.

Auch der aus Singapur operierende Krypto-Hedgefonds Three Arrows Capital brach im vergangenen Jahr zusammen. Gründer Zhu Su wurde im September an Singapurs Flughafen festgenommen. Insolvenzverwalter werfen ihm vor, beim Versuch, Gelder in Milliardenhöhe zurückzuerlangen, nicht ausreichend kooperiert zu haben. Kurz zuvor hatten Singapurs Behörden ein neunjähriges Betätigungsverbot gegen Zhu in der Finanzindustrie ausgesprochen.

Die Finanzaufseher hatten zwar regelmäßig vor den Risiken im Kryptohandel gewarnt und vergangenes Jahr auch ein weitgehendes Werbeverbot der Plattformen erlassen. Doch die staatliche Nähe zu der Branche blieb: So hatte der Staatsinvestor Temasek 275 Millionen Dollar in die US-Kryptobörse FTX des kürzlich wegen Betrugs verurteilten Gründers Sam Bankman-Fried investiert. Nach dem Kollaps der Plattform musste Temasek das Geschäft als Totalverlust abschreiben. 

>> Lesen Sie hier: Die beste Hoffnung für Deutschland ist eine KI-Revolution

„Singapur war sehr offen für Krypto und ist dafür bestraft worden“, sagt Matthias Kröner, Gründer und früherer Chef der Münchener Fidor Bank, der einem internationalen Beratergremium von Singapurs Zentralbank angehört. Mit Blick auf Künstliche Intelligenz gehe es den Behörden nun darum, die Risiken herauszuarbeiten und gleichzeitig für die Technologie offen zu sein. „Es ist ein sehr konstruktiver Ansatz – anders als man es vom öffentlichen Sektor in Deutschland kennt.“

Zentralbanker Mohanty sagt, er wolle eine Balance finden zwischen der Förderung von Künstlicher Intelligenz auf der einen Seite und der Begrenzung der Risiken auf der anderen. „Das ist ein laufender Prozess, bei dem es nie eine perfekte Antwort geben wird.“

Er setzt auf Zusammenarbeit mit der Finanzindustrie: Zusammen mit lokalen Banken haben Singapurs Finanzaufseher eine Open-Source-Software entwickelt, mit der Finanzunternehmen ihre KI-Anwendungen auf Kriterien wie Fairness, Ethik und Transparenz testen können. In Pilotversuchen analysierte der Schweizer Rückversicherer Swiss Re damit etwa die Transparenz seiner KI-basierten Vorhersagemodelle. Google überprüfte seine Systeme zur automatischen Erkennung von Betrug bei seinem Bezahldienst Google Pay.

Für den Einsatz von generativer Künstlicher Intelligenz – etwa in Form von Chatbots, die Kunden von Finanzunternehmen beraten – arbeitet Singapur ebenfalls an Richtlinien. Ein Konsortium aus lokalen Banken und Technologieanbietern analysiert dafür derzeit die Risiken, die aus Sicht der Beteiligten am drängendsten sind – zum Beispiel Unsicherheiten über die Fehleranfälligkeit der KI.

„Wir befinden uns gerade in einer sehr spannenden Zeit“, sagt Sameer Gupta, der als Chief Analytics Officer bei Singapurs größter Bank DBS für das Thema verantwortlich ist. „Aber wir sind verpflichtet, die Technologie verantwortungsbewusst einzusetzen.“

Der Fintech-Verantwortliche Mohanty rechnet damit, dass sich der Finanzplatz Singapur durch KI grundlegend verändern wird. Die Technologie reiche in alle Bereiche der Branche. Bereits in diesem Jahr verzeichne sein Land KI-Investitionen im zweistelligen Milliardenbereich.

Mohanty erwartet dadurch Tausende neue Jobs. „Wir müssen uns nun auch genau ansehen, ob wir für diesen technologischen Wandel die richtigen Qualifikationen in der Bevölkerung haben“, sagt er. „Weiterbildung wird unvermeidlich sein.“

Mehr: Wie die Toniebox mit KI zum persönlichen Geschichtenerzähler wird.