Deutsche Aufsicht warnt vor Risiken beim KI-Einsatz in Banken
Nach Angaben der Bafin setzen Unternehmen der Finanzbranche zunehmend künstliche Intelligenz (KI) ein, vor allem generative KI. Das bringt nach Meinung der deutschen Aufsicht aber auch Risiken mit sich.
Es bestehe etwa die Gefahr, "dass KI-Modelle auf Datenungleichgewichten oder Vorurteilen beruhen", erklärte die Bafin in einem Bericht am Dienstag (28.1.). Das könne zur Verzerrung der Ergebnisse führen – "mit möglichen unbeabsichtigten Folgen, etwa der Diskriminierung" von Kunden. Über deren Schaden hinaus seien auch Haftungs- und Reputationsrisiken möglich.
Laut Bafin befinden sich viele Initiativen zur Verwendung generativer KI noch in der Erprobungsphase. Häufige Anwendungen seien etwa Chatbots für Beschäftigte, KI-Systeme zur Dokumentenaufbereitung sowie KI-Assistenzsysteme für Entwickler.
Die Nachrichtenagentur "Bloomberg" hatte berichtet, dass mehrere deutsche Banken unter anderem Chatbots einsetzen, die zunehmend nicht nur auf öffentliches Wissen zugreifen, sondern auch auf bankinterne Daten. An entsprechenden Projekten wird unter anderem bei der LBBW und der DZ Bank gearbeitet.
Abhängigkeiten von Dritten
Der Bafin zufolge kann KI auch zu Risiken für die Finanzstabilität führen. Die Behörde verwies auf neue Abhängigkeiten von Dritten, insbesondere von großen Cloud- sowie KI-Modellanbietern. Hier gebe es eine starke Marktkonzentration auf wenige Anbieter. Zum anderen sei Herdenverhalten möglich. Denn viele Marktteilnehmer könnten sich aufgrund gleicher Informationsverarbeitung durch KI und wegen automatisierter Handelsstrategien ähnlich verhalten.
Neben KI sorge auch der Durchbruch beim Quantencomputing für Risiken im Finanzsektor, wie die Bafin weiter erklärte. Der Einsatz von leistungsfähigen Quantencomputern bedrohe die IT-Sicherheit, indem er klassische Verschlüsselungsverfahren aushebele. Unternehmen des Finanzsektors sollten laut Bafin bereits jetzt geeignete IT-Sicherheitsmaßnahmen treffen. (mb/Bloomberg)
