Transparente KI? Jede zweite Bank will nichts davon wissen
"Erklärbare" künstliche Intelligenz (KI) spielt laut einer aktuellen Studie in der deutschen Bankenlandschaft bisher nur eine untergeordnete Rolle.
Eine Erhebung des KI-Anbieters Snowflake und des Research-Hauses Sapio unter 100 IT-Verantwortlichen im deutschen Finanzsektor ergab, dass lediglich 47 Prozent der Banken Wert auf eine KI legen, deren Entscheidungen für Menschen nachvollziehbar und zuverlässig sind, berichtet die Nachrichtenagentur "Reuters". Dabei haben mehr als die Hälfte der Institute vor, KI in verschiedenen Bereichen wie dem Kundendienst oder der Betrugsprävention einzusetzen.
Jonah Rosenboom, Deutschland-Chef von Snowflake, erläuterte, dass KI Banken helfen könne, Kosten zu senken. "Eine Voraussetzung für den produktiven und ethischen Einsatz ist in deutschen Banken jedoch eine erklärbare KI." Bei Instituten mit mehr als 5000 Beschäftigten widmen sich 57 Prozent der Befragten diesem Thema, während es bei kleineren Banken nur 38 Prozent sind.
ChatGPT & Co. leiden häufig unter "Halluzinationen"
Die bisherige KI-Software gilt häufig als "Black Box". Sie wird mit einer großen Menge an Daten trainiert, sodass selbst die Entwickler am Ende nicht mehr nachvollziehen können, wie die KI zu einer bestimmten Antwort gelangt ist. Zudem leiden große Sprachmodelle, wie sie ChatGPT & Co. verwenden, unter "Halluzinationen" – das bedeutet, dass die Software gelegentlich Fakten erfindet.
Die deutsche Finanzaufsicht Bafin hatte bereits in einem Diskussionspapier von 2021 eine bessere Nachvollziehbarkeit von KI-Entscheidungen gefordert. Fehlende Transparenz erschwere nicht nur die Überprüfung der Ergebnisse, sondern könne auch die Akzeptanz dieser Technologie beeinträchtigen. (mb)