EU-Kommission legt weltweit ersten Rechtsrahmen für Künstliche Intelligenz vor: Es besteht Gestaltungsbedarf!
FI-Gruppe
Das Competence Center für Künstliche Intelligenz der FI-Gruppe, KIXpertS, und das efl – Data Science Institut der Goethe-Universität Frankfurt haben im letzten Jahr in einem Whitepaper (hier als PDF) den Einsatz Künstlicher Intelligenz (KI) in der Finanzbranche beleuchtet. Im Frühjahr hat die EU-Kommission den Entwurf eines weltweit ersten Rechtsrahmens für Künstliche Intelligenz vorgelegt. Die derzeit laufenden Konsultationen bieten die Chance, das Spannungsfeld zwischen technologischer Innovation und regulatorischen Anforderungen in der Finanzwirtschaft gering zu halten. Dabei besteht noch Gestaltungsbedarf.
von Dr. Andreas Totok, Programmleiter KIXpertS im Competence Center für Künstliche Intelligenz der Finanz Informatik (FI)-Gruppe
KI findet bereits heute in der Finanzbranche zahlreiche Anwendungsgebiete. Chatbots, intelligente Assistenten für Kunden, automatischer Hochfrequenzhandel, automatisierte Betrugserkennung, Überwachung der Compliance, Gesichtserkennungssoftware zur Kundenidentifikation verrichten bei vielen Finanzinstituten bereits täglich ihren Dienst. Und auch Finanzaufsichtsbehörden setzen zunehmend KI-Anwendungen ein, um große und komplexe Datenmengen (Big Data) automatisiert und skalierbar auf Muster hin zu untersuchen, um ihren Aufsichtspflichten nachzukommen.KI-Einsatz erfordert verlässliche Rahmenbedingungen
Der Einsatz von KI in der Finanzwirtschaft erfordert verlässliche Rahmenbedingungen. Mit dem im Frühjahr vorgelegten Entwurf des weltweit ersten Rechtsrahmens für Künstliche Intelligenz unternimmt die EU-Kommission einen richtigen und wichtigen Schritt, damit Europa im globalen Wettstreit bei der Regulierung des KI-Einsatzes eine Vorreiterrolle einnehmen kann. Es bestehen gute Chancen, dass die EU mit ihren demokratischen Werten der digitalen Freiheit, Selbstbestimmung und dem Recht auf Information einen weltweiten Maßstab setzen kann. Die Kommission möchte mit verhältnismäßigen und flexiblen Vorschriften den von KI-Systemen ausgehenden spezifischen Risiken gerecht werden.
Allerdings geht die Regulierung in der Finanzbranche bereits heute sehr weit und stellt einen ständigen Balanceakt dar. Das hat das efl unter Einbeziehung der KIXpertS in dem Whitepaper “KI in der Finanzbranche – Im Spannungsfeld zwischen technologischer Innovation und regulatorischer Anforderung“ dokumentiert. Das Spannungsfeld liegt zwischen erforderlicher Flexibilität im Bereich Innovation und internationaler Wettbewerbsfähigkeit auf der einen Seite.
Strenge Auflagen können in diesem Zusammenhang als Barriere für die erfolgreiche Nutzung von KI-Applikationen in der Finanzbranche wirken. Besonders internationale BigTechs und Plattformbetreiber, die weniger stark reguliert sind, dringen mit weitergehenden Geschäftsmodellen in das Feld der regulierten Institute vor.”
Auf der anderen Seite ist es unstrittig, dass Persönlichkeitsrechte geschützt und Entscheidungsprozesse nachvollziehbar sein müssen. Die fehlende Erklärbarkeit und Interpretierbarkeit von KI-Modellen entsteht in erster Linie durch Intransparenz bei einem Großteil heutiger KI-Anwendungen, bei welchen zwar die Natur der Ein- und Ausgaben beobachtbar und verständlich ist, nicht jedoch die genauen Verarbeitungsschritte dazwischen (Black-Box-Prinzip). Die aktuellen Konsultationen geben die Gelegenheit, die spezifischen Anforderungen der hoch regulierten Finanzwirtschaft in das Gesetzgebungsverfahren einzubringen. Dieser für alle Branchen geltende Rechtsrahmen darf allerdings nicht dazu führen, die Dynamik und Innovationskraft des Einsatzes von KI in der Finanzwirtschaft zu hemmen.
Dr. Andreas Totok ist Programmleiter KIXpertS, dem Competence Center für Künstliche Intelligenz der Finanz Informatik (FI)-Gruppe (Webseite). Das Competence Center ist bei der FI-Tochter Finanz Informatik Solutions Plus angesiedelt. In dieser leitet der promovierte Informatiker den Geschäftsbereich „Enterprise Information Management“, der Business-Intelligence- und Information-Management-Lösungen für Banken, Versicherungen und Unternehmen weiterer Branchen konzipiert und entwickelt. Einen besonderen Schwerpunkt bilden Implementierungen für die Gesamtbanksteuerung auf Basis von Standardsoftware. Fachlich konzentriert sich Dr. Totok auf die Konzeption sowie die Architektur- und Organisationsberatung für Business-Intelligence- und Information-Management-Lösungen. Dr. Totok ist zudem Buchautor, regelmäßiger Referent auf Fachveranstaltungen, engagiert sich bei The Data Warehousing Institute (TDWI), von dem er die Auszeichnung „TDWI Europe Fellow“ erhielt. Einen Anlauf zur Konkretisierung der Anforderungen an Finanzinstitute hat auch gerade die BaFin übernommen. Sie hat in der Finanzwirtschaft veröffentlicht (hier zum Big Data und künstliche Intelligenz: Prinzipien für den Einsatz von Algorithmen in Entscheidungsprozessen Prinzipienpapier BDAI). Diese sollen bestehende Regulierung und Verwaltungspraxis ergänzen und konkretisieren. Die Prinzipien stellen vorläufige Überlegungen zu aufsichtlichen Mindestanforderungen für den Einsatz von KI dar. Zugleich sollen sie aber bereits jetzt den von der BaFin beaufsichtigen Unternehmen als Orientierungshilfe dienen. Sie geben einen wichtigen Anhaltspunkt, den vorliegenden Entwurf der EU-Kommission zu würdigen und auf die Anforderungen in der Finanzwirtschaft hin abzustimmen.
Passgenaue Definition von Künstlicher Intelligenz
Ein aus der praktischen Erfahrung heraus offensichtliches Manko der EU-Verordnung liegt in der Definition des KI-Begriffs. Dieser ist in dem Entwurf sehr weit gefasst, was das Anwendungsgebiet der Verordnung zu breit macht. In der Praxis führt dies zu Irritationen und hemmt Innovationen. So die Erfahrung der KIXpertS, die den Einsatz und Nutzen der KI und dessen Begrifflichkeit in den vergangenen Jahren intensiv mit Experten und Anwendern in der Sparkassen-Finanzgruppe diskutiert haben. Einen breiten Konsens fanden die Experten dabei stets mit einer fokussierten Definition des Begriffs, der verhindert, dass verbreitete regelbasierte Verfahren auch als KI eingestuft werden. Wenn KI-basierte Verfahren als „unbeaufsichtigte bzw. nicht kontrollierte, automatisierte Verfahren zur Wissensbildung“ definiert werden, trifft dies den Kern des Anwendungsgebietes, für das die EU-Verordnung den wichtigen rechtlichen Rahmen beschreibt, deutlich besser.
Vertrauen hat hohe Bedeutung
Die EU-Verordnung bietet die Chance, die EU zum Vorreiter für vertrauenswürdige KI zu machen. Prof. Hinz (Goethe Universität Frankfurt und Leibniz SAFE):
Einer der wichtigsten Aspekte ist, dass KI vertrauenswürdig sein muss. Menschen können bei KI nicht mehr nachvollziehen, warum und aus welchen Daten bestimmte Ergebnisse generiert werden. Von daher sind Regulatorik und Vertrauen überaus wichtige Voraussetzungen für den Einsatz von KI. Vonseiten der Wissenschaft beschäftigt uns dieser Aspekt in verschiedenen, sehr aktuellen Projekten intensiv, um die Risiken hieraus zu minimieren.“
Das Thema der „vertrauenswürdigen KI“ hat gerade in der Finanzbranche eine überaus hohe Bedeutung. Menschen müssen verstehen, wieso und auf welcher Basis ein Algorithmus der KI-Entscheidungen trifft. Das Vertrauen, das seit Jahrzehnten durch Verfahren mit automatisierten Prozessen, aber auch persönlichen Kontrollen aufgebaut wurde, muss durch eine klare, gesetzliche Regulatorik weiter Bestand haben. Hinz:
In ihrer Ausgestaltung sollte die geplante EU-Verordnung sicherstellen, dass die vielen Potenziale Künstlicher Intelligenz künftig weiter ausgeschöpft werden können, während zugleich der Schutz der Bürgerinnen und Bürger sowie deren Vertrauen gestärkt wird.“
Internationale Regulierung weitentwickeln
Für die Zukunft ist es notwendig, internationale Regularien prinzipienbasiert, vereinheitlicht und technologieneutral weiterzuentwickeln, ohne dabei die Entwicklung neuer KI-basierter Geschäftsmodelle zu bremsen. Der EU-Rechtsrahmen sollte dabei unter dem Aspekt gewürdigt werden, in wie fern er die nachhaltige und verantwortungsvolle KI in der bereits heute hoch regulierten Finanzwirtschaft unterstützt. Die Erkenntnisse des efl und der KIXpertS zeigen aber, dass für diese Zielsetzung darüber hinaus weitere Maßnahmen und auch Förderprogramme notwendig sind, mit denen insbesondere die (Weiter-) Entwicklung breit einsetzbarer Methoden unterstützt werden, die es erlauben, menschen-interpretierbare Erklärungen für erzeugte Ausgaben bereitzustellen und Problemen wie dem Blackbox-Prinzip entgegenzuwirken. Die Verfasser des Whitepapers sehen darüber hinaus auch in Kooperationen zwischen Unternehmen der Finanzbranche mit BigTech-Unternehmen Chancen, um gemeinsam das Potenzial der Technologie bestmöglich ausschöpfen zu können.Dr. Andreas Totok, KIXpertS
Sie finden diesen Artikel im Internet auf der Website:
https://itfm.link/122207
Schreiben Sie einen Kommentar