So wollen TÜV, BSI und Fraunhofer KI-Anwendungen bei KRITIS-Unternehmen prüfen

Im Angesicht der kommenden gesetzlichen Regulierung von Künstlicher Intelligenz durch die EU melden sich jetzt auch TÜV, BSI und Fraunhofer zu Wort. Schließlich müssten sie am Ende das “Go” bei Banken und anderen KRITIS-Unternehmen geben. In einem gemeinsamen Whitepaper gehen der TÜV-Verband, das BSI und Fraunhofer auf die Frage ein, wie sich KI-Anwendungen überhaupt prüfen lassen.

Eine „Certification Readiness Matrix“ (CRM – siehe Beispiel in Grafik) soll beschreiben, welche Prüfmethoden und Werkzeuge heute bereits vorhanden sind, um verschiedene Sicherheitsaspekte von Künstlicher Intelligenz beurteilen und zertifizieren zu können und in welchen Bereichen noch Forschungs- und Entwicklungsbedarf bestehe. Hintergrund des ganzen sei die geplante Regulierung von KI-Anwendungen in der Europäischen Union.

Die KI-Verordnung

Im Rahmen der KI-Verordnung werde geregelt, wie die Sicherheit von besonders kritischen KI-Anwendungen gewährleistet werden soll (mehr in unserem Beitrag hier). Dazu gehören neben dem Schutz vor gesundheitlichen Gefahren auch die Abwehr von Cyberangriffen, die Robustheit gegenüber sich ändernden äußeren Einflüssen oder die Erklärbarkeit von Entscheidungen des KI-Systems.

Doch um eine KI zu prüfen, muss erst einmal festgestellt werden, welche Aspekte zu berücksichtigen sind, wie man diese prüfen kann und mit welchen Parametern sie dann eingeordnet werden können. Die TÜV-CRM soll hier ansetzen.

Wie die Matrix helfen kann

Die Zertifizierungsmatrix stelle eine Methode zur Erfassung der Prüfbarkeit von Qualitäts- und Sicherheitskriterien von KI-Systemen dar und wende diese exemplarisch an. Sie berücksichtige dabei den gesamten Lebenszyklus komplexer KI-Anwendungen von der Datensammlung über die Trainingsphase bis zum Einsatz in der Praxis. Darüber hinaus beleuchte sie verschiedenste Aspekte der IT-Sicherheit.

KI-Systeme müssen verschiedene Anforderungen erfüllen, um als sicher und vertrauenswürdig gelten zu können. Wir glauben, dass sowohl Prüfer als auch Entwickler und Entscheidungsträger in der Industrie, Forschung und in Behörden von der Certification Readiness Matrix profitieren können.“

Patrick Gilroy, Referent KI und Bildung beim TÜV-Verband

Über das Whitepaper

Das Whitepaper und die darin abgebildete “Certification Readiness Matrix” sind im Rahmen einer gemeinsamen Workshop-Reihe von BSI, Fraunhofer HHI und TÜV-Verband entstanden, die jährlich anlässlich der „TÜV AI Conference“ stattfindet. Die Diskussionen und Beiträge des letztjährigen Fachforums seien als Impulse eingeflossen und weiterentwickelt worden. Insgesamt möchte man laut den Partnern bei dem Thema KI-Regulierung weiter eng zusammenarbeiten.

Das Whitepaper können Sie hier kostenlos einsehen und herunterladen.ft