Prüfkatalog: Vertrauenswürdige Künstliche Intelligenz

Das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS hat in Zusammenarbeit mit KI.NRW und dem Projekt Zertifizierte KI einen Leitfaden herausgegeben. Dieser erläutert auf 160 Seiten, wie vertrauenswürdige Künstliche Intelligenz gestaltet werden kann.

Prüfkatalog KI

Fraunhofer IAIS / KI.NRW

Wie können Unternehmen ihre KI-Systeme vertrauenswürdig gestalten? Mit dieser Frage beschäftigt sich eine neu gegründete Arbeitsgruppe des Bundesamts für Sicherheit in der Informationstechnik BSI und des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS im Rahmen des KI.NRW Flagship-Projekts »Zertifizierte KI«. Die Arbeitsgruppe hat zum Ziel, standardisierungsreife Prüfgrundlagen und Kriterienwerke für KI-Systeme zu definieren. Wissenschaftler:innen des Fraunhofer IAIS haben eine wichtige inhaltliche Grundlage geschaffen: Ein über 160 Seiten starker KI-Prüfkatalog befähigt Unternehmen, Anforderungen an die Vertrauenswürdigkeit intelligenter Systeme für die Entwicklung individueller KI-Anwendungen zu operationalisieren. Dieser in ersten Pilotprojekten erprobte Leitfaden fließt nun in die Zusammenarbeit mit dem BSI ein und ist ab sofort für die Öffentlichkeit zugänglich. Ziel ist es, Standards für KI-Prüfungen zu schaffen und den Weg für eine unabhängige KI-Zertifizierung zu ebnen.

Künstliche Intelligenz (KI) kommt bereits jetzt in vielen Lebensbereichen zum Einsatz - unter anderem in der Medizin. Umso wichtiger ist es, KI-Anwendungen so zu gestalten, dass sie verlässlich und sicher agieren und transparent und zuverlässig mit Daten umgehen. Der Prüfkatalog soll dabei helfen, intelligente Anwendungen vertrauenswürdiger zu machen. Als Leitfaden unterstützt er Entwickler:innen bei der Gestaltung und Prüfer:innen bei der Evaluation und Qualitätssicherung von KI-Systemen. Ziel ist es, Standards für KI-Prüfungen zu schaffen und den Weg für eine unabhängige KI-Zertifizierung zu ebnen.

»Mit dem KI-Prüfkatalog haben wir jetzt ein praxistaugliches Dokument, das von unabhängigen Prüforganisationen als Grundlage für zukünftige Produktprüfungen genutzt werden kann. Gleichzeitig stellt er Unternehmen das Handwerkszeug zur Verfügung, mit dem sie bereits im Entwicklungsprozess ihre Systeme selbst evaluieren und verbessern können und sich so auf zukünftige regulatorische Anforderungen vorbereiten können«, sagt Prof. Dr. Stefan Wrobel, Institutsleiter Fraunhofer IAIS und Mitglied in der von der Bundesregierung neu gegründeten Koordinierungsgruppe KI-Normung und Konformität.

Weitere Informationen

Vorstellung des Leitfadens auf den Webseiten von Fraunhofer IAIS

Pressemeldung von Fraunhofer IAIS

Newsmeldung von KI.NRW

Direkt zum Leitfaden