Ein Konzept für die Prüfbarkeit von Künstlicher Intelligenz (KI) haben jetzt der TÜV-Verband, das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Fraunhofer Heinrich-Hertz-Institut in einem gemeinsamen Whitepaper vorgestellt.
Ein Konzept für die Prüfbarkeit von Künstlicher Intelligenz (KI) haben jetzt der TÜV-Verband, das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Fraunhofer Heinrich-Hertz-Institut in einem gemeinsamen Whitepaper vorgestellt. (Quelle: Screenshot)

Smarte Gebäude

30. May 2022 | Teilen auf:

Gemeinsames Whitepaper zu sicherheitskritischen KI-Anwendungen

Ein Konzept für die Prüfbarkeit von Künstlicher Intelligenz (KI) haben jetzt der TÜV-Verband, das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Fraunhofer Heinrich-Hertz-Institut in einem gemeinsamen Whitepaper vorgestellt. Die „Certification Readiness Matrix“ (CRM) beschreibt, welche Prüfmethoden und Werkzeuge heute bereits vorhanden sind, um verschiedene Sicherheitsaspekte von Künstlicher Intelligenz beurteilen und zertifizieren zu können und in welchen Bereichen noch Forschungs- und Entwicklungsbedarf besteht.

Hintergrund ist die geplante Regulierung von KI-Anwendungen in der Europäischen Union. „Die Prüfmatrix unterstützt die praktische Umsetzung der KI-Verordnung und zukünftiger Gesetzgebungsprozesse in der EU“, sagt Patrick Gilroy, Referent Künstliche Intelligenz und Bildung beim TÜV-Verband. Im Rahmen der KI-Verordnung wird geregelt, wie die Sicherheit von besonderes kritischen KI-Anwendungen gewährleistet werden soll. Dazu zählen beispielsweise die Steuerung von Fahrzeugen, medizinische Anwendungen, biometrische Verfahren oder Roboter, die mit Menschen zusammenarbeiten. Je nach Risikoklasse der jeweiligen KI-Systeme sollen unterschiedliche Vorgaben gelten.

Das vollständige Whitepaper ist hier abrufbar.

zuletzt editiert am 30.05.2022