ZHAW entwickelt Zertifizierungsschema für KI-Systeme

Künstliche Intelligenz (KI) wird zunehmend in sicherheitskritischen Bereichen eingesetzt, wodurch die Vertrauenswürdigkeit dieser Systeme immer wichtiger wird. Unzureichend evaluierte KI-Systeme können gravierende gesellschaftliche Risiken verursachen – von diskriminierenden Algorithmen über physische Sicherheitsrisiken bis hin zu Fehldiagnosen im medizinischen Kontext.

Zertifizierungsschema als Brücke zwischen Technologie und Regulierung

An diesem aktuellen Thema forschen das Centre for Artificial Intelligence (CAI) sowie das Institut für Angewandte Mathematik und Physik (IAMP) der ZHAW School of Engineering gemeinsam. Entstanden ist das Zertifizierungsschema «CertAInty», das einen strukturierten Rahmen für die Begutachtung von KI-Technologien bietet. «Die Zertifizierung von KI-Systemen durch eine akkreditierte Stelle erhöht das Vertrauen, beschleunigt die Akzeptanz und ermöglicht ihren Einsatz in sicherheitskritischen Anwendungen», erklärt Ricardo Chavarriaga von der ZHAW School of Engineering. Joanna Weng, die das Projekt gemeinsam mit ihm leitet, erläutert: «Das CertAInty-Schema überbrückt die Lücke zwischen den abstrakten regulatorischen Vorgaben des EU AI Acts und konkreten technischen Methoden für die Bewertung von KI-Systemen.»

Vier Kernaspekte der Vertrauenswürdigkeit

Das Zertifizierungsschema umfasst vier zentrale Dimensionen:

• Zuverlässigkeit: Verlässliche Systemleistung unter verschiedenen Bedingungen
• Transparenz: Nachvollziehbarkeit von KI-Entscheidungsprozessen
• Autonomie und Kontrolle: Definition des Grads menschlicher Aufsicht
• Sicherheit: Vermeidung unerwünschter Folgen in kritischen Anwendungsbereichen, beispielsweise im Gesundheitswesen oder in autonomen Transportsystemen

Für die Zuverlässigkeitsdimension zum Beispiel wurde aus über 55 Metriken und 95 Methoden eine optimierte Auswahl identifiziert und validiert. «Unser Zertifizierungsschema bietet nun eine praktikable Methodik und eine pragmatische Grundlage für Entwickler:innen, Firmen und Regulierungsbehörden und den verantwortungsvollen Einsatz von KI-Technologien», erklärt Joanna Weng.

Praxisnahe Validierung

Die Anwendbarkeit des Schemas wurde anhand mehrerer realer Beispiele demonstriert, wie zum Beispiel der KI-gestützten Erkennung von Baufahrzeugen mittels Computer Vision. Dabei wurde die Zuverlässigkeit der KI-gestützten Erkennung gegen Störfaktoren wie Wettereinflüsse und Bildverzerrungen systematisch evaluiert.

Besondere Bedeutung erhält das Projekt durch den EU AI Act, der am 1. August 2024 in Kraft getreten ist und ab dem 2. August 2026 vollständig anwendbar sein wird. Diese Regulierung wird für Hochrisiko-KI-Systeme eine obligatorische Zertifizierung einführen, die genau jene Dimensionen umfasst, die CertAInty adressiert. Für in regulierten Produkten eingebettete Hochrisiko-KI-Systeme gilt eine verlängerte Übergangsfrist bis zum 2. August 2027. In naher Zukunft wird auch in der Schweiz eine regulatorische Regelung erwartet. Zudem müssen Schweizer Unternehmen, die ihre Produkte in der EU vertreiben, die Vorgaben des EU AI Acts einhalten. «Das Projekt antizipiert den entstehenden regulatorischen Rahmen und bietet eine methodische Brücke zwischen den Anforderungen und der praktischen Umsetzung», betont Chavarriaga.

Die Firma CertX nutzt das Zertifizierungsschema nun als Grundlage für ihre Dienstleistungen und bietet eine systematische sowie unabhängige Bewertung von KI-Lösungen in der Schweiz an. Die Ergebnisse des Projekts wurden auch auf verschiedenen Konferenzen präsentiert, unter anderem auf der Swiss Conference on Data Science 2024, bei der das Team der ZHAW School of Engineering den Best Paper Award gewonnen hat.

Führend sein in der KI-Ethikbewertung

Für interessierte Fachpersonen aus Industrie und Wissenschaft bietet die ZHAW zum Thema KI-Assessment im Mai in Zusammenarbeit mit der IEEE Standards Association erstmals den mehrtägigen Kurs «IEEE CertifAIEd™ Assessor Training» an.

Quelle und weitere Informationen: www.zhaw.ch