La ZHAW sviluppa un sistema di certificazione per i sistemi di intelligenza artificiale
In collaborazione con CertX AG, un team di ricerca della ZHAW School of Engineering ha sviluppato un sistema di certificazione per l'intelligenza artificiale che verifica l'affidabilità delle tecnologie AI. Il progetto "CertAInty", finanziato da Innosuisse, affronta così i rischi sociali e i requisiti della legge europea sull'intelligenza artificiale, che nel prossimo futuro diventeranno rilevanti anche per le aziende svizzere.
L'intelligenza artificiale (IA) è sempre più utilizzata in aree critiche per la sicurezza, rendendo l'affidabilità di questi sistemi sempre più importante. I sistemi di IA non adeguatamente valutati possono causare gravi rischi sociali, dagli algoritmi discriminatori ai rischi per la sicurezza fisica, fino alle diagnosi errate in ambito medico.
Lo schema di certificazione come ponte tra tecnologia e regolamentazione
Il Centro per l'Intelligenza Artificiale (CAI) e l'Istituto di Matematica e Fisica Applicata (IAMP) della ZHAW School of Engineering stanno conducendo ricerche congiunte su questo tema attuale. Il risultato è lo schema di certificazione "CertAInty", che fornisce un quadro strutturato per la valutazione delle tecnologie di IA. "La certificazione dei sistemi di intelligenza artificiale da parte di un organismo accreditato aumenta la fiducia, accelera l'accettazione e ne consente l'uso in applicazioni critiche per la sicurezza", spiega Ricardo Chavarriaga della ZHAW School of Engineering. Joanna Weng, che guida il progetto insieme a lui, spiega: "Lo schema CertAInty colma il divario tra i requisiti normativi astratti dell'EU AI Act e i metodi tecnici concreti per la valutazione dei sistemi di IA".
Quattro aspetti fondamentali dell'affidabilità
Lo schema di certificazione comprende quattro dimensioni centrali:
- Affidabilità: Prestazioni affidabili del sistema in varie condizioni
- Trasparenza: Tracciabilità dei processi decisionali dell'IA
- Autonomia e controllo: Definizione del grado di supervisione umana
- Sicurezza: Evitare conseguenze indesiderate in aree critiche di applicazione, ad esempio nella sanità o nei sistemi di trasporto autonomi.
Per la dimensione dell'affidabilità, ad esempio, è stata individuata e convalidata una selezione ottimizzata tra oltre 55 metriche e 95 metodi. "Il nostro schema di certificazione offre ora una metodologia praticabile e una base pragmatica per gli sviluppatori, le aziende e le autorità di regolamentazione e l'uso responsabile delle tecnologie AI", spiega Joanna Weng.
Convalida pratica
L'applicabilità dello schema è stata dimostrata utilizzando diversi esempi reali, come il rilevamento supportato dall'intelligenza artificiale di veicoli da costruzione utilizzando la computer vision. L'affidabilità del riconoscimento supportato dall'intelligenza artificiale è stata sistematicamente valutata rispetto a fattori di interferenza come le influenze meteorologiche e le distorsioni dell'immagine.
Il progetto è di particolare importanza a causa della legge europea sull'IA, che è entrata in vigore il 1° agosto 2024 e sarà pienamente applicabile dal 2 agosto 2026. Questo regolamento introdurrà una certificazione obbligatoria per i sistemi di intelligenza artificiale ad alto rischio che copre esattamente le dimensioni affrontate da CertAInty. Un periodo di transizione esteso fino al 2 agosto 2027 si applica ai sistemi di intelligenza artificiale ad alto rischio incorporati in prodotti regolamentati, e un regime normativo è previsto anche in Svizzera nel prossimo futuro. Inoltre, le aziende svizzere che vendono i loro prodotti nell'UE devono rispettare i requisiti della legge UE sull'IA. "Il progetto anticipa il quadro normativo emergente e fornisce un ponte metodico tra i requisiti e l'attuazione pratica", sottolinea Chavarriaga.
La società CertX utilizza ora lo schema di certificazione come base per i suoi servizi e offre una valutazione sistematica e indipendente delle soluzioni di IA in Svizzera. I risultati del progetto sono stati presentati anche in varie conferenze, tra cui la Conferenza svizzera sulla scienza dei dati 2024, dove il team della ZHAW School of Engineering ha vinto il premio per l'intelligenza artificiale. Premio per il miglior elaborato ha vinto.
Essere leader nella valutazione dell'etica dell'IA
Per gli specialisti interessati dell'industria e del mondo accademico, la ZHAW offrirà a maggio il primo corso di più giorni sulla valutazione dell'IA in collaborazione con la IEEE Standards Association: "Formazione per Valutatori IEEE CertifAIEd™" a.
Fonte e ulteriori informazioni: www.zhaw.ch
