Un audit indipendente sull'intelligenza artificiale certifica le migliori pratiche per la soluzione di prevenzione delle frodi

L'apprendimento automatico (ML) è il metodo di intelligenza artificiale (AI) più utilizzato. I sistemi ML imparano a riconoscere determinati schemi o leggi in modo largamente indipendente sulla base di esempi. Tuttavia, le relazioni di causa-effetto in un modello addestrato non sono sempre aperte, cioè la logica di come un risultato è derivato dalle informazioni iniziali è spesso poco evidente. Ecco perché la metafora della scatola nera viene spesso utilizzata nelle discussioni pubbliche. Ciò va di pari passo con il fatto che i sistemi di ML non sono valutati solo positivamente, ma anche criticamente, il che costituisce un ulteriore ostacolo per un uso più ampio della tecnologia.

Analisi dettagliata della soluzione ML

Come avviene in generale per qualsiasi utilizzo di modelli, la gestione responsabile e conforme alle regole è particolarmente necessaria con i sistemi di ML. Come spesso accade, i progressi tecnici spingono le autorità di regolamentazione ad agire: la Commissione europea, ad esempio, sta attualmente lavorando a un progetto di legge per regolamentare l'uso dell'IA. Per garantire che i clienti siano al sicuro quando utilizzano la soluzione di prevenzione delle frodi AI:drian, il fornitore di servizi informativi Experian, che ha anche una filiale in Svizzera, ha incaricato l'IPA Fraunhofer di valutare se il componente ML Transaction Miner è stato sviluppato in conformità con tutte le best practice e i requisiti legali e fornisce risultati comprensibili. Oltre alla bozza dell'UE, la revisione si è basata su un libro bianco del TÜV Austria e su un catalogo di test sull'intelligenza artificiale del Fraunhofer Institute for Intelligent Analysis and Information Systems IAIS, che indicano la strada per i futuri standard di mercato. Al termine di una fase di revisione molto dettagliata durata quattro mesi, questo esame ha raggiunto un risultato positivo.

Certificare la conformità legale con un audit AI indipendente

"Stiamo assistendo all'utilizzo di un numero sempre maggiore di sistemi di ML in aree che la Commissione UE ha definito critiche, ad esempio nelle auto a guida autonoma o, come in questo caso, nella verifica delle intenzioni di frode e dell'affidabilità creditizia dei consumatori", spiega il professor Marco Huber, responsabile del dipartimento Cyber Cognitive Intelligence (CCI) del Fraunhofer IPA. "Non tutti i dettagli della prossima legislazione europea sono già noti. Tuttavia, l'aspetto degli algoritmi che devono fornire risultati equi, spiegabili e comprensibili non è banale, ma non è nemmeno una stregoneria. La revisione del Transaction Miner di Experian ci ha dato l'opportunità di guardare sotto il cofano di un prodotto che è già in uso pratico e di lavorare su un processo standardizzato che sarà utilizzabile una volta che la legislazione UE diventerà legge."

Il lavoro è stato facilitato di oltre il 95 per cento

Il Transaction Miner, testato dal Fraunhofer IPA, è il componente centrale della soluzione di prevenzione delle frodi AI:drian, che Experian ha recentemente lanciato nella regione DACH. Grazie agli algoritmi di ML utilizzati, AI:drian è in grado di rilevare i tentativi di frode online in modo più affidabile rispetto ai sistemi precedenti. Per un cliente pilota del settore dell'e-commerce, il 99,9% delle transazioni che il transaction miner ha identificato come legittime sulla base della sua formazione non erano fraudolente e non sono state respinte di conseguenza. Invece di circa 7.000 richieste d'ordine al mese, solo 300 dovevano essere controllate manualmente: una riduzione del carico di lavoro di oltre il 95%. "Nuovi sviluppi come l'apprendimento automatico vengono osservati criticamente dal pubblico", commenta Martina Neumayr, Senior Vice President Credit Risk & Fraud Services di Experian DACH. "Ci sono anche esempi di sistemi di ML che forniscono risultati discutibili. Con il Transaction Miner abbiamo sviluppato un componente di ML particolarmente potente che può essere utilizzato anche nei casi in cui la Commissione Europea vede una forte necessità di regolamentazione, ad esempio nel settore finanziario. Proprio per questo era particolarmente importante per noi agire in modo trasparente e far verificare la tecnologia in modo indipendente. Riteniamo che l'uso di nuove tecnologie possa essere accettato solo in presenza di controlli indipendenti come quelli effettuati dal Fraunhofer IPA. Tanto meglio se con questo risultato pionieristico abbiamo aperto la strada a una futura procedura standardizzata".

Un'ampia gamma di offerte intorno a "Affidabile AI

Gli audit come quello descritto sono una delle offerte principali del dipartimento CCI del Fraunhofer IPA. Uno dei temi di ricerca è l'IA affidabile. In questo contesto, gli esperti dell'IPA sviluppano, tra l'altro, metodi per spiegare e salvaguardare i sistemi di intelligenza artificiale. Ciò include anche la conduzione di audit e la convalida o qualificazione dei sistemi di IA come indipendenti e legalmente conformi. I servizi offerti sono indipendenti dal settore e sono adatti alle aziende, dalle start-up alle società. 

Fonte: Fraunhofer IPA. Ulteriori informazioni sul prodotto citato: www.experian.ch