Amnesia: misurare la unfairness dell'intelligenza artificiale
Garantire decisioni eticamente corrette
Le distorsioni cognitive (bias) nei dati o negli algoritmi possono portare una intelligenza artificiale (IA) a decidere in modo eticamente sbagliato o unfair. È quindi necessario garantire che le IA riescano a prendere decisioni eticamente corrette in qualsiasi contesto operativo.
L’obiettivo del progetto AMNESIA, sviluppato da Cefriel e Zenabyte nell’ambito dell’iniziativa EU NGI_TRUST, è di implementare un algoritmo di misurazione della fairness degli strumenti basati su IA, tramite metriche riusabili e facilmente accessibili anche a persone senza specifiche competenze specialistiche (cittadini, giuslavoristi, ecc.).
Aziende che utilizzano l’intelligenza artificiale nei loro strumenti e modelli
Enrico Frumento
Bisogno
Sviluppare un sistema B2C per misurare fairness e accuratezza dei principali sistemi di Machine Learning automatico (Auto ML), ossia sistemi di apprendimento automatico autonomo come Facebook, Apple, Amazon, Microsoft, Google (FAAMG), in differenti contesti applicativi (per es. scolastico, commerciale, finanziario e sanitario).
Costruire un quadro completo dello stato dell’arte delle metriche di fairness in ambito IA.
Selezionare, generalizzare, estendere e migliorare le metriche identificate, integrandole in una dashboard accessibile.
Suggerire metodi per la mitigazione della unfairness misurata.
Sviluppare un Proof-of-Concept (PoC) e convalidarlo con i principali sistemi di Auto ML.
Soluzione
Il progetto AMNESIA propone una innovativa soluzione B2C, composta da un algoritmo, un’architettura di identificazione dei bias cognitivi di una IA e una dashboard di visualizzazione dei risultati. Duplice l’obiettivo: selezionare e utilizzare in modo semi-automatico le metriche migliori con cui verificare la fairness della specifica tecnologia basata su IA; fornire un metodo di mitigazione dei comportamenti scorretti suggerendo possibili rimedi.
Cefriel, in collaborazione con ZenaByte, ha realizzato un Proof-of-Concept della soluzione, caratterizzato da due elementi: un sistema semi-automatico per interagire con le IA, valutare e raccogliere le metriche e una dashboard di presentazione dei risultati pensata per stakeholder non specialisti, come cittadini o decisori.
Impatto
Rilevazione della unfairness per i sistemi di Auto Machine Learning
AMNESIA fornisce uno strumento analitico di rilevazione del livello di fairness delle soluzioni di Auto Machine Learning, ancora fortemente caratterizzate da elementi di unfairness.
Raggiungere un compromesso tra fairness e accuratezza dei risultati
L’innovativo approccio di AMNESIA consente agli utenti non esperti di sistemi di apprendimento di raggiungere il miglior compromesso tra fairness e accuratezza dei risultati di una IA. La dashboard, infatti, offre una visualizzazione chiara, puntuale e organica delle informazioni.
Riduzione della complessità di sistema
Ottenere la fairness nelle soluzioni IA implica spesso un impatto di complessità non trascurabile. La metodologia di misurazione semi-automatica sviluppata da AMNESIA è invece comprensibile anche a non specialisti, permettendo di superare i vincoli legati alla complessità e pianificare le giuste mitigazioni.
Supporto nella scelta del migliore strumento di auto Machine Learning
AMNESIA, grazie alle sue dashboard di misurazione degli strumenti di auto Machine Learning, supporta gli sviluppatori di soluzioni IT nella scelta della migliore soluzione rispetto all'ambito di utilizzo.
Progetti Correlati
Insights correlati
Il mercato dell’Intelligenza Artificiale in Italia: strategie, opportunità e sfide per il futuro
Il futuro dell’IA in Italia: nel report Anitec-Assinform un’analisi di come sta evolvendo il mercato dell’Intelligenza Artificiale con il contributo di Gianluca Ripa, Head of AI & Data Analytics di Cefriel.
Analytics & Artificial Intelligence
Leggi
Il mercato dell’Intelligenza Artificiale in Italia: strategie, opportunità e sfide per il futuro
Il futuro dell’IA in Italia: nel report Anitec-Assinform un’analisi di come sta evolvendo il mercato dell’Intelligenza Artificiale con il contributo di Gianluca Ripa, Head of AI & Data Analytics di Cefriel.
Analytics & Artificial Intelligence
Leggi