Amnesia: misurare la unfairness dell'intelligenza artificiale

Garantire decisioni eticamente corrette

Le distorsioni cognitive (bias) nei dati o negli algoritmi possono portare una intelligenza artificiale (IA) a decidere in modo eticamente sbagliato o unfair. È quindi necessario garantire che le IA riescano a prendere decisioni eticamente corrette in qualsiasi contesto operativo.


L’obiettivo del progetto AMNESIA, sviluppato da Cefriel e Zenabyte nell’ambito dell’iniziativa EU NGI_TRUST, è di implementare un algoritmo di misurazione della fairness degli strumenti basati su IA, tramite metriche riusabili e facilmente accessibili anche a persone senza specifiche competenze specialistiche (cittadini, giuslavoristi, ecc.).

Cliente

Aziende che utilizzano l’intelligenza artificiale nei loro strumenti e modelli

Tipologia
Referente

Enrico Frumento

LO SCENARIO

Bisogno

Sviluppare un sistema B2C per misurare fairness e accuratezza dei principali sistemi di Machine Learning automatico (Auto ML), ossia sistemi di apprendimento automatico autonomo come Facebook, Apple, Amazon, Microsoft, Google (FAAMG), in differenti contesti applicativi (per es. scolastico, commerciale, finanziario e sanitario).

Costruire un quadro completo dello stato dell’arte delle metriche di fairness in ambito IA.

Selezionare, generalizzare, estendere e migliorare le metriche identificate, integrandole in una dashboard accessibile.

Suggerire metodi per la mitigazione della unfairness misurata.

Sviluppare un Proof-of-Concept (PoC) e convalidarlo con i principali sistemi di Auto ML.

Soluzione

Il progetto AMNESIA propone una innovativa soluzione B2C, composta da un algoritmo, un’architettura di identificazione dei bias cognitivi di una IA e una dashboard di visualizzazione dei risultati. Duplice l’obiettivo: selezionare e utilizzare in modo semi-automatico le metriche migliori con cui verificare la fairness della specifica tecnologia basata su IA; fornire un metodo di mitigazione dei comportamenti scorretti suggerendo possibili rimedi.

Cefriel, in collaborazione con ZenaByte, ha realizzato un Proof-of-Concept della soluzione, caratterizzato da due elementi: un sistema semi-automatico per interagire con le IA, valutare e raccogliere le metriche e una dashboard di presentazione dei risultati pensata per stakeholder non specialisti, come cittadini o decisori.

RISULTATI

Impatto

Rilevazione della unfairness per i sistemi di Auto Machine Learning


AMNESIA fornisce uno strumento analitico di rilevazione del livello di fairness delle soluzioni di Auto Machine Learning, ancora fortemente caratterizzate da elementi di unfairness.

Raggiungere un compromesso tra fairness e accuratezza dei risultati


L’innovativo approccio di AMNESIA consente agli utenti non esperti di sistemi di apprendimento di raggiungere il miglior compromesso tra fairness e accuratezza dei risultati di una IA. La dashboard, infatti, offre una visualizzazione chiara, puntuale e organica delle informazioni.

Riduzione della complessità di sistema


Ottenere la fairness nelle soluzioni IA implica spesso un impatto di complessità non trascurabile. La metodologia di misurazione semi-automatica sviluppata da AMNESIA è invece comprensibile anche a non specialisti, permettendo di superare i vincoli legati alla complessità e pianificare le giuste mitigazioni.

Supporto nella scelta del migliore strumento di auto Machine Learning


AMNESIA, grazie alle sue dashboard di misurazione degli strumenti di auto Machine Learning, supporta gli sviluppatori di soluzioni IT nella scelta della migliore soluzione rispetto all'ambito di utilizzo.

Insights correlati


accordi innovazione mise
Insight/News

MISE: 45 milioni alle imprese per lo sviluppo di Intelligenza Artificiale, Blockchain e Internet of Things

Pubblicato dal MISE il Decreto Direttoriale 24 giugno 2022 che stabilisce modalità e termini per la concessione e l’erogazione delle agevolazioni nell’ambito del Fondo per interventi volti a favorire lo sviluppo delle tecnologie e delle applicaz...

cefriel-intelligenza-artificiale
Insight/Vision

Chi ha paura dell’intelligenza artificiale? Ma soprattutto perché?

Il manifesto AI firmato da Massimo Chiriatti, Nicola Intini, Corrado La Forgia e Paola Liberace sottolinea la distinzione tra intelligenza artificiale generale (forte) e intelligenza artificiale ristretta (debole), una differenza non sempre ben compr...

accordi innovazione mise
Insight/News

MISE: 45 milioni alle imprese per lo sviluppo di Intelligenza Artificiale, Blockchain e Internet of Things

Pubblicato dal MISE il Decreto Direttoriale 24 giugno 2022 che stabilisce modalità e termini per la concessione e l’erogazione delle agevolazioni nell’ambito del Fondo per interventi volti a favorire lo sviluppo delle tecnologie e delle applicaz...

cefriel-intelligenza-artificiale
Insight/Vision

Chi ha paura dell’intelligenza artificiale? Ma soprattutto perché?

Il manifesto AI firmato da Massimo Chiriatti, Nicola Intini, Corrado La Forgia e Paola Liberace sottolinea la distinzione tra intelligenza artificiale generale (forte) e intelligenza artificiale ristretta (debole), una differenza non sempre ben compr...

Contattaci
Pianifica con noi il primo passo verso il futuro della tua impresa

Contatti

Nome*(Required)
Autorizzo Cefriel al trattamento dei miei dati ( privacy policy ) per ricevere informazioni promozionali su servizi, eventi e prodotti.(Required)
Autorizzo Cefriel al trattamento dei miei dati (privacy policy) per ricevere informazioni promozionali su servizi, eventi e prodotti. *
Hidden