Amnesia: misurare la unfairness dell'intelligenza artificiale

Garantire decisioni eticamente corrette

Le distorsioni cognitive (bias) nei dati o negli algoritmi possono portare una intelligenza artificiale (IA) a decidere in modo eticamente sbagliato o unfair. È quindi necessario garantire che le IA riescano a prendere decisioni eticamente corrette in qualsiasi contesto operativo.


L’obiettivo del progetto AMNESIA, sviluppato da Cefriel e Zenabyte nell’ambito dell’iniziativa EU NGI_TRUST, è di implementare un algoritmo di misurazione della fairness degli strumenti basati su IA, tramite metriche riusabili e facilmente accessibili anche a persone senza specifiche competenze specialistiche (cittadini, giuslavoristi, ecc.).

Cliente

Aziende che utilizzano l’intelligenza artificiale nei loro strumenti e modelli

Tipologia
Referente

Enrico Frumento

LO SCENARIO

Bisogno

Sviluppare un sistema B2C per misurare fairness e accuratezza dei principali sistemi di Machine Learning automatico (Auto ML), ossia sistemi di apprendimento automatico autonomo come Facebook, Apple, Amazon, Microsoft, Google (FAAMG), in differenti contesti applicativi (per es. scolastico, commerciale, finanziario e sanitario).

Costruire un quadro completo dello stato dell’arte delle metriche di fairness in ambito IA.

Selezionare, generalizzare, estendere e migliorare le metriche identificate, integrandole in una dashboard accessibile.

Suggerire metodi per la mitigazione della unfairness misurata.

Sviluppare un Proof-of-Concept (PoC) e convalidarlo con i principali sistemi di Auto ML.

Soluzione

Il progetto AMNESIA propone una innovativa soluzione B2C, composta da un algoritmo, un’architettura di identificazione dei bias cognitivi di una IA e una dashboard di visualizzazione dei risultati. Duplice l’obiettivo: selezionare e utilizzare in modo semi-automatico le metriche migliori con cui verificare la fairness della specifica tecnologia basata su IA; fornire un metodo di mitigazione dei comportamenti scorretti suggerendo possibili rimedi.

Cefriel, in collaborazione con ZenaByte, ha realizzato un Proof-of-Concept della soluzione, caratterizzato da due elementi: un sistema semi-automatico per interagire con le IA, valutare e raccogliere le metriche e una dashboard di presentazione dei risultati pensata per stakeholder non specialisti, come cittadini o decisori.

RISULTATI

Impatto

Rilevazione della unfairness per i sistemi di Auto Machine Learning


AMNESIA fornisce uno strumento analitico di rilevazione del livello di fairness delle soluzioni di Auto Machine Learning, ancora fortemente caratterizzate da elementi di unfairness.

Raggiungere un compromesso tra fairness e accuratezza dei risultati


L’innovativo approccio di AMNESIA consente agli utenti non esperti di sistemi di apprendimento di raggiungere il miglior compromesso tra fairness e accuratezza dei risultati di una IA. La dashboard, infatti, offre una visualizzazione chiara, puntuale e organica delle informazioni.

Riduzione della complessità di sistema


Ottenere la fairness nelle soluzioni IA implica spesso un impatto di complessità non trascurabile. La metodologia di misurazione semi-automatica sviluppata da AMNESIA è invece comprensibile anche a non specialisti, permettendo di superare i vincoli legati alla complessità e pianificare le giuste mitigazioni.

Supporto nella scelta del migliore strumento di auto Machine Learning


AMNESIA, grazie alle sue dashboard di misurazione degli strumenti di auto Machine Learning, supporta gli sviluppatori di soluzioni IT nella scelta della migliore soluzione rispetto all'ambito di utilizzo.

Progetti Correlati


Insights correlati


Insight/News/Whitepaper

Intelligenza Artificiale: come progettarla e svilupparla nelle imprese e nelle PA?

Presentato il white paper Cefriel “Come si progetta e sviluppa l’Intelligenza Artificiale?”, una guida che spiega i passi necessari ad assicurare una transizione di successo da una fase sperimentale alla industrializzazione di soluzioni basate...

Analytics & Artificial Intelligence

Leggi
inno-talk-cefriel
Insight/News

InnoTalk: esperienze a confronto su Intelligenza Artificiale con Fabio Foglia

A fine novembre si è tenuto, presso la sede di Cefriel, un confronto di esperienze tecniche e di business con il fondatore di aiLANDINGS, Fabio Foglia, su Intelligenza Artificiale.

Analytics & Artificial Intelligence

Leggi
Insight/News/Whitepaper

Intelligenza Artificiale: come progettarla e svilupparla nelle imprese e nelle PA?

Presentato il white paper Cefriel “Come si progetta e sviluppa l’Intelligenza Artificiale?”, una guida che spiega i passi necessari ad assicurare una transizione di successo da una fase sperimentale alla industrializzazione di soluzioni basate...

Analytics & Artificial Intelligence

Leggi
inno-talk-cefriel
Insight/News

InnoTalk: esperienze a confronto su Intelligenza Artificiale con Fabio Foglia

A fine novembre si è tenuto, presso la sede di Cefriel, un confronto di esperienze tecniche e di business con il fondatore di aiLANDINGS, Fabio Foglia, su Intelligenza Artificiale.

Analytics & Artificial Intelligence

Leggi

Contattaci
Pianifica con noi il primo passo verso il futuro della tua impresa

Sito - Contatti

Nome*(Obbligatorio)
Autorizzo Cefriel al trattamento dei miei dati ( privacy policy ) per ricevere informazioni promozionali su servizi, eventi e prodotti.(Obbligatorio)
Autorizzo Cefriel al trattamento dei miei dati per ricevere informazioni promozionali su servizi, eventi e prodotti. *
Hidden

Dichiaro di aver preso visione della privacy policy.