3 risposte dal webinar “L’intelligenza artificiale può prendere decisioni etiche e giuridiche corrette?”
News
Aprile 28, 2021
Come misurare e mitigare la fairness, ovvero l’equità nelle decisioni, delle intelligenze artificiali? Nel webinar “L’intelligenza artificiale può prendere decisioni etiche e giuridiche corrette?”, Enrico Frumento, Cybersecurity Senior Specialist Cefriel e Carlo Dambra, Co-Founder and Legal Representative Zenabyte, spiegano come intervenire per affrontare e mitigare il problema dei bias di dati e algoritmi di una IA, intelligenza artificiale.
Cosa si intende con “unfairness” di una IA?
“Le distorsioni (bias) nei dati o negli algoritmi – spiega Carlo Dambra – possono portare un’intelligenza artificiale a decidere in modo eticamente sbagliato o unfair. È necessario quindi garantire che gli algoritmi riescano a prendere decisioni etiche e giuridiche corrette in qualsiasi contesto”.
Come intervenire per generare decisioni etiche e giuridiche corrette?
“I sistemi sul mercato in grado di misurare il livello di unfairness delle soluzioni basate su IA – prosegue Carlo Dambra – sono spesso pensati per specialisti del settore. Mancava un sistema B2C di facile e immediato utilizzo per progettisti o decisori, che fosse utilizzabile già in fase di progettazione del servizio, capace di mantenere l’equilibrio tra accuratezza e fairness in un determinato campo applicativo. Per questo, insieme a Cefriel abbiamo dato vita al progetto AMNESIA, finanziato dall’iniziativa europea Next Generation Internet, NGI_TRUST”.
Esiste una possibile soluzione per la valutazione della equità di decisioni prese da una AI?
“Nell’ambito del progetto AMNESIA – commenta Enrico Frumento – Cefriel ha implementato, in collaborazione con Zenabyte, un’innovativa soluzione B2C caratterizzata da due elementi: un sistema semi-automatico per interagire con le intelligenze artificiali, per valutare e raccogliere le metriche, e una dashboard di presentazione dei risultati di semplice fruibilità che possa aiutare a comprendere quanto una intelligenza artificiale abbia preso decisioni eque ed eticamente corrette”.
