Careers
Cefriel finanzia una borsa di dottorato su Explainable AI e conoscenza umana
News
Gennaio 31, 2023
Presentati in questi giorni i primi risultati di una borsa di dottorato finanziata da Cefriel assegnata ad Andrea Tocchetti, dottorando al terzo anno del Politecnico di Milano che ha lavorato, con la supervisione del professor Marco Brambilla, su trasparenza e comprensibilità dei modelli di intelligenza artificiale.
“La ricerca – afferma Alfonso Fuggetta, amministratore delegato di Cefriel – è essenziale per alimentare e sostenere le attività di innovazione con le imprese. Grazie alla ricerca possiamo esplorare e validare nuove idee, facendole maturare per essere utilizzate in applicazioni concrete. Per questo finanziare una borsa di dottorato su un tema così importante è per Cefriel una iniziativa di carattere strategico e assolutamente indispensabile”.
Come è nata l’idea della borsa di dottorato?
“Un paio di anni fa – racconta Irene Celino, responsabile della practice Knowledge Technologies di Cefriel – abbiamo pubblicato un bando per finanziare una borsa di dottorato che potesse approfondire un tema di ricerca fortemente connesso con quanto si fa in Cefriel. Tra le tante proposte arrivate dal DEIB del Politecnico di Milano abbiamo scelto il lavoro che sta portando avanti Andrea Tocchetti sulla relazione tra le persone, la loro conoscenza e l’Intelligenza Artificiale, in particolare sulla explainability delle scelte che le macchine compiono in autonomia, un tema oggi molto sentito anche dalle imprese con le quali lavoriamo, che hanno voglia di sfruttare i vantaggi della tecnologia, ma sono scettici rispetto a quello che non comprendono”.
L’idea di finanziare una borsa di dottorato si è rivelata da subito vincente: “L’apertura di Cefriel per la ricerca e l’innovazione che non abbia un impatto operativo immediato, ma che garantisca una visione di ampio respiro, è linfa vitale non solo per il mondo accademico ma anche per quello industriale” – afferma Marco Brambilla, professore ordinario al DEIB Politecnico di Milano.
L’idea di finanziare una borsa di dottorato si è rivelata da subito vincente: “L’apertura di Cefriel per la ricerca e l’innovazione che non abbia un impatto operativo immediato, ma che garantisca una visione di ampio respiro, è linfa vitale non solo per il mondo accademico ma anche per quello industriale” – afferma Marco Brambilla, professore ordinario al DEIB Politecnico di Milano.
Quale il focus della borsa di dottorato?
“In università – spiega Brambilla – si lavora da tempo al tema dell’intelligenza artificiale, considerando le sue implicazioni, soprattutto rispetto a percezione e coinvolgimento dell’utente nei processi decisionali basati su machine learning. La nostra esperienza si arricchisce con quella di Cefriel che può fare trasferimento tecnologico verso l’industria”.
Il bisogno al quale risponde la borsa di dottorato è quello di trasparenza del processo decisionale delle macchine, attualmente molto sentito anche a livello europeo in quanto fortemente connesso con l’analisi di rischi di bias e alterazione dei risultati nei processi decisionali automatizzati.
“Questo percorso di studi – continua Brambilla – ha anticipato problematiche che oggi cominciano a sentire anche le aziende di media e grande dimensione. Tutti i temi ritenuti critici devono essere analizzati in anticipo per poter contare su un background solido di conoscenza nel momento in cui impattano anche a livello operativo sul mondo imprenditoriale.”
Le domande alle quali risponde il lavoro di Andrea Tocchetti sono quelle che un utente non esperto può avere di fronte, per esempio, al perché viene visualizzata una certa pubblicità su un social network oppure perché si riceve una determinata risposta da un chatbot con il quale si sta interagendo.
“Ogni giorno come consumatori ci confrontiamo con sistemi basati su intelligenza artificiale. – dice Brambilla –Avremo sempre più bisogno di chiarezza e trasparenza su cosa stia accadendo, senza necessariamente dover conoscere i dettagli della tecnologia che c’è dietro”.
Il bisogno al quale risponde la borsa di dottorato è quello di trasparenza del processo decisionale delle macchine, attualmente molto sentito anche a livello europeo in quanto fortemente connesso con l’analisi di rischi di bias e alterazione dei risultati nei processi decisionali automatizzati.
“Questo percorso di studi – continua Brambilla – ha anticipato problematiche che oggi cominciano a sentire anche le aziende di media e grande dimensione. Tutti i temi ritenuti critici devono essere analizzati in anticipo per poter contare su un background solido di conoscenza nel momento in cui impattano anche a livello operativo sul mondo imprenditoriale.”
Le domande alle quali risponde il lavoro di Andrea Tocchetti sono quelle che un utente non esperto può avere di fronte, per esempio, al perché viene visualizzata una certa pubblicità su un social network oppure perché si riceve una determinata risposta da un chatbot con il quale si sta interagendo.
“Ogni giorno come consumatori ci confrontiamo con sistemi basati su intelligenza artificiale. – dice Brambilla –Avremo sempre più bisogno di chiarezza e trasparenza su cosa stia accadendo, senza necessariamente dover conoscere i dettagli della tecnologia che c’è dietro”.
Quali le opportunità di questo dottorato sostenuto da Cefriel?
“Per me – afferma Andrea Tocchetti – è stata una grande opportunità tramite la quale sfidarmi su tematiche nuove, che oggi hanno un impatto importante. Ho capito in questi tre anni che per comprendere appieno questo tema occorre avere non solo una competenza ingegneristica e tecnica, ma anche psicologica, filosofica, multidisciplinare. Il confronto con le persone che lavorano in Cefriel ha guidato il mio cammino nell’ambito di ricerca e mi ha aiutato a costruire una strada che mi ha portato ai risultati ottenuti in termini di conoscenza del tema”.
Grande soddisfazione anche in Cefriel per il lavoro svolto da Andrea: “Questo è il primo dottorato che Cefriel sostiene – afferma Rosa Lancini, responsabile della ricerca in Cefriel. “C’è stato con Andrea e il suo supervisor uno scambio continuo in cui noi abbiamo potuto condividere in modo proficuo i bisogni che arrivavano sia dai progetti con i clienti Cefriel che dalla nostra attività di ricerca applicata.” Di recente Andrea ha tenuto anche un focus meeting aperto a tutte le persone di Cefriel in cui ha condiviso i risultati più importanti della sua attività di ricerca.
Grande soddisfazione anche in Cefriel per il lavoro svolto da Andrea: “Questo è il primo dottorato che Cefriel sostiene – afferma Rosa Lancini, responsabile della ricerca in Cefriel. “C’è stato con Andrea e il suo supervisor uno scambio continuo in cui noi abbiamo potuto condividere in modo proficuo i bisogni che arrivavano sia dai progetti con i clienti Cefriel che dalla nostra attività di ricerca applicata.” Di recente Andrea ha tenuto anche un focus meeting aperto a tutte le persone di Cefriel in cui ha condiviso i risultati più importanti della sua attività di ricerca.
Quali gli aspetti più interessanti emersi dal lavoro di ricerca?
“Credo che la parte più interessante del mio lavoro – afferma Andrea – sia proprio quella di studiare l’impatto dello “human in the loop”, ovvero la comprensione delle necessità e del ruolo dell’utente rispetto al machine learning e ai processi automatizzati. Un aspetto che impatta anche su quanto stabilito dal GDPR, che sottolinea la necessità di fornire dettagli sull’utilizzo di dati degli utenti processati da algoritmi di machine learning che non prevedono supervisione umana. Le motivazioni principali per le quali lavorare sulla trasparenza degli algoritmi è fondamentale possono essere riassunte nella necessità di creare fiducia negli utenti finali che usano un sistema che impiega AI e nel di migliorare il funzionamento di un algoritmo, comprendendone il funzionamento e andando a intercettare eventuali comportamenti scorretti o viziati da bias”.