SEC4AI4SEC: l’Intelligenza Artificiale a supporto della Cybersecurity
Progetto di ricerca mirato a realizzare soluzioni integrate utili a migliorare la sicurezza dei sistemi AI
Il progetto SEC4AI4SEC, finanziato dall'Unione Europea, unisce partner da sei paesi europei, tra cui Cefriel, per migliorare la cybersecurity delle tecnologie AI.
Il progetto si basa sul principio che “l’AI migliora la sicurezza e la sicurezza migliora l’AI” e ha l’obiettivo di sviluppare tecniche per proteggere componenti AI vulnerabili, inclusi dati, modelli software, piattaforme di esecuzione e strumenti di sviluppo.
Unione Europea
Cybersecurity
Domenico Orlando
Bisogno
Sviluppare tecniche di sicurezza informatica per l’analisi di componenti vulnerabili, inclusi quelli abilitati dall’Intelligenza Artificiale, che rappresentano una nuova frontiera strategica da proteggere.
Migliorare i metodi di sicurezza per i sistemi aumentati dall’IA, supportandone, se possibile, la certificazione di sicurezza.
Affrontare le sfide riferite alla estensione della superficie di attacco legata ai componenti AI, alla difficoltà di testare e proteggere questi componenti con strumenti tradizionali e alla necessità di garantire la robustezza e l’equità dei nuovi modelli.
Soluzione
Il progetto ha sviluppato soluzioni integrate per migliorare la sicurezza dei sistemi di Intelligenza Artificiale. Un sistema integrato ha previsto un piano di valutazione per tre casi d’uso industriali (rete 5G, aviazione e componenti software di terze parti) per testare la robustezza dei sistemi AI. Sono stati creati modelli di sviluppo e linee guida architetturali, un benchmark di dataset corrotti e un repository di strumenti per attacchi.
La valutazione di modelli affidabili ha incluso una tassonomia degli attacchi a livello di modello e sistema, con tecniche di spiegabilità ed equità. Cefriel ha stabilito solide basi per la comunicazione e dissemination dei risultati, ottenendo un coinvolgimento positivo e pianificando di trasformare la consapevolezza in partecipazione attiva per migliorare la Cybersecurity con soluzioni AI.
L'impatto
Sistema integrato
Il progetto ha sviluppato un toolflow integrato per valutare la sicurezza dei sistemi AI in tre piloti industriali: rete 5G, aviazione e componenti software di terze parti
Nuove metodologie di cybersecurity
Sono state sviluppate metodologie per la sicurezza dei prodotti AI, inclusi modelli di sviluppo e linee guida architetturali. Queste metodologie aiutano a garantire che i sistemi AI siano sicuri e conformi agli standard europei di resilienza cyber
Migliore valutazione automatica della robustezza dei modelli AI
È stato creato un benchmark di dataset corrotti e un repository di strumenti per attacchi che migliora la valutazione automatica della robustezza dei modelli AI
Maggiore affidabilità e trasparenza dei modelli AI
Il progetto ha sviluppato una tassonomia degli attacchi a livello di modello e sistema, con tecniche di spiegabilità e equità utili a rendere i modelli AI più affidabili e trasparenti
Progetti Correlati
Insights correlati
Protezione aziendale e formazione: il progetto CYRUS per la Cybersecurity
Un sistema di formazione innovativo per contrastare i crescenti rischi cyber nelle aziende, con particolare attenzione ai settori dei trasporti e del manifatturiero.
Cybersecurity
Leggi
Cybersicurezza: come coinvolgere le persone nella mitigazione dei rischi?
Presentato il white paper Cefriel “Sicurezza informatica ed elemento umano”, un approfondimento su come analizzare e comprendere le correlazioni tra elemento umano e sicurezza informatica per un nuovo approccio alla mitigazione del rischio
Cybersecurity
Leggi
Protezione aziendale e formazione: il progetto CYRUS per la Cybersecurity
Un sistema di formazione innovativo per contrastare i crescenti rischi cyber nelle aziende, con particolare attenzione ai settori dei trasporti e del manifatturiero.
Cybersecurity
Leggi
Cybersicurezza: come coinvolgere le persone nella mitigazione dei rischi?
Presentato il white paper Cefriel “Sicurezza informatica ed elemento umano”, un approfondimento su come analizzare e comprendere le correlazioni tra elemento umano e sicurezza informatica per un nuovo approccio alla mitigazione del rischio
Cybersecurity
Leggi