SEC4AI4SEC: l’Intelligenza Artificiale a supporto della Cybersecurity

Progetto di ricerca mirato a realizzare soluzioni integrate utili a migliorare la sicurezza dei sistemi AI

Il progetto SEC4AI4SEC, finanziato dall'Unione Europea, unisce partner da sei paesi europei, tra cui Cefriel, per migliorare la cybersecurity delle tecnologie AI.


Il progetto si basa sul principio che “l’AI migliora la sicurezza e la sicurezza migliora l’AI” e ha l’obiettivo di sviluppare tecniche per proteggere componenti AI vulnerabili, inclusi dati, modelli software, piattaforme di esecuzione e strumenti di sviluppo.

Contattaci
Cliente

Unione Europea

Cybersecurity

Tipologia

Ricerca

Know-how

Cybersecurity

Servizio

Progettazione e realizzazione di servizi e prodotti digitali

Referente

Domenico Orlando

LO SCENARIO

Bisogno

Sviluppare tecniche di sicurezza informatica per l’analisi di componenti vulnerabili, inclusi quelli abilitati dall’Intelligenza Artificiale, che rappresentano una nuova frontiera strategica da proteggere.

Migliorare i metodi di sicurezza per i sistemi aumentati dall’IA, supportandone, se possibile, la certificazione di sicurezza.

Affrontare le sfide riferite alla estensione della superficie di attacco legata ai componenti AI, alla difficoltà di testare e proteggere questi componenti con strumenti tradizionali e alla necessità di garantire la robustezza e l’equità dei nuovi modelli.

 

Soluzione

Il progetto ha sviluppato soluzioni integrate per migliorare la sicurezza dei sistemi di Intelligenza Artificiale. Un sistema integrato ha previsto un piano di valutazione per tre casi d’uso industriali (rete 5G, aviazione e componenti software di terze parti) per testare la robustezza dei sistemi AI. Sono stati creati modelli di sviluppo e linee guida architetturali, un benchmark di dataset corrotti e un repository di strumenti per attacchi.

La valutazione di modelli affidabili ha incluso una tassonomia degli attacchi a livello di modello e sistema, con tecniche di spiegabilità ed equità. Cefriel ha stabilito solide basi per la comunicazione e dissemination dei risultati, ottenendo un coinvolgimento positivo e pianificando di trasformare la consapevolezza in partecipazione attiva per migliorare la Cybersecurity con soluzioni AI.

KEYWORD DI PROGETTO
Cybersecurity
Artificial Intelligence
Vulnerability Assessment
Machine Learning
Human-in-the-loop
RISULTATI

L'impatto

Sistema integrato


Il progetto ha sviluppato un toolflow integrato per valutare la sicurezza dei sistemi AI in tre piloti industriali: rete 5G, aviazione e componenti software di terze parti

Nuove metodologie di cybersecurity


Sono state sviluppate metodologie per la sicurezza dei prodotti AI, inclusi modelli di sviluppo e linee guida architetturali. Queste metodologie aiutano a garantire che i sistemi AI siano sicuri e conformi agli standard europei di resilienza cyber

Migliore valutazione automatica della robustezza dei modelli AI


È stato creato un benchmark di dataset corrotti e un repository di strumenti per attacchi che migliora la valutazione automatica della robustezza dei modelli AI

Maggiore affidabilità e trasparenza dei modelli AI


Il progetto ha sviluppato una tassonomia degli attacchi a livello di modello e sistema, con tecniche di spiegabilità e equità utili a rendere i modelli AI più affidabili e trasparenti

Progetti Correlati


sabiana-cefriel
Cybersecurity

Sabiana: sicurezza digitale per prodotti connessi


Definizione di un percorso strutturato per rafforzare la cybersecurity e la protezione dei sistemi di climatizzazione connessi e della relativa supply chain

cefriel_illimity
Cybersecurity

Illimity: lo Human Risk Model per misurare il rischio cyber legato alle persone


Come supportare la presa di decisione nella gestione del rischio cyber associabile all’elemento umano

cefriel-cybersecurity
Cybersecurity

Cybersecurity: l’elemento umano diventa punto di forza


Come le persone possono tutelare la sicurezza informatica dell’azienda

Insights correlati


Cefriel_progetto_Cyrus_cybersecurity
Insight/News

Protezione aziendale e formazione: il progetto CYRUS per la Cybersecurity

Un sistema di formazione innovativo per contrastare i crescenti rischi cyber nelle aziende, con particolare attenzione ai settori dei trasporti e del manifatturiero.

Cybersecurity

Leggi
white-paper-cybersecurity-cefriel
Insight/Whitepaper

Cybersicurezza: come coinvolgere le persone nella mitigazione dei rischi?

Presentato il white paper Cefriel “Sicurezza informatica ed elemento umano”, un approfondimento su come analizzare e comprendere le correlazioni tra elemento umano e sicurezza informatica per un nuovo approccio alla mitigazione del rischio

Cybersecurity

Leggi
Cefriel_progetto_Cyrus_cybersecurity
Insight/News

Protezione aziendale e formazione: il progetto CYRUS per la Cybersecurity

Un sistema di formazione innovativo per contrastare i crescenti rischi cyber nelle aziende, con particolare attenzione ai settori dei trasporti e del manifatturiero.

Cybersecurity

Leggi
white-paper-cybersecurity-cefriel
Insight/Whitepaper

Cybersicurezza: come coinvolgere le persone nella mitigazione dei rischi?

Presentato il white paper Cefriel “Sicurezza informatica ed elemento umano”, un approfondimento su come analizzare e comprendere le correlazioni tra elemento umano e sicurezza informatica per un nuovo approccio alla mitigazione del rischio

Cybersecurity

Leggi

Contattaci
Pianifica con noi il primo passo verso il futuro della tua impresa

Sito - Contatti

Nome*(Obbligatorio)
Autorizzo Cefriel al trattamento dei miei dati ( privacy policy ) per ricevere informazioni promozionali su servizi, eventi e prodotti.(Obbligatorio)
Autorizzo Cefriel al trattamento dei miei dati per ricevere informazioni promozionali su servizi, eventi e prodotti, inclusa la newsletter.*
Autorizzo Cefriel al trattamento dei miei dati per finalità di profilazione.(Obbligatorio)
Autorizzo Cefriel al trattamento dei miei dati per finalità di profilazione. *
Autorizzo Cefriel al trattamento dei miei dati per finalità di indagine.(Obbligatorio)
Autorizzo Cefriel al trattamento dei miei dati per finalità di indagine. *
Questo campo è nascosto quando si visualizza il modulo

Dichiaro di aver preso visione della privacy policy.

TUTTI I PROGETTI