L’adozione dell’Intelligenza Artificiale è in costante crescita, specialmente in settori ad alta criticità come la finanza, l’industria e le infrastrutture critiche. Tuttavia, l’espansione dell’AI porta con sé nuove vulnerabilità, con i modelli AI che diventano bersagli per attacchi informatici in grado di comprometterne l’integrità e l’affidabilità delle organizzazioni.

Per affrontare questa sfida, il progetto SEC4AI4SEC sta sviluppando soluzioni concrete per rafforzare la sicurezza dell’AI e ridurre i rischi legati ai cyberattacchi. Tra i risultati principali, il progetto ha realizzato un sistema integrato di strumenti per valutare la sicurezza dei sistemi AI per tre casi d’uso industriali: la rete 5G, l’aviazione e le componenti software di terze parti. Sono state, inoltre, definite metodologie avanzate di cybersecurity, con linee guida e modelli di sviluppo per garantire la conformità agli standard europei di resilienza digitale.

L’obiettivo finale del progetto è quello di migliorare i metodi di sicurezza per i sistemi aumentati dall’IA, supportandone, se possibile, la certificazione di sicurezza. Per fare tutto questo, SEC4AI4SEC coinvolge un ampio partenariato internazionale, con università, centri di ricerca, aziende e PMI di sei Paesi europei: Italia, Germania, Francia, Ungheria, Paesi Bassi e Svizzera.