Nasce il sAIfer Lab, laboratorio congiunto per la sicurezza dei sistemi di Intelligenza Artificiale

Lo SmartLab dell’Università di Genova e il PRA Lab dell’Università di Cagliari uniscono le forze. 
Più di 60 ricercatori, oltre 800 pubblicazioni e oltre 100 progetti di R&S in quasi 30 anni. Una nuova era per la ricerca sulla sicurezza dei sistemi di Machine Learning e di Intelligenza Artificiale.

Nel mese di settembre 2024 è stato ufficialmente lanciato il sito web del sAIfer Lab - Joint Lab on Safety and Security of AI (https://www.saiferlab.ai), laboratorio virtuale fondato per rafforzare ed espandere le attività dei due partner fondatori, lo SmartLab (DIBRIS - Dipartimento di Informatica, Bioingegneria, Robotica e Ingegneria dei Sistemi - UNIGE) e il PRA Lab (DIEE- Dipartimento di Ingegneria Elettrica ed Elettronica - UNICA), nelle aree strategiche di Intelligenza Artificiale e Cybersecurity, e creare valore aggiunto per tutti i partner e gli stakeholder dell'Università degli Studi di Genova e dell'Università degli Studi di Cagliari.

Lo SmartLab dell'Università di Genova è stato fondato nel 2001 dal Prof. Anguita come struttura interdisciplinare dedicata alla promozione di ricerca e innovazione all'avanguardia nell'integrazione di sistemi e tecnologie intelligenti per migliorare vari aspetti della società, dall'assistenza sanitaria all'ingegneria. Il team dello SmartLab è attualmente guidato da 3 lab directors: il prof. Davide Anguita, il prof. Luca Oneto e il prof. Fabio Roli. Comprende inoltre oltre 15 ricercatori che lavorano come assistant professors, studenti di dottorato, post-dottorato, ricercatori associati e visiting researchers. 

Il laboratorio Pattern Recognition and Applications (PRA) è stato fondato nel 1996 per studiare e sviluppare sistemi sicuri di Pattern Recognition per applicazioni di sicurezza volte a risolvere problemi pratici del mondo fisico e digitale. È attivo da quasi 30 anni presso l'Università di Cagliari. Il team del PRA Lab, guidato dal prof. Fabio Roli, docente con doppia affiliazione nei due atenei di Genova e Cagliari, è composto da 2 professori ordinari (prof. Giorgio Giacinto, prof. Battista Biggio) e 3 professori associati (prof. Luca Didaci, prof. Giorgio Fumera, prof. Gian Luca Marcialis), 9 assistant professors e oltre 25 ricercatori post-dottorato, studenti di dottorato e ricercatori associati. 

I Proff. Anguita, Oneto e Roli hanno fortemente creduto nelle sinergie tra i due esistenti lab inaugurando di fatto una collaborazione già nel2021, poi suggellata dalla nascita del sAIfer Lab - Joint Lab on Safety and Security of AI, nel 2024.

Il laboratorio congiunto nasce da una precisa esigenza: l’intelligenza artificiale (IA) offre una pluralità di vantaggi per rafforzare la cybersecurity, ma anche tanti rischi per la sicurezza cibernetica delle infrastrutture critiche e quindi potrebbe rappresentare un problema per la sicurezza nazionale. La ricerca portata avanti al sAIfer Lab si inserisce nel cosiddetto quadrante di Pasteur, coniugando la ricerca di una comprensione dei fondamenti dei problemi scientifici con le applicazioni pratiche a favore della società nei settori cybersecurity, biometria, industria. 

Il Lab si concentra in particolar modo sullo sviluppo di sistemi di Intelligenza Artificiale sicuri e protetti che garantiscano che non si verifichino danni intenzionali o involontari a persone, sistemi IT, società e infrastrutture critiche. I potenziali danni involontari sono quelli dovuti alla mancanza di sicurezza dei sistemi di Intelligenza Artificiale in situazioni impreviste. I danni intenzionali sono quelli dovuti alla mancanza di sicurezza dei sistemi di Intelligenza Artificiale contro gli attacchi informatici. 

Tanti i temi di ricerca studiati al sAIfer Lab, tra gli altri:

• Ricerca sulla sicurezza degli algoritmi di Machine Learning (ML) e valutazione delle vulnerabilità dei sistemi di Intelligenza Artificiale (pionieristici studi sull’Adversarial Machine Learning).

• Utilizzo di sistemi di IA per migliorare la cybersicurezza.

• Valutazione della sicurezza e dell’affidabilità dei cosiddetti Large Language Models (che comprendono i chatbot divenuti recentemente molto famosi).

• Valutazione dell’affidabilità dei sistemi di AI nell’industria.

• Ricerca teorica basata sulla Statistical Learning Theory per comprendere meglio i meccanismi alla base del funzionamento degli algoritmi.

• Sicurezza biometrica attraverso lo studio di metodologie per rendere affidabile un sistema di autenticazione biometrico.

• Spoofing, Deepfake e Morphing Detection.

• Analisi comportamentale che sfrutta i modelli unici inerenti i comportamenti umani individuali e i segnali biomedici per autenticare le identità, monitorare alcune attività e rilevare anomalie comportamentali.

• Potenziamento dei processi di manutenzione industriale con analisi prescrittive e ottimizzazione dei trasporti nei settori ferroviario, aereo e marittimo.

• Supporto alle forze dell'ordine nel preservare la sicurezza delle persone nei luoghi pubblici attraverso lo sviluppo di sistemi di Videosorveglianza Intelligente.

• Cybersecurity e protezione delle tecnologie dell'informazione da attacchi dannosi e accessi non autorizzati: sicurezza del web e di rete, rilevamento di malware e sicurezza del software.

Link utili e contatti:

Sito web ufficiale del sAIferlab: https://www.saiferlab.ai 

LinkedIn: https://www.linkedin.com/company/saifer-lab

Facebook: https://www.facebook.com/sAIferLab

X/Twitter: https://x.com/sAIferLab

Prof. Davide Anguita: davide.anguita@unige.it

Prof. Fabio Roli: fabio.roli@unige.it, fabio.roli@unica.it

Dott. Matteo Mauri, Dissemination & Communication manager: matteo.mauri@unica.it