L’intelligenza artificiale generativa è ormai capace di creare immagini, video e contenuti sempre più realistici. Ma quanto ne comprendiamo davvero il funzionamento? E soprattutto: è possibile governarne i meccanismi? A queste domande prova a rispondere il nuovo progetto di ricerca “Controllo dell’intelligenza artificiale generativa (Ctrl-GAI)”, guidato da Vittorio Murino, docente del dipartimento di Informatica dell’Università di Verona. Il progetto è tra i vincitori del nuovo bando del Fondo italiano per la scienza (Fis 3) ed è finanziato con quasi 2,3 milioni di euro per una durata di cinque anni.
Professore Murino, quali sono gli obiettivi della sua ricerca?
Il progetto Ctrl-GAI, acronimo di Controlling generative artificial intelligence, mira a studiare i modelli generativi profondi e i meccanismi che ne governano il controllo nella produzione dei dati. L’obiettivo è analizzare le proprietà dei dati generati, con particolare attenzione al dominio visivo, per affrontare una serie di compiti applicativi successivi (downstream tasks).
Per raggiungere questo obiettivo generale abbiamo definito diversi filoni di ricerca, ciascuno dedicato a un aspetto specifico dei modelli di generazione dei dati. In una prima fase ci concentreremo sulla generazione di dati sintetici per affrontare alcune sfide fondamentali del machine learning, come il bias nei dati, l’adattamento tra i domini e la generalizzazione, lo sbilanciamento tra le classi e l’apprendimento continuo. Si tratta di problemi tra loro strettamente interconnessi, che influenzano in modo decisivo l’addestramento dei modelli e la loro capacità di generalizzare.
Un altro aspetto centrale del progetto riguarda l’analisi del potenziale utilizzo malevolo dei modelli generativi, attraverso lo studio delle caratteristiche distintive degli spazi di rappresentazione dei dati sintetici. La ricerca si estenderà inoltre alla generazione di dati multimodali, includendo tipologie diverse dalle sole immagini RGB.
Dal punto di vista della ricerca scientifica, indagheremo anche l’integrazione dei modelli generativi profondi con le simulazioni fisiche nell’ambito di scenari fisici o chimici o ambientali in genere, un ambito ancora poco esplorato nella letteratura. Infine, amplieremo ulteriormente il campo di studio includendo la generazione di video.
Nel corso del progetto applicheremo i risultati ottenuti a domini di particolare rilevanza, come quello biomedico e quello legato ai cambiamenti climatici. Se efficaci, questi studi potrebbero avere un impatto trasformativo sia in ambito industriale sia in numerosi altri contesti applicativi.
Che cosa rappresenta per lei ottenere questo finanziamento?
La possibilità di svolgere la mia ricerca con un respiro più ampio e su un orizzonte di lungo periodo, disponendo delle risorse necessarie per costruire quella “massa critica”, sia tecnologica sia umana, indispensabile per affrontare in modo serio e ambizioso le sfide della ricerca di cui mi occupo.
Alla luce della sua esperienza, se dovesse dare un solo consiglio a chi sogna di fare ricerca, quale sarebbe?
Perseguire la propria ricerca ovunque ci siano le condizioni per farla in modo concreto ed efficace, senza porsi confini geografici: la ricerca è, per sua natura, internazionale.
SM
