SPOKE 3: RESILIENT AI – UNIVERSITÀ DI NAPOLI “FEDERICO II”

AFFILIATI: Consiglio Nazionale delle Ricerche, Campus Bio-Medico

Coordinatore Sergio Di Martino (Università di Napoli “Federico II”)

co-PI: Massimo Esposito (CNR)

Le sfide poste ai sistemi di intelligenza artificiale condividono un aspetto cruciale: l’uso di algoritmi di machine learning addestrato con dati del mondo reale che sono non strutturati, rumorosi, spesso incompleti/in numero limitato e parzialmente incoerente. Il raggiungimento di prestazioni adeguate dei sistemi ottenuti in questi campi non può essere separato dallo studio di specifiche metodologie di base dell’IA che mirano all’elaborazione dei dati in-the-wild, rendendo le prestazioni dell’IA resilienti e robuste in questi contesti ambiziosi.

Le attività di ricerca da svolgere comprenderanno:

  • la definizione di opportune tecniche di data augmentation, quando i dati sono incompleti o meno adeguatamente rappresentativi, analizzando, monitorando e migliorando l’equità degli algoritmi di machine learning;
  • la creazione di algoritmi sia resilienti che robusti rispetto a possibili attacchi esterni (anche derivanti dall’addestramento con dati “dannosi”), dovendo quindi anche definire come misurare queste caratteristiche in modo appropriato;
  • l’indagine delle implicazioni relative alla progettazione, validazione e verifica, evoluzione e funzionamento del software che implementa algoritmi di apprendimento automatico o profondo, quando devono lavorare in-the-wild.

Presentazione Spoke 3

Altri spoke