Le tecniche di intelligenza artificiale sono attualmente impiegate nel mondo reale, tuttavia tali applicazioni sono spesso limitate a sistemi considerati a basso rischio come motori di ricerca e sistemi di raccomandazione. I recenti progressi negli strumenti di intelligenza artificiale mostrano il loro potenziale per essere utilizzati in una varietà di altre applicazioni, inclusi sistemi critici per la sicurezza come veicoli autonomi e processi industriali ad alto costo come centrali elettriche, esperimenti scientifici, gestione dei dati della pubblica amministrazione. L’implementazione di sistemi di intelligenza artificiale in tali applicazioni ad alto rischio richiede algoritmi e strumenti per soddisfare requisiti di alta qualità.

Questa linea di ricerca mira a caratterizzare le varie qualità di interesse nei sistemi basati sull’IA, la loro misurabilità, valutazione e certificabilità, attraverso tutta l’IA, compresa la percezione, l’attuazione, l’apprendimento, la modellazione, il ragionamento e la pianificazione.