Tecniche Post Hoc con Alberi Decisionali per Interpretare Black Box ​

L’utilizzo di modelli di machine learning molto avanzati comporta un miglioramento nella capacità predittiva di questi a discapito dell’interpretabilità e trasparenza rispetto alla previsione fornita. Per questa scarsa capacità nel riuscire a fornire una spiegazione rispetto a una certa previsione tali modelli sono anche definiti black box. L’obiettivo di questa tesi è quello di mostrare, attraverso l’utilizzo di tecniche post hoc, delle possibili spiegazioni rispetto alle decisioni assunte dalle black box. Le tecniche post-hoc generalmente utilizzate a questo scopo sono di quattro tipologie differenti: in questo lavoro, per ogni tipologia esplicativa, verrà utilizzata una specifica tecnica post-hoc che, a sua volta, fornirà delle spiegazioni che potranno risultare maggiormente utili a seconda dell’utente finale che riceverà la spiegazione. Le quattro tipologie sono: quella dell’Importanza dei Predittori, quella delle Spiegazioni basate su Regole Decisionali, quella dei Prototipi e quella dei Controfattuali. Per l’ Importanza dei Predittori verrà utilizzato l’algoritmo TreeSHAP di Lundberg e al. (2020), per le Regole Decisionali l’algoritmo GLocalX di Guidotti e al. (2021) o Anchor di Ribeiro e al. (2018), per i Prototipi il metodo sviluppato da Blanco-Justicia e al. (2020), che combina l’algoritmo MDAV con alberi decisionali e infine, per la tipologia dei Controfattuali l’algoritmo DiCE di Mothilal e al. (2020). ​