IA spiegabile e apprendimento automatico interpretabile

- La tendenza per molti anni è stata quella di costruire modelli sempre più complessi. La regola generale è che con maggiore complessità si ottiene una maggiore precisione ma che si sacrifica l'interpretabilità. La mancanza di interpretabilità è un vero problema se si lavora in un ambiente normativo. Ma sempre più spesso nessuno vuole sacrificare la maggiore precisione. Quindi i data scientist stanno cercando di trovare modi per avere sia accuratezza che trasparenza. Tuttavia, non esiste una bacchetta magica. Quindi ci sono sempre dei compromessi. Ci sono termini leggermente diversi in uso per questo. AI spiegabile, spesso solo XAI, e machine learning interpretabile o IML. Quando qualcuno usa il termine apprendimento automatico interpretabile di solito si riferisce a un tentativo di costruire un modello sufficientemente complesso che sia comunque interpretabile. XAI è sottilmente diverso, in cui si abbraccia il modello complesso ma si costruisce un altro modello su di esso, che…