Comment pouvez-vous déterminer si un réseau neuronal est équitable pour tous les groupes ?

1 Définitions de l’équité

Il n’y a pas d’accord universel sur ce qui constitue l’équité dans l’apprentissage automatique, mais il existe des définitions communes qui capturent différents aspects du problème. Par exemple, l’une des définitions est la parité démographique, ce qui signifie que les résultats d’un réseau neuronal sont indépendants des attributs protégés des groupes, tels que la race, le sexe ou l’âge. Une autre définition est l’égalité des chances, ce qui signifie que les taux de vrais positifs d’un réseau neuronal sont égaux dans tous les groupes, ou que les groupes ont des chances égales d’obtenir des résultats favorables. Une troisième définition est l’égalisation des probabilités, ce qui signifie que les taux de vrais positifs et de faux positifs d’un réseau neuronal sont égaux dans tous les groupes, ou que les groupes ont des chances égales d’obtenir des résultats précis.

2 Mesures d’équité

Pour mesurer dans quelle mesure un réseau neuronal répond à une définition d’équité, vous devez utiliser certaines mesures d’équité. Il s’agit d’indicateurs numériques qui comparent les résultats d’un réseau neuronal pour différents groupes et quantifient le degré de disparité ou de discrimination. Par exemple, une mesure de l’équité est la différence de parité statistique, qui mesure la différence dans les probabilités de résultats positifs entre les groupes. Une autre mesure de l’équité est la différence d’égalité des chances, qui mesure la différence dans les taux de vrais positifs entre les groupes. Une troisième mesure d’équité est la différence de cotes moyennes, qui mesure la moyenne des différences entre les taux de vrais positifs et de faux positifs entre les groupes.

3 Techniques d’équité

Pour atteindre l’équité dans un réseau neuronal, vous devez utiliser certaines techniques d’équité. Il s’agit de méthodes qui modifient les données, le modèle ou les prédictions d’un réseau de neurones pour réduire ou éliminer les biais. Par exemple, une technique d’équité est le prétraitement, ce qui signifie que vous transformez les données avant de les transmettre au réseau neuronal, par exemple en supprimant, en masquant ou en équilibrant les attributs protégés. Une autre technique d’équité est l’in-processing, ce qui signifie que vous incorporez des contraintes ou des objectifs d’équité dans le réseau neuronal pendant l’entraînement, par exemple en pénalisant ou en optimisant les métriques d’équité. Une troisième technique d’équité est le post-traitement, ce qui signifie que vous ajustez les prédictions du réseau neuronal après l’entraînement, par exemple en modifiant les seuils ou en appliquant un calibrage.