L’ACPR se lance sur l’équité algorithmique / Une consultation publique voit le jour

Un dialogue qui semble porter ses fruits. Les discussions avec la Place viennent de mener l’ACPR à ouvrir une consultation sur l’équité algorithmique dans le secteur financier. Celle-ci doit lui permettre d’élaborer une méthodologie propre d’évaluation des systèmes d'intelligence artificielle (IA) du secteur financier, afin de construire un référentiel commun aux établissements et à l’autorité de supervision.

Cette phase de réflexion, désormais entamée, se refermera le 30 septembre 2026 et l’ensemble des acteurs du secteur financier est invité à s’exprimer. Plus les répondants seront nombreux et plus des pratiques convergentes sont à même d’apparaître. L’objectif assumé étant de parvenir à une utilisation responsable de l’IA dans le secteur financier. Un document a été mis à disposition en ce sens et présente tant le cadre juridique applicable, que les principales notions et métriques d’équité ou encore les pistes permettant d’intégrer les enjeux dans les pratiques des différents établissements.

Eclaircir

Il y est également question des méthodes d’identification, de mesure et de correction des biais. L’ACPR présentant l’équité algorithmique tel que l’ensemble des « principes et méthodes visant à concevoir et encadrer des systèmes afin de prévenir des inégalités injustifiées, notamment liées à des caractéristiques personnelles dites ‘sensibles’». Le secteur financier serait d’autant plus concerné qu’il est supposé parvenir à concilier « concilier une différenciation des tarifs fondée sur le niveau du risque – condition de la soutenabilité économique des modèles – avec la prévention de traitements injustes ou discriminatoires des personnes ».

Il faut dire que l’autorité avertit que les méthodes d’évaluation des biais conçues pour les modèles prédictifs classiques « ne se transposent pas directement » aux nouveaux systèmes accompagnant l’essor de l’IA générative. Les méthodes d’évaluation de l’équité d’un système d’IA générative auraient déjà émergé et combineraient trois couches (couche représentationnelle, couche comportementale, couche allocative) indissociables les unes des autres.

Omniscience

Le document publié expose qu’une approche longtemps dominante appelée « équité par l’ignorance », n’a pas attendu l’arrivée de l’IA pour mourir à petit feu. Puisqu’elle a peu à peu été rendue « obsolète par la grande dimensionnalité des jeux de données, qui se traduit par la forte colinéarité des variables protégées avec d’autres non protégées ». Les algorithmes sont d’ores et déjà à même toute une série de variables de substitution qui leur permettent « de ‘reconstituer’l’information contenue dans les variables protégées ».

L’origine ethnique serait ainsi corrélée tant au code postal, qu’au type de téléphone ou encore aux habitudes de dépenses. La discrimination est vue comme pouvant se manifester tel un effet collatéral du traitement de données massives. Ce qui ouvre la porte non pas uniquement à une interdiction totale de la collecte des variables dites sensibles, mais à un usage visant à lutter contre ces différentes discriminations.