L'utilisation de la big data dans le secteur des banques de détail dites universelles - Des biais de décision interrogeant sur la fiabilité des résultats

Thèmes abordés

Big data Traitement de données, big data, banque de détail, fiabilité, IA Intelligence artificielle, prise de décision, scoring

Résumé du document

L'IA se présente comme une nouvelle technologie introduite sur le marché il y a seulement une soixantaine d'années (Zouinar, 2020). Bien que son développement soit assez précoce, elle est considérée comme une option viable pour la prise de décision dans des domaines bancaires. En principe, cette technologie est considérée comme un outil permettant de neutraliser la subjectivité associée à la prise de décision humaine en éliminant les traitements discriminatoires et les préjugés à l'égard de certaines personnes ou de certains groupes. Toutefois, les systèmes utilisant l'IA peuvent avoir des effets beaucoup plus étendus et nuire à un plus grand nombre de personnes par l'absence des mécanismes de contrôle social et d'autolimitation qui sont présents dans le comportement humain (Berlinski et Strauch, 2020)

Extraits

[...] L'utilisation de la big data dans le secteur des banques de détail dites universelles - Des biais de décision interrogeant sur la fiabilité des résultats L'IA se présente comme une nouvelle technologie introduite sur le marché il y a seulement une soixantaine d'années (Zouinar, 2020)1. Bien que son développement soit assez précoce, elle est considérée comme une option viable pour la prise de décision dans des domaines bancaires. En principe, cette technologie est considérée comme un outil permettant de neutraliser la subjectivité associée à la prise de décision humaine en éliminant les traitements discriminatoires et les préjugés à l'égard de certaines personnes ou de certains groupes. [...]

[...] Le risque est d'autant plus grand que les bases de données sont riches en prédicteurs et que les algorithmes d'IA disposent de nombreux moyens de les combiner pour identifier les interactions entre un grand nombre de variables. [...]

[...] Face à une solution d'IA qui fonde son efficacité sur l'optimisation de ses résultats - résultats qui ne peuvent être obtenus que par un apprentissage basé sur le plus grand volume possible de données - la tentation pour les entreprises de collecter un volume inutile de données ou de conserver les données plus longtemps que nécessaire peut être irrésistible (Damiano, 2019)9 Jusqu'à présent, il est possible de penser qu'il ne s'agit que de problèmes liés à la simple programmation d'un système, sans autre forme de procès. Cependant, il existe certaines variations dans l'entrée des données, découlant de ce que nous appellerons les biais algorithmiques, qui peuvent interférer de manière dévastatrice avec la qualité des prédictions. Ces biais se réfèrent à des erreurs statistiques, structurelles, cognitives et sociales qui entraînent des désavantages éthiquement répréhensibles car ils conduisent à des résultats discriminatoires à l'égard d'individus ou de groupes ou produisent systématiquement des avantages pour certains par rapport à d'autres. [...]

[...] En outre, l'absence de variables discriminatoires dans les données sources ne garantit pas complètement l'absence de biais dans les modèles de notation basés sur l'IA. En effet, les biais peuvent se glisser plus subtilement, de manière indirecte, c'est-à-dire à travers d'autres variables qui donnent lieu à ce que l'on appelle une "discrimination par procuration" (Prince et Schwarcz, 2019)11. Ce terme décrit des situations où la discrimination est causée par l'interaction ou la triangulation de plusieurs variables qui ne semblent pas être discriminatoires en elles-mêmes. [...]

[...] Il détermine les ensembles de données, les variables et les règles dont les algorithmes s'inspirent pour faire des prédictions. Ces deux étapes peuvent introduire des biais qui s'intègrent dans les systèmes d'IA (Smith et Rustagi, 2021) Les systèmes d'IA sont biaisés en raison du fait qu'ils sont des créations humaines. Les personnes qui prennent les décisions concernant les systèmes d'IA et celles qui font partie de l'équipe chargée de développer les systèmes d'IA influencent leur développement. Et sans surprise, il existe un énorme fossé entre les hommes et les femmes : Seuls des professionnels dans les domaines de l'IA et de la science des données sont des femmes - et elles sont plus susceptibles d'occuper des emplois associés à un statut moindre (Smith et Rustagi, 2021). [...]