Éviter un algorithme sexiste, pas simple

i
Vers des figures féminines et masculines du Nouveau Testament

Éviter un algorithme sexiste, pas simple

6 novembre 2018

Amazon a fait la cuisante expérience de confier à un algorithme le prétri des CV des candidats à des postes de travail. Résultat, les profils de femmes sont plus ou moins systématiquement écartés. Les spécialistes s'interrogent : pourquoi ces résultats tendancieux ? Plusieurs hypothèses circulent, à commencer par celle de la situation actuelle de cette entreprise où plus de 60% des employés sont des hommes. Cette domination aurait des conséquences directes dans la mise au point de l'algorithme qui a travaillé  à partir des CV des employés actuels.

Laisser la question du genre dans les mains des utilisateurs 

Je laisserai aux spécialistes le soin de reprendre leur outil, en concluant qu'il est risqué laisser à un algorithme le soin de gérer la question du genre. Comment faire pour éviter un algorithme sexiste ? Doit-il être programmé par des hommes et des femmes, à parts égales ? Doit-il plutôt y avoir un algorithme pour des hommes et un autre pour des femmes, ce qui laisse la question du genre dans les mains des utilisateurs et non dans celle des concepteurs ? Avec la théologienne Emmanuelle Jacquat, nous sommes trouvés exactement devant cette question en créant un logiciel sur le Béatitudes qui invite les ados à se trouver des modèles dans les figures de la Bible. Nous avions deux options. Nous pouvions créer une version qui détermine elle-même si le jeune se voit offrir Marie comme figure repère ou plutôt Nicodème. Notre algorithme se voyait alors confier la tâche d'orienter le jeune vers une figure masculine ou féminine. Autre possibilité, nous pouvions créer deux versions du logiciel, l'une pour des utilisatrices, l'autre pour des utilisateurs. Laissant du coup le soin aux usagers du software de déterminer le choix du sexe de leur figure repère.

S'essayer à l'inspiration d'une figure biblique de l'autre sexe

Nous avons opté pour cette deuxième solution, créant une version qui cible des figures féminines et une autre des figures du Nouveau Testament. Sans être idéale, cette proposition a au moins le mérite de la clarté. Mal nous en a pris. Sur dénonciation (bonjour le processus), le bureau pour l'égalité du canton de Vaud s'est fendu d'une missive, nous mettant en garde contre le risque de favoriser les stéréotypes sexistes et d'enfermer les jeunes dans des rôles prédéterminés. La démarche nous a fait réfléchir, adapter certaines questions des logiciels. Mais elle ne nous a nullement convaincus de confier à l'algorithme le soin de choisir le sexe de la figure biblique à laquelle identifier le jeune. C'est à l'utilisateur de choisir la version du logiciel qu'il veut utiliser. Si les garçons veulent tester la version qui pointe sur des figures de femmes, et les filles celle qui pointe sur des figures d'homme, c'est leur liberté. Ils y sont d'ailleurs invités explicitement.

La répartition des rôles au temps de Jésus se fait dans un cadre patriarcal. C'est incontestable. Vouloir le gommer au nom du féminisme n'est pas une méthode conforme à l'histoire. Marie n'était Pierre, Marthe n'était pas Nicodème. Pour autant Jésus ne s'est pas laissé enfermer dans les rôles d'alors. Sa relation avec des femmes n'a pas été secondaire. Il a eu avec elles une liberté de ton, une complicité étonnante. Les femmes jouent un rôle incroyable dont les textes portent la trace, ce que souligne le livre que nous avons publié à côté du logiciel (Une vie en marche, Ed OPEC). A l'âge des algorithmes, comment traduire cette liberté ? Le débat est ouvert. 

 

D'une page l'autre Rencontre avec les auteurs du livre et du logiciel, jeudi 8.11.18 à 20h, salle du Cuénet au centre du Vieux Moulin de St Prex (av. de Taillecou 2)