L'IA peut-elle être tenue pour responsable des impressions trompeuses ? Pourquoi la résolution des biais de genre numériques nécessite des humains

À la suite de la Journée internationale des femmes 2020, le Conseil National des Barreaux (CNB) en France a réuni quinze femmes avocates, ingénieures, professeures, chercheuses, programmeuses et entrepreneures afin de chercher des solutions aux biais de genre dans les algorithmes d'intelligence artificielle.
Bien que la toute première personne à avoir programmé soit une femme, les machines et les algorithmes sont aujourd'hui principalement conçus par des hommes. En 2020, seuls 17 % des travailleurs du secteur numérique sont des femmes. Seul le secteur aéronautique a attiré une proportion encore plus faible de professionnelles féminines. Pour contrebalancer cela, le CNB a également mis en avant des modèles féminins afin d'encourager les femmes à prendre leur place dans ce domaine.
Dans la tech, les femmes sont en bout de chaîne. Elles sont parfois freinées par le stéréotype du « geek » – une figure inévitablement masculine affalée devant un écran d'ordinateur avec un carton de pizza froide. Non seulement cette idée du passionné de technologie masculin s'est révélée dépassée, mais elle exclut également la figure féminine du monde numérique.
L'intelligence artificielle (IA) est souvent personnalisée et considérée comme responsable et coupable de biais envers les femmes. En réalité, cependant, les IA ne font qu'analyser nos propres biais. Elles n'expriment rien de plus que les opinions agrégées de leurs créateurs. L'IA peut ainsi reproduire les tendances sexistes d'un département des ressources humaines consistant à ne prendre en compte que les CV de candidats masculins. Cherchez l'expression « directeur d'entreprise » sur Google et le résultat le plus courant sera l'image d'un homme portant une cravate. Inversement, cherchez « personnel de nettoyage » et vous verrez principalement des femmes en tablier. Volontairement ou non, les concepteurs d'algorithmes ont tendance à distiller leurs propres biais dans les algorithmes qu'ils conçoivent, et cela a des conséquences sexistes. Plusieurs types de biais peuvent être rencontrés.
Il existe des biais de données qui peuvent avoir des conséquences ethniquement discriminatoires. Ils s'expriment, par exemple, à travers la reconnaissance automatique de critères morphologiques du visage ou de la couleur de peau. Ils sont la conséquence du fait que les données d'apprentissage de l'IA ne peuvent pas être représentatives si l'apprentissage repose sur une norme unique et européenne. Les biais des algorithmes prédictifs perpétuent ainsi les données passées qu'ils absorbent. La liberté et l'initiative humaines seraient figées si les professionnels du droit devaient devenir dépendants de tels algorithmes.
Les biais économiques sont plus discrets et pernicieux, mais non moins courants. Les algorithmes d'aide à la conception de publicités prennent en compte le coût prévisible de la dépriorisation d'une population par rapport à une autre pour des raisons purement économiques. Ils peuvent ainsi présenter un biais à l'encontre des femmes.
L'IA peut discriminer aveuglément. Mais elle n'est ni responsable ni coupable. Elle amplifie plutôt les biais existants sans réelle possibilité de rectification. Un biais discriminatoire est difficile à identifier, mais encore plus difficile à réparer. C'est pourquoi nous avons besoin de plus de femmes, et de personnes issues de groupes minoritaires, impliquées dans la conception de ces outils. Leurs paramètres doivent intégrer la richesse de notre diversité de vie et d'opinions.
La digitalisation transforme la société et, tant que l'électricité existera, continuera d'en consommer. L'ensemble de l'économie repose sur le numérique. Chaque secteur doit-il se masculiniser au fur et à mesure qu'il devient un marché numérique émergent ?
La culture numérique est masculine. C'est vrai en France. Pas partout ailleurs. Dans certains endroits, le numérique est un secteur prometteur pour les femmes parce qu'il leur permet de travailler à domicile et peut être mieux adapté à leurs contraintes.
Corriger les biais de genre exige de trouver des moyens de mieux intégrer les femmes dans le secteur de l'analyse et de la recherche technologiques. Une voie pourrait être d'intervenir dès le stade de la formation en rendant les cursus plus attractifs pour les femmes. Les entreprises devraient elles aussi mettre en œuvre des moyens organisationnels internes déjà existants pour intégrer les femmes dans les processus décisionnels. La diversité du recrutement est une mesure simple à appliquer et contribue à une représentation plus équitable au sein d'une structure d'entreprise.
Faut-il imposer ou convaincre, instaurer des quotas ou mettre en place des mécanismes d'incitation ? Pendant longtemps, le mot quota a été compris comme l'admission de candidats moins qualifiés et a fait grincer bien des dents. Cependant, l'introduction d'un quota n'empêche pas la performance. Bien que ce ne soit peut-être pas la seule voie, cela peut donner des résultats rapides. La compétitivité et la réussite ne devraient pas avoir de genre. Un secteur d'activité non mixte est préoccupant car c'est de la diversité que naît la richesse.
Les biais de genre ont un impact sur les performances scolaires des filles. Il a été observé qu'elles perdent confiance en elles dès le secondaire, malgré de bons résultats au primaire. Un exercice présenté comme un problème de mathématiques génère de moins bons résultats chez les filles. Lorsque ce biais est déconstruite, les garçons réussissent moins bien. Modifier le descriptif des cours a un impact évident. La formation des enseignants est donc extrêmement importante. Ils ont la noble tâche d'accompagner les enfants tout au long de leur scolarité. Ils doivent être la première ligne de défense contre l'inégalité.
Il est donc important d'initier les filles au codage très tôt, car tous les stéréotypes ne sont pas encore ancrés chez les jeunes enfants. Coder n'est pas plus compliqué qu'écrire, et le code n'est pas la propriété exclusive des ingénieurs. Il doit être enseigné à l'école, à tous les enfants. Il n'y a pas non plus de barrière d'âge ; les femmes d'aujourd'hui, comme celles de demain, peuvent prendre leur place dans le monde numérique sous réserve de disposer des outils nécessaires. Si l'éducation est une solution à long terme, la formation est un remède à court terme pour établir le statut des femmes et corriger les biais de genre.
Cela dit, un constat surprenant – voire effrayant – a été fait au niveau sociétal : plus le niveau général d'égalité est élevé dans un pays, moins les femmes s'engagent dans des études numériques. Inversement, plus les pays reposent sur des systèmes inégaux et moins les filles et les garçons vivent ensemble, plus les femmes s'orientent vers la filière numérique. Cela doit-il nous amener à nous demander si la coéducation est un catalyseur des inhibitions des femmes à se lancer dans la tech numérique ?
En fin de compte, les parents sont les plus grands modèles pour leurs enfants, mais ils sont plus difficiles à former. Ils devraient pourtant être informés des vastes possibilités offertes aux femmes dans le secteur du numérique afin d'éveiller l'intérêt de leurs filles.
Les meilleurs dispositifs au monde, s'ils sont aveugles aux biais de genre, reproduiront les mêmes éternels désavantages pour les femmes. De ce débat ont émergé des difficultés, des dangers et des avertissements. Mais un optimisme grandissant se fait jour dans la prise de conscience et la recherche de solutions au sein des entreprises, des gouvernements et à l'échelle internationale, où une réflexion sur l'éthique de l'IA est en cours.
Christiane Féral-Schuhl est présidente du Conseil National des Barreaux. 
Image : Tumisu, sous licence Pixabay.