Intelligence Artificielle : la diversité au secours des algorithmes.

L’IA : une intelligence mathématique appliquée aux problèmes du monde réel.

L’influence transformatrice de l’IA est une réalité dans tous les secteurs. Celle-ci est capable de diagnostiquer les cancers et les crises cardiaques. Elle sauve les éléphants d’Afrique en prédisant les déplacements des braconniers. Elle détecte les exoplanètes qui échappent aux astrophysiciens. Elle traque les criminels et conseille les juges. Elle parle les langues vivantes et en traduit des mortes. Elle a lu presque tous les livres, détecte les “fake news” et rédige des articles. Elle choisit les films que nous regardons, l’avion que nous réservons, et les routes que nous parcourons dans la forêt du réel.
L’IA est désormais une partenaire indispensable à l’expérience de la vie ordinaire comme à celle de l’extraordinaire.

Parce que l’IA projette une aura de neutralité et d’objectivité, son ADN doit être passé au crible.

La représentativité des populations et de leurs contextes au sein des données joue donc un rôle déterminant dans la performance équitable des algorithmes. Sans elle, ils comportent le risque d’automatiser et d’accroître les inégalités.
C’est un problème complexe que les experts en ingénierie de l’IA peinent à résoudre. Sans doutes parce qu’ils forment eux-mêmes des groupes trop homogènes sujets aux biais de raisonnement. Majoritairement blancs, de genre masculin, et issus des universités d’élite, les faiseurs d’IA sont insuffisamment formés à l’éthique et aux méthodologies du design responsable et inclusif, dont on sait pourtant qu’ils réduisent les biais cognitifs. En dépit des programmes centrés sur la diversité et l’inclusion, les femmes ne représentent en effet que 18% de la fraction influente des chercheurs en IA au niveau mondial, et 80% des professeurs d’université titulaires dans le domaine sont des hommes.
Du côté de l’industrie, de tels chiffres surprennent peu si l’on consulte les rapports sur la diversité publiés par les géants de la Tech en 2019 : seulement 3.3% d’employés noirs (dont 1.4% de femmes) chez Google, tandis que Facebook et Microsoft font à peine mieux avec respectivement 3.8% et 4.4%. Dans les mêmes compagnies, les deux tiers des managers et directeurs sont des hommes blancs.
L’hégémonie culturelle pose également problème. Bien que les talents se rencontrent partout, et que l’Europe dispose d’un bassin extraordinaire de chercheurs en IA, “les pays avec le plus grand nombre de chercheurs à fort impact (c.-à-d. ceux parmi les 18%) sont (principalement) les États-Unis, la Chine, le Royaume-Uni, l’Australie et le Canada” (Source: JF Gagne).

La prise de décision humaine demeure la pierre angulaire des performances de l’IA.

L’éthique doit être le systeme nerveux de l’IA.

--

--

PhD | CEO of Intelligent Story | Professor | AI Strategy, Machine Learning, & Design Expert | Award-Winning Photographer | www.intelligentstory.com

Love podcasts or audiobooks? Learn on the go with our new app.

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store
Dr. Valerie MORIGNAT

PhD | CEO of Intelligent Story | Professor | AI Strategy, Machine Learning, & Design Expert | Award-Winning Photographer | www.intelligentstory.com