Manque d'inclusion dans l’IA, l'impact sur nos vies et les clés pour agir !
Zoom sur le manque de financement dans l’IA - le travail de Joy Buolamwini - les offres d’emploi à impact à ne pas manquer
Plus nous sommes de fous et folles à rêver d'un monde du travail meilleur, mieux c'est... N'hésitez pas à partager cette newsletter avec vos contacts !
1 - Zoom sur le manque de financement des fondatrices de start-up de l’IA
Le monde de demain n’existe pas sans les femmes ! Bien que l’IA soit au centre de toutes les discussions, depuis 2010, seulement 0,7 %, soit environ 73 millions de livres sterling, du financement en capital-risque pour les logiciels d'IA au Royaume-Uni, a été investi dans des start-up dirigées par des femmes.
C'est ce que révèlent les résultats d'une récente étude de l'Institut Alan Turing, spécialisé dans les données et l'intelligence artificielle, publiée début mars, repérée dans la super newsletter de GTA Black Women In Tech France, une organisation britannique engagée en faveur de l'inclusion dans la technologie.
Les femmes ne représentent que 4 % du secteur ! "Nous sommes préoccupés par le fait que les start-up dirigées par des femmes sont laissées-pour-compte, et c’est particulièrement inquiétant dans les grands secteurs avec des investissements élevés et peu de diversité des genres, comme les logiciels d'IA", analyse le Dr Erin Young, chercheuse à l'Institut Alan Turing.
Au programme :
1 - Zoom sur le manque de financement dans l’IA
2 - Découvrir le travail de Joy Buolamwini
3 - Mes recos pour progresser sur l’IA
4 - Le mot de Mixity, notre partenaire
5 - Les offres d’emploi à impact à ne pas manquer
Pour le Dr Erin Young, le secteur est en plein essor, mais presque tout le capital investi est attribué à des entreprises fondées uniquement par des hommes : "La réforme des politiques doit se concentrer sur l'inclusion des femmes et des groupes sous-représentés dans cet espace pour avoir un impact tangible sur l'équité et l'innovation", conclut-elle.
🇫🇷 Qu’en est-il de la France ?
Je n’ai pas trouvé d’études françaises spécifiques sur le financement des entrepreneures de l’IA. Mais à titre de comparaison, depuis 2008, les fondatrices de start-up n’ont reçu que 2% des investissements, alors qu'elles comptent pour plus de 5% du nombre total de start-up, d'après une étude du collectif Sista.
Notons également que la part des femmes dans les métiers de la data et de l’IA est seulement de 29%. La faute, notamment, à une sous-représentation des femmes dans les écoles d’ingénieurs et du numérique où elles ne comptent que pour 20% des effectifs.
Côté solution, les experts recommandent aux investisseurs de :
Réserver spécifiquement des capitaux aux femmes et à d’autres groupes fondateurs sous-représentés dans le secteur de l’IA.
Exiger que les investisseurs collectent et publient des données sur la diversité, en particulier lorsqu'ils investissent dans les nouvelles technologies.
2 - Découvrir le travail de Joy Buolamwini
Au-delà du sexisme, l’intelligence artificielle est également gangrenée par des biais racistes. Dès 2018, cela a été mis en lumière par l’excellent travail de Joy Buolamwini, chercheuse et activiste américaine, que j’étais trop contente de retrouver parmi les rôles modèles du dernier numéro de Chut, le magazine de société trimestriel, spécialisé dans la transition numérique, publié début mars.
Notre “go” a été lauréate de la prestigieuse bourse Fulbright, nominée parmi les trente jeunes entrepreneur·es qui comptent dans le monde de la technologie par Forbes ou dans la liste des 100 jeunes personnalités les plus influentes du monde du Times en 2019. Joy Buolamwini est super badass !
C’est l’une des premières à montrer les défaillances des logiciels de reconnaissance faciale qui peinent à l’identifier. Pourquoi ? La chercheuse est une femme noire et les algorithmes avaient été entraînés sur un jeu d’images comprenant essentiellement des hommes blancs de 30 à 50 ans.
En 2019, j’avais déjà travaillé les conséquences du manque d’inclusion dans l’IA : des différences d’efficacité en fonction du genre et de la couleur de peau des utilisateurs, avec des conséquences potentiellement dramatiques si l’on se projette dans une voiture autonome incapable d’identifier une personne de couleur au bord de la route en tant que telle et donc de freiner.
Est-ce grave docteur ?
Cinq ans plus tard, le problème persiste. Le 8 mars dernier, une nouvelle enquête de Bloomberg a révélé que la technologie d'IA générative d'OpenAI, en particulier GPT 3.5, affichait des préférences pour certains profils ethniques dans les questions d'embauche. Les journalistes ont utilisé les données des électeurs et des recensements pour classer les noms en quatre catégories (Blanc, Hispanique, Noir et Asiatique) et deux catégories de genre (homme et femme). Ensuite, ces noms ont été soumis à quatre offres d'emploi différentes. On a observé que ChatGPT avait tendance à attribuer des "noms féminins" à des postes traditionnellement occupés par plus de femmes, comme les rôles en ressources humaines, et a moins souvent choisi des candidates noires pour des postes techniques tels qu’ingénieur logiciel.
La situation entraîne de grandes inquiétudes, sachant que les RH intègrent de plus en plus d'outils basés sur l’IA générative dans leur processus de recrutement.
En décembre 2024, le Congressional Black Caucus a appelé OpenAI à diversifier rapidement son conseil d'administration pour inclure une perspective noire dans la création d'outils d’apprentissage automatique et ainsi réduire les préjudices de l’IA. En début d’année, TechCrunch a rapporté que OpenAI s'est engagé à collaborer avec un cabinet spécialisé pour répondre à cette demande de diversification.
Tech for Good
Même sans être des “techies”, nous sommes tous concernés par l'intelligence artificielle. Pourtant, selon un récent article du MIT - repéré sur Tech Trash, une chouette newsletter spécialisée dans la tech - personne ne comprend vraiment comment fonctionne l'IA. Une situation alarmante étant donné l'impact de l'IA sur notre vie quotidienne, de la recherche de l’amour sur les apps à la décision professionnelle. Il est urgent de s’y mettre.
3 - Mes recos pour progresser sur l’IA
📖 “Intelligences Artificielles, Miroir de nos vies”, une bande dessinée publiée aux Éditions Delcourt. L'objectif de cette BD est de présenter une vision plus optimiste sur les promesses de l'IA. Mais d'abord, cette lecture est un moyen de comprendre comment fonctionne une IA. Ensuite, c’est aussi l’occasion de s'interroger sur sa place dans notre société.
🎬 Sur Netflix, "Coded Bias", un documentaire sur les biais algorithmiques dévoilés par la découverte de failles dans la reconnaissance faciale par Joy Buolamwini, sorti en janvier 2020.
🎬 Une émission de "28 Minutes" d'ARTE avec Aurélie Jean, spécialisée en algorithmique, fondatrice de la société In Silico Veritas, autrice de l’ouvrage "De l’autre côté de la machine" et de l’essai "Data et sport, la révolution", ainsi que Raphaël Doan, essayiste et magistrat. Ce hors-série sur l'IA est paru en janvier 2024.
📖 Pour mieux comprendre les répercussions du manque de parité dans l’IA, je recommande “L’Intelligence artificielle, pas sans elles”, un petit essai de 80 pages faciles à lire, paru en 2019. Flora Vincent et Aude Bernheim, toutes deux docteures en sciences, pointent les dangers que soulève la quasi-absence des femmes dans l’IA que ce soit dans la recherche ou dans les entreprises.
🎙 Comme Test&Work est l’une des plus belles communautés de l’univers - oui, je m’emballe - vous m’avez recommandé d'écouter l’épisode de Trench Tech, le podcast Esprits Critiques pour une Tech éthique, paru le 7 mars avec Hubert Etienne, philosophe éthicien qui a travaillé sur les sujets d'éthique dans l'IA chez Meta. Il parle d’Ethics Washing. Une pépite !
4 - Le mot de Mixity, notre partenaire
💜 Partenariat éditorial - Mixity, le leader français de la mesure de l'impact diversité et inclusion 💜
Comme tout le monde le sait, on ne peut pas changer ce qu’on ne mesure pas ! Pour notre partenaire Mixity, l’intégration de cette technologie dans les stratégies DE&I est une nouvelle approche qui vient révolutionner la manière dont les organisations abordent et mesurent l’inclusion. Même s’il y a encore des faiblesses, des études ont montré que l’IA peut faciliter et améliorer le processus de recrutement.
Aujourd’hui, des plateformes comme Mixity offrent des solutions innovantes telles que des analyses détaillées et intelligentes sur la performance DEI d'une organisation. Ces technologies peuvent également suivre des indicateurs et des données croisées sur plusieurs aspects de la diversité. Cela permet ainsi d’avoir une vision granulaire qui aide à mieux orienter sa feuille de route.
Cette année, Mixity va encore plus loin. “Nous travaillons sur de nouveaux outils qui viennent compléter les accompagnements sur le recrutement et le management inclusif, avec des parcours de formation “sur-mesure” et des solutions permettant de réduire les biais discriminants dans les annonces d’emplois de nos clients”, indique la team Mixity.
5 - Les offres d’emploi à impact à ne pas manquer
Alternant - Assistant Chargé RSE - Diversité, Equité & Inclusion - Nestlé
Chargé de mission – Durabilité, ESG, RSE & Inclusion - Senior F/H - Axa
Responsable de la prépa et animation de la vie bénévole - La Chance, (une prépa gratuite aux concours des écoles de journalisme ouverte aux étudiants boursiers)
Appel à candidature Belumages - Formation à l’animation présentielle de la Fresque de la Diversité à l’adresse de facilitateurs et facilitatrices professionnelles* - ouvert jusqu’au 29 mars.
💜 Pour nous suivre sur Insta 👇🏾
Cette newsletter vous a plu… N'hésitez pas à la transférer à celleux qui ne sont pas encore abonné·e·s ou à m'écrire un petit mot pour me partager vos retours 💜