Women in AI : quelle voix devrait être la plus forte dans la conversation sur la diversité ?

La conversation sur la diversité dans l’IA n’est pas une affaire unique – car le nombre d’applications pour l’IA et l’apprentissage automatique s’accélère et la portée de ces produits devient plus omniprésente, le centrage de la diversité de pensée dans l’industrie reste critique . À juste titre, cette conversation a débuté Transformer VB 2022 au petit déjeuner Panel Women in Data & AI, parrainé par Capital One.

“Je crois que les données sont la nourriture de l’IA”, a déclaré la panéliste JoAnn Stonier, directrice des données chez Mastercard. “Avoir une diversité de pensée dans les données que nous alimentons réellement les algorithmes d’IA et d’apprentissage automatique est extrêmement important. Avoir des data scientists et d’autres professionnels des données lors des sessions de conception pendant que nous construisons des produits et des solutions est super important si nous voulons des produits qui vont refléter la société dans laquelle nous voulons tous vivre.

Stonier a parlé des principes de conception de données de Mastercard, qui mettent en évidence la ligne de base que les employés doivent viser lors de la conception avec des données. Outre la confidentialité et la sécurité, la responsabilité et la transparence, il y a l’importance de l’innovation et de l’intégrité, qui englobe l’idée d’avoir un impact social positif sur le monde – ou de concevoir avec intégrité. Et maintenant, ils ont ajouté l’inclusion à la liste.

“L’inclusion signifie des ensembles de données inclusifs de tous les bons types de données, une enquête algorithmique inclusive pour obtenir le bon type d’entrées pour créer vos questions algorithmiques d’apprentissage automatique, puis pour obtenir les bonnes réponses sur ce que vous essayez de résoudre”, dit-elle. « Ces trois parties, et bien sûr beaucoup de détails, entrent dans tout cela. Ils créent vraiment une méthodologie inclusive pour notre IA et pour nos pratiques de données en général maintenant chez Mastercard.

“Nous essayons d’adapter l’expérience la meilleure, la plus personnalisée et la plus utile [for our customers]”, a déclaré Molly Parr, vice-présidente, produits, expériences client numériques, produits et plates-formes d’entreprise chez Capital One.

Cela signifie refléter l’expérience d’une clientèle incroyablement diversifiée et rester sensible aux préjugés nocifs et involontaires.

“La meilleure façon de le faire est toujours avec les humains”, a déclaré Parr. «Avoir cette diversité de pensée, cette diversité d’équipes qui représentent les personnes à qui nous parlons de l’autre côté de ces appareils, est la meilleure façon. Nous avons amené des machines à un endroit idéal où nous pouvons les former et elles font toutes ces choses beaucoup plus rapidement, plus complexes en calcul qu’autre chose. Mais la dernière étape avant de rencontrer un client doit être cette inspectabilité et cet angle formé par l’homme pour éliminer ce biais.

Cette approche de conception responsable est à la base de tout, a déclaré Ya Xu, vice-président de l’ingénierie, responsable des données et de l’IA chez LinkedIn.

“Il ne s’agit pas seulement de vérifier si les données sont équilibrées, si l’algorithme introduit quelque chose de plus”, a-t-elle déclaré. « Avons-nous ce concept de design responsable pour commencer ? En double-cliquant sur ce que JoAnn et Molly ont dit, c’est cette approche centrée sur l’humain. Alors que nous examinons comment nous construisons des algorithmes, et même réfléchissons à la façon dont nous évaluons, c’est tellement essentiel.

Vous devez réfléchir à l’impact que cela a sur votre client, a-t-elle ajouté. À chaque lancement de fonctionnalité chez LinkedIn, l’équipe évalue non seulement les mesures commerciales, mais aussi l’impact qu’elles pourraient avoir sur les segments.

“Grâce à ce processus de surveillance continue, nous nous assurons de ne pas introduire ces conséquences involontaires alors que nous continuons à évoluer et à améliorer notre produit”, a-t-elle déclaré. “C’est très ancré dans la façon dont nous développons nos produits.”

Le coût de ne pas faire d’efforts pour accroître la diversité dans l’espace de l’IA est important. Xu voit deux résultats : l’un consiste à aliéner la moitié entière de vos clients, membres ou utilisateurs. L’autre est de voir l’IA devenir sur-réglementée dans une tentative de corriger les biais sans vraiment les creuser à la source. Mais la réglementation aura un impact direct sur l’innovation.

Pour Stonier, le gros risque est de se tromper. Personne ne veut se tromper de fraude, par exemple. Mais l’IA peut se tromper d’un million de façons différentes – et ne pas prêter attention aux biais est l’un des moyens les plus faciles de se tromper, et ces défauts ont des conséquences en cascade, grandes et petites. Quelque chose d’aussi simple que des images de panda générées par l’IA, systématiquement biaisées par le sexe, évolue jusqu’à un codage constant du genre, qui confine les enfants dans des rôles très spécifiques, et finalement dans des carrières et des opportunités très spécifiques.

“Si nous ne voulons pas de cet avenir, nous devons retirer ce genre de variables indirectes de notre réflexion”, a déclaré Stonier. « Nous devons examiner toutes les façons subtiles dont les sociétés mondiales ont inculqué le genre et d’autres préjugés dans notre langage et peut-être pas dans notre pensée, mais dans la pensée codée par machine. Et donc se tromper limite les choses.

Un appel à l’action pour tous

Pour vraiment avoir un impact, l’appel à la diversité des genres dans l’industrie doit être unifié, ont convenu les panélistes. L’industrie technologique ne compte qu’environ 20 à 25% de femmes, il est donc indispensable d’amener des alliés masculins, a déclaré Xu, et il est indispensable qu’ils soient aussi passionnés et dynamisés que les femmes. Mais elle a noté que les alliés masculins craignent souvent de faire des faux pas.

“Quand ils en parlent, ils sont parfois un peu inquiets de la façon dont ils sont perçus”, a-t-elle déclaré. « Mais il est important de savoir que tout le monde va se tromper. L’IA responsable et cet espace, c’est une chose tellement difficile à faire. Les femmes vont dire les mauvaises choses, tout comme les hommes vont dire les mauvaises choses. Mais nous sommes tous ici avec les bonnes intentions et nous voulons réaliser les mêmes choses.

Parr a ajouté: «Intégrer l’inclusion dans le dialogue, quel qu’il soit – l’IA ou toute autre chose – est un élément important pour bien faire les choses. Faire cela tôt et de manière inclusive, que ce soit avec les régulateurs ou avec d’autres dans nos entreprises ou avec nos partenaires, c’est ce que nous devons promouvoir. Il existe toujours un parti pris inhérent quant à savoir qui devrait contribuer à ces conversations et qui devrait avoir la voix la plus forte, ajoute-t-elle.

“J’aime beaucoup l’appel à l’action en termes de, que pouvons-nous tous faire?” dit-elle. « Même en tant que femmes, en remontant à l’époque où nous menons les discussions avec nos équipes, comment pouvons-nous faire entendre toutes les voix, afin d’obtenir le meilleur design absolu ? Et cela est intégré dans les principes et la façon dont nous construisons.

Stonier note que pour attirer plus de femmes dans la technologie, une conversation d’inclusion dirigée par une femme peut être puissante, mais la vraie diversité est là où réside le plus de pouvoir.

“Quand je regarde l’équipe de Mastercard et que je pense à tous les différents visages, j’aime que ce soit tous ces différents visages. Différentes races, différentes origines, différentes ethnies », a-t-elle déclaré. “Je vous encourage tous à en parler et à inviter les diverses idées de vos collègues à la table pour avoir la conversation avec vous.”

Ne manquez pas toute la conversation, des obstacles réglementaires au démarrage de la conversation dans vos organisations et plus encore en vous inscrivant à un laissez-passer d’admission générale virtuel gratuit pour transformer ici.



#Women #quelle #voix #devrait #être #forte #dans #conversation #sur #diversité

Leave a Comment

Your email address will not be published.