Master class, POSITIVE AI, 7 juin 2024

Partage l'article

Introduction

Cristina Lunghi, a animé une master class pour POSITIVE AI sur le thème de l’IA INCLUSIVE  afin de sensibiliser l’auditoire composé essentiellement d’ingénieurs à ce sujet majeur mais souvent qui passe inaperçu.

Le passage par  la mise en place de standards éthiques pour atteindre ces objectifs est indispensable.

C’est pour cela, que dans le cadre d’ARBORUS, elle a lancé plusieurs initiatives et labels comme le GEEIS AI pour encourager l’inclusion, en particulier dans le domaine de l’IA et avec le Groupe Orange la première charte pour une IA Inclusive.

Voici quelques éléments en synthèse de sa conférence.


Les défis de l’IA inclusive

1.L’urgence climatique : Le changement climatique impose de repenser notre relation avec la technologie et d’adopter une approche plus durable.

2.Les mouvements sociaux : Le féminisme, les droits LGBTQ+ et d’autres mouvements anti-discrimination influencent fortement notre conception de l’égalité.

3.L’accélération de l’IA : Le développement rapide de l’IA depuis la pandémie de COVID-19 présente des défis et des opportunités.

Les risques de l’IA

·Biais et discriminations : Les algorithmes peuvent reproduire et amplifier les biais existants, comme l’exclusion des femmes dans les processus de recrutement.

·Exemples concrets : Des incidents comme ceux d’Amazon, où les femmes étaient exclues des recrutements par les algorithmes, illustrent ces risques. D’autres exemples incluent la reconnaissance faciale et vocale, souvent biaisées contre certaines populations.

Les impacts négatifs de l’IA non inclusive

·Renforcement des biais : Les discriminations peuvent s’accentuer, menant à une société plus divisée et individualiste.

·Conséquences sur les ressources humaines : Les talents peuvent être négligés, entraînant un sentiment d’injustice sociale et une perte de confiance dans les institutions et les systèmes de gouvernance.

Exemples de l’usage de l’IA

·Dans le logement social : Utilisée pour prédire les risques d’impayés et optimiser la gestion des ressources.

·En Tunisie : Un programme aide les personnes éloignées de l’emploi en analysant leur démotivation pour les réorienter.

la sensibilisation et de la mise en place de standards éthiques pour atteindre ces objectifs.

Initiatives et solutions

Charte pour une IA inclusive

Cristina Lunghi décrit l’initiative de la Charte pour une IA inclusive, lancée en partenariat avec Orange. Cette charte invite les organisations à s’engager sur sept objectifs clés pour développer des IA plus inclusives. Les signataires, plus de 130 entités incluant universités, start-ups, organisations et grandes entreprises, forment une communauté internationale travaillant sur ces enjeux.

Objectifs de la Charte

Les objectifs de la Charte incluent la sensibilisation, la formation, la mixité des équipes sur toute la chaîne de valeur, et l’évaluation des biais et de l’inclusivité dans les algorithmes utilisés.

Expérimentation de codage inclusif

Depuis janvier, Le Club de la Charte pour une IA Inclusive d’Arborus et son COPIL  réalisent une expérimentation de codage inclusif. Un comitéde pilotage, composé d’experts en diverses disciplines, travaille sur une méthodologie pour recoder les comportements, habitudes et valeurs de manière inclusive. L’objectif est de créer un nouveau cadre de valeurs qui puisse refonder les systèmes d’organisation et de gouvernance.

Les members du COPIL sont : Mahjoub Bayassine, Président Fondateur du réseau des écoles Digital France School

Gabriela Belaid, Responsable Unité application et adjointe au DSI – Haute Autorité de Santé / SG Ensemble contre le sexisme / Pdt CentraleSupélec au Féminin

Jean Christophe Vidal, CEO KONEXIO

Analyse des biais dans les fiches de poste

Un exemple concret de cette expérimentation est l’analyse des fiches de poste. En étudiant des dizaines de fiches, l’équipe a identifié des termes à connotation masculine et proposé des alternatives plus neutres. Trois équipes (masculine, féminine et mixte) travaillent sur le codage basé sur cesnouvelles définitions.

Importance de l’inclusion dans les processus de recrutement

L’inclusion dans les processus de recrutement est essentielle pour éviter que des biais ne conduisent à l’exclusion systématique de certains groupes. L’expérimentation vise à vérifier l’efficacité des nouvelles méthodes de codage inclusif dans des contextes réels de recrutement.

Vision d’un nouveau contrat social

Cristina Lunghi envisage l’IA comme un outil pour revisiter et améliorer nos systèmes de valeurs et d’organisation. Elle plaide pour une approcheholistique et interdisciplinaire de l’inclusivité dans l’IA, afin de créer des sociétés plus égalitaires et démocratiques.

Conclusion

Cristina Lunghi appelle à une révolution culturelle soutenue par l’IA pour créer une société plus équitable et démocratique. Elle souligne l’importance de l’éducation, de la sensibilisation,et de l’établissement de standards sérieux pour l’atteinte de cet objectif.