
Claudia Vaccarone
Qui manque dans les données ?
Claudia Vaccarone accompagne des organisations en Suisse et à l'étranger pour identifier les biais qui freinent leur performance. Elle a ouvert et modéré le panel sur les biais algorithmiques.
Des outils loin d'être neutres
La moitié du web ouvert est en anglais, alors qu'environ 20 % de la population mondiale parle cette langue. Seulement 22 % des professionnels de l'IA sont des femmes. « Ces outils ne sont pas du tout neutres. »
Définir le biais algorithmique
Claudia retient la définition d'Ethics Unwrapped : un système d'IA fait des choix injustes ou discriminatoires à cause de données défaillantes ou de préjugés humains. Cette définition a le mérite de pointer la source du problème.
Ce que le web efface
Sur environ 7 000 langues parlées dans le monde, une petite fraction seulement est présente sur le web ouvert. L'Afrique représente 18 % de la population mondiale et compte quelque 2 000 langues, presque absentes en ligne. Les femmes ont été effacées de nombreux récits historiques, et le web contient de plus en plus de contenus misogynes, racistes et homophobes dont les modèles apprennent aussi.
Agents et anthropomorphisme
À l'ère des agents autonomes, faut-il leur donner un genre ou exiger une « égalité agentique » dans leur conception ? Claudia a aussi évoqué un courant de pensée qui veut que tout ce qui interagit avec l'humain reste clairement identifiable comme une machine. Elle a mentionné les Assises Genre et numérique du 5 novembre à Lausanne.
Trois questions à se poser. Qui manque dans les données et dans la salle ? Qui est responsable si les choses tournent mal ? Si je change le genre dans mon prompt, le résultat change-t-il ?