Nous utilisons les IA comme des oracles neutres. Elles apprennent pourtant d'un web profondément déséquilibré. Ce panel a examiné comment les biais algorithmiques se forment, ce qu'ils coûtent dans l'emploi, la justice et la sécurité, et ce que le droit suisse permet, ou non, d'y opposer.

Modération : Claudia Vaccarone

Key Takeaway :

Un web loin d'être neutre

Claudia Vaccarone a ouvert avec des chiffres. La moitié du web ouvert est en anglais, alors qu'environ 20 % de la population mondiale parle cette langue. Sur quelque 7 000 langues parlées sur Terre, une petite fraction seulement est présente en ligne. Et seulement 22 % des professionnels de l'IA sont des femmes. « Ces outils ne sont pas du tout neutres. »

Les angles morts du droit suisse

Cesla Amarelle, présidente de la Commission fédérale pour les questions féminines, a présenté l'étude fédérale de juillet 2026 sur la transformation numérique et l'égalité. Selon elle, le duo numérique et genre révèle les angles morts du système.

Le premier est juridique. La Suisse n'a pas de loi générale contre les discriminations. Une personne écartée par un algorithme de recrutement a donc peu de voies de recours face à un employeur privé, et la preuve reste difficile à apporter. Le second est la transparence : une administration qui prend des décisions de masse n'est pas tenue d'indiquer qu'elle s'appuie en partie sur un algorithme, et aucun registre public ne recense les IA utilisées. L'étude propose une loi-cadre, des indicateurs de contrôle et un centre de compétence.

Elle a toutefois refusé de faire le procès de la machine. « C'est l'être humain qui est discriminant et pétri de stéréotypes. »Le problème, c'est que l'IA « exponentialise » ces stéréotypes.

Sécurité : quand les biais s'institutionnalisent

Béatrice Godefroy, directrice adjointe du DCAF, a montré pourquoi le secteur de la sécurité est particulièrement exposé. Armées, polices et gardes-frontières fonctionnent par doctrines, procédures et entraînements. « Si on rajoute des biais par l'IA, on a une institution qui va reproduire et institutionnaliser les choses. »

Deux illustrations tirées de travaux européens. La police prédictive crée une boucle de rétroaction : plus on patrouille une zone, plus on y signale d'incidents, plus on y envoie de patrouilles. Les systèmes de reconnaissance faciale signalent les femmes à la peau foncée bien plus souvent que les hommes à la peau claire. L'IA ouvre aussi des possibilités. Dans un pays, un chatbot a aidé des victimes de violences sexuelles à accéder à une information juridique de base.

Trois questions avant de déployer

Pour Cesla Amarelle : transparence, confiance et analyse d'impact. « Il faut arrêter avec le discours de la boîte noire. »Pour Béatrice Godefroy : avez-vous testé et surveillez-vous le modèle ? Avez-vous la gouvernance, y compris la capacité d'arrêter le système ? Avez-vous formé vos équipes ? Elle insiste aussi sur ce qui manque dans les données. Les signaux faibles qui permettent de prévenir une violence n'apparaissent souvent que dans l'observation humaine.

Un agent doit-il avoir un genre ?

Cesla Amarelle a rappelé le malaise suscité par des assistants vocaux à voix féminine, « corvéables à merci ». Elle plaide pour des voix plus neutres et, surtout, pour des concepteurs conscients des stéréotypes qu'ils reproduisent. Béatrice Godefroy a raconté qu'un chatbot s'était un jour accordé au féminin en lui parlant, puis avait reconnu une erreur. Pour elle, c'est le signe que chaque utilisateur transmet aussi ses propres biais à la machine.

Trois questions à se poser

Claudia Vaccarone a conclu avec trois questions. Qui manque dans les données et dans la salle ? Qui est responsable si les choses tournent mal ? Si je change le genre dans mon prompt, le résultat change-t-il ?

More on the panelists

Cesla Amarelle, Commission fédérale pour les questions féminines
Béatrice Godefroy, DCAF
Claudia Vaccarone, modératrice