Directrice adjointe du DCAF, le Centre de Genève pour la gouvernance du secteur de la sécurité, Béatrice Godefroy a montré pourquoi la sécurité et la justice sont particulièrement exposées aux biais.

Un secteur qui codifie
Doctrines, procédures, entraînements : un secteur qui applique ses règles à la lettre reproduit aussi les biais à grande échelle. La police prédictive crée des boucles de rétroaction, et la reconnaissance faciale signale bien plus souvent les femmes à la peau foncée.

Ce qui manque dans les données
Les signaux d'alerte précoce des violences n'apparaissent souvent que dans l'observation humaine, pas dans les données.

Le mandat du DCAF
Le DCAF soutient le contrôle démocratique du secteur de la sécurité. Cela concerne la police, l'armée et les gardes-frontières, mais aussi les parlements, les instances de contrôle, la médiation et la société civile. Il s'agit de s'assurer que la sécurité et la justice ne soient pas capturées par une élite et restent au service de tous les citoyens.

La justice face à l'IA
Un rapport récent du DCAF sur la justice dans les États fragiles relève une forte hausse de l'usage de l'IA entre 2024 et 2025, par les institutions, les avocats et les usagers. Les usages vont de la recherche juridique à la traduction et jusqu'à l'aide à la décision. En Thaïlande, une colonelle de police a mis en place un chatbot pour donner aux victimes de violences sexuelles un accès minimal à l'information juridique. Restent les risques d'hallucination, de biais et d'atteinte à l'intégrité des données.

Des checklists pour tous
Au-delà des outils techniques de test des biais, le DCAF développe des checklists institutionnelles pour les parlements, les autorités de contrôle et les institutions elles-mêmes. Qui est responsable ? Où intervient l'humain ? « La réponse est technique, mais pas encore une réponse de cadre, de gouvernance, de clarification des responsabilités. »

Un chatbot genré
Un jour, un chatbot s'est accordé au féminin en lui parlant, puis a reconnu une erreur. Pour elle, c'est le signe qu'en interagissant avec la machine, chacun lui transmet aussi ses propres biais.

Tester et surveiller les modèles, mettre en place une gouvernance capable d'arrêter le système, et former les équipes.