La machine ne refuse pas seule

Depuis 2019, le gouvernement du Canada encadre ses propres algorithmes par une directive du Conseil du Trésor sur la prise de décisions automatisée. Elle vise les décisions qui touchent les droits ou les intérêts des gens, comme l'examen d'une demande de prestations ou l'entrée au pays, et s'applique aux systèmes conçus ou achetés après le 1er avril 2020. Son but : des décisions transparentes, responsables et équitables.

Avant de lancer un système, un ministère doit remplir une Évaluation de l'incidence algorithmique : 65 questions sur les risques et 41 sur les moyens de les réduire. Le résultat classe le système sur quatre niveaux d'incidence et doit être publié sur le Portail du gouvernement ouvert. Révisée en 2023, la directive renforce les tests de biais et l'obligation d'expliquer les décisions.

Exemple concret : depuis 2018, Immigration, Réfugiés et Citoyenneté Canada utilise l'analytique avancée pour trier les demandes de visa de résident temporaire, d'abord celles venant de Chine et d'Inde. Le système repère les dossiers simples, dont l'admissibilité peut être évaluée 87 % plus vite. Mais ce sont toujours des agents qui prennent la décision finale, et le ministère dit examiner ses outils pour repérer les biais.

La leçon est simple : une machine peut aider, mais c'est un être humain qui doit porter le poids d'un refus, et en répondre.