Un outil trop beau pour être honnête

En octobre 2019, la Gendarmerie royale du Canada achète deux licences du logiciel de reconnaissance faciale de Clearview AI, une entreprise dont la base de données a été bâtie en copiant des milliards de photos sur Internet. Selon le rapport spécial du Commissariat à la protection de la vie privée, déposé au Parlement le 10 juin 2021, l'entreprise a enregistré 521 recherches faites depuis des comptes de la GRC. Au moins 19 comptes existaient, dont 17 comptes d'essai gratuits.

Seulement 6 % environ de ces recherches semblent liées au travail d'identification de victimes du centre national contre l'exploitation des enfants. Environ 85 % ne sont expliquées d'aucune façon. Le Commissariat conclut que la GRC a enfreint la Loi sur la protection des renseignements personnels : un organisme public ne peut pas recueillir des renseignements auprès d'un tiers qui les a lui-même obtenus illégalement. La GRC conteste cette conclusion, mais accepte toutes les recommandations ; elle a aussi créé un programme pour évaluer les nouvelles technologies avant de s'en servir.

Le commissaire rappelle aussi que la reconnaissance faciale peut produire des résultats biaisés selon la race. En mai 2022, les commissaires fédéral, provinciaux et territoriaux demandent ensemble un cadre légal qui fixe des limites claires à la police, avec des « zones interdites » pour empêcher la surveillance de masse.

Reconnaître une erreur, écouter ceux qui la signalent, changer ses pratiques : c'est ainsi qu'une institution regagne la confiance de tous ceux qu'elle sert.