Le droit de parler à un humain

En 2021, le Québec adopte la Loi 25, qui modernise ses règles sur les renseignements personnels, avec une entrée en vigueur par étapes jusqu'en 2024. Parmi ses nouveautés, un article ajouté à la loi qui encadre le secteur privé touche directement nos vies numériques : l'article 12.1.

Il prévoit qu'une entreprise qui prend une décision fondée uniquement sur un traitement automatisé de renseignements personnels doit le dire à la personne, au plus tard au moment où elle lui annonce la décision. Sur demande, elle doit aussi préciser les renseignements utilisés, les raisons et les principaux facteurs qui ont mené à la décision, et rappeler le droit de faire corriger ces renseignements. Surtout, la personne doit pouvoir présenter son point de vue à un membre du personnel capable de réviser la décision.

La loi oblige aussi à prévenir les gens avant d'utiliser une technologie qui permet de les identifier, de les localiser ou de faire leur profil, et ces fonctions ne doivent pas être activées par défaut. La Commission d'accès à l'information veille au respect de ces règles, et les sanctions administratives peuvent atteindre 10 millions de dollars ou 2 % du chiffre d'affaires mondial.

Une donnée erronée ou un biais caché peut peser plus lourd sur certaines personnes que sur d'autres. Pouvoir demander « pourquoi ? » à un être humain, c'est remettre une relation là où il n'y avait qu'un calcul.