La présente Directive entre en vigueur le et doit être respectée au plus tard le .
La Directive sera assujettie à un processus d’examen automatique; on prévoit que celui-ci se déroulera tous les six mois à partir de sa date d’entrée en vigueur.
La présente Directive est émise conformément à l’article 7 de la Loi sur la gestion des finances publiques et de l’article 4.4.2.4 de la Politique sur les services et le numérique.
Les définitions servant à l’interprétation de la présente Directive sont présentées à l’annexe A.
La présente Directive a pour objet de veiller à ce que les systèmes décisionnels automatisés soient déployés d’une manière qui permet de réduire les risques pour les Canadiens et les institutions fédérales, et qui donne lieu à une prise de décisions plus efficace, exacte et conforme, qui peut être interprétée en vertu du droit canadien.
Les résultats escomptés de la présente Directive sont les suivants :
Les décisions prises par les ministères du gouvernement fédéral sont appuyées par des données, et sont prises de façon responsable et conformes à l’équité procédurale et aux exigences d’application régulière de la loi.
Les incidences des algorithmes sur les décisions administratives sont évaluées et les résultats négatifs sont atténués, au nécessaire.
Les données et les renseignements sur l’utilisation des systèmes décisionnels automatisés dans les institutions fédérales sont mis à la disposition du public, si nécessaire.
La présente Directive s’applique uniquement aux systèmes qui fournissent des services externes tels que définis dans la Politique sur les services et le numérique.
La présente Directive s’applique à tout système, outil ou modèle statistique utilisé pour recommander ou prendre une décision administrative au sujet d’un client.
La présente directive s’applique uniquement aux systèmes en production et exclut les systèmes de décision automatisés fonctionnant dans des environnements d'essais.
Conformément à la Politique sur les services et le numérique, la présente Directive ne s’applique pas aux systèmes nationaux de sécurité.
La Directive s’applique à tout système décisionnel automatisé développé ou acheté après le 1er avril 2020.
Le sous-ministre adjoint chargé du programme qui utilise le système décisionnel automatisé (ou toute autre personne nommée par l’administrateur général) est chargé de ce qui suit :
Effectuer une évaluation de l’incidence algorithmique avant la production de tout système décisionnel automatisé.
Appliquer les exigences pertinentes décrites à l’annexe C, telles qu’elles ont été déterminées par l’évaluation de l’incidence algorithmique.
Mettre à jour l’évaluation de l’incidence algorithmique lorsqu’on apporte un changement à la fonctionnalité ou la portée du système décisionnel automatisé.
Diffuser les résultats finaux des évaluations de l’incidence algorithmique dans un format accessible par l’entremise des sites Web du gouvernement du Canada et de tout autre service désigné par le Secrétariat du Conseil du Trésor du Canada conformément à la Directive sur le gouvernement ouvert.
Publier, par l’entremise de tous les modes de prestation de services utilisés, des avis sur le fait que la décision rendue sera formulée totalement ou en partie par un système décisionnel automatisé, conformément à l’annexe C.
Fournir des avis en langage simple et affichés de façon évidente, conformément au Guide de rédaction du contenu du site canada.ca.
Fournir une explication significative aux personnes concernées sur la façon dont la décision a été prise et la raison pour laquelle elle a été prise, conformément à ce qui est prévu à l’annexe C.
Déterminer la licence appropriée pour les composants logiciels conformément aux exigences précisées à la section A.2.3.8 de la Directive sur les services et le numérique.
Si l’on utilise une licence propriétaire, veiller à ce que :
toutes les versions publiées des composants logiciels propriétaires utilisés pour les systèmes de décision automatisés sont livrées et protégées par le ministère;
le gouvernement du Canada détienne le droit d’accéder au système décisionnel automatisé et d’effectuer des essais sur celui-ci, y compris toutes les versions publiées des composants exclusifs, si de telles actions sont nécessaires pour réaliser un audit, une enquête, une inspection, un examen, une mesure d’exécution ou une procédure judiciaire, sous réserve de garanties contre une divulgation non autorisée;
dans le cadre de son accès au système, le gouvernement du Canada se réserve le droit d’autoriser des tiers à examiner et à vérifier les composants au nécessaire.
Rendre public tout code source créé sur mesure détenu par le gouvernement du Canada conformément aux exigences précisées à la section A.2.3.8 de la Directive sur les services et le numérique, sauf dans les cas où :
le code source traite des données classifiées SECRET, TRÈS SECRET ou PROTÉGÉ C;
la divulgation serait exemptée ou exclue en vertu d’une autre clause de la Loi sur l’accès à l’information, si la Loi sur l’accès à l’information venait à s’appliquer;
une exemption est fournie par le dirigeant principal de l’information du Canada.
Déterminer les restrictions d’accès appropriées qui s’appliquent au code source rendu public.
Documenter les décisions des systèmes décisionnels automatisés conformément à la Directive sur les services et le numérique, et à l’appui des exigences en matière de surveillance (6.3.2) et d’établissement de rapports (6.5.1).
Avant d’amorcer la production, élaborer les processus d’évaluation des données et de l’information utilisés dans les systèmes de prise de décisions automatisée visant à s’assurer de l’absence de biais imprévus dans les données et d’autres facteurs qui pourraient influencer injustement les résultats.
Élaborer des processus de surveillance des résultats des systèmes décisionnels automatisés afin d’éviter les résultats imprévus et de vérifier régulièrement la conformité aux dispositions législatives institutionnelles et relatives aux programmes, ainsi qu’à la présente Directive.
Confirmer que toutes les données recueillies pour le système décisionnel automatisé et utilisées par celui-ci sont pertinentes, exactes, à jour, et conformes à la Politique sur les services et le numérique et à la Loi sur la protection des renseignements personnels.
Consulter l’expert qualifié approprié pour demander une évaluation du système décisionnel automatisé, conformément à ce qui est prévu à l’annexe C.
Fournir aux employés la formation appropriée concernant la conception, la fonction et la mise en œuvre du système décisionnel automatisé afin d’être en mesure d’examiner, d’expliquer et de surveiller le fonctionnement du système, conformément à ce qui est prévu à l’annexe C.
Mettre en place des systèmes et/ou des processus d’urgence conformément à ce qui est prévu à l’annexe C.
Mener des évaluations des risques durant le cycle de développement du système et mettre sur pied les mesures de protection appropriées à appliquer, conformément à la Politique sur la sécurité du gouvernement.
Consulter l’unité des services juridiques de l’institution, dès la phase de conception d’un projet, afin de veiller à ce que l’utilisation du système décisionnel automatisé soit conforme aux exigences juridiques applicables.
Veiller à ce que le système décisionnel automatisé permette une intervention par un humain au nécessaire, conformément à l’annexe C.
Obtenir le niveau d’approbation approprié avant de produire un système décisionnel automatisé, conformément à l’annexe C.
Offrir aux clients toute possibilité à leur disposition en matière de recours applicable afin de contester la prise de décision administrative automatisée.
Publier les renseignements sur l’efficacité et l’efficience des systèmes décisionnels automatisés en matière de réalisation des objectifs du programme sur un site Web ou service désigné par le Conseil du Trésor du Canada.
Les conséquences d’une non-conformité à la présente Directive peuvent comprendre toute mesure prescrite en vertu de la Loi sur la gestion des finances publiques que le Conseil du Trésor pourrait déterminer comme étant appropriée et acceptable, selon les circonstances.
Pour obtenir un aperçu des conséquences de la non-conformité, veuillez consulter l’annexe C : Conséquences pour les institutions et l’annexe D : Conséquences pour les personnes du Cadre stratégique sur la gestion de la conformité.
Sous réserve des délégations nécessaires, le dirigeant principal de l’information du Canada est responsable de ce qui suit :
fournir une orientation pangouvernementale sur l’utilisation de systèmes décisionnels automatisés;
accorder des exceptions aux présentes dispositions, en consultant le Comité d’examen de l’architecture intégrée avant de prendre une décision;
élaborer et tenir à jour l’évaluation de l’incidence algorithmique et tout document connexe;
mener des activités de communication et de mobilisation dans l’ensemble du gouvernement et auprès des partenaires dans d’autres administrations et secteurs afin d’élaborer des stratégies, des approches et des processus communs et d’appuyer l’utilisation responsable de systèmes décisionnels automatisés.
La présente Directive s’applique à toutes les institutions figurant dans la Politique sur les services et le numérique, sauf en cas d’exclusion par des lois, des règlements ou des décrets précis.
Les agents du Parlement sont soustraits de l’application de la présente Directive, y compris :
Les organismes, les sociétés d’État ou les agents du Parlement peuvent conclure des ententes précises avec le SCT en vue d’adopter des exigences de la présente Directive et de les appliquer à leur organisation, au besoin.
Afin d’interpréter tout aspect de la présente Directive, veuillez présenter une demande de renseignements auprès du Secrétariat du Conseil du Trésor du Canada.
Les personnes qui proviennent d’institutions fédérales peuvent communiquer avec ai-ia@tbs-sct.gc.ca pour toute question concernant la présente Directive, y compris l’évaluation de l’incidence algorithmique.
Niveau | Description |
---|---|
I | La décision aura probablement peu ou pas d’effet sur :
Les décisions de niveau I mèneront souvent à des effets réversibles et brefs. |
II | La décision aura vraisemblablement une incidence modérée sur :
Les décisions de niveau II mèneront souvent à des effets susceptibles d’être réversibles et à court terme. |
III | La décision aura vraisemblablement une incidence élevée sur :
Les décisions de niveau III mèneront souvent à des effets qui peuvent être difficiles à annuler et continus. |
IV | La décision aura vraisemblablement une incidence très élevée sur :
Les décisions de niveau IV mèneront souvent à des effets irréversibles et permanents. |
Exigence | Niveau I | Niveau II | Niveau III | Niveau IV |
---|---|---|---|---|
Examen par les pairs | Aucune | Au moins l’une des suivantes : Expert qualifié d’une institution gouvernementale fédérale, provinciale, territoriale ou municipale. Membres qualifiés d’une faculté d’un établissement postsecondaire. Chercheurs qualifiés d’une organisation non gouvernementale pertinente. Tiers fournisseur à forfait avec une spécialisation connexe. Publication des spécifications du système décisionnel automatisé dans une revue à comité de lecture. Un comité consultatif des données spécifié par le Secrétariat du Conseil du Trésor. | Au moins deux des suivantes : Experts qualifiés du Conseil national de recherches du Canada, de Statistique Canada ou du Centre pour la sécurité des télécommunications. Membres qualifiés d’une faculté d’un établissement postsecondaire. Chercheurs qualifiés d’une organisation non gouvernementale pertinente. Tiers fournisseur à forfait avec une spécialisation connexe. Un Comité consultatif des données spécifié par le Secrétariat du Conseil du Trésor OU: Publication des spécifications du système décisionnel automatisé dans une revue à comité de lecture. | |
Avis | Aucune | Avis en langage simple publié par l’entremise de tous les modes de prestation de services utilisés (Internet, en personne, par courrier, par téléphone). | Un avis en langage simple publié par l’entremise de tous les modes de prestation de services utilisés (Internet, en personne, par courrier, par téléphone). De plus, publier de la documentation sur les sites Web pertinents au sujet du système décisionnel automatisé, en langage simple, décrivant :
| |
Maillon humain de la prise de décisions | Des décisions peuvent être prises sans participation humaine directe. | Des décisions ne peuvent être prises sans qu’il y ait des points d’intervention humaine précis pendant le processus décisionnel. La décision définitive doit être prise par un humain. | ||
Exigences en matière d’explication | En plus de toute exigence juridique applicable, s’assurer qu’une explication statique des résultats communs des décisions soit fournie. Cela peut inclure une explication dans la section de la Foire aux questions d’un site Web. | En plus de toute exigence juridique applicable, s’assurer qu’une explication significative est fournie avec toute décision qui a conduit à un refus de prestation, de service ou autre mesure réglementaire. | ||
Formation | Aucune | Documents sur la conception et la fonctionnalité du système. | Documents sur la conception et la fonctionnalité du système. Il faut suivre des cours de formation. | Documents sur la conception et la fonctionnalité du système. Cours de formation récurrents. Un moyen de vérifier que la formation a été suivie. |
Planification des mesures d’urgence | Aucune | Veiller à ce que des plans d’urgence et/ou des systèmes de secours soient disponibles dans l’éventualité où le système décisionnel automatisé ne soit pas disponible. | ||
Approbation de l’exploitation du système | Aucune | Aucune | Administrateur général | Conseil du Trésor |