La présente directive entre en vigueur le 1er avril 2019, et la conformité à celle-ci devient obligatoire le 1er avril 2020.La Directive s’applique à tous les systèmes décisionnels automatisés qui ont été développés ou acquis après le 1er avril 2020. Les systèmes de décision automatisés existants, développés ou acquis avant le 24 juin 2025, devront être conformes aux exigences nouvelles ou mises à jour au plus tard le 24 juin 2026.Les organisations mandataires du Parlement auront jusqu’au 24 juin 2026 pour se conformer aux exigences.La Directive sera réexaminée tous les deux ans, ou à la demande du dirigeant principal ou de la dirigeante principale de l’information du Canada.La Directive est émise conformément aux mêmes autorisations et aux mêmes pouvoirs que ceux indiqués à la section 2 de la Politique sur les services et le numérique.Les définitions servant à l’interprétation de la présente directive sont présentées à l’annexe A.La Directive a pour objet de garantir que les systèmes décisionnels automatisés sont utilisés d’une manière qui permet de réduire les risques pour la clientèle, les ministères et la société canadienne, d’accroître l’efficacité, l’exactitude et la cohérence des décisions prises en vertu du droit canadien ainsi que d’en faciliter l’interprétation.Les résultats escomptés de la Directive en ce qui a trait aux systèmes décisionnels automatisés sont les suivants : Les décisions rendues par les ministères sont appuyées par des données, et sont prises de façon responsable et conformes à l’équité procédurale et aux exigences d’application régulière de la loi.Les incidences sur les décisions administratives sont évaluées et les résultats négatifs sont atténués.Les données et les renseignements sur l’utilisation des systèmes décisionnels automatisés dans les ministères sont mis à la disposition du public conformément aux exigences en matière de protection des renseignements personnels, de sécurité et de propriété intellectuelle.La Directive s’applique à tout système décisionnel automatisé en production qui servira à la prise d’une décision administrative ou à la réalisation d’une évaluation connexe concernant une personne.La Directive ne vise pas les systèmes décisionnels automatisés utilisés uniquement à des fins de recherche et d’expérimentation ni ceux exploités dans des environnements d’essais.

Le sous-ministre adjoint ou la sous-ministre adjointe responsable du programme pour lequel le système décisionnel automatisé est utilisé, ou toute autre personne de la haute direction nommée par l’administrateur général ou l’administratrice générale, est responsable de ce qui suit :

Réaliser une évaluation de l’incidence algorithmique, en approuver les résultats définitifs et les publier dans un format accessible sur le Portail du gouvernement ouvert avant la production de tout système décisionnel automatisé.Appliquer les exigences appropriées qui sont décrites à l’annexe C en fonction des résultats de l’évaluation de l’incidence algorithmique.Examiner, approuver et mettre à jour l’évaluation de l’incidence algorithmique à intervalles réguliers ou lorsque des changements sont apportés à la fonctionnalité ou à la portée du système décisionnel automatisé.

Présentation d’un avis avant les décisions

Fournir, par l’entremise de tous les modes de prestation de services utilisés, un avis précisant que le processus décisionnel est exécuté ou assisté par un système décisionnel automatisé, conformément à l’annexe C.Rédiger les avis en langage clair et les afficher de manière à ce qu’ils soient bien en vue. Fournir des avis conformes au Guide de rédaction du contenu du site canada.ca.

Fournir des explications après les décisions

Fournir aux personnes concernées une explication détaillée de la façon dont la décision a été prise et la raison pour laquelle elle l’a été, comme prescrit à l’annexe C.

Accès aux composants

Déterminer la licence appropriée pour les composants logiciels, en tenant compte des logiciels à code source ouvert.Obtenir et sauvegarder toutes les versions publiées des composants logiciels utilisés pour les systèmes décisionnels automatisés.Si une licence propriétaire est utilisée, veiller à ce que : le ministère responsable du système décisionnel automatisé se réserve un droit d’accès à ce dernier, de même qu’à toutes les versions publiées des composants logiciels exclusifs, qui lui permette d’effectuer des essais et un suivi, si de telles mesures s’avèrent nécessaires à des fins d’audit, d’enquête, d’inspection, d’examen, d’application de la loi ou de procédure judiciaire, sous réserve de garanties contre une divulgation non autorisée;ce droit d’accès doit également permettre au ministère responsable du système décisionnel automatisé d’autoriser des tiers à examiner les composants, à les mettre à l’essai et à en faire le suivi, au besoin.

Documentation des décisions

Documenter les décisions et les évaluations des systèmes décisionnels automatisés, conformément à la Directive sur les services et le numérique et aux exigences en matière d’examen (6.3.1), de surveillance (6.3.2), de gouvernance des données (6.3.6) et d’établissement de rapports (6.5.1 et 6.5.2).

Mise à l’essai et suivi des résultats

Avant la mise en production d’un système décisionnel automatisé, mettre à l’essai les données, les renseignements et le modèle sous-jacent pour en vérifier l’exactitude et déceler tout biais involontaire ou tout facteur susceptible d’avoir une incidence involontaire ou injuste sur les résultats ou de porter atteinte aux droits et libertés de la personne.Suivre les résultats du système décisionnel automatisé afin d’éviter tout résultat involontaire ou injuste, et de vérifier régulièrement la conformité aux obligations en matière de droits de la personne, aux dispositions législatives régissant les ministères et les programmes ainsi qu’à la présente directive.Veiller à ce que les essais et le suivi tiennent compte des droits de la personne et soient conformes aux dispositions législatives applicables, comme la Charte canadienne des droits et libertés, la Loi canadienne sur les droits de la personne et la Loi sur la Déclaration des Nations Unies sur les droits des peuples autochtones.Consigner la rétroaction de la clientèle, tout incidence imprévue, toute dérogation du personnel à la décision ou à l’évaluation du système ainsi que toute autre défaillance du système, le cas échéant. Utiliser les conclusions tirées du suivi des résultats, de la rétroaction consignée, des incidences imprévues et des dérogations du personnel pour cerner les problèmes et prendre les mesures correctives qui s’imposent.

Qualité des données

Confirmer que toutes les données utilisées pour l’apprentissage du système décisionnel automatisé et celles saisies dans ce dernier sont pertinentes, exactes, à jour, et conformes à la Politique sur les services et le numérique et à la Loi sur la protection des renseignements personnels.

Gouvernance des données

Mettre en place des mesures permettant de garantir que les données utilisées et produites par le système décisionnel automatisé sont traçables, protégées et accessibles de manière appropriée et qu’elles sont recueillies, utilisées, conservées et éliminées légalement, conformément à la Directive sur les services et le numérique, à la Directive sur les pratiques relatives à la protection de la vie privée et à la Directive sur la gestion de la sécurité.

Examen par les pairs

Consulter les personnes possédant l’expertise requise pour examiner le système décisionnel automatisé, l’évaluation de l’incidence algorithmique et les documents à l’appui, et publier l’examen complet ou un résumé en langage clair avant la mise en production du système décisionnel automatisé, conformément à l’annexe C.

Analyse comparative entre les sexes plus

Réaliser une analyse comparative entre les sexes plus lors de l’élaboration ou de la modification du système décisionnel automatisé, conformément à l’annexe C.

Formation du personnel

Fournir une formation à tout le personnel participant au développement, à l’exploitation ou à la gestion des systèmes décisionnels automatisés, conformément à l’annexe C.

Sécurité

Mener des évaluations des risques durant le développement et l’entretien du système décisionnel automatisé et mettre en œuvre des mesures de protection appropriées en matière de gestion de l’information et de sécurité des technologies de l’information, conformément à la Politique sur la sécurité du gouvernement et à la Politique sur les services et le numérique.Mettre en œuvre des mesures visant à garantir l’intégrité des données et des modèles pour empêcher toute altération ou modification non autorisée et se conformer aux lignes directrices du gouvernement du Canada, aux normes et aux pratiques exemplaires de l’industrie, telles que prescrites par le Secrétariat du Conseil du Trésor du Canada.

Services juridiques

Consulter l’unité des services juridiques de votre ministère, dès la phase de conception d’un projet d’automatisation, afin de veiller à ce que l’exploitation du système décisionnel automatisé soit conforme aux exigences juridiques applicables.

Participation humaine

Veiller à ce que le système décisionnel automatisé permette au personnel de participer au processus, comme prescrit à l’annexe C.Obtenir le niveau d’approbation approprié avant de produire un système décisionnel automatisé, comme prescrit à l’annexe C.
Informer la clientèle des mécanismes de recours dont elle dispose pour contester la décision administrative. Veiller à ce que les mécanismes de recours soient rapides, efficaces et faciles d’accès.Publier les renseignements sur l’efficacité et l’efficience des systèmes décisionnels automatisés par rapport aux objectifs du programme sur le Portail du gouvernement ouvert.Publier des renseignements sur le Portail gouvernemental ouvert visant à expliquer en quoi l’exploitation du système de décision automatisé est équitable, transparente et conforme aux droits et libertés de la personne.

Le Secrétariat du Conseil du Trésor du Canada est responsable de ce qui suit :

Fournir une orientation pangouvernementale sur l’utilisation des systèmes décisionnels automatisés.Mettre au point l’évaluation de l’incidence algorithmique et les documents connexes, et les tenir à jour.Mener des activités de communication et de mobilisation dans l’ensemble du gouvernement et auprès des partenaires d’autres administrations et secteurs afin d’élaborer des stratégies, des approches et des processus communs qui favoriseront l’utilisation responsable des systèmes décisionnels automatisés.Au besoin, informer l’administrateur général ou l’administratrice générale responsable des problèmes de conformité à la présente directive.Le cas échéant, appuyer la mise en œuvre de la politique en collaborant avec les ministères et veiller à ce que les systèmes de prise de décision automatisés soient équitables, efficaces et transparents.La présente directive s’applique à toutes les institutions assujetties à la Politique sur les services et le numérique.À titre de pratiques exemplaires, on encourage les ministères et organismes distincts non assujettis à la Politique sur les services et le numérique à respecter les exigences de la présente directive.Mandataires du ParlementLes organisations suivantes sont considérées comme des mandataires du Parlement aux fins de la Directive :
  • Bureau du vérificateur général du Canada
  • Bureau du directeur général des élections
  • Commissariat au lobbying du Canada
  • Commissariat aux langues officielles
  • Commissariat à l’information du Canada
  • Commissariat à la protection de la vie privée du Canada
  • Commissariat à l’intégrité du secteur public du Canada
Les administrateurs généraux et les administratrices générales des organisations mandataires du Parlement sont seuls responsables de surveiller et de garantir la conformité à la présente directive au sein de leur organisation, ainsi que de remédier aux cas de non-conformité conformément aux instruments du Conseil du Trésor qui se rapportent à la gestion de la conformité.Les paragraphes suivants ne s’appliquent pas aux organisations mandataires du Parlement : 6.2.2.1 et 7.4.Les organisations mandataires du Parlement ne sont pas tenues de publier les renseignements liés à l’évaluation de l’incidence algorithmique (6.1.1) ou aux rapports sur le Portail gouvernemental ouvert (6.5.1 et 6.5.2).Les administrateurs généraux et les administratrices générales des organisations mandataires du Parlement sont responsables de l’approbation des systèmes de niveau 4 aux fins de leur fonctionnement (6.3.14 et annexe C). Pour toute question concernant l’interprétation d’un aspect quelconque de la Directive, communiquer avec le Secrétariat du Conseil du Trésor du Canada.Pour toute question concernant la Directive et l’outil d’évaluation de l’incidence algorithmique, le personnel des ministères peut envoyer un courriel à ai-ia@tbs-sct.gc.ca.
Décision administrative
Toute décision prise par une personne autorisée d’un ministère, visée à la section 8 de la Directive, en application des pouvoirs que lui confère une loi du Parlement ou une ordonnance prise en vertu de la prérogative de la Couronne et qui touche des droits juridiques, les privilèges ou les intérêts d’une personne.
Droits de la personne
Les droits de la personne sont les droits légitimes conférés aux personnes parce qu’elles sont des êtres humains (source). Les droits de la personne sont protégés par la Charte canadienne des droits et libertés, la Loi canadienne sur les droits de la personne et la Loi sur la Déclaration des Nations Unies sur les droits des peuples autochtones.
En production
Se dit d’un système décisionnel automatisé qui est utilisé et qui a une incidence sur la clientèle réelle. Il peut s’agir d’un système en version bêta ou d’un système testé par les personnes qui l’utilisent, qui produit des résultats ayant une incidence sur la clientèle.
Environnement d’essai
Environnement contenant du matériel, des instruments, des simulateurs, des outils logiciels et d’autres composantes nécessaires à la réalisation d’un essai. Le déploiement d’un système dans un environnement d’essai permet de simuler son fonctionnement dans un environnement de production sans incidence sur la clientèle réelle. Il peut s’agir de zones d’exploration ou de bacs à sable.
Évaluation de l’incidence algorithmique
Cadre destiné à aider ministères à mieux comprendre les risques associés aux systèmes décisionnels automatisés, à les atténuer et à définir les exigences appropriées qui correspondent le mieux au type de système conçu.
Propriétaire
Se dit des systèmes, des algorithmes ou des logiciels qui appartiennent à une entité, telle qu’une entreprise ou une administration publique. Il s’agit souvent de systèmes à code fermé, c’est-à-dire que le code source n’est pas accessible au public.
Système décisionnel automatisé
Toute technologie qui se substitue au jugement des décideurs ou qui les assiste. Ces systèmes proviennent de domaines tels ceux des statistiques, de la linguistique et de l’informatique. Ils utilisent des techniques telles que les systèmes basés sur des règles, la régression, l’analytique prédictive, l’apprentissage automatique, l’apprentissage en profondeur et les réseaux neuronaux.
NiveauDescription
ILe contexte dans lequel le système est exploité présente vraisemblablement un faible niveau de risque. Ce constat peut être attribuable :
  • aux facteurs d’identité de la clientèle susceptibles d’être touchés;
  • au secteur d’activité et au type de décision pris en charge par le système;
  • au type de technologie utilisée.
La décision aura probablement des effets négligeables, voire nuls, facilement réversibles et brefs sur certains des éléments suivants :
  • les droits des personnes ou des collectivités;
  • l’égalité, la dignité, la vie privée et l’autonomie des personnes;
  • la santé ou le bien-être des personnes ou des collectivités;
  • les intérêts économiques des personnes, des entités ou des collectivités;
  • la durabilité continue d’un écosystème.
Les données traitées par le système présentent vraisemblablement un faible niveau de risque. Ce constat peut s’expliquer par :
  • la sensibilité des données (comme l’utilisation de renseignements non personnels ou non classifiés);
  • l’utilisation de données structurées;
  • la méthode de collecte des données.
IILe contexte dans lequel le système est exploité présente vraisemblablement un niveau de risque modéré. Ce constat peut être attribuable :
  • aux facteurs d’identité de la clientèle susceptibles d’être touchés;
  • au secteur d’activité et au type de décision pris en charge par le système;
  • au type de technologie utilisée.
La décision aura probablement des effets modérés, réversibles et brefs sur certains des éléments suivants :
  • les droits des personnes ou des collectivités;
  • l’égalité, la dignité, la vie privée et l’autonomie des personnes;
  • la santé ou le bien-être des personnes ou des collectivités;
  • les intérêts économiques des personnes, des entités ou des collectivités;
  • la durabilité continue d’un écosystème.
Les données traitées par le système présentent vraisemblablement un niveau de risque modéré. Ce constat peut s’expliquer par :
  • la sensibilité des données (comme l’utilisation de renseignements personnels, non personnels, non classifiés ou protégés);
  • l’utilisation de données structurées ou non structurées;
  • la méthode de collecte des données.
IIILe contexte dans lequel le système est exploité présente vraisemblablement un niveau de risque élevé. Ce constat peut être attribuable :
  • aux facteurs d’identité de la clientèle susceptibles d’être touchés;
  • au secteur d’activité et au type de décision pris en charge par le système;
  • au type de technologie utilisée.
La décision aura probablement des effets importants, difficilement réversibles et possiblement permanents sur certains des éléments suivants :
  • les droits des personnes ou des collectivités;
  • l’égalité, la dignité, la vie privée et l’autonomie des personnes;
  • la santé ou le bien-être des personnes ou des collectivités;
  • les intérêts économiques des personnes, des entités ou des collectivités;
  • la durabilité continue d’un écosystème.
Les données traitées par le système présentent vraisemblablement un niveau de risque élevé. Ce constat peut s’expliquer par :
  • la sensibilité des données (comme l’utilisation de renseignements personnels ou protégés);
  • l’utilisation de données non structurées;
  • la méthode de collecte des données.
IVLe contexte dans lequel le système est exploité présente vraisemblablement un niveau de risque très élevé. Ce constat peut être attribuable :
  • aux facteurs d’identité de la clientèle susceptibles d’être touchés;
  • au secteur d’activité et au type de décision pris en charge par le système;
  • au type de technologie utilisée.
La décision aura probablement des effets très importants, irréversibles et permanents sur certains des éléments suivants :
  • les droits des personnes ou des collectivités;
  • l’égalité, la dignité, la vie privée et l’autonomie des personnes;
  • la santé ou le bien-être des personnes ou des collectivités;
  • les intérêts économiques des personnes, des entités ou des collectivités;
  • la durabilité continue d’un écosystème.
Les données traitées par le système présentent vraisemblablement un niveau de risque très élevé. Ce constat peut s’expliquer par :
  • la sensibilité des données (comme l’utilisation de renseignements personnels, protégés ou classifiés);
  • l’utilisation de données non structurées et incomplètes;
  • la méthode de collecte des données.
ExigenceNiveau INiveau IINiveau IIINiveau IV
Avis
(sections 6.2.1-6.2.2)		Fournir un avis en langage clair de tous les modes de prestation de services utilisés (Internet, en personne, par courrier, par téléphone).Identique au niveau IFournir un avis en langage clair de tous les modes de prestation de services utilisés (Internet, en personne, par courrier, par téléphone). L’avis doit contenir un lien permettant de rediriger la clientèle vers l’explication publiée, conformément au niveau d’explication 1. Identique au niveau III
Explication
(section 6.2.3)		Veiller à ce que toutes les exigences légales applicables soient respectées et à ce qu’une explication  sur le fonctionnement général du système soit publiée.
L’explication doit être rédigée dans un langage clair et comprendre des renseignements sur les points suivants :
  • le rôle du système dans le processus de décision;
  • les données d’entrée, leur source et leur méthode de collecte;
  • les critères utilisés pour l’évaluation des données d’entrée et des opérations visant leur traitement;
  • les résultats de tout examen ou audit;
  • le résultat produit par le système décisionnel automatisé et toute information nécessaire pour l’interpréter dans le contexte de la décision administrative;
  • les principaux facteurs à l’origine d’une décision.
Cette explication doit être publiée sur un site Web du ministère qui est accessible au public et un lien y menant doit être inséré dans l’évaluation de l’incidence algorithmique.
Les explications doivent également fournir à la clientèle des renseignements  sur les possibilités de recours pertinentes, le cas échéant.		Veiller à ce que l’explication prévue au niveau I soit publiée.
En plus, veiller à ce qu’une explication plus détaillée, utile et rédigée en langage clair soit fournie à la clientèle visée par une décision entraînant le refus d’une prestation ou d’un service, ou prévoyant la prise d’une mesure réglementaire.
Cette explication doit renseigner la personne concernée sur les motifs ou les justifications qui sous-tendent la décision administrative. Elle doit comprendre une description claire et axée sur la clientèle du processus qui a conduit le système décisionnel automatisé à rendre la décision, y compris :
  • les principaux facteurs pris en compte, par exemple la description de l’arbre de décision, la notation ou la pondération de certains facteurs;
  • la manière dont les résultats du système décisionnel automatisé ont été utilisés par le personnel.
Fournir à la clientèle le lien vers l’explication prévue au niveau I.		Identique au niveau IIIdentique au niveau II
Examen par les pairs
(section 6.3.7)		Aucune Consulter au moins l’un ou l’une des spécialistes ci-après et publier l’examen complet, ou un résumé de ce dernier, en langage clair sur un site Web du gouvernement du Canada :
  • spécialistes d’une institution gouvernementale fédérale, provinciale, territoriale ou municipale;
  • membres d’une faculté d’un établissement postsecondaire;
  • membres de l’équipe de recherche d’une organisation non gouvernementale pertinente;
  • prestataire de services sous contrat ayant une spécialisation pertinente;
  • comité consultatif des données et d’automatisation  désigné par le Secrétariat du Conseil du Trésor du Canada.
Identique au niveau IIConsulter au moins deux des spécialistes ci-après et publier l’examen complet, ou un résumé de ce dernier, en langage clair sur un site Web du gouvernement du Canada :
  • spécialistes du Conseil national de la recherche du Canada, de Statistique Canada, du Centre de la sécurité des télécommunications Canada ou de Services partagés Canada;
  • membres d’une faculté d’un établissement postsecondaire;
  • membres de l’équipe de recherche d’une organisation non gouvernementale pertinente;
  • prestataire de services sous contrat ayant une spécialisation pertinente;
  • comité consultatif des données et d’automatisation désigné par le Secrétariat du Conseil du Trésor du Canada.
Analyse comparative entre les sexes plus
(section 6.3.8)		Aucune Veiller à ce que les spécialistes de la diversité et de l'inclusion de votre ministère aient été consultés dans le cadre de l’analyse comparative entre les sexes plus et à ce que cette dernière comprenne ce qui suit :
  • une évaluation de l’incidence possible du projet d’automatisation sur les différents groupes de population. L’évaluation doit notamment prendre en considération l’incidence du système décisionnel automatisé, des données utilisées dans le cadre du projet et des effets probables de la décision définitive. Les données utilisées aux fins de l’évaluation doivent être citées dans la mesure du possible. Il est recommandé de ventiler les données en fonction de genre et d’inclure d’autres facteurs identitaires tels que l’âge, le handicap et la race. Si ces données ne sont pas disponibles, précisez quelles sont les lacunes en la matière;
  • des précisions sur les mesures prévues ou existantes visant à gérer les risques recensés dans le cadre de l’analyse comparative entre les sexes plus ou d’autres évaluations.
Identique au niveau IIIdentique au niveau II
Formation
(section 6.3.9)		Offrir une formation fondée sur les différents rôles visant à expliquer brièvement les fonctions du système décisionnel automatisé et leur utilisation appropriée. Identique au niveau IOffrir une formation fondée sur les différents rôles qui porte sur la gestion, la protection et l’utilisation appropriées des fonctions du système décisionnel automatisé et la présentation de ses capacités, notamment en ce qui concerne ce qui suit 
  • les aspects techniques du système décisionnel automatisé en vue de garantir une connaissance à jour du fonctionnement du système;
  • les incidences potentielles du système décisionnel automatisé sur la vie privée, l'équité et les droits de la personne, et la manière de les détecter;
  • la manière d'évaluer et, au besoin, d'annuler des décisions.
La formation doit être récurrente.		Identique au niveau III
Participation humaine
(section 6.3.13)		Le système peut rendre des décisions et procéder à des évaluations sans aucune participation directe du personnel. Le personnel doit contribuer à l’assurance de la qualité du système et peut déroger aux décisions prises par le système, au besoin. Identique au niveau ILa décision définitive doit être prise par le personnel.
Les décisions ne peuvent être prises sans une participation clairement définie du personnel au cours du processus décisionnel.
Le personnel examine les décisions ou les recommandations générées par le système pour vérifier qu’elles sont exactes et appropriées. Il doit prendre part à l’assurance qualité et peut intervenir dans le processus de décision et d’évaluation du système.		Identique au niveau III
Approbation de l’exploitation du système
(section 6.3.14)		Sous-ministre adjoint ou sous-ministre adjointe responsable du programmeIdentique au niveau IAdministrateur général ou administratrice généraleConseil du Trésor