Directive sur la prise de décisions automatisée
1. Date d’entrée en vigueur
- 1.1La présente directive entre en vigueur le 1er avril 2019, et la conformité à celle-ci devient obligatoire le 1er avril 2020.
- 1.2La Directive s’applique à tous les systèmes décisionnels automatisés qui ont été développés ou acquis après le 1er avril 2020.
- 1.2.1Les systèmes de décision automatisés existants, développés ou acquis avant le 24 juin 2025, devront être conformes aux exigences nouvelles ou mises à jour au plus tard le 24 juin 2026.
- 1.2.2Les organisations mandataires du Parlement auront jusqu’au 24 juin 2026 pour se conformer aux exigences.
- 1.3La Directive sera réexaminée tous les deux ans, ou à la demande du dirigeant principal ou de la dirigeante principale de l’information du Canada.
2. Autorisations et pouvoirs
- 2.1La Directive est émise conformément aux mêmes autorisations et aux mêmes pouvoirs que ceux indiqués à la section 2 de la Politique sur les services et le numérique.
3. Définitions
- 3.1Les définitions servant à l’interprétation de la présente directive sont présentées à l’annexe A.
4. Objectifs et résultats attendus
- 4.1La Directive a pour objet de garantir que les systèmes décisionnels automatisés sont utilisés d’une manière qui permet de réduire les risques pour la clientèle, les ministères et la société canadienne, d’accroître l’efficacité, l’exactitude et la cohérence des décisions prises en vertu du droit canadien ainsi que d’en faciliter l’interprétation.
- 4.2Les résultats escomptés de la Directive en ce qui a trait aux systèmes décisionnels automatisés sont les suivants :
- 4.2.1Les décisions rendues par les ministères sont appuyées par des données, et sont prises de façon responsable et conformes à l’équité procédurale et aux exigences d’application régulière de la loi.
- 4.2.2Les incidences sur les décisions administratives sont évaluées et les résultats négatifs sont atténués.
- 4.2.3Les données et les renseignements sur l’utilisation des systèmes décisionnels automatisés dans les ministères sont mis à la disposition du public conformément aux exigences en matière de protection des renseignements personnels, de sécurité et de propriété intellectuelle.
5. Portée
- 5.1La Directive s’applique à tout système décisionnel automatisé en production qui servira à la prise d’une décision administrative ou à la réalisation d’une évaluation connexe concernant une personne.
- 5.2La Directive ne vise pas les systèmes décisionnels automatisés utilisés uniquement à des fins de recherche et d’expérimentation ni ceux exploités dans des environnements d’essais.
6. Exigences
Le sous-ministre adjoint ou la sous-ministre adjointe responsable du programme pour lequel le système décisionnel automatisé est utilisé, ou toute autre personne de la haute direction nommée par l’administrateur général ou l’administratrice générale, est responsable de ce qui suit :
6.1 Évaluation de l’incidence algorithmique
- 6.1.1Réaliser une évaluation de l’incidence algorithmique, en approuver les résultats définitifs et les publier dans un format accessible sur le Portail du gouvernement ouvert avant la production de tout système décisionnel automatisé.
- 6.1.2Appliquer les exigences appropriées qui sont décrites à l’annexe C en fonction des résultats de l’évaluation de l’incidence algorithmique.
- 6.1.3Examiner, approuver et mettre à jour l’évaluation de l’incidence algorithmique à intervalles réguliers ou lorsque des changements sont apportés à la fonctionnalité ou à la portée du système décisionnel automatisé.
6.2 Transparence
Présentation d’un avis avant les décisions
- 6.2.1Fournir, par l’entremise de tous les modes de prestation de services utilisés, un avis précisant que le processus décisionnel est exécuté ou assisté par un système décisionnel automatisé, conformément à l’annexe C.
- 6.2.2Rédiger les avis en langage clair et les afficher de manière à ce qu’ils soient bien en vue.
- 6.2.2.1Fournir des avis conformes au Guide de rédaction du contenu du site canada.ca.
Fournir des explications après les décisions
- 6.2.3Fournir aux personnes concernées une explication détaillée de la façon dont la décision a été prise et la raison pour laquelle elle l’a été, comme prescrit à l’annexe C.
Accès aux composants
- 6.2.4Déterminer la licence appropriée pour les composants logiciels, en tenant compte des logiciels à code source ouvert.
- 6.2.5Obtenir et sauvegarder toutes les versions publiées des composants logiciels utilisés pour les systèmes décisionnels automatisés.
- 6.2.6Si une licence propriétaire est utilisée, veiller à ce que :
- 6.2.6.1le ministère responsable du système décisionnel automatisé se réserve un droit d’accès à ce dernier, de même qu’à toutes les versions publiées des composants logiciels exclusifs, qui lui permette d’effectuer des essais et un suivi, si de telles mesures s’avèrent nécessaires à des fins d’audit, d’enquête, d’inspection, d’examen, d’application de la loi ou de procédure judiciaire, sous réserve de garanties contre une divulgation non autorisée;
- 6.2.6.2ce droit d’accès doit également permettre au ministère responsable du système décisionnel automatisé d’autoriser des tiers à examiner les composants, à les mettre à l’essai et à en faire le suivi, au besoin.
Documentation des décisions
- 6.2.7Documenter les décisions et les évaluations des systèmes décisionnels automatisés, conformément à la Directive sur les services et le numérique et aux exigences en matière d’examen (6.3.1), de surveillance (6.3.2), de gouvernance des données (6.3.6) et d’établissement de rapports (6.5.1 et 6.5.2).
6.3 Assurance de la qualité
Mise à l’essai et suivi des résultats
- 6.3.1Avant la mise en production d’un système décisionnel automatisé, mettre à l’essai les données, les renseignements et le modèle sous-jacent pour en vérifier l’exactitude et déceler tout biais involontaire ou tout facteur susceptible d’avoir une incidence involontaire ou injuste sur les résultats ou de porter atteinte aux droits et libertés de la personne.
- 6.3.2Suivre les résultats du système décisionnel automatisé afin d’éviter tout résultat involontaire ou injuste, et de vérifier régulièrement la conformité aux obligations en matière de droits de la personne, aux dispositions législatives régissant les ministères et les programmes ainsi qu’à la présente directive.
- 6.3.3Veiller à ce que les essais et le suivi tiennent compte des droits de la personne et soient conformes aux dispositions législatives applicables, comme la Charte canadienne des droits et libertés, la Loi canadienne sur les droits de la personne et la Loi sur la Déclaration des Nations Unies sur les droits des peuples autochtones.
- 6.3.4Consigner la rétroaction de la clientèle, tout incidence imprévue, toute dérogation du personnel à la décision ou à l’évaluation du système ainsi que toute autre défaillance du système, le cas échéant.
- 6.3.4.1Utiliser les conclusions tirées du suivi des résultats, de la rétroaction consignée, des incidences imprévues et des dérogations du personnel pour cerner les problèmes et prendre les mesures correctives qui s’imposent.
Qualité des données
- 6.3.5Confirmer que toutes les données utilisées pour l’apprentissage du système décisionnel automatisé et celles saisies dans ce dernier sont pertinentes, exactes, à jour, et conformes à la Politique sur les services et le numérique et à la Loi sur la protection des renseignements personnels.
Gouvernance des données
- 6.3.6Mettre en place des mesures permettant de garantir que les données utilisées et produites par le système décisionnel automatisé sont traçables, protégées et accessibles de manière appropriée et qu’elles sont recueillies, utilisées, conservées et éliminées légalement, conformément à la Directive sur les services et le numérique, à la Directive sur les pratiques relatives à la protection de la vie privée et à la Directive sur la gestion de la sécurité.
Examen par les pairs
- 6.3.7Consulter les personnes possédant l’expertise requise pour examiner le système décisionnel automatisé, l’évaluation de l’incidence algorithmique et les documents à l’appui, et publier l’examen complet ou un résumé en langage clair avant la mise en production du système décisionnel automatisé, conformément à l’annexe C.
Analyse comparative entre les sexes plus
- 6.3.8Réaliser une analyse comparative entre les sexes plus lors de l’élaboration ou de la modification du système décisionnel automatisé, conformément à l’annexe C.
Formation du personnel
- 6.3.9Fournir une formation à tout le personnel participant au développement, à l’exploitation ou à la gestion des systèmes décisionnels automatisés, conformément à l’annexe C.
Sécurité
- 6.3.10Mener des évaluations des risques durant le développement et l’entretien du système décisionnel automatisé et mettre en œuvre des mesures de protection appropriées en matière de gestion de l’information et de sécurité des technologies de l’information, conformément à la Politique sur la sécurité du gouvernement et à la Politique sur les services et le numérique.
- 6.3.11Mettre en œuvre des mesures visant à garantir l’intégrité des données et des modèles pour empêcher toute altération ou modification non autorisée et se conformer aux lignes directrices du gouvernement du Canada, aux normes et aux pratiques exemplaires de l’industrie, telles que prescrites par le Secrétariat du Conseil du Trésor du Canada.
Services juridiques
- 6.3.12Consulter l’unité des services juridiques de votre ministère, dès la phase de conception d’un projet d’automatisation, afin de veiller à ce que l’exploitation du système décisionnel automatisé soit conforme aux exigences juridiques applicables.
Participation humaine
- 6.3.13Veiller à ce que le système décisionnel automatisé permette au personnel de participer au processus, comme prescrit à l’annexe C.
- 6.3.14Obtenir le niveau d’approbation approprié avant de produire un système décisionnel automatisé, comme prescrit à l’annexe C.
6.4 Recours
- 6.4.1Informer la clientèle des mécanismes de recours dont elle dispose pour contester la décision administrative.
- 6.4.1.1Veiller à ce que les mécanismes de recours soient rapides, efficaces et faciles d’accès.
6.5 Établissement de rapports
- 6.5.1Publier les renseignements sur l’efficacité et l’efficience des systèmes décisionnels automatisés par rapport aux objectifs du programme sur le Portail du gouvernement ouvert.
- 6.5.2Publier des renseignements sur le Portail gouvernemental ouvert visant à expliquer en quoi l’exploitation du système de décision automatisé est équitable, transparente et conforme aux droits et libertés de la personne.
7. Rôles et responsabilités du Secrétariat du Conseil du Trésor du Canada
Le Secrétariat du Conseil du Trésor du Canada est responsable de ce qui suit :
- 7.1Fournir une orientation pangouvernementale sur l’utilisation des systèmes décisionnels automatisés.
- 7.2Mettre au point l’évaluation de l’incidence algorithmique et les documents connexes, et les tenir à jour.
- 7.3Mener des activités de communication et de mobilisation dans l’ensemble du gouvernement et auprès des partenaires d’autres administrations et secteurs afin d’élaborer des stratégies, des approches et des processus communs qui favoriseront l’utilisation responsable des systèmes décisionnels automatisés.
- 7.4Au besoin, informer l’administrateur général ou l’administratrice générale responsable des problèmes de conformité à la présente directive.
- 7.5Le cas échéant, appuyer la mise en œuvre de la politique en collaborant avec les ministères et veiller à ce que les systèmes de prise de décision automatisés soient équitables, efficaces et transparents.
8. Application
- 8.1La présente directive s’applique à toutes les institutions assujetties à la Politique sur les services et le numérique.
- 8.2À titre de pratiques exemplaires, on encourage les ministères et organismes distincts non assujettis à la Politique sur les services et le numérique à respecter les exigences de la présente directive.
- 8.3Mandataires du Parlement
- 8.3.1Les organisations suivantes sont considérées comme des mandataires du Parlement aux fins de la Directive :
- Bureau du vérificateur général du Canada
- Bureau du directeur général des élections
- Commissariat au lobbying du Canada
- Commissariat aux langues officielles
- Commissariat à l’information du Canada
- Commissariat à la protection de la vie privée du Canada
- Commissariat à l’intégrité du secteur public du Canada
- 8.3.2Les administrateurs généraux et les administratrices générales des organisations mandataires du Parlement sont seuls responsables de surveiller et de garantir la conformité à la présente directive au sein de leur organisation, ainsi que de remédier aux cas de non-conformité conformément aux instruments du Conseil du Trésor qui se rapportent à la gestion de la conformité.
- 8.3.3Les paragraphes suivants ne s’appliquent pas aux organisations mandataires du Parlement : 6.2.2.1 et 7.4.
- 8.3.4Les organisations mandataires du Parlement ne sont pas tenues de publier les renseignements liés à l’évaluation de l’incidence algorithmique (6.1.1) ou aux rapports sur le Portail gouvernemental ouvert (6.5.1 et 6.5.2).
- 8.3.5Les administrateurs généraux et les administratrices générales des organisations mandataires du Parlement sont responsables de l’approbation des systèmes de niveau 4 aux fins de leur fonctionnement (6.3.14 et annexe C).
- 8.3.1Les organisations suivantes sont considérées comme des mandataires du Parlement aux fins de la Directive :
9. Références
9.1 Lois
- Loi sur la gestion des finances publiques
- Loi sur l’accès à l’information
- Charte canadienne des droits et libertés
- Loi canadienne sur les droits de la personne
- Loi sur la Déclaration des Nations Unies sur les droits des peuples autochtones
- Loi sur la protection des renseignements personnels
- Loi sur la protection de l’information
- Loi canadienne sur l’accessibilité
9.2 Instruments de politique connexes
- Politique sur l’accès à l’information
- Politique sur les services et le numérique
- Politique sur la sécurité du gouvernement
- Politique sur la protection de la vie privée
- Politique sur la gestion des personnes
- Directive sur le gouvernement ouvert
- Directive sur le filtrage de sécurité
- Directive sur la gestion de la sécurité
- Directive sur les services et le numérique
- Directive sur les pratiques relatives à la protection de la vie privée
- Code de valeurs et d’éthique du secteur public
10. Demandes d’information
- 10.1Pour toute question concernant l’interprétation d’un aspect quelconque de la Directive, communiquer avec le Secrétariat du Conseil du Trésor du Canada.
- 10.2Pour toute question concernant la Directive et l’outil d’évaluation de l’incidence algorithmique, le personnel des ministères peut envoyer un courriel à ai-ia@tbs-sct.gc.ca.
Annexe A – Définitions
- Décision administrative
- Toute décision prise par une personne autorisée d’un ministère, visée à la section 8 de la Directive, en application des pouvoirs que lui confère une loi du Parlement ou une ordonnance prise en vertu de la prérogative de la Couronne et qui touche des droits juridiques, les privilèges ou les intérêts d’une personne.
- Droits de la personne
- Les droits de la personne sont les droits légitimes conférés aux personnes parce qu’elles sont des êtres humains (source). Les droits de la personne sont protégés par la Charte canadienne des droits et libertés, la Loi canadienne sur les droits de la personne et la Loi sur la Déclaration des Nations Unies sur les droits des peuples autochtones.
- En production
- Se dit d’un système décisionnel automatisé qui est utilisé et qui a une incidence sur la clientèle réelle. Il peut s’agir d’un système en version bêta ou d’un système testé par les personnes qui l’utilisent, qui produit des résultats ayant une incidence sur la clientèle.
- Environnement d’essai
- Environnement contenant du matériel, des instruments, des simulateurs, des outils logiciels et d’autres composantes nécessaires à la réalisation d’un essai. Le déploiement d’un système dans un environnement d’essai permet de simuler son fonctionnement dans un environnement de production sans incidence sur la clientèle réelle. Il peut s’agir de zones d’exploration ou de bacs à sable.
- Évaluation de l’incidence algorithmique
- Cadre destiné à aider ministères à mieux comprendre les risques associés aux systèmes décisionnels automatisés, à les atténuer et à définir les exigences appropriées qui correspondent le mieux au type de système conçu.
- Propriétaire
- Se dit des systèmes, des algorithmes ou des logiciels qui appartiennent à une entité, telle qu’une entreprise ou une administration publique. Il s’agit souvent de systèmes à code fermé, c’est-à-dire que le code source n’est pas accessible au public.
- Système décisionnel automatisé
- Toute technologie qui se substitue au jugement des décideurs ou qui les assiste. Ces systèmes proviennent de domaines tels ceux des statistiques, de la linguistique et de l’informatique. Ils utilisent des techniques telles que les systèmes basés sur des règles, la régression, l’analytique prédictive, l’apprentissage automatique, l’apprentissage en profondeur et les réseaux neuronaux.
Annexe B – Niveaux de l’évaluation de l’incidence
Niveau | Description |
---|---|
I | Le contexte dans lequel le système est exploité présente vraisemblablement un faible niveau de risque. Ce constat peut être attribuable :
|
II | Le contexte dans lequel le système est exploité présente vraisemblablement un niveau de risque modéré. Ce constat peut être attribuable :
|
III | Le contexte dans lequel le système est exploité présente vraisemblablement un niveau de risque élevé. Ce constat peut être attribuable :
|
IV | Le contexte dans lequel le système est exploité présente vraisemblablement un niveau de risque très élevé. Ce constat peut être attribuable :
|
Annexe C – Exigences par niveau d’incidence
Exigence | Niveau I | Niveau II | Niveau III | Niveau IV |
---|---|---|---|---|
Avis (sections 6.2.1-6.2.2) | Fournir un avis en langage clair de tous les modes de prestation de services utilisés (Internet, en personne, par courrier, par téléphone). | Identique au niveau I | Fournir un avis en langage clair de tous les modes de prestation de services utilisés (Internet, en personne, par courrier, par téléphone). L’avis doit contenir un lien permettant de rediriger la clientèle vers l’explication publiée, conformément au niveau d’explication 1. | Identique au niveau III |
Explication (section 6.2.3) | Veiller à ce que toutes les exigences légales applicables soient respectées et à ce qu’une explication sur le fonctionnement général du système soit publiée. L’explication doit être rédigée dans un langage clair et comprendre des renseignements sur les points suivants :
Les explications doivent également fournir à la clientèle des renseignements sur les possibilités de recours pertinentes, le cas échéant. | Veiller à ce que l’explication prévue au niveau I soit publiée. En plus, veiller à ce qu’une explication plus détaillée, utile et rédigée en langage clair soit fournie à la clientèle visée par une décision entraînant le refus d’une prestation ou d’un service, ou prévoyant la prise d’une mesure réglementaire. Cette explication doit renseigner la personne concernée sur les motifs ou les justifications qui sous-tendent la décision administrative. Elle doit comprendre une description claire et axée sur la clientèle du processus qui a conduit le système décisionnel automatisé à rendre la décision, y compris :
| Identique au niveau II | Identique au niveau II |
Examen par les pairs (section 6.3.7) | Aucune | Consulter au moins l’un ou l’une des spécialistes ci-après et publier l’examen complet, ou un résumé de ce dernier, en langage clair sur un site Web du gouvernement du Canada :
| Identique au niveau II | Consulter au moins deux des spécialistes ci-après et publier l’examen complet, ou un résumé de ce dernier, en langage clair sur un site Web du gouvernement du Canada :
|
Analyse comparative entre les sexes plus (section 6.3.8) | Aucune | Veiller à ce que les spécialistes de la diversité et de l'inclusion de votre ministère aient été consultés dans le cadre de l’analyse comparative entre les sexes plus et à ce que cette dernière comprenne ce qui suit :
| Identique au niveau II | Identique au niveau II |
Formation (section 6.3.9) | Offrir une formation fondée sur les différents rôles visant à expliquer brièvement les fonctions du système décisionnel automatisé et leur utilisation appropriée. | Identique au niveau I | Offrir une formation fondée sur les différents rôles qui porte sur la gestion, la protection et l’utilisation appropriées des fonctions du système décisionnel automatisé et la présentation de ses capacités, notamment en ce qui concerne ce qui suit
| Identique au niveau III |
Participation humaine (section 6.3.13) | Le système peut rendre des décisions et procéder à des évaluations sans aucune participation directe du personnel. Le personnel doit contribuer à l’assurance de la qualité du système et peut déroger aux décisions prises par le système, au besoin. | Identique au niveau I | La décision définitive doit être prise par le personnel. Les décisions ne peuvent être prises sans une participation clairement définie du personnel au cours du processus décisionnel. Le personnel examine les décisions ou les recommandations générées par le système pour vérifier qu’elles sont exactes et appropriées. Il doit prendre part à l’assurance qualité et peut intervenir dans le processus de décision et d’évaluation du système. | Identique au niveau III |
Approbation de l’exploitation du système (section 6.3.14) | Sous-ministre adjoint ou sous-ministre adjointe responsable du programme | Identique au niveau I | Administrateur général ou administratrice générale | Conseil du Trésor |
© Sa Majesté le Roi du chef du Canada, représenté par le président du Conseil du Trésor, 2021,
ISBN : 9780660389400
"Page details"
- Date modified: