AI will not be judging you: Canadian Judicial Council issues guidance on the use of AI in Canadian courts
Authors
Lauren Nickerson
Clare Mauro
Marisa Benjamin
As the legal profession grapples with the ethical and practical issues raised by the adoption of generative AI, lawyers have looked to the courts for guidance. Although a small number of practice directions have been issued by individual courts regarding the use of AI in judicial proceedings, the Canadian Judicial Council’s (CJC’s) Guidelines for the Use of Artificial Intelligence in Canadian Courts provide a clear statement of the judiciary’s approach to the use of AI—stating, crucially, that AI cannot supplant judges’ exclusive responsibility for decision-making1.
What you need to know
- The CJC has issued guidelines for the use of AI in Canadian courts. These guidelines are intended to raise awareness of the risks associated with AI tools while providing a principled framework for their use.
- The guidelines promote key values including judicial independence, the ethical use of AI, safety, transparency, monitoring and continued education.
Overview
The CJC is the body of federally nominated Chief Justices and Associate Chief Justices of Canadian superior courts, which oversees judicial conduct and develops policies for the professional development of judges. The CJC periodically provides guidance to Canadian courts on ethical rules for judges in their use of technology.
Judicial decision-making should not be delegated to AI
Judges are responsible for making crucial decisions that shape nearly every aspect of Canadian society, and they cannot delegate that role to anyone—not clerks, not assistants, and certainly not AI. However, judges can leverage various supports to assist in their judicial responsibilities. For example, judges:
- consult law clerks;
- rely on administrative support for proofreading and document formatting;
- use technology that assists with grammar and spell-check; and
- employ speech tools for dictation.
The CJC’s guidelines are intended to help Canadian courts navigate the line between the permissible background use of AI in court processes and the impermissible delegating of judicial decision-making to AI.
Seven guiding principles for the use of AI in Canadian courts
The CJC’s guiding principles can be summarized as follows:
- Protect judicial independence. Any use of AI in Canadian courts must uphold the fundamental principle of judicial independence. The guidelines highlight the risk posed by commercially designed AI systems exerting influence on decision-makers, where their algorithms may prioritize efficiency over the interests of justice.
- Use AI consistently with core values and ethical rules. AI use by judges may be new, but the existing rules still apply: any use of tools or assistants (virtual or otherwise) must uphold the core values of the court and judicial ethics. These values include independence, integrity and respect, diligence and competence, equality and impartiality, fairness, transparency, accessibility, timeliness and certainty.
- Have regard to the legal aspects of AI use. Any integration of AI into court processes must be done with consideration for the law. At all stages of AI use, courts must consider the implications it may have on intellectual property and privacy rights—including in relation to the data used to train the model, any confidential information used in prompts, and AI outputs.
- AI tools must be subject to stringent information security standards and output safeguards. Courts should be attuned to the risks associated with AI use, including the exposure of sensitive training data from sealed court files, tampering and leaking of personal information. Courts should have robust information and cybersecurity programs in place and give special consideration to addressing AI-specific threats.
- AI decision-making should be explainable. Judicial accountability requires the AI to provide understandable explanations for its output. This is necessary to protect public confidence in the administration of justice and fairness in appeals.
- Courts must regularly track the impact of AI deployments. Court administrators should perform comprehensive assessments of AI’s potential impact on judicial independence, workload, backlog reduction, privacy, security, access to justice, and the court’s reputation. The guidelines recommend establishing a pilot project or controlled testing environment before undergoing a full-scale deployment of an AI tool. Following this initial period, courts should periodically assess the efficacy of its AI tools as they evolve.
- Courts must develop a program of education and provide user support. Courts must provide comprehensive education, ensure continuous training, and provide technical support to judges using AI.
Conclusion
The legal profession will continue to watch in anticipation as judges assess how AI will be used in court processes. But these guidelines make one thing clear: AI will not be taking over the role of Canadian judges as decision-makers. Any opportunities to use AI to improve the administration of justice must preserve judicial independence, maintain public confidence in the justice system, and uphold the basic tenets of the law.
- Canadian Judicial Council, Guidelines for the Use of Artificial Intelligence in Canadian Courts, September 2024.
Le mois dernier, le Canada a publié sa première Stratégie industrielle de défense (la Stratégie), qui souligne l’engagement du Canada à développer une base industrielle de défense solide et à stimuler la croissance économique. Ces efforts pourraient aussi comprendre le renforcement de l’état de préparation à la biodéfense et aux contre-mesures médicales, ce qui pourrait constituer des débouchés pour le secteur canadien des sciences de la vie en raison de l’importance accordée aux capacités nationales en ce sens et de la nécessité d’atténuer les risques d’urgences sanitaires.
Développement de contre-mesures médicales au Canada
Comme indiqué dans les bulletins précédents, le quatrième pilier de la Stratégie est axé sur la « sécurisation des chaînes d’approvisionnement pour les intrants et les biens clés » par le renforcement de la production nationale et le stockage de ressources. L’accent est mis tout particulièrement sur les contre-mesures médicales, en précisant que nos « alliés ont établi un lien explicite entre l’état de préparation à la biodéfense et aux contre-mesures médicales et leur sécurité économique et nationale, en élaborant de nouvelles stratégies et de nouveaux mécanismes pour faire progresser ces travaux ». Les contre-mesures médicales désignent divers produits réglementés pouvant être utilisés pour protéger la population lors d’une situation d’urgence de grande ampleur, comme l’éclosion d’une maladie ou une attaque impliquant des armes chimiques, biologiques ou nucléaires. Il peut s’agir de vaccins, de médicaments thérapeutiques et produits biologiques, de dispositifs de tests diagnostiques, des équipements de protection individuelle ou industrielle, et d’autres dispositifs médicaux. Les contre-mesures médicales sont essentielles à la réduction et à l’atténuation des dommages lors d’une urgence de santé publique.
Exploiter les voies réglementaires mises en place lors de la pandémie de COVID-19
Pendant et après la pandémie de COVID-19, le Canada a mis en place plusieurs nouvelles voies réglementaires comme mécanismes d’accélération des approbations de produits médicaux, ce qui pourrait offrir au gouvernement des options pour déployer des contre-mesures médicales afin de faire face aux risques pour la santé publique. Au début de la pandémie, Santé Canada a émis diverses ordonnances provisoires pour permettre l’importation et la vente de médicaments et de dispositifs médicaux qui n’avaient pas eu l’approbation des voies réglementaires traditionnelles. Or, Santé Canada a plutôt fait confiance aux voies d’approbation réglementaire et de l’exemption de certaines exigences en homologation de produits des pays impliqués dans la transaction. Beaucoup de ces règles provisoires ont depuis été officiellement intégrées à la réglementation en vertu de la Loi sur les aliments et drogues et ont été appliquées bien après la COVID-19. Conformément au Règlement sur les aliments et drogues, Santé Canada tient à jour la Liste des maladies qui menacent la santé publique et utilisera une procédure d’autorisation modifiée pour les médicaments d’urgence de santé publique pouvant traiter les affections figurant sur la liste. De même, le Règlement sur les instruments médicaux a établi une liste d’instruments médicaux répondant à un besoin urgent de santé publique, ce qui permet à Santé Canada d’autoriser la commercialisation de ces instruments de manière accélérée. Ces outils réglementaires sont utilisés automatiquement quand une situation médicale présente un grand risque pour la santé publique au Canada et nécessite une action immédiate pour contrer ce risque.
Le rôle de la Stratégie dans le renforcement du régime réglementaire de la santé au Canada
La stratégie prévoit que le Canada adoptera une approche proactive en matière de planification en amont des crises sanitaires. Le gouvernement entend s’assurer que les produits médicaux sont déjà disponibles au Canada afin qu’ils puissent être distribués rapidement en cas d’urgence. D’autres modifications récentes au Règlement sur les aliments et drogues permettent de prépositionner au Canada tous les médicaments d’urgence en santé publique, ce qui signifie qu’ils peuvent être importés dans des installations d’entreposage canadiennes avant que leur mise sur le marché n’ait été autorisée. La Stratégie s’appuie sur ces fondements, en faisant référence à l’organisme existant Préparation aux crises sanitaires Canada (PCSC), un organisme opérationnel spécial au sein d’Innovation, Sciences et Développement économique Canada (ISDE), et à un nouveau Fonds des sciences de la vie, lesquels « collaborent avec des partenaires internationaux et de soutenir l’élaboration et la production de contre-mesures médicales ». PCSC supervise la Stratégie en matière de biofabrication et de sciences de la vie du Canada, qui vise à développer un secteur national des sciences de la vie fort et compétitif doté de capacités de biofabrication de pointe, en mettant l’accent sur la capacité à se préparer et à faire face aux futures priorités et crises sanitaires. Dans cette optique, il y aura des occasions pour les fabricants de nouer des collaborations de recherche et des accords commerciaux ou d’approvisionnement liés aux contre-mesures médicales financées par des programmes fédéraux.
Étroitement lié aux capacités nationales, le pilier III de la stratégie implique « Investissement ciblé pour renforcer un secteur canadien de la défense novateur », avec la promesse que le gouvernement fédéral « soutiendr[a] la recherche et le développement, protéger[a] la propriété intellectuelle, soutiendr[a] les petites et moyennes entreprises, investir[a] dans les compétences et la formation, et encourager[a] les exportations afin de créer un secteur de la défense agile et concurrentiel à l’échelle mondiale ». La nécessité de favoriser le développement de la propriété intellectuelle (PI) et la conservation des droits du Canada est mentionnée à plusieurs reprises dans la Stratégie. Par exemple, la Stratégie prévoit l’établissement de partenariats officiels avec l’industrie canadienne qui « [assureront] la propriété et le contrôle nationaux de la propriété intellectuelle (PI) et des capacités essentielles. » La Stratégie reconnaît l’immense talent des établissements canadiens et la précieuse recherche qui y est menée actuellement et qui est déjà financée par des subventions de recherche d’organismes tels que le Conseil de recherches en sciences naturelles et en génie et les Instituts de recherche en santé du Canada, et fait aussi référence à l’engagement de 1,6 milliard de dollars pour de nouveaux fonds de recherche dans le budget de 2025. Cette prise de conscience de la nécessité de promouvoir et de soutenir l’innovation au Canada laisse présager des possibilités de financement, notamment dans les domaines où le Canada accuse un retard en matière de production nationale et où des engagements d’investissement et de fabrication au Canada peuvent être pris.
Prochaines étapes
Dans les prochains mois, nous prévoyons que le gouvernement du Canada publiera d’autres directives et des mesures de suivi. L’équipe de défense des conservateurs poursuivra sa couverture de perspectives sur la défense au Canada en publiant une analyse supplémentaire pour donner des précisions sur l’incidence de la Stratégie sur de multiples secteurs.