IA agentive dans les services financiers : cinq questions que les conseillers juridiques internes doivent se poser 

1. Quelle est la valeur ajoutée de l’IA agentive?

Les cas d'utilisation de l'IA agentique varient d'une organisation à l'autre et évoluent constamment à mesure que la technologie se développe. Par conséquent, une question préliminaire importante pour les conseillers juridiques internes est de savoir si la valeur ajoutée de l’IA agentive justifie les coûts liés à son adoption et à sa mise en œuvre.

De façon générale, les principaux avantages de l’IA agentive, comparativement aux anciennes formes de systèmes d’IA basés sur des tâches, résident dans sa capacité à réagir à des circonstances dynamiques et évolutives ainsi qu’à interagir avec d’autres outils, plateformes et agents. Les institutions financières pourraient tirer profit de l’IA agentive dans l’exécution de plusieurs tâches :

• Améliorer les processus de connaissance du client : recueillir les renseignements sur les clients, les comparer aux pièces d’identité et autres documents, recouper les informations dans les bases de données, évaluer la tolérance au risque des clients, et formuler des recommandations de produits et de placements en fonction de cette tolérance.
• Rédiger les contrats commerciaux : repérer les écarts par rapport aux dispositions standard, rédiger des clauses subsidiaires fondées sur la tolérance au risque de l'institution et ajuster les dispositions en les rendant plus favorables à l'acheteur ou au vendeur, compte tenu des contrats antérieurs.
• Accroître l’efficacité opérationnelle : surveiller les tendances, analyser les transactions et produire des rapports sur les possibilités d’amélioration. Certains suggèrent également l’utilisation de cette technologie pour soutenir les processus de relations avec la clientèle, ce qui entraînerait une réduction globale des coûts de main-d’œuvre.
• Soutenir l’assurance qualité : surveiller et valider les résultats des agents humains et d’autres systèmes d’IA, produire un rapport sur les erreurs courantes et formuler des recommandations pour réduire les erreurs dans le futur.

2. Comment nos clients ou partenaires utilisent-ils l’IA agentive lorsqu’ils font affaire avec nous? 

Comme l’intérêt pour l’IA agentive ne cesse de croître, il est important que les conseillers juridiques internes soient au fait des tendances du secteur et des attentes des clients concernant la mise en œuvre de cette technologie. Les institutions financières pourraient constater une augmentation du nombre de clients qui utilisent – ou aimeraient utiliser – l’IA agentive pour simplifier leurs processus de services bancaires et d’investissement. Par exemple, des agents d’IA pourraient surveiller les soldes de comptes, transférer les fonds inutilisés dans des comptes à rendement plus élevé entre les cycles de facturation, puis s’assurer que les fonds nécessaires se trouvent dans le bon compte au moment du paiement des factures¹. Les clients pourraient également recourir à l’IA agentive pour suivre leurs dépenses, appliquer des limites, effectuer des achats ou réserver des voyages.

Des fournisseurs de services de paiement, dont Visa, Mastercard et PayPal, ont annoncé récemment qu’ils prendront en charge les agents d’IA qui effectueront des paiements au nom de leurs clients².

3. Comment l’IA agentive augmente-t-elle notre profil de risque?

L’intérêt de l’IA agentive réside dans le fait qu’elle nécessite moins de surveillance que les autres formes d’intelligence artificielle. Cette surveillance réduite augmente toutefois les risques. Par exemple :

• Risque d’erreur : Comme toute forme d’IA, l’IA agentive peut produire des erreurs. Dans le cas d’un agent conversationnel, chaque résultat est vu et évalué par un humain (ne serait-ce que l’utilisateur final). À l’opposé, l’agent d’IA peut avoir à effectuer une série de tâches séquentielles, dont chacune dépend de la bonne exécution de la précédente; une erreur qui se produit au cours de la séquence n’est pas facile à détecter et risque de compromettre l’objectif final ou la fiabilité du produit obtenu. D’après la jurisprudence au Canada et aux États-Unis, les institutions financières seront tenues responsables des erreurs produites par les agents d’IA dans le cadre de leurs activités³.
• Fuites de données : L’IA agentive présente, pour la protection des données, des risques similaires à ceux de l’IA générative en ce qui concerne les données d’entraînement et les données d’entrée. En effet, la collecte et l’utilisation de volumes importants de renseignements personnels pour l’entraînement des modèles d’IA augmentent le risque de fuite de données et d’atteinte à la confidentialité dans tous les contextes. Cependant, en raison de la surveillance limitée de l’IA agentive, ce risque est accru au niveau des données de sortie. Par exemple, un agent d’IA utilise des données sensibles, y compris des renseignements personnels, lorsqu’il interagit avec d’autres plateformes et agents externes à l’organisation. Même si cette utilisation des données est autorisée par les clients (pour effectuer des achats à leur demande, notamment), le risque de divulgation ou de diffusion non autorisée est tout de même plus élevé.
• Risque réglementaire : De nombreuses réglementations et normes en matière d’IA, dont la Loi sur l’intelligence artificielle de l’Union européenne, exigent une classification des risques des systèmes d’IA, laquelle s’accompagne d’une échelle progressive de mesures d’atténuation. Alors que ces normes évoluent, les agents d’IA autonomes qui traitent des informations financières pourraient se voir attribuer une cote de risque plus élevée, ce qui nécessiterait un niveau accru de surveillance réglementaire. Avec l’arrivée de l’IA agentive, les organismes de réglementation fédéraux et provinciaux pourraient également mettre à jour leurs directives sur l’IA générative. Compte tenu des risques associés à cette nouvelle technologie, les organismes de réglementation de la protection de la vie privée et ceux des services financiers (comme le BSIF) seront vraisemblablement très vigilants quant aux utilisations des renseignements sur les clients par l’IA agentive et les décisions qu’elle prend à leur égard.
• Autres considérations : Outre les risques propres à l’IA agentive, il est important de veiller à ne pas surestimer les produits ou les capacités de l’IA. Récemment, la Commission fédérale du commerce des États-Unis a intenté une poursuite contre une société qui affirmait que ses agents d’IA pouvaient fonctionner de manière autonome à titre de représentants du service à la clientèle, alors qu’en réalité ils étaient souvent incapables d’exécuter des fonctions de base telles que passer des appels sortants à des entreprises, planifier des rendez-vous, noter des adresses courriel ou répondre correctement à des questions sans grande supervision⁴.

4. Comment assurons-nous une intervention humaine dans l’utilisation de l’IA agentive?

L’un des principes fondamentaux de la gouvernance responsable de l’IA est de veiller à ce qu’une personne qualifiée surveille l’utilisation de cette technologie. Dans un contexte où des agents d’IA exécutent des tâches de façon autonome, quel rôle les humains jouent-ils? Il s’agit pour l’instant d’une question ouverte pour les organismes de réglementation et les entreprises. Il est probable que les humains devront surveiller de près les activités de l’agent, passer en revue les étapes franchies à différents moments de la séquence de tâches, effectuer des audits réguliers et évaluer en permanence la performance de l’agent par rapport aux paramètres établis.  

La question de savoir si ce degré de surveillance vaut l’investissement dans un système dit « autonome » doit être évaluée par chaque organisation, en fonction d’un outil donné et du cas d’utilisation (voir la question 1). Comme l’IA agentive en est à ses débuts, bon nombre de ces évaluations pourraient aboutir à une réponse négative pour le moment.