Transcription
Transcription : Conférence avec le chercheur invité dans le cadre de l'Initiative Ian D. Shugart – L'intelligence artificielle dans la fonction publique : innover avec discernement
[00:00:00 Texte à l'écran : Bienvenue.]
[00:00:09 Texte à l'écran : Pour commencer, nous tenons à souligner que cet événement est filmé sur le territoire traditionnel non cédé des Algonquins Anichinabés. Nous vous invitons également à prendre un moment pour réfléchir au territoire autochtone traditionnel sur lequel vous vous trouvez.]
[00:00:24 Texte à l'écran : Conférence avec le chercheur invité dans le cadre de l'Initiative Ian D. Shugart 2026 – L'IA dans la fonction publique : innover avec discernement.]
[00:00:30 Texte à l'écran : Entretien entre Abdi Aidid, chercheur invité, et Taki Sarantakis.]
[00:00:43 L'écran s'estompe et montre Abdi Aidid.]
Abdi Aidid (professeur adjoint, Faculté de droit Henry N.R. Jackman de l'Université de Toronto) : Bonjour tout le monde. Je m'appelle Abdi Aidid. Je suis professeur adjoint à la Faculté de droit Henry N.R. Jackman de l'Université de Toronto, ainsi que titulaire d'une chaire de recherche du Canada sur l'intelligence artificielle et l'accès à la justice. Cette année, j'ai eu le grand privilège d'occuper le poste de chercheur invité dans le cadre de l'Initiative Ian D. Shugart ici, à l'École de la fonction publique du Canada, ce qui m'a notamment permis de jouer un peu le rôle de ressource interne pour tout ce qui touche à l'IA.
Aujourd'hui, j'aimerais vous faire part de quelques réflexions sur ce que j'ai appris au cours de la dernière année dans le cadre de mon travail au sein de la fonction publique fédérale, ainsi que de quelques conseils sur la manière dont nous pourrons traverser en toute sécurité cette période de changements très difficiles qui s'annonce. Avant d'entrer dans le vif du sujet, j'aimerais aborder quelques points et vous expliquer brièvement d'où me vient mon intérêt pour ce sujet. Je porte généralement deux chapeaux dans ce genre de conversation. D'un côté, je suis avocat et professeur de droit, ce qui signifie que je suis attaché à des valeurs telles que la justice et la primauté du droit, et que je suis prudent et peu enclin à prendre des risques.
Mais en tant que professeur de droit, je suis également quelqu'un qui réfléchit à l'avenir de ma profession et qui veille à ce que mes étudiant·es y occupent une place active. Je souhaite que mes étudiant·es s'orientent vers des carrières où ils et elles pourront s'épanouir pleinement, faire preuve de dynamisme et de créativité, et répondre à leurs besoins. C'est pourquoi je considère l'IA non seulement comme un outil susceptible de les aider pouvant être utilisé pour optimiser leurs capacités, mais aussi comme une menace si elle n'est pas gérée correctement.
J'espère que mes étudiant·es pourront exercer un métier qui leur apportera une certaine satisfaction professionnelle, ce qui implique également de limiter l'utilisation de l'IA dans la mesure où elle pourrait entraîner des pertes d'emplois. Mais d'un tout autre côté, je suis également un spécialiste des technologies juridiques. J'ai passé plusieurs années à mettre au point des modèles d'IA qui, entre autres, permettaient de prédire comment les tribunaux seraient susceptibles de statuer à l'avenir dans de nouvelles situations juridiques. On pourrait donc facilement me dire que je suis un peu contradictoire.
En fait, je m'oppose à cette façon de présenter les choses, en partie parce que j'ai une vision bien précise de ce qu'est l'IA et de ce qu'elle devrait faire. J'aime considérer l'IA comme une technologie qui nous donne la capacité de faire plus de bien que jamais auparavant, mais aussi, à l'avenir, de causer beaucoup plus de tort que jamais auparavant. C'est donc à nous qu'il revient d'agir en tant qu'intervenant·es, d'intervenir au besoin et d'imposer des limites si nécessaire. Et ce qui nous préoccupe aujourd'hui, c'est que nous n'avons pas mis en place un ensemble de mécanismes de contrôle permettant de subordonner correctement l'IA à nos intérêts.
Au sein de la fonction publique fédérale, nous réfléchissons notamment à la manière de nous imposer certaines de ces contraintes pour nous assurer que nous ne laissons pas l'IA nous dominer. Cela dit, je reste convaincu que l'IA est extrêmement utile. C'est pourquoi j'aimerais aujourd'hui aborder brièvement les façons dont nous pouvons l'utiliser de manière efficace, en la mettant au service de nos intérêts, afin qu'elle travaille pour nous sans pour autant compromettre nos engagements fondamentaux envers le public. L'une des particularités des fonctionnaires du gouvernement fédéral et des employé·es de l'État en général, c'est que l'on attend de nous une tolérance à l'erreur plus faible.
Nos actions et les activités auxquelles nous participons ont des répercussions sur la vie, la liberté, les biens et la sécurité des gens, et sur plusieurs aspects très intimes, mais qui peuvent aussi être source de tensions sociales. C'est pourquoi il est vraiment important d'agir avec prudence. Il existe sur le marché de nombreuses institutions qui n'ont pas les mêmes scrupules que nous, ou qu'elles devraient avoir, lorsqu'il s'agit d'adopter des outils pouvant présenter un caractère spéculatif. Je pense que c'est une bonne chose et que ça offre à la fonction publique fédérale une véritable occasion de montrer l'exemple en matière d'adoption responsable.
La première chose que je tiens à dire, c'est un point qui, selon moi, mérite d'être répété, même s'il peut sembler évident pour notre auditoire : l'IA est bel et bien là pour rester. Qu'est-ce que je veux dire par là? D'une part, les arguments économiques en faveur de l'IA sont tout simplement trop convaincants. Partout dans le monde, des organismes trouvent des moyens de réaliser des économies et d'utiliser efficacement la technologie afin de mieux atteindre leurs objectifs. Et une fois qu'ils y ont pris goût, il n'y a plus moyen de revenir en arrière.
C'est un point de départ important pour que les gens prennent conscience que, si on se demande encore si l'IA est une bonne ou une mauvaise chose, c'est probablement un débat dépassé. Le fait est que c'est là pour rester. La question qui se pose maintenant est la suivante : comment pouvons-nous l'assimiler et l'utiliser de manière responsable? Un aspect important de l'idée selon laquelle l'IA est là pour rester consiste également à ne pas interpréter à tort ce qui se passe dans le monde de l'intelligence artificielle – notamment les problèmes d'hallucinations, les erreurs, voire des enjeux franchement plus graves, comme les préjugés et la discrimination – comme des signes indiquant que l'IA ne progresse pas comme nous nous y attendons.
En réalité, l'évolution de la technologie n'est jamais linéaire. Par exemple, pensez à votre expérience avec une activité aussi simple que la navigation sur Internet. Si vous utilisiez Internet pour naviguer, faire quelques achats en ligne à la fin des années 1990, vous visitiez un site Web dont la création avait probablement coûté au moins un quart de million de dollars aux développeurs. Il fallait engager un·e expert·e en HTML, un·e graphiste, et payer des frais d'hébergement Web exorbitants. Ce sont des choses dont nous n'avons plus à nous soucier aujourd'hui, car pour un abonnement de 99 $ ou, si l'on utilise un outil d'IA, peut-être même gratuitement, on peut disposer dès aujourd'hui d'un site Web tout à fait fonctionnel.
Bon, ça a pris beaucoup de temps pour en arriver là, car beaucoup de gens se souviendront qu'il y a eu une période de transition chaotique entre-temps. On visitait des sites Web; je pense notamment aux sites d'hébergement de blogues gratuits où, une fois connecté, on pouvait écouter de la musique. Ça ne fonctionnait que sur un seul navigateur. Si on passait à un autre navigateur, par exemple Netscape Navigator, le site Web ne fonctionne plus. Mais aujourd'hui, que vous soyez un·e informaticien·ne chevronné·e ou un·e enfant qui utilise un terminal public gratuit dans une bibliothèque, vous bénéficiez d'une expérience de navigation plutôt bonne. Mais nous avons dû traverser une période tumultueuse avant que le marché ne devienne cohérent et avant de pouvoir garantir une qualité à un prix suffisamment bas pour que ça commence à faire partie du quotidien de tout le monde.
Voyez l'IA un peu comme ça. À l'heure actuelle, nous disposons de modèles fantastiques qui impressionnent beaucoup de monde. Il existe au moins 10 entreprises dans le monde qui développent des modèles de pointe qui semblent se rapprocher de l'intelligence humaine. La question est maintenant de savoir combien de temps il faudra avant d'en arriver à une situation où, tout comme pour notre expérience de navigation, tout le monde pourra plus ou moins comprendre comment ça fonctionne, où une qualité élevée pourra être garantie à un prix suffisamment abordable et où la qualité sera constante à tous les niveaux.
Ce qui est certain, c'est qu'en attendant, nous allons traverser une période mouvementée, ce qui signifie que certaines choses pourraient donner l'impression que nous faisons marche arrière. Et c'est important de s'en souvenir, car le marché doit résoudre ses contradictions. Nous devons déterminer à quoi nous voulons que l'IA serve, par exemple. Certain·es d'entre vous se souviennent peut-être de sites comme Pets.com. La perspective de pouvoir acheter des animaux de compagnie sur Internet était très alléchante, jusqu'à ce que le public fasse savoir qu'il ne souhaitait en réalité pas le faire. Il y a effectivement eu un crash d'Internet.
Il y a eu un cycle d'expansion et de récession. Il y a eu une récession. Mais nieriez-vous aujourd'hui que l'Internet imprègne pratiquement tous les aspects de la société moderne? Et ce, alors même que de nombreuses entreprises ont fait faillite, alors même que la bulle a éclaté, pour ainsi dire. Une bulle pourrait donc éclater. Il pourrait y avoir un cycle d'expansion et de récession. Il se pourrait bien qu'un grand nombre des entreprises que l'on voit aujourd'hui ne soient plus là demain. Bon nombre des outils qui se multiplient aujourd'hui ne seront peut-être pas ceux avec lesquels nous devrons composer une fois que la poussière sera retombée. Ça ne veut pas dire pour autant que nous ne nous dirigeons pas vers une situation où la qualité sera systématiquement élevée et où la diffusion sera généralisée.
S'il est vrai que l'IA est là pour rester, et s'il est également vrai qu'à long terme, on assistera probablement à une prolifération encore plus généralisée de l'IA, cette prolifération se traduira par des outils de bonne qualité à des prix suffisamment bas pour que le grand public puisse utiliser régulièrement ces outils d'IA. Alors, qu'est-ce que ça signifie pour vous, en tant que fonctionnaire? Ça signifie que la nature de vos préoccupations, voire celle de vos objections à l'utilisation de l'IA, doit évoluer. Le meilleur conseil que je puisse donner aux gens, c'est d'investir en soi-même pour devenir un objecteur crédible.
Il existe de nombreuses raisons de s'opposer à l'utilisation de l'IA. J'ai mentionné au début qu'il existe certains domaines très sensibles sur le plan social, et si nous orientons l'IA dans cette direction, ça ne mènera pas nécessairement à de bons résultats. Et même en faisant abstraction des contextes socialement sensibles, il existe certains domaines pour lesquels nous ne disposons pas de données suffisamment fiables pour permettre une utilisation efficace de l'IA. Assurez-vous d'avoir des arguments solides pour vous y opposer, sans pour autant vous exclure complètement de la discussion. Qu'est-ce que je veux dire par là?
Par exemple, vous pourriez vous opposer à l'utilisation de l'IA parce que vous estimez qu'elle pourrait entraîner des conséquences socialement indésirables dans un contexte particulier. Mais ce n'est pas un argument valable pour s'opposer à l'utilisation de l'IA dans le cadre de l'automatisation des tâches administratives ou à l'utilisation d'un outil aussi anodin qu'un outil de synthèse. Le problème, c'est que les gens ne font pas la distinction entre les différents types d'IA et affirment que cette technologie dans son ensemble est nuisible. Je crois que la situation dans laquelle nous nous trouvons aujourd'hui exige plutôt de notre part des évaluations différentes, plus ciblées et plus détaillées, plutôt que l'objection catégorique.
Et dès l'instant où vous formulez une objection catégorique, vous vous placez en marge de la discussion où nous définissons les limites, où nous réfléchissons à l'utilisation efficace de cette technologie et où nous déterminons quelles sont les utilisations appropriées au sein de la fonction publique. Même si vous êtes de nature sceptique et que vous vous inquiétez de l'application concrète de l'IA, y compris dans votre domaine, l'essentiel, à mon avis, est d'aborder le sujet de manière à ce que les gens comprennent que vous ne vous contentez pas de vous opposer à quelque chose qui semble déjà inévitable. Comme je l'ai dit, l'IA est là pour rester.
En fait, on s'oriente probablement vers une situation où elle sera encore plus répandue. Si c'est le cas, considérez votre résistance comme une façon de faire face à cette réalité sociale. Un aspect connexe, pour garantir la crédibilité des objections et éviter de considérer l'IA comme une entité à rejeter catégoriquement, consiste également à reconnaître qu'il est possible d'utiliser l'IA de différentes façons selon les contextes. Et à l'heure actuelle, le débat sur l'utilisation de l'IA dans la fonction publique peut parfois manquer de profondeur, car on ne se rend pas compte qu'il est possible de déployer l'IA de manière bien plus stratégique que ne le laisse entendre le débat critique.
Les robots conversationnels en sont le meilleur exemple. Beaucoup de gens pensent aux robots conversationnels lorsqu'ils pensent à l'IA, car il est en quelque sorte le premier point de contact de chacun·e avec l'intelligence artificielle. Imaginons, par exemple, que vous soyez un organisme du gouvernement fédéral qui utilise l'IA pour répondre aux questions qui lui sont posées. Plusieurs options s'offrent à vous. La première consiste à utiliser un robot conversationnel qui se contente de fournir une première réponse à toutes les demandes. Ou alors, on pourrait dire : « Je m'y connais suffisamment en IA pour savoir que cet outil est particulièrement efficace, par exemple, pour l'orientation. » Il est très performant pour mettre les gens en relation avec l'information, mais si je compte sur lui pour improviser ou donner des conseils à la volée, ça pourrait me causer quelques problèmes.
Premièrement, je risque de me retrouver dans une situation où je compterai sur l'IA pour qu'elle ne se mette pas à « halluciner », même si la fréquence statistique des hallucinations, aussi faible soit-elle, est un phénomène réel qu'il faut prendre au sérieux. Mais l'autre problème, c'est que vous risquez, sans le vouloir, de limiter votre propre participation active à ce genre de prise de décision. Et je crois que c'est là un point crucial. On peut cohabiter avec l'intelligence artificielle dans le cadre d'une division du travail professionnelle et intelligente. Imaginez un outil qui oriente les gens vers l'information pertinente. L'IA se charge de l'orientation, mais lorsqu'elle détecte une situation nécessitant un degré de jugement trop important, elle peut transmettre la demande à une personne disponible, réactive et qui a déjà reçu les renseignements préliminaires fournis par l'IA, laquelle a déjà effectué le triage essentiel.
C'est là un exemple de répartition efficace des tâches, à laquelle on ne peut pas parvenir si l'on considère le robot conversationnel comme un outil qui, en matière de réactivité, est soit bon, soit mauvais. Pour en venir plus précisément aux différentes utilisations de l'IA dans un contexte particulier, je pense qu'il est également important de participer au débat sur l'IA en ayant pleinement conscience de ce que l'on souhaite que les êtres humains accomplissent. À l'heure actuelle, un débat important a lieu ici pour savoir si l'IA nous prive ou non de notre pouvoir discrétionnaire. Vous avez sans doute déjà entendu des gens dire des choses du genre : « Nous aurions tous intérêt à ce qu'un humain intervienne dans le processus. »
Mais tout comme j'encourage tout le monde à prendre conscience que nous nous sommes éloignés du débat sur la question de savoir si l'IA est bonne ou mauvaise, nous nous sommes également, à bien des égards, éloignés du débat sur la question de savoir si les humains sont bons ou mauvais lorsqu'ils travaillent avec l'IA. La présence d'un être humain dans la boucle représente en réalité notre moyen de disposer d'une marge de manœuvre non technologique. Une décision qui pourrait basculer d'un côté comme de l'autre, et à laquelle nous voulons insuffler nos principes et notre bon jugement. Si c'est le cas, il existe certaines situations où le simple fait qu'il s'agisse d'un être humain ne suffira pas.
Par exemple, si vous utilisez un algorithme qui classe les personnes, et que vous demandez à une personne d'effectuer le contrôle de la qualité à la fin du processus pour s'assurer de l'exactitude des résultats, il y a bien un être humain dans la boucle, mais cette personne n'est pas nécessairement habilitée à intervenir. En fait, tout ce qu'elle fait, c'est valider. Dans ce genre de système, le pouvoir discrétionnaire a été déplacé en amont. C'est la technologie qui prenait les décisions discrétionnaires, et les individus n'avaient en réalité le pouvoir de s'y opposer que lorsque la technologie ne fonctionnait pas conformément à ses spécifications.
Ce n'est pas là un pouvoir discrétionnaire véritable et honnête, mais ça implique tout de même l'intervention d'un être humain. Je crois que ce vers quoi nous voulons tendre, c'est un état où nous ne parlons pas simplement d'humains ou de technologie, mais où nous discutons de ce qui est le mieux adapté au type de décisions que nous devons prendre, et du niveau approprié d'autorité, de jugement et de pouvoir discrétionnaire nécessaire pour obtenir les résultats que le public attend de nous. À mesure que vous devenez un·e intervenant·e plus crédible, quelqu'un qui maîtrise bien l'IA et qui reconnaît qu'il existe certaines façons de l'utiliser efficacement et que, dans la pratique, il est possible de limiter certains de ses risques.
Vous devez également vous intéresser aux dernières avancées dans le domaine de l'IA. Pourquoi? Parce qu'il nous incombe d'anticiper la direction que prendront ces changements. Par exemple, lorsque nous avons commencé à envisager l'utilisation de l'IA au sein de la fonction publique fédérale, il s'agissait principalement d'outils algorithmiques, généralement fondés sur l'apprentissage automatique. Il faut considérer l'apprentissage automatique comme une solution à un ensemble de problèmes différent de celui auquel s'attaquent peut-être les outils d'IA actuels. Pensez à l'apprentissage automatique de la même manière que vous envisagez la façon dont votre société de carte de crédit fixe votre limite.
Le système analysera toutes les données issues de vos antécédents, de vos dépenses et de vos revenus, puis les comparera à celles de personnes ayant des habitudes de dépenses ou des revenus semblables, afin d'essayer de déterminer le montant maximal qu'il peut vous prêter sans que vous couriez un risque important de défaut de paiement. Ces sociétés ont recours à l'apprentissage automatique pour le faire, car elles disposent d'un ensemble de données historiques qui leur permettent d'établir des tendances et des prévisions. Si on repense aux mathématiques de 5e secondaire, par exemple, c'est un peu comme trouver la droite de régression dans un nuage de points, juste pour rendre les choses encore plus ennuyeuses. Le problème, c'est que ce système dépend des données que vous lui fournissez.
J'aime le comparer à la situation suivante : Si vous donnez un bloc de glace à un sculpteur. Il peut sculpter un magnifique cygne, mais il ne sera jamais plus grand que le bloc de glace que vous lui avez donné. Ça peut avoir plusieurs implications. Si le bloc de glace présente des imperfections, il est très probable que la sculpture finale en présente également. Si les données sous-jacentes présentent, par exemple, des antécédents d'inégalité, l'utilisation d'outils d'apprentissage automatique comporte le risque de reproduire ces inégalités à l'avenir. Comparez cet élément à ce à quoi nous en sommes arrivés lorsque ChatGPT a commencé à se généraliser, c'est-à-dire l'IA générative. L'IA générative, ce n'est pas comme si on donnait un bloc de glace à un sculpteur et qu'on ne pouvait ensuite créer qu'une sculpture dont la taille ne dépasserait pas celle du bloc de glace.
C'est comme si on donnait un bloc de glace à un sculpteur. Puis, en observant le bloc de glace, en découvrant les propriétés de l'eau gelée, fabriquer un autre bloc de glace et réaliser deux sculptures de glace. L'idée est d'exploiter des données pour créer de l'information entièrement nouvelle. Au sein du gouvernement, nous pratiquions initialement l'apprentissage automatique, ce qui impliquait un profil de risque différent. Ça signifiait que l'éventail des possibilités était limité par ce qui figurait dans les données. Ce n'est plus le seul monde dans lequel nous évoluons aujourd'hui. Aujourd'hui, grâce à la révolution générative, nous pouvons exploiter ces renseignements, en tirer des enseignements et en extraire des idées pour créer de nouveaux produits, et accomplir de nouvelles tâches plus complexes.
Cette évolution nous a pris au dépourvu, mais il s'avère que la suivante nous prévient largement à l'avance : il s'agit de la révolution de l'IA agentive. Imaginez que l'on prenne toutes les capacités issues de l'apprentissage automatique, toutes celles issues de l'IA générative, et qu'on les intègre à un personna doté d'une intelligence artificielle. C'est ce qu'on appelle l'IA agentive, c'est l'agent. Ce qui rend cet agent unique, c'est qu'il peut effectuer ce qu'on appelle des transactions en plusieurs étapes sans nécessiter de supervision à aucune des étapes qui les composent. Pour l'illustrer de manière un peu moins ennuyante, imaginez que vous appeliez le soutien technique il y a dix ans et que la personne à l'autre bout de la ligne vous dise : « Bonjour, acceptez-vous que je prenne le contrôle de votre bureau? »
Puis vous voyiez un curseur se déplacer sur votre ordinateur. Imaginez un outil d'intelligence artificielle capable de faire ça, capable d'effectuer des tâches à votre place. C'est un profil de risque différent. C'est d'ailleurs là qu'est axée la majeure partie de la R et D et l'essentiel de l'énergie créative dans le domaine de l'IA. En tant que fonctionnaire, vous êtes clairement informé que nous passons d'un monde où l'IA était limitée et encadrée par les données, où l'IA pouvait générer de nouvelles informations, à un monde où elle accomplit désormais des tâches précises sous une supervision minimale.
La question qui se pose pour vous est la suivante : comment puis-je l'utiliser et en tirer pleinement parti? Tôt ou tard, alors que nous nous engageons sur la voie de l'IA agentive, nous serons informé·es de ce que sera la prochaine révolution en matière d'IA. Il est donc important que vous vous impliquiez dès maintenant dans ce débat. De cette manière, nous ne serons pas pris au dépourvu. Si vous ne vous lancez pas dans l'aventure de l'IA, vous risquez, comme je l'ai mentionné, d'être écarté de la fonction publique de demain.
Mais je pense que ce qui est encore plus important, c'est le risque de ne pas pouvoir profiter des avantages qu'une telle technologie pourrait apporter à la fonction publique. Quelques exemples méritent ici d'être pris en considération. Pensez à tous les domaines de notre vie sociale et publique où nous générons une grande quantité de données et d'information. Prenons l'exemple de la circulation. Chaque jour, des voitures vont et viennent dans la rue, et les gens tournent à gauche et à droite.
On peut le voir comme un ensemble d'activités qui se déroulent dans le monde. On peut également considérer ces données comme essentielles pour nous permettre de mieux comprendre comment nous pourrions aménager le réseau routier, évaluer l'impact des transports en commun (inaudible), évaluer les dommages et les risques environnementaux et assurer la sécurité du public et des piétons, par exemple. Ce sont là autant d'éléments d'information qui peuvent orienter une prise de décision efficace, laquelle, à l'heure actuelle, repose encore un peu plus sur des conjectures que nous ne voulons bien l'admettre.
Même si vous êtes du genre à dire : « J'ai un bon jugement, je suis un·e professionnel·le compétent·e en matière de politiques publiques, je sais mettre en place des programmes sociaux efficaces », pourquoi ne voudriez-vous pas partir d'un niveau plus élevé, en disposant de plus de données, de plus d'informations pour prendre ces décisions? C'est là que l'IA donne le meilleur d'elle-même, si, comme je l'ai mentionné, on coexiste avec elle dans le cadre d'une division du travail efficace et intelligente. Pour conclure, j'aimerais vous livrer quelques réflexions sur la manière dont vous pourriez trouver votre place dans l'avenir de l'IA.
Je tiens tout d'abord à reconnaître que certains éléments peuvent sembler un peu effrayants. Ça peut faire peur, car on présente souvent la technologie comme quelque chose qui est là pour vous remplacer. Parfois, ça peut faire peur parce qu'on a soudain l'impression de ne plus avoir le contrôle. Avant, on comprenait très bien comment les choses allaient se passer. Aujourd'hui, on dirait qu'il y a tout un tas de zéros et de uns qui sont traités par une technologie que l'on ne comprend pas tout à fait. Mais je vous rassure, ça ne va pas durer éternellement. Si nous sommes obsédés par la technologie sous-jacente de l'IA, c'est en partie parce que nous ne lui faisons pas confiance. Pensez aux technologies que vous connaissez très bien dans votre vie quotidienne.
Votre ordinateur fixe, votre ordinateur portable et le clavier. La plupart des gens ne s'intéressent pas vraiment au fonctionnement de leur clavier. Vous savez que d'une manière ou d'une autre, un signal est transmis à la carte-mère et que ça fait bouger le curseur d'un millimètre dans votre traitement de texte. Peu importe. Ça vous importe peu. Et c'est en partie parce que vous l'avez intégré socialement.
Vous savez que vous pouvez appeler une ligne d'assistance et obtenir un soutien technique si votre clavier présente un problème. Vous savez également que vous pouvez remplacer votre clavier s'il est vraiment brisé. Mais surtout, vous avez déjà pu évaluer le risque que représente pour vous un clavier brisé dans votre vie quotidienne. Et vous avez décidé que ce n'était pas si important que ça. Ce type de fonctionnalité s'inscrit dans le cadre de l'IA. Lorsque nous parlons moins de la technologie sous-jacente et davantage de ce que nous faisons lorsqu'un problème survient, et de la manière dont nous évaluons le risque que ça représente pour nous.
Vous verrez que nos échanges seront axés bien davantage sur les résultats. Aujourd'hui, c'est le processus qui nous obsède, mais c'est justement parce que nous ne lui faisons pas confiance qu'il nous obsède. Nous voulons examiner la situation de plus près, car nous ne croyons pas que ce qui s'y passe soit dans notre intérêt. Si nous en arrivons à un stade où nous aurons vu suffisamment d'exemples d'utilisation efficace de cette technologie et où nous aurons également constaté des cas où elle a échoué sans conséquences graves, je pense que nous ne parlerons plus de la technologie en tant que telle d'ici peu. Nous parlerons plutôt de ce qui relève déjà de votre domaine de compétence.
Par exemple, comment peut-on amener les gens à utiliser l'IA de manière efficace? C'est une question de gestion du personnel. Aujourd'hui, il s'agit de bien comprendre les capacités techniques sous-jacentes. Mais demain, il s'agira de savoir comment tirer le meilleur parti de ses collègues. Si l'on parle des moyens qui vous permettraient de mettre sur pied un programme social ou public utilisant efficacement l'IA. Aujourd'hui, la question est : comment coexister avec l'IA? Comment la mettre au service de mes intérêts? Demain, la conversation portera simplement sur la qualité du programme : était-il efficace ou non? En partie parce que la technologie va devenir de plus en plus invisible à nos yeux, pourvu que nous identifiions les bonnes contraintes.
Et l'essentiel, c'est que nous allions de l'avant sans nous laisser intimider. Pour conclure, je tiens à remercier l'ensemble des membres de la fonction publique fédérale qui, cette année, m'ont réservé un accueil chaleureux et m'ont donné l'occasion de partager certaines de mes réflexions. Je sais que nous traversons une période difficile. Non seulement il existe des incertitudes sur le plan technologique, mais à bien des égards, le monde semble être sens dessus dessous. Et je crois qu'il n'y a pas de rôle plus crucial que celui de se trouver à l'avant-garde de la protection des droits des gens, de veiller à ce que leurs besoins soient comblés et de trouver des moyens de leur permettre de vivre en toute sécurité. Et c'est précisément ce que fait la fonction publique fédérale. Je continue de croire que la fonction publique fédérale canadienne peut montrer l'exemple en matière de bonne intendance de l'IA. J'ai hâte de poursuivre cette discussion avec vous tous et toutes. Merci.
[00:24:42 Taki Sarantakis est assis à côté d'Abdi Aidid.]
Taki Sarantakis (président, École de la fonction publique du Canada) : Bienvenue de nouveau grâce à la magie de la télévision. La conférence est terminée, et nous sommes maintenant en train de faire notre bilan d'après-match autour de la mêlée. Alors, Abdi, j'aimerais commencer par vous dire à quel point j'ai apprécié votre conférence, principalement pour la raison suivante. Si je vous ai bien compris, vous nous avez lancé un appel pour nous dire que la question n'est pas de savoir si l'IA va exister, mais plutôt de savoir comment elle va fonctionner. Est-ce que ça résume bien ce que vous avez dit?
Abdi Aidid : C'est très bien résumé. Je crois qu'on nous a fait croire à une illusion de choix en ce moment, comme si nous pouvions opposer une résistance significative. Que l'IA vous plaise ou non, c'est une réalité sociale à laquelle vous devez faire face. Et si vous pensez que c'est une mauvaise chose, vous devez trouver des façons de vous en servir à bon escient. Si vous trouvez que c'est une bonne chose, vous devez trouver comment limiter correctement ses inconvénients tout en tirant parti de tous ses avantages. La vérité, c'est que pour un individu donné, en particulier un·e fonctionnaire, il s'agit très souvent de répondre à un mandat plutôt que de décider d'adopter ou non cette technologie. Plus tôt nous parviendrons à nous mettre d'accord là-dessus, plus vite nous pourrons passer à la deuxième étape de la discussion, c'est-à-dire la manière de procéder.
Taki Sarantakis : Exactement. Vous avez évoqué deux facteurs limitants. Le premier est la crainte de perdre le contrôle, que nous avons tous et toutes déjà ressentie, et le second est la question de la confiance. Je voudrais m'attarder un peu sur le contrôle, car nous confions déjà une grande partie de notre vie à la technologie, une technologie qui, à bien des égards, n'a absolument rien à voir avec l'IA. L'exemple que je donne toujours à mes ami·es, c'est de se rappeler la toute première fois où leur système ABS s'est déclenché en approchant à un feu rouge ou un stop.
Et tout à coup, vous appuyez sur le frein et rien ne se passe. Comme si la machine vous disait : « Écarte-toi, humain, je m'en charge. Je suis plus douée que toi pour ça. » La première fois que ça s'est produit, vous vous êtes dit : « C'est bizarre. » Pourtant, vous n'avez rien percuté, car la machine était effectivement plus performante que vous. Ce n'est pas comme si, juste après cet incident, nous avions tous désactivé notre système ABS. Alors, parlez-nous un peu de la perte de contrôle et expliquez-nous pourquoi, pour beaucoup de gens, l'IA représente une perte de contrôle fondamentalement différente? Ou bien l'IA n'est-elle que la dernière variante en date des choses sur lesquelles nous avons l'impression de perdre le contrôle?
Abdi Aidid : Je déteste devoir le dire, mais c'est un peu les deux. Mais je vais vous expliquer pourquoi. C'est différent parce que, plus que toute autre technologie que nous ayons rencontrée jusqu'à présent, elle prétend prendre en charge une plus grande partie de ce que nous considérons comme notre propre travail. En ce sens, c'est vrai pour cette automatisation, et c'est effrayant, surtout pour quelqu'un qui s'investit autant dans son travail, qui fait partie intégrante de son image de soi. Ça peut être particulièrement effrayant de ce point de vue. Je tiens à reconnaître que c'est différent à ces égards. Ce qu'il faut reconnaître, c'est qu'il existe certains types de contrôle auxquels il vaut la peine de renoncer. L'exemple que vous avez donné concernant l'ABS est en fait très pertinent, car l'avantage de cette technologie par rapport à nous réside dans le fait qu'elle est plus performante que nous en matière de détection passive des anomalies. Pensez-y de cette façon. Vous pouvez prendre l'exemple tiré de la culture populaire du gardien de sécurité qui s'endort pendant un cambriolage. Au moment critique où il doit être vigilant, il n'est pas là.
Taki Sarantakis : À regarder un écran vidéo.
Abdi Aidid : Oui, et peut-être qu'il tente de rester attentif, mais qu'il a tout simplement plus de difficulté à maintenir son attention sur une longue période.
Taki Sarantakis : Oui.
Abdi Aidid : Imaginez-vous en train d'essayer d'assister à une conférence. Au bout d'une heure, vous commencez à décrocher.
Taki Sarantakis : Au bout d'une heure? La plupart des humains, au bout de 9 secondes.
Abdi Aidid : Au bout de 9 secondes. Oui. La technologie n'a pas cette limite, dans la mesure où elle n'a pas besoin de café. Elle n'a pas besoin qu'on la rassure. Elle n'a pas besoin d'une bonne nuit de sommeil pour repérer très rapidement les problèmes. C'est peut-être le rôle qu'elle peut jouer. Le détecteur d'anomalies passif qui nous sert de filet de sécurité face à nos moments occasionnels d'inattention. C'est un exemple du genre de contrôle pour lequel, si nous avions une idée raisonnable de ce que la technologie permettait de réaliser, nous dirions : « Voilà un bon exemple de la façon dont nous devrions l'utiliser. » La préoccupation majeure que je tiens à souligner, c'est le moment où les gens commencent à percevoir la technologie comme une concurrente. Laissons de côté l'exemple de l'ABS et imaginons plutôt que vous retiriez vos mains du volant, puis que vous effectuiez toutes les manœuvres de direction : vous pourriez alors voir le volant tourner et effectuer des virages en douceur, voire même déterminer l'itinéraire le plus rapide. Tout ça est techniquement possible aujourd'hui. Mais ce serait plus déconcertant, car c'est précisément ce que nous considérons comme notre contribution à l'économie.
Taki Sarantakis : Parce que personne d'entre nous ne conduit mal. On n'entend jamais personne dire : « Oh, je conduis très mal. » « Je suis un très mauvais conducteur. » Tout le monde se considère comme le meilleur conducteur du monde.
Abdi Aidid : Tout le monde est le meilleur conducteur. C'est un peu comme si on ne connaissait jamais vraiment personne. Il y a un million de commentaires sur une vidéo de YouTube, mais personne n'admettra commenter sur YouTube. On ne connaît personne qui aime se disputer sous les vidéos. C'est une façon un peu caricaturale de souligner un point qui me semble important ici, à savoir que nous ne sommes en réalité pas très doué·es pour évaluer nos compétences e matière de technologie.
Taki Sarantakis : Oui. Le deuxième élément, c'est la confiance. Vous avez parlé de contrôle et de confiance. Expliquez-nous un peu pourquoi certain·es d'entre nous pourraient hésiter à faire confiance à l'IA.
Abdi Aidid : La première chose que je vais écarter d'emblée, parce que c'est tellement évident, c'est le fait que ce soit nouveau. Cette méconnaissance engendre une certaine méfiance. Le principal obstacle à l'heure actuelle n'est pas tant l'inconnu, car nous avons adopté des technologies inconnues lorsque nous les avons jugées utiles. Je crois que ça tient au fait que nous la percevons comme une concurrente directe en ce moment.
Taki Sarantakis : Si on remonte dans le temps, tout le monde disait que la radio allait changer radicalement ce que nous sommes. La télévision, l'électricité, etc., c'était vrai. Mais en quoi celle-ci est-elle différente de l'électricité, de la radio, de la télévision ou d'Internet?
Abdi Aidid : Toutes ces technologies contribuaient, même aux yeux d'une personne sceptique, à l'épanouissement de l'humanité.
Taki Sarantakis : Des améliorations apportées à l'être humain.
Abdi Aidid : Des améliorations qui facilitaient les choses. Un éclairage plus intense est utilisé de manière plus régulière tout au long de la journée, ce qui me permet d'accomplir davantage de tâches chez moi. Mais aujourd'hui, si on vous dit que les tâches que vous faites à la maison peuvent être automatisées. Le café, l'éducation des enfants, le ménage, etc. Vous finirez par vous demander à quoi vous servez. Vous ne pouvez l'accepter. Vous ne pouvez supporter l'idée d'un monde où vous ne servez à rien. C'est la combinaison d'une pensée catastrophiste, où l'on s'imagine que tout ça ne peut que nous faire dérailler. L'autre aspect, c'est que nous avons tendance à nous sous-estimer et à sous-estimer ce que nous avons à offrir. Pensez aux professionnel·les. Je vais prendre l'exemple des avocat·es, juste pour que ça nous concerne directement.
Taki Sarantakis : Parce que vous l'êtes.
Abdi Aidid : Beaucoup d'avocates s'inquiètent de la perspective d'une recherche assistée par l'IA. Ils et elles se demandent ce que ça va changer dans leur travail si c'est l'IA qui se charge de sélectionner l'information. Si vous vous considérez comme une professionnel·le de la recherche d'information, alors oui, l'IA représente une menace pour vous. Mais si vous vous considérez comme quelqu'un capable non seulement d'exploiter ces renseignements, en faisant preuve de jugement créatif, en offrant un service client de qualité, mais aussi capable d'apporter des renseignements supplémentaires, de concilier les données fournies par la technologie avec votre compréhension du contexte local, de la disposition du juge ou des subtilités de la loi, alors vous avez vraiment un atout.
Bien souvent, nous avons une image un peu négative de nous-mêmes, mais ça se dissimule derrière l'idée que nous nous croyons supérieurs à l'IA. Nous avons peur de l'IA parce que nous pensons qu'elle accomplit une part de plus en plus importante de ce dont nous sommes capables. En fait, elle accomplit tout un tas de choses qui, si elles constituaient simplement la liste de vos qualités, ne vous rendraient pas si intéressante que ça.
Taki Sarantakis : Vous venez de soulever deux éléments, et j'aimerais que vous commentiez chacun d'eux tour à tour. La première chose que j'entends, c'est que, d'une certaine manière, l'IA menace ce qu'on pourrait appeler notre identité. N'allons pas jusqu'à parler d'humanité, car c'est un terme encore plus vaste. Elle menace notre identité d'une manière dont l'électricité, la radio, la télévision et Internet ne l'ont pas fait. La deuxième chose que je retiens de ce que vous dites, c'est que ce n'est pas tant l'IA en soi qui fait peur. C'est plutôt le fait que l'IA nous prive d'une valeur ajoutée que nous nous attribuons.
Abdi Aidid : Oui.
Taki Sarantakis : L'identité.
Abdi Aidid : C'est très bien résumé. Je crois que les identités professionnelles doivent évoluer. Nous devons moins mettre l'accent sur les tâches que nous accomplissons et davantage sur la valeur que nous apportons. Je vous ai d'ailleurs donné, lors de notre conversation il y a quelque temps, l'exemple des graphistes d'aujourd'hui, qui illustrent bien une profession en train d'apprendre une leçon un peu dure, voire cruelle, en réalité.
Si vous êtes graphiste, vous êtes une artiste. Vous êtes quelqu'un qui possède des connaissances en design et en esthétique. Vous savez cerner les motivations de votre client et les transposer en une identité visuelle : c'est là un acte de créativité brillant. Et les meilleures graphistes possèdent également un bon sens des affaires et d'autres qualités. La valeur de leurs services est donc facturée en conséquence. N'est-ce pas? Et puis, la technologie fait son apparition. Et soudain, les gens peuvent se débrouiller seuls. Ils expriment leur besoin d'un logo. Et il s'avère qu'en fait, ce que le public voulait depuis le début, c'était des logos de bonne qualité, sans pixellisation. Bien sûr, certaines personnes souhaitent faire appel à des services de conception graphique coûteux.
Taki Sarantakis : Si vous êtes Starbucks, si vous êtes Costco.
Abdi Aidid : Pour une marque valant plusieurs millions de dollars, que ce soit une institution publique ou une université. Mais pour les services de conception graphique destinés aux consommateurs, il s'avère que les attentes du public sont moins élevées que celles que la profession s'impose à elle-même. Et ce décalage entre ce que les gens souhaitent réellement et la façon dont les graphistes imaginent comment leurs services doivent être présentés et proposés leur donne une leçon cruelle. Les avocates, par exemple, en sont un excellent exemple. Les avocates se prennent pour des rois-philosophes ou quelque chose du genre. C'est comme si chaque contrat qu'ils rédigeaient repoussait les limites de la connaissance humaine. Mais tout ce que les gens veulent dans la plupart des cas, et en particulier pour une représentation juridique courante, c'est simplement un accord exécutoire.
Taki Sarantakis : Oui. Je veux que mon titre de propriété soit transféré. Je veux que mon testament soit exécutoire. D'une manière générale, je veux ces choses parce que bon nombre d'entre elles sont des produits de base. Je ne veux pas qu'elles soient une expression artistique. Je veux qu'elles soient des objets fonctionnels et pratiques, prêts à l'emploi.
Abdi Aidid : Qui est prévisible, par exemple. Et le fait est que, si on veut rester dans le domaine professionnel, on peut le comparer aux médecins, par exemple. Si vous êtes oncologue ou, mieux encore, radiologue, vous êtes en concurrence avec l'IA depuis longtemps, depuis au moins une génération. Il s'avère que l'IA est très efficace pour détecter les cancers et les lésions sur les images radiologiques; certaines études indiquent même qu'elle est aussi efficace que les oncologues, voire plus. Mais personne ne souhaite recevoir un diagnostic de cancer de la part d'une IA. Les gens perçoivent chez une médecin une valeur propre que les professionnelles du droit, par exemple, n'ont pas su mettre en avant. Le défi que nous devons relever est le suivant : serons-nous capables de convaincre le public de notre valeur à ce stade? Et non pas d'une valeur inventée, mais d'une valeur réelle qui a toujours existé et à laquelle nous n'avons peut-être pas accordé suffisamment d'attention.
Taki Sarantakis : Oui. La première chercheuse invitée que nous avons accueillie à l'École était la Dre Rachel Zellars. Et l'une des choses qu'elle nous a apprises, c'est qu'à première vue, on se dit : « Oh, ce n'est pas bon. » Mais en réalité, quand on y regarde de plus près, c'est en fait une réflexion très pertinente. Elle disait que le cerveau humain est une machine à biais. Nous exprimons instantanément et constamment des biais, car d'une certaine manière, c'est ce qui nous permet de survivre. Nous avons tendance à privilégier la sécurité, à nous méfier des bruits inconnus, etc. Pourtant, l'une des principales critiques formulées à l'égard de l'IA par bon nombre de personnes est justement qu'elle est biaisée. Pour moi, il est plus facile de rendre un algorithme impartial que de rendre un être humain impartial. Parlez-nous un peu de ce paradigme.
Abdi Aidid : Oui. Je crois que nous sommes effectivement des machines à biais. La Dre Zellars s'est penchée sur les types de jugements hâtifs et de décisions que nous prenons, mais nous sommes victimes d'un biais général, celui qui nous empêche d'analyser l'information de manière exhaustive. Nous adoptons certains raccourcis cognitifs, car nous ne pouvons pas espérer traiter toute l'information nécessaire à la prise d'une décision.
Taki Sarantakis : Ça demande beaucoup d'énergie.
Abdi Aidid : Totalement. Si vous êtes, par exemple, une analyste politique et que vous cherchez à formuler une recommandation quant à ce que devrait être une politique, vous pourriez commencer par consulter certaines publications empiriques ou savantes sur le sujet. Qu'est-ce qu'une intervention efficace contre la violence armée? Rendez-vous sur Google Scholar et vous y trouverez 10 000 articles évalués par des pairs sur les interventions efficaces contre la violence armée. Maintenant, ce qui limite la qualité de vos conseils, c'est la quantité d'informations que vous pouvez assimiler en une journée.
Taki Sarantakis : Oui.
Abdi Aidid : Vous êtes déjà confrontée à certaines contraintes.
Taki Sarantakis : Et donc, vous vous fiez à vos biais.
Abdi Aidid : Soit vous vous fiez à vos biais, soit vous recourez à des méthodes comme l'échantillonnage. Mais le problème, c'est que lorsque vous décidez de ce que vous allez lire, vous y injectez déjà vos biais. Ça va à l'encontre de votre expérience, de votre compréhension de ce qui est important, de votre perception de la façon dont le reste de votre journée va se dérouler. Vous introduisez donc un biais dès le tri de l'information. Avant même d'aborder votre enfance, vos traumatismes et ce que vous ressentez envers les autres.
Taki Sarantakis : J'ai un biais face aux 10 000 publications. Qu'est-ce que je vais regarder aujourd'hui? Qu'est-ce que je vais regarder? Qu'est-ce que je vais regarder sérieusement? Qu'est-ce que je vais survoler?
Abdi Aidid : Oui.
Taki Sarantakis : Qu'est-ce que je vais laisser de côté?
Abdi Aidid : Tout ça constitue autant d'occasions où des biais peuvent se manifester, avant même d'aborder les types de biais dont on parle dans le contexte social, qui sont liés à des schémas de pensée prédéterminés ou à des préjudices.
Taki Sarantakis : L'endroit où vous avez grandi, qui étaient vos parents ou quel est votre cercle d'amies.
Abdi Aidid : Oui. L'IA pourrait partager certains de ces biais sociaux négatifs avec nous afin de reproduire une perception semblable à la nôtre, mais elle ne partage pas ce biais de synthèse de l'information qui nous caractérise.
Taki Sarantakis : La seule chose qui m'inquiète vraiment concernant l'IA et la question des biais, c'est que nous risquions de perpétuer certains biais actuels, car pour l'instant, nous entraînons l'IA à partir des données disponibles, et une grande partie de ces données sont biaisées en raison de l'intervention humaine.
Abdi Aidid : Oui.
Taki Sarantakis : À part ça, je ne pense pas que l'IA soit plus ou moins biaisée. En fait, je pense qu'à long terme, l'IA sera moins sujette aux biais que les humains.
Abdi Aidid : Je pense que c'est effectivement le cas. Mais j'aimerais proposer une autre façon d'aborder la question. Si on utilise l'IA pour des tâches telles que la détermination des peines pénales, oui, ça reflétera les données sous-jacentes, c'est-à-dire l'historique des peines prononcées. D'un point de vue sociologique, nous savons que les peines imposées aux criminels sont inéquitables, en particulier entre les différentes catégories raciales. Donc, si nous intégrons ces données dans l'algorithme, celui-ci va reproduire cette histoire négative à l'avenir.
Taki Sarantakis : Exactement.
Abdi Aidid : On le sait bien.
Taki Sarantakis : Je veux juste faire une petite distinction parce que ça me semble important. Ce n'est pas un problème qui vient de la machine. C'est un problème humain qui a été transposé dans un autre domaine, celui des machines.
Abdi Aidid : Tout à fait. Si je dis qu'on devrait aborder cette question sous un angle un peu différent, c'est justement parce que ça revient à nous tendre un miroir prédictif. On le sait bien. Mais ça ouvre la voie à d'autres types de biais. Ou alors, on pourrait parler de « scientisme », c'est-à-dire de gens qui pensent que, parce que ça fait appel à beaucoup de données ou que c'est rigoureux sur le plan analytique…
Taki Sarantakis : Il faut faire confiance à la machine.
Abdi Aidid : Même si je ne fais pas confiance à la machine, elle accomplit des tâches plus complexes que ce que je fais. Donc, je préfère m'en tenir à ce genre de prévision inéquitable.
Taki Sarantakis : Il y a un dessin animé génial où on voit deux personnes debout sous une pluie battante, et l'une d'elles jette un coup d'œil à son téléphone et dit : « Oh, l'appareil dit qu'il ne pleut pas. Ça doit être vrai. Il ne pleut pas, même si nous sommes tous les deux mouillés. »
Abdi Aidid : Exactement. C'est un risque réel pour nous. Et ça tient en partie à l'évolution de notre rapport à la technologie. Nous nous en méfions, mais ce n'est pas parce que nous pensons qu'elle est moins performante. Nous nous en méfions en partie parce que nous nous demandons si elle est aussi efficace. Que se passe-t-il dans ce cas-là? C'est comme n'importe quel sentiment d'insécurité. En gros, on se dit : « Bon, c'est puissant. »
Taki Sarantakis : Oui.
Abdi Aidid : C'est puissant d'une manière que je ne suis pas. C'est donc un risque. L'autre, qui me semble peut-être encore plus crucial, concerne la façon dont nous abordons la question des biais avec ce genre d'outils. Il y a bien sûr le biais lié à ce qui se passe dans l'outil, à ce qu'il finit par produire. Mais il y a aussi le biais qui relève d'une démarche profondément humaine : choisir, pour ainsi dire, vers qui diriger l' « arme » de l'IA. Si l'IA est un outil puissant, c'est parfois notre choix quant à la manière de l'utiliser qui détermine si nous obtiendrons de bons résultats.
Taki Sarantakis : Exactement. Je pense que ça s'appelle le déploiement du domaine. Si elle est déployée ici, ou là.
Abdi Aidid : Et parfois, les résultats négatifs ne sont pas tant le fait d'éléments cachés dans les données. Parfois, c'est plutôt parce que le secteur n'est pas encore prêt. Ce secteur n'est pas encore prêt. Je pense à la fonction publique ici. Il faut notamment procéder à une véritable évaluation de la qualité de vos données avant d'y superposer toute une série de technologies d'IA. C'est un peu comme construire une maison sur des sables mouvants.
Taki Sarantakis : Oui. C'est en fait l'un des facteurs qui freineront à jamais l'adoption de cette technologie dans de nombreux secteurs – pas seulement au sein du gouvernement du Canada, mais dans de nombreux secteurs gouvernementaux – ce qui est étrange. Les gouvernements qui reposent sur le concept de registres de données. Qui êtes-vous?
Abdi Aidid : Totalement.
Taki Sarantakis : Quelle parcelle de terrain possédez-vous? Quel âge avez-vous, avant que je vous verse votre pension? Quel âge avez-vous, avant que je vous accorde votre permis de conduire? L'État lui-même a été bâti sur les données, et pourtant, nous n'avons pas accordé autant d'importance aux données que le secteur privé.
Abdi Aidid : Je crois que ça tient en partie au fait qu'on n'a pas su prévoir que ces données pourraient s'avérer utiles d'une autre manière.
Taki Sarantakis : Oui.
Abdi Aidid : Nous imaginions que les données étaient simplement ce qu'il fallait récupérer. Nous n'avions jamais imaginé devoir les traiter ou leur appliquer des fonctions. Maintenant que nous le savons – ce qui est d'ailleurs l'un des thèmes de cette conférence – nous prenons conscience que, dorénavant, il ne s'agit plus simplement d'aller corriger les données existantes pour les rendre lisibles par une machine. Il s'agit de veiller à ce que toute collecte de données future se prête au calcul et à l'application de fonctions, ce qui implique notamment de repenser les formulaires. Il faut effectuer ce travail en amont, qui s'avère être un prérequis pour l'IA complexe qui fera de plus en plus partie de notre avenir. Et en ce qui concerne la qualité et la maturité des données, je pense qu'il y a un point important à retenir ici. Notre quatrième type fonctionnel de données concerne une application de l'IA qu'il nous faut également clarifier. Ça ne vous empêchera pas d'utiliser l'IA pour résumer la littérature qui alimente votre note de politique générale, ni d'utiliser l'IA pour la rédaction de certaines parties.
Taki Sarantakis : Les gens copient-collent depuis Google, ce que nous faisons nous-mêmes depuis 1998.
Abdi Aidid : Ce que vous ne pouvez pas faire, c'est dire : « L'architecture des données est insuffisante » pour vous empêcher de mettre en place votre petite solution d'IA dans un coin de votre bureau. Continuez à utiliser l'IA dans les contextes où les données ne posent pas de problème.
Taki Sarantakis : Exactement.
Abdi Aidid : C'est la clé.
Taki Sarantakis : Pour l'instant, on avance un peu à tâtons dans ce domaine au sein du secteur public, et ça va encore durer longtemps. C'est naturel et normal, même si, compte tenu de la rapidité des changements, il est en fait inquiétant de constater le temps qu'il nous faut pour nous familiariser avec une nouvelle technologie. Mais nous l'avons déjà fait par le passé avec la télévision, la radio, l'électricité, l'automobile, Internet et les médias sociaux. Et dans certains de ces cas, nous continuons à tâtonner et à trébucher, même 30 ans plus tard. Un autre secteur qui vit cette situation en temps réel est justement le vôtre : l'éducation.
Abdi Aidid : Oui.
Taki Sarantakis : Comment abordez-vous le sujet de l'IA dans votre salle de classe? Comment votre faculté de droit gère-t-elle cette question? Comment l'Université de Toronto gère-t-elle cette question?
Abdi Aidid : Oui. L'Université de Toronto, comme toutes les institutions, est confrontée à la réalité de l'IA et élabore des solutions concertées et négociées pour y faire face. Je crois que la plus grande erreur que nous commettons, c'est de faire l'autruche et de prétendre que l'IA n'est pas…
Taki Sarantakis : Que l'IA est bonne ou mauvaise.
Abdi Aidid : Ou encore d'interdire catégoriquement toute utilisation de l'IA, quelle qu'elle soit. Le thème doit porter sur la clarification de l'utilisation de l'IA. Je pense que ce que nous ne voulons pas, c'est que les gens utilisent l'IA pour des tâches où nous devons évaluer leur capacité à retenir des informations, leur jugement ou leur esprit d'analyse. Mais le fait d'utiliser l'IA pour se préparer à toutes ces choses, par exemple en vue d'une évaluation finale, n'est peut-être pas aussi répréhensible que de l'utiliser directement pour l'évaluation elle-même. On commence déjà à constater aujourd'hui cette maturité qui permet justement de faire la distinction entre ces éléments. Ma philosophie personnelle à ce sujet est qu'il faut réfléchir à un bilan des compétences que les gens doivent acquérir. Et si ces compétences s'acquièrent mieux de façon analogique, alors nous devrions préserver jalousement la méthode analogique.
Je donne sans cesse l'exemple de la calculatrice. C'est l'exemple le plus simple à comprendre. Ma fille a 7 ans. Elle n'a jamais utilisé de calculatrice. La raison, c'est que nous sommes absolument certains que les jeunes enfants s'en sortiront mieux s'ils acquièrent d'abord des connaissances conceptuelles en arithmétique. En fait, ils seront mieux à même de maîtriser cette technologie s'ils possèdent ces connaissances. La question qui se pose à nous est la suivante : combien d'éléments de notre système d'éducation sommes-nous aussi sûrs que des connaissances conceptuelles en arithmétique? Une fois que nous aurons établi cette liste, limitons l'utilisation de l'IA à ces cas-là.
Ensuite, réfléchissons à la question des seuils. Mes étudiantes en doctorat en droit suivent un programme de trois ans. Peut-être faudrait-il limiter l'utilisation de l'IA suffisamment tôt, mais leur permettre de l'utiliser à un stade ultérieur, une fois qu'ils et elles auront démontré leur maîtrise des bases conceptuelles. La raison pour laquelle ces discussions sont évitées – non pas par nous, mais par d'autres – c'est que le travail consistant à déterminer quelles sont ces bases conceptuelles est une tâche difficile, et qu'il n'y a pas vraiment de consensus.
Taki Sarantakis : Voici notre avant-dernière question. Je déteste faire ça, mais je vais me lancer dans une réflexion philosophique. La raison pour laquelle je déteste faire ça, c'est qu'il me semble qu'il faut entrer dans les détails. Il faut descendre sur le terrain, et beaucoup d'entre nous, face à l'IA, se comportent comme si on était Socrate et Platon, et on se dit : « Oui, on peut y réfléchir ». Mais souvent, ça sert d'excuse pour ne pas vraiment nous pencher sur la question. Je vais donc me lancer dans une réflexion philosophique pour notre avant-dernière question. Vous et moi avons un certain âge. J'ai l'impression que l'IA arrive à point nommé pour nous. Nous avons déjà un emploi.
Nous avons déjà appris à lire en grandissant. Nous avons déjà appris à faire des recherches, à synthétiser des informations et à comprendre les notions fondamentales des mathématiques. J'ai l'impression que, pour les gens de notre tranche d'âge, c'est presque une panacée. Un peu comme un outil qui prend le petit Internet et qui le surpasse largement en tant qu'outil. Mais vous et moi sommes aussi des professionnels qui travaillons avec la génération qui nous succède. Nous sommes aussi des parents, comme vous venez de le mentionner, votre fille a sept ans. Quelle sera notre approche philosophique face à l'éducation de nos enfants, face au prochain stagiaire en droit et face à la prochaine personne qui intégrera votre cours de droit en tant que nouvelle étudiant·e en droit?
Abdi Aidid : Je suis vraiment ravie de répondre à cette question, car ça me permet d'utiliser une autre analogie. Et en tant que professeur, j'adore utiliser des analogies. Tout d'abord, ce n'est pas parce que la technologie en est capable que nous allons pour autant accepter de l'utiliser dans une multitude de contextes différents. Ça ne signifie pas non plus que nous allons systématiquement opter pour la version la plus technologique d'une chose. Très souvent, quand nous allons dans une salle de bains publique, on se retrouve encore à tourner des robinets, alors qu'on a mis au point la technologie automatisée pour ça il y a déjà 40 ans.
C'est vrai. Pourtant, la plupart du temps, on doit encore tourner les robinets. Et ça tient en partie au fait qu'il existe d'autres facteurs déterminants ou qui nous aident à déterminer comment la technologie va se répandre. Parfois, ça n'a rien à voir avec nos capacités techniques. Je ne m'attends donc pas à ce que l'IA soit déployée partout. Je n'y crois tout simplement pas. Ça s'explique en partie par le fait qu'il pourrait y avoir des obstacles financiers à son déploiement dans certains contextes. Parfois, nous déciderons qu'il n'existe pas de contexte particulier dans lequel nous souhaitons l'utiliser. Et il existe toute une autre catégorie de domaines pour lesquels nous avons une vision claire et positive de ce que nous voulons accomplir, et où l'IA viendrait compromettre ces objectifs. Réfléchissez-y. Nous disposons d'appareils pour soulever des objets lourds.
Les utiliseriez-vous à la salle de sport si vous faisiez de la musculation? Non, parce que la valeur sociale, physique, économique et biologique du fait de soulever soi-même ce poids vous apparaît si clairement, au point que vous la ressentez dans vos os. Vous vous diriez : « Ce serait une perte de temps et ça ne m'aiderait pas à atteindre mon objectif. » Dans le domaine de l'éducation, nous devons avancer le même genre d'arguments que ceux qui ont été avancés dans le domaine du conditionnement physique et dans certains contextes liés à la santé, où ça va tellement de soi que nous sommes parvenus à un consensus sur la manière appropriée de procéder. C'est un débat public auquel il faut participer. Mais ce qu'il ne faut surtout pas faire, c'est se montrer craintif face à l'IA en général, car ce débat ne peut avoir lieu que si l'on prend réellement en compte les capacités de l'IA, ainsi que les motivations qui poussent les gens à contourner le processus.
Taki Sarantakis : Absolument. Dernière question. Dans le cadre de votre séjour à titre de chercheur invité à l'École de la fonction publique du Canada, vous avez passé beaucoup de temps à échanger avec d'autres instances gouvernementales, à participer à diverses tables de gestion et à collaborer avec différents services ici, à l'École. Puisque vous avez visité le « zoo », pour ainsi dire, en tant que visiteur, parlez-nous un peu de ce que vous retenez de cette expérience en termes d'observation sur la façon dont les « animaux » du zoo – dont je fais partie – se présentent, pensent et agissent. Et puis, pour conclure, pourriez-vous nous livrer quelques conseils, à la fois d'un point de vue théorique et pratique, sur ce que nous devrions faire à court terme en matière d'IA?
Abdi Aidid : Oui. La fonction publique s'inquiète à juste titre de ce que l'IA va signifier sur le plan de l'exécution du travail. Il y a des préoccupations concernant les erreurs et les hallucinations, les biais et la discrimination. Ensuite, il y a la crainte du remplacement de la main-d'œuvre, ce qui, pour moi, résume tout ce que ça va signifier. Nous devons prendre ces préoccupations à cœur et nous y confronter. Pourquoi? Parce que ça nous offre l'occasion de montrer l'exemple d'une utilisation efficace de l'IA.
Dans le secteur privé, certains n'ont aucun des scrupules que la fonction publique peut avoir quant à l'utilisation et à l'adoption de l'IA. Si vous avez l'habitude de créer des catalogues en ligne ou quelque chose du genre, ou si vous gérez un site de commerce électronique, et que vous pouvez désormais utiliser l'IA pour rédiger les descriptions de produits, vous ne manquez pas cette occasion. Comparez ça à vos fonctionnaires exemplaires, pour qui la rédaction est au cœur même de leur travail. Et on a tendance à se demander : pourquoi y a-t-il un tel décalage? Pourquoi réagissons-nous si différemment dans la fonction publique par rapport à ce que l'on observe dans le secteur privé? Je soupçonne que tout ça est extrêmement lié. C'est un mélange hétéroclite de raisons.
Ça tient en partie au fait que nous pensons que notre travail revêt une certaine gravité, et que nous ne pouvons pas déléguer de manière excessive à des technologies encore spéculatives. Ça tient aussi en partie à l'instinct de conservation. Je crois que le plus difficile pour l'instant sera de démêler ces éléments, car c'est ça qui vous indiquera la voie à suivre. Par exemple, plutôt que de laisser cette anxiété s'accumuler en une masse informe, vous pourriez en fait vous en servir pour vous guider dans la manière dont vous devriez appliquer l'IA. Par exemple, les raisons pour lesquelles vous ne voulez pas déléguer certaines tâches, parce qu'il est dans l'intérêt général qu'un être humain s'en charge. C'est dans ces cas-là que vous ne devez pas déployer l'IA.
Taki Sarantakis : Vous le conservez précieusement.
Abdi Aidid : Analysez la situation en détail. S'il s'agit simplement de l'équivalent d'une description de produit dans un catalogue, alors vous devez vous poser une autre question. Il ne s'agit pas de savoir si l'IA peut le faire, mais si j'ai vraiment à cœur le bien-être du public, est-ce que je ne lèse pas le public en ne confiant pas cette tâche à l'IA? Je pense que c'est ce genre de changement culturel et cognitif dont nous avons besoin. Il s'agit d'analyser tout ça dès maintenant. On vous l'a présenté comme un tout, un panier de produits tout prêt; décomposez-le. C'est ce que nous devons faire, selon moi. En nous appuyant sur la sagesse académique…
Taki Sarantakis : Et la pratique aussi.
Abdi Aidid : Oui, pour partager avec les autres. Je voudrais dire que chaque discussion sur l'IA me donne l'impression d'arriver trop tard. Dans une perspective plus large, nous n'en sommes pas au jour zéro. Peut-être en sommes-nous au jour un. Et voici comment vous pouvez le savoir. Si demain, nous disions simplement : « Automatisons tout ce que nous faisons. Je vais devenir le professeur automatisé, l'avocat automatisé. » En réalité, il n'y aurait pas assez d'outils pour que je puisse automatiser entièrement mon travail de bout en bout, sans parler d'outils de qualité. Nous n'en sommes pas encore au stade où la technologie est capable de nous remplacer, ni à celui où nous savons exactement comment elle va s'imposer. Le marché va désigner des perdants. Il y a certaines choses dont on ne voudra pas, certaines choses qui constitueront une utilisation injustifiable des ressources.
Taki Sarantakis : Comme pets.com.
Abdi Aidid : L'exemple de pets.com. Je pense que pets.com pourrait refaire surface dans plusieurs années. Aujourd'hui, il est possible d'acheter un animal de compagnie en ligne, car nous avons déclaré que nous disposons désormais des mécanismes, de l'écosystème, des lois, des règlements et de la sensibilisation sociale nécessaires pour pouvoir effectuer ce type de transactions en ligne. Il y a 30 ans, nous avions déclaré que nous n'étions pas prêts. Nous ne savons pas exactement où ça va finir par se stabiliser. Observez bien, mais ne tirez pas de conclusions hâtives en pensant que le paysage tel qu'il se présente aujourd'hui restera le même dans 20 ans. En fait, d'après ce que nous savons, il y aura davantage d'IA, ça ne fait aucun doute, mais il se pourrait qu'il y ait moins d'IA de ce type. Peut-être une IA grand public un peu moins farfelue.
Taki Sarantakis : Oui.
Abdi Aidid : Une IA nettement moins axée sur le commerce de détail. Il y aura peut-être moins de jeux d'IA. Il y aura peut-être moins de jouets d'IA. Il pourrait y avoir plus d'infrastructures d'IA.
Taki Sarantakis : Oui. L'IA intégrée pour les services administratifs.
Abdi Aidid : L'IA intégrée pour les services administratifs. Gardez à l'esprit qu'il est tout à fait possible que nous soyons en train, au grand jour, de régler les derniers détails.
Taki Sarantakis : Absolument. Professeur Abdi Aidid, merci beaucoup, non seulement pour cette conversation et pour votre conférence, mais surtout et avant tout, merci d'avoir passé, je ne sais plus exactement combien de temps… six mois avec nous?
Abdi Aidid : Plus longtemps que ça. Ça fait plutôt neuf jusqu'à présent, et je vais encore rester ici pendant quelques mois.
Taki Sarantakis : Oui. Et vous avez fait ce que j'adore accomplir et que je considère comme ma mission à l'École de la fonction publique du Canada, vous avez bousculé les idées reçues quand vous discutez avec les gens. Et c'est réellement ça, l'apprentissage. C'est prendre quelque chose que l'on croyait acquis et compris, le remettre complètement en question et le recadrer d'une manière différente.
Abdi Aidid : Je vous remercie. C'est l'un des plus grands honneurs de ma vie et j'espère que nous pourrons poursuivre dans cette voie.
Taki Sarantakis : Merci beaucoup.
[00:59:13 Le logo de l'EFPC, puis l'URL canada.ca/ecole s'affichent à l'écran.]
[00:59:18 Le logo du gouvernement du Canada s'affiche à l'écran.]
