Transcription
Transcription : Réflexions d'Abdi Aidid
[00:00:00 Montage d'une série d'images : des gens marchant dans des rues animées; un drapeau canadien flottant sur le côté d'un immeuble, une vue aérienne de la Colline du Parlement et du centre-ville d'Ottawa, l'intérieur d'une bibliothèque, une vue de la Terre depuis l'espace. Texte à l'écran : Leadership; Politiques; Gouvernance; Innovation.]
[00:00:16 Texte à l'écran : Voici la série Analyses et réflexions, réalisée par l'École de la fonction publique du Canada.]
Introduction : Les fonctionnaires, les leaders d'opinion et les spécialistes à l'échelle canadienne réfléchissent aux idées qui façonnent la fonction publique. Le leadership, les politiques, la gouvernance, l'innovation et bien plus encore. Voici la série Analyses et Réflexions, réalisée par l'École de la fonction publique du Canada.
[00:00:26 Abdi Aidid apparaît en plein écran.]
Taki Sarantakis : Bienvenue à l'École de la fonction publique du Canada. Je m'appelle Taki Sarantakis. J'ai le grand honneur d'être le président de cette institution, et aujourd'hui, nous vous réservons une nouvelle surprise dans le cadre de notre série consacrée à des Canadiens et Canadiennes passionnant·es qui ont des choses intéressantes à dire.
Nous recevons aujourd'hui quelqu'un dont vous n'avez peut-être jamais entendu parler, mais je pense que vous entendrez parler de lui dans le futur. Il est professeur de droit à l'Université de Toronto. Il a été chercheur invité à l'Université de Yale. Il travaille au sein de l'une des meilleures petites entreprises canadiennes spécialisées dans l'intelligence artificielle (IA), Blue J Legal, dont nous parlerons davantage par la suite. Il est également titulaire d'une chaire de recherche du Canada sur l'IA et l'éthique, et je crois qu'il est également en train d'écrire un livre sur le sujet. Donc, Abdi Aidid, monsieur, bienvenue.
[00:01:34 Texte à l'écran : Abdi Aidid, professeur adjoint à la Faculté de droit de l'Université de Toronto; titulaire d'une chaire de recherche du Canada sur l'intelligence artificielle (IA) et l'accès à la justice.]
Abdi Aidid : Merci. Merci de me recevoir.
Taki Sarantakis : Nous allons donc aborder tous ces sujets au cours des prochains instants, et j'adore discuter avec des gens comme vous, pour plusieurs raisons.
Tout d'abord, vous avez déjà fait beaucoup de choses que tout le monde est en train de faire ou essaie de faire. Vous l'avez fait il y a des années, ce que j'ai toujours trouvé absolument génial. Et deuxièmement, vous êtes un universitaire très réfléchi, mais vous avez aussi fait ce qu'il fallait. Et parfois, les universitaires ne sont pas capables de faire ce qu'il faut (et je dis cela en tant que personne qui rêvait désespérément de devenir un universitaire), et parfois, ceux qui font ce qu'il faut ne sont pas capables de l'expliquer de manière réfléchie, mais vous, vous faites les deux. Alors, commençons. Parlez-nous un peu de vous. Où; êtes-vous né?
[00:02:25 Images superposées du centre-ville d'Ottawa et du secteur riverain du centre-ville de Toronto.]
Abdi Aidid : Bien sûr, je suis né à Ottawa, ici même, en fait. J'ai grandi ici jusqu'à l'âge de 7 ans environ, puis nous avons déménagé à Toronto où; j'ai passé le reste de ma vie. Mais j'ai vécu en premier… la base de référence?
Taki Sarantakis : La base de référence. Oh oui.
Abdi Aidid : Uplands?
Taki Sarantakis : Uplands. La base de référence.
Abdi Aidid : Et puis, j'ai fréquenté l'école publique Charles H. Hulse quand j'habitais dans un quartier appelé Cedarwood. Et puis je suis allé à l'école publique Robert Bateman, car nous avions emménagé dans le quartier de South Keys.
Taki Sarantakis : Wow, alors vous êtes de la région et vous venez de Toronto.
Abdi Aidid : Oui, c'est exact. Je me sens vraiment chez moi à Ottawa, même si, chaque fois que j'y reviens, la ville me semble nettement plus grande que dans mes souvenirs.
Taki Sarantakis : Oui, je ne vais pas vous demander de nous dire quelle ville vous préférez, car ce serait injuste. Mais j'ai quelque chose de similaire. J'ai passé presque exactement la moitié de ma vie à Toronto, où; je suis né et où; j'ai grandi, et l'autre moitié ici. Donc, c'est intéressant. Que faisaient vos parents?
Abdi Aidid : Donc, mes parents. Mon père est employé des postes, et il continue d'exercer ce métier. Il a travaillé pour Postes Canada pendant toute ma vie.
Taki Sarantakis : Est-il toujours là-bas?
Abdi Aidid : Il est à Toronto, où; il travaille, et approche de l'âge de la retraite. Ma mère, qui est décédée, a été nutritionniste en santé publique pendant plusieurs années. Et donc, la ville d'Ottawa… La raison pour laquelle nous avons déménagé à Toronto, c'est qu'elle avait trouvé un emploi à la Ville de Toronto.
Taki Sarantakis : Oui.
Abdi Aidid : Je dois préciser qu'ils sont tous les deux des réfugiés somaliens. C'est ainsi qu'ils sont arrivés, après avoir obtenu leur nouvelle qualification professionnelle, et j'ai eu beaucoup de chance de les avoir à mes côtés, car ils étaient tous les deux des personnes très travailleuses, attentionnées et très studieuses, ce qui explique sans doute pourquoi je suis devenu la personne que je suis aujourd'hui.
Taki Sarantakis : En parlant d'être studieux, vous vous êtes orienté vers le droit. Parlez-nous-en un peu.
Abdi Aidid : Je me suis donc orienté vers le droit pour la même raison que la plupart des gens, je dirais, à savoir cette aversion au risque. Je pensais que cela me mènerait vers une certaine stabilité. En fait, c'est ma mère qui voulait que je le fasse, ce qui, à mon avis, est sans doute la meilleure raison de faire quelque chose.
Mais ce que j'ai très vite compris, comme je ne connaissais pas beaucoup d'avocat·es, c'est que cette formation, d'une grande polyvalence, permettait d'influencer les politiques. Il y a toute une série de choses qui relèvent du droit, qu'il s'agisse ou non de pratiques juridiques à proprement parler. Je me suis donc dit que, même si je ne devenais pas avocat au sens classique du terme, ma formation en droit me permettrait de m'orienter vers d'autres voies.
Cela m'enthousiasmait donc beaucoup, puis je suis devenu un avocat comme les autres. Après avoir obtenu mon diplôme, j'ai exercé pendant quelques années en tant qu'avocat plaidant, d'abord à New York, puis à Toronto.
Taki Sarantakis : À un moment donné, vous avez commencé à vous intéresser à cette chose qu'on appelle l'IA. Et non seulement vous avez commencé à vous intéresser à cette chose qu'on appelle l'IA bien avant l'apparition de ChatGPT et de l'IA générative, mais vous vous êtes aussi intéressé à l'IA et au droit. Aidez-nous un peu à entamer la discussion sur ce sujet.
[00:05:17 Image superposée du livre « The Legal Singularity » : How Artificial Intelligence Can Make Law Radically Better », d'Abdi Aidid et Benjamin Alarie.]
Abdi Aidid : Oui, il m'arrive parfois de décevoir les gens quand je leur explique d'où; me vient mon intérêt pour l'IA. Je pense donc qu'il y a des gens qui aiment l'IA parce qu'ils aiment les gadgets. Cela n'a jamais vraiment été mon genre. Il y a des gens qui, d'un côté, vous parlent d'IA, et l'instant d'après, vous parlent de cryptomonnaies et de ce genre de choses. Je n'ai jamais été comme cela. En réalité, je suis simplement quelqu'un qui était convaincu que cela pourrait m'aider à résoudre certains problèmes auxquels j'avais l'impression d'être confronté. Par exemple, j'éprouvais un profond sentiment de culpabilité à l'idée qu'en tant qu'avocat, je disposais de compétences que je pouvais mettre au service des personnes, mais que celles-ci ne pourraient probablement jamais espérer se permettre (du moins, celles qui en avaient le plus besoin), ne pourraient jamais vraiment espérer avoir les moyens de faire appel à mes services. D'ailleurs, voici un fait intéressant : au cours de ma carrière d'avocat, je n'ai jamais pu me payer mes propres services. Donc, si je voulais faire appel à mes propres services, en tant qu'avocat, mes honoraires seraient hors de ma propre gamme de prix.
Taki Sarantakis : Alors, cela veut dire que vous êtes un très bon avocat, ou que vous n'êtes pas assez bien payé?
Abdi Aidid : Cela dépend à qui on pose la question. Mais je dirais, en réalité, que cela signifie simplement que c'est hors de portée. Les services juridiques sont inaccessibles, même pour les personnes qui disposent de revenus stables.
C'est pourquoi j'ai pensé que l'IA était l'un des choses que nous pourrions mettre en œuvre pour répondre à cette préoccupation. Et à l'époque, on ne travaillait pas beaucoup là-dessus.
[00:06:37 Images superposées d'articles :
« Industry Watch, Law and Word Order: NLP in Legal Tech », de Robert Dale, 2018, Cambridge University Press;
« Natural Language Processing and Machine Learning for Law and Policy Texts », John Nay, 2018, NYU;
« Legal Natural Language Processing from 2015-2022: A Comprehensive Systematic Mapping of Advances and Applications », Quevedo Caballero et al, IEEE Access.]
Abdi Aidid : Il existait certes quelques projets de recherche, peut-être plutôt théoriques, qui laissaient entrevoir la possibilité d'utiliser des techniques telles que le traitement automatique du langage naturel pour analyser des affaires, mais personne ne faisait vraiment preuve d'inventivité. Et donc, même si j'exerçais le métier d'avocat à temps plein et que cela me plaisait beaucoup, j'envisageais de me lancer dans des projets un peu plus créatifs.
Taki Sarantakis : Et en quelle année, à peu près?
Abdi Aidid : Vers 2016.
Taki Sarantakis : 2016. Nous sommes donc en 2026; cela remonte donc à environ une décennie, bien, bien, bien avant que l'IA ne se généralise. Maintenant, parlez-nous un peu, étiez-vous également professeur à cette époque?
Abdi Aidid : Non, j'ai d'abord commencé à enseigner en tant que professeur associé; si vous ne connaissez pas bien la terminologie universitaire, cela signifie que l'on est un professionnel qui enseigne à temps partiel. C'est ainsi que j'enseignais la recherche et la rédaction juridiques.
C'est ce qui, d'ailleurs, a sans doute été le plus instructif pour moi, dans la mesure où; cela a mis en évidence la nécessité de l'IA, car nous apprenions aux étudiant·es à mener des recherches en saisissant des requêtes dans des bases de données.
[00:07:41 Image superposée d'une capture d'écran montrant une recherche effectuée sur LexisNexis.
Texte à l'écran : LexisNexis est une base de données de référence dans le domaine juridique, utilisée pour enseigner les stratégies de recherche dans la jurisprudence.]
Taki Sarantakis : LexisNexis.
Abdi Aidid : Oui, nous leur apprenions à utiliser toutes sortes de bases de données différentes. Et les étudiant·es qui étaient considéré·es comme de bon·nes chercheurs et chercheuses étaient ceux et celles qui trouvaient les meilleurs termes de recherches. Et nous nous disions : « Il doit bien y avoir une meilleure façon de s'y prendre. »
Et il n'y a pas si longtemps encore, nous apprenions aux gens à faire des recherches en parcourant les rayons des bibliothèques physiques.
Taki Sarantakis : Exactement.
Abdi Aidid : Je me suis donc dit que c'était un domaine où; nous avions vraiment besoin d'un changement, car, comme on dit, « l'information veut être libre ». Et j'avais l'impression qu'il fallait en quelque sorte résoudre une énigme pour trouver une affaire dont on savait qu'elle existe; je me suis donc dit que c'était là un domaine où; nous pourrions déployer l'IA.
C'est ainsi que, lorsque j'enseignais à des étudiant·es, je me suis rendu compte qu'ils et elles n'avaient pas les mêmes scrupules que nous à utiliser les nouvelles technologies. Sur le plan institutionnel, la profession juridique est plutôt conservatrice. On pourrait imaginer à quoi ressemblait une salle d'audience il y a 100 ans; elle devait probablement ressembler beaucoup à celles d'aujourd'hui. Et ces étudiant·es qui, je crois, voulaient simplement aller droit au but, faisaient preuve d'une ambition qui m'a inspiré; ils et elles étaient également capables de repérer d'emblée certaines des failles dans notre façon de faire. C'est pourquoi je me suis dit que je voulais consacrer davantage de mon temps à essayer de comprendre tout cela.
Taki Sarantakis : Donc, c'est donc vraiment difficile à expliquer aux gens : Google a environ 30 ans, et l'Internet commercial a lui aussi environ 30 ans. C'est vraiment difficile d'expliquer à ceux qui ne l'ont pas vécu, les coûts de transaction associés au fait de trouver de l'information. Il fallait se déplacer jusqu'à une bibliothèque, aller fouiller dans les rayons, et consulter des catalogues de fiches. Et je pense que c'est à ce moment-là que l'on commence à se dire : « Wow, nous avons tous ces outils, mais nous ne les utilisons pas autant qu'on le pourrait dans le domaine juridique. »
Parlez-nous un peu du moment où; vous avez commencé à passer de « J'ai cette envie intellectuelle » à l'action concrète dans le domaine de l'IA. Quand avez-vous réellement commencé à vous lancer dans ce domaine? Comment en êtes-vous arrivé là?
[00:09:51 Image superposée tirée d'un projet universitaire intitulé « How Artificial Intelligence Will Affect the Practice of Law », d'Anthony Niblett, Ben Alarie et Albert Yoon.]
Abdi Aidid : Oui, alors en fait, il y a eu un projet universitaire qui a vu le jour à l'Université de Toronto. Mes collègues, Anthony Niblett, Ben Alarie et Albert Yoon, ont très vite compris que les techniques des sciences des données utilisées dans d'autres domaines (notamment celui des assurances, où; l'on a recours à des sciences des données pour établir les primes ou effectuer des liquidations de sinistre) pouvaient s'avérer tout aussi efficaces dans le domaine juridique et nous permettre de prédire les issues judiciaires.
Ce qui était, soit dit en passant, je dirais, l'aspiration de longue date du droit. En gros, tout ce que l'on fait en droit, c'est faire des prévisions. Si quelqu'un vient vous voir et vous dit : « J'ai ce problème juridique », cette personne ne souhaite pas que vous lui récitiez les divers volets du critère juridique. Ce qu'elle veut vraiment, c'est que vous lui disiez ce qui va se passer. Que va faire un tribunal? Comment un tribunal va-t-il réagir? Est-ce que je vais attirer l'attention d'un organisme de réglementation?
Et c'est ainsi qu'ils ont été parmi les premiers à tenter d'utiliser ces techniques pour analyser la jurisprudence dans le but de prédire les issues judiciaires. Et ils m'ont recruté pour contribuer au développement de l'entreprise. C'est ainsi que j'ai rejoint l'entreprise en tant que responsable de la recherche juridique, et j'ai été l'un des premiers membres du personnel.
[00:11:00 Image superposée de la page d'accueil de Blue J Legal.]
Abdi Aidid : Et au moment où; je me suis orienté vers une carrière universitaire à temps plein, Blue J était devenue une entreprise gigantesque et florissante (je ne m'attribue aucun mérité pour cela), mais c'était une période passionnante pour résoudre des problèmes et surfer sur la vague du succès dans le monde de l'IA juridique.
Taki Sarantakis : Tout comme c'est difficile pour ceux qui ont grandi avec Google et Internet, nous en sommes aujourd'hui à un stade où;, pour certaines personnes, l'IA générative représente l'intégralité de leur expérience en matière d'IA. Mais ce n'était sûrement pas le cas quand vous avez commencé. Pouvez-vous nous parler un peu de ce qu'était l'IA avant qu'elle ne devienne omniprésente?
Abdi Aidid : Oui, donc je pense qu'il s'agit d'une très bonne question. J'invite les gens à réfléchir à l'IA selon une perspective conceptuelle. Je dirais que les gens comme moi, les universitaires comme moi, nous avons rendu un très mauvais service au grand public, car nous nous sommes trop attardés sur des explications techniques de ce qu'est l'IA. Mais je pense que les gens peuvent la comprendre d'un point de vue conceptuel.
Parlons donc de la première vague de l'IA et du droit, qui concernait en réalité l'apprentissage automatique et les algorithmes. Qu'est-ce que cela signifie? Il s'agit de traiter un volume important de données, dont la synthèse complète nécessite une puissance de calcul, et d'en tirer des enseignements. Imaginez donc qu'une entreprise de carte de crédit examine l'historique de vos achats, vos revenus et vos habitudes afin de déterminer quelle serait la limite de crédit qui vous conviendrait le mieux.
Taki Sarantakis : Et c'est quelque chose que nous faisons depuis longtemps.
Abdi Aidid : Depuis longtemps. Faire une prévision à partir des données existantes. Ce qu'il y a avec l'apprentissage automatique, c'est que, si on le compare aux mathématiques de douzième année, cela revient à trouver la droite de meilleur ajustement dans un nuage de points : c'est comme cela que j'aime bien le voir.
Maintenant, le problème avec l'apprentissage automatique, c'est qu'il se limite à ce qui figure dans l'ensemble de données d'origine. En fait, j'aime bien voir les choses ainsi : si l'on donne un bloc de glace à un sculpteur ou une sculptrice, il ou elle pourra en faire un magnifique cygne, mais celui-ci ne sera jamais plus grand que le bloc de glace lui-même. C'est cela, l'apprentissage automatique. Il s'agit de tirer des enseignements des données existantes.
Taki Sarantakis : Il est en quelque sorte circonscrit.
Abdi Aidid : Il est circonscrit, mais il est également soumis à toutes les limites présentes dans l'ensemble de données d'origine. Donc, lorsque l'on aborde des sujets tels que les préjugés et la discrimination, s'il y a, disons, des éléments « non conformes » qui se cachent dans les données d'origine, on court le risque de les répercuter dans la prédiction finale.
L'IA générative est donc autre chose, car elle s'appuie sur toutes les capacités que nous avons développées en apprentissage automatique et nous dit : « Apprenons sur ce sujet, prenons ces données pour entraîner des modèles, apprenons tout ce qu'il y a à savoir sur la syntaxe et la diction, et l'emplacement du nez sur un visage, etc., et créons de l'information totalement nouvelle. » En fait, cela pourrait agrandir le bloc de glace, en comparaison. Il s'agit donc de l'IA générative, de la génération et de l'apprentissage automatique, qui permettent de déterminer et de mettre en évidence des renseignements pertinents à partir des données existantes.
Avant, on ne faisait que de l'apprentissage automatique. Alors, quand on pense à ce qui pourrait être appelé la prise de décision algorithmique, c'est exactement cela. En d'autres termes : « Êtes-vous admissible à cette prestation publique ou non? » Eh bien, examinons les profils des personnes qui ont été admissibles par le passé. Comparons cela à votre profil spécifique, et voyons où; vous vous situez.
Taki Sarantakis : D'accord. Et les règles.
Abdi Aidid : Et les règles, et le droit. Et on l'éclaire par toute une série de paramètres différents. L'IA générative demande : « Quelles sont toutes les données dont nous disposons historiquement concernant les demandes relatives à cette prestation? Voyons à quoi ressemble une bonne demande et essayons peut-être aussi de rédiger quelques projets de demande. Ou bien rédigeons des ébauches d'ordonnance pour appuyer notre processus décisionnel. »
[00:14:25 Image superposée d'un écran d'ordinateur affichant la page d'introduction de ChatGPT.] Texte à l'écran : Nouvelle session de clavardage, ChatGPT, exemples.]
Abdi Aidid : Et donc, lorsque ChatGPT a été lancé fin 2022, les possibilités sont devenues infinies, car non seulement nous pouvions nous charger de mettre en évidence les idées, mais nous pouvions également générer des produits de travail. Nous pouvions réellement dire : « Prédit l'issue d'une affaire, mais rédige aussi les motifs. »
C'est ainsi que, dans le monde du droit, cet événement a marqué un tournant décisif, bien plus encore que le passage des volumes papier reliés aux bases de données numériques. Il s'agissait simplement d'intégrer des renseignements que nous avions déjà à une plateforme et de les rendre accessibles. À présent, nous prenons ces renseignements, nous les traitons comme des données et nous appliquons des fonctions à celles-ci, ce qui nous permet de faire toutes sortes de choses.
Alors, c'est excitant. Et fondamentalement, nous nous préparons actuellement à une nouvelle évolution, celle de l'IA agentive, où; nous mettons à profit tout ce que nous avons appris grâce à l'apprentissage automatique, ainsi que toutes nos capacités génératives issues de l'IA générative, pour les intégrer à ces personas dotés d'IA capables d'effectuer des transactions en plusieurs étapes sans supervision à aucune étape intermédiaire. Et donc, c'est génial.
Taki Sarantakis : Oui. Donc, si je vous comprends bien, je pense que ce que vous avez dit, c'est que la plupart d'entre nous considèrent l'IA comme une IA générative, qui correspond à la deuxième génération après l'IA fondée sur l'apprentissage automatique. Et nous voilà sur le point d'entrer dans la troisième génération, avec un certain sérieux, une certaine échelle, et une certaine portée. Et en quoi la troisième génération diffère-t-elle de la deuxième?
Abdi Aidid : En fait, on peut considérer l'apprentissage automatique comme une tentative de reproduire notre architecture cognitive, de manière à pouvoir utiliser la puissance de calcul pour accomplir des tâches qui nous ne pouvons pas accomplir, comme la synthèse de grands volumes de données. Voilà donc ce que l'on appelle des machines qui pensent comme nous.
Taki Sarantakis : Comme nous.
Abdi Aidid : Comme nous. L'IA générative, ce sont des machines qui nous ressemblent et parlent comme nous, tandis que l'IA agentive, ce sont des machines qui se comportent comme nous. C'est une trajectoire remarquable.
Maintenant, je ne veux pas les décrire comme des phases distinctes, car nous sommes en train de tout faire en même temps. Les entreprises de carte de crédit ont recours à l'apprentissage automatique pour déterminer le montant de votre limite de crédit, et elles peuvent utiliser l'IA générative pour vous envoyer une lettre vous informant de l'augmentation de votre limite, mais elles peuvent également recourir à un outil automatisé pour répondre à vos appels au centre d'appels, par exemple. Et donc, tout s'enchaîne naturellement, mais nous avons beaucoup appris en cours de route.
La question qui se pose donc à nous est la suivante : comment coexister avec ces outils? Quelles sont les règles appropriées que nous devrions appliquer pour les restreindre ou les catalyser?
Taki Sarantakis : Là, vous nous amenez à aborder un sujet vraiment intéressant. C'est un domaine que vous maîtrisez parfaitement, alors j'aimerais avoir votre avis, car vous commencez maintenant à aborder les relations entre les technologies et la société, entre les technologies et la législation, et entre les technologies et la réglementation.
Et donc, aujourd'hui, il semble à beaucoup de gens que le monde est en pleine mutation, que toutes ces bases solides sur lesquelles nous nous appuyions jusqu'à présent dans le droit, la médecine, la comptabilité, des domaines qui exigeaient… Combien d'années avez-vous passées à la faculté de droit?
Abdi Aidid : Trois, mais j'ai également suivi des études supérieures à la faculté de droit.
Taki Sarantakis : Oui, des études supérieures à la faculté de droit. Des choses qui ont nécessité des années de travail très intense…
Abdi Aidid : Oui.
Taki Sarantakis : Il semble que même les petits enfants soient désormais capables d'obtenir ces résultats. Commencez en nous parlant un peu de ce que c'est. Il ne s'agit pas seulement de notre capacité technologique. Il me semble qu'il s'agit aussi de savoir comment nous allons gérer cette capacité technologique.
Abdi Aidid : Totalement. Voici, je pense, un point important que nous devons tous accepter : en matière d'IA, on ne peut pas revenir en arrière. La technologie est déjà là. Et les entreprises, les technologues sont ambitieux, et ils vont vouloir aller plus loin. Et notre capacité à la maîtriser est limitée. La question qui se pose donc à nous est la suivante : comment l'intégrer de manière responsable et sécuritaire? Et le droit joue un rôle important à cet égard, car il nous aide à déterminer ce qui est voué à l'échec pour nous. Quelles sortes d'obligations devrions-nous imposer au public? Quelles sortes d'obligations devrions-nous imposer aux développeurs et développeuses de technologies d'IA?
Et c'est donc, à mes yeux, la question centrale de notre époque; comment intégrer ces outils dans notre quotidien, sachant qu'ils sont là pour rester, et qu'ils présentent des avantages tout à fait remarquables. Comment pouvons-nous les intégrer tout en limitant les inconvénients? Parce que les inconvénients sont bel et bien réels.
Donc, pour ma part, je réfléchis beaucoup à la question de la réglementation. La réglementation est une question complexe, car elle donne automatiquement l'impression aux gens que l'on dit : « Je veux moins de cela. » En réalité, la réglementation peut également constituer un ensemble d'outils habilitants. Il peut s'agir d'outils conçus pour vous offrir une prévisibilité maximale du marché. La réglementation bancaire ne nous a pas empêchés d'avoir des comptes bancaires. Elle a simplement permis de faire en sorte que, lorsque nous avons des comptes bancaires, nous sachions tous à quoi nous attendre.
Et c'est pourquoi la réglementation représente également un défi de taille à l'heure actuelle, parce que le monde de l'IA est encore marqué par beaucoup d'incertitude. Pensez-y. Si nous établissions aujourd'hui un ensemble de règles relatives à l'IA, ce serait comme si nous parions sur les technologies qui ont le plus de chances de perdurer. Et on ne le sait pas forcément aujourd'hui.
Taki Sarantakis : Exactement. Pour moi, c'est un peu comme cela : quand j'aborde ce sujet, je dis toujours que l'analogie, c'est que l'automobile a été inventée, créée, et qu'on ne pouvait pas réglementer ou légiférer sur toutes les possibilités qu'elle offrait en 1915, car elle n'en était qu'à ses débuts. La société interagit avec la technologie, apporte des changements et va de l'avant.
Maintenant, vous venez de dire quelque chose que, selon moi, beaucoup de gens ont du mal à comprendre, et je trouve étrange qu'ils aient du mal à le comprendre. Il s'agit de ceci : l'utilisation légale de l'IA dans n'importe quelle société sera en fin de compte déterminée par les pouvoirs législatifs et les tribunaux. C'est une combinaison de ces deux éléments qui déterminera et définira la manière dont nous utiliserons l'IA en toute légalité au sein de notre société. Et pourtant, on entend tous ces gens s'interroger avec angoisse : « L'IA est-elle éthique? L'IA est-elle bénéfique pour la société? L'IA est-elle néfaste pour la société? » Ces questions sont-elles trop vastes?
Abdi Aidid : Je pense que ces questions partent de plusieurs hypothèses qui ne sont pas vraies. D'une part, que l'on pourrait réellement mettre un terme à l'IA; je pense que le mal est déjà fait de ce côté. Et donc, je ne suis pas vraiment intéressé par un débat visant à déterminer si l'IA est bénéfique ou non. Je reconnais que c'est comme cela, et j'essaie de mettre en place des structures qui nous permettront de tirer le meilleur parti d'une IA bénéfique.
Et ces discussions supposent également que les gens continueront à s'intéresser à l'IA en tant que telle dans le futur. J'y pense souvent. En réalité, je ne sais pas quel processus technique se cache derrière la plupart des choses que je fais dans ma vie.
J'ai récemment appris que lorsque l'on appuie sur la pédale de frein, cela ne bloque pas réellement la roue. Ce sont des logiciels qui interviennent en cours de route. Mais cela ne m'intéresse pas vraiment, car j'ai confiance dans ce système : je sais qu'il fonctionnera la plupart du temps, et si ce n'est pas le cas, je sais qui appeler. Je sais qu'il faut appeler le mécanicien ou la mécanicienne. Je ne sais pas forcément comment fonctionne mon ordinateur portatif, mais je sais que je peux me rendre au « Genius Bar » pour obtenir de l'aide quand il ne fonctionne pas.
Et je pense donc qu'il est possible qu'à court terme, voire à moyen terme, l'IA finisse par devenir invisible à nos yeux. Et en ce moment, je pense que si nous nous attachons autant à regarder sous le capot, c'est en partie parce que nous ne lui faisons pas encore confiance. Nous avons l'impression qu'elle est une nouveauté qui nous fait peur. Eh bien, si nous mettons en place un cadre suffisamment structuré autour de cette technologie, un « Genius Bar », un·e technicien·ne vers qui se tourner, des règles prévisibles, je pense que cette curiosité à son égard s'estompera un peu.
À ce moment-là, nous pourrons avoir la discussion qui compte vraiment : « Est-elle bien déployée? Ce résultat est-il juste? Est-ce la bonne application? » À l'heure actuelle, la question de savoir s'il faut ou non recourir à l'IA me semble un peu trop élémentaire par rapport aux enjeux.
Taki Sarantakis : Oui, quand on y réfléchit, si l'on repense aux grandes technologies polyvalentes du passé, on pense aux débats qui ont entouré l'introduction du chemin de fer, de l'électricité ou des choses de ce genre. On pourrait en faire un débat philosophique, mais je pense que vous avez vraiment mis le doigt dessus; c'est le moment où; l'on cesse de considérer ces questions comme des débats philosophiques et où; l'on se dit : « Je ne m'inquiète plus de la qualité de l'eau qui sort de mon robinet, ni de la tension électrique lorsque j'allume la lumière », c'est là que la magie opère.
Abdi Aidid : C'est mon avis. Mais si je pense que le débat normatif sur la question de savoir si l'IA est bénéfique ou non peut parfois me frustrer, c'est en partie parce qu'il s'agit en réalité du mauvais débat philosophique à mener en ce moment, car il en existe d'autres, bien plus riches, que nous ne menons pas, mais que nous pourrions mener.
Par exemple, pensez-y. Pendant des générations, nous avons fondé une grande partie de notre estime de nous-mêmes sur notre capacité à accomplir des tâches. Eh bien, à quoi ressemble votre sentiment d'avoir un but dans un monde où; une technologie et vous avez les mêmes compétences? C'est une question qui porte sur notre place dans le monde, sur notre valeur, une question à laquelle nous devrions nous confronter et sur laquelle nous devrions réfléchir; et je pense que c'est un débat bien plus riche que celui qui consiste à se demander si l'IA est bénéfique ou néfaste.
Taki Sarantakis : Oui. J'ai une petite théorie à ce sujet. J'aimerais beaucoup connaître votre avis. Je pense que cette technologie est la première à représenter un véritable défi (je ne veux pas dire « difficile », mais peut-être « exigeant ») pour les cols blancs. Médecins, avocat·es, expert·es-comptables, journalistes. Mes parents étaient des cols bleus. Et quand, dans les années 1970 et 1980, on débattait de la mondialisation et de tout ce qui s'y rapportait, beaucoup des cols blancs se disaient : « Oh, c'est cela, le progrès. C'est une bonne chose pour tout le monde. Vous trouverez de nouveaux emplois, etc. » Je pense que l'IA remet aujourd'hui en question une certaine catégorie sociale qui se sent peut-être, pour la première fois, un peu menacée.
Abdi Aidid : Je pense que c'est tout à fait vrai, mais avant d'aborder ce sujet, je tiens également à préciser que, même au sein de cette couche sociale, les effets ne sont pas répartis de manière uniforme.
Donc, une grande partie des bouleversements liés à l'IA auxquels nous assistons actuellement touche les échelons inférieurs de cette classe sociale des cols blancs, ce qui, pour moi, en tant qu'homme noir, est particulièrement préoccupant. Pourquoi? Parce que tout le travail que nous avons mené en faveur de la mobilité économique au sein des communautés (ateliers de rédaction de CV, préparation aux entrevues d'embauche, bourses d'études pour les jeunes), visait justement à aider les gens à franchir le cap de départ, et voilà que c'est justement cette première étape qui va être automatisée? Et là, on se dit : « Wow, est-ce que cela veut dire qu'il y a un plafond à la mobilité économique des communautés vulnérables après une génération de travail acharné? »
Et si l'on examine les autres domaines dans lesquels l'IA bouleverse le marché du travail, on constate que cela concerne également ce que l'on appelait autrefois, de manière péjorative, la main-d'œuvre non qualifiée, c'est-à-dire, pour ainsi dire, l'économie à la demande. Et c'est un milieu où;, par exemple, les personnes de couleur sont également surreprésentées. Donc, je regarde cela et je me dis : « Wow, même au cœur de ce bouleversement, on reproduit les mêmes inégalités de fond qui existent dans ce qu'on pourrait appeler l'économie analogique. »
Voilà donc une chose que je tiens à souligner : il existe, au sein de la classe des cols blancs, des professionnels ayant un pouvoir décisionnel (pensons par exemple aux postes de direction ou des échelons supérieurs), et qui sont capables de se protéger assez efficacement, du moins pour le moment.
Taki Sarantakis : Pour un certain temps.
Abdi Aidid : Pour un certain temps. Et comme une proportion plus importante de ces professions est régie par des organismes de réglementation, elles peuvent également adopter des pratiques monopolistiques ou associées aux cartels, et s'y opposer.
Prenons l'exemple du droit. Le droit s'est opposé avec véhémence à…
Taki Sarantakis : Il est autoréglementé.
Abdi Aidid : Il ne s'agit pas simplement d'une autoréglementation, mais d'une autoréglementation associée à un monopole sur la prestation de services juridiques.
Taki Sarantakis : D'accord. N'ayant pas fait d'études de droit et n'étant pas membre du Barreau, je ne peux pas me qualifier d'avocat.
Abdi Aidid : Vous ne pouvez pas vous présenter comme avocat. Imaginez donc la situation suivante : vous détenez le monopole de la prestation de services juridiques et vous vous autoréglementez, ce qui, à mes yeux, constitue une boîte de Pétri idéale pour la prolifération de toutes sortes de germes anticoncurrentiels. Et je pense donc que certaines professions vont encore pousser leur dernier souffle pendant un certain temps, ce qui leur permettra de gagner un peu de temps. Et la question est la suivante : « Au cours de cette période, vont-elles évoluer ou disparaître? »
Et je pense qu'il y a une possibilité qu'elles évoluent. Pourquoi? Parce qu'il s'avère que les membres du public attendent en réalité davantage de leurs cols blancs. Ils veulent des de meilleurs services, ils veulent davantage de services, ils veulent que ceux-ci soient plus abordables, plus économiques, et ils veulent des innovations. Ils veulent que nous réalisions des progrès concrets.
Donc, là encore, cela pourrait s'expliquer par les inégalités, mais ce sont aussi les titulaires d'emplois dans les échelons supérieurs des cols blancs qui sont les mieux placés pour en tirer le plus grand profit, car ils peuvent renforcer considérablement l'expertise de base dont ils disposent déjà.
Taki Sarantakis : Exactement. Maintenant, vous avez abordé une question très importante sur laquelle je voudrais m'attarder quelques instants. Il s'agit, en quelque sorte, de faire le lien entre deux aspects de la conversation que nous avons eue jusqu'à présent : le débat sur le caractère bénéfique ou néfaste de l'IA n'est pas très intéressant en soi, mais l'accès à l'IA, l'IA et l'équité, l'IA et l'accessibilité financière, voilà un débat qui, selon moi, mérite d'être mené.
Abdi Aidid : Oh, c'est un immense débat que nous devrions avoir. Le débat sur la propension de l'IA à causer des préjudices est un bon débat.
Voici comment je vois les choses, fondamentalement. Nous sommes plus que jamais en mesure de faire le bien dans le monde, mais nous sommes également plus que jamais en mesure de porter préjudice à grande échelle. C'est donc une responsabilité solennelle, et je pense que cela dépend de notre capacité à mener le bon débat.
Voici donc un exemple de débat qui m'intéresserait : « Y a-t-il des domaines dans lesquels nous ne voudrions jamais recourir à l'IA? » Des choses précises. Donc, je donne souvent l'exemple de la détermination de la peine en matière criminelle. Alors, je suis opposé à l'utilisation de l'IA dans la détermination de la peine en matière criminelle. Mais je ne m'y oppose pas, parce que je pense que la technologie n'en sera jamais capable. Je n'exclus pas la possibilité qu'un jour, nous puissions mettre au point un algorithme de dissuasion optimal, totalement exempt de tout préjugé, capable de neutraliser tout effet racial ou systémique, et capable de condamner quelqu'un…
Taki Sarantakis : À 4,798362 jours de prison.
Abdi Aidid : Je n'en veux toujours pas. Même si on la perfectionne, je n'en veux toujours pas. Pourquoi? Parce que je ne pense tout simplement pas que la détermination de la peine en matière criminelle devrait être optimisée. Je pense que, pour moi, en tant que responsabilité sociale, c'est justement cela qui devrait nous empêcher de dormir la nuit. Les juges devraient avoir de la difficulté à décider d'envoyer quelqu'un en prison. En tant que communauté, nous devrions tous en ressentir les effets.
La question qui se pose pour moi, et que je voudrais poser à tout le monde, est la suivante : « Dans combien de domaines de notre vie sociale et publique éprouvons-nous ce sentiment, à savoir que, quelles que les capacités de la technologique, nous continuons à nous en passer parce que nous avons une raison indépendante, une valeur qui, selon nous, prime sur l'efficacité, l'optimisation, la rapidité et l'abordabilité? » Je souhaite les déterminer, puis les protéger jalousement.
Taki Sarantakis : Oui, par exemple, l'une des choses qui me viennent tout de suite à l'esprit, c'est peut-être le vote. On pourrait dire, par exemple, qu'il est tout à fait rationnel de s'asseoir et de se dire « A, B, C, D, E, F, G », et donc de voter pour le candidat ou la candidate B. Mais le citoyen ou la citoyenne ne s'est pas penché·e sur la question. Le citoyen ou la citoyenne n'a pas été mobilisé·e.
Abdi Aidid : Oui, cela nuit à un élément que nous considérons comme fondamental pour la démocratie représentative, à savoir la délibération. L'idée d'optimiser le vote et de présupposer les choix des gens. Donc, encore une fois, la question sur laquelle je souhaite m'attarder est la suivante : « Quels sont les types de choses que nous considérons comme vertueuses parce qu'elles sont analogiques et que leur vertu repose précisément sur ce caractère analogique? » Je souhaite les déterminer et m'investir dans leur protection.
Le problème, c'est que certaines personnes ont l'impression de ne pas aimer les algorithmes de détermination de la peine ou le vote algorithmique, et qu'elles s'appuient sur cette idée pour s'opposer à des applications de l'IA dont l'enjeu est dans le monde du travail, comme la synthèse de documents. À ce stade, vous n'êtes plus considéré·e comme un·e opposant·e crédible. Et ce que j'aimerais que nous fassions, c'est commencer à distinguer les différents types d'IA et leurs utilisations. Il ne s'agit donc pas d'un marais indéfini, mais bien d'une utilité particulière.
Taki Sarantakis : Oui, la spécificité. Et c'est un peu comme si l'IA était utile et constituait un bien pour la société dans ce contexte. Soit l'IA n'est d'aucune utilité, soit elle ne constitue pas un atout pour la société dans ce contexte.
Je pense que ce qui effraie beaucoup de gens, c'est la manière dont nous légiférons, réglementons et traitons nos litiges, c'est-à-dire la façon dont nous réglons pratiquement tous nos questions litigieuses. Je suppose qu'avec une quatrième voie, ce serait la guerre. Mais étant donné que nous disposons de ces mécanismes pour traiter les questions litigieuses d'ordre sociétal, nous finirons bien, à un moment ou à un autre, par aborder certaines d'entre elles. Cela prendra beaucoup de temps. Cela prendra peut-être 30 ans. Je veux dire, nous nous sommes encore en train de réglementer l'Internet par la voie des tribunaux, alors que l'Internet commercial existe déjà depuis une trentaine d'années.
Abdi Aidid : Je suis content que vous ayez dit cela, car je pense qu'Internet est une analogie intéressante avec ce dont nous parlons ici. Pourquoi? Donc, beaucoup de gens mettront en avant l'échec de certaines entreprises spécialisées dans l'IA, ou le fait que certains modèles d'IA aient en réalité connu une régression, pour illustrer en quoi tout cela pourrait n'être qu'une bulle spéculative. Et je le dis : l'Internet a connu un effondrement. Il y a eu une période de forte croissance, puis un effondrement.
Taki Sarantakis : Pets.com.
[00:33:12 Image superposée de la marionnette-chaussette, mascotte de Pets.com.]
Texte à l'écran : Pets.com a été lancé en 1998. Cette entreprise de vente en ligne d'articles pour animaux de compagnie est entrée en bourse et a cessé ses activités en seulement 268 jours. Sa mascotte-marionnette en chaussette est devenue emblématique grâce à d'importantes campagnes publicitaires.]
Abdi Aidid : Pets.com. On a observé des contradictions sur le marché, et il a fallu du temps pour comprendre les attentes du public. Mais même s'il y a eu un ralentissement, nieriez-vous pour autant qu'Internet imprègne tous les aspects de la vie moderne?
Ce que j'aimerais donc que les gens fassent, c'est d'adopter une vision à plus long terme de ce qui se passe. Si nous nous dirigeons vers quelque chose qui s'apparente à une singularité, cela ne signifie pas pour autant que la trajectoire sera linéaire. Il se pourrait qu'il y ait un interrègne chaotique, des eaux agitées dans lesquelles nous résoudrons les contradictions ou déciderons de ce que nous aimons et de ce que nous n'aimons pas. Cela prend du temps.
Alors, ne vous attendez pas à faire des progrès tous les jours. Mais vous devez, je pense, avoir une vision à plus long terme que celle d'un simple trimestre économique. Et c'est un point important à garder à l'esprit.
Taki Sarantakis : Il y a une chose que vous m'avez apprise et à laquelle je repense sans cesse : vous m'avez dit, ainsi qu'à d'autres personnes à qui je vous ai entendu vous parler, que lorsqu'on observe aujourd'hui une application d'IA, c'est comme si on observait une étoile. C'est quelque chose qui peut vous sembler réel, mais qui n'est en fait qu'un élément inerte de l'univers.
Abdi Aidid : En effet.
Taki Sarantakis : Ce qui compte vraiment dans l'IA, ce sont les projets qui sont encore en phase de développement dans les laboratoires et qui sont sur le point d'être mis en production dès demain.
Si le monde évolue à un rythme aussi effréné (chaque jour, on voit apparaître un nouveau « Claude » incroyable par-ci, un nouveau « ChatGPT » incroyable par-là, un nouveau « Gemini » incroyable, et ils se dépassent tous les uns les autres dans cette course sans fin aux fonctionnalités supplémentaires), comment la législation, la réglementation, les pouvoirs législatifs, les politiciens, la communauté juridique et le monde judiciaire pourraient-ils avoir la moindre chance d'espérer gérer ce processus, cet interrègne?
Abdi Aidid : Oui. C'est une bonne question. Il existe donc plusieurs modèles différents. Réfléchissons à la manière dont nous abordons l'innovation technologique dans le domaine des médicaments sur ordonnance.
Nous disons : « Écoutez, pour avoir le privilège de pouvoir vendre des médicaments sur ordonnance, vous devez nous informer sur ce que vous faites avant de les mettre sur le marché. » Il s'agit plutôt d'un modèle de sécurité des produits.
Taki Sarantakis : Mais nous devons également l'approuver.
Abdi Aidid : Nous devons également l'approuver. Nous imposons donc toutes ces obligations préalables aux promoteurs immobiliers, et nous les obligeons à effectuer une divulgation active. Il s'agit d'un modèle. On pourrait faire valoir, comme le font souvent les technologues, que ce modèle freinerait l'innovation dans le domaine des applications d'IA.
Alors, la question qui se pose est la suivante : « Que pouvons-nous faire pour obtenir des renseignements qui nous permettent, en tant que public, d'anticiper? » Il s'agit donc, par exemple, de certaines obligations de divulgation; ou encore de reconnaître qu'il existe certaines applications qui présentent un risque particulièrement élevé, pour lesquelles nous pourrions exiger un processus d'approbation, comme celle qui est envisagée en Europe. Il existe donc, je pense, des moyens de mettre en lumière une partie du développement clandestin de l'IA. Nous devons nous y prendre avec adresse.
Et voici, je pense, l'idée la plus importante : nous devons réfléchir de manière intelligente à la conception des règles. D'accord, qu'est-ce que je veux dire par là? Mes étudiant·es, s'ils regardent cette vidéo, finiront sans doute par bâiller à un moment donné pendant que je vous décris cela, mais je dis souvent qu'il existe deux types de lois. Nous avons des règles et nous avons des normes.
Une règle, par exemple, c'est l'interdiction de rouler à plus de 50 kilomètres à l'heure sur la voie publique. L'idée étant qu'il s'agit d'une détermination binaire. Si un agent ou une agente vous arrête, vous ne pouvez pas lui dire : « Monsieur l'agent ou madame l'agente, je conduisais prudemment, je n'étais pas près d'une zone scolaire, il n'y avait pas d'enfants dans les parages et, au fait, il est 3 heures du matin. » Si vous roulez à 51, vous avez enfreint la loi. Il revient à l'agent ou à l'agente de décider de la marche à suivre. Comparez cela à une règle qui stipulerait : « Circulez en toute sécurité, dans la mesure du raisonnable, sur la voie publique. » Il s'agit d'une norme. C'est plus ouvert. Les facteurs contextuels ont davantage d'importance.
Maintenant, dans quel cas voudrait-on qu'il y ait une règle? On souhaiterait disposer d'une règle dans une situation où; l'on aurait une connaissance parfaite de ce qui constitue la sécurité. Donc, quand on roule sur la voie publique, on sait bien que 55, c'est trop rapide pour la sécurité des piéton·nes. Vous savez bien que la circulation doit pouvoir se dérouler sans entrave. Et donc, on peut en quelque sorte fixer la limite. Mais réfléchissons à la manière dont nous utilisons les normes. Quand on parle, par exemple, d'intégrer le flux sur une autoroute, on dit « s'insérer » lorsque les conditions de sécurité le permettent. Pourquoi? Parce qu'on ne peut pas prévoir toutes les circonstances possibles.
Donc, si nous devions adopter demain une loi sur l'IA, c'est-à-dire un ensemble de règles régissant l'IA, choisirions-nous des règles ou des normes? Nous pourrions choisir des normes parce que nous estimons ne pas pouvoir prévoir tous les scénarios; les facteurs contextuels jouent un rôle. Si nous décidions d'adopter un ensemble de règles bien précises, nous risquerions alors de ne pas être suffisamment inclusifs. Qu'est-ce que je veux dire par là? Nous dirions : « Ne développez pas cet algorithme d'apprentissage automatique. » Eh bien, et si l'écosystème évoluait plus vite que cette commande en particulier?
La question qui se pose donc à nous est la suivante : pouvons-nous rédiger nos lois, nos directives et nos règlements de manière à anticiper l'incertitude, et à ce qu'ils soient suffisamment souples pour s'adapter au fil du temps? Et selon moi, on se trompe parfois parce qu'on a tendance à trop prescrire, mais en réalité, la situation nous échappe. Ces règles ne sont pas faites pour durer. D'autres fois, nous avons tendance à vouloir être trop flous, trop ouverts, mais cela ne donne pas suffisamment d'indications au marché.
Pour moi, il s'agit donc aussi de faire preuve d'intelligence dans la conception des règles, et pas seulement de décider s'il faut réglementer ou non.
Taki Sarantakis : Oui, donc en gros, si je vous comprends bien, il s'agit de savoir quel instrument utiliser dans quelle situation.
Abdi Aidid : C'est mon avis. Et en accordant une attention toute particulière à la manière dont les règles peuvent favoriser des comportements positifs ou négatifs, souhaitables ou indésirables.
Taki Sarantakis : Par ailleurs, je pense qu'une autre façon d'envisager la question est de considérer que nous allons devoir beaucoup réglementer, légiférer et recourir aux tribunaux dans ce domaine, à mesure que les choses interagissent avec la réalité, avec de nouveaux modèles, de nouvelles capacités, et ainsi de suite, encore et encore. Et je pense que beaucoup de gens ont vraiment cette mentalité-là : « Oh, nous ne pouvons rien faire tant que nous n'avons pas atteint la perfection absolue. » Que nous ne voulons pas nous en occuper pour l'instant, car c'est encore en pleine expansion.
Mais le fait d'y toucher maintenant ne signifie pas forcément que ce sera ainsi pour toujours. C'est un compromis : pour en revenir à la voiture, nous n'avons jamais dit : « Toutes les voitures seront désormais fabriquées en bois et auront un volant en bois. »
Abdi Aidid : Non.
Taki Sarantakis : Nous nous adaptons au fur et à mesure que nous allons de l'avant.
[00:40:02 Images superposées montrant les premiers modèles d'automobiles.]
Abdi Aidid : De plus, nous adoptons une vision à long terme. Il a fallu un certain temps, après l'invention de l'automobile, pour que tout le monde se rende compte qu'il fallait rendre le port de la ceinture de sécurité obligatoire, par exemple. Et vous pouvez donc également imaginer un monde dans lequel nous déciderions nous-mêmes de ce que pourraient être les applications générales en matière de sécurité.
Et celle sur la voiture me plaît beaucoup, car elle en dit long sur la psyché humaine dans ce genre de situation. J'ai lu récemment qu'à l'époque où; les automobiles ont été conçues et développées pour la première fois, il existait un mouvement visant à leur donner une apparence plus proche de celle des chevaux sur le plan esthétique.
Taki Sarantakis : Parce que c'est ce que nous connaissions.
Abdi Aidid : L'idée est que c'est ce que nous connaissions. En somme, les gens acceptent l'idée d'un moyen de transport, mais ils ne veulent pas simplement qu'il soit différent de celui auquel ils sont habitués. Et il y a un autre exemple intéressant sur lequel j'aimerais que vous réfléchissiez : celui des ascenseurs.
Donc, lorsque nous avons commencé à mener des recherches sur les ascenseurs et à les mettre au point, on partait du principe qu'ils seraient principalement destinés aux résidences privées. Aujourd'hui, probablement moins d'un pour cent des ascenseurs sont destinés à des résidences privées. La plupart des gens ont des escaliers chez eux. Il y a peut-être des ascenseurs dans les immeubles de grande hauteur et dans les lieux à vocation essentiellement commerciale. Bref, d'une part, nous pensions savoir à quoi servait cette technologie. En fait, on a laissé le monde nous dicter où; il voulait que cela se passe.
Mais ce qui était également intéressant, c'est que nous avons gardé des liftiers ou des liftières bien plus longtemps que nécessaire, probablement pendant quelques générations de plus que ce qui était nécessaire.
Taki Sarantakis : C'est un peu comme dans les films sur New York.
Abdi Aidid : C'est comme dans les films sur New York, exactement. On les a eus pendant longtemps. Pourquoi? Parce que pendant un certain temps, les gens ont tenu à ce qu'il y ait une touche humaine. C'est pour la même raison qu'il y a aujourd'hui des gardien·nes d'autos. Même si cette technologie permet depuis 50 ou 60 ans de prendre votre billet et de vous rendre la monnaie.
Je pense que ce qu'il faut retenir ici, c'est qu'il ne faut pas non plus présumer qu'il y a déplacement automatiquement, systématiquement, et d'emblée. Il faut prendre conscience que nous, en tant que public, fournissons au marché technologique des renseignements sur la manière dont nous souhaitons utiliser ces produits, et que ces renseignements sont pris en considération.
Taki Sarantakis : Parlons maintenant un peu de ce que je n'oserais peut-être pas qualifier de « néfaste », mais plutôt des utilisations non légales de l'IA, car il me semble que si l'on examine certaines des choses qui présentaient par le passé un potentiel destructeur élevé, comme les armements de grande envergure, les chars d'assaut ou la bombe nucléaire, il s'agissait de moyens qui étaient essentiellement réservés soit à des intervenant·es étatiques, soit à des intervenant·es du secteur privé qui disposent vastes ressources.
Ce n'est pas le cas de l'IA aujourd'hui. Aujourd'hui, compte tenu de ses capacités, l'IA est omniprésente et accessible à tous. Je pense que c'est aussi une autre chose qui fait peur aux gens. Que vous mettez un outil extrêmement puissant entre les mains d'une personne que vous ne connaissez pas.
Abdi Aidid : Oui, j'ai des sentiments mitigés à ce sujet. D'une part, je ne suis pas tout à fait convaincu que le délinquant ou la délinquante lambda ait la capacité d'accéder à des outils lui permettant, très facilement, de commettre, de provoquer ou de faciliter des actes de destruction et de préjudice. Dans l'ensemble, les utilisateurs et utilisatrices ont accès à des outils disponibles dans le commerce qui échappent encore aux systèmes de cybersécurité et demeurent détectables par les organismes d'application de la loi, par exemple. Mais si je dis que j'ai des sentiments mitigés, c'est parce que je pense qu'il ne faudra pas longtemps avant qu'on voie apparaître un outil peu coûteux, voire gratuit, capable, par exemple, de commettre des fraudes à grande échelle.
Je pense donc que c'est dans cet intervalle, entre le moment où; nous pensons que cela s'est déjà produit et celui où; cela se produira réellement, que nous devons relever le défi et réfléchir aux moyens de renforcer la sécurité. Je pense que pendant longtemps, nous avons baissé la garde devant les risques liés, par exemple, à la maltraitance des personnes âgées (c'est un sujet auquel je réfléchis beaucoup : ces personnes qui se font escroquer par hameçonnage par courriel ou en raison de ces relations entretenues en ligne), nous devrions y prêter davantage attention, et peut-être que l'IA va nous en donner l'occasion.
Je me demande donc aussi si cela ne nous permettrait pas de nous pencher sur des problèmes de longue date, qui se font aujourd'hui plus pressants.
Taki Sarantakis : C'est intéressant, car jusqu'à très, très récemment, si une entreprise était victime d'une faille de cybersécurité, elle n'en parlait à personne. C'était considéré comme quelque chose de honteux, ce qui ne faisait que favoriser la poursuite des attaques. Donc, mettre un nom sur une chose est un premier pas pour affronter cette chose.
Abdi Aidid : Cela vaut également pour des choses telles que les préjugés et la discrimination. Donc, l'IA permet notamment de mettre en lumière les défis sociaux actuels. Je donne souvent l'exemple suivant : imaginez que nous décidions de fixer tous nos salaires à l'aide d'un algorithme. Chacun n'aurait alors qu'à importer son profil LinkedIn dans un système de rémunération, qui lui indiquerait le salaire qu'il percevrait dans son prochain emploi. Comme je l'ai dit à propos de l'apprentissage automatique, il serait entraîné à partir de données historiques sur les salaires, de votre CV, de votre parcours, etc.
Taki Sarantakis : Cela permettrait de bloquer les salaires dès aujourd'hui.
Abdi Aidid : Oui, bien sûr. Donc, cela aurait notamment pour effet de vous empêcher peut-être d'en faire davantage, ce qui figerait les possibilités. Mais cela aurait probablement aussi pour effet, en l'absence de toute autre contrainte, de perpétuer l'écart salarial entre les sexes. Pourquoi? Parce qu'il serait entraîné à partir de données salariales historiques, et nous savons qu'il existe des disparités dans ces données. Il y a donc deux façons d'envisager la question. Une solution serait de dire « Débranchons la technologie », une idée que je pourrais soutenir dans ce contexte. D'accord, débranchons la technologie. En fait, je dirais que, d'un point de vue social, on se bousculerait pour être le premier ou la première à la débrancher si une machine devait annoncer qu'un homme reçoit 100 cents tandis qu'une femme reçoit 79 cents.
Mais réfléchissez-y. L'écart salarial entre les hommes et les femmes persiste. Il existe sur le plan social. Ce phénomène est omniprésent dans les organisations et les relations, et nous n'avons pas encore réussi à le surmonter. Nous pourrions donc considérer cela comme un problème technologique, ou bien estimer qu'il faudrait rémunérer les femmes davantage. Ne laissez pas la technologie vous dispenser de faire ce qu'il faut sur le plan social.
Taki Sarantakis : Ce n'est pas cela qui crée le déséquilibre ou l'injustice. Cela reflète le déséquilibre ou l'injustice actuels.
Abdi Aidid : Non seulement cela permet de vous projeter dans l'avenir, mais offre également une nouvelle occasion d'aborder le problème. Pourquoi? Parce que les gens ont du mal à admettre qu'ils pourraient eux-mêmes avoir ces préjugés et être confrontés à ces défis. Quand cela devient abstrait et que l'on dit que c'est la technologie qui agit ainsi, les gens se mettent soudain à dire : « Eh bien, le racisme structurel ne peut plus exister. »
Eh bien, prenons cet exemple concernant les juges et la détermination de la peine en matière criminelle. Les juges se montrent très sceptiques à l'égard des algorithmes de détermination de la peine, mais ces algorithmes sont entraînés à partir de données historiques relatives à la détermination de la peine. Donc, lorsque l'on constate des disparités raciales dans les résultats, c'est parce que les juges ont prononcé des peines inéquitables sur le plan racial. S'ils ne voulaient pas nous écouter auparavant sur des sujets comme les préjugés inconscients ou le racisme structurel, peut-être qu'ils nous écouteront maintenant.
Taki Sarantakis : Exactement. Je dis toujours qu'il est plus facile de supprimer les préjugés d'un algorithme que de supprimer ceux d'un être humain, car une grande partie de ce que l'on observe dans les ensembles de données résulte des décisions cumulées prises par des êtres humains.
Maintenant, finissons de cette manière. En plus d'être professeur de droit, chercheur, entrepreneur dans le domaine de l'IA, expert en éthique de l'IA, et j'en passe, j'imagine que votre rôle le plus important est sans doute celui de parent. Et parlons un peu de l'IA et de l'avenir de nos enfants. Et quel genre de… je ne veux pas dire « monde » que l'IA nous fait découvrir… mais quelles sont certaines des réflexions que vous vous faites concernant l'IA et le fait d'être parent?
Abdi Aidid : Bon, je vais commencer par les possibilités et ce qui me passionne à ce sujet.
Ce qui m'enthousiasme particulièrement, c'est que nos enfants vivent dans un monde où; l'accès à l'information se fait de manière fluide.
[00:48:36 Image superposée montrant un groupe d'enfants diversifié assis autour d'une table, en train de faire de l'artisanat avec une éducatrice de la petite enfance.]
Abdi Aidid : Et cela peut concerner toutes sortes de renseignements dont ils ont besoin pour leurs études ou leur carrière, mais aussi, si l'information circule librement et que les coûts d'accès sont réduits, j'imagine que nous aurons davantage d'occasions de réaliser des avancées scientifiques, par exemple; nous aurons davantage de possibilités de réduire l'incidence des maladies; nous bénéficierons, je pense, d'avantages sociaux, sanitaires et économiques significatifs liés à la libre circulation de l'information.
Je pense aux possibilités qui s'offriraient à eux et à leur créativité si leur travail n'était plus lié à leur capacité à rechercher des renseignements, mais s'ils étaient récompensés pour leur capacité à synthétiser, analyser, évaluer et apporter une valeur ajoutée à ces renseignements, plutôt que de se contenter de les reproduire et de les relayer. Je suis donc impatient de découvrir ce qu'ils peuvent devenir et à quoi ressemblera cet univers. Je suis enthousiasmé par la perspective qu'ils puissent vivre dans un monde où; ils auront la possibilité de mieux se connaître les uns les autres, ce que l'IA rend possible, selon moi. Il y a donc beaucoup de choses qui m'enthousiasment.
Je suis également enthousiasmé par les moyens que nous pouvons mettre en œuvre pour lutter contre les préjugés dans le monde grâce à la technologie. Donc, mes enfants sont mes enfants, et il se trouve qu'ils font partie de ce qu'on appelle aujourd'hui des « minorités », ce qui, selon moi, ne sera pas forcément le cas dans le futur. Mais il existe, par exemple, certaines inégalités raciales dans le domaine des soins de santé. Par exemple, il est difficile de dépister le mélanome et d'autres cancers de la peau chez les personnes de couleur.
[00:50:09 Image superposée montrant une médecin en train d'examiner une radiographie.]
Abdi Aidid : Eh bien, l'un des rôles de l'IA, par exemple, est que, grâce à sa capacité à synthétiser de plus grands volumes de données, elle incite les médecins à ne pas se limiter à leur expérience personnelle et leur permet même de mettre en évidence d'autres indicateurs de maladie. C'est pourquoi j'aime l'idée qu'ils vivent dans un monde où; ces choses représentent moins de risques pour eux. Les angles morts d'une personne constituent un risque moindre pour son épanouissement. Cela m'enthousiasme.
Il y a deux ou trois problèmes importants qui me préoccupent et que je pense qu'il faut résoudre. L'un d'entre eux concerne l'environnement. Donc, à l'heure actuelle, l'IA est une technologie qui mobilise beaucoup de ressources.
[00:50:36 Image superposée d'un article tiré de MIT News, intitulé « Explained: Generative AI's environmental impact » (L'incidence de l'IA générative sur l'environnement). Une partie de l'article est mise en évidence, et se lit comme suit :
« …a generative AI training cluster might consume seven or eight times more energy than a typical computing workload » (… une grappe d'entraînement de l'IA générative pourrait consommer sept à huit fois plus d'énergie qu'une charge de travail informatique classique).]
Taki Sarantakis : Je pense que l'IA représente déjà environ 10 % de l'utilisation du réseau électrique américain, voire entre 8 et 12 %.
Abdi Aidid : C'est une énorme consommatrice d'énergie, et je pense (et je continue de croire) que cela résulte d'un manque d'investissements antérieurs dans les énergies vertes et renouvelables. Ce qui se passe actuellement met en évidence les failles de notre approche actuelle en matière d'économie d'énergie. C'est pourquoi je souhaite l'adoption d'une véritable politique environnementale, au sens large, dans laquelle l'IA pourra s'insérer.
Et puis, l'autre point qui me préoccupe un peu, c'est de savoir si nous allons trouver des moyens de… attendez, je vais reformuler cela… ce n'est pas que je craigne que nous ne trouvions pas de moyens. Je crains que nous ne parvenions pas tous à trouver les moyens de donner un sens à nos vies, d'y faire une place à l'amour et à la bienveillance, dans le cadre de nos relations en personne.
Alors, qu'est-ce que je veux dire par là? On s'inquiète quelque peu du fait que les enfants interagissent avec des outils d'IA et s'appuient sur ces outils pour remplacer une relation face à face « à l'ancienne ». Ce que j'aimerais vraiment, c'est que nous tirions parti de toutes les possibilités prometteuses de l'IA, mais aussi que nous utilisions peut-être une partie du temps ainsi libéré pour le consacrer aux uns et aux autres, passer du temps ensemble, et entretenir ainsi nos relations personnelles.
Taki Sarantakis : Au lieu de tomber amoureux de robots qui savent tout de nous et qui nous disent ce que nous voulons savoir, justement parce qu'ils savent tout.
Abdi Aidid : Et la réglementation a un rôle à jouer ici. Pourquoi? En effet, le caractère « collant » de ces outils relève entièrement d'un choix de conception. Le fait de prendre un grand modèle de langage, de lui attribuer des traits humains et de le faire passer pour une personne sérieuse en qui on peut avoir confiance relève d'un choix de conception.
Taki Sarantakis : Oui, c'est comme si on donnait à une voiture l'apparence d'un cheval.
Abdi Aidid : C'est comme si on donnait à une voiture l'apparence d'un cheval. On pourrait peut-être trouver d'autres solutions pour que cela soit moins attrayant et moins dangereux pour les enfants. Et c'est pourquoi j'ai beaucoup d'espoir en l'avenir. En réalité, je suis un optimiste invétéré lorsqu'il s'agit de ce que nous pouvons accomplir grâce à l'IA. Nous devons nous concentrer sur ces deux choses.
Il y a une autre préoccupation, en quelque sorte, que je voudrais mentionner, une mention honorable, à savoir que je pense que nous devons améliorer considérablement nos connaissances médiatiques. Je comprends l'attrait que suscitent les hypertrucages, mais aussi les préoccupations qu'ils suscitent. Mais les gens se laissent aussi séduire par des choses qui ne sont pas convaincantes. Et je pense que cela relève d'une préoccupation liée à l'éducation civique et aux connaissances médiatiques. Bien sûr, on va tous se faire avoir par une technologie qui surpasse les meilleurs effets spéciaux des films en imagerie générée par ordinateur. Cela pourrait arriver à chacun et chacune d'entre nous. Cela pourrait arriver à un ou une spécialiste en IA. La situation devrait continuer à s'améliorer.
Mais je pense que nous sommes également victimes de mésinformation, alors qu'une intervention pédagogique pourrait être menée. Et ce qui m'inquiète ici, c'est que nous risquions de limiter les possibilités offertes par l'IA parce que nous nous préoccupons de problèmes tels que la mésinformation, alors qu'il s'agit là de problèmes de longue date qui peuvent très bien être résolus, par exemple en améliorant nos aptitudes en lecture.
Taki Sarantakis : Professeur Abdi Aidid, merci de nous avoir donné un petit aperçu de votre personnalité rayonnante et, surtout, de votre esprit brillant. Cela me réconforte de savoir que des personnes comme vous auront une grande influence sur la façon dont des gens comme moi envisageront ce genre de choses à l'avenir.
Je trouve tout simplement encourageant que vous abordiez ce sujet, que vous y réfléchissiez et que vous l'enseigniez. Je pense que nous aurons besoin de davantage de personnes comme vous dans d'autres disciplines, comme l'IA et la médecine, l'IA et l'architecture, l'IA dans le secteur du bâtiment, l'IA et les infrastructures routières, et ainsi de suite. Parce que je pense que vous avez tout à fait raison. Je ne pense pas que la question soit de savoir si l'IA est bénéfique ou néfaste. Je pense que la question est la suivante : « Comment allons-nous aborder l'IA dans ce domaine précis, dans ce contexte précis, afin d'obtenir les meilleurs résultats possibles pour la société? »
Abdi Aidid : Et… comment pouvons-nous le mettre au service de nos intérêts? Comment faire pour que ce soit lui qui soit à notre service, plutôt que de devoir nous plier à ses exigences? C'est justement ce qui m'intéresse. Je m'intéresse à une répartition appropriée du travail et à une relation équilibrée avec la technologie, et je pense que nous devons la maîtriser et l'utiliser à notre avantage.
Taki Sarantakis : Merci beaucoup d'avoir passé du temps avec nous.
Abdi Aidid : Merci.
[00:55:25 Le logo animé de l'EFPC s'affiche à l'écran. Texte à l'écran : canada.ca/ecole.]
[00:55:30 Le mot-symbole du gouvernement du Canada s'affiche à l'écran.]
