Transcription
Transcription : Innover sur demande, épisode 23 : Conception inclusif
Jutta Treviranus
Je me rappelle cette entrevue que j'ai faite à TVO. Je ne me maquille jamais d'habitude. Ils m'ont remis un tube de rouge à lèvres. Je me suis présentée comme ça, et il s'agissait d'une production en direct. Je me suis barbouillé le visage directement devant la caméra, qu'ils ont laissé tourner pendant ce temps.
Nathalie Crandall
C'est formidable. C'est génial.
Todd Lyons
Je suis Todd Lyons.
Nathalie Crandall
Je suis Natalie Crandall.
Jutta Treviranus
Je suis Jutta Treviranus.
Todd Lyons
Et voici le balado Innover sur demande.
Todd Lyons et Nathalie Crandall
Bienvenue à tous. Bienvenue, Jutta!
Jutta Treviranus
Merci!
Nathalie Crandall
Parlez-nous un peu de vous et dites-nous ce qui vous amène à Innover sur demande aujourd'hui.
Jutta Treviranus
Je suis directrice de l'Inclusive Design Research Center, que j'ai créé en 1993, au tout début du Web. Notre objectif, notre vision et notre mission sont de veiller à ce que les technologies émergentes et les pratiques connexes soient inclusives, en particulier pour les personnes qui sont marginalisées ou qui sont exclues pour une foule de raisons, par exemple, les préjugés. Cela explique en partie ma présence ici aujourd'hui. Je suis également membre de l'Académie du numérique. Je suis l'une des enseignantes associées externes. Je pense que j'ai été invitée ici précisément pour examiner la conception inclusive. J'ai établi un cadre de conception inclusive qui, contrairement à l'accessibilité, n'est pas perçue comme une fonction de contrôle. J'ai utilisé ce cadre pour aider à transformer un certain nombre d'organisations et d'industries, comme Microsoft. Cela explique en partie la raison de ma présence ici, je pense.
Todd Lyons
Vous avez travaillé sur ce type de projet pendant toute votre carrière.
Jutta Treviranus
Oui, j'ai commencé en 1979.
Todd Lyons
Selon un article que j'ai lu, depuis l'arrivée sur le marché de l'Apple II, du Vic 20 et du Commodore 64, vous essayez de rendre ces types d'appareils de plus en plus accessibles. Donc je suis très curieux de savoir à quel point l'accessibilité s'est améliorée depuis les années 1970, selon vous.
Jutta Treviranus
Je peux en dire quelques mots. Vous avez raison de dire que lorsque les premiers ordinateurs personnels sont apparus, je travaillais avec un certain nombre de personnes qui devaient faire face à des obstacles relatifs à l'écriture, à la prise de parole et à la participation au sein de l'université. J'avais entendu parler de formidables appareils de traduction dont on pourrait tirer parti, de sorte que tout moyen que vous avez pour contrôler quelque chose puisse être interprété comme quelque chose qui peut être utilisé ou que vous pouvez utiliser pour contrôler quelque chose – tout moyen que vous avez pour envoyer quelque chose peut être traduit. À l'époque, c'était une de sorte de période de triomphe de la technologie. Nous pensions que ces appareils s'amélioreraient sans cesse. C'était vraiment une période novatrice : il était possible d'enlever le couvercle d'une unité centrale et de simplement couper l'accès au clavier, etc. C'était une culture du bricolage et de la réparation. Je réparais moi-même mes voitures, mais maintenant, c'est très complexe. Il y a beaucoup de boîtes noires et de pièces non modifiables. Je ne peux pas apporter de modifications comme je le faisais auparavant. La même chose s'applique aux systèmes informatiques.
Nathalie Crandall
Quand vous vous êtes présentée, mon cerveau s'est mis à bouillonner d'idées. Vous avez commencé en 1993 quand l'Internet a fait son apparition. Et donc, comment cela a-t-il évolué? Avons-nous réussi à intégrer certaines de ces perspectives dans la conception initiale, au lieu de vérifier à la fin si le produit et le processus était accessible?
Jutta Treviranus
À cette époque-là je pensais que les choses allaient s'améliorer sans cesse. Mais, il y a eu des cycles où les choses ont empiré. Je crois qu'il y a tellement de possibilités et de risques associés au domaine de l'intégration de la technologie, surtout dans le cadre de cette conférence où nous parlons de données, d'intelligence artificielle et d'apprentissage automatique. Je pense que nous sommes en train de rater une excellente occasion. La raison pour laquelle le Web a connu tant de succès et a été adopté, au-delà des espérances de ceux qui y ont participé dès le début, c'est en grande partie la participation de personnes qui avaient des utilisations très intéressantes pour le Web, mais qui présenteraient le plus de risques. Ces personnes sont celles que le principe de Pareto appellerait les 20 % difficiles, celles auxquelles les marchés n'essaient généralement pas de s'adresser parce qu'elles sont si différentes. Il n'y a pas d'économies d'échelle. Mais, lorsque nous avons lancé le W3C, nous avons fait un effort très conscient pour inclure ces personnes, parce qu'elles ne pouvaient pas utiliser les systèmes auparavant. Elles avaient donc des raisons beaucoup plus fascinantes d'utiliser le Web. Cela a conduit le Web à devenir plus extensible et à adopter une structure qui serait beaucoup plus adaptable et dynamique. Cependant, je pense que les choses ont évidemment changé, elles sont devenues plus confinées, et le Web a été utilisé à des fins de mesures de la popularité et d'autres choses de cette nature. Et cela l'a orienté de nouveau vers la moyenne, le typique, le populaire – les 80 %. Oui, il y a eu une progression, ensuite ça a été « deux pas en avant et un pas en arrière » en ce qui concerne l'utilisation réelle du potentiel des personnes, qui est diversifié.
Nathalie Crandall
J'ai remarqué une chose, c'est qu'il y a actuellement des conversations à ce sujet dans la fonction publique. Il me semble que par le passé, les conversations sur l'accessibilité portaient toujours sur la question de savoir comment s'assurer que nous pouvons inclure ces personnes. Parce qu'il n'est pas juste que tout le monde n'y ait pas accès? Le message que j'entends aujourd'hui est beaucoup plus valorisant. Il s'agit de faire en sorte que tout le monde peut offrir ses compétences, et que nous puissions les mettre à profit. Il me semble qu'en tant que société, les choses sont bien différentes de celles d'avant. On dirait que, si c'est notre but ultime, alors ça pourrait nous donner la possibilité de concevoir et de réaliser les choses différemment.
Jutta Treviranus
C'est exact. Surtout dans le secteur public, pour lequel nous ne voulons pas nécessairement des gains très rapides. Nous ne voulons pas obtenir les résultats les plus faciles pour stagner ensuite. En fait, c'est que notre responsabilité et notre intention sont de servir toute la population, tous les citoyens. Donc oui, l'ancienne façon d'envisager l'accessibilité a certainement été de la voir comme un contrôle – un risque sur le plan juridique – où l'on évalue quelque chose avant qu'il puisse être diffusé, ce qui n'est pas la bonne chose à faire. Il faut bien le faire au début. Surtout si nous parlons de systèmes numériques, et non d'environnement bâti ou de système industriel, où nous pouvons procéder à des mises à niveau. Les systèmes numériques se transforment, ils changent, et une fois que le génie est sorti de la bouteille, il est impossible de le retourner à l'intérieur. Il faut donc se pencher sur la question dès le début, même s'il ne s'agit que d'une question de risque sur le plan juridique. Cela, par contre, signifie que nous passons complètement à côté d'une occasion. Nous n'avons pas besoin de monocultures, nous avons besoin de diversité. La diversité est une richesse. Elle nous donne des perspectives différentes. Elle nous permet de détecter les signaux faibles. Elle est l'élan pour l'innovation. Et les personnes qui ne peuvent pas utiliser ou qui ont de la difficulté à utiliser vos concepts actuels sont celles qui vous inciteront le plus à innover.
Nathalie Crandall
Les gens ont une telle richesse de points de vue et de travail qu'ils peuvent apporter. Il s'agit de savoir comment en arriver au point où nous pouvons accéder à tout cela. Là où nous sommes attendus, il y a ces obstacles qui font qu'une personne est incapable de contribuer de façon significative? Nous devons être capables de les comprendre. Diriez-vous qu'il y a une période d'espoir avec l'apparition de tout ce concept de numérique et de la transformation qui revient à une chose très humaine et axée sur l'utilisateur? Et ce n'est pas censé être une question de technologie, mais plutôt de la façon dont les gens utiliseront cette technologie?
Jutta Treviranus
Il y a des choses fondamentales que nous devons désapprendre. Nous héritons de toute une gamme de mentalités différentes qui ne sont pas propices à réellement tirer parti de la diversité des perspectives et des talents et compétences disponibles. L'intelligence artificielle, par exemple, est fondée sur des méthodes statistiques et l'analyse statistique, ce qui signifie, bien sûr, que la moyenne, le typique, la majorité règnent. Les systèmes de données sont fondés sur la détermination de façon probabiliste ou prédictive de ce qui va fonctionner pour la majorité. Qu'en est-il à la minorité? Nous devons donc tout repenser. Cela va au-delà de la recherche en général et des pratiques en matière de recherche. Quels sont les moyens de recherche choisis ou appliqués? Tout cela doit être déconstruit dans une certaine mesure. L'idée qu'il existe une personne moyenne ou typique, que le sommet d'une courbe est le point idéal à atteindre au lieu du spectre complet. Il faut aussi parler des pratiques commerciales, j'entends par là les marchés et l'économie. Il est encore question d'une mise à l'échelle qui reproduit une formule de ce qui est perçu comme une formule gagnante. Il s'agit de gagner, d'être les meilleurs. Cette approche malheureusement n'est pas non plus propice à la diversité, parce que nous en choisissons une approche parmi les autres, au lien de choisir celles dont nous avons besoin. Quelle est la gamme de facteurs à considérer que nous devons inclure dans la structure que nous créons? Il faut donc repenser beaucoup de choses fondamentales qui sont largement inconscientes et qui sont tellement ancrées dans nos processus. Par contre, les avantages sont énormes. Nous vivons tellement de crises en ce moment. Il y a une grande disparité. Et si nous voulons remédier à cette disparité, si nous voulons avoir un système qui peut avoir une perspective tous azimuts à 360 degrés pour savoir dans quelle direction vont les choses, en ce qui concerne la prédiction et l'innovation, nous avons besoin de tous ces éléments. Nous devons aussi tirer parti des divers points de vue et de l'expérience vécue des situations complexes. De plus, bien entendu, tous nos systèmes ont tendance à essayer de simplifier les choses pour éliminer la complexité pour trouver la solution. C'est soit un choix binaire, soit un choix gagnant. Pourtant ce n'est pas la réalité en ce moment. La réalité, c'est que nous avons tous ces angles morts. Alors oui, c'est un bon moment, mais nous avons beaucoup de travail à faire!
Nathalie Crandall
Si on recule dans le temps lorsque vous vous êtes lancée dans ce projet, quel aurait été selon vous le plus grand changement qui allait se produire au cours de ces 25 ans? Vous avez beaucoup parlé d'un pas en avant, d'un pas en arrière, parlez-moi d'un pas en avant qui, selon vous, est sur la bonne voie?
Jutta Treviranus
Je crois qu'on s'éloigne probablement de certains vases clos. Je crois aussi qu'il y a un plus grand respect pour les personnes de toutes les disciplines. Puisque l'objectif que j'ai est si vaste, ayant une perspective économique et une perspective statistique. Donc, même pour répondre à cette question, choisir un aspect est en quelque sorte illustratif... on nous donne souvent des choix limités dans un temps limité. Mon domaine est complexe et ratisse large, je n'ai donc pas offrir une seule réponse à cette question. C'est une réponse très complexe, interreliée et enchevêtrée. Ma réponse aura donc de multiples facettes aussi.
Nathalie Crandall
Très intéressant. C'est certainement une question complexe. En effet, c'est probablement de plus en plus complexe à mesure que la technologie évolue et que la quantité de données dont nous disposons augmente. 744-7403
Jutta Treviranus
C'est vrai, mais je pense que là où ça devient moins complexe, c'est au niveau des points communs plus étroits, du point de vue du processus, en faisant de la place pour écouter les points de vue divers, on trouve ensuite les points communs plus étroits, et ceux-ci ont tendance à être assez fondamentaux et simples.
Nathalie Crandall
Avez-vous quelque chose à dire, en tant qu'associée externe de l'Académie numérique? Que signifie ce rôle pour vous?
Jutta Treviranus
Le défi que je me suis donné, qui était également une des choses qui était demandée aux associés externes, était de choisir le projet sur lequel vous vouliez travailler. L'un des projets que je me suis fixés consiste donc à examiner ce qu'il advient des cas particuliers et des petites minorités en matière d'intelligence artificielle et de prise de décision automatisée. Donc, le problème avec les données en ce moment, et comme nous participons à une conférence sur les données, c'est que souvent les risques associés aux données et à ces cas particuliers et à ces petites minorités ne sont pas assez grands pour que les gens y prêtent attention, ou que les sonnettes d'alarme se déclenchent. Étant donné qu'il n'y a pas suffisamment de gens qui font face à ce risque, ils peuvent être assez critiques. En revanche, il y a un impact, surtout si nous instaurons une gouvernance fondée sur des données probantes. En ce qui concerne la gouvernance fondée sur des données probantes, nous évaluons l'impact en nous demandant quelle est la mesure qui a le plus d'impact, et ce, sur le plus grand groupe ou sur le plus grand nombre. Et bien sûr, cette évaluation nécessite habituellement un groupe homogène, et les personnes qui sont en périphérie ne sont pas très différentes les unes des autres. Par conséquent, l'impact n'est souvent pas assez important pour que le gouvernement investisse dans ces mesures ou ces questions particulières. Je me demande donc comment nous pouvons faire en sorte que les personnes qui sont de petites minorités et des cas particuliers ne soient pas exclues. Toutefois, il y a également un énorme potentiel pour créer un système beaucoup plus adaptable et extensible. Nous avons procédé à une évaluation des services conçus pour les 100 % par rapport aux services conçus pour les 80 %, les 20 % étant laissés à plus tard ou à titre de mesure supplémentaire, une mesure distincte. En ce qui concerne le coût, si vous ne traitez que les demandes des 80 %, en laissant de côté les 20 %, les 20 % difficiles, comme on les appelle, jusqu'à plus tard, sur une période de cinq ans, cela a tendance à coûter plus, parce que vous avez beaucoup de demandes de changements pour des choses que vous n'aviez pas prévues : la formation, les rapports de bogues, la gestion du changement au niveau de l'aide, la gestion du changement, etc. Et cette situation ressemble à une de ces maisons qui nécessite beaucoup de réparations, sa fin de vie approchant rapidement. Dès le début, il faut un peu plus de temps, peut-être un peu plus d'investissement, pour créer un système ou une structure de base qui fonctionne pour le 100 %. Avec cette ligne de pensée, il est possible d'avoir un système qui est plus résilient, adaptable et flexible, avec des coûts plus bas en matière d'aide, de formation, de gestion du changement et tout cela. Oui. Merveilleux. J'essaie donc de penser, en fonction de ce public. Dans le cadre des exemples de mon expérience dans ce domaine : j'ai beaucoup travaillé avec les gouvernements provinciaux, qui prennent beaucoup plus rapidement des décisions naturelles et automatisées. Un est dans le domaine de la santé, l'autre, des transports, etc.
Nathalie Crandall
Vous savez, évidemment, que cette question est un grand sujet de conversation ces jours-ci, et il y a certains aspects de l'intelligence artificielle avec lesquels je suis tout à fait à l'aise, par exemple l'automatisation des processus robotiques, n'est-ce pas? Je pense que dans le monde de l'intelligence artificielle, le risque est assez faible. Il s'agit simplement de savoir comment devenir plus efficace.
Jutta Treviranus
Eh bien, en fait, l'efficacité et l'optimisation sont des sujets que j'aimerais aborder également, parce qu'il y a certainement la surveillance du travail et ce genre de choses. Disons que vous avez un centre de service d'appels et que vous recueillez des données sur l'efficacité, et que la mesure est le nombre d'appels que vous traitez dans un certain délai, vous allez probablement ignorer les appels difficiles, n'est-ce pas? Vous procédez ainsi parce que vous voulez optimiser votre rendement. Et donc le genre d'optimisation de l'efficacité, c'est ce qui se passe partout, n'est-ce pas?
Nathalie Crandall
J'ai lu un article à ce sujet, plus précisément sur le système de paye Phénix. L'article portait sur ces cas d'arriéré associé au système de paye, et il y avait pas mal de cibles quant au nombre de cas à traiter. Par conséquent, certains des cas les plus complexes restent souvent dans la file d'attente plus longtemps que d'habitude. C'est donc ce qui se passe souvent, ainsi que partout, par exemple dans les centres d'appels. Parfois, nous mesurons les mauvaises choses. Par exemple, j'ai un collègue qui travaille sur un projet de recherche sur l'analytique prédictive. Ce projet avait pour but de : a) déterminer ce qui définit un bon rendement ou un rendement supérieur, si vous voulez, et ensuite, et b) déterminer certaines des relations essentielles entre des bases de données et certains des processus d'évaluation utilisés pour que tout fonctionne bien. Comme nous avons assez confiance en nos processus d'entrevue et de recrutement, ainsi qu'en d'autres processus que nous utilisons pour recruter des personnes ou pour les déplacer dans d'autres postes, nous ne connaissons pas toujours parfaitement ce que nous évaluons.
Jutta Treviranus
Et cela va à l'encontre de l'équité et de la diversité ainsi que du changement de culture, car ce qui se passe, c'est que les données que vous avez sont une optimisation des personnes qui sont déjà en poste. Donc, si vous voulez changer le type de profil d'embauche, le problème est que si la personne est différente, ou si elle n'est pas comme autres personnes recrutées pour ce poste qui ont déjà effectué ce travail et qui ont traité ce genre de données, alors la candidature de cette personne ne sera pas retenue.
Nathalie Crandall
Je suis heureuse que cette portée concerne l'évaluation des outils. Même en pensant à ce dont vous parlez, je vois ce que vous dites au sujet de cette énorme responsabilité, à savoir que nous devons tous servir le 100 %. Je m'excuse auprès des auditeurs, parce que je parle en agitant les mains, et nos producteurs exécutifs essaient de me faire comprendre que je dois arrêter de faire cela!
Jutta Treviranus
Il y a beaucoup d'autres exemples de cybersécurité. Nous avons beaucoup d'employés à la Défense nationale. Donc, si vous regardez les faux positifs, en ce qui concerne les risques pour la sécurité, etc., ce sont généralement les personnes qui sont des anomalies, des cas particuliers. Il y a donc beaucoup de faux positifs. Il en va de même de l'ARC pour les contrôles fiscaux. Par exemple, les personnes qui ne sont pas comme les autres, c'est-à-dire les personnes handicapées ou, bien sûr, celles qui ont un portefeuille d'actifs très différent et des coûts différents, ont tendance à être signalées et à faire l'objet de beaucoup plus de vérifications, etc. Il y a donc énormément d'exemples. Lorsque nous examinons les données, nous ne réfléchissons pas à leur source. Donc...
Todd Lyons
Merci beaucoup.
Nathalie Crandall
Merci de votre participation.
Jutta Treviranus
Merci.
Toddy Lyons
Vous avez écouté Innover sur demande, présenté par l'École de la fonction publique du Canada. Le thème musical a été composé par The Grapes. Je suis Todd Lyons, producteur de ce balado. Merci de nous avoir écouté.
