Transcription
Transcription : Conférence sur les données du GC 2024 : Conversation avec Shoshana Zuboff et Jim Balsillie
[00:00:01 Le logo de l'EFPC apparaît à l'écran]
[00:00:04 Le titre « Conférence sur les données du GC 2024, Conversation avec Shoshana Zuboff et Jim Balsillie » apparaît à l'écran avec les graphiques de la conférence].
[0:00:11 L'écran s'estompe pour laisser place à Erika-Kirsten Easton et Phil Gratton.]
Erika-Kirsten Easton : Nous allons maintenant réchauffer l'atmosphère avec une petite discussion informelle avec Shoshana Zuboff et Jim Balsillie sur l'évolution du paysage mondial des modèles d'entreprise basés sur les données et les considérations éthiques et civiques.
[00:00:25 Taki Sarantakis est assis avec Shoshana Zuboff et Jim Balsillie]
Taki Sarantakis : Je ne suis pas du genre à me pincer, mais aujourd'hui, je me pince. Je suis ici avec deux personnes que j'admire énormément et dont j'apprends sans cesse. L'une par l'entremise de ses livres, et l'autre en personne. La première est la professeure Shoshana Zuboff, qui a écrit le livre sur l'ère numérique. Nous allons d'ailleurs parler un peu du livre tout au long de la prochaine heure. Pour moi, ce livre est équivalent à La richesse des nations d'Adam Smith. En 1776, Adam Smith a écrit un livre qui décrivait essentiellement ce qui se passait dans le monde. Nous sommes passés de petits marchands qui contrôlaient la production de leurs biens, vers le tout début de l'ère industrielle, grâce à la spécialisation de la main-d'œuvre, au commerce, etc., et le fait de pouvoir voir ce genre de choses avant qu'elles ne se produisent, dans 20 ans, 30 ans, 100 ans, avec des chemins de fer partout, des usines partout, des petits marchands presque disparus par rapport aux employés qui effectuent des tâches répétitives encore et encore. Il a vu loin, et c'est également le cas de la professeure Zuboff. Elle est, encore une fois, sans aucun doute dans mon esprit du moins, l'Adam Smith de notre époque. À sa droite se trouve l'un de ses anciens élèves. C'est vrai. À quel moment avez-vous étudié à la Harvard Business School, Jim?
Jim Balsillie : J'aimerais proposer à la professeure Zuboff de taire l'année, si elle ne la dit pas elle non plus.
(Rires)
Shoshana Zuboff : J'ai été embauchée à l'âge de 16 ans. J'étais une enfant prodige.
Taki Sarantakis : Jim, que vous connaissez tous comme le cofondateur de ce qui s'appelait à l'époque Research in Motion, qui est en réalité BlackBerry. Et je ne peux vous dire à quel point une entreprise canadienne de Kitchener-Waterloo a, pendant un moment, conquis le monde. Elle était partout. Elle a changé notre façon de travailler, notre façon de vivre et il s'agit d'une invention canadienne. Et les retombées de ce projet se poursuivent encore aujourd'hui. Il existe toujours une sorte de mafia de la recherche en mouvement qui continue à produire des entreprises et des produits dans le monde entier. Jim a joué un second rôle en tant que philanthrope, notamment par l'intermédiaire du Conseil des innovateurs canadiens, qui encourage les petites entreprises canadiennes à devenir de grandes entreprises canadiennes. Mais s'il est ici aujourd'hui, c'est aussi parce qu'il est l'un des plus grands spécialistes au monde du numérique, des données et de ce qui nous arrive. Nous allons donc commencer par la présentation d'un Jim sans âge, ou d'un Jim d'âge indéterminé, puis nous associerons la professeure Zuboff à cette présentation. Sur ce, Jim, je vous laisse la parole, mon ami.
Jim Balsillie : Merci beaucoup, Taki. C'est un plaisir d'être parmi vous aujourd'hui et surtout de partager la scène avec mon professeur, quelqu'un qui a enseigné et mentoré les plus brillants penseurs de notre époque sur les promesses et les dangers de l'économie fondée sur les données. Donc, bienvenue. Et puis, le faire ici avec l'École de la fonction publique du Canada, notre pilier et notre espoir pour les capacités avancées de ce domaine au Canada.
Le sujet de notre discussion informelle est la question politique déterminante de notre époque et particulièrement pertinente pour les Canadiens, avec les projets de loi sur la protection des renseignements personnels et l'IA dont nous sommes saisis, en particulier le projet de loi C-27 et la Loi sur l'intelligence artificielle et les données. Je prendrai quelques minutes pour partager quelques faits et réflexions qui jetteront les bases de notre discussion d'aujourd'hui. L'évolution rapide de la technologie au cours des trois dernières décennies a ouvert une nouvelle ère où la richesse et le pouvoir découlent de la possession d'une propriété intellectuelle de grande valeur et du contrôle de données précieuses et de moteurs d'intelligence artificielle. Contrairement aux biens matériels, les données de propriété intellectuelle et l'IA présentent des caractéristiques uniques, qui exigent des considérations distinctes de la part des innovateurs et des décideurs politiques aux niveaux national et international. Cette transformation numérique crée également un nouveau type d'espace social et politique, remodelant les sphères publiques et privées. Les données de propriété intellectuelle et l'IA sont désormais les actifs commerciaux et de sécurité nationale les plus précieux au monde. En 1976, 17 % de la valeur de l'indice S&P 500 était constituée de biens incorporels. Aujourd'hui, les biens incorporels représentent plus de 91 % de la valeur totale de 40 000 milliards de dollars de l'indice S&P 500. La propriété intellectuelle, les données et l'IA, qui présentent de fortes caractéristiques de bien public, jouent un rôle central dans l'économie du 21e siècle. Elles influencent non seulement les aspects économiques, mais aussi la sécurité sociale, la santé et les domaines géopolitiques. L'économie fondée sur les données tend naturellement vers les monopoles, en raison de caractéristiques telles que les économies d'échelle et de gamme, les externalités de réseau et les asymétries de l'information, ce qui pose des défis aux marchés concurrentiels, au dynamisme des entreprises et à la souveraineté des petites nations.
La compréhension de l'économie structurelle de l'économie des données est cruciale pour la prospérité partagée, la protection des droits de la personne, les considérations de bien public, la sécurité et la démocratie. Les brevets sont des indicateurs mesurables de l'innovation, la production innovante ayant un impact direct sur la richesse et le pouvoir au niveau de l'entreprise et au niveau national. Avec l'émergence de l'économie du savoir et de l'innovation avancée, les pays se sont axés de manière stratégique et systémique sur la possession et la protection de ces actifs, puis sur leur intégration dans des produits et services à valeur ajoutée. Le système des brevets a été conçu à l'origine comme un cadre de récompense incitatif pour les inventions authentiques, mais il s'est transformé en une monopolisation du savoir et de l'information nécessitant de nouvelles stratégies pour les pays qui en possèdent peu, comme le Canada. Dans le cadre de la transformation numérique, les considérations transversales autour de l'IA et des données concernent les valeurs, la création de richesses, la distribution, les marchés concurrentiels, les droits tels que la vie privée, la santé, les processus démocratiques et la sécurité nationale.
Je pense que la gouvernance des données est la question de politique publique la plus importante de notre époque. Celui qui contrôle les données et la puissance de traitement nécessaire contrôle qui et quoi interagit avec elles. En outre, toutes les données collectées peuvent être retraitées et analysées à l'avenir sous de nouvelles formes qui n'ont pas été prévues au moment de la collecte. Cette réalité a des implications majeures pour l'autonomie personnelle, la sécurité, la démocratie et l'économie mondiale. Les effets des données et de l'IA sont de plus en plus répandus au sein de populations plus larges, en particulier parmi les populations vulnérables, y compris les enfants. L'utilisation abusive des données et de l'IA peut compromettre non seulement les écosystèmes d'information, mais aussi les processus démocratiques. Les grandes entreprises et les États-nations se livrent à une course mondiale pour s'approprier la propriété intellectuelle de l'IA en déposant des demandes de brevets d'IA, comme le montre le graphique de gauche. Un article récent indique que les entreprises et les investisseurs les plus intelligents du monde investissent des milliards dans l'IA. ChatGPT a atteint un million d'utilisateurs en seulement cinq jours, devançant les autres plateformes de plusieurs mois ou années. Cela souligne la forte volonté des consommateurs d'adopter de nouveaux produits ou de nouvelles plateformes, malgré les risques.
La litanie des effets néfastes du modèle économique du capitalisme de surveillance est bien documentée et ne cesse de s'aggraver. Cette diapositive résume certains des dommages les plus insidieux, notamment la disparition de la sphère privée, la crise de la santé mentale chez les jeunes, la remise en cause des marchés équitables et du dynamisme économique. L'érosion de la démocratie et les atteintes croissantes à la cybersécurité. Pourtant, face à des préjudices aussi évidents, des intérêts particuliers liés résistent à la nécessité d'une protection. Ces intérêts particuliers distincts sont les monopoles du secteur privé, ceux qui manipulent l'arène de la démocratie et les agences de sécurité de l'État. Ma dernière diapositive concerne la cause fondamentale des dommages en aval du capitalisme de surveillance, qui réside dans l'affaiblissement des droits de la personne, qui doivent être restaurés pour s'adapter à notre société de l'information et à nos réalités contemporaines. Il s'agit des droits à la vie privée, à la réalité, au savoir, à l'action, à la société et à l'intégrité politique et démocratique. Il s'agit bien d'un combat pour notre avenir à la frontière des nouveaux pouvoirs et d'un combat existentiel pour la démocratie. Shoshana, je vous remercie pour votre leadership intellectuel inlassable, qui a inspiré tant de personnes et façonné une grande partie de mes réflexions et de mes actions de plaidoyer.
Taki Sarantakis : Bienvenue. Merci beaucoup, Jim.
Shoshana Zuboff : Merci, Jim.
Taki Sarantakis : Professeure Zuboff, nous sommes à une conférence sur les données, mais votre ancien étudiant parle de droits, de politique et de monopoles. Pourquoi? Pourquoi parle-t-il de droits aujourd'hui?
Shoshana Zuboff : Bien. Nous allons donc commencer par une question très difficile. Pour répondre à la question, je vais vous raconter une petite histoire, que j'ai mis du temps à comprendre. Je vais essayer d'être brève. À l'époque où Jim était un de mes étudiants, tout juste avant, lorsque la Harvard Business School me courtisait pour m'embaucher, ils m'ont envoyé rencontrer un groupe de vieux professeurs, tous des hommes, aucune femme. Nous avions donc une conversation très intéressante avec un autre professeur que je rencontrais pour la première fois, et nous parlions des perspectives du capitalisme. Il m'a dit qu'il était très inquiet quant aux perspectives du capitalisme car, comme beaucoup d'autres économistes, il considérait qu'il n'y avait plus rien à marchandiser. C'est important. Je vous avoue donc que nous étions en 1980. Et à partir de maintenant, comprenons que même en 1986, seulement 1 % de l'information mondiale était stockée sous forme numérique. L'année 1986, qui pour moi, pour le meilleur ou pour le pire, semble avoir eu lieu il y a cinq minutes. À l'époque, en 1980, il n'était donc pas insensé de dire : « Que reste-t-il à marchandiser? »
Tout ce qui pouvait être produit en masse, commercialisé en masse, a été produit en masse, commercialisé en masse. Quelle est la suite des événements? Marx appelait cela l'accumulation primitive. Où trouver des choses que personne ne connaît et que l'on peut prendre gratuitement pour les transformer en quelque chose qui peut être produit et commercialisé en masse? Ce professeur m'a donc dit que nous avions épuisé toutes ces possibilités. Où va aller le capitalisme? D'accord. À l'époque, je me suis dit que ce n'était pas possible. Mais j'y ai réfléchi pendant très longtemps, comme vous pouvez le voir, pendant 45 ans. Et il n'avait pas tort. Avançons rapidement de 1980 à 2000, 2000-2001. C'est à ce moment-là que se produit dans la Silicon Valley ce que l'on appelle l'éclatement de la bulle des cyberentreprises. Toutes ces petites entreprises brillantes en démarrage sont en train de s'effondrer, de faire faillite, les investisseurs retirent leur argent. Les fondateurs de Google étaient considérés comme les plus intelligents de la pièce, et ils sont confrontés exactement à la même tragédie et aux mêmes craintes que tous les autres habitants de la Silicon Valley, malgré leur intelligence et le fait qu'ils disposent de ce que tout le monde pensait être le meilleur moteur de recherche à ce jour.
Donc, quel était le problème? Ils n'ont pas réussi à trouver un moyen de monétiser les données. C'est ce qu'ils se sont dit. Nous ne savons pas comment les monétiser. Et ils avaient plusieurs plans en tête. Les abonnements, la vente de services aux grandes entreprises, diverses choses, tout cela aurait pu fonctionner et leur permettre de faire de bonnes affaires. Mais il s'est passé autre chose. Ils étaient très motivés, d'ailleurs, parce que Larry Page, l'un des fondateurs, comme vous le savez, était obsédé par Tesla, l'inventeur, qui est mort sans le sou bien qu'il ait été brillant et un génie, et il avait une peur bleue de mourir comme Tesla. Sergey Brin a déclaré publiquement, parce que j'ai pu le citer dans mon livre, qu'il ne voulait pas devenir un autre crétin de la Silicon Valley, qui avait une entreprise, mais ne pouvait pas gagner d'argent. Ils étaient donc très motivés. Deux choses se sont produites, coup sur coup, et cela a tout changé. Premièrement, ils ont fait une découverte que personne n'avait anticipée, à savoir que chaque fois qu'une personne interagit avec Internet ou tout ce qui est lié à Internet, elle laisse des traces comportementales, un petit sentier. On parle d'échappement de données, d'échappement numérique, de miettes de pain numériques. Une trace de ce qu'ils ont fait.
Ils ont découvert que non seulement les gens laissaient derrière eux des signaux de leur activité, de leur comportement, mais que ces signaux étaient hautement prédictifs d'un comportement futur. Si vous les rassemblez et les calculez d'une manière particulière, vous pouvez commencer à prédire non seulement ce qu'ils font maintenant, mais aussi ce qu'ils feront ensuite et ce qu'ils feront probablement plus tard. Il s'agissait d'une grande découverte. Donc. À partir de cette découverte, ils ont eu une nouvelle idée, une idée audacieuse qui résoudrait le problème du capitalisme à notre époque. Ils ne le savaient pas encore, mais ils allaient bientôt l'apprendre. L'idée était que maintenant que nous avons ces traces et que personne ne sait qu'elles sont là, d'ailleurs, l'ai-je mentionné? Et personne ne sait que nous pouvons les voir, les collecter et les calculer. Mais maintenant que nous les avons, nous pouvons faire des prévisions de comportement et les vendre comme n'importe quelle autre…
Taki Sarantakis : Marchandise.
Shoshana Zuboff : Marchandise. Nous pouvons les conditionner comme des barils de pétrole ou des tonnes de blé et les vendre comme des marchandises. Cela a permis de résoudre le problème qui préoccupait mon futur nouvel ami professeur à la Harvard Business School en 1980. Mais devinez quoi? Cela a créé beaucoup de nouveaux problèmes. C'est tout ce que j'ai à dire. Je vais m'arrêter de parler un peu jusqu'à ce que vous me posiez une autre question. Le fait est que… qu'est-ce que nous transformons en marchandise? C'est la partie que j'ai mis du temps à intégrer. La marchandisation du blé et du pétrole est une chose. Lorsque nous parions sur l'avenir du comportement humain, cela signifie que chaque aspect de notre activité doit être orienté de manière à rendre ce comportement le plus prévisible possible. Une autre chose que Larry Page a dit au tout début, et il l'a dit à quelqu'un d'autre plus tard, c'est qu'il réfléchissait à l'état d'esprit qui régnait au moment de la création de Google. Il a déclaré que l'objectif sociétal a toujours été notre principal objectif, parce que pour que ce secteur des matières premières soit vraiment lucratif, comme des billions de dollars de capitalisation boursière, c'est ce qu'ils ont atteint, cela signifie que nous devons créer une société dans laquelle les forces qui sont dirigées vers les collectifs et les individus, ces forces travaillent à rendre le comportement plus prévisible. Il ne s'agit pas d'une société ouverte, libre et démocratique. Et c'est là le point essentiel. Il s'agit maintenant de savoir ce que signifie une nouvelle ère de capitalisme, le capitalisme de surveillance, qui, comme vous le savez, s'est étendu bien au-delà des géants de la technologie. En fait, certains d'entre vous ont peut-être vu l'étude Mozilla publiée très récemment sur l'industrie automobile? Quelqu'un a vu ça?
Taki Sarantakis : Oui.
Shoshana Zuboff : Les 25 premières marques automobiles mondiales gagnent aujourd'hui toutes de l'argent sur cette image de droite, est-ce la droite? Oui, le côté droit de l'image de Jim, où se trouve tout le savoir intangible. Car désormais, lorsque vous achetez un camion, une voiture ou autre, cet objet est un produit d'appel pour l'extraction de données. Il s'avère que les 25 plus grandes marques exploitent votre vie sexuelle, et qu'elle était l'autre bonne nouvelle? Votre vie sexuelle, oh, et votre matériel génétique. Il s'agit de capteurs et de toutes sortes d'éléments intégrés dans les voitures. Ainsi, ils perçoivent tout, votre regard, tout. Ils combinent également tous ces éléments avec la télématique, mais aussi avec tout ce que vous faites en relation avec leurs sites Web, ou lorsque vous entrez dans leurs salles d'exposition, tout. Et bien sûr, tout ce qui est déjà disponible sur vous dans le monde. Et c'est vrai pour tous les secteurs d'activité. C'est vrai pour l'éducation, pour les soins de santé, pour l'immobilier et pour les finances. C'est vrai pour tous les secteurs, tous les produits et tous les services, et il est certain que tous les produits dits intelligents et tous les services dits personnalisés ont été réutilisés comme produit d'appel pour l'extraction de données.
Il s'avère que lorsque le comportement humain et les prédictions de comportement humain, lorsque l'humain est marchandisé, lorsque cela devient le fondement du capitalisme, certaines choses se produisent qui sont fondamentalement différentes de tout ce qui s'est passé auparavant. Car cela signifie non seulement que la marchandisation entraîne la concentration et la monopolisation que Jim vous a montrées, la concentration du pouvoir économique, mais aussi que ces mêmes opérations entraînent des concentrations de pouvoir social, car le pouvoir social est nécessaire pour pouvoir intervenir dans le flux de la vie humaine libre et ouverte, et le modifier, le manipuler, le rassembler, l'accorder, le conditionner, le renforcer de manière particulière pour le rendre plus prévisible dans l'intérêt de nos résultats commerciaux.
Et la troisième chose qui se produit, c'est qu'une fois que nous avons le pouvoir économique, puis le pouvoir social qui déstabilise les sociétés, nous profitons de cette déstabilisation, nous profitons de ces nouvelles poches de faiblesse pour accumuler davantage de fonctions de gouvernance dans notre domaine privé, de sorte que la démocratie s'affaiblit à chaque fois que le capitalisme de surveillance s'institutionnalise plus profondément et plus densément. C'est le monde dans lequel nous vivons aujourd'hui et tout cela repose sur la question des…
Taki Sarantakis :Droits et des données.
Shoshana Zuboff : Des droits et des données. Car si nous n'avions pas marchandisé l'humain, et que rien n'échappe à ce filet, nous n'aurions pas à parler de droits.
Taki Sarantakis : Cette réponse était plutôt sympa.
(Rires)
Et j'ai vraiment envie, je voudrais lire une citation de votre livre qui a vraiment résonné en moi. Je lisais des articles sur les données, l'IA et d'autres sujets depuis de nombreuses années, mais je n'avais pas vraiment assimilé les conséquences de tout cela avant de lire votre livre. Je veux lire cette citation, et je pense que je vais la lire deux fois parce qu'elle est si puissante. « Le pouvoir était autrefois synonyme de propriété des moyens de production, mais il est aujourd'hui synonyme de propriété des moyens de modification des comportements. » Et c'est là que j'ai vraiment compris, c'est-à-dire que si vous avez suffisamment de données, si vous savez ce qu'une personne écoute, ce qu'elle regarde, qui sont ses amis, où elle va, quand elle fait de la vitesse, quand elle n'en fait pas, quand elle traverse au feu rouge, quand elle ne le fait pas. Vous savez des choses sur ces personnes, mais plus important encore, vous savez ce qu'elles sont sur le point de faire, car vous devenez alors un point de données moléculaires. Et vous devenez un point de données moléculaires que les gens utilisent ensuite pour modifier votre comportement. Vous alliez faire X, mais comme ils savent ce que vous venez de faire, ils savent ce que vous allez faire.
C'est fascinant. Donc, Jim, joignez-vous à nous. Dans votre première vie, vous étiez un homme d'affaires. Vous gagniez des milliards de dollars. Vous avez…
Jim Balsillie : Je gagne toujours de l'argent, juste pour que vous le sachiez, donc… (Rires)
Taki Sarantakis : Oui, mais vous avez commencé à nous parler, vous avez commencé à agiter les drapeaux rouges bien avant que quiconque au Canada ne le fasse, à ma connaissance. Pourquoi avez-vous sonné l'alarme? Je veux dire, vous étiez un informaticien. Vous étiez le meilleur informaticien du Canada.
Jim Balsillie : Je pense que ce qui est particulier au niveau national, c'est que si l'on veut faire du commerce mondial dans l'économie du savoir, il faut faire de la politique publique tous les jours, toute la journée. Il existe une relation entre ces deux éléments. J'ai fait partie du US Business Council, j'ai été profondément impliqué dans ces questions au niveau mondial, et vous travaillez toujours sur le cadre politique parce que les biens incorporels sont une fonction des droits principalement négatifs qui sont établis par l'État. Il s'agit donc de cadres qui changent des centaines de fois par jour, et nous avions une sorte de forme aiguë de néolibéralisme à l'intérieur du pays. Ce que je dis des États-Unis, c'est qu'ils parlent à la manière de Jefferson, mais qu'ils gouvernent à la manière de Hamilton. Au Canada, nous parlons en termes hamiltoniens, mais nous gouvernons en termes jeffersoniens. Et j'aimerais qu'il y ait un peu plus d'hamiltonien, car avec le néolibéralisme extrême, nous avons été très passifs. Et je crois que c'est plutôt un jeu pratique, car les droits négatifs sont accordés par le gouvernement. Ils induisent des frictions, ce qui est l'inverse de la production tangible, où l'on élimine les frictions. C'est donc principalement dans une optique économique que je me suis intéressé aux domaines de la productivité. Nous devions donc y prêter attention. Et je m'opposais à l'orthodoxie domestique dominante. C'est ainsi que j'ai commencé à m'intéresser aux aspects de politique publique.
Et puis, avec l'émergence de l'économie des données, nous avons tous été surpris, beaucoup d'entre nous l'ont été un peu plus tard – vous avez su lire l'avenir, bien sûr, Shoshana – par ce qu'elle faisait dans le domaine électoral. Je connaissais donc très bien les acteurs sur le plan économique. Et c'est à ce moment que pour RIM, Mike et moi nous sommes séparés, car je pensais que le secteur des téléphones portables était mort parce qu'il s'agissait de deux modèles économiques, l'un étant un système de commerce électronique fermé et l'autre un système de surveillance basé sur les données. Nous avons donc dû nous tourner vers les services. Ainsi, dans tout cela, le modèle de données est apparu rapidement et furieusement. Et puis, bien sûr, avec le Brexit et ce genre de choses, on a commencé à voir que le problème se posait dans d'autres domaines. On commence à voir la santé mentale des enfants. Je savais qu'il s'agissait d'un domaine de politique publique pour la prospérité, mais ce qui m'a choqué, c'est qu'il est devenu beaucoup plus transversal dans les domaines non économiques. Et je pense que c'est la même chose pour toutes les billes, comme l'a dit Shoshana. Lorsque vous contrôlez l'agence de l'individu, vous contrôlez vraiment de nombreux aspects des droits et du bon fonctionnement de la société. Et il est très rentable d'éroder ces choses. C'est donc ce qui m'a attiré, c'était l'évolution naturelle d'une vie commerciale. Et puis, en restant sur la partie économique, les parties non économiques, je pense que la plupart d'entre nous ont été choqués par le Brexit et ont vu le fait que ces systèmes de manipulation avec Cambridge Analytica et ainsi de suite étaient, je ne pensais pas qu'ils pouvaient faire ça. Ça m'a vraiment choqué.
Je pense que les premiers articles ont été publiés en octobre, puis, pour une raison quelconque, la réaction est venue à retardement, et c'est en mars que tous les articles ont été publiés et que tout le monde s'est mis à paniquer. Il y a eu une réaction différée d'environ six mois. Mais je me souviens que lorsque cela s'est produit, j'ai pensé qu'il s'agissait d'un nouveau règne. Ce n'est plus le Kansas. Ainsi, vous renforcez la mobilisation. Nous avons siégé ensemble au Grand Comité international, mais j'estimais qu'au niveau national, nous devions faire preuve de beaucoup plus d'initiative et ne pas être passifs dans ces domaines, ne pas accepter que, dans l'économie de la production matérielle, il y ait un avantage comparatif. En général, la marée montante fait monter tous les bateaux, alors qu'il s'agit d'un jeu de rentiers gagnant-perdant sur le plan économique entre les États et à l'intérieur des États, mais aussi d'un échange de biens publics contre des gains privés. Il s'agit donc d'un jeu très conséquent, très prédateur et très technique, et il y a beaucoup détournement cognitif pour embrouiller les gens. Je crois que parce que j'étais un protagoniste commercial, j'ai compris la nature du jeu et…
Taki Sarantakis : Vous étiez dans l'arène, vous vous battiez…
Jim Balsillie : Oui, je connais tous les tours. Je veux dire, je vois un communiqué de presse, dès la première ligne, vous pouvez voir le tour qui est joué, comment ils essaient de l'orienter commercialement.
Taki Sarantakis : Encore une fois, nous sommes à une conférence sur les données. Tout d'abord, il est assez étrange de parler de droits. La deuxième chose étrange dont je voudrais parler, professeure Zuboff, c'est que vous nous parliez du 11 septembre. Ou mieux encore, les 10, 11 et 12 septembre.
Shoshana Zuboff : D'accord, avez-vous une idée particulière, parce que je sais que nous en avons déjà parlé, alors...
Taki Sarantakis : Oui. Ce qui s'est passé dans le monde des données, de la surveillance numérique, de manière métaphorique, le 10 septembre.
Shoshana Zuboff : D'accord. Je vais vous raconter ce petit bout d'histoire.
Taki Sarantakis : Oui.
Shoshana Zuboff : D'accord. Une autre histoire? D'accord, une autre histoire. Le titre de mon histoire est Le capitalisme de surveillance est arrivé quand la démocratie s'est arrêtée. Je veux dire par là que nos dirigeants politiques démocratiquement élus nous ont vendu à la Silicon Valley dans l'intérêt d'une connaissance totale de l'information. C'était le titre de l'histoire. Et puis, quel est le nom qu'ils donnent à la chose juste en dessous du titre? Le sous-titre?
Membre de l'auditoire : Le résumé!
Shoshana Zuboff : Le résumé? Bon, de toute façon, vous avez le titre et le sous-titre ou le résumé. D'accord, le résumé et le sous-titre. Maintenant, racontons l'histoire. Donc, en 1997, dans mon monde, les gens continuent d'écrire, avec un peu de chance, sur Internet et la démocratisation du savoir. Combien de personnes dans cette salle sont assez âgées pour se souvenir de ce discours? D'accord.
Taki Sarantakis : C'était plus que cela, n'est-ce pas? Il s'agissait de ne pas toucher à Internet, le gouvernement ne doit pas s'en mêler!
Shoshana Zuboff : C'est exact. Rappelez-vous, c'était Stewart Brand, c'était la nouvelle utopie, la démocratisation du savoir. De bonnes personnes ont travaillé sur ce projet et de bonnes personnes y ont cru, et j'étais moi-même très animée et pleine d'espoir. En 1997, c'est aussi l'année où Clinton était président et Gore vice-président. Un jour, ils sont sortis de la Maison-Blanche avec une grande conférence de presse. Toutes les personnes que nous connaissons aujourd'hui dans la Silicon Valley étaient assises dans le public lorsque vous regardez la vidéo, mais elles avaient toutes l'air d'avoir les joues potelées et d'être boutonneuses. Mais elles étaient toutes là et c'était pour annoncer le nouveau livre blanc sur le commerce électronique qui allait fixer les règles d'Internet. Et comme la Silicon Valley se trouve aux États-Unis d'Amérique et que la Silicon Valley représentait Internet, il revenait essentiellement aux dirigeants politiques américains de fixer les règles d'Internet, qui allait bientôt devenir une force mondiale.
Et ce qu'ils ont dit dans la toute première ligne de ce document très intéressant, c'est que le secteur privé doit diriger. C'est ce que j'appelle l'autoéviscération démocratique, où le gouvernement est lent, le gouvernement est stupide, la démocratie est trop lente, nous ne savons rien, nous ne pouvons pas comprendre toutes ces choses, nous ne savons pas ce que sont les ordinateurs. Ainsi, seules les personnes travaillant dans ces sociétés Internet comprennent suffisamment bien ce phénomène pour le gérer, et il doit donc s'agir d'une autorégulation. Et ces garçons, pardonnez-moi l'expression, vont devoir diriger parce que le reste d'entre nous, et ils ont spécifiquement dit dans ce document que le gouvernement ne doit pas s'en mêler, qu'ils n'allaient pas adopter de lois qui entraveraient ce qu'ils veulent faire. Et ils ont dit, en passant, que s'il y a des lois déjà en vigueur qui pourraient faire obstacle à ce qu'ils veulent faire, elles seraient retirées. Tout cela nous a donc été offert par Milton Friedman. Milton Friedman, économie libertaire radicale. Milton Friedman, la personne qui ne croit pas qu'un gouvernement doive investir dans l'éducation publique. Ce Milton Friedman. C'est lui qu'ils canalisaient, et ils le canalisaient très bien.
Mais il n'a pas fallu longtemps pour que notre Commission fédérale du commerce, puisque nous n'avions personne aux États-Unis pour s'occuper de choses comme les renseignements personnels, la Commission fédérale du commerce est ce qui se rapproche le plus des personnes qui s'intéressent aux consommateurs et à leur protection. La Commission fédérale du commerce suit donc tout cela de près. Ce que je vous raconte s'est passé en 1997. En 2000, la Commission fédérale du commerce, le commissaire et de nombreux membres de la Commission se sont réunis et ont annoncé que l'autorégulation sur Internet ne fonctionnerait pas. Regardez tous ces témoins, regardez tous ces bogues Web. Ces types ne font rien d'autre que d'extraire secrètement des données de tout le monde, partout et sur chaque page Web. Nous devons faire quelque chose à ce sujet. Nous devons mettre fin à l'autorégulation. Nous avons besoin d'une législation complète en matière de protection des renseignements personnels. Ils ont rédigé la législation et l'ont transmise au Capitole. Et si vous étiez à Washington en 2010, n'importe où au Capitole, toutes les conversations portaient non pas sur la possibilité d'une législation en matière de protection des renseignements personnels, mais sur le type et le montant de cette législation.
Taki Sarantakis : Désolé, vous avez dit 2010. Vouliez-vous dire 2000?
Shoshana Zuboff : Oh… si vous étiez né en 2010, oui. Désolée.
Taki Sarantakis : Oh 2010? D'accord, désolé. Toutes mes excuses.
Shoshana Zuboff : Je veux dire, non, 2000. Je suis désolée, 2001.
Taki Sarantakis : Oui, c'est ce que je pensais.
Shoshana Zuboff : Désolée, désolée, désolée. Je me perds dans ma propre histoire. En 2000, si vous étiez au Capitole, tout est un débat sur les renseignements personnels. Il n'a pas fallu longtemps pour que ce débat prenne fin. En fait, après l'attaque des tours jumelles et du Pentagone le 11 septembre 2001, les personnes qui étaient sur place, les témoins oculaires de ces discussions, de ces espaces, ont déclaré qu'en l'espace de 24 heures, toute la conversation avait basculé à 180 degrés. Personne ne parlait de renseignements personnels. Tout le monde parlait de…
Taki Sarantakis : La sécurité.
Shoshana Zuboff : La connaissance totale de l'information. Et même si la connaissance totale de l'information, qui était une expression lancée par un dirigeant particulièrement zélé de la communauté du renseignement, l'idée était que, non, non, non, nous n'allions pas faire de la connaissance totale de l'information. Ce que le gouvernement américain a fait, c'est institutionnaliser la connaissance totale de l'information.
Taki Sarantakis : Attendez, le pays de la liberté et du courage? Ils ont fait ça?
Shoshana Zuboff : Le pays des anciens libres…
(Rires)
Et juste temporairement, les gens courageux tremblent un peu dans le placard. Mais c'est à nous de créer les espaces nécessaires pour que toutes les personnes courageuses puissent se réunir et exiger ce qui semble impossible. Mais nous y reviendrons plus tard, n'est-ce pas? D'accord. Pour conclure, nous savons que cette histoire est vraie, non seulement parce que des universitaires, des juristes et des témoins oculaires ont écrit à ce sujet, mais aussi parce que la CIA nous a dit que c'était vrai. En 2013, un homme nommé Gus Hunt, qui était à l'époque le directeur de la technologie de la CIA, s'est rendu à une conférence publique dans une ville américaine et n'importe qui, pour le prix de l'inscription, pouvait participer à cette conférence. Il s'agissait d'une conférence sur l'informatique, GigaOm. Et Gus Hunt s'y est rendu, un autre présentateur dans une grande salle de conférence, une autre salle sans fenêtre et sans air où il a fait sa présentation. Dans sa présentation, il a expliqué que l'énigme que la CIA devait résoudre depuis le 11 septembre était la suivante : comment relier les éléments ensemble? Vous vous souvenez peut-être que ce jour-là, on a reproché à la CIA, au FBI et à de nombreuses agences, dont la NSA, de ne pas avoir fait le lien entre les différents éléments.
M. Hunt affirme donc que si nous voulons relier les éléments, nous devons avoir les éléments, et si nous voulons avoir les éléments, cela signifie que nous devons tout collecter. Et c'est ce que nous avons fait avec succès. Et puis il a remercié, il a dit je veux remercier Facebook, je veux remercier Google, je veux remercier AOL, je veux remercier Twitter, je veux remercier Fitbit, et je veux remercier les télécommunications. Et il avait une longue liste. Je tiens à remercier toutes ces entreprises parce qu'elles collectent toutes les données de toutes les personnes. Et grâce à elles, a-t-il déclaré en 2013, la CIA est désormais sur le point de pouvoir, je cite, « calculer sur toutes les données générées par la personne » Encore une fois, c'est la raison pour laquelle nous parlons de droits. Dois-je donc raconter la fin de cette histoire? Voulez-vous que je…
Taki Sarantakis : Dites-nous qui était dans la pièce, au fond?
Shoshana Zuboff : Bien. C'est intéressant. Et si vous regardez la vidéo, vous pouvez en voir des aperçus. Mais le fait est qu'il était assis dans une salle. Je ne dirais pas que la salle était bondée, je ne dirais pas qu'il n'y avait que des places debout. C'était une sorte de foule dispersée. Je ne dirais pas qu'ils étaient vraiment attentifs. Les gens regardaient leur montre. Il a eu la malchance de faire son exposé juste avant le dîner et, rien qu'en regardant la vidéo, vous pouvez sentir que personne ne se soucie vraiment de ce qu'il dit. En fait, il a dit, Gus Hunt a dit au maître de cérémonie : « Je serais heureux de rester et de répondre aux questions aussi longtemps que l'auditoire le souhaite ». Le maître de cérémonie lui dit : « Vous savez, Gus, c'est l'heure du dîner. Tout le monde a faim. Pourquoi ne pas faire une pause pour aller manger? Et si quelqu'un veut vraiment vous poser une question, il vous trouvera dans le couloir ou ailleurs. Ce n'est pas grave. » Gus Hunt a fait exploser une bombe nucléaire dans la salle de conférence sans air de ce petit espace de conférence public pour les intellos de l'informatique, une sorte de grande conférence, mais personne ne l'a entendue, à l'exception d'un seul homme. Un homme était assis dans la salle au dernier rang, un homme dont les cheveux étaient en feu. Ce type s'appelait Ed Snowden.
À ce moment-là, je crois que c'était le 25 mars 2013, M. Snowden avait déjà fait des recherches sur ces documents au sein de la NSA, et il avait déjà une profonde compréhension de la collusion entre le secteur privé et la communauté du renseignement, le fait que tous ces flux de données, les flux de données humaines existaient grâce aux sociétés Internet, les sociétés privées qui ont été révélées plus tard comme étant le programme PRISM. Vous vous en souviendrez peut-être si vous lisez les documents de M. Snowden. Quoi qu'il en soit, il comprenait très bien, mais il n'avait pas encore décidé s'il allait ou non dénoncer la communauté du renseignement des États-Unis d'Amérique. C'est ce jour-là qu'il a entendu Gus Hunt, et que ce dernier a accepté de prendre la parole lors de cette conférence publique devant une caméra qui allait le mettre sur YouTube et mettre toutes ces informations à la disposition de ce qu'Ed a décrit comme étant tous les normaux dans la salle, et de ceux qui regarderaient la conférence de loin. C'est ce qui l'a aidé à décider qu'il devait en parler au monde entier, parce que cela ne se passait pas dans cette salle de conférence. Ainsi, pour terminer une phrase, le 11 septembre a engendré ce que j'appelle l'exceptionnalisme de la surveillance. Nous sommes une démocratie, excepté lorsque nous sommes déterminés à atteindre une connaissance totale de l'information au nom de la sécurité nationale. Nous plaçons la sécurité nationale à l'encontre de toutes les valeurs, normes, lois et principes démocratiques, et nous faisons une exception, en réquisitionnant, en nourrissant, en alimentant et en donnant une large place à ce secteur d'Internet. Ils collectent les données. Nous avons les données, nous les utilisons, nous n'avons pas à violer la constitution et ils ne sont pas liés à la constitution.
Taki Sarantakis : Oui.
Shoshana Zuboff : L'exceptionnalisme de la surveillance.
Taki Sarantakis : Et n'oubliez pas cela en tant que fonctionnaires, car lorsque vous traversez une crise importante, vous êtes tentés de dire : « Oh, mettons les règles de côté, mettons nos valeurs de côté ». C'est une urgence, allons-y. On le voit même à la une du Globe and Mail tous les jours, à l'occasion de notre dernière urgence publique. Donc, Jim, c'est en gros où nous en étions, où nous en sommes, pour le meilleur et pour le pire. Alors, que devons-nous faire? Comment commencer à nous sortir de cette situation?
Shoshana Zuboff : Il faut que j'écrive ça.
(Rires)
Jim Balsillie : D'accord. Tout d'abord, je pense que la magistrature est un bon pouvoir. Je crois beaucoup à l'utilisation de stratégies juridiques pour faire avancer ces questions. Je pense qu'il est possible de faire avancer les choses dans ce domaine. Je pense qu'il y a un énorme problème législatif, mais il faudra compter sur la société civile. Nous nous sommes beaucoup rapprochés à l'occasion de l'affaire Sidewalk Labs, où trois niveaux de gouvernement et l'entreprise la plus puissante du monde se sont alignés pour privatiser le gouvernement sans aucun acte législatif, et où la société civile s'est opposée. Donc, oui, je crois beaucoup à la société civile, je crois beaucoup aux politiques publiques. Je pense que les tribunaux seront importants. Je pense que nous allons devoir nous pencher sur ces questions en amont, c'est pourquoi j'ai encouragé la question d'aborder les droits à la fin et à jeter les bases sur tout cela.
Mais je pense que les enjeux sont importants. Je pense que la capture réglementaire est très élevée. Je pense que le détournement cognitif est une technique spéciale qui consiste à embrouiller les gens alors qu'en fait, c'est plutôt simple. On voit toute l'attention portée aux risques existentiels, que l'on ne peut ni quantifier, ni définir, ni chronométrer, ou à un moratoire de six mois sur le codage, ou encore à un accord mondial sur des choses qui, en l'absence de consensus, incorporent des normes, alors qu'il y a des intérêts stratégiques qui, eux, ne concordent pas. Quel est le point commun entre tous ces éléments? Cela signifie qu'il s'agit d'une impossibilité qui vous éloigne de l'attention à court terme qui consiste à régir réellement les préjudices. Je pense donc qu'il y a énormément à faire et que cela nécessitera de bonnes politiques publiques, des tribunaux, la société civile, l'éducation.
Taki Sarantakis : Oui. Sur ce point, je vais citer à nouveau la professeure Zuboff dans un autre livre. Quelqu'un la cite, mais je vais lire le prélude de ce qu'elle dit avant de citer Shoshana Zuboff. « Ainsi, à mesure que le numérique fusionne avec le physique, les données deviennent de plus en plus l'environnement bâti qui nous entoure et créent un espace que nous habitons collectivement et dont nous ne pouvons pas nous échapper individuellement. Comme le dit Shoshana Zuboff dans L'âge du capitalisme de surveillance, « les individus qui se débattent chacun avec la myriade de complexités de la protection de leurs propres données ne feront pas le poids face aux asymétries stupéfiantes de connaissances et de pouvoir du capitalisme de surveillance. L'individu ne peut supporter à lui seul le poids de ce combat à la nouvelle frontière du pouvoir. » Il me semble que c'est exactement ce que vous venez de dire, qu'en l'absence d'une action législative collective, nous ne pourrons pas y arriver. Nous ne pourrons pas dire : « Nous vous offrons une protection des données, vous aurez des droits sur vos propres données, nous vous offrirons un recours ». Mais il ne s'agit plus de données. Ce sont les données qui sont en nous, et nous et les données avons fusionné. Par exemple, si quelqu'un accède à votre téléphone et publie toutes vos photos, il ne s'agit pas d'une violation de données, mais d'une violation selon Jim Balsillie. Ils ont violé vous, et votre vie privée.
Jim Balsillie : Oui. Une autre chose que j'aurais dû mentionner est que lorsque vous regardez tout ce dont nous jouissons aujourd'hui, vous entrez dans cette pièce et vous avez confiance que le plafond ne s'écroulera pas, l'ascenseur fonctionne ou l'eau que vous buvez, ce sont tous des produits d'institutions de politique publique, d'autorités de l'eau, d'autorités de l'électricité, de codes de construction, et ainsi de suite. Et je ne vois pas comment nous allons rééquilibrer ces asymétries. J'ai mentionné ces autres éléments, mais je pense que nous devons repenser les institutions, je pense qu'il faut laisser de la place à la nouveauté et à la créativité. Vous voulez consommer des données avec des algorithmes, mais vous ne voulez pas qu'ils soient des machines à s'approprier les données. Je crois donc qu'il va falloir commencer à réfléchir à des institutions d'intérêt public pour rééquilibrer la situation, et qu'il faut laisser la place à l'expérimentation. Il existe de nouvelles idées de sites d'emploi à temps partiel ou d'emplois temporaires qui ne sont pas la propriété d'une plateforme, mais qui relèvent réellement du bien public. Et donc, je pense que, je dirais qu'il faut penser aux institutions. Je crois qu'il faudra une série d'activités, mais nous n'aurons jamais autant besoin, plus que jamais, nous avons besoin de politiques publiques.
Taki Sarantakis : Professeure Zuboff, tout le monde connaît le titre de votre livre, L'âge du capitalisme de surveillance. J'ai lu le sous-titre de votre livre, Le combat pour un avenir humain face aux nouvelles frontières du pouvoir. Parlez-nous un peu de cela. C'est un constat dramatique.
Jim Balsillie : C'était la dernière ligne de mon commentaire, en passant. Avez-vous remarqué que je l'ai ajouté?
Shoshana Zuboff : Oui.
Taki Sarantakis : Le combat pour un avenir humain face aux nouvelles frontières du pouvoir.
Shoshana Zuboff : C'est ce à quoi je faisais référence au début de notre discussion lorsque je vous ai dit qu'il m'avait fallu beaucoup de temps pour intégrer et pour avoir l'impression d'avoir vraiment compris ce que tout cela signifiait. Le mot clé dans tout cela est le pouvoir. Il ne s'agit pas d'une histoire de données, ni même d'une histoire de technologie, même pas un peu. Oubliez tout cela. Il s'agit d'une histoire de pouvoir. Le pouvoir est une question de politique. C'est pourquoi je vous ai dit que le capitalisme de surveillance est arrivé lorsque la démocratie s'est arrêtée, parce que les dirigeants démocratiques ont décidé que la certitude et le contrôle étaient plus importants que la liberté, l'agence, l'autogouvernance, l'idée imparfaite, mais néanmoins la meilleure que l'humanité ait jamais produite, à savoir que les gens peuvent et doivent avoir le droit de s'autogouverner. Lorsque le livre est sorti pour la première fois, cette année-là, en 2019, j'ai quitté la maison pour une tournée de quelques jours. Mon éditeur ne payait que pour quelques jours. Je ne suis pas rentrée chez moi pendant 14 mois, et ils m'ont relancé sur chaque dollar de chaque reçu pendant tout ce temps.
Taki Sarantakis : S'agit-il du gouvernement du Canada?
Shoshana Zuboff : Pardon?
Taki Sarantakis : S'agit-il du gouvernement du Canada? Non, je plaisante.
(Rires)
Shoshana Zuboff : Ils se parlaient entre eux, je suppose. Mais le fait est que j'ai rencontré beaucoup de jeunes lors de ces grands événements. Tous ces gens assis dans les allées, dans les escaliers, suspendus aux poutres, ces grands événements dans tous les types de lieux et dans tous les pays. Et j'ai eu cette conversation je ne sais combien de fois. Je restais tard pour signer des livres, la file d'attente sortait par la porte et descendait dans la rue, je restais jusqu'à la dernière personne et je parlais à chacun, et j'entendais si souvent cette question. Comment sauver la démocratie? C'est trop gros, c'est trop tard, on ne peut rien y faire. La démocratie ne fait pas le poids face à tout cela. Et à chaque fois, j'ai eu envie de m'arracher les cheveux et de secouer cette personne. J'ai commencé à comprendre comment cette génération, plus jeune que nous tous, que beaucoup d'entre nous, voyait le monde. Par exemple, beaucoup d'entre eux sont nés sous l'ère Obama. Et même si j'ai complètement réévalué tout ce que je pensais d'Obama à l'époque, il n'en reste pas moins que si vous grandissez et atteignez l'âge adulte sous l'ère Obama, les choses se présentent plutôt bien pour la démocratie et vous avez l'impression que la démocratie est quelque chose comme les Alpes. C'est comme un gros rocher qui était là quand tu es né, et qui sera là quand tu mourras, et rien ne pourra le déplacer.
Il y a eu un manque de compréhension historique. La démocratie n'est pas un rocher. La démocratie est l'idée la plus fragile, la plus délicate, et il faut que chaque génération soit appelée à la défendre, à la reconstruire, à la protéger, à se battre pour elle. Toutes les générations. J'imagine ces jeux de cerceaux auxquels les enfants jouaient avant qu'il n'y ait des jouets. Par exemple, vous faites rouler le cerceau, et vous devez courir après lui, il commence à vaciller, et vous devez l'atteindre et vous assurer qu'il prend de l'élan avant qu'il ne tombe ou que vous ne perdiez. C'est la démocratie. Et elle vacille, et nous devons lui courir après. C'est de la politique. Tout comme nous avons dû courir après Jay Gould et J. P. Morgan il y a plus de 100 ans lorsqu'ils ont déclaré que les seuls droits qui comptent sont les droits de propriété, et que nous les possédons. Autrement, vous perdez. Et tout le monde pensait que nous ne pourrions jamais changer cela. Ce sont les cartels, les fiducies, les monopoles. Ils ont toutes les richesses, tous les pouvoirs. Comment pouvons-nous lutter contre cela? Mais nous l'avons fait parce que nous sommes des démocraties, et nous nous sommes rassemblés dans ce que l'on appelle l'action collective, et nous avons appris à faire pression et à développer le pouvoir politique, qui a ensuite été institutionnalisé dans de nouveaux types d'institutions démocratiques gouvernementales qui sont régies par la loi démocratique, peu importe qui est élu à la présidence ou comme premier ministère, peu importe qui est au Congrès ou au Parlement, ces institutions sont en place et protègent de manière transparente, habituellement, l'État de droit dans l'ensemble, dans le cadre d'une gouvernance démocratique.
C'est ce que nous avons fait en fin de compte pour notre civilisation industrielle. Aujourd'hui, nous sommes appelés à vivre dans un monde sans précédent, dans des conditions sans précédent. Nous sommes appelés à créer les nouvelles chartes des droits, les nouveaux cadres juridiques et les nouvelles institutions chargées de les superviser, qui nous protégeront dans un nouveau siècle et protégeront ainsi la possibilité même d'une civilisation de l'information numérique et démocratique. Nous ne l'avons pas encore. Mais nous l'avons déjà fait, nous pouvons le refaire.
Taki Sarantakis : Dans tout ce que vous avez dit, vous avez répété le mot « pouvoir ». Mais vous l'avez fait suivre du mot « démocratique ». Le pouvoir démocratique. Et la démocratie demande du travail. Et nous l'oublions. Je pense que je peux répondre à la première question de l'auditoire, mais je vais la modifier légèrement afin d'intégrer un peu plus la démocratie. Près de la moitié de la planète va connaître des élections dans peu de temps, y compris votre petite partie du point bleu, et la démocratie sera confrontée, je pense, à son premier véritable test de l'ère numérique. Et c'est de la désinformation, c'est de l'hypertrucage, vous connaissez tous ChatGPT. Je ne sais pas si vous avez déjà essayé Sora, qui est en quelque sorte la version vidéo de ChatGPT créée par OpenAI. Que voyez-vous venir, lorsque les gens ne seront plus en mesure de faire immédiatement confiance à ce qu'ils voient et à ce qu'ils entendent?
Shoshana Zuboff : À long terme, aucune démocratie ne peut survivre à ces conditions. Je pense que ce point est clair. Cela dit, ça fait 20 ans que nous sommes dans cette situation. Le pire du capitalisme de surveillance, c'est qu'il a d'abord fallu trouver le moyen d'extraire toutes les données humaines, puis le faire et savoir comment les calculer. D'ailleurs, on parle d'IA depuis au moins l'an 2000. Même Google parle de son moteur de recherche comme de « notre IA ». Toute cette histoire d'IA de l'année dernière, c'est une autre discussion. Mais l'IA est devenue un outil de marketing, de marketing des consommateurs, etc. Le capitalisme de surveillance est une institution qui s'est développée par étapes au fil du temps, fondée sur l'idée et la découverte dont nous avons parlé, à savoir l'extraction de données humaines. Ensuite, ils ont dû construire l'ensemble des infrastructures informatiques, et mettre en place toute la science des données et tous les scientifiques des données, toutes les grandes puces, tous les serveurs, tous les centres de données et tout cela…
Taki Sarantakis : Toute l'énergie, toute l'eau et toute la capacité de refroidissement.
Shoshana Zuboff : Toute l'énergie, toute l'eau et tout ce dont ils ont besoin pour contrôler l'ensemble du marché mondial de l'intelligence artificielle et de la production de connaissances informatiques. Et à partir de là, nous avons maintenant des connaissances qui n'existaient pas auparavant. Nous l'avons. Pas vous. Nous gardons tout cela privé, mais votre vie privée n'existe plus. Ce qu'ils ont fait, c'est qu'ils nous l'ont volée, mais tout le monde, dans les conditions de l'exceptionnalisme de la surveillance, n'allait pas appeler cela du vol. Mais nous savons maintenant qu'il s'agissait d'un vol, car lorsque vous prenez quelque chose à quelqu'un en secret, évidemment sans lui demander, et que vous l'utilisez à votre propre avantage sans qu'il le sache, cela s'appelle généralement un vol. Ils ont volé notre vie privée. Le fait qu'ils l'aient volée…
Taki Sarantakis : Mais nous avons cliqué sur « J'accepte ».
Shoshana Zuboff : Oui, nous avons cliqué sur « J'accepte ». Nous n'allons pas, c'est toute une discussion sur le détournement délibéré et cognitif, mais je pense que nous en avons déjà assez dit à ce sujet. Nous savons tous que tout cela n'est que de la poudre aux yeux, n'est-ce pas? Nous le savons tous. Mais le fait est qu'une fois qu'ils ont acquis tout le savoir, ce qui a pris la majeure partie de la première décennie, c'est au cours de la deuxième décennie que le véritable travail a commencé. Et c'est ainsi que le savoir s'est transformé en… participation du public! Transformer le savoir en pouvoir. Le savoir, le pouvoir, le savoir, le pouvoir, se poursuivent toujours comme ces personnages sur un vase grec, inséparables. C'est au cours de la deuxième décennie qu'ils ont vraiment appris à intervenir dans notre comportement, à façonner notre façon de faire, parce qu'ils ont une connaissance approfondie du ciblage, des indices subliminaux, pour… la dynamique de comparaison sociale, tous les trucs du métier qu'ils utilisent pour nous amener à lire quelque chose que nous ne lirions pas, à fréquenter des gens que nous ne fréquenterions jamais, à penser des idées que nous ne penserions jamais, à adopter des comportements que nous n'adopterions jamais.
Pour les jeunes, cela se traduit par les problèmes de santé mentale dont Jim a parlé, l'automutilation et même le suicide, des comportements que ces mêmes enfants n'auraient jamais adoptés. Mais dans le monde des adultes, c'est là que l'on voit la polarisation, les extrêmes, les extrêmes politiques. Et cela commence par le fait que nous avons cédé nos espaces d'information et de communication à des sociétés privées qui ont des intentions qui ne sont pas les nôtres. C'est pour eux et non pour nous, et c'est fondamentalement, comme nous l'avons vu, antidémocratique.
Taki Sarantakis : Je pense que ce que je vous entends dire, c'est que nous avons fait des choix et que ces choix étaient non délibérés. Le système, le système politique a fait des choix.
Shoshana Zuboff : Sur le plan politique, nos dirigeants ont fait des choix.
Taki Sarantakis : Oui, c'est, désolé, c'est ce que je… oui.
Shoshana Zuboff : Mais ces choix, nous en avons été privés.
Taki Sarantakis : C'est vrai.
Shoshana Zuboff : Parce qu'on nous a dit que c'était ça, que c'était une grande fête. Mais en fait, c'était un combat à mort.
Taki Sarantakis : C'est vrai.
Shoshana Zuboff : Avec les valeurs et les principes qui nous sont chers en tant que citoyens de sociétés démocratiques.
Taki Sarantakis : Oui. Maintenant, Jim, j'aimerais prendre la deuxième et dernière question du public. Des choix s'offrent à nous, qu'ils émanent des citoyens, des hommes politiques, des assemblées législatives ou des tribunaux. Et quel choix allons-nous faire en matière de données et d'IA? Plus précisément, la question est la suivante : « Qui doit régir les données dans le domaine de l'IA? S'agit-il de chaque organisation? S'agit-il de chaque province? S'agit-il d'un pays? S'agit-il d'un organisme international? » Comment pouvons-nous savoir qui a, selon les termes de Shoshana, le pouvoir ici?
Jim Balsillie : Eh bien, qui a le pouvoir et qui devrait avoir le pouvoir…
Taki Sarantakis : Exactement.
Jim Balsillie : C'est une question qui est posée à juste titre. Et il est clair qu'il doit s'agir du corps politique souverain. Je pense qu'il y a deux ou trois choses que j'aimerais aborder sur cette question. D'une part, Shoshana a parlé de ce Cerbère à deux têtes, je vais y ajouter une troisième tête, à savoir que les partis politiques sont désormais incités à manipuler la démocratie, et comment peuvent-ils réguler ces forces, s'ils bénéficient de ces forces de marchandisation? Au niveau national, les partis politiques déploient des efforts considérables pour être totalement absents de toute forme de gouvernance de l'activité politique. Cela montre donc qu'ils pensent tous être les meilleurs tricheurs dans l'équivalent du Tour de France de la course politique. Il existe également une économie politique de cette machination et de cette manipulation. Ils parlent d'inquiétude face à la mésinformation et reprennent la vieille expression « J'ai vu l'ennemi et l'ennemi c'est nous ». Je ne m'inquiète pas de la mésinformation à l'étranger, mais bien plus de la mésinformation au niveau national, car c'est l'acteur principal disposant de ressources directes qui tente de les rallier à leur cause. Et tous les partis politiques jouent le jeu. Je dirais donc qu'il y a une chose qui est extraordinairement importante, et c'est un dossier de contentieux qui est en cours en Colombie-Britannique en ce moment, qui consiste à savoir s'il devrait y avoir une gouvernance minimale des données pour les partis politiques. Et les partis nationaux se battent pour un non absolu. Je pense donc qu'il s'agit là d'un aspect essentiel, car comment les gouvernements peuvent-ils invoquer le fait qu'ils sont les bénéficiaires de l'ensemble du système de marchandisation?
Ensuite, il est clair que le pouvoir devrait être au minimum à l'image des États-Unis, voire plus sérieusement, de l'Union européenne. La deuxième chose, qui est à mon avis une question essentielle de politique publique lorsque l'on parle de qui gouverne, la façon dont je l'explique, c'est qu'il y a quatre blocs dans ce monde, il y a le bloc européen, le bloc chinois, le bloc américain, et il y a tous les autres qui sont morts de peur et ne savent pas quoi penser. Ainsi, les petites économies ouvertes, je crois, sont passées par un certain cheminement intellectuel, un certain cheminement politique. Que fait une petite économie ouverte face à ces forces? Parce que ces trois-là peuvent peser de tout leur poids, ils peuvent exercer leur quasi-souveraineté. Ils débattent entre des forces internes, mais nous sommes tiraillés par des forces externes. Je pense que ce jeu se déroule actuellement, et que la manière de parvenir à des approches nationales n'est pas claire, mais je crois qu'il s'agit de l'intégrité souveraine de la démocratie, où les partis politiques n'ont pas d'intérêt à jouer le jeu. Je pense que cela revient à la société civile, à la capacité de la fonction publique à fournir ce que l'on veut sur le plan normatif, mais nous devons développer la capacité de le faire.
C'est pourquoi je pense qu'un événement comme celui-ci est si important. Nous avons besoin que vous soyez meilleurs et que les partis politiques fassent preuve d'intelligence. Et je pense que si vous affaiblissez ce jeu, la motivation à protéger les deux autres têtes n'est pas aussi forte. C'est ainsi que je qualifie l'antidote, où l'un est très clair et l'autre est l'intégrité politique des partis, un parcours qui, je pense, va devenir un peu plus cahoteux avant de s'adoucir.
Taki Sarantakis : Alors, voulez-vous prendre le dernier?
Shoshana Zuboff : Puis-je faire un petit commentaire?
Taki Sarantakis : Absolument.
Shoshana Zuboff : Juste, et avec respect et gratitude pour le travail que vous faites, il y a un petit commentaire que je voudrais faire sur l'idée de la démocratie elle-même. Cela nous ramène à la question que vous m'avez posée à propos du sous-titre, car lorsque nous parlons du dénigrement de la démocratie dans ce discours technologique, nous parlons du dénigrement de l'être humain. Et je crois savoir que, même si ce n'est pas le cas de tout le monde dans cette salle, beaucoup d'entre vous ont consacré leur vie au service des institutions démocratiques. Je pense qu'il est très important de se rappeler que la démocratie est peut-être ancienne et lente, mais qu'elle a un pouvoir qui n'est égalé par aucun autre pouvoir, y compris le pouvoir dont nous avons parlé. Deux choses. Seule la démocratie peut inspirer l'action humaine. Et si nous en doutions, je pense que le peuple ukrainien nous a appris que, même dans cette ère moderne cynique, la démocratie inspire l'action altruiste. C'était le cas pour la génération de mes parents et c'est encore le cas aujourd'hui. D'autre part, seule la démocratie peut créer, imposer et faire respecter la loi. Et c'est la seule chose dont cette institution privée mondiale du capitalisme de surveillance a une peur mortelle. La loi. Et c'est pourquoi ils veulent que vous vous sentiez mal. Le dénigrement de la démocratie est le dénigrement de l'être humain, et aucun d'entre nous ne va accepter cela. Ainsi, votre travail est non seulement possible, mais nécessaire, et vous avez, croyez-le ou non, l'avantage.
Taki Sarantakis : Professeure Shoshana Zuboff, Jim Balsillie, merci d'avoir passé cette heure et quart avec nous, merci d'être des amis de la fonction publique fédérale et merci de nous avoir permis de stimuler nos neurones sur des questions importantes qui définiront la vie de nos enfants, de nos petits-enfants et des petits-enfants de nos petits-enfants. Merci beaucoup.
(Applaudissements)
Shoshana Zuboff : Merci à vous.
[01:15:51 Le logo de l'EFPC apparaît à l'écran]
[01:15:57 Le logo du gouvernement du Canada apparaît à l'écran]
