Transcription
Transcription : Explorer l'IA et la démocratie, avec Bruce Schneier
[00:00:00 Taki Sarantakis et Bruce Schneier sont montrés assis l'un à côté de l'autre.]
Taki Sarantakis (président, École de la fonction publique du Canada) : Bienvenue à l'École de la fonction publique du Canada. Comme toujours, nous vous réservons encore une petite surprise aujourd'hui. Aujourd'hui, nous avons l'une des personnes les plus excentriques et les plus intéressantes du monde en matière de cybersécurité, mais le terme « cybersécurité » ne lui rend pas vraiment justice. Je vais utiliser un mot vieux comme le monde : c'est un polymathe. Il s'intéresse à beaucoup de choses différentes, et c'est pourquoi il écrit tant de livres. Nous allons avoir une conversation aujourd'hui à partir de vos livres et de quelques autres déclarations que vous avez faites. Et donc, nous allons commencer. Bruce Schneiner est donc…
Bruce Schneier (professeur adjoint, École Munk des affaires internationales et des politiques publiques) : Schneier.
Taki Sarantakis : Schneier. Je me suis exercé pendant 10 minutes.
Bruce Schneier : Nous nous sommes exercés.
Taki Sarantakis : Je ne suis pas bon avec les noms, ce qui est ironique compte tenu de mon prénom et de mon nom de famille.
Bruce Schneier : Je n'ai pas pu m'en sortir avec votre nom de famille.
Taki Sarantakis : Exactement, exactement. Il a donc quitté Harvard, la Harvard Kennedy School. Cette année, c'est un Canadien de passage. Il travaille donc à l'École Munk des affaires internationales et des politiques publiques. Je devrais le savoir, car j'y suis un chercheur, mais je continue à me tromper avec ce nom.
Bruce Schneier : Je pense qu'il s'agit des affaires internationales et des politiques publiques.
Taki Sarantakis : Oui, il est à l'endroit que dirige Janice Stein, c'est comme cela que j'y pense, et nous allons avoir une conversation sur un tas de choses différentes, y compris son dernier livre. Alors, nous allons commencer. Votre premier livre que j'ai lu était Data and Goliath (traduction libre : Données et Goliath).
[00:01:36 La couverture du livre « Data and Goliath » de Bruce Schneier est présentée.]
Parlez-nous un peu de ce livre et des idées qui l'ont inspiré.
Bruce Schneier : C'est probablement le neuvième livre que j'ai écrit. Vous êtes donc arrivé en retard. J'ai écrit ce livre en 2014, et il portait sur les données et la protection de la vie privée. Je l'ai donc écrit dans le sillage d'Edward Snowden. J'ai moi aussi lu certains de vos secrets, alors tant mieux pour vous, et j'ai en fait été l'une des personnes ayant participé à la lecture de ces documents très tôt. Snowden lui-même a proposé à Glenn Greenwald de m'emmener en avion au Brésil pour lire les secrets de la National Security Agency (NSA), ce qui est très bizarre. Je vous assure, quand une personne vous remet une pile entière de secrets du gouvernement américain et vous dit : « voici des choses intéressantes », c'est très bizarre, et nous avons écrit quelques histoires. J'ai donc écrit ce livre sur les données et la protection de la vie privée et sur la situation dans le monde, qui n'a rien de nouveau pour moi, mais dont beaucoup de choses sont nouvelles pour le monde, sur l'ampleur de la surveillance mondiale exercée par la NSA en particulier, et par le Groupe des cinq en général, et sur la gravité de la situation. C'était donc ce livre.
Taki Sarantakis : Alors, parlez-nous. Poursuivons un peu sur ce thème. L'une des choses que je vous ai entendues dire, et je crois que vous avez écrit quelques articles à ce sujet, c'est que l'espionnage par la NSA, et en quelque sorte, quatre membres du Groupe des cinq, cela nous rend moins en sécurité. Cela semble aller à l'encontre de l'intuition des gens.
Bruce Schneier : Il s'agit moins d'espionnage que de réorganisation des systèmes de manière à ce qu'ils puissent être espionnés. Donc, en ce moment, le Royaume-Uni est… cela se produit assez régulièrement dans différents pays. Je pense que c'est maintenant au Royaume-Uni que cela se produit le plus. En gros, le gouvernement veut pouvoir casser les systèmes pour pouvoir espionner plus facilement, n'est-ce pas? C'est comme si le gouvernement disait que vous ne pouvez pas avoir une bonne serrure pour votre porte, vous devez avoir une serrure de mauvaise qualité au cas où nous devrions entrer par effraction dans votre maison parce que nous vous soupçonnons d'avoir commis un crime. Et quand je le dis ainsi, il est évident que c'est une idée stupide, parce que les criminelles peuvent aussi entrer par effraction et voler des choses.
[00:03:57 Bruce Schneier prend un téléphone intelligent.]
Le fait que cet objet soit sécurisé est donc précieux pour nous, et oui, dans mon pays, le Federal Bureau of Investigation (FBI) a du mal à s'y introduire. Il a donc arrêté une journaliste la semaine dernière, une journaliste du Washington Post. Son téléphone avait le maximum… je ne sais plus comment ça s'appelle, la protection maximale de l'iPhone était activée, et le FBI ne pouvait pas entrer dans son téléphone, n'est-ce pas? Ce serait donc une mauvaise chose s'il s'agissait d'un trafiquant de drogue. C'est en fait une très bonne chose, parce que c'est le FBI de Trump et que c'est une journaliste, et il y a beaucoup de pays où ce serait une très bonne chose. Il s'agit donc bien d'un débat de la sécurité contre la sécurité, n'est-ce pas? Le fait que la police puisse déverrouiller les téléphones des personnes soupçonnées d'avoir commis un délit présente un avantage sur le plan de la sécurité. Il y a un avantage sur le plan de la sécurité à ce que chaque députée, chaque directeur général ou directrice générale, chaque juge, chaque opérateur ou opératrice de centrale nucléaire, et chaque agente de police ait son téléphone sécurisé, de sorte que personne ne puisse s'y introduire.
Maintenant, d'un autre côté, il y a des risques à procéder autrement. Et tant que cet appareil sera dans la poche de tout le monde, la défense l'emportera sur l'attaque. Oui, d'accord, vos forces de l'ordre, mes forces de l'ordre, toutes les bonnes personnes de la planète auront du mal à pénétrer dans les téléphones, mais toutes les bonnes personnes qui ont ces téléphones, elles sont plus en sécurité. C'est le débat, et c'est là où je me situe. Si vous faites partie des forces de l'ordre, ce n'est pas ce que vous pensez, parce que les forces de l'ordre pensent seulement qu'elles s'en prennent aux criminelles et que toutes les autres personnes devraient garder leurs mains bien visibles, mais ce n'est pas la bonne façon d'aborder les considérations d'équité.
Taki Sarantakis : Vous avez parlé de secrets, et indirectement de chiffrement, et de la nécessité de garder les choses un peu privées. Je pense que vous êtes cryptographe de profession. Parlez-nous un peu de cela avant de revenir à vos livres, car certains d'entre nous pensent qu'un cryptographe est comme Harrison Ford dans Raiders of the Lost Ark (Les Aventuriers de l'arche perdue), mais ce n'est pas le cas, n'est-ce pas?
Bruce Schneier : Soit ils entendent plutôt « cartographe » par erreur, soit ils parlent de cartes.
Taki Sarantakis : D'accord.
Bruce Schneier : Parfois, ils pensent que c'est un peu comme les horoscopes. Ce sont les deux erreurs. En fait, j'ai commencé comme cryptographe, mais cela fait longtemps que je n'ai pas fait de mathématiques. Et actuellement, j'enseigne à l'École Munk. J'enseigne la cryptographie à des étudiantes qui n'ont pas délibérément suivi de cours de mathématiques pendant leurs études, ce qui est une façon différente d'enseigner la science. En réalité, ma carrière a été une série de généralisations. Donc, mes premiers livres, que vous n'avez pas lus parce qu'ils portent sur les mathématiques.
Taki Sarantakis : Je ne les ai pas lus.
Bruce Schneier : Parce qu'il s'agissait de mathématiques. Il s'agit de la cryptographie, mais aussi des mathématiques et de l'informatique du chiffrement. Et puis, j'écris sur la sécurité informatique générale, la sécurité des réseaux, les technologies de sécurité générale, l'économie de la sécurité, la psychologie de la sécurité. Vous touchez aux politiques publiques en matière de protection de la vie privée. Ensuite, j'écris sur les politiques publiques, la sécurité et d'autres sujets, puis sur le piratage, en transposant les idées de la sécurité informatique dans des systèmes sociaux plus larges, et enfin sur la démocratie de l'intelligence artificielle (IA). C'est donc l'arc, et c'est toujours moi qui généralise, qui essaie de comprendre où les choses s'inscrivent dans le contexte. Mais oui, j'ai commencé par les mathématiques.
Taki Sarantakis : Très bien. Maintenant, le livre suivant, que j'ai lu et que j'ai adoré, et j'aime particulièrement le titre.
Bruce Schneier : Je suis doué pour les titres.
Taki Sarantakis : Click Here to Kill Everyone (traduction libre : Cliquez ici pour tuer tout le monde).
[00:07:44 La couverture du livre « Click Here to Kill Everybody » de Bruce Schneier est présentée.]
Bruce Schneier : C'est un excellent titre.
Taki Sarantakis : C'est un excellent titre.
Bruce Schneier : Il est formidable. Vous le voyez à un aéroport et vous allez vouloir le chercher.
Taki Sarantakis : Oui, en quelle année? Parce qu'il est en avance sur son temps.
Bruce Schneier : Alors, probablement en 2015.
Taki Sarantakis : Oui.
Bruce Schneier : Google sait ce genre de choses, pas moi.
Taki Sarantakis : Parlez-nous un peu de Click Here to Kill Everyone, qui est en avance sur son temps.
Bruce Schneier : Donc, ici, j'écris sur ce qui se passe, et c'est le cas, parce que maintenant, c'est le monde dont nous parlons aujourd'hui, quand les ordinateurs peuvent affecter le monde d'une manière physique directe, et donc vraiment écrire sur le fait que le piratage ou même votre ordinateur qui tombe en panne ne signifie pas que vous perdez les données de votre feuille de calcul. Cela signifie que votre défibrillateur automatique tombe en panne et que vous perdez la vie, ou que votre voiture tombe en panne, n'est-ce pas? Alors, que se passe-t-il lorsque ces systèmes intégrés… qui ne sont en fait que des ordinateurs, bon sang. De nos jours, une voiture est un ordinateur doté de quatre roues et d'un moteur. Ne croyez pas qu'il s'agisse d'autre chose que cela. Votre réfrigérateur est un ordinateur qui garde les choses froides et votre four à micro-ondes est un ordinateur qui réchauffe les aliments. Il s'agit d'ordinateurs, et ils ont connu les mêmes problèmes que ceux dont j'ai parlé pendant des décennies. Et maintenant, ils sont sur Internet, parce que tout le monde sait que votre réfrigérateur doit être sur Internet.
Taki Sarantakis : Et votre micro-ondes.
Bruce Schneier : Et votre micro-ondes, parce qu'ils doivent parler entre eux.
Taki Sarantakis : Oui.
Bruce Schneier : Je ne sais pas ce qu'ils vont dire, n'est-ce pas? Votre humidificateur et votre déshumidificateur doivent tirer cela au clair. Ces ordinateurs deviennent donc de plus en plus critiques. Alors, nous pouvons parler du réseau électrique. Nous pouvons parler de toutes ces choses, mais elles sont vulnérables, et nous sommes à une époque où la Russie, la Chine, les États-Unis et probablement d'autres pays piratent les réseaux électriques les uns des autres, et nous commençons à voir des rançongiciels contre ces systèmes intégrés. Nous avons vu des réfrigérateurs envoyer des pourriels pendant un certain temps, ce qui était très gênant, mais toutes ces choses sont en train de se produire, et c'est vraiment ce dont je parle ici.
Taki Sarantakis : Pour les plus avertis d'entre nous, dont je ne fais pas partie, cela s'appelle l'Internet des objets, et c'est en quelque sorte la phase dans laquelle nous sommes sur le point d'entrer pour de bon. Nous l'avons eu, mais il n'y a qu'environ 15 milliards d'objets connectés à l'heure actuelle.
Bruce Schneier : Et cela va augmenter de plusieurs ordres de grandeur.
Taki Sarantakis : Exactement.
Bruce Schneier : Et vous devez en quelque sorte comprendre les aspects économiques de la question, car si vous me demandez pourquoi votre réfrigérateur est sur Internet, je peux vous expliquer pourquoi votre réfrigérateur est sur Internet. Alors, il y a 30 ans, une personne voulait construire un réfrigérateur. Cette personne construisait un circuit spécial pour le réfrigérateur et un système de contrôle du réfrigérateur, et c'est ainsi qu'un réfrigérateur était construit. Ce n'est pas ce qui se passe aujourd'hui. Il est moins coûteux pour le fabricant de réfrigérateurs de sortir un Raspberry Pi standard, un ordinateur de cette taille, d'une étagère et d'écrire ce qui a trait au réfrigérateur.
[00:10:45 Bruce Schneier indique une petite taille avec ses doigts.]
Et cette chose qu'ils utilisent est équipée d'un port pour microphone. Il est doté d'une sortie vidéo. Il est doté d'une pile IP. Il est doté d'Internet. Cela vient avec toutes ces choses. Alors, le coût de l'installation est donc négligeable puisqu'il existe déjà. Il est plus difficile de ne pas le faire. Donc, votre aspirateur, vos appareils électroménagers, tous ces objets sont dotés de ces capacités. Pourquoi votre Roomba a-t-il un microphone? Parce que la puce était livrée avec un microphone, et que c'est ce que vous avez obtenu. Ensuite, ils l'ont collé dans tout le boîtier du Roomba. Nous voyons donc toutes ces choses qui n'avaient jamais eu d'ordinateurs, qui n'avaient jamais eu de connectivité, avoir une connectivité. Le Raspberry Pi est doté d'une connectivité Bluetooth. Il s'agit simplement de l'activer. Elle est déjà là. Il n'y a pas de travail à faire. Toutes ces choses deviennent donc compatibles avec l'Internet, parce qu'il s'agit simplement d'une question d'économie entre le matériel et le logiciel.
Taki Sarantakis : Nous allons donc voir, et cela ne saurait tarder, car, comme vous l'avez dit, nos aspirateurs, nos réfrigérateurs, nos ampoules, nos ouvre-portes d'entrée, nos ouvre-portes de garage, nos stimulateurs cardiaques, ils sont tous connectés d'une manière ou d'une autre. Bientôt, cette chaise sera connectée à Internet, ainsi que cette table. Donc, les gens seront en mesure de dessiner d'assez bonnes images de ce qui se passe. Si vous êtes connecté à l'aspirateur automatique d'une personne, vous connaissez l'aménagement de sa maison. Si vous êtes connecté à son thermostat, vous savez en quelque sorte quand elle est à la maison et quand elle n'y est pas. Toutes ces choses sont donc incroyablement, incroyablement pratiques. En tant que société, sommes-nous donc en train de faire un compromis faustien?
Bruce Schneier : C'est difficile à dire. La sécurité est toujours un compromis, n'est-ce pas? Je veux dire qu'il est utile d'avoir ces choses, et qu'elles sont incroyablement invasives. D'une certaine manière, nous renonçons donc à une grande partie de la protection de notre vie privée.
[00:13:08 Bruce Schneier prend un téléphone intelligent.]
Mais il s'agit fondamentalement du dispositif de surveillance de sécurité le plus efficace jamais inventé. Il sait à tout moment où vous vous trouvez. Il sait avec qui vous êtes. Il sait où vous travaillez, où vous dormez, car nous pouvons établir des corrélations pour cela. Tout le monde en a un. Il sait avec qui vous couchez, n'est-ce pas? Il connaît votre calendrier, vos contacts, vos messages. Il sait à qui vous parlez, ce que vous dites, n'est-ce pas? Il s'agit d'un dispositif de surveillance effroyablement impressionnant que nous mettons tous dans notre poche chaque matin. Il s'agit là d'un compromis. C'en est un que nous faisons. Le problème, et je viens des États-Unis où il n'y a aucune réglementation en matière de protection de la vie privée, c'est que je n'ai pas le même type de ministres de la Protection de la vie privée que vous avez au Canada; vous avez des ministres provinciaux et nationaux, mais quelques réglementations supplémentaires sur la collecte et l'utilisation des données seraient bienvenues.
Taki Sarantakis : Nous ne le mettons pas dans notre poche le matin. Nous dormons avec sur notre oreiller.
Bruce Schneier : Parce qu'il indique maintenant comment vous dormez.
Taki Sarantakis : Exactement.
Bruce Schneier : En mesurant les vibrations de votre lit.
Taki Sarantakis : Il vous indique votre rythme cardiaque.
Bruce Schneier : Alors il en dit beaucoup plus sur les personnes avec lesquelles vous couchez.
Taki Sarantakis : Exactement. La dernière chose que j'ai entendue, c'est que lorsque vous réservez un voyage et que vous avez donné accès à votre calendrier, il peut savoir que vous avez prévu des vacances dans deux mois, et commence à vous proposer des prix différents en fonction de ce qu'il sait à votre sujet.
Bruce Schneier : Oui, il est toujours difficile de savoir quelle est la part de réalité et quelle est la part de conte populaire. Vous entendrez régulièrement la rumeur selon laquelle Facebook active le microphone. En général, on peut dire qu'ils ne le font jamais. Et oui, de temps en temps, les choses dont vous parlez, vous voyez des publicités, mais souvent, vous avez oublié que vous avez fait des recherches à ce sujet. Il y a beaucoup de projections intéressantes, sur ce que fait l'appareil. Mais oui, l'objectif de la publicité fondée sur la surveillance est de savoir exactement ce que vous voulez au moment même, et c'est vraiment intéressant. Je pense que ce modèle d'entreprise sera illégal dans 20 ou 30 ans, et que les entreprises seront tristes, et c'est dommage, et je pense que nous avions l'habitude d'envoyer des enfants de 5 ans dans les cheminées pour les ramoner. Et à un moment donné, nous avons dit qu'il s'agissait d'un modèle d'entreprise illégal. Oui, nous sommes désolés que votre entreprise en pâtisse, c'est vraiment dommage. Nous n'allons tout simplement plus faire cela.
Taki Sarantakis : Oui.
Bruce Schneier : Et je pense que la publicité de surveillance en fait partie. Elle me semble fondamentalement, à un niveau profond, contraire à l'éthique, et nous la permettons. C'est en quelque sorte l'erreur que nous avons commise au cours des premières années de l'Internet, lorsque nous avons eu peur de le réglementer. Mais espionner tout ce que vous faites et vous manipuler aussi efficacement que possible, pourquoi voulons-nous que les entreprises fassent cela? J'oublie.
Taki Sarantakis : Oui. Cela montre bien que la véritable monnaie d'échange, en ce moment, est l'attention. Parlez-nous-en un peu.
Bruce Schneier : C'est une monnaie. La véritable monnaie est l'argent. Je veux dire, ne prétendons pas que l'argent n'est pas la vraie monnaie.
Taki Sarantakis : C'est une monnaie qui nous rassemble.
Bruce Schneier : Il s'agit certainement d'une monnaie et d'une ressource limitée, et je pense qu'en tant qu'êtres humains, dans les premières décennies de ce siècle, nous sommes vraiment négligents en matière d'attention, ce qui s'explique en partie par le fait que ces technologies sont conçues pour créer une dépendance. Il y a deux semaines, j'ai lu une statistique selon laquelle la moitié des hommes américains parient régulièrement sur le sport, n'est-ce pas? Il s'agit là d'un changement sociétal majeur. Je veux dire, je pense que c'est une intention, mais c'est important à bien des égards, et nous avons simplement laissé les choses se faire. C'est très intéressant. Je ne sais pas, comment se porte le Canada en matière d'applications et de sports?
Taki Sarantakis : Nous ne sommes pas excellents. Vous ne pouvez pas regarder un match de hockey sans… en fait, toutes les publicités vous gênent.
Bruce Schneier : Je ne suis pas un adepte des sports de ballon, mais on m'a dit qu'il y avait plus de publicités pour les paris que pour la bière lors du Super Bowl.
Taki Sarantakis : Oui, et lorsque vous et moi n'avions pas de cheveux gris, les gens pariaient en quelque sorte sur le résultat du match. Aujourd'hui, les gens parient en jouant à pile ou face sur le fait de savoir si le prochain jeu sera une passe ou une course.
Bruce Schneier : Et cela tombe donc dans les failles des États-Unis, parce que ces paris ne sont pas considérés comme des jeux d'argent de la même manière parce qu'il y a de l'information. L'argument est donc qu'il s'agit plutôt d'un marché boursier, qui est en fait un jeu d'argent, mais n'en parlons pas, et qu'il s'agit de paris propositionnels dont l'avantage est que les cotes sont déterminées après coup. Alors, peu importe sur quoi vous pariez. Les personnes qui parient d'un côté ou de l'autre… et ensuite le site de paris sportifs se contente de prendre une commission, n'est-ce pas? On peut donc parier sur n'importe quoi.
Pour en revenir à l'attention, c'est quelque chose que nous donnons et nous nous laissons manipuler par des entreprises qui embauchent des centaines de personnes pour trouver la meilleure façon de vous manipuler. Ce n'est pas un combat équitable, et le moyen d'en faire un combat équitable est la réglementation gouvernementale. C'est en quelque sorte notre championne dans ce combat. Et aux États-Unis, ce n'est pas du tout le cas. Je considère l'Union européenne (UE) comme la superpuissance réglementaire de la planète, et elle fait des efforts. Nous avons eu le Règlement général sur la protection des données (RGPD) dans les années 90. Depuis lors, le règlement sur les marchés numériques, le règlement sur les services numériques, et la loi européenne sur l'intelligence artificielle ont été adoptés. Nous pouvons discuter de ces lois et il y a des avantages et des inconvénients, j'enseigne certaines d'entre elles dans ma classe, mais au moins, ils essaient de faire peur comme aucun autre pays ne le fait vraiment, et ils représentent un marché suffisamment important pour que cela compte.
Nous bénéficions tous d'une meilleure protection de la vie privée grâce au RGPD, même si nous ne sommes pas Européens. Si l'UE bloque une fusion alors que les organismes de réglementation américains ne le font pas, la fusion n'a pas lieu. Le règlement sur les marchés numériques est en train d'ouvrir les magasins Apple et Google à la concurrence. Nous bénéficions tous de ces actions de l'UE, et c'est plutôt bien. C'est un aspect intéressant des logiciels. Donc, la voiture que j'achète aux États-Unis n'est pas la même que celle que je pourrais acheter au Mexique, n'est-ce pas? En effet, les constructeurs automobiles adapteront le moteur aux réglementations locales, mais le Facebook que vous obtenez aux États-Unis est le même que celui que vous obtenez au Mexique, parce que le logiciel est vraiment bâti sur le principe « écrire une fois, vendre partout ». Aux États-Unis, la Californie est le principal organisme de réglementation, et a adopté une loi sur la sécurité de l'Internet des objets il y a quelques années. L'une des dispositions est l'interdiction des mots de passe par défaut, ce qui est très simple, impossible d'avoir un mot de passe par défaut.
Taki Sarantakis : Alors, qu'est-ce qu'un mot de passe par défaut?
Bruce Schneier : Comme « Password1 », un mot de passe courant.
Taki Sarantakis : « Password123 » ou « Password ».
Bruce Schneier : Oui, à tout, mais aucun fabricant de thermostats ne va produire deux versions de sa boîte, l'une pour la Californie, l'autre pour le reste du monde. Donc, tout ce que vous achetez au Canada est conforme à cette réglementation canadienne. Alors, une bonne réglementation sur un marché suffisamment important fait bouger la planète, et c'est plutôt sympa.
Taki Sarantakis : Vraiment génial. Maintenant, la réglementation. Votre président, je crois, au milieu des années 90, Bill Clinton, a déclaré que l'on ne peut pas plus réglementer l'Internet que l'on ne peut clouer des spaghettis au mur.
Bruce Schneier : Et pourtant, la Chine.
Taki Sarantakis : À quel point cette erreur a été grave?
Bruce Schneier : C'était une énorme erreur. Il s'agit donc des premières années où les entreprises génèrent tellement d'argent que personne ne veut y toucher. Personne ne veut le faire. C'est comme cela en ce moment dans l'IA. Si nous faisons quoi que ce soit, cette bulle éclatera, et tout ira très mal, alors restons à l'écart et laissons-les faire toutes les manigances possibles pour maintenir le marché boursier à flot. Je pense qu'ils ont commis une grave erreur. Bon, nous ne le savions pas, et il est difficile de réglementer. Je pense aux drones. Je m'en souviens dans les drones. Il est trop tôt pour réglementer parce que le marché est trop nouveau, soudainement tout le monde en a un pour Noël, et puis il est trop tard pour réglementer les drones, ils sont partout, et le moment de réglementer les drones était à quelque chose comme 4 h du matin le jour de Noël cette année-là et c'était tout, et nous ne l'avons tout simplement pas fait à ce moment-là, alors maintenant, c'est trop tard. Au cours de ces premières années, je suis sur l'Internet, qui n'est utilisé pour rien d'important. Nous parlons de Star Trek. C'est à cela que sert l'Internet. Et au cours de ces premières années, nous ne savons pas quelle réglementation est nécessaire. Et puis, du moins aux États-Unis, les profits, l'argent des lobbyistes, et maintenant c'est impossible, et c'est un problème fondamental aux États-Unis, celui de l'argent dans la politique, qui est un problème fondamental pour beaucoup de choses. Je pense qu'ils ont fait une énorme erreur, et nous sommes en train de la refaire avec l'IA.
Taki Sarantakis : Alors, nous allons parler de l'IA.
Bruce Schneier : D'accord, désolé.
Taki Sarantakis : Revenons donc à un autre grand moment historique où je pense, rétrospectivement, que nous nous sommes vraiment trompés. Je ne sais plus s'il s'agissait d'une décision ou d'une loi qui disait quelque chose comme : les propriétaires d'une plateforme ne sont pas responsables de ce qui se passe sur leur plateforme.
Bruce Schneier : Et je ne pense pas que nous nous soyons trompés. Je veux dire par là que je ne pourrais pas avoir de commentaires sur mon blogue sans cela. En gros, cela signifie que YouTube n'est pas responsable du moment où les vidéos sont publiées. Si quelque chose se produit, ils prendront les mesures qui s'imposent. Recherchez le nombre d'heures par seconde de vidéos publiées sur YouTube. Ce sont des chiffres insensés, le nombre de commentaires sur Facebook, le nombre de vidéos sur TikTok. Le nombre de renseignements publiés dans le monde est si important qu'il n'y a aucun moyen de les contrôler en amont. Ce n'est tout simplement pas possible. Et sans cette indemnisation, si je gère un blogue, que j'ai une section de commentaires et qu'une personne publie un commentaire en ce moment même, ce n'est pas de ma faute parce que ce n'est pas de ma faute. Quand je rentre chez moi et qu'une personne m'envoie un courriel me disant « hé, cette horrible chose est en train d'arriver », j'y vais et je l'efface dans l'heure qui suit. Je fais de mon mieux ici, d'accord? Ce n'est pas grave. Cette règle a été élargie d'une manière qui n'avait pas de sens du point de vue de la publication, et des entreprises comme Tinder l'utilisent comme bouclier lorsque de très mauvaises choses s'y produisent, mais il est vraiment difficile d'améliorer l'élaboration de cette règle. Je pense que les grandes entreprises devraient avoir plus de responsabilités, en particulier lorsqu'il s'agit de grands monopoles technologiques, mais ces règles protègent vraiment le non-pouvoir, et c'est un problème.
Nous avons un problème avec les restrictions en général. Nous rédigeons ces restrictions en pensant qu'elles protégeront les personnes impuissantes. Elles finissent par être cooptées par les puissants, n'est-ce pas? Pour en revenir au RGPD, il existe un droit à l'oubli, controversé, mais en gros, ce que dit la loi, c'est que votre CV, tout ce qui vous représente, ce sont les 10 premiers résultats sur Google. Et parfois, un article de presse sur quelque chose que vous avez fait il y a 15 ans est maintenant en tête de liste sur Google et vous harcèle pour toujours, et vous devriez pouvoir aller sur Google et dire, hé, vous devriez déclasser ceci, retirer cela. Vous ne pouvez pas aller voir le journal, mais vous pouvez aller sur Google. Je veux dire, ça me semble être une bonne idée. Les restrictions sont actuellement utilisées principalement par les riches et les puissants pour étouffer les histoires légitimes qui les concernent, et c'est toujours ce qui se passe. Je veux dire, si nous revenons sur les États-Unis, il s'agit de l'American Civil Liberties Union (ACLU), dont l'argument principal est de restreindre la liberté d'expression d'une manière qui vous semble être une bonne idée, puis qui se retourne contre vous. Toutes les restrictions que nous avons sont maintenant utilisées par le président Trump d'une manière que nous ne voulions pas, que nous n'attendions pas, et que nous n'avions pas prévue, et c'est toujours le problème.
Taki Sarantakis : C'était donc une sorte de Click Here to Kill Everyone. Passons au suivant, et ne vous laissez pas décourager par le titre, car il s'agit de bien plus que d'ordinateurs. Donc, A Hacker's Mind (traduction libre : L'esprit d'un pirate informatique).
[00:26:29 La couverture du livre « A Hacker's Mind » de Bruce Schneier est présentée.]
Bruce Schneier : C'est un bon titre.
Taki Sarantakis : C'est un bon titre, mais les gens pourraient commencer à penser…
Bruce Schneier : Si une personne veut écrire des livres, voici ma théorie en cascade sur les titres. Le titre vous incite à vous arrêter et à lire le sous-titre, et le sous-titre était « How the Powerful Bend Society's Rules, and How to Bend them Back » (traduction libre : Comment les riches et les puissants contournent les systèmes de la société et ce que nous pouvons faire pour nous défendre), et on oublie le titre, n'est-ce pas? Le titre permet d'accéder au sous-titre.
[00:26:57 Bruce Schneier prend son livre « Rewiring Democracy » et l'ouvre sur le rabat.]
Bruce Schneier : Le sous-titre vous incite à ouvrir le livre et à lire ces 200 mots, et c'est ce qui fait vendre le livre.
Taki Sarantakis : Donc, c'est comme le produit d'appel.
Bruce Schneier : Oui, n'est-ce pas. Tout ce que je veux, c'est que le titre vous incite à vous arrêter et à le prendre ou, si vous êtes sur Amazon ou ailleurs, à vous arrêter et à lire la suite. Le titre vous incite à lire le sous-titre, qui vous incite à lire le résumé, et c'est ce qui fait vendre le livre.
Taki Sarantakis : C'est de l'attention. Vous attirez l'attention des gens.
Bruce Schneier : Tout à fait, c'est ainsi qu'il faut procéder.
Taki Sarantakis : Très bien. Qu'est-ce qu'un pirate informatique?
Bruce Schneier : Je pense donc qu'il s'agit d'un livre très important, et qu'il l'est encore aujourd'hui.
Taki Sarantakis : Puis-je faire une pause? C'est très important pour les personnes qui travaillent dans le domaine des politiques publiques. C'est extrêmement important.
Bruce Schneier : On considère donc généralement que les pirates informatiques détournent les systèmes informatiques. Le code des impôts n'est pas un code informatique, mais une série d'algorithmes. Il s'agit d'entrées et de sorties. Il a une logique et des faiblesses. Nous appelons cela des failles. Il a des exploits, que nous appelons des stratégies d'évitement fiscal. Il y a des pirates informatiques clandestins, que nous appelons des comptables. Ce que je fais dans ce livre, c'est que tout système de règles, le code des impôts, les réglementations, peut être piraté. L'obstruction systématique est un piratage inventé dans la Rome antique, en 50 après Jésus-Christ. Je crois qu'il s'appelait Pline l'Ancien. En fait, il était au Sénat, il a regardé autour de lui et il a dit que le règlement stipulait que tous les travaux doivent être menés avant le coucher du soleil. Maintenant, si je n'arrête jamais de parler, nous n'arriverons jamais à rien, et il vient juste de pirater cette règle. Aux États-Unis, le redécoupage électoral partisan, c'est un véritable piratage. Toutes ces façons involontaires de suivre la lettre de la loi en en contournant l'esprit à votre avantage. Il s'agit de piratages. Ce dont nous parlons dans le livre, c'est de tous ces piratages des systèmes économiques, politiques et sociaux, et j'ai de belles histoires à raconter. J'ai une histoire de l'Inde, où une personne se présentait à une élection, et dont l'opposition avait trouvé 10 personnes portant exactement le même nom, et les avait invitées à se présenter contre elle.
(Rires)
Et cela n'enfreint pas les règles, mais vous avez tous ri, n'est-ce pas? Parce que cela enfreint toutes les règles, tout comme le fait de trouver une échappatoire fiscale, tout comme le fait de réaliser que si vous lisez le texte de cette loi, si je fais ceci, cela et cela, et que j'enregistre mon navire au Panama et que j'ai un paradis fiscal dans ce pays, j'échappe maintenant à toutes sortes d'impôts, le « double sandwich irlando-néerlandais », qui est la façon dont Google et Apple et d'autres entreprises ont évité les lois américaines, et qui impliquait une société aux Pays-Bas, une société en Irlande, et un paradis fiscal à l'étranger, dans les Caraïbes. L'ensemble de ces lois permet d'éviter des milliards en d'impôts aux États-Unis. C'est donc de cela que traite ce livre, et je pense qu'il est vraiment important parce que nous devons comprendre cela. Nous devons commencer à mettre à l'épreuve nos systèmes de règles, car je vous assure qu'il y a des avocates et des comptables qui le feront. Je veux dire, il y a des gens dans le sous-sol de Goldman Sachs en ce moment même qui étudient chaque phrase de toutes vos lois. Et puis, j'insiste dans le livre, et j'y reviendrai peut-être plus tard, sur le fait que c'est l'IA qui va faire cela.
Taki Sarantakis : Oui.
Bruce Schneier : Ensuite, les choses tournent vraiment mal.
Taki Sarantakis : Il y a donc des personnes dans cette salle qui ont rédigé des projets de loi. Il y a des personnes dans cette salle qui rédigent les règles des programmes. Il y a des gens dans cette salle qui recommandent des politiques aux ministres. L'une des choses les plus importantes est de se demander comment une protagoniste mal intentionnée pourrait s'emparer de cette situation et la transformer. Je pense que l'une des choses pour lesquelles nous n'avons pas été aussi bons, peut-être parce que nous sommes Canadiennes, c'est que nous ne nous mettons pas dans la position d'une mauvaise protagoniste lorsque nous rédigeons des choses. Et la dernière dont je pense que tout le monde se souvient, si vous regardez la PCU (Prestation canadienne d'urgence), qui est un acronyme que vous ne connaissez pas, mais que tout le monde dans cette salle connaît, nous avons rédigé un certain ensemble de règles pour faire parvenir rapidement de l'argent aux gens pendant la pandémie, et c'était pour les gens qui avaient désespérément besoin d'argent, mais les règles étaient telles que beaucoup de gens les ont piratées. Ces personnes n'ont pas nécessairement fait quelque chose d'illégal, ce qui est votre point de vue en matière de piratage, ce sont les règles elles-mêmes qui créent le problème.
C'est une notion amusante pour les bureaucrates, car nous pensons que les règles sont automatiquement bonnes, mais les règles peuvent être utilisées comme des armes contre vous, et je vois des collègues du Conseil du Trésor et d'autres qui y travaillaient, et le Conseil du Trésor rédige un milliard de règles, et beaucoup de ces règles sont maintenant utilisées comme des armes d'une manière qui, je pense, choquerait les auteures de ces règles qui, il y a des années, ont rédigé une politique sur ceci et une politique sur cela. Et maintenant, les gens de 2026 se disent, regardez ce que ça dit. Donc, c'est une grande, grande leçon à tirer pour les gens dans cette salle.
Bruce Schneier : Je donne beaucoup d'exemples dans le domaine du sport. Les sports sont pleins de piratages, parce que la victoire est si importante, et il y a des histoires de courses de formule 1. Dans les années 70, une personne s'est présentée sur la piste avec une voiture à six roues, et tout le monde dit qu'il est impossible d'avoir une voiture à six roues. Elle sort le règlement et dit que ce n'est pas écrit, et ce n'était effectivement pas le cas, n'est-ce pas? Les règles ne précisent pas le nombre de roues qu'une voiture peut avoir, car qui aurait pensé qu'une voiture pouvait avoir six roues? Cela a été corrigé, n'est-ce pas? Des correctifs ont donc été apportés, et maintenant, si vous lisez le règlement de la formule 1, une voiture ne peut pas avoir plus ou moins, ne vous faites pas d'idées, quatre roues, n'est-ce pas? Mais le basketball, le baseball, le football, tous ces jeux, si vous regardez leur histoire, ont vu l'ajout de règles au fur et à mesure que les gens découvraient des choses que les règles n'interdisaient pas, mais qui ne fonctionnaient pas dans le jeu, qui donnaient à une personne ce qui était perçu comme un avantage déloyal. Certaines d'entre elles sont autorisées. Parfois, le jeu change parce qu'une personne a trouvé… j'ai oublié son nom. C'est un nageur, en dos crawlé, aux Jeux olympiques, et il a parcouru la majeure partie de la piscine sous l'eau, c'est-à-dire qu'il ne nageait pas, mais qu'il était sur le dos, et les règles l'autorisaient. Cela a été corrigé parce que les responsables pensaient que ce n'était pas ce qu'ils et elles nous voulaient pour le dos crawlé. Les sports sont pleins d'exemples amusants.
Taki Sarantakis : Les règles du baseball changent tous les 100 ans comme une horloge, tous les 70 ans comme une horloge, tous les 60 ans, et c'est analogue à nos règles. Nous ne rédigeons pas des mesures législatives tous les jours. Nous ne modifions pas la même mesure législative 20 fois par jour. En fait, il se peut que nous ne touchions même pas à une mesure législative pendant 20 ans.
Bruce Schneier : Mais je ne pense pas que cela fonctionne.
Taki Sarantakis : C'est bien là le problème.
Bruce Schneier : Pour vos ordinateurs, votre machine Windows, le premier, le deuxième mardi de chaque mois, vous recevez environ 80 correctifs, n'est-ce pas? Donc, des problèmes ont été découverts dans l'ensemble des règles de votre ordinateur et, chaque mois, vous recevez des correctifs. Ce serait formidable si nous pouvions trouver un moyen de le faire avec les lois, n'est-ce pas? Et je ne sais pas comment, mais aux États-Unis, disons qu'une faille est trouvée et que soudain les gens commencent à l'exploiter et qu'il y a maintenant un lobby qui l'apprécie, et maintenant, deux ans plus tard, il y a beaucoup d'argent dans le fait de ne jamais réparer cela. L'échappatoire de l'intérêt passif, conçu pour le transport maritime transocéanique, est utilisée par les sociétés de capital risque pour échapper à l'impôt. Le fait de ne jamais combler cette échappatoire représente une somme d'argent incroyable. Être agile signifie donc que l'on peut régler le problème avant que les intérêts ne s'y accrochent. Cela semble très important. Je ne sais pas comment le faire. Je veux dire, les processus liés aux mesures législatives dans une démocratie sont très différents des processus d'écriture de logiciels chez Microsoft, Apple ou ailleurs. Je vais vous donner mon astuce pour le baseball. Je ne sais pas, c'est peut-être trop de baseball pour la population canadienne.
Taki Sarantakis : Nous avons participé à la Série mondiale.
Bruce Schneier : C'était très amusant d'être dans une ville qui participait à la Série mondiale et qui n'y était pas habituée. C'était très amusant. La règle de la chandelle à l'avant-champ.
Taki Sarantakis : Oui, il vivait à Boston.
Bruce Schneier : À mon avis, quelque part dans les années 20, il y a eu une balle de flyball qui est montée haut, et un joueur de deuxième but a regardé en l'air et s'est dit que s'il la laisse tomber, ce sera mieux.
Taki Sarantakis : Ce sera un triple retrait.
Bruce Schneier : D'accord. Et puis, il l'a fait et tout le monde s'est dit : « Quoi? » Et cela a été corrigé. C'est ce que je pense de ce qui s'est passé.
Taki Sarantakis : Oui, mais il est encore plus important pour nous d'anticiper, d'« adopter la perspective de l'adversaire », de se demander ce qu'une personne pourrait faire avec ça. Parce que les mauvaises protagonistes vont le faire tous les jours jusqu'à ce qu'ils trouvent quelque chose. Ils vont pincer. Ils vont frapper.
Bruce Schneier : Pire encore, aux États-Unis, des lobbyistes ont donné aux législateurs et législatrices un langage qui contient une faille clandestine, et ils ne le savent peut-être même pas. Donc, aux États-Unis, une grande partie des lois sont rédigées par des lobbyistes. Les législateurs et législatrices n'ont tout simplement pas le personnel nécessaire pour faire le travail, et c'est vraiment considéré comme une subvention au gouvernement. Tout cela va être accompagné de programmes. Je crains donc que des failles soient ajoutées délibérément. Alors, outre les accidents, il faut s'inquiéter de l'insertion délibérée de failles. C'est donc comme si une personne d'un autre pays travaillait pour une entreprise éditrice de logiciels et glissait des failles dans le système.
Taki Sarantakis : Maintenant, je veux me féliciter.
Bruce Schneier : Il faut bien qu'une personne le fasse.
Taki Sarantakis : Nous avons passé plus de 40 minutes sans que je mentionne l'IA. Je vais surtout vous féliciter parce que vous n'avez mentionné l'IA qu'une seule fois. Passons maintenant à l'IA. Parlez de votre livre actuel, que nous remettrons à certains d'entre vous en guise de souvenir.
Bruce Schneier : Il s'agit donc d'une question de sécurité, mais il ne s'agit pas d'une question de sécurité. Avec un coauteur, Nathan Sanders, un scientifique des données que j'ai rencontré à Harvard et qui travaille maintenant pour la Harvard Data Science Review, nous écrivons sur l'IA et la démocratie, et nous abordons ce sujet de manière très générale. Il ne s'agit pas d'un livre sur les « hypertrucages ». Il ne s'agit pas d'un livre sur la mésinformation. Il s'agit d'un livre sur toutes les façons dont l'IA va changer notre démocratie. Il y a cinq parties. La première partie est consacrée à la politique, à toutes les choses intéressantes qui se produisent en politique grâce à l'IA, y compris les avatars autorisés et les avatars non autorisés. L'IA est utilisé dans les sondages, l'IA est utilisée dans le porte-à-porte pour faire sortir l'électorat, toutes les choses qui se passent en politique, les messages. La deuxième partie est consacrée à l'IA et aux lois. L'IA est utilisée pour aider à rédiger et à adopter des lois, et c'est ce qui se passe. La France a construit un modèle d'IA conçu et optimisé à partir du droit français pour les législateurs et législatrices françaises. La troisième partie concerne l'administration gouvernementale, toutes les façons dont l'IA travaille dans la bureaucratie, et il y a un document canadien sur quelques centaines de projets pilotes en cours, en quelque sorte cette partie, et il s'agit de choses comme l'administration des prestations, l'IA dans le bureau des brevets, l'IA qui écrit des règlements, qui rédige, qui teste, toutes ces choses. La quatrième partie concerne les tribunaux, à la fois les juges, les tribunaux et les avocates qui utilisent l'IA, et la cinquième partie concerne la citoyenneté. C'est donc l'IA qui est utilisée pour l'organisation, la surveillance, la recherche de consensus, et nous en avons des exemples dans le monde entier. J'aime bien cela. Les États-Unis ne sont pas l'endroit idéal pour trouver des exemples en ce moment, mais j'en ai au Brésil, au Chili, au Japon, à Taïwan, en Allemagne, en France, en Écosse, au Canada, aux États-Unis, un peu partout, je veux dire, des choses très intéressantes qui se font.
Taki Sarantakis : Aujourd'hui, nous entrons dans une nouvelle ère. Nous n'en sommes pas encore là, mais je pense qu'au rythme où vont les choses, nous y parviendrons bientôt. Nous entrons dans une ère que certains appellent « gouvernement algorithmique » et « démocratie algorithmique ». Parlez-nous un peu de ce que vous considérez comme bon et pas si bon.
Bruce Schneier : Alors, c'est difficile parce qu'il y a une grâce très intéressante. Parlons d'un aspect de la question, le vote. C'est donc ainsi que je vote. Pour dire la vérité, aux États-Unis, le vote est très compliqué. Lorsqu'il y a des élections locales, la veille au soir, je vais sur Internet, je trouve un guide de vote, je le lis, je trouve pour qui voter, et je vote. C'est autant d'attention que j'accorde aux conseils municipaux et locaux, aux conseils d'administration des écoles et aux postes de juges locaux. Nous pourrions voter sur 50 choses lors d'une élection, et la Californie est encore pire, n'est-ce pas? Voilà donc ce que je fais aujourd'hui. Vous pouvez imaginer l'avenir. L'Allemagne a donc cela. L'Allemagne dispose d'un ensemble très complexe de partis politiques, et le gouvernement publie un guide de vote. Cette année ou l'année dernière, ils ont expérimenté une version sous forme de robot conversationnel. Vous pouvez aller sur le site Web du gouvernement et un robot conversationnel vous parlera et vous pourrez lui dire quels sont les sujets importants pour vous et ce que vous pensez, et le robot conversationnel vous dira : « je pense que ce parti est celui qui vous représente le mieux ». Les enfants l'adorent. Nous pouvons donc imaginer que je vais aller en ligne et parler à un robot conversationnel, et que le robot conversationnel va vous écouter, et voici qui, à mon avis, vous devriez voter pour ces agents municipaux et agentes municipales.
Pour aller plus loin, j'ai une personne qui m'assiste en ce qui a trait à l'IA que j'ai depuis quelques années. La veille, l'IA a dit : « Je vous observe depuis deux ans, voici pour qui vous devriez voter », n'est-ce pas? Je vous connais, voici votre liste. Est-ce très différent de ce que je fais? Pas tellement. Une autre étape consiste à dire : « Je sais pour qui vous devriez voter et je vais voter pour vous ». Pourquoi pas? Le vote est automatique, nous sommes dans un futur où c'est possible, d'accord, mais ce n'est pas la même chose. L'étape suivante, c'est que je suis l'assistant personnel de tout le monde, alors je vais voter pour tout le monde, n'est-ce pas? Je sais pour quoi toute la ville va voter, je vais juste organiser l'élection pour vous, vous pouvez rester chez vous et vous détendre. Ensuite, l'étape suivante consiste à dire que toute cette histoire d'élection est un peu stupide, que je sais quelles politiques vous voulez tous et que je vais donc mettre en œuvre ces politiques.
[00:43:11 Bruce Schneier lève sa main droite, puis sa main gauche, très éloignées l'une de l'autre.]
Donc, d'ici à là, les étapes sont toutes raisonnables.
[00:43:16 Bruce Schneier secoue sa main gauche.]
Mais là, c'est comme, mon Dieu, qu'est-ce qui se passe ici? Donc, c'est la trajectoire. Pour moi, c'est la façon de voir les choses.
[00:43:30 Bruce Schneier secoue sa main droite, puis sa main gauche.]
Pour comprendre pourquoi cela est acceptable et pourquoi cela est horrible, il faut savoir que les élections ont des objectifs multiples. Le premier consiste à obtenir la bonne réponse : quelle devrait être la politique? La deuxième est de donner une légitimité à la réponse, et c'est ce que fait le processus, et la troisième est de faire participer les gens aux processus.
(00:43:59 Bruce Schneier lève sa main droite, puis sa main gauche, très éloignées l'une de l'autre.]
Et au fur et à mesure que nous avançons, la légitimité diminue et le degré de mobilisation diminue vraiment, et cela va être difficile, n'est-ce pas? Je pense donc qu'en tant que société, nous devrions résister à certaines de ces mesures qui sont parfaitement raisonnables en raison de leur orientation, n'est-ce pas? Le but d'une démocratie n'est pas de déterminer ce que devrait être la politique, ou disons que nos préférences personnelles ne reposent pas sur le sol dans l'attente d'être découvertes, n'est-ce pas? Elles sont créées par le processus de mobilisation politique. Je veux dire que ce qui est perdu aux États-Unis, c'est l'éducation civique. Nous n'avons tout simplement plus la mobilisation politique qui fait des gens de bonnes citoyennes. Nous avons donc une politique du sport. Nous devons donc nous assurer que nous conservons cet état d'esprit, même si l'attrait de l'automatisation améliore les choses. Aujourd'hui, parfois, je m'en fiche. Je veux dire, en ce moment, l'IA est meilleure que l'être humain pour lire les radiographies du thorax. Je suis tout à fait d'accord. Si c'est mieux, je veux le meilleur diagnostic thoracique. Peu m'importe qui s'en charge. Mais même si, et c'est ce qu'on me dit, l'IA est meilleure pour déterminer avec quel pays il faut faire la guerre, je ne suis pas sûr que ce soit mieux.
Taki Sarantakis : Mais ce n'est pas le Canada, n'est-ce pas?
Bruce Schneier : Pas encore. Je veux dire, à l'époque où c'était drôle, la blague était toujours que vous vous amassiez tous à la frontière.
Taki Sarantakis : Oui.
Bruce Schneier : Mais maintenant, ce n'est plus drôle.
Taki Sarantakis : Je me console en me disant que vous êtes maintenant de l'autre côté du 49e, et que vous avez donc de l'intelligence. Parlez-nous de ce qui vous donne de l'espoir aujourd'hui, alors que nous sommes en 2026, et parlez-nous un peu de l'opposé de l'espoir, qui pourrait être le désespoir.
Bruce Schneier : Et l'espoir est en quantité limitée en 2026. J'ai tendance à être pessimiste à court terme et optimiste à long terme. Je veux dire, l'humanité trouve des solutions. Je veux dire, il nous faudra peut-être une guerre mondiale, mais nous trouvons des solutions, et je ne pense pas que ce sera la fin de la société. Je veux dire, les inquiétudes sont, je veux dire, historiquement, le fascisme n'est jamais vaincu par les urnes; une fois qu'un gouvernement totalitaire arrive au pouvoir, il n'est jamais chassé pacifiquement. Je ne sais pas encore où nous en sommes aux États-Unis dans ce domaine. C'est un peu normal dans le domaine de la technologie, je m'inquiète de l'amplitude des mauvaises choses, n'est-ce pas? En tant que société, nous découvrons des choses, mais les dommages que les gens peuvent causer avant que nous ne les découvrions sont limités, alors qu'avec les progrès technologiques, ils sont plus importants, n'est-ce pas? Une seule personne malveillante équipée d'une bio-imprimante peut faire beaucoup plus de dégâts qu'une seule personne malveillante sans bio-imprimante, et je m'inquiète de l'amplitude des valeurs aberrantes. C'est un autre livre dont vous n'avez pas parlé, Liars and Outliers (traduction libre : Menteurs et valeurs aberrantes).
[00:47:12 La couverture du livre « Liars & Outliers » de Bruce Schneier est présentée.]
Taki Sarantakis : Je n'ai pas lu celui-là.
Bruce Schneier : C'est un autre bon titre. Il s'agit de la sociologie et de la sécurité, et je pense que, dans le domaine de la sécurité, notre travail consiste à nous occuper de la minorité malhonnête, des transfuges, des quelques personnes qui enfreignent les règles, et cela ne fonctionne que parce que la plupart des gens respectent les règles. Si la plupart des gens enfreignent les règles, celles-ci ne fonctionnent plus, n'est-ce pas? Le système s'effondre. La seule raison pour laquelle une loi contre le meurtre est utile est donc que presque personne ne tue jamais personne, n'est-ce pas? Si le taux d'homicide était de 20 %, la loi ne serait pas pertinente. Alors, que faire d'une société où ces quelques transfuges peuvent tout gâcher pour tout le monde? Pour en revenir au code des impôts, il y a des gens qui trouvent des échappatoires. Si tout le monde trouve des échappatoires, il n'y a pas de code des impôts. Je veux dire que le système s'effondre et je crains que, dans un avenir marqué par la technologie, les systèmes soient plus fragiles. C'est donc une source d'inquiétude. Mon optimisme vient du fait que je pense que l'humanité s'en sort, que nous sommes fondamentalement de bonnes personnes qui essaient de faire fonctionner les choses. Le pessimisme vient de l'autonomisation de celles qui ne le sont pas.
Taki Sarantakis : Mark, vous avez notre première question.
Question : Merci, Taki. J'ai beaucoup de curiosité, vous qui réfléchissez au piratage des lois et des politiques, avez-vous réfléchi à l'équivalent des trois lois pour l'IA? Y a-t-il des éléments fondamentaux qui, selon vous, devraient être intégrés dans toutes les technologies d'IA?
Bruce Schneier : Donc, les Trois lois d'Asimov, je ne sais pas si vous avez lu les livres, je les ai lus quand j'étais enfant, les livres racontent comment ces trois lois étaient insuffisantes. Les livres parlent tous de la croyance populaire selon laquelle ces lois sont bonnes, mais il y a tellement d'endroits où ces lois ne fonctionnent pas. Le problème est donc, fondamentalement, et c'est le propos de mon livre précédent, A Hacker's Mind, que tout système de règles est insuffisant, un peu comme le théorème de Gödel, mais en plus général. Dans le discours et la pensée humains, les objectifs et les désirs sont toujours sous-spécifiés. Donc, si je vous demande de m'apporter du café, vous irez probablement me chercher une tasse, ou vous irez peut-être chez Tim Hortons pour m'acheter une tasse. Vous ne m'apporteriez pas une livre de grains crus. Vous ne m'achèteriez pas une plantation de café. Vous ne lui arracheriez pas une coupe des mains pour me la donner. Je n'aurais pas à préciser quoi que ce soit. Vous le sauriez. Donc, pour toute chose, tout objectif, il y a beaucoup de choses qui ne sont pas écrites. Et plus précisément, je ne peux pas spécifier toutes ces choses parce que si je vous donne une liste, il y aura quelque chose d'autre qui n'était pas sur la liste, et c'est une sorte de piratage des règles. Donc, par définition, tout ensemble de règles que je donne à une IA sera insuffisant.
Je conserve donc une belle collection d'IA qui font cela naturellement. Une grande partie de ce phénomène se produit donc dans les mondes virtuels, car c'est là que les règles sont les plus strictes. Alors, il y avait une IA qui jouait à un jeu vidéo dans lequel un bateau qui se déplaçait et qui gagnait des points, et l'IA a compris que si le bateau tournait très vite, il gagnait beaucoup de points. Il y avait un jeu d'empilage où l'on empilait des blocs, et l'IA a compris que si elle retournait le bloc, elle obtenait les points sans les empiler. Mon préféré, une sorte de simulation évolutive où l'objectif est de franchir très rapidement une ligne d'arrivée éloignée, et au lieu de développer des muscles et des jambes plus longues, la personne est devenue très grande et elle est tombée, et c'est l'IA qui réfléchit hors des sentiers battus parce qu'elle n'a pas de conception du sentier. Donc, si vous donnez à une IA, et je vous garantis que cela se passe dans les sous-sols des banquiers et banquières d'investissement, l'ensemble du code des impôts, et que vous lui demandez de me trouver les échappatoires, elle le fera. En ce moment, l'IA fait l'objet de nombreuses recherches pour trouver les failles dans les logiciels. Elle est bonne dans ce domaine, mais pas excellente. Les choses s'améliorent, (inaudible) rapidement. C'est ce qu'elle va faire dans le code des impôts. C'est ce qu'elle va faire dans les règlements. Voici l'ensemble du code juridique des États-Unis, dis-moi comment gagner de l'argent, et elle trouvera un moyen. Qui est la personne qui cultive un arbre par an et qui demande maintenant une déduction, n'est-ce pas? Elle les trouvera donc, et elle en trouvera de plus complexes, probablement plus complexes que les humains. Ces déductions seront techniquement légales.
Taki Sarantakis : Monsieur.
Question : L'avant-propos du livre a été écrit en avril 2025. Alors, avec le recul d'un an, êtes-vous plus convaincu par certaines des hypothèses ou des convictions qui vous animaient au moment où vous avez commencé à écrire ce livre?
Bruce Schneier : Je vous assure qu'écrire un livre comme celui-ci est toujours terrifiant à cause de ce délai. Tout au long de la rédaction du livre, nous avons remplacé « ceci arrivera » par « ceci est arrivé », et par un exemple. Je pense donc que rien, dans ce livre, n'est obsolète. Je pense que nos prévisions sont les mêmes. Il y a des exemples intéressants qui ne figurent pas dans le livre. C'est donc ce qui est différent, car il se passe des choses partout dans le monde. En 2024, Takahiro Anno, c'est son nom, s'est présenté à la mairie de Tokyo. C'est un ingénieur en informatique de 30 ans. C'est un enfant, ce n'est pas un politicien, et il est arrivé en 5e position sur 50 parce qu'il a un avatar hypertruqué autorisé qui répond à des questions sur YouTube, comme un marathon de 17 jours. C'est une histoire sympa, c'est une bonne utilisation d'un avatar d'IA autorisé, et ce serait juste une brève mention. Mais en octobre dernier, il a remporté un siège à la Chambre haute du Japon et a créé un nouveau parti politique, Team Mirai, qui a obtenu des sièges la semaine dernière. Au Japon, les partis politiques reçoivent de l'argent du gouvernement. Il met au point des outils logiciels permettant de mobiliser l'électorat et d'intégrer automatiquement leurs commentaires dans le programme d'un parti ou dans les lois. Ce n'était pas dans le règlement, et c'est vraiment génial.
Taki Sarantakis : Lucy?
Question : Alors, merci beaucoup, Taki et professeur Schneier, j'ai maintenant peur de mon aspirateur, de mon micro-ondes et de mon lave-vaisselle.
Bruce Schneier : Ce n'est que lorsqu'ils commenceront à parler entre eux.
Question : D'accord. Juste une question sur votre espoir pour l'humanité dans votre dernière phrase.
Bruce Schneier : Oh, oh…
Question : Nous parlons beaucoup dans la fonction publique, je m'appelle Lucy, je travaille au Secrétariat du Conseil du Trésor du Canada, nous mettons beaucoup l'accent sur le Code de valeurs et d'éthique afin que les fonctionnaires sachent comment agir de la bonne manière, en suivant un type de société fondée sur des règles. Dans vos recherches et vos livres, que diriez-vous de l'importance des valeurs et de l'éthique au sens large dans toutes les sociétés du monde?
Bruce Schneier : Je pense que nous devons nous y référer davantage, car nous apprenons que les règles sont contournables, et c'est en quelque sorte le mode de gouvernement confucéen. Vous avez moins de règles, mais vous essayez de constituer une classe de décideurs et de décideuses intelligentes et éduquées, capables d'appliquer des valeurs globales à des situations individuelles, donc moins de règles et plus d'importance accordée au jugement. Il semble que c'est quelque chose dont nous avons besoin aujourd'hui. Je pense que nous sommes allés trop loin dans les règles officielles, et c'est tout ce qu'il y a. Aux États-Unis, il y a les textualistes qui croient fondamentalement que les lettres de la loi sont tout ce qui compte et rien d'autre, mais je pense que nous avons besoin de plus, en particulier dans un monde qui évolue rapidement. Donc, oui, j'aime bien les choses plus douces qui peuvent être appliquées de manière générale. Donc, par exemple, Peter Thiel.
Taki Sarantakis : L'un de nos maîtres.
Bruce Schneier : L'un des super-méchants des États-Unis a pu utiliser ce que l'on appelle un « Roth IRA », conçu pour être un véhicule de retraite pour la classe moyenne, pour économiser des milliards d'impôts, et non des millions, n'est-ce pas? La loi n'était pas prévue pour cela, mais telle qu'elle est rédigée, il a pu le faire. J'aimerais qu'un ou une juge dise : « Désolé, M. Thiel, j'ai compris, mais vous devez rendre cet argent », n'est-ce pas? Mais il faut un système juridique qui permette ce genre d'interprétation, et nous n'en avons pas.
Taki Sarantakis : C'est ce que nous avons au Canada. Quelqu'un sait de quoi il s'agit?
Bruce Schneier : Maintenant, c'est comme si nous étions dans une classe. Excellent.
Intervenant non identifié : (inaudible)
Taki Sarantakis : Eh bien, c'était un peu analogue à ce qu'il utilisait, mais nous avons quelque chose appelé la DGAE, une sorte de disposition générale anti-évitement, qui signifie que vous avez suivi les règles à la lettre, à la lettre, vous n'avez pas enfreint la loi, mais la seule raison pour laquelle vous faites cela est d'éviter les impôts, il n'y a pas de logique d'affaires sous-jacente, il n'y a pas de chose sous-jacente. Voilà, c'est en quelque sorte un exemple.
Bruce Schneier : C'est vrai. Il s'agit donc d'un principe général.
Taki Sarantakis : Oui.
Bruce Schneier : Intéressant.
Taki Sarantakis : Oui.
Bruce Schneier : J'aime bien cela.
Taki Sarantakis : Voici donc notre dernière question. J'espérais que vous poseriez une question, car nous avons une autre experte en sécurité dans la salle. Alors, présentez-vous, faites-nous part de votre expertise en matière de sécurité, puis posez votre question.
Bruce Schneier : Et il penser pouvoir (inaudible) la résumer.
Taki Sarantakis : (rires)
Question : Merci beaucoup. Je suis Gitanjali Adlakha-Hutcheon. Je travaille dans le domaine de la défense, à cheval entre la défense et la sécurité, et je m'interroge sur la manière dont l'École va pouvoir s'adapter à l'avenir. Merci donc, Taki, de m'avoir invité. Ma grande question est la suivante : si nous pouvons pirater chaque règle, de quelle manière sommes-nous en train de pirater le futur, étant donné qu'une personne est en train d'écrire le code pour ce niveau d'automatisation? Donc, en intégrant la perspective de l'École, la perspective de l'éducation, comment formons-nous les hommes et les femmes qui coderont l'avenir, n'est-ce pas? Les enfants, et ça va de plus en plus vite. Donc, pour reprendre votre exemple : moins de règles, plus de discernement, davantage d'importance accordée aux valeurs… Si ce jeune homme de Tokyo peut désormais siéger à la Chambre haute, alors une jeune fille encore plus jeune pourra bien rédiger le code, n'est-ce pas? Alors, qu'allons-nous pirater ensuite?
Bruce Schneier : Ce qui me plaît dans ce qui se passe, c'est que l'agilité est désormais valorisée. Je veux dire, les choses évoluent tellement vite. Si vous êtes un enfant de nos jours, vous apprenez à suivre le rythme. Vous apprenez à être agile, et je pense qu'il s'agira d'une compétence importante et qu'il y aura un énorme fossé entre les générations. Je veux dire, vous le voyez. Je ne sais pas ce qu'il en est de votre législateur ou de votre législatrice, mais la personne qui joue ce rôle pour nous est super vieille, et c'est une mauvaise chose. Nous avons besoin de personnes qui comprennent la technologie et la vitesse de la technologie, et je ne sais pas comment nous pouvons y parvenir. Avez-vous des limites au nombre de mandats?
Taki Sarantakis : Nous avons des limites d'âge pour certaines choses, pour les juges élus à la Cour suprême.
Bruce Schneier : (inaudible)
Taki Sarantakis : Non.
Bruce Schneier : Oui, et c'est une sorte de piratage naturel. Un poste à la Cour suprême des États-Unis est à vie, et cela fonctionnait très bien lorsque l'espérance de vie était d'environ 50 ou 60 ans.
Taki Sarantakis : D'accord.
Bruce Schneier : Cela ne fonctionne plus lorsqu'elle atteint 80 ou 90 ans.
Taki Sarantakis : Oui.
Bruce Schneier : N'est-ce pas, la même règle n'est donc plus adaptée en raison de l'évolution de la médecine.
Taki Sarantakis : Oui.
Bruce Schneier : Vous voyez donc certaines de ces interactions.
Taki Sarantakis : Oui.
Bruce Schneier : Nous devons trouver comment gagner en agilité.
Taki Sarantakis : De même, dans notre chambre haute, nous avons une limite d'âge, là encore, de 75 ans. Je voudrais que vous terminiez par quelques paroles de sagesse, en particulier à l'intention des personnes qui travaillent au sein du gouvernement, comme les personnes ici présentes qui travaillent toutes pour le gouvernement. Les internautes, pour la plupart, travailleront dans le gouvernement. Qu'avons-nous besoin de savoir, de ressentir ou de travailler, et que pensez-vous que nous ne faisons pas aussi bien qu'aujourd'hui?
Bruce Schneier : Je vais donc terminer par les cinq choses, quatre, que j'ai mises dans le livre sur la gestion de l'IA et sur ce que nous devons faire. La première, et elle s'adresse à vous tous, pour réformer l'écosystème de l'IA, c'est que nous devons imposer des limites réglementaires à ces entreprises. L'écosystème de l'IA en tant qu'entreprise à but lucratif, les monopoles technologiques américains, les hommes blancs majoritairement libertariens qui dirigent tout cela, cela ne fonctionne tout simplement pas et nous devons y remédier. La deuxième consiste à résister aux utilisations néfastes de l'IA au sein du gouvernement, et il y en a beaucoup. Nous en voyons beaucoup aux États-Unis en ce moment. La troisième consiste à utiliser l'IA de manière responsable dans les cas où elle est utile au gouvernement. À l'heure actuelle, il n'y a aucune excuse pour ne pas offrir tous les services publics dans toutes les langues de votre population. C'est facile. C'est fait. Il suffit de le faire, n'est-ce pas? Qu'attendez-vous? Et la dernière chose, c'est de réformer l'écosystème de la démocratie. Une grande partie des problèmes liés à l'IA et à la démocratie ne sont pas propres à l'IA. Ce sont des problèmes de démocratie exacerbés par l'IA, n'est-ce pas? Donc, aux États-Unis, des choses comme la réforme du financement des campagnes, les circonscriptions plurinominales, le vote par ordre de préférence, les lois sur la transparence, des choses dont nous avons toujours eu besoin et dont nous avons maintenant vraiment besoin, et c'est quelque chose que je veux pour tout le monde. C'est ce que j'appelle les quatre « R ».
Je voudrais terminer par une dernière chose. Je passe beaucoup de temps dans le livre, pour répondre à votre question, à parler de l'IA publique, des systèmes d'IA qui ne sont pas contrôlés par des sociétés à but lucratif. Au cours des deux dernières années, on a assisté à un mouvement en faveur de l'IA publique, considérée comme un service public, comme quelque chose qu'un gouvernement peut faire ou qu'une université peut faire, et c'était largement théorique. En octobre, quelqu'un l'a fait. La Suisse dispose d'un modèle d'IA appelé Apertus. Il a été développé par un consortium d'universités suisses, financé par le gouvernement et le Swiss National Supercomputer Centre. Il n'utilise pas de matériel illégalement protégé par le droit d'auteur. Il utilise exclusivement de l'énergie hydroélectrique renouvelable et dispose d'un centre de supercalculateurs. Donc, pas de nouvelles puces, pas de nouvelles mines pour l'extraction de terres rares, le coût était d'environ 20 millions plus l'infrastructure existante, donc un chiffre d'environ 60, 70 millions américains, la performance est d'environ un an et demi derrière les meilleurs modèles actuels, mais la Suisse n'a pas cherché à créer un modèle ici. Elle a décidé de créer un modèle largement utile pour les gens. Il est disponible gratuitement. Vous pouvez aller en ligne et l'utiliser dès maintenant. C'est un exemple d'IA qui n'a pas été créée de la manière dont ces entreprises vous disent qu'elle doit l'être. Donc, lorsque OpenAI se rendra au Canada et dira que nous voulons construire un centre de données dans votre pays et vous donner une instance de notre système, vous leur direz que c'est non, d'accord? Le Canada est plus grand que la Suisse, aux dernières nouvelles. Vous disposez d'un centre de supercalculateurs. C'est un grand centre en Ontario, n'est-ce pas? Vous avez des universités avec toute l'expertise nécessaire. Vous pouvez le faire. Vous pouvez construire une IA publique canadienne, qui peut maintenant devenir un substrat que tout le monde peut utiliser et qui n'est pas dépendante d'une entreprise américaine, ce qui, aux dernières nouvelles, est une moins bonne idée qu'il y a deux ans.
Taki Sarantakis : Tout d'abord, je vous ai entendu dire que nous avons un certain pouvoir, que nous avons la capacité de faire des choix et que nous ne sommes pas obligés d'accepter le monde tel qu'il est, et je pense que c'est un message merveilleux.
Bruce Schneier : Excellent.
Taki Sarantakis : Pour les personnes présentes dans cette salle. Veuillez vous joindre à moi pour remercier Bruce pour cette heure merveilleusement stimulante.
(Applaudissements)
