AlphaGO, deux triangles et vos intuitions politiques Entrez dans un bar avec Jordan Ellenberg

Les arguments en faveur de la géométrie

"Et ce n'est pas qu'une question de triangles. D'accord, il y a quelques triangles, mais il ne s'agit pas principalement de triangles. Tout ce qui est mathématique, logique ou quantitatif, tout ce qui a trait à l'optimisation, à la recherche ou à l'amélioration, est géométrique d'une manière ou d'une autre".

Aborder nos défis sous tous les angles disciplinaires

"L'un des grands défis, un défi que j'aime à penser que les gens ont relevé, est de réaliser que tous les problèmes mathématiques ne sont pas simplement des problèmes mathématiques... Il y a un entrelacement entre les mathématiques, le droit, la philosophie, l'éthique et la politique, qui ont tous de l'importance. Je pense donc que lorsque les gens essaient d'aborder cette question de manière purement mathématique, ils obtiennent des choses qui sont en quelque sorte inutiles. Cela étant dit, si vous essayez de l'aborder de manière entièrement non mathématique, vous obtenez également des choses qui ne fonctionnent pas".

Utiliser des ordinateurs pour évaluer et expliquer la prise de décision humaine

"Il n'est pas question d'utiliser un algorithme d'IA ou même une approche algorithmique totalement explicite, qu'elle soit pilotée par l'IA ou non. L'IA est plutôt utilisée comme un moyen de mettre en place des garde-fous pour l'action humaine. Ainsi, plutôt que de laisser l'IA nous observer et apprendre à jouer toute seule... ce que nous faisons ici, c'est essentiellement laisser l'IA se promener librement, et nous l'observons pour en apprendre davantage sur nos propres stratégies, et pour nous aider à prendre des décisions éclairées".

Comprendre où l'IA peut jouer un rôle - qu'il s'agisse de voter ou de conduire

"Je pense que ni les électeurs, ni les élus, ni les tribunaux ne vont vraiment accepter de confier cette responsabilité à une machine. Et en fait, je me suis rendu compte que c'était tout à fait justifié. Nous ne voulons pas faire cela sans supervision humaine. Un cas intermédiaire intéressant... est la question des véhicules autonomes... Parce que là, ce qui compte comme succès est probablement plus clair et moins contesté que le vote, mais pas aussi clair et pas aussi incontesté que les jeux auxquels nous jouons... L'objectif est-il d'avoir une véritable voiture autonome qui, sans humain à bord, se déplace et fait des choses ? Ou s'agit-il toujours d'une interaction entre l'homme et la machine, d'une conduite supervisée par l'homme ?

Un équilibre des pouvoirs entre les hommes et les machines

"Je dirais donc qu'il faut faire preuve d'une réelle humilité. Et si vous pensez savoir exactement quel est l'objectif, il est toujours bon de prendre du recul et de vous demander si l'objectif est vraiment aussi bien défini et incontesté, comme un jeu de dames, que vous le pensez.

Intro

Brooke : Bonjour à tous et bienvenue sur le podcast du Decision Lab, une société de recherche appliquée à vocation sociale qui utilise les sciences du comportement pour améliorer les résultats de l'ensemble de la société. Je m'appelle Brooke Struck, directrice de recherche au TDL, et je serai votre hôte pour cette discussion. Mon invité aujourd'hui est Jordan Ellenberg, professeur de mathématiques à l'université du Wisconsin à Madison, auteur du livre de 2014 How Not to be Wrong (Comment ne pas se tromper) et auteur du livre récemment publié Shape : The Hidden Geometry of Information, Biology, Strategy, Democracy, and Everything Else" (La géométrie cachée de l'information, de la biologie, de la stratégie, de la démocratie et de tout le reste). Dans l'épisode d'aujourd'hui, nous allons parler d'un grand sujet tiré de son dernier livre : les humains, les algorithmes et les systèmes de décision hybrides. Jordan, merci de nous avoir rejoints.

Jordan : Merci de m'avoir invité.

Brooke : Avant de commencer, parlez-nous un peu de vous et de votre dernier livre, Shape.

Jordan : Je suis donc mathématicien. Je suis professeur de mathématiques et je suis géomètre, au cas où vous vous demanderiez : "Comment ça s'appelle quand quelqu'un fait de la géométrie ?" Bien que ce que cela signifie soit probablement très différent de ce que beaucoup de gens imaginent, et c'est l'une des motivations qui m'ont poussé à écrire ce livre. La géométrie est le thème du livre. C'est pourquoi il s'appelle Shape. Et il ne s'agit pas de triangles. D'accord, il y a quelques triangles. Mais il ne s'agit pas principalement de triangles, car j'ai l'impression que presque tout ce qui est mathématique, logique ou quantitatif, ou qui a trait à l'optimisation, à la recherche ou à l'amélioration, est géométrique d'une manière ou d'une autre. La géométrie est omniprésente. Je me suis donc rendu compte qu'il y avait trop de choses à dire plutôt que pas assez, et c'est pourquoi, dans le livre, je parle beaucoup des développements de l'intelligence artificielle et de l'apprentissage automatique. Je parle du problème très délicat du redécoupage des circonscriptions électorales, une question politique très brûlante aux États-Unis. Je parle du jeu de dames au niveau du tournoi. Je parle de la propagation des pandémies. Je ne m'attendais pas à écrire sur ce sujet, mais je me suis soudain, pour une raison ou une autre, intéressé l'année dernière à ce thème, qui est aussi profondément géométrique. Et puis, il y a un triangle de temps en temps. Il y a un ou deux triangles.

Brooke : Oui, et si je peux ajouter ma voix aux qualités rédemptrices de la géométrie, parce que bien sûr, elle en a besoin, n'est-ce pas ? Après l'expérience que tout le monde a eue avec la géométrie au lycée, elle a besoin d'être réhabilitée en termes d'image. Si vous n'êtes pas assez enthousiastes à propos de la géométrie, si vous êtes enthousiastes à propos du bitcoin ou des crypto-monnaies, tous les calculs qui servent à traiter ces transactions sont effectués à l'aide de GPU, qui sont tous liés à la géométrie. Et voilà.

Jordan : Peut-être m'expliquerez-vous cela à un moment donné, ainsi que la relation avec les crypto-monnaies, que je n'aborde pas du tout dans le livre, mais j'aimerais en savoir plus à ce sujet. Vous avez parlé de votre expérience au lycée. Quelle a été votre expérience de la géométrie au lycée ? Puis-je vous interviewer un instant ?

Brooke : Oui, tout à fait. J'adorais la géométrie et la trigonométrie. J'étais à fond là-dedans. J'étais vraiment un matheux.

Jordan : Parce qu'une chose que je dis dans le livre, c'est que la géométrie est la coriandre des mathématiques. Les gens ne sont pas neutres à ce sujet. Il y a des gens qui disent : "C'est ma matière préférée. Pour tout le reste, je me disais : "Pourquoi je fais ça ?" Et puis la géométrie a pris tout son sens." Et il y a d'autres personnes qui se disent : "Tout était logique sauf la géométrie. Pourquoi ai-je fait ça ? J'aimais l'informatique et le calcul. Mais la géométrie, pourquoi on faisait ça ?"

En fait, j'ai découvert que les personnes qui pensent d'une certaine manière ne savent souvent même pas que la moitié du monde pense autrement. Mais pour ceux qui l'aiment ou pour ceux qui le détestent, il est clair que c'est très différent. C'est clairement très différent de tout ce que nous faisons d'autre dans le programme du lycée, et c'est clairement une sorte de vibration mathématique qui lui est propre, et c'est l'une des raisons pour lesquelles j'ai pensé que ce serait un bon sujet pour un livre entier.

Des problèmes différents nécessitent des solutions différentes

Brooke : D'accord, alors plongeons un peu dans le livre. Il y a deux types de problèmes que vous traitez et qui, du point de vue de la science de la décision, me semblent quelque peu différents, alors laissez-moi commencer à les distinguer. Le premier type de problème est celui pour lequel il existe une réponse correcte, et le second type de problème est celui pour lequel il existe une réponse appropriée. Pour ces deux types de questions, on peut s'attendre à ce que les gens soient largement d'accord entre eux si on leur demande quelle est la réponse, et probablement à ce que les spécialistes soient plus d'accord, mais en fin de compte, l'un a une réponse objectivement correcte, et l'autre non. Si nous prenons deux exemples, le jeu de Go, par exemple, nous pouvons mesurer objectivement quel algorithme est meilleur qu'un autre au jeu de Go parce qu'il existe un ensemble de règles très claires qui dictent qui gagne et qui ne gagne pas, et quels sont les mouvements autorisés et ceux qui ne le sont pas. Si nous pensons au redécoupage électoral, il s'agit d'un type de problème très, très différent. Il existe un très grand nombre de solutions différentes. Et bien que nous puissions peut-être stipuler une sorte de condition pour classer ces solutions, tout type de règle explicite que nous voudrions donner à ce classement sera extrêmement controversé. Il n'y aura pas de règle convenue et totalement explicite pour déterminer quelles solutions de découpage des circonscriptions sont meilleures que d'autres. Pouvez-vous nous parler un peu de cela et de la façon dont les algorithmes et la géométrie s'intègrent dans ces deux types de problèmes ?

Jordan : Bien sûr. Je vais peut-être commencer par la deuxième partie de la question, parce que je pense que la question du redistricting, qui, pour résumer en trois secondes, est la façon dont nous divisons une région politique, comme un Etat américain, en régions plus petites, chacune d'entre elles ayant un représentant. On pourrait croire qu'il suffit de tracer des lignes de démarcation. Or, il s'avère que la façon dont vous les tracez a un effet considérable sur les membres du corps législatif, sur les législateurs et sur les personnes qui décident, entre autres, de la forme de la prochaine carte. On voit donc tout de suite le problème de la boucle de rétroaction. Il est très facile pour les membres de ma communauté de mathématiciens de considérer qu'il s'agit d'un problème mathématique. Et je pense que l'un des grands défis, un défi que j'aime à penser que les gens ont relevé, est de réaliser que tous les problèmes qui comportent des mathématiques ne sont pas seulement des problèmes mathématiques. Comme vous l'avez dit, si vous vous lancez dans ce projet avec l'idée de "Quelle est la bonne réponse à la question de savoir à quoi les districts devraient ressembler ? Je ne suis même pas sûr que cette question ait une réponse, mais si c'est le cas, elle n'a certainement pas une réponse purement mathématique, n'est-ce pas ? Il y a un entrelacement entre les mathématiques, le droit, la philosophie si vous voulez, l'éthique et la politique ; tous ces éléments sont importants. Je pense donc que lorsque les gens essaient d'aborder cette question de manière purement mathématique, ils obtiennent des résultats qui sont en quelque sorte inutiles. Cela étant dit, si vous essayez de l'aborder de manière entièrement non mathématique, vous obtenez également des choses qui ne fonctionnent pas. Et je pense que c'est plus traditionnel en politique, de penser qu'il s'agit d'un problème que l'on peut résoudre uniquement par un raisonnement politique ou juridique. Je pense qu'en fin de compte, cela sera tout aussi insatisfaisant que d'essayer de le traiter comme un exercice mathématique.

En ce qui concerne le jeu de Go, comme vous l'avez dit, les paramètres sont beaucoup plus clairs. Nous savons qu'il existe un critère absolument reconnu pour déterminer qui a gagné et qui a perdu. Mais je pense qu'il vaut la peine de se demander quel est l'objectif réel. S'agit-il d'être le meilleur pour gagner ? Je veux dire que c'est une chose que l'on peut entendre par là, mais ce n'est pas la seule chose que l'on peut entendre par là. C'est pourquoi, dans le livre, je parle un peu du jeu de Go, mais je parle encore plus du jeu de dames, qui est plus éloigné de ce but.

Le jeu de dames est un jeu où non seulement les machines surpassent les meilleurs humains, mais où le jeu est résolu. En d'autres termes, nous savons littéralement, en tant que théorème mathématique, que si deux joueurs de dames sont parfaits, le premier joueur ne peut pas gagner et le deuxième joueur ne peut pas gagner. C'est comme le morpion. Deux joueurs qui ne se trompent pas feront toujours match nul. Et puis il y a une question intéressante. Vous pourriez dire : "D'accord, c'est fini. Il n'y a littéralement aucun intérêt à jouer aux dames."

On pourrait dire cela si l'on voulait, mais en fait, les gens jouent encore aux dames. Il existe encore un championnat du monde humain de jeu de dames pour lequel les gens se battent. Je pense qu'il y a deux façons d'aborder la question. On pourrait dire : "Ces gens perdent leur temps parce que le jeu est résolu". Ou vous pouvez dire : "Attendez, il y a peut-être quelque chose qui n'est pas pris en compte par cette solution mathématique." C'est peut-être un préjugé, mais j'ai tendance à penser que si les gens semblent faire quelque chose, il faut d'abord qu'ils aient une raison valable de le faire avant de déclarer qu'il s'agit d'une entreprise vaine.

IA et algorithmes

Brooke : Oui, du point de vue de l'IA, la manière de créer et d'entraîner un algorithme pour jouer aux dames est diamétralement opposée à la manière d'entraîner un algorithme pour jouer au Go. Pouvez-vous nous en dire un peu plus à ce sujet et sur la taille de l'espace des possibilités ?

Jordan : Eh bien, ce sont des problèmes dont la taille est extrêmement différente. Et c'est intéressant que vous disiez cela, parce que je pense qu'une chose est que, comme le jeu de dames est un problème astronomiquement plus petit que le jeu de Go, le jeu de dames peut être résolu par une génération précédente de techniques. Maintenant, si cela n'avait pas été le cas, disons que si vous deviez essayer de concevoir un moteur de jeu de dames aujourd'hui, je ne serais pas surpris que vous essayiez d'utiliser le même type de méthodologie AlphaGo que celle qui a été utilisée pour résoudre le jeu de Go.

Maintenant, puisque le jeu est résolu, vous sauriez, de manière prouvée, que vous ne pouvez pas faire mieux que le... En fait, c'est une question à laquelle je n'avais jamais pensé, et elle est assez intéressante. Il existe un joueur de dames absolument parfait, et non approximativement parfait. Compte tenu de ce que nous savons du jeu de Go et du jeu d'échecs, il serait surprenant que l'entraînement sur le même type de protocoles que ceux utilisés pour le jeu de Go et le jeu d'échecs ne produise pas un très, très bon joueur de dames, capable de battre les meilleurs joueurs humains. Cela produirait-il un joueur de dames parfait, un joueur dont on peut prouver qu'il est parfait ? Je n'en suis pas sûr. Je ne suis pas sûr de ce que je pense. Qu'en pensez-vous ? Parce qu'ils ne sont pas conçus pour cela, n'est-ce pas ?

Brooke : Revenons donc sur ce point et parlons un peu de la manière dont ces algorithmes sont entraînés différemment dans ces deux circonstances. Dans le cas du jeu de dames, comme l'ensemble des coups finis est beaucoup plus petit à chaque étape, il est possible de calculer tous les jeux finaux possibles pour chaque coup. C'est ce qui permet de terminer le jeu de dames, de le résoudre. En ce qui concerne le jeu de go, Jordan, je vous demanderai d'intervenir ici. Quel est le nombre de permutations possibles ?

Jordan : Oh, je suis sûr que ce chiffre n'a pas été calculé. Je suppose que nous pourrions en obtenir une limite inférieure, mais c'est un chiffre si grand qu'il est inutile de l'énoncer. Est-ce que cela a un sens ?

Brooke : C'est vrai. Donc plus ou moins de permutations qu'il n'y a d'étoiles dans l'univers ?

Jordan : Oh, bien plus. Je pense que même le jeu de dames en a plus que ça. Je t'en prie. Les étoiles sont très grandes et il n'y a pas beaucoup de place pour elles.

Brooke : (rires) Désolé, je m'excuse de ne pas avoir pensé plus grand. Quoi qu'il en soit, cela signifie que pour le jeu de dames, on part de cette sorte d'approche informatique où l'on dit : "Je vais calculer en fonction de toutes les possibilités." Et comme le domaine des possibilités est suffisamment restreint pour qu'un ordinateur puisse le gérer, cette approche permet de faire des progrès. En ce qui concerne le jeu de Go, le nombre de possibilités étant absolument gigantesque, la génération actuelle d'algorithmes de Go a été programmée et entraînée en les exposant à des centaines de milliers de parties de Go. Il s'agit donc d'étudier la séquence réelle des mouvements des parties jouées par de véritables humains, et à partir de là, l'algorithme extrapole en quelque sorte les stratégies les plus performantes. Il s'agit là d'une approche très simplifiée, ou d'une description simplifiée de l'approche, mais c'est un type de problème informatique très différent de l'extrapolation basée sur les possibilités logiques...

Jordan : Oui, et en fait, une chose que j'écris dans le livre, et en fait, cela apparaît en parlant de la modélisation de la pandémie, et non en parlant des dames, mais vous établissez un lien que je n'ai peut-être pas tout à fait vu, qu'il y a une question profonde, si vous essayez de concevoir un algorithme pour savoir quoi faire ou pour prédire l'avenir, qui sont des problèmes très interdépendants, comme vous le savez. Vous pouvez le faire en essayant d'incorporer les informations que vous connaissez sur la structure du problème. Ainsi, si vous concevez un moteur de jeu de dames, Jonathan Schaeffer, qui a conçu Chinook, le champion informatique du jeu de dames, vous promet qu'il en connaît un rayon sur le jeu de dames. Il apporte beaucoup de connaissances. D'une certaine manière, on pourrait dire que les moteurs de Go modernes ne partent pas du tout avec des connaissances préalables sur le Go. Ils doivent connaître les règles, bien sûr. Ils doivent savoir ce qu'il est permis de faire, ce qui compte comme une victoire et ce qui compte comme une défaite, mais c'est tout. Ils n'ont pas besoin d'avoir des informations préalables sur ce qu'est une bonne stratégie ou quelque chose comme ça.

Ils disposent d'une base de données de jeux humains existants et, bien sûr, de bases de données auto-générées dans lesquelles ils jouent contre eux-mêmes des millions de fois, ce qui peut générer une base de données encore plus importante, différentes versions d'eux-mêmes se testant les uns contre les autres et affinant leur stratégie. Il s'agit donc de deux paradigmes très différents. Essayez-vous de comprendre la structure du processus et de l'utiliser pour faire des prévisions, ou vous contentez-vous de regarder les résultats précédents et d'essayer d'interpoler statistiquement à partir de ce que vous avez observé ?

J'appelle la première chose la rétro-ingénierie et la seconde l'ajustement des courbes. Je ne sais pas pourquoi je dis que je les appelle ainsi. C'est ainsi qu'on les appelle. (rires) [inaudible 00:15:26] J'ai explicitement établi dans le livre cette tension entre ces deux méthodes d'analyse. Et je pense que c'est dans le traitement du langage naturel qu'on la voit le plus clairement. En effet, si vous essayez de faire faire à un ordinateur une tâche linguistique, traditionnellement, toute langue parlée a beaucoup de structure. Les phrases sont composées de noms et de verbes qui s'enchaînent de manière prévisible. Nous apprenons à schématiser une phrase. Faisiez-vous cela quand vous étiez enfant ? C'était une question de génération.

Mais les outils linguistiques modernes ne font pas cela. Ils se contentent de prendre ces gigantesques corpus de langage humain produits par les humains et, en examinant les régularités statistiques, ils essaient de déterminer quel mot est le plus susceptible de venir après les cinq mots précédents. Et ils le font sans que personne ne leur dise ce qu'est un nom ou un verbe. Il s'agit là d'approches très différentes.

Brooke : Oui, bien sûr. J'aimerais maintenant aborder l'idée des interactions entre les humains et les machines. Si nous pensons au jeu de Go, par exemple, lors de l'entraînement d'AlphaGo, il a simplement regardé un très grand nombre de parties, initialement des parties jouées par de vrais êtres humains, puis il a joué contre lui-même et a testé des stratégies et ce genre de choses. Mais la base sur laquelle il a été construit était un ensemble de jeux de Go joués par des humains. Il y a eu ce moment fascinant où AlphaGo a joué contre le champion du monde humain et où AlphaGo a fait un mouvement qui sortait complètement du champ de vision. Comme vous pouvez l'imaginer, le monde du go, assis sur le bord de son siège, essayant de suivre cette grande intrigue, a été choqué par ce mouvement qui était tout simplement révolutionnaire dans la mesure où il suggérait une interprétation complètement différente du jeu.

Si quelqu'un ici est un grand fan de football ou de sport humain, l'idée qu'il puisse y avoir des millions de personnes dans le monde assis sur le bord de leur siège, attendant de voir ce qui se passe dans un jeu de Go peut sembler un peu étrange, mais il suffit de croire que cela s'est réellement produit, et qu'il y a eu cette sorte de souffle collectif dans le monde entier lorsque les gens se sont dit : "Wow. Quelque chose d'incroyable vient de se produire".

C'est un phénomène vraiment intéressant qui émerge d'un outil qui, fondamentalement, n'a été formé qu'à partir de données humaines, ou qui a commencé à n'être formé qu'à partir de données humaines. Mais à partir de là, il a réussi à produire quelque chose qui a changé l'interprétation de l'homme. Si un humain avait fait ce mouvement il y a 100 ans et que ce souffle collectif s'était produit, les 100 années suivantes de jeu de Go auraient pu se dérouler différemment, ce qui signifie que les données sur lesquelles AlphaGo aurait été entraîné auraient été différentes. AlphaGo aurait été un algorithme différent si cela avait été fait par un humain 100 ans auparavant. Ces boucles de rétroaction sont donc vraiment, vraiment fascinantes.

Jordan : En fait, il y a une question empirique à laquelle je ne connais pas la réponse et que votre question soulève. Il y a différentes communautés de joueurs de Go qui jouent avec des styles différents, comme pour les échecs ou n'importe quel autre jeu. Si vous entraînez un moteur sur une communauté de jeu par rapport à une communauté de jeu différente, ont-ils tendance à converger l'un vers l'autre et à arriver à des stratégies à peu près similaires, ou verriez-vous peut-être les deux moteurs très bons mais de style plutôt différent entraînés sur les deux corpus différents ? Nous savons que c'est très vrai dans le domaine linguistique. Différents corpus, vous entraînez et vous obtenez différents types de moteurs de génération de texte. En fait, je ne sais pas si ce type d'expérience a été réalisé dans ce type de jeu.

Les œuvres d'art imprimées à la machine peuvent-elles être meilleures ?

Brooke : Oui, je ne sais pas non plus, mais je pense à quelque chose comme... Il y avait un algorithme d'IA qui a été formé essentiellement pour falsifier des Rembrandt. Je ne sais pas si vous avez suivi. En gros, ils ont scanné en 3D des peintures de Rembrandt et ont essayé de créer un algorithme capable de construire un nouveau Rembrandt. Il ne s'agissait pas simplement de copier une œuvre existante, mais d'en créer une nouvelle qui serait suffisamment convaincante pour tromper un expert.

En fait, lorsqu'un expert de Rembrandt de renommée mondiale a examiné ce qui avait été produit avec une imprimante 3D pour que la peinture ait de la profondeur, ce que j'ai trouvé super cool, le maître l'a regardé et a dit : "Oh, c'est très intéressant. Cela ressemble à un Rembrandt de cette période et ce genre de choses, mais je n'ai jamais vu celui-ci auparavant." Et c'est ainsi que le projet a été couronné de succès. Mais l'une des choses que la machine n'a pas faites, ce que font beaucoup d'artistes, c'est de regarder leurs œuvres passées et de se dire : "Eh bien, c'est de la merde. Je vais faire quelque chose d'absolument différent."

Cela me rappelle cette belle citation : "Les artistes médiocres empruntent, les vrais maîtres volent". Vous devez vous l'approprier. Il faut qu'il devienne le vôtre. C'est quelque chose que l'on ne voit pas dans le cas de Rembrandt, et c'est quelque chose que le traitement du langage naturel, d'après ce que j'ai vu de l'écriture d'histoires générées par ordinateur, n'en est qu'à ses balbutiements. Je ne vois pas de cas où l'ordinateur a réussi à devenir le maître qui vole et s'approprie le style pour lui-même. Mais dans le cas de Go, il semble que nous soyons à la frontière, quand ce grand moment de souffle collectif s'est produit, c'était le moteur de Go qui a en quelque sorte sauté par-dessus Rembrandt.

Jordan : Mais voilà le truc, Brooke. Rappelez-vous, qui halète dans ce scénario ? Ce n'est pas la machine. C'est nous. Ce sentiment de surprise, ce sentiment que quelque chose est vraiment nouveau ici, c'est notre sentiment. Ce n'est donc pas si clair pour moi. Après tout, dans le cas de Rembrandt, vous dites que l'ordinateur fait ce que l'on pourrait appeler de l'interpolation, en remplissant les exemples existants et en créant quelque chose que vous pourriez considérer comme diminuant l'ensemble du processus de peinture d'une certaine manière, le Rembrandt moyen, quelque chose qui est, nous dirions en mathématiques, dans la coque convexe d'un tas de Rembrandt existants ou quelque chose de ce genre.

Dans ce cas, le maître regarde et dit : "Oui, c'est quelque chose qui s'inscrit dans un nuage existant de Rembrandt." Mais ce que fait la machine n'est peut-être pas si différent. Mais ce que fait la machine n'est peut-être pas si différent, et vous pourriez donc dire : "Oh, peut-être que ce qui se passe en réalité, c'est que ce mouvement surprenant qui a surpris tout le monde, peut-être que ce mouvement est en fait une interpolation qui s'inscrit parfaitement dans le nuage des mouvements humains existants, et qu'il se trouve que nous ne l'avons pas perçu".

La carte électorale et le charcutage

Brooke : Oui, c'est intéressant. J'aimerais aussi savoir si les maîtres artistes, si je pouvais demander à Rembrandt : "Avez-vous déjà été surpris par les choses que vous avez créées ?" Rembrandt était-il une personne humble qui aurait dit : "Oui, bien sûr. C'était très surprenant pour moi. Je ne m'attendais pas à un tel succès." Ou était-il un arrogant qui disait : "Oh, c'est de la foutaise, et tout le monde est impressionné seulement parce qu'ils sont si faibles."

Mais passons maintenant des moments où l'IA nous observe et apprend de nous, à ceux où nous observons l'IA et apprenons d'elle, et parlons maintenant de l'exemple du charcutage électoral. Dans le livre, vous avez beaucoup parlé d'équipes d'analystes politiques qui s'asseyaient et découpaient des cartes pour créer des circonscriptions très avantageuses, comme nous les appellerions au Canada, ou des districts, comme vous les appelleriez aux États-Unis, afin de créer une sorte de tampon contre les vents contraires dans les schémas de vote.

Ainsi, si tout le monde penche pour votre parti, tout se passera bien pour vous, mais il faut que les vents soufflent très fort contre vous pour que cela commence à avoir un effet réel. Parlez-nous un peu du processus de découpage des circonscriptions électorales et de la manière dont l'IA a été introduite dans cette sphère.

Jordan : Oui, absolument. D'ailleurs, cela n'arrive pas au Canada parce que des réformes ont été mises en place pour l'empêcher, mais c'était certainement le cas auparavant. En fait, dans le livre, j'inclus un poème du Toronto Globe datant du 19ème siècle. Cette pratique était suffisamment connue pour faire l'objet d'un poème intitulé Hive the Grits. Les libéraux sont-ils encore appelés grits au Canada aujourd'hui, ou est-ce un terme dépassé ?

Brooke : Oui, mais seulement lorsque nous portons nos longs bas blancs jusqu'au genou et nos chaussures en cuir noir. (rires)

Jordan : (rires) Mais oui, "Hive the Grits, emportez-les tous dans des ruches afin de réduire leur pouvoir législatif", c'est ainsi que l'on procédait au Canada, tout comme on le fait actuellement aux Etats-Unis, avant que des réformes ne soient introduites. Mais oui, absolument. C'est un sujet qui a été, par intermittence, très chaud dans la politique américaine depuis avant que l'Amérique n'existe, en fait. Depuis l'époque coloniale.

Mais il est particulièrement populaire aujourd'hui en partie parce qu'il est devenu plus mathématique, à la fois du côté des personnes qui le font et du côté de celles qui essaient de le réformer. C'est amusant, je ne suis pas sûr que je dirais que c'est l'IA en soi qui est impliquée, mais quelque chose du même genre, ce que vous faites lorsque vous essayez d'écrire un bon moteur de Go, c'est que vous essayez d'explorer l'espace de toutes les stratégies possibles pour jouer au Go et essayer de trouver la meilleure, la meilleure selon une certaine métrique.

Comme vous le dites, dans ce cas, la mesure est très objective. Ce qu'il faut faire pour comprendre le gerrymandering, c'est en quelque sorte comprendre l'espace de toutes les manières possibles de diviser un État en districts. Et cet espace, tout comme l'espace des stratégies de jeu de Go, est d'une taille démesurée, impossible à gérer et à calculer. C'est ce que les deux problèmes ont en commun, et le fait que vous essayez d'explorer cet espace pour trouver, si vous êtes le gerrymanderer, si vous êtes la personne qui essaie d'obtenir un avantage pour son parti, vous essayez d'explorer cet espace pour peut-être trouver la carte qui est la meilleure pour vos objectifs, qui est la meilleure pour gagner.

En ce sens, c'est assez proche. Si vous êtes le réformateur, vous faites quelque chose de très différent. Vous explorez l'espace au hasard, en effectuant ce que l'on appelle une marche aléatoire, qui est l'idée géométrique fondamentale qui traverse le livre dans de très nombreux contextes différents, afin de dire : "Regardez, j'ai demandé à mon ordinateur, qui ne se soucie pas du parti qui gagne, de générer 20 000 cartes différentes." Dans certaines d'entre elles, ce parti a fait un peu mieux, et dans d'autres, ce parti a fait un peu moins bien, mais voici la fourchette entre ce nombre de sièges et ce nombre de sièges, c'est généralement ce qui s'est passé. Comme pour tout ce qui concerne les probabilités, on obtient une belle courbe en forme de cloche. Voici donc ce qui s'est passé lorsque nous avons dessiné les circonscriptions sans chercher à obtenir un avantage partisan, et voici les circonscriptions que nous avons réellement. Ils se trouvent un peu plus loin. Bien sûr, nous sommes sur SoundCloud, donc vous ne pouvez pas voir le geste extravagant que je fais avec ma main, mais imaginez que je pointe le bord de la courbe en cloche. Et par les méthodes statistiques habituelles, en disant : "D'accord, ce n'est pas le fruit du hasard. Ces circonscriptions ont été choisies explicitement pour donner un énorme avantage à un parti." Et c'est ce que nous pouvons faire avec les méthodes géométriques.

Brooke : Oui, j'ai beaucoup aimé ce chapitre, ne serait-ce que parce que, sur le plan stylistique, il y a eu tellement de moments où l'on s'est dit : "Et si on essayait cette mesure ?" Et pendant que je le lisais, je me disais, oh ouais, cette métrique a l'air d'être vraiment bonne. Puis, au bout de quelques pages, je me dis : "Voici toutes les raisons pour lesquelles cette mesure est mauvaise." D'accord, j'ai été déçu. Mais attendez, il y a cet autre indicateur. Je me dis : "Oh, d'accord, c'est cool. Voilà celle qui va être géniale." J'ai lu quelques pages, et il s'est avéré que celui-ci était aussi terrible. Je ne veux donc pas tout gâcher pour ceux qui vont s'asseoir et lire le livre, mais je vous préviens que la métrique à laquelle vous arrivez concerne l'efficacité des votes. Pouvez-vous nous parler un peu de l'efficacité des votes ?

Jordan : Ce que cela signifie essentiellement - je veux dire, pour donner un bref aperçu du fonctionnement du gerrymandering ; même si vous le souhaitez, vous ne pouvez pas contrôler le nombre de personnes dans votre Etat qui vont voter pour votre parti ou pour l'autre parti. Je suppose que dans un monde idéal et fou, vous pourriez adopter des politiques populaires que les gens apprécient et ainsi influencer le nombre de personnes qui votent pour votre parti, mais disons que c'est hors de question. (Disons que vous vous engagez à faire ce que vous avez décidé de faire, quelle que soit la volonté de l'opinion publique. Vous devez donc assurer votre majorité législative d'une autre manière, contre la volonté d'un électorat potentiellement hostile. La meilleure façon d'y parvenir est donc de s'assurer qu'il existe des circonscriptions où le parti d'opposition obtient une proportion importante des voix. Vous voulez utiliser une grande partie de leurs électeurs dans ces circonscriptions qui leur appartiennent presque entièrement, où 80, 90 % des électeurs appartiennent à un parti, en laissant un résidu de nombreuses circonscriptions où vous avez un avantage modeste, suffisant pour que vous puissiez gagner presque toutes les circonscriptions.

Ainsi, si vos adversaires ont un petit nombre de circonscriptions où ils obtiennent 90 % des voix et que vous avez un grand nombre de circonscriptions où vous obtenez 55 % des voix, vous aurez une énorme majorité législative même si, à l'échelle de l'État, il y a un nombre égal d'électeurs. En fait, je ne sais même pas s'il existe, dans la politique canadienne, des circonscriptions monoculturelles où un parti domine absolument à 75, 80 ou 85 %. Cela existe aux États-Unis.

Brooke : Oui, cela existe aussi au Canada. Si je pense à l'Alberta et à la Saskatchewan, par exemple, pas un seul candidat libéral n'a été élu lors des dernières élections dans l'une ou l'autre de ces deux provinces. Je pense qu'il n'y a qu'un seul libéral à l'ouest de l'Ontario avant d'arriver en Colombie-Britannique, ce qui fait qu'il y a ce gros morceau bleu conservateur au milieu. C'est donc exactement ce genre de situation qui se présente. Mais oui, nous pourrons aborder la politique canadienne dans une autre émission, peut-être autour d'une bière. (rires)

Il s'agit d'une chose intéressante, car ce dont nous parlons aujourd'hui, c'est de la délimitation des circonscriptions, une activité entreprise par des humains, et il n'est pas suggéré d'utiliser un algorithme d'IA ou même une approche algorithmique totalement explicite, qu'elle soit pilotée par l'IA ou non. L'IA est plutôt utilisée comme un moyen de mettre en place des garde-fous pour l'action humaine. Ainsi, au lieu que l'IA nous observe et apprenne à jouer toute seule, comme c'est le cas avec le jeu de Go, ce que nous faisons ici, c'est essentiellement laisser l'IA en liberté, et nous l'observons pour apprendre nos propres stratégies et nous aider à prendre des décisions en connaissance de cause. Dans ce cas, il s'agit de prendre cette marche aléatoire, comme vous l'avez mentionné, de créer des milliers et des milliers de cartes possibles, puis de regarder où les cartes dessinées par l'homme se situent dans cette distribution pour déterminer dans quelle mesure il est plausible qu'une telle carte ait pu être conduite sans être vraiment, vraiment fortement dessinée sur la base d'un avantage partisan.

Jordan : C'est vrai, et c'est intéressant, parce que vous faites ressortir cette opposition, ce qui me semble être une façon très utile d'y penser, mais je pense aussi que dans n'importe quel problème du monde réel, ces deux tendances vont être présentes, n'est-ce pas ? Vous avez décrit le jeu comme une machine qui apprend de nous, qui apprend de ce corpus de jeux joués par des humains qu'elle possède. Mais nous observons également la façon dont la machine joue, nous apprenons d'elle et nous en tirons des idées, de sorte qu'il y a un flux dans les deux sens.

Et de la même manière... Voyons si je peux faire valoir ce point de vue dans le cas du découpage des circonscriptions. Je suppose qu'il est vrai que la machine, d'une certaine manière, n'est pas censée tenir compte de la façon dont les humains ont pris des décisions préalables sur le découpage des circonscriptions. Je veux dire que les gens vivent là où ils vivent, et c'est en fait l'une des choses qui rend le problème si difficile, car lorsque les gens essayaient auparavant de trouver ces mesures très abstraites de " cette carte est-elle juste ? ", je pense que les gens disaient quelque chose comme ceci. Ils disaient : "Eh bien, écoutez, nous n'avons pas fait en sorte qu'il y ait des villes à 80 % démocratiques, et nous n'avons pas fait en sorte qu'il y ait des régions à 80 % républicaines. C'est arrivé comme ça. Les gens vivent là où ils vivent. Ils choisissent de vivre là où ils vivent. Ils peuvent choisir de vivre avec des personnes qui leur ressemblent politiquement. Pourquoi dites-vous qu'il y a quelque chose d'infâme là-dedans ? C'est peut-être comme ça que ça se passe".

L'un des grands avantages de cette technique de marche aléatoire est qu'elle tient compte des choix humains, car elle prend en compte l'endroit où les gens vivent et les personnes pour lesquelles ils ont voté dans le passé. Cela signifie que nous pouvons séparer ces deux effets. Le Wisconsin est un excellent exemple. J'ai beaucoup parlé du Wisconsin, mon État, dans mon livre, à la fois parce qu'il s'agit d'un endroit où le gerrymandering et les affaires judiciaires relatives au gerrymandering sont très médiatisés, mais aussi parce que c'est un État dont la population est traditionnellement très proche d'une répartition égale entre les deux principaux partis américains. L'analyse montre que le fait que de nombreux démocrates soient concentrés dans la ville où je vis, Madison, et dans Milwaukee, l'autre grande ville du Wisconsin, donne aux républicains du Wisconsin un avantage qui ne provient pas d'un remaniement intentionnel. Mais cela permet également de montrer l'ampleur de cet avantage, qui est environ deux fois moins important que l'avantage qu'ils obtiennent en réalité. Ils doublent donc la taille de leur avantage par un tracé stratégique des lignes. C'est ce qui est génial. Je pense qu'avant ces techniques, un réformateur aurait dit : "Vous avez clairement fait du charcutage électoral", et les républicains auraient répondu : "Non, c'est juste comme ça, parce que les gens ont choisi de vivre". Aujourd'hui, nous pouvons faire la distinction entre ces deux hypothèses.

Brooke : Oui, l'autre aspect de l'approche de la marche aléatoire est que lorsque les gens commencent à se regrouper dans ce type de "tri politique", la courbe en cloche elle-même évolue avec eux.

Jordan : Exactement.

Brooke : C'est donc là. C'est dans les chiffres. Ce n'est pas comme s'il devait y avoir un chiffre magique au milieu. Il est réactif. Il est sensible à ce genre de résultats.

Le pouvoir de la conception du système électoral

Jordan : Les personnes qui travaillent sur ce sujet, et je suis un vulgarisateur, je parle aux mathématiciens qui font ce travail et développent ces algorithmes, et il est certain que les praticiens ne considèrent pas ce qu'ils font comme "Oh, nous sommes juste là pour fournir des preuves pour les affaires judiciaires concernant les districts". Ils considèrent ce qu'ils font comme une sorte de nouvelle façon de faire des sciences sociales et de comprendre des questions telles que : quel serait l'effet politique de certains types de migrations et de certains types de déplacements de population ?

Une autre question très intéressante, qui relève en fait de la science de la décision, est que la plupart des travaux réalisés jusqu'à présent tiennent pour acquis que la manière dont les élections sont organisées est ce qu'elle est. Dans ce système très simple, appelé système uninominal à un tour, que l'on retrouve dans presque toutes les élections américaines, chacun vote pour le candidat de son choix et celui qui obtient le plus grand nombre de voix l'emporte. C'est très simple et cela signifie que toute personne n'appartenant pas à l'un des deux grands partis n'est pas prise en compte, sauf dans la mesure où elle peut attirer les voix de l'un des candidats des deux grands partis.

Je pense donc qu'il est très intéressant d'envisager l'avenir, car, à ma grande surprise, les mathématiciens et les politologues universitaires parlent depuis des années de systèmes de vote alterné. Cette idée fait son chemin aux États-Unis. La ville de New York passe au vote par ordre de préférence pour toutes ses élections cette année.

L'État du Maine tout entier a changé l'année dernière. Je pense qu'une question très intéressante pour l'avenir est de savoir comment le fait de changer radicalement la façon dont nous votons affecte la capacité à faire des remaniements. Et je pense que l'un des aspects intéressants de ces techniques de marche aléatoire est qu'elles permettent en quelque sorte de prédire cela à l'avance plutôt que de le laisser se produire.

Brooke : À votre insu, vous mettez le doigt dans une plaie très sensible pour les Canadiens. (rires)

Jordan : Oh, parce qu'il y a eu un truc en Colombie-Britannique, n'est-ce pas ? Il n'y a pas eu de référendum en Colombie-Britannique ?

Brooke : Oh, oui. Il y a aussi l'exemple de la Colombie-Britannique, et il semble qu'ils aient fait un peu plus de progrès là-bas, mais au niveau fédéral, en 2015, le gouvernement actuel s'est présenté avec un programme qui incluait une réforme électorale, qui est mort avant d'arriver au Parlement.

Jordan : Parce que des gens qui avaient dit qu'ils étaient pour ont renié leur engagement ?

Brooke : Ah... Je ne veux pas trop m'étendre là-dessus (rires), mais je veux dire que les raisons derrière tout cela... C'est en partie parce que les systèmes alternatifs sont plus difficiles à comprendre. Pas nécessairement de manière inhérente, mais dans une situation où la base électorale n'est pas très engagée et où la population s'interroge sur le fonctionnement même du système actuel relativement simple, il y a un aspect comportemental à prendre en compte, en se demandant dans quelle mesure un système plus compliqué qui nous permet de mieux cartographier les contours complexes des préférences des électeurs pourrait créer du bruit dans les données parce que les gens ne comprennent pas comment leurs données sont introduites dans le système. C'était l'une des questions qui se posaient ici au Canada : les gens craignaient que cette question du bruit, je veux dire qu'elle n'a jamais été formulée de cette manière, mais que le bruit d'un système plus complexe annulerait en fait les avantages d'une cartographie plus précise des contours.

Jordan : Je ne veux pas enfoncer davantage mon pouce dans la plaie et le déplacer ou quoi que ce soit d'autre, mais les principaux scientifiques canadiens spécialisés dans les décisions, comme vous, ont-ils été consultés sur les effets de l'interaction entre l'homme et le système ?

Brooke : Je suis un jeune homme, Jordan. (rires) Même en 2015, je n'étais pas le célèbre spécialiste des décisions que je suis aujourd'hui (rires). D'accord, mais changeons un peu de vitesse.

Interlude

Bonjour et bienvenue dans le coin des décisions. Dans cet épisode du podcast, je parle de mathématiques et de géométrie avec Jordan Ellenberg, auteur de best-sellers et professeur de mathématiques à l'université du Wisconsin à Madison. Jusqu'à présent, nous avons parlé des différents types de problèmes qui peuvent être traités par les êtres humains et l'intelligence artificielle, y compris la question très pertinente de la conception des systèmes électoraux et du charcutage électoral. Prochainement, nous approfondirons la tension entre "l'homme" et "la machine" et nous nous demanderons s'il est possible de coexister et peut-être même d'apprendre l'un de l'autre. Restez à l'écoute.

L'homme contre la machine - Le cas des véhicules autonomes

Brooke : Oui, alors changeons un peu de vitesse. Si nous réfléchissons aux différentes circonstances dans lesquelles nous pouvons déployer des outils d'IA, ou tout autre type d'outils algorithmiques, quelles sont les caractéristiques de ces situations auxquelles nous devrions prêter attention afin de savoir si, à l'avenir, nous devrions nous orienter vers une situation où "nous surveillons la machine" ou une situation où "la machine nous surveille" ?

Jordan : Oui, c'est une bonne question, et je pense que mon instinct me pousse à dire, et je suis en train d'y réfléchir au fur et à mesure que je le dis, que les situations où les machines nécessitent peut-être moins de surveillance sont celles, exactement comme vous le dites, où les objectifs sont plus clairement délimités et convenus. Dans un jeu comme les dames, les échecs ou le Go, où nous avons réglé la question de ce que signifie gagner, et nous avons réglé la question de ce que signifie avoir du succès, je pense que dans une situation où les machines ont besoin de moins de surveillance, il faut que les objectifs soient plus clairement définis et acceptés. Je pense que dans une situation où les objectifs eux-mêmes sont contestés par les humains, je pense que c'est là que, dans un certain sens, nous pouvons observer l'ordinateur et en tirer des enseignements pour essayer différentes choses et voir si la machine que nous construisons, voit ce qu'elle accomplit et si elle accomplit quelque chose que nous voulons. Mais en fin de compte, il y aura toujours un élément de jugement humain et de supervision humaine dont on ne veut pas se débarrasser.

En ce qui concerne le vote, et je passerai ensuite à un autre sujet, de nombreuses personnes qui réfléchissent à ce problème disent : "Pourquoi ne pas laisser l'ordinateur dessiner les cartes, puisqu'il peut le faire et qu'on peut le programmer pour qu'il ne se préoccupe pas de savoir quel parti est en tête ? Et la réponse est politique. Et parfois, dans ma communauté, politique signifie mauvais, mais politique n'est pas mauvais. Il s'agit en fait d'une question sur la politique. Pourquoi ne serait-ce pas politique ? La réponse est donc que je pense que ni les électeurs, ni les élus, ni les tribunaux ne vont vraiment accepter de confier cette responsabilité à une machine. Et en fait, j'en suis venu à penser que c'est tout à fait valable. Nous ne voulons pas faire cela sans supervision humaine. Je pense qu'un cas intermédiaire intéressant, dites-moi ce que vous en pensez, est la question des véhicules autonomes. Parce que là, ce qui compte comme succès est probablement plus clair et moins contesté que le vote, mais pas aussi clair et pas aussi incontesté que les jeux auxquels nous jouons, n'est-ce pas ? Il y a certainement des modes d'échec évidents de la conduite autonome. Et je pense que c'est pour cette même raison que l'on débat vivement de la question : l'objectif est-il d'avoir une véritable voiture autonome qui, sans être accompagnée d'un être humain, se déplace et fait des choses ? Ou s'agit-il toujours d'une interaction entre l'homme et la machine, d'une conduite supervisée par l'homme ? Je ne vais même pas entrer dans ce débat, mais c'est certainement un débat.

Brooke : Oui. Je pense que ma position à ce sujet est que la finalité est peut-être plus facile à énoncer, c'est-à-dire que si nous devions dire "Nous voulons repenser complètement les transports en commun", comme si des milliers et des milliers d'années d'histoire humaine ne nous avaient pas amenés au point où nous en sommes aujourd'hui, la réponse ne serait pas d'avoir la plupart des voitures sur la route conduites par des humains et certains véhicules sur la route conduits par des machines.

Le problème dans cette situation, c'est nous. Nous ne penserions jamais à un système dans lequel nous aurions des conducteurs de machines, dans lequel des voitures individuelles devraient prendre des décisions. Une machine résoudrait ce problème comme un problème de système. Il y a un système qui prend des décisions pour le système dans son ensemble, et non pas un tas d'acteurs indépendants qui doivent s'accepter les uns les autres. Le problème est que les machines sont introduites dans une situation où les humains agissent individuellement et se perçoivent les uns les autres, avec l'avantage d'un grand nombre d'antécédents qui nous ont permis d'arriver là où nous sommes, et aussi d'un grand nombre de préjugés comportementaux bien documentés qui font que nous sommes d'accord avec un grand nombre de morts sur la route. Alors qu'un seul décès causé par un véhicule autonome a une telle importance dans l'esprit du public. Une question que je n'ai pas vue posée est la suivante : sur tous les kilomètres parcourus par les véhicules autonomes, si ces kilomètres avaient été parcourus par des humains, à combien de morts aurions-nous dû nous attendre, et comment cela se compare-t-il à ce que les véhicules autonomes ont fait ? Ce n'est pas du tout le cas.

Jordan : Si cette question ne vous a pas été posée, c'est que vous ne fréquentez pas le Twitter des fans d'Elon Musk. Je vous promets que cette question y est très souvent abordée.

Brooke : Et quelle est la réponse ?

Jordan : Oh, je ne me souviens pas, parce que je ne fais pas vraiment partie des fans d'Elon Musk sur Twitter, mais je veux dire, on le voit. Il apparaît en quelque sorte dans le fil d'actualité. Non, je pense que c'est assez bas. En fait, je viens de regarder une discussion à ce sujet. On peut faire ce calcul, mais bien sûr, à l'heure actuelle, les trajets des véhicules autonomes sont tout sauf un échantillon aléatoire de tous les trajets.

Brooke : C'est vrai.

Jordan : C'est vrai ? Quand cela est-il utilisé ? Il est évidemment utilisé dans une voiture assez récente, parce que la voiture qui en est équipée est nouvelle, donc une voiture qui, à d'autres égards, possède de meilleurs dispositifs de sécurité. Il est utilisé dans des conditions différentes. Les gens n'utilisent probablement pas l'autonomie complète au milieu d'un orage dans l'obscurité.

Brooke : Oui. L'autre chose, c'est que le type d'erreurs commises par les véhicules autonomes sont des erreurs que les humains ont très peu de chances de commettre, mais les véhicules autonomes réussissent exceptionnellement bien à éviter les erreurs que les humains commettent à un taux beaucoup plus élevé. Par exemple, et pour revenir à l'exemple des échecs, je pense que l'un des premiers algorithmes conçus pour jouer aux échecs, la stratégie qu'un joueur humain a exploitée pour battre cet algorithme était essentiellement de faire les mouvements qui ont le coût de calcul le plus élevé pour l'adversaire algorithmique. En fin de compte, l'algorithme prenait tellement de temps dans ses premiers mouvements, lorsque les exigences de calcul étaient si élevées, qu'il devait répartir son temps de calcul dans les mouvements ultérieurs. Le joueur humain s'est donc contenté de traîner l'ordinateur jusqu'à ce qu'il n'ait plus le temps de jouer et qu'il doive se déplacer de manière très irrégulière, ce qui n'était pas optimal d'un point de vue informatique.

C'est le genre de chose qui, à ce stade, la puissance de calcul a dépassé ce type de limite. Il est difficile pour un humain d'utiliser ce type de stratégie, car les ordinateurs fonctionnent très rapidement. Mais c'est le genre de chose où un humain a exploité quelque chose qu'un autre humain aurait remarqué et a adopté une sorte de stratégie de compensation. Mais les ordinateurs apprennent d'une manière différente de la nôtre, et les choses qui nous semblent évidentes n'apparaissent pas toujours aussi clairement dans l'algorithme.

Définition de la "difficulté

Jordan : Oui, et en fait cela rejoint quelque chose dont je parle dans le livre, à savoir la notion de difficulté. C'est peut-être là que je deviens un peu philosophe, mais qu'est-ce que cela signifie pour un problème d'être difficile ? Je pense que nous avons une sorte de modèle mental, qui est assez pauvre et insuffisant, de la difficulté comme une sorte de ligne. Les choses sont classées du moins difficile au plus difficile. Mais en fait, ce n'est pas une très bonne description de ce qu'est la difficulté, parce que différents types de tâches sont difficiles de différentes manières, et différents types de tâches sont difficiles pour différents types d'êtres pensants. Je pense donc qu'il y a une façon pour les gens de voir quelque chose comme AlphaGo et de se dire : "Merde, c'est ça. Les ordinateurs sont plus intelligents que nous dans cette tâche très difficile qu'est le jeu de Go. Pour l'ordinateur, c'est facile, donc les ordinateurs sont meilleurs que nous".

Non. Il s'agit d'une seule tâche. Il y a d'autres tâches que les humains, en ce moment, trouvent très faciles et que les machines trouvent extrêmement difficiles. Je pense donc que c'est très salutaire, en fait, parce que cette différence entre les différents modes d'apprentissage, comme vous le dites, nous montre bien qu'il n'y a pas de nature linéaire de la difficulté. Chaque fois que l'on dit "un problème est difficile", il faut se demander "difficile pour qui ?".

Brooke : Oui, cela soulève une question très intéressante sur la manière dont l'IA est déployée sur le marché. Si nous pensons à la manière dont les entrepôts d'Amazon sont gérés, c'est un algorithme d'IA qui distribue les ordres aux gens pour qu'ils aillent chercher les marchandises, mais la raison pour laquelle il y a toujours des gens qui vont chercher les marchandises est que les gens restent l'"ordinateur" le plus efficace pour se déplacer vers un endroit désigné, ouvrir une boîte, identifier visuellement, très, très rapidement ce qu'il y a à l'intérieur de la boîte, ne prendre que la chose pertinente, fermer la boîte et la remettre à sa place.

Jordan : Huh. Je ne le savais pas. Est-ce que c'est un problème difficile pour une machine ?

Il n'est pas encore économiquement efficace de construire une machine pour remplacer ce travailleur, ce qui en dit long sur la façon dont nous traitons ce travailleur.

Jordan : Je crois avoir lu que plier une chemise est un autre problème de ce type, que c'est quelque chose que nous considérons comme facile, mais qu'il est apparemment incroyablement difficile de faire faire à un dispositif mécanique.

Brooke : Oui, la vaisselle aussi. Il est extrêmement difficile d'appliquer la bonne pression sur un plat, de le tenir pendant qu'on le lave.

Jordan : Oh mon Dieu. Y a-t-il des bêtisiers hilarants de robots qui essaient de faire la vaisselle et qui la cassent tous ? Je regarderais ça pendant des heures. (rires)

Les machines apprennent de nous et nous apprenons des machines

Brooke : Une fois que vous aurez terminé, vous saurez ce qui vous attend pour les prochaines heures. Comment créer des conditions optimales pour que les humains et les machines apprennent les uns des autres ? J'ai l'impression qu'il s'agit en partie d'adopter cette notion de difficulté selon différentes dimensions, difficile pour qui et de quelle manière. Et une partie...

Jordan : Et d'ailleurs, lorsque vous parlez de dimensions, la géométrie est déjà là. Vous faites une déclaration géométrique lorsque vous dites qu'il y a plus d'une dimension. Désolé de vous avoir interrompu. Je devais le dire. Poursuivez.

Brooke : Oui, bien sûr. Et l'autre question concerne peut-être, comme nous l'avons déjà dit, le degré d'explicitation de la condition de l'objectif. Par exemple, et peut-être aussi les considérations qui entrent en ligne de compte. Si nous pensons, par exemple, aux décisions concernant les personnes à qui il convient d'accorder un crédit, nous pourrions dire : "La condition de l'objectif peut être énoncée de manière très explicite : ne pas courir de risque au-delà d'un certain seuil", mais ce n'est pas tout ce qui entre en ligne de compte dans les décisions concernant l'octroi d'un crédit. Le crédit, en particulier pour l'accession à la propriété, l'histoire de ceux qui obtiennent un crédit et de ceux qui n'en obtiennent pas en termes d'accession à la propriété aux États-Unis et au Canada, comporte des dimensions raciales très claires. Il y a une question d'équité et une question historique qui doivent vraiment être prises en considération. L'équité est profondément ancrée là-dedans, même si, en surface, il semble y avoir quelque chose qui peut être très clairement et explicitement énoncé comme une règle avec laquelle une machine peut fonctionner. Il s'agit donc d'une première étape. L'autre concerne les données d'entrée que vous utilisez pour informer la décision. Il y a eu beaucoup d'écrits à ce sujet également : si vous incluez le code postal d'une personne dans le calcul de son risque, vous allez simplement laver tout un tas de données souvent biaisées sur le plan racial, pas nécessairement de manière intentionnelle, mais le code postal s'accompagne de tant de facteurs fortement corrélés que vous finirez par produire des résultats biaisés sur le plan racial, même si la race n'a jamais été explicitement intégrée dans votre modèle.

Jordan : Oui, et je pense que ce que vous dites illustre parfaitement la raison pour laquelle il n'y aura jamais de réponse définitive à la question " qui surveille qui ", comme qui est en charge et qui est soumis. Je pense qu'en fin de compte, il y aura toujours une interaction entre l'humain et l'appareil, pour les raisons que vous avez évoquées. Vous ne voulez pas faire ce que l'on pourrait appeler du "blame washing", c'est-à-dire lorsque quelque chose de mal arrive, mais que vous avez en quelque sorte confié la prise de décision à un être qui, par définition, n'a pas de statut moral et ne peut être blâmé pour quoi que ce soit, une machine. Et vous pourriez dire : "Eh bien, ne me blâmez pas." Qui devrais-je blâmer ? Pas la machine, parce qu'on ne peut pas la blâmer parce que c'est une machine, n'est-ce pas ? Vous avez donc fait disparaître la responsabilité d'une manière ou d'une autre. Mais pas vraiment, c'est comme si le lapin était toujours là, même si vous l'avez mis dans le chapeau. C'est donc une question compliquée, évidemment. Mais je pense que c'est en partie parce que, comme vous l'avez dit, il faut abandonner l'idée qu'il s'agira finalement d'une rue à sens unique et qu'il faudra trouver la direction que prendra la rue. Je pense qu'il faut accepter qu'il y aura des itérations de responsabilité et de supervision entre l'homme et la machine. Il y a peut-être une chose que je voudrais dire, et c'est l'un des aspects de l'apprentissage automatique que je trouve le plus intéressant, c'est que nous avons parlé du flux d'informations de la machine vers l'homme comme étant des humains qui observent la machine et apprennent à partir de ses résultats. Nous devons nous contenter de cela, et je ne pense pas que nous devrions nous contenter de cela.

Je pense que des personnes travaillent sur ce que l'on appelle l'apprentissage automatique lisible, en se demandant dans quelle mesure nous pouvons comprendre non seulement ce que produit la machine, non seulement ce qu'elle nous dit être un chat et ce qu'elle nous dit être un chien, mais aussi ce qu'elle fait à l'intérieur. Qu'est-ce qu'elle fait à l'intérieur ?" Et bien sûr, c'est incroyablement compliqué. J'aime y penser en termes de débogage, ce que tous ceux d'entre nous qui ont programmé savent ce que c'est. Et un type de programme que j'avais l'habitude d'écrire quand j'étais enfant, comme 60 lignes de BASIC, le problème était de trouver la ligne de code qui créait la sortie foireuse. Trouver l'endroit où j'ai tapé 50 pour aller à 50. "Oups, non, ne faites pas ça." Dans un algorithme moderne d'apprentissage automatique, nous ne pouvons pas vraiment nous dire : "Oh, ce neurone, c'est le problème. C'est lui qui fait des erreurs." Ce n'est pas modulaire de la même manière.

Ce n'est qu'un rêve, je suppose, mais j'ai l'impression que l'avenir du débogage, l'avenir de la compréhension de ce qui se passe sous le capot, c'est de travailler avec un système qui effectue clairement une tâche compliquée, et j'irais même jusqu'à dire "cognitive", mais qui n'est pas proprement divisé en modules que vous pouvez examiner un par un, et pourtant ce qu'il fait est peut-être clairement dysfonctionnel, et vous devez essayer de comprendre, "Ok, quelle intervention puis-je faire pour le rendre plus fonctionnel ?" Est-ce que cela ressemble à quelque chose ? C'est de la psychologie clinique. C'est littéralement ce qu'est tout ce domaine. Et je pense que l'avenir nous réserve probablement quelque chose qui ressemblera davantage à la psychologie clinique, voire à la psychothérapie. Ne s'agit-il pas là d'une évolution intéressante de l'IA ? Les machines auront certainement besoin de thérapeutes, car on ne peut pas les déboguer comme on peut déboguer un programme BASIC de 60 lignes.

Brooke : Oui, surtout les algorithmes qui apprennent de nous, ils auront certainement besoin d'une thérapie.

Jordan : C'est vrai. (rires)

Brooke : Mais pour ce qui est des étapes pratiques, pour quelqu'un qui réfléchit à la manière d'utiliser les algorithmes et l'IA pour parvenir à la meilleure solution possible, pas seulement pour dire " Nous avons besoin de la solution unique qui va les dominer toutes pour toujours ", mais " Nous sommes là où nous sommes maintenant, et nous voulons être dans un meilleur endroit demain ". Le point de départ de notre discussion semble être de diagnostiquer le type de problème que vous êtes en train de résoudre.

S'agit-il d'un problème dont les conditions de réussite peuvent être explicitées, ou s'agit-il d'un problème pour lequel il existe des facteurs de médiation qui doivent être pris en compte pour déterminer si une solution est la bonne, ou laquelle l'emporte, par exemple ? Si vous êtes dans une situation où il n'y a pas de facteurs médiateurs, l'IA et les algorithmes seront certainement un très bon pari. Si les facteurs de médiation sont peu nombreux, l'IA avec une certaine supervision humaine est probablement un bon point de départ.

Lorsque vous commencez à avoir plus de facteurs médiateurs que vous ne pouvez pas explicitement articuler et peser contre les autres en créant cette sorte de nuage de conditions qui doivent toutes être remplies, c'est là que vous vous orientez de plus en plus vers quelque chose où vous allez probablement continuer à compter sur les décideurs humains. Mais il faut alors se demander si, dans ce nuage de conditions, il y en a certaines que je peux rendre de manière très explicite, que je peux parcelliser et envoyer à l'algorithme pour qu'il fasse son travail. Je m'en servirai ensuite pour réfléchir à ce que font les décideurs humains." Cela vous semble-t-il correct ?

Jordan : Oui, je pense que oui. La seule chose que j'ajouterais en guise de slogan, c'est que je pense qu'il existe une certaine asymétrie et que, comme vous le dites, certains problèmes ressemblent davantage à des jeux de dames et d'autres à des redécoupages électoraux. Mais je pense, pour être honnête, que la majeure partie du monde ne ressemble pas tellement à un jeu de dames. C'est un terrain d'essai incroyablement important, mais je pense qu'en observant le monde et la façon dont les gens parlent des choses, je pense qu'il y a plus de problèmes lorsque les gens prennent des choses qui ne ressemblent pas à des dames pour des dames que lorsqu'ils prennent des dames pour des choses qui ne ressemblent pas à des dames.

Je dirais donc qu'il faut faire preuve d'une réelle humilité. Et si vous pensez savoir exactement quel est l'objectif, il est toujours bon de prendre du recul et de vous demander si l'objectif est vraiment aussi bien défini et incontesté, comme un jeu de dames, que vous le pensez.

Brooke : Je pense que c'est une note brillante pour terminer. Jordan, merci beaucoup pour cette conversation. C'était formidable.

Jordan : Merci. J'ai beaucoup appris. C'était génial.

Nous aimerions avoir de vos nouvelles ! Si vous appréciez ces podcasts, n'hésitez pas à nous le faire savoir. Envoyez un courriel à notre rédacteur en chef pour lui faire part de vos commentaires, suggestions, recommandations et réflexions sur la discussion.