Philippe Vion-Dury : « les algorithmes sont présents partout, au service d’une mondialisation désincarnée »

Ancien journaliste de Rue89, Philippe Vion-Dury sera à Strasbourg jeudi soir pour évoquer avec Yann Bonnet, secrétaire général du Conseil national du numérique (CNNum), le rôle des algorithmes dans notre société connectée, une rencontre co-organisée par Le Shadok et Rue89 Strasbourg.

Les algorithmes, ce sont des programmes qui filtrent, trient, mesurent ou quantifient nombre de données que nous envoyons à des services tels que Google ou Facebook, mais aussi aux banques, aux sociétés d’assurance, aux fabricants de téléviseurs, de voitures, etc. d’une manière plus ou moins consciente. Ils sont la cheville ouvrière, silencieuse et en constante amélioration, de tous les services que nous utilisons chaque jour.

Dans un livre paru aux éditions Fyp, La Nouvelle Servitude Volontaire, Philippe Vion-Dury décortique ces mécanismes et pose la question de leur objectif.

Rue89 Strasbourg : pourquoi avoir enquêté sur les algorithmes et pourquoi ce titre ?

Philippe Vion-Dury : En 2013 – 2014, j’étais en charge des sujets technologiques à Rue89. Au fil de mes sujets, je voyais ces processus apparaître régulièrement, par fragments, que je parle de la police prédictive aux Etats-Unis, des assurances qui cherchent à trier leurs clients, etc. J’ai profité d’une période de disponibilité professionnelle pour me documenter sur les algorithmes et j’en ai conclu qu’il était urgent de politiser le sujet.

« Critiquer la technologie, c’était être technophobe »

Car il y a deux ans, c’était très compliqué de critiquer les technologies, ça passait vite pour de la technophobie ou du conspirationisme. Et puis, tout le monde était obsédé par le rôle des États, on était en plein dans les révélations d’Edward Swowden… De mon côté, plus je cherchais et plus je me rendais compte que cette écoute systématique était diffuse, complexe… Elle ne s’adresse pas à une seule personne par exemple, Mark Zuckerberg (le patron de Facebook) et Peter Thiel (cofondateur de Paypal) sont des personnes très différentes, aux valeurs quasiment opposées. Et pourtant, ils préparent le même environnement.

Pour moi, il est donc clair que les algorithmes sont des processus hérités d’un système, ils participent à une domination, on cherche à nous exploiter, à nous influencer. D’où le mot « servitude » dans le titre. Et « volontaire » parce que nous donnons notre consentement, sans qu’on n’ait forcément le choix. On nous dit qu’on peut refuser mais ce n’est pas totalement vrai, si on refuse d’utiliser certains services, on se coupe d’une partie du monde. Et nouvelle parce que ces phénomènes s’accentuent depuis quelques années (et que le Discours de la servitude volontaire était déjà pris).

Rue89 Strasbourg : mais au fond, quel est le problème avec les algorithmes ?

Philippe Vion-Dury : Le problème, c’est justement leur apparente innocuité. Qui peut être contre un programme qui va vous proposer chaque semaine une liste de 20 morceaux de musique qui devraient vous plaire, comme la playlist Discover de Spotify par exemple ? Sauf qu’il faut se poser ces questions : quels sont les autres buts de cet algorithme ? Est-ce que les morceaux qui composent cette liste ont tous des chances égales d’y figurer ou bien des accords passés entre Spotify et des labels peuvent la modifier ?

Qui garantit la neutralité des algorithmes ?

Et si la musique proposée vous plait vraiment, qu’est-ce que ça produit comme conséquences ? D’une part, vous utilisez plus la plate-forme de musique et d’autre part, la plate-forme en tire des conclusions sur votre profil, vos goûts, vos habitudes, qui complètent son modèle économique.

L’autre problème est que les algorithmes agissent cachés. Bien souvent, les gens ignorent qu’une bonne partie de l’information qu’ils reçoivent, par Facebook par exemple, est due à un algorithme et que certains contenus sont volontairement retenus. Ces processus ne sont jamais expliqués, leurs règles de calculs ne sont jamais dévoilées. Il a fallu toute la mobilisation des syndicats de lycéens pour que le Gouvernement rende public le code de l’algorithme APB, qui décidait des inscriptions à l’université. Et il s’agissait d’un programme public français pour des données publiques ! Imaginez s’il fallait exiger la même chose de Facebook ou Google…

Des enjeux cruciaux, largement ignorés

Enfin, ces algorithmes finissent par nous enfermer. En prétendant nous apporter des contenus ou des services qui sont censés nous plaire, ils nous poussent à consommer toujours plus. En cela, ils sont les héritiers d’un système capitaliste, d’une mondialisation qui se décide en Californie mais dont les effets sont appliqués sur l’ensemble de la planète. Et pas seulement dans les services technologiques de nos téléphones portables, mais aussi dans les assurances, les élections, l’urbanisme, la police, la surveillance antiterroriste, etc.

Rue89 Strasbourg : comment expliquer la passivité de la société par rapport à ces enjeux cruciaux ?

Philippe Vion-Dury : Le mot algorithme n’est pas forcément compris par l’ensemble de la société. Cependant, quand on explique les mécanismes auxquels ils correspondent, tout le monde peut voir de quoi il s’agit concrètement. Mais il faut faire la démarche. Ensuite, on nous a longtemps expliqué que le progrès technologique était inéluctable, qu’il ne pouvait pas se réguler et qu’il fallait tout accepter sans attendre… Or il nous faut du temps, justement, pour comprendre, intégrer et questionner les progrès technologiques. Plus ça se complexifie, plus il nous faut du temps.

En ce sens, des initiatives comme celle du gouvernement visant à étudier une possible régulation des algorithmes va dans le bon sens. Mais si on ne veut pas faire comme avec l’écologie et le développement durable, il faudra être prêt à se fâcher avec des entreprises puissantes comme Google, Amazon, Facebook, etc., disposant de solides relais auprès de l’administration américaine. Est-ce que les volontés timidement affichées jusqu’ici tiendront le choc ? Je me permets d’en douter.

La technologie, absente du débat public

Je remarque qu’on est dans une année électorale et que dans le débat public, la technologie, c’est 1% du débat et encore… Les enjeux ont beau être colossaux pour nos sociétés ultra-connectées, ce n’est pas audible. Alors c’est vrai que je suis un peu pessimiste sur notre capacité, globale, à récupérer un peu de prise sur ces processus qui déterminent et calculent des parties de plus en plus essentielles de notre avenir. Surtout qu’à l’appui de ces systèmes, il y a d’importantes multinationales.

Mais on peut aussi regarder comment la société s’adapte, même inconsciemment. Ainsi la publicité ciblée repose sur des algorithmes depuis une dizaine d’années, elle est très précise mais c’est un échec complet. On ne peut pas vraiment prédire ce qui arrivera lorsqu’une ville aura entièrement dédiée sa gestion des patrouilles à un algorithme prédictif ni ce qui se passera lorsqu’une compagnie d’assurance aura décidé de confier les risques de ses clients à un programme.