La liberté contre les systèmes

Je ne me suis jamais vraiment reconnu dans les grandes cases politiques, probablement parce que je me méfie depuis longtemps de ces étiquettes qui finissent moins par décrire une pensée que par la remplacer : gauche, droite, libéral, socialiste, libertaire, conservateur, progressiste, réactionnaire… il suffit souvent d’en coller une sur quelqu’un pour ne plus avoir à écouter ce qu’il dit, comme si quelques mots pouvaient suffire à résumer une vision du monde, ses contradictions, son histoire et surtout ses doutes.

Je préfère partir d’une question beaucoup plus simple, et peut-être beaucoup plus inconfortable : que se passe-t-il lorsque nous donnons à quelqu’un le pouvoir d’imposer ses erreurs aux autres ?

Parce que l’erreur, elle, est universelle. Les médecins se trompent, les scientifiques se trompent, les juges se trompent, les journalistes se trompent, les entrepreneurs, les développeurs, les gouvernements se trompent, et moi évidemment avec eux. Le problème n’a donc jamais été que les humains puissent commettre des erreurs ; le problème commence lorsque nous construisons des systèmes dans lesquels certaines personnes, certaines institutions ou désormais certains algorithmes disposent du pouvoir de transformer leur erreur en règle commune, parfois même sans qu’il soit réellement possible de la contester.

C’est probablement de là que part l’essentiel de ma vision du monde.

La liberté avant l’ordre

Je pars de l’individu, non parce que j’imagine sérieusement qu’une société puisse fonctionner sans règles, sans institutions, sans justice ou sans État — ce serait absurde — mais parce que je considère que plus une institution accumule de pouvoir sur nos vies, plus nous devons exiger d’elle qu’elle soit surveillée, contrôlée, contestée et surtout contrainte d’expliquer ses décisions.

Je ne crois pas qu’un uniforme rende quelqu’un plus intelligent, qu’un diplôme rende quelqu’un infaillible, qu’un ministère produise mécaniquement de bonnes décisions ou qu’une majorité transforme soudainement une erreur en vérité simplement parce qu’elle est devenue majoritaire.

C’est d’ailleurs pour cela que je vois la démocratie moins comme la possibilité de choisir périodiquement ceux qui gouvernent que comme l’organisation permanente des moyens de leur dire non. Élire quelqu’un n’est jamais lui remettre un blanc-seing ; le pouvoir reste supportable tant qu’il demeure contestable, réversible et obligé de rendre des comptes.

Le jour où une autorité devient trop sûre d’elle-même pour accepter la contradiction, le problème n’est plus seulement la qualité de ses décisions : c’est la nature même du pouvoir qu’elle exerce.

Je me méfie davantage des systèmes que des individus

Nous aimons beaucoup chercher des coupables parce que c’est confortable. Le mauvais patron, le mauvais fonctionnaire, le mauvais médecin, le mauvais salarié, le mauvais politicien : une fois le responsable désigné, il suffit théoriquement de le remplacer pour avoir le sentiment que le problème est réglé.

Mon expérience de l’entreprise, de l’administration, de l’informatique et plus simplement de la vie m’a plutôt appris quelque chose de moins rassurant : des personnes intelligentes, honnêtes, parfois même parfaitement bien intentionnées, peuvent collectivement produire des catastrophes sans qu’aucune d’entre elles n’ait consciemment voulu les provoquer.

Le système peut fabriquer de l’absurde avec des gens parfaitement raisonnables.

Une entreprise peut devenir inefficace sans qu’aucun de ses salariés ne soit idiot ; une administration peut broyer quelqu’un sans qu’aucun fonctionnaire n’ait personnellement souhaité lui nuire ; une banque peut transformer une formalité banale en cauchemar parce que chaque procédure, prise isolément, semblait parfaitement justifiable à celui qui l’avait conçue.

C’est pour cette raison que je regarde toujours les structures avant les discours : les règles, les incitations, les métriques, les intérêts, les procédures, les rapports de pouvoir. Les intentions comptent, bien sûr, mais elles expliquent souvent beaucoup moins que l’architecture dans laquelle les individus évoluent.

Un mauvais système peut rendre médiocres des gens compétents et cruels des gens qui ne le sont pas.

Je ne suis pas anti-science. Je suis anti-dogme.

J’ai une formation scientifique, et c’est précisément pour cette raison que j’ai toujours du mal lorsqu’on transforme la science en collection de certitudes intouchables.

La force de la science n’est pas d’avoir toujours raison ; elle est d’avoir construit une méthode permettant d’organiser le doute. Une théorie peut être fausse, une étude peut être réfutée, une expérience reproduite ou infirmée, un consensus évoluer, et un scientifique peut finalement dire : « je me suis trompé ». Ce n’est pas une faiblesse du système scientifique, c’est exactement ce qui lui permet d’avancer.

Voilà pourquoi la phrase « les experts ont parlé » me met généralement mal à l’aise, non pas à cause des experts eux-mêmes, dont nous avons évidemment besoin, mais à cause de ceux qui utilisent leur parole comme un argument d’autorité censé mettre fin à toute discussion.

La science peut évaluer le risque d’une maladie, mesurer l’efficacité d’un traitement, produire des statistiques ou construire des modèles épidémiologiques ; en revanche, décider jusqu’où une société accepte de restreindre les déplacements, les libertés individuelles, la vie économique ou les relations sociales n’est plus une décision scientifique. C’est une décision politique éclairée, entre autres, par la science, ce qui est très différent.

Et une décision politique doit rester discutable.

Toujours.

La confusion entre expertise et décision est probablement l’une des plus dangereuses de notre époque, parce qu’elle permet au pouvoir politique de présenter ses propres arbitrages comme de simples conséquences techniques auxquelles il n’existerait aucune alternative.

Or il existe presque toujours des alternatives ; elles ont simplement des coûts différents, des bénéficiaires différents et des victimes différentes.

Le réel finit toujours par gagner

J’ai passé une grande partie de ma vie à faire de l’informatique et à diriger des entreprises, et ces deux activités ont au moins une vertu : elles obligent régulièrement à abandonner ses illusions.

Un programme peut être admirablement conçu, respecter toutes les bonnes pratiques et provoquer l’admiration de ceux qui l’ont écrit ; s’il plante, il plante. Une stratégie commerciale peut figurer dans tous les MBA de la planète ; si personne n’achète, elle ne fonctionne pas. Un texte peut respecter toutes les règles supposées de la littérature ; si personne n’a envie de le lire, il manque quelque chose que la conformité aux règles n’a manifestement pas réussi à produire.

Le réel possède cette brutalité assez saine de ne pas s’intéresser énormément à nos intentions.

C’est probablement ce qui explique ma méfiance envers les orthodoxies professionnelles. Tous les métiers finissent un jour par inventer leurs rites, leurs règles sacrées, leur jargon et leurs manières de distinguer ceux qui appartiennent au club de ceux qui restent à l’extérieur ; au fil du temps, certaines de ces règles continuent d’être appliquées non parce qu’elles permettent encore d’obtenir de meilleurs résultats, mais simplement parce que leur respect est devenu un marqueur d’appartenance.

J’ai toujours eu davantage de sympathie pour celui qui contourne intelligemment une règle devenue inutile et obtient un résultat que pour celui qui respecte parfaitement la procédure avant d’expliquer, avec beaucoup de sérieux, pourquoi rien n’était possible.

Cela ne signifie évidemment pas que toutes les règles sont inutiles ou qu’il faudrait célébrer n’importe quelle transgression ; cela signifie simplement qu’une règle devrait toujours rester un moyen au service d’un objectif, jamais devenir une fin en soi.

Je ne crois pas beaucoup aux catégories sociales toutes faites

Notre manière de parler de l’économie et de l’entreprise me paraît souvent extraordinairement caricaturale : le patron d’un côté, le salarié de l’autre, le capitaliste face au travailleur, comme si ces catégories décrivaient encore correctement la diversité des situations réelles.

La vie économique est beaucoup plus bordélique que cela.

J’ai connu des petits patrons qui gagnaient moins que leurs salariés, des entrepreneurs qui ne se versaient plus rien pendant des mois, des indépendants devenus indépendants non par goût de l’aventure mais simplement parce que plus personne ne voulait les embaucher, des personnes de cinquante ans poussées vers la création d’entreprise parce que le marché du travail les considérait déjà comme trop âgées, ou encore des femmes avec de jeunes enfants pour lesquelles le salariat traditionnel était devenu pratiquement incompatible avec l’organisation de leur vie.

Statistiquement, tous ces gens sont pourtant rangés dans la catégorie très valorisante des « entrepreneurs » et parfois même utilisés comme preuve du dynamisme économique d’un pays.

Il faudrait peut-être commencer par leur demander s’ils vivent réellement leur situation de cette manière.

Créer une entreprise peut évidemment être une décision extraordinaire, une aventure choisie, un moyen de conquérir davantage d’autonomie et parfois même de construire quelque chose de beaucoup plus grand que soi ; mais cela peut aussi être une stratégie de survie produite par un marché du travail qui ne veut plus de vous.

Le statut administratif d’une personne ne nous dit finalement presque rien sur le pouvoir réel dont elle dispose.

On peut être juridiquement patron et économiquement fragile ; salarié et extrêmement protégé ; indépendant et totalement dépendant d’un client ; propriétaire d’une entreprise et ne posséder en pratique qu’une pile de dettes et d’obligations.

Les catégories décrivent des statuts. Elles disent beaucoup moins bien les rapports de force.

Je crois profondément à la technologie

Je suis technophile et je l’assume sans difficulté. Internet a été, à mes yeux, l’un des plus puissants outils d’émancipation que nous ayons construits, parce qu’il a permis à des individus qui n’avaient auparavant presque aucun accès aux moyens de publication, de production ou de distribution de créer, de parler, de coder, d’entreprendre et parfois de toucher des millions de personnes sans demander l’autorisation d’une institution.

Le logiciel avait déjà commencé cette redistribution du pouvoir ; l’intelligence artificielle va beaucoup plus loin.

Un individu équipé de quelques machines et des bons outils peut aujourd’hui accomplir des tâches qui auraient nécessité hier une équipe entière : écrire, coder, traduire, analyser, produire des images, explorer des données, automatiser une entreprise et diffuser presque instantanément ce qu’il crée à l’échelle mondiale.

Cette concentration nouvelle de capacités entre les mains d’un individu me fascine parce qu’elle détruit une partie des barrières qui protégeaient historiquement les organisations installées.

Mais il serait naïf d’oublier que la même technologie peut produire l’effet exactement inverse.

Nous n’avons probablement jamais construit dans l’histoire humaine des moyens de surveillance aussi puissants que ceux dont disposent aujourd’hui les États et les grandes organisations : déplacements, paiements, conversations, relations, historiques de navigation, données médicales, habitudes de consommation, opinions exprimées ou simplement déduites de nos comportements.

Jamais une société n’a disposé d’une telle quantité d’informations sur chacun de ses membres.

La technologie est donc capable d’accroître simultanément notre autonomie et notre dépendance, notre liberté et notre surveillance, notre puissance individuelle et la puissance des institutions qui nous observent.

La machine n’a pas de sens politique par elle-même.

Tout dépend de celui qui la contrôle, de ce qu’il peut en faire et surtout de ce que nous pouvons faire lorsqu’il l’utilise contre nous.

L’intelligence artificielle ne change pas le problème fondamental

Nous passons énormément de temps à nous demander si l’intelligence artificielle finira par devenir plus intelligente que nous, et la question est évidemment intéressante ; pourtant, ce n’est pas celle qui m’inquiète le plus.

Je me demande beaucoup plus simplement : qui pourra contester sa décision ?

Une intelligence artificielle qui me conseille, m’aide à réfléchir, me signale mes erreurs ou me permet de travailler mieux peut devenir un outil extraordinaire. Une intelligence artificielle qui décide de mon crédit, de mon assurance, de mon emploi, de l’accès à certains droits ou même de ma liberté, sans que je puisse comprendre son raisonnement ni véritablement contester sa décision, devient immédiatement un problème politique.

Le danger ne vient alors pas nécessairement de la machine elle-même mais de l’organisation humaine construite autour d’elle.

Une bureaucratie algorithmique reste une bureaucratie ; elle est simplement devenue beaucoup plus rapide, beaucoup plus scalable et potentiellement beaucoup plus difficile à contredire.

C’est précisément pour cela que, quelle que soit la puissance des systèmes que nous construirons demain, il faudra préserver un droit incroyablement simple et pourtant fondamental : celui de dire non, de demander pourquoi et d’exiger qu’une décision puisse être réexaminée.

Un système auquel il est impossible de dire non finit toujours par devenir autre chose qu’un simple outil.

La liberté n’est pas seulement celle des puissants

Je ne crois pas davantage à une conception de la liberté réduite au droit de posséder, de commercer ou d’entreprendre, parce qu’une liberté qui ne bénéficierait qu’à ceux qui disposent déjà du capital, du pouvoir ou des moyens d’en faire usage serait une liberté assez pauvre.

La liberté appartient aussi à celui qui ne possède rien.

Elle réside dans le droit de changer d’avis, de faire une erreur sans qu’elle vous condamne à vie, de contester une décision, de ne pas être surveillé en permanence, de conserver une part de sa vie privée, de demander des comptes à ceux qui exercent un pouvoir sur vous et surtout de ne pas être progressivement réduit à l’ensemble des informations que les institutions accumulent à votre sujet.

Un être humain n’est pas son score bancaire, son dossier médical, son historique numérique, son casier administratif ou la somme de toutes les données qu’une organisation a réussi à collecter sur lui.

Il reste un être humain, avec une capacité à changer, à se contredire, à évoluer et parfois même à devenir quelqu’un que ses données passées n’auraient jamais permis de prévoir.

Cela paraît presque naïf de devoir le rappeler, et pourtant une part croissante de nos institutions fonctionne exactement dans le sens inverse : elles essaient de prédire qui nous sommes à partir de ce que nous avons été.

Le doute comme principe politique

Au fond, je doute énormément.

Je doute des gouvernements, des entreprises, des scientifiques, des journalistes, des algorithmes, des grandes certitudes collectives, des idées qui paraissent soudainement évidentes à tout le monde et, bien entendu, de mes propres raisonnements.

Mais je ne considère pas le doute comme une faiblesse intellectuelle.

Je crois au contraire qu’il est l’une des dernières protections dont nous disposons contre le dogme, parce qu’il nous oblige à laisser ouverte la possibilité que celui qui nous contredit ait peut-être raison, que notre modèle soit incomplet, que nos chiffres aient été mal interprétés ou que la solution que nous pensions parfaite produise ailleurs des conséquences que nous n’avions simplement pas vues.

Je ne rêve donc pas d’une société dans laquelle personne ne se tromperait ; elle n’existera jamais, et ceux qui prétendent pouvoir la construire deviennent généralement beaucoup plus dangereux que les erreurs qu’ils veulent éliminer.

Je préfère une société dans laquelle les erreurs restent corrigibles, les décisions contestables, les puissants obligés d’expliquer ce qu’ils font et les minorités toujours autorisées à rappeler à la majorité qu’elle peut, elle aussi, se tromper.

Parce qu’au fond ma pensée tient peut-être dans quelque chose d’assez simple :

Le problème fondamental n’est pas que les êtres humains se trompent.

Ils se tromperont toujours.

Le problème commence lorsque nous construisons des systèmes qui donnent à certains le pouvoir d’imposer leurs erreurs aux autres — et surtout lorsque ces systèmes finissent par nous convaincre qu’il n’est même plus légitime de les contester.