Le scandale de censure qui vient d’opposer Facebook à la Norvège nous rappelle à quel point les géants du web sont les nouveaux Big Brother de notre temps.

L’affaire est importante. La semaine dernière, la première ministre de la Norvège avait souhaité illustrer sa page Facebook avec une image de la guerre du Vietnam montrant une jeune vietnamienne courant nue sur la route, victime des bombardements américains au napalm. Cette image a beau être une des photos les plus célèbres du 20^e siècle (prix Pulitzer en 1973), Facebook a censuré le cliché du photographe Nick Ut parce qu’il contrevenait à sa politique sur la nudité!

Heureusement, les Norvégiens ne s’en sont pas laissé montrer. Devant le tollé international, Facebook a rétropédalé en faisant exception à sa politique.

Mais pour cette victoire, combien de cas de censure jamais rapportés? De très grandes œuvres d’art qui ne satisfont pas aux critères de goût des géants du web sont de facto censurées et bannies de l’espace public. C’est le cas notamment de L’Origine du monde, de Gustave Courbet, une peinture réalisée en 1866 et qui montre le sexe et le ventre d’une femme, que Facebook censure à répétition depuis 2011.

Cette affaire nous dit plusieurs choses — sur notre monde, sur le web, sur les États et sur les médias.

Elle prouve que seuls les États ont le poids pour infléchir la politique des géants. À l’heure où Ottawa et Québec réforment tous deux leur politique culturelle, il faut d’ailleurs s’inquiéter d’entendre la ministre du Patrimoine, Mélanie Joly, déclarer qu’elle n’a aucune intention de réglementer le contenu sur Internet. Elle veut, dit-elle, «respecter la neutralité d’Internet».

Or, Internet, sous la coupe des multinationales du web, est tout sauf neutre. Et les États sont parfaitement justifiés d’élaborer des politiques culturelles qui contredisent celles des multinationales. Question de nature: les politiques culturelles des multinationales sont décidées privément pour leurs propres intérêts, alors que les politiques des États sont décidées pour le bien du public et publiquement.

Soyons clair: les multinationales du web ont le droit d’avoir leur propre politique de diffusion privée, au même titre que n’importe quel média ou entité, comme l’Église catholique ou Power Corporation. Mais il y a une différence majeure: leur politique culturelle est exécutée par des algorithmes qui opèrent selon des critères secrets et où le jugement humain est réduit au minimum — et cette politique n’est pas neutre, quoi qu’en pense Mélanie Joly.

À tel point qu’une photo aussi puissante que celle du photographe Nick Ut ne serait peut-être plus possible de nos jours. Facebook l’a autorisée parce qu’elle était une icône, mais avant de devenir une icône, il aura fallu que la photo de Nick Ut trouve le public et qu’elle choque. Entre les deux, il aura fallu des professionnels — appelés journalistes, rédacteurs, éditeurs — capables d’arbitrer entre le bon goût et ce qui est important.

À l’ère de la dictature du clic, on en arrive à un stade où les multinationales du web gagnent en puissance chaque jour en siphonnant les revenus publicitaires des médias, qui ont de moins en moins les moyens de créer des contenus signifiants, du calibre de ce que Nick Ut a produit il y a 43 ans. Et il appartient aux États de décider des règles du jeu et de restaurer l’équité — quitte même à forcer la redistribution d’une partie des revenus publicitaires! Le gouvernement a ce pouvoir.

Le web n’est plus dans l’utopie libertaire. C’est même le contraire. On en arrive au contrôle de facto de l’information — et des revenus publicitaires — par des multinationales étrangères, qui exécutent ce contrôle mécaniquement, à travers des algorithmes sans jugeote. On est donc en face d’une réalité troublante: celle d’une censure privée étendue à la surface du globe exécutée par des automates.

Dans son roman 1984, George Orwell avait imaginé la figure de Big Brother pour représenter le pouvoir totalitaire de l’État. Mais on est ici devant l’inverse: seul un État peut faire contrepoids au pouvoir totalitaire privé. C’est le paradoxe ultime où un espace libertaire est devenu totalitaire sous la dictature du clic et l’omniprésence des témoins de connexion — et il se trouve encore des ministres pour croire que tout cela est «neutre»!

La censure par algorithme révèle aussi un autre phénomène très nouveau que l’on commence à peine à comprendre: l’enfermement algorithmique, appelé aussi «bulle de filtres (filter bubble)». Car la dictature du clic nous amène au stade où les algorithmes décident du contenu présenté à chacun en fonction de ses préférences, avec pour effet d’enfermer l’internaute dans ses habitudes de consommation.

Il ne s’agit pas ici de démoniser Internet et le web. Mais avant le web, il était parfaitement possible de s’enfermer dans une idéologie, mais c’était strictement par choix — non pas à son insu par l’intermédiaire de «cookies». L’interface était assurée par une équipe de professionnels — appelée une «rédaction» — qui effectuait la plupart des principaux arbitrages. Désormais, les algorithmes le font pour vous simplement en analysant votre profil de clics, et même vos habitudes d’utilisation, selon plus de 57 critères — incluant même la distance entre l’appareil utilisé et le routeur.

Dans une vidéo saisissante, le militant Internet Eli Pariser a fait la démonstration que deux personnes qui tapent le mot «Égypte» dans le même moteur de recherche au même moment obtiendront deux résultats de recherche radicalement différents. Plus vous vous intéressez à un sujet, plus vous orientez le contenu dirigé vers vous. Si vous aimez le sexe, le moteur de recherche tendra à ne vous présenter que du sexe. Si vous aimez le maquillage, vous n’aurez pas à faire d’effort. Si c’est la haine qui vous branche, l’algorithme va vous en servir — en veux-tu? En v’là! Et tant pis si c’est une fausse nouvelle, comme la chose est arrivée il y a deux semaines concernant une journaliste de Fox News.

Cet enfermement algorithmique, qui frise la censure, mais qui s’apparente plutôt au «gavage», est tout aussi pernicieux, puisque c’est le même algorithme qui filtre, qui censure et qui fait le gavage.

Certes, Facebook, Yahoo, et autre Google ont ouvert un univers d’information mondialisée totalement nouveau — mais cet univers n’est plus «neutre». Et comme le montre l’anecdote norvégienne, leurs politiques secrètes ont pour effet d’infléchir le réel. Il y a un danger que ces mêmes outils, en créant leur propre censure et par leurs méthodes d’enfermement mental inédites, deviennent une menace à la qualité de l’information et même à nos institutions — politiques et culturelles.

La qualité de l’information et la santé de nos institutions sont intimement liées. Parce que l’information n’est jamais «neutre», les nations démocratiques ont besoin d’une presse nationale forte et organisée, qui entretient ses propres canaux d’information à la fois crédibles et rigoureux, et qui informe le public sur des bases déontologiques (et humaines). La presse est le véritable pilier du système culturel qu’Ottawa et Québec révisent actuellement. Il importe que les ministres responsables réalisent que ce pilier vacille parce qu’on laisse des multinationales du web le vandaliser et le vampiriser avec leurs algorithmes faussement «neutres».

Et c’est pourquoi nous avons besoin du seul contrepoids capable de les infléchir — l’État — animé de ministres qui ne s’illusionnent pas sur sa supposée «neutralité».