Les algorithmes de recommandation ont réduit à néant la promesse d’un web horizontal, porte d’accès au savoir et à la culture. En proposant à chaque utilisateur une expérience basée sur ses préférences – lesquelles sont déduites par des systèmes opaques -, ils ont contribué à réduire la liberté de choix des individus, tout en menaçant leurs droits fondamentaux.
Chacune de nos interactions connectées est analysée et corrélée à d’autres informations afin de nous catégoriser de façon toujours plus efficace. Cette stratégie répond essentiellement à des impératifs économiques. Les entreprises qui dominent aujourd’hui le numérique au sens large dépendent toujours en grande partie de juteux revenus publicitaires.
Partout ou presque
Il ne s’agit pas de diaboliser ici les algorithmes de recommandation. Ceux-ci peuvent participer à rendre une expérience plus agréable, en limitant l’ingérence de contenu indésirable, souvent généré de manière automatisée. Sans eux, n’importe quel fil d’actualité d’un réseau social ressemblerait à une poubelle à ciel ouvert. Même les plateformes ouvertes ont besoin de règles de modération pour éviter ça. La dérive, c’est que la plupart des algorithmes de recommandation visent aujourd’hui à favoriser la rétention des utilisateurs.
Ces systèmes sont conçus de manière à exploiter nos biais cognitifs, en mettant plus volontiers en avant des contenus qui provoquent de fortes émotions. Il suffit de regarder comment a évolué le fil d’actualité de Facebook depuis sa création il y a près de deux décennies pour voir à quel point ces algorithmes influencent grandement l’expérience des utilisateurs. Les réseaux sociaux sont sans doute le meilleur exemple de la façon dont ces algorithmes fonctionnent. Mais ceux-ci ne se limitent pas à ces plateformes. Ils sont désormais partout, ou presque. La promesse d’être capable d’anticiper les désirs des internautes exerce un puissant attrait auprès des entreprises.
Créer de nouveaux espaces critiques
Il n’y a plus vraiment d’expérience partagée sur le web aujourd’hui. En consultant les mêmes plateformes, deux utilisateurs aux profils similaires seront amenés à vivre des expériences différentes, et ils n’en sauront rien. Ce phénomène promet de s’accélérer encore avec la multiplication des contenus générés par intelligence artificielle. Les grands modèles de langage pourraient également améliorer encore l’efficacité du traitement des données personnelles, pour cibler toujours plus précisément les individus.
Ce constat amène une question qui me taraude depuis des années: comment faire société dans un monde où notre rapport à l’information et nos expériences dépendent de tels systèmes? La mise en avant systématique et à l’échelle industrielle des contenus extrêmes tend de plus en plus à nous éloigner les uns des autres. Nous ne pouvons pas rester les bras croisés alors que la numérisation à marche forcée de nos quotidiens nous fait dépendre toujours plus de décisions éditoriales prises par des intérêts privés. Car la modération de contenu est bel et bien une question éditoriale, même si les entreprises qui en sont à l’origine rechignent à le reconnaître, de peur de devoir en assumer les responsabilités.
J’en suis venu à la conclusion qu’il faut trouver des moyens d’organiser la résistance. De créer des espaces critiques, qui favorisent la mise en commun de ressources pour se soustraire à ces mécanismes de sujétion presque omnipotents. C’est l’ambition de ce site. Contribuer, à sa petite échelle, à faire circuler les idées et à les confronter. Il n’y a pas de démocratie sans débat contradictoire.