Reprise de données
Bonjour, vous !
La France pourrait prochainement interdire l'accès aux réseaux sociaux pour les moins de 15 ans. Une mesure qui a le vent en poupe en Europe et ailleurs dans le monde. Elle risque cependant de rater sa cible et de renforcer encore davantage la collecte et l'exploitation de nos données personnelles. Or c'est bien ce modèle d'affaires qui est à l'origine de nombreux problèmes. Je vous propose aujourd'hui de revenir sur la nécessité de porter le débat au niveau de nos droits fondamentaux.
J'aurai d'ailleurs l'occasion de parler des réseaux sociaux ce mardi 31 mars après la diffusion du film Molly vs the Machines à La Dépendance à Lancy en compagnie de Morgane Bonvallat, cheffe du projet Stop Hate Speech. N'hésitez pas à venir, ça commence à 19h. Plus d'infos ici.

Je vous signale deux autres événements ce même mardi à Genève. Jean-Marie Séguret, directeur des systèmes d'information de la Ville de Lyon, partagera l'expérience de la municipalité en matière de sobriété et de souveraineté numériques. La conférence, organisée par le So IT Lab, aura lieu à Hepia dès 17h. Il y aura également une discussion sur le rôle de la philanthropie dans la préservation de la diversité médiatique dès 19h au Downton Studio.

Le Monde propose une série d'articles très intéressante sur le phénomène des musiques créées par des logiciels génératifs. Je vous la recommande. Je diffuserai le 13 avril un épisode de IA qu'à m'expliquer consacré à ce sujet, avec comme invité Darius Afchar, chercheur chez Deezer. Il a conçu le système de détection utilisé par l'entreprise française pour repérer les morceaux générés par IA. Si vous en doutiez encore, l'intelligence artificielle générative n'est pas un jouet, c'est un projet de société.
Merci pour vos retours. Si cette infolettre vous plaît, n'hésitez pas à la partager autour de vous. La communauté s'agrandit petit à petit grâce à vous.
«Ce n'est pas la technique qui est toxique en soi, c'est notre incapacité à la socialiser correctement.»

Bernard Stiegler
Bonne lecture !

L'éditorial
Un vent de réglementation souffle sur l’industrie technologique après deux décennies de laisser-faire. Plusieurs pays ont décidé ces derniers mois d’interdire l’accès aux réseaux sociaux aux mineurs, moyennant la mise en place de mécanismes de vérification de l’âge des utilisateurs. D’autres Etats envisagent de sauter le pas, comme la Norvège ou l’Allemagne. En France, le Sénat examinera un projet de loi en ce sens mardi. En Suisse, l’entrepreneur Guido Fluri a lancé une initiative constitutionnelle avec le soutien de personnalités issues de tous les partis pour imposer de nouvelles obligations aux géants de la tech. Si la récolte de signatures aboutit, les citoyens seront amenés à se prononcer d’ici quelques années.

Ces différentes démarches proposent des remèdes superficiels, sans tenir compte de leurs effets secondaires potentiels. La généralisation des systèmes de vérification de l’âge des utilisateurs n’est pas une bonne nouvelle, parce qu’elle s’accompagne d’un contrôle accru de nos comportements en ligne. Les mineurs continueront d’accéder aux plateformes par des moyens détournés, et le contenu de celles-ci ne sera pas moins toxique. Ces mesures ne s’attaquent pas à la racine du problème: la collecte et l’exploitation de nos données personnelles. Les géants de la tech sont incités par ce modèle d’affaires à flatter nos bas instincts pour susciter l’engagement. Ce dernier se traduit par des interactions qui renseignent ces entreprises sur nos préférences. L’emmerdification des plateformes n’a rien d’une anomalie: c’est inscrit dans la logique même de la publicité dite personnalisée (ou ciblée).
L’essor de l’intelligence artificielle générative a encore renforcé l’attrait de ces précieuses informations. En toile de fond, cet extractivisme sert les intérêts de l’industrie de la défense. La police américaine de l’immigration, qui s’appuie sur les logiciels de Palantir pour tracer les migrants, nous donne un avant-goût de la société de contrôle que nous alimentons quotidiennement par nos «usages». Le projet Maven, euphémisme pour qualifier l’automatisation de la prise de décision sur le champ de bataille, repose sur le même terreau de captation de nos données personnelles. Oui, les réseaux sociaux sous leur forme actuelle posent de véritables problèmes de société. Mais ce ne sont pas ces plateformes qui sont toxiques par essence: c’est le modèle d’affaires sur lesquelles elles ont librement prospéré ces dernières décennies qui l'est.

Les réglementations en matière de protection des données ont échoué à traiter la question en profondeur. C’est même pire. Elles sont devenues des instruments qui renforcent ce système prédateur, en fixant des règles à une pratique pourtant incompatible avec la protection des libertés individuelles. Une donnée personnelle, prise de manière isolée, n’a aucune valeur. C’est son croisement avec d’autres informations qui lui donnent un intérêt. Dans ce contexte, on ne peut pas considérer qu’il y a des données moins sensibles que d’autres. Une information supplémentaire permet d’affiner la précision du profilage, et peut potentiellement révéler des caractéristiques qui n’ont pas été renseignées consciemment.

Ce modèle est déjà problématique dans des pays dits démocratiques. Il l’est plus encore dans des régimes autoritaires, où la surveillance s’insère à tous les niveaux. Le croisement des bases de données, le développement des technologies de reconnaissance biométriques (visage, voix, etc.) et la mise en réseau de tous nos appareils électroniques créent les conditions d’un contrôle des corps et des esprits inédits dans l’histoire de l’humanité. La coercition peut par ailleurs prendre des formes nouvelles, échappant en partie à la vigilance de ceux qui en sont la cible.

C’est contre cet extractivisme qu’il faut se battre. L’une des réponses possibles, c’est la reconnaissance d’un droit fondamental à l’intégrité numérique, sur le modèle de l’intégrité physique et psychique. Nos comportements sont informatisés. Notre vie est numérique avant même de venir au monde. Les données personnelles ne sont pas des marchandises, ce sont des éléments constitutifs de qui nous sommes. Elles doivent bénéficier d’un niveau de protection équivalent aux dimensions physiques et psychiques de nos vies.

Un tel droit fondamental rend par définition impossible la poursuite du modèle d’affaires basé sur la collecte et l’exploitation des données personnelles. Ce faisant, les plateformes telles qu’elles existent actuellement devraient trouver de nouveaux mécanismes de rentabilité. Un changement aussi profond rendrait possible l’émergence de modèles alternatifs. Les réseaux sociaux, moteurs de recherche et autres logiciels génératifs, jusqu’ici privatisés, pourraient devenir des ressources partagées et gérées collectivement. A la manière d’un Wikipedia, ils prendraient la forme de véritables communs numériques. La personnalisation des services, tant vantée par les entreprises qui nous l'imposent, disparaîtrait aussi. Fini les bulles de filtre algorithmiques, les publicités ciblées sexistes et compagnie. Ouf.
Une telle rupture n’est pas utopique. Il y a des précédents. L’abolition de l’esclavage et du travail des enfants ont mis un coup d’arrêt aux activités commerciales de ceux qui en avaient fait un modèle d’affaires. De nouvelles approches ont émergé, comme le salariat. Oh, loin de moi l’idée d’idéaliser ce qui a suivi. Mais ça reste malgré tout un progrès. En tout cas, c’est essentiel d’aborder les enjeux là où ils se situent réellement, plutôt que de rester en surface. Le risque avec les approches réglementaires esquissées en ce moment, c’est de cimenter encore plus le système qui est à l’origine de tous ces maux.

Ma recommandation
En 2018, le projet Maven a fait la une des journaux: des milliers d'employés de Google se sont mobilisés pour s'opposer au contrat liant leur employeur à l'armée américaine dans le but de fournir des technologies permettant d'automatiser des systèmes d'armement. Ce mouvement inédit n'a pas empêché le Pentagone de mener à bien son projet avec le soutien actif de la Silicon Valley. Dans Project Maven: A Marine Colonel, His Team, and the Dawn of AI Warfare (W. W. Norton, 2026), la journaliste américaine Katrina Manson raconte les origines de ce programme controversé qui a déplacé le centre de gravité de la décision dans le domaine des opérations militaires. Au cœur de cette démarche, un petit groupe de personnes convaincu de la nécessité de réduire au strict minimum l'implication humaine. Le livre vient de paraître aux Etats-Unis et n'a donc pas encore été traduit. J'ai commencé à le lire et compte bien en faire l'objet d'une prochaine infolettre, tant ce sujet est essentiel pour comprendre les enjeux autour de la mal nommée intelligence artificielle.

Agenda
Voici les événements publics auxquels je participerai ces prochaines semaines:
  • Mardi 31 mars à 19h: projection de Molly vs the Machines puis discussion autour des enjeux soulevés par le film. L'événement est organisé par le FIFDH. Inscription gratuite ici.
  • Samedi 2 mai à 14h: table ronde sur le thème des auteurices de BD face à l'IA générative dans le cadre du festival BDFil à Lausanne. Plus d'infos ici.
  • Jeudi 21 mai à 19h à Genève: table ronde sur les effets de l'intelligence artificielle dans le monde du travail, organisée par l'organisation Rezalliance. Informations et inscriptions ici.
  • Jeudi 28 mai à 17h: conférence durant laquelle je présenterai un «Plaidoyer pour une politique publique en faveur des communs numériques» à la Haute école Arc (Neuchâtel). Evènement organisé par le Sustainable & Open IT Lab. Inscription gratuite ici.

Lu ailleurs
Après les SMS, les messageries comme WhatsApp se sont largement imposées dans les communications privées. Malgré tout, certains internautes sont restés fidèles au courriel, attachés à l’écriture longue et à la profondeur. Le Monde
Merci de m'avoir lu, je vous donne rendez-vous pour la prochaine infolettre. En attendant, vos remarques sont les bienvenues. Vos suggestions de sujet aussi.
Grégoire Barbey
Se désabonner | Gestion de l’abonnement