|
Horreur mécanique
|
|
|
J'ai enfin achevé la lecture de Project Maven: A Marine Colonel, His Team, and the Dawn of AI Warfare de la journaliste Katrina Manson. Ce sera le thème de cette édition. Une lecture éprouvante...
|
Heureusement, je vais désormais pouvoir explorer d'autres horizons. J'ai commencé la lecture de l’œuvre de l'architecte et philosophe Paul Virilio, qui m'a été vivement recommandée par une personne qui m'épate toujours par la justesse de son regard et que j'estime beaucoup. Rien que le titre de cette anthologie m'attire: La fin du monde est un concept sans avenir. De l'espoir, même lorsque les lumières s'éteignent, voilà le remède.
|
Ah, si vous pensiez que votre consentement concernant les cookies a vraiment une quelconque utilité, bah en fait non. Si vous êtes surpris, sachez que je ne le suis pas.
|
«Une civilisation qui s'avère incapable de résoudre les problèmes que suscite son fonctionnement est une civilisation décadente.
Une civilisation qui choisit de fermer les yeux à ses problèmes les plus cruciaux est une civilisation atteinte.
Une civilisation qui ruse avec ses principes est une civilisation moribonde.»
|
|
Discours sur le colonialisme – Aimé Césaire
|
|
|
|
L'éditorial
|
|
|
Le 28 février 2026, les armées américaine et israélienne ont lancé l'opération «Fureur épique» contre l'Iran. En quelques heures, ce sont plus de 1000 frappes qui ont ciblé le pays. Le 4 mars, Israël affirmait avoir largué quelque 5000 bombes depuis le lancement des hostilités. Pour appréhender ces chiffres, il faut comprendre les étapes qui permettent d'identifier une cible et de déclencher une action en vue de l'éliminer. Les Américains appellent ce processus la «kill chain», ce qui a le mérite de la clarté.
|
Identifier une cible nécessite des renseignements, que ça soit un bâtiment ou un individu. Il faut d'abord la localiser. Il faut ensuite avoir une vue d'ensemble du lieu où elle se trouve. Est-elle à proximité de civils ou d'infrastructures critiques? Est-elle en mouvement? Sur quelles sources d'informations se base cette identification? Sont-elles fiables? Il faut évidemment prendre conscience qu'en temps réel, les situations évoluent très rapidement. Quelques minutes suffisent parfois à transformer un contexte qui semblait auparavant propice pour une frappe ciblée limitant au maximum les dommages collatéraux (c'est-à-dire de tuer des innocents, en fait). Le suivi de la cible est essentiel.
|
Le choix de l'arme est lui aussi important et dépend des informations à disposition. Il intervient lorsqu'une décision d'engagement a été prise. Puis vient l'engagement, c'est-à-dire le tir, et enfin l'évaluation de la situation qui permet de confirmer ou non l'élimination de la cible et de constater d'éventuels dommages collatéraux. Bref, ces différentes étapes prennent normalement du temps, cela va s'en dire. Alors comment expliquer que le nombre de frappes soit si important? Eh bien, c'est évidemment grâce à l'utilisation de techniques d'intelligence artificielle.
|
Dans son livre Project Maven: A Marine Colonel, His Team, and the Dawn of AI Warfare, la journaliste Katrina Manson s'est plongée dans les méandres du programme Maven. Elle raconte comment le colonel du corps des Marines Drew Cukor a convaincu le Pentagone d'adopter l'intelligence artificielle non seulement pour la collecte et l'analyse d'informations, mais aussi dans une certaine mesure pour l'armement. Le projet Maven est aujourd'hui largement diffusé au sein des différents organes de l'armée américaine, et son intrication profonde modifie les règles de décision qui prévalaient jusqu'ici.
|
Drew Cukor s'est tourné vers la technologie par frustration envers les manquements des services de renseignement du corps des Marines. Selon lui, l'être humain est le principal problème de la guerre. «Ils sont matériellement corruptibles, inefficaces, et ils se fatiguent», a-t-il glissé à Katrina Manson lors de l'un de leurs nombreux échanges ces dernières années.
|
Jusqu'à sa retraite, Drew Cukor a tout fait pour changer les mentalités au sein du Pentagone. Le projet Maven constituait à cet égard une sorte de cheval de Troie pour atteindre cet objectif. Au fur et à mesure, Drew Cukor a réussi à insuffler l'état d'esprit de la Silicon Valley auprès d'une partie de sa hiérarchie. Il avait conscience que l'intelligence artificielle ne serait pas immédiatement parfaite (voire qu'elle ne le serait jamais). A ses yeux, le Ministère américain de la défense devait fonctionner davantage comme une entreprise de logiciels plutôt que comme une usine d'armement.
|
Mais comment faire pour expérimenter en situation réelle afin d'apprendre des éventuelles erreurs pour améliorer des technologies dans un environnement aussi contraint que l'armée?Déployer des systèmes immatures, c'est prendre le risque de violer le droit international, en provoquant des pertes civiles.
|
Drew Cukor a pris son mal en patience. Katrina Manson raconte comment il a toujours eu pour ambition de déployer des techniques d'intelligence artificielle directement dans les systèmes d'armement. Mais il a toujours pris soin de cacher ses véritables intentions. Maven a officiellement démarré en 2017. Au départ, seules des acteurs commerciaux peu connus étaient associés au programme pour développer des algorithmes. Mais Drew Cukor rêvait d'embarquer des géants comme Google.
|
Il s'est tourné vers Google Cloud, qui n'a pas hésité à signer rapidement. Cette filiale était en effet à l'affut d'importants contrats pour accélérer son développement face à la concurrence féroce d'Amazon Web Services. Cette participation à Maven a été présentée publiquement comme un soutien à l'analyse d'images enregistrées par des drones. Il n'était même pas encore question d'automatiser des processus décisionnels. Ce partenariat a toutefois suscité l'ire des employés de Google et conduit plus de 4000 salariés à manifester contre cette décision. Cela reste à ce jour le mouvement de travailleurs le plus important qu'a connu la Silicon Valley. Google s'est finalement rétracté pour un temps.
|
Cet épisode n'a toutefois pas douché les espoirs de Drew Cukor. Il l'a plutôt convaincu de l'importance de conserver le plus grand secret quant au véritable périmètre de Maven. En parallèle, de premiers essais ont été menés en Somalie, puis en Afghanistan et en Irak. A cette époque, il s'agissait encore essentiellement de développer des systèmes capables de reconnaître un nombre restreint de cibles. Un objectif loin d'être évident, car chaque contexte a ses propres particularités. L'environnement de la Somalie n'est pas le même que celui de l'Afghanistan. Les Mavenites – le nom que les employés travaillant pour le programme se sont donnés – ont donc mis au point des processus pour être capable d'adapter les systèmes à de nouveaux contextes.
|
Il faut comprendre ici de quoi il retourne. Les logiciels ont besoin d'analyser une certaine quantité de données pour apprendre à déceler des motifs récurrents qui échappent en général à l’œil humain. De telles données doivent être lisibles pour la machine, c'est-à-dire qu'elles doivent être structurées et labellisées. Dans un premier temps, Drew Cukor a mené ce travail fastidieux en interne, car les données concernées sont classifiées. Mais il s'est vite rendu compte que confier une telle mission à des gens qui ne sont pas formés pour ce travail ne mène nulle part. Des données mal étiquetées peuvent provoquer des catastrophes en situation réelle, selon le principe du «garbage in, garbage out».
|
Maven s'est donc tourné vers des entreprises capables de réaliser cette labellisation de la bonne façon. Là encore, il a fallu ruser pour que cela soit possible avec les processus du Pentagone. Les données en question sont classifiées. Elles peuvent aussi mettre en scène des situations de violence propres à la guerre. Des garde-fous ont été mis en place pour collaborer avec des sociétés comme Scale AI sans pour autant dévoiler des informations protégées.
|
Drew Cukor s'est assez rapidement intéressé à Palantir, une société spécialisée dans l'analyse de données cofondée en 2003 par l'investisseur Peter Thiel. Elle doit son nom à un objet issu du Seigneur des Anneaux qui permet de voir par-delà le temps et l'espace, une référence assumée à l'ambition d'ubiquité rattaché à la mission que l'entreprise s'est donnée. Palantir est le résultat du traumatisme du 11-Septembre. Aux yeux de Peter Thiel, l'Etat s'est révélé incapable de garantir la sécurité des Etats-Unis. Le privé devait donc prendre le relai.
|
En 2019, quand Maven a commencé à discuter avec Palantir, l'entreprise traînait derrière elle une très mauvaise réputation. Peu de gens à l'intérieur de l'équipe du projet Maven voyait d'un bon œil un tel rapprochement. Mais cela n'a pas suffi à convaincre Drew Cukor de changer son fusil d'épaule. Palantir s'est rapidement imposé comme l'un des principaux fournisseurs de Maven. La société de Peter Thiel a notamment conçu Maven Smart System, une plateforme qui permet de connecter entre elles une grande variété de bases de données et de les présenter sous une interface unifiée.
|
Les milliers d'algorithmes utilisés par l'armée américaine pour analyser les flux de données tirés de leurs nombreux systèmes de surveillance (avec des capteurs qui quadrillent désormais même les mers et les océans) sont développés par différentes entreprises privées, parmi lesquelles Microsoft, Anduril ou encore Clarifai. Maven Smart System agrège ces informations, ainsi que celles issues d'autres sources comme les ondes électromagnétiques, les appels téléphoniques, etc. pour qu'elles puissent être visualisées en temps réel et que des actions puissent être réalisées très rapidement.
|
En juin 2025, c'est l'Alliance transatlantique qui s'est dotée de Maven Smart System, faisant pénétrer Palantir encore plus profondément dans les systèmes de défense européens. Aux Etats-Unis, le programme Maven a désormais pénétré tous les commandements de l'armée américaine. L'intelligence artificielle est perçue comme un moyen d'accélérer la prise de décision, souligne Katrina Manson. Cette approche n'est pas la seule possible. Les capacités d'analyse de ces systèmes pourraient servir de sources d'informations supplémentaires aux méthodes de renseignement traditionnelles, afin de réduire les dommages collatéraux.
|
Ces nouvelles capacités ont pu être testées en temps réel dès le début de l'invasion de l'Ukraine par la Russie en 2022. Dans les mois qui ont suivi le début de la guerre, les Etats-Unis fournissaient plus de 250 cibles par jour à leurs alliés ukrainiens. Une partie de l'équipe du programme Maven opérait d'ailleurs depuis l'Allemagne. Ce qui est fascinant avec l'ouvrage de Katrina Manson, c'est de constater à quel point cette transformation en profondeur de la façon dont les Etats-Unis mènent leurs opérations militaires repose sur des dispositifs rhétoriques binaires.
|
La machine est perçue comme plus efficace, car elle n'hésite pas, ni ne se fatigue. Son utilisation devrait logiquement réduire les pertes civiles. Et puis, si l'armée américaine se lance dans la guerre algorithmique, c'est avant tout pour faire face à la menace de la Chine. Ce sont peu ou prou les arguments mobilisés par les responsables du Pentagone sollicités par Katrina Manson tout au long de son enquête. La journaliste rappelle que l'actuel secrétaire à la Défense Pete Hegseth s'oppose aux règles d'engagement qui limitent la capacité de l'armée à multiplier les frappes. Il n'a donc que faire du droit international humanitaire, qui impose notamment aux belligérants de distinguer entre les parties au conflit et les civils et de limiter les dommages collatéraux.
|
Cette déshumanisation de la guerre, à travers l'automatisation des processus décisionnels, a pour effet de transformer la doctrine américaine. Il n'est plus question d'avoir toujours un «humain dans la boucle», mais de «garantir une supervision humaine appropriée». Un déplacement qui n'a rien d'anodin. Une manière de diluer la responsabilité pour maximiser l'engagement, qu'importe les conséquences.
|
Le déploiement massif de l'intelligence artificielle à des fins militaires ne se limite pas aux ennemis de l'extérieur. Katrina Manson rappelle le concept du «boomerang impérial» inventé par Aimé Césaire et repris ensuite par Hannah Arendt, c'est-à-dire le recours par les empires des techniques répressives développées pour contrôler les territoires et populations colonisés contre leurs propres citoyens (voir cette carte à ce sujet). Pour l'instant, la loi américaine empêche le recours à Maven Smart System à l'intérieur des frontières américaines. Mais la journaliste rappelle que la police de l'immigration (ICE) s'en sert notamment pour contrôler la frontière sud.
|
L'an prochain, Genève accueillera le sommet international sur l'intelligence artificielle. Même si les espoirs sont maigres, il faut tout faire pour que cet événement serve à obtenir des gages des grandes puissances sur l'utilisation de l'intelligence artificielle. Les Conventions de Genève sont menacées par cette course à l'armement qui défie l'entendement. Les droits humains sont aussi en danger, car ce qui se déploie sur le champ de bataille a de grand de chance de se frayer un chemin dans nos rues. Les entreprises qui fournissent les outils de l'armée sont les mêmes qui équipent nos appareils personnels désormais. C'est un changement majeur.
|
Il y a quelques semaines, les tensions entre Anthropic, l'éditeur du grand modèle de langage Claude, et l'administration Trump ont fait la une des médias. L'entreprise de Dario Amodei s'opposait à l'utilisation de son produit à des fins de surveillance domestique. Une belle opération de communication, même si cela a valu à Anthropic d'être écarté des fournisseurs du gouvernement américain. En attendant, l'éditeur de Claude a conclu en 2024 un partenariat avec Palantir pour équiper Maven Smart System de son grand modèle de langage. Un contrat qui ne semble pas avoir été dénoncé...
|
Ce n'est pas le propos du livre, mais Israël a son propre programme équivalent à Maven: Lavender. Dans l'émission Question du soir de France Culture, la chercheuse Laure de Roucy-Rochegonde estimait que la guerre à Gaza devrait être considéré comme le Hiroshima de l'IA.
|
|
Le 28 février, quand le feu et l'acier se sont abattus sur l'Iran, une école a été détruite. Cette frappe a coûté la vie à plus de 170 innocents, dont une majorité de jeunes filles. Pour l'heure, l'implication de l'intelligence artificielle n'a pas été formellement démontrée. Si tel devait être le cas, et vu ce que Katrina Manson raconte dans son ouvrage, il ne faudrait pas y voir là une «erreur». De tels drames sont inhérents à des programmes comme Maven. Lisez ce livre, et vous comprendrez pourquoi je ne peux raisonnablement pas voir dans l'IA «un outil», comme tant de personnes la qualifient aujourd'hui. C'est un projet politique. Et ce n'est pas le mien.
|
|
|
|
Mes recommandations
|
|
|
|
|
Le Monde d'hier de Stefan Zweig fait partie de ces lectures qui m'ont marqué. Lorsque je songe à l'actualité, cet ouvrage me revient inévitablement en mémoire. Au-delà ce livre en particulier, j'aime profondément cet auteur. Sa sensibilité me touche. J'ai aussi aimé les portraits qu'il a consacrés à des personnalités comme Joseph Fouché, Marie-Antoinette, Montaigne, Nietzsche (Le combat avec le démon), Sébastien Castellion (Conscience contre violence)... Dans Le Monde d'hier, Stefan Zweig parle de lui bien sûr, mais surtout des autres. Par son propre vécu, il essaie d'expliquer ce qui a conduit le monde à sombrer dans les ténèbres. Sommes-nous à nouveau dans ce clair-obscur d'où surgissent les monstres selon la formule d'Antonio Gramsci? Une question forcément située, car tant d'endroits dans le monde sont déjà plongés dans l'ombre...
|
|
|
|
Agenda
|
|
|
Voici les événements publics auxquels je participerai ces prochaines semaines:
|
- Samedi 25 avril à 14h15: Conférence «IA plus de psy?» en duo avec le psychologue Niels Weber pour les 20 ans de la Formation des associations romandes et tessinoise de psychologues (FARP).
- Mercredi 29 avril dès 18h30 à Thônex: modération d'une table-ronde portant sur le thème de la sécurité numérique en entreprises. L'événement est organisé par les communes des Trois Chênes. Plus d'infos ici.
- Samedi 2 mai à 14h: table ronde sur le thème des auteurices de BD face à l'IA générative dans le cadre du festival BDFil à Lausanne. Plus d'infos ici
- Jeudi 21 mai à 19h à Genève: table ronde sur les effets de l'intelligence artificielle dans le monde du travail, organisée par l'organisation Rezalliance. Informations et inscriptions ici.
- Jeudi 28 mai à 17h: conférence durant laquelle je présenterai un «Plaidoyer pour une politique publique en faveur des communs numériques» à la Haute école Arc (Neuchâtel). Evènement organisé par le Sustainable & Open IT Lab. Inscription gratuite ici.
|
|
|
Lu ailleurs
|
|
|
La traduction, un métier en pleine mutation
|
|
|
|
Besoin de nouvelles compétences, pression sur les prix, essor de la «postédition»: la percée de l’intelligence artificielle générative transforme le secteur de la traduction. Un contexte particulièrement difficile pour les personnes concernées. Le Monde
|
|
|
|
|
|
Merci de m'avoir lu, je vous donne rendez-vous pour la prochaine infolettre. En attendant, vos remarques sont les bienvenues. Vos suggestions de sujet aussi.
|
|
|
|
|
