|
Emotions binaires
|
|
|
Guillaume Erner a-t-il pété une durite? Il a reçu le néoréactionnaire Curtis Yarvin en majesté dans son émission sur France Culture mercredi. Ce même Curtis Yarvin qui reconnaissait dans un texte fleuve publié fin décembre la dimension fasciste de son projet politique... Alors certes, l'animateur des Matins a proposé au chercheur Arnaud Miranda de commenter l'intervention de Curtis Yarvin dans la foulée, mais il y a dans cette séquence une forme d'émerveillement malsain que la mise en scène peine à occulter.
|
Il y a quelques semaines, c'est l'entrepreneur américain Peter Thiel qui a donné une conférence à l'Académie des sciences morales et politiques. L'intérêt manifesté par ces personnalités pour la France ne doit rien au hasard, et c'est regrettable qu'ils trouvent si facilement des relais pour diffuser leurs idées rances. Sur ce sujet, je vous recommande vivement la lecture de ce texte signé par Rayna Stamboliyska et Olivier Alexandre. Il pose les questions essentielles autour de la fascination exercée par Curtis Yarvin et la galaxie néoréactionnaire.
|
Ouais, cette histoire me met mal à l'aise... Je vais justement vous parler de ça. Enfin, pas de mes états d'âme hein. Plutôt de ces logiciels qui promettent de moduler nos émotions projetées et partagées et de fragmenter un peu plus nos sociétés.
|
Je vous rappelle aussi la table ronde qui aura lieu mardi au Bureau culturel genevois que je modérerai à propos des effets de l'intelligence artificielle générative sur les métiers créatifs. La discussion promet d'être intéressante et il se pourrait bien qu'une proposition concrète émerge... mais je n'en dis pas plus.
|
«Faites rhizome et pas racine, ne plantez jamais! Ne semez pas, piquez! Ne soyez pas un ni multiple, soyez des multiplicités!»
|
Milles Plateaux — Gilles Deleuze et Félix Guattari
|
|
|
|
L'éditorial
|
|
|
«Imaginons que demain, au-delà des IA conversationnelles intégrées à nos smartphones, nous disposions de filtres émotionnels transformant nos expressions en temps réel. Lors d’appels vidéo, un dispositif adoucirait automatiquement les moments où notre voix trahit de l’irritation, tandis qu’un filtre «sourire» amplifierait subtilement notre expression faciale. En réunion de travail, nous pourrions activer un mode «confiance» stabilisant les hésitations de notre voix. Sur TikTok, un filtre vocal (...) pourrait devenir viral et rendre les voix particulièrement mignonnes ou attendrissantes, menant toute une génération d’adolescents à communiquer avec cette même intonation artificielle. Ces technologies existent déjà, sous forme de prototypes ou dans des versions encore peu diffusées.»
|
La mise en garde de la neuroscientifique Nadia Guerouaou dans son livre Notre cerveau sous influence, Comment les IA génératives modèlent nos émotions et façonnent nos sociétés (Ed. Eyrolles, 2026) doit être prise très au sérieux. Le scénario qu'elle dessine dans cet extrait ne relève pas d'un épisode de la série à succès Black Mirror. Des logiciels pour filtrer les voix arrivent déjà sur le marché. Le géant japonais Softbank a développé un système de «suppression des émotions» pour les appels téléphoniques. Lorsque le logiciel détecte un ton agressif ou de la colère, il l'adoucit automatiquement. Une manière de réduire le stress des opérateurs et opératrices des centres d'appel, et donc de les rendre plus productifs...
|
Les agents conversationnels permettent déjà de générer du texte sur la base d'indications émotionnelles. Il suffit de leur demander de retoucher un texte pour lui donner une tonalité plus enjouée, ou triste, etc. Les générateurs de voix proposent aussi de telles possibilités. Nadia Guerouaou propose d'anticiper les conséquences que pourraient avoir de telles fonctionnalités sur nos sociétés, en tenant compte de certains phénomènes récents comme le recours accru aux messages vocaux sur des messageries comme WhatsApp.
|
La chercheuse estime que ce mode de communication est privilégié parce qu'il permet de transmettre à son interlocuteur une large variété d'émotions par la voix. L'asymétrie des messages permet, contrairement à un appel, de contrôler cette dimension émotionnelle. Avec des fonctionnalités qui permettraient de moduler les émotions projetées, nous pourrions alors créer une dissociation avec nos émotions incarnées, et favoriser les erreurs d'interprétation. «C’est en percevant l’émotion d’autrui que nous adaptons intuitivement notre propre attitude, rappelle Nadia Guerouaou. En nous exposant à des signaux biaisés, nous risquons d’altérer cette régulation naturelle et de rendre nos échanges moins justes, car déconnectés de l’état réel de nos interlocuteurs.»
|
Les émotions s'apprennent, elles ne sont pas innées. Elles sont aussi situées culturellement et historiquement. La chercheuse s'inquiète des conséquences qu'une généralisation des filtres émotionnels pourrait avoir sur les jeunes de 8 à 25 ans, en particulier sur la formation de leurs modèles cognitifs. Leur socialisation affective se construit déjà aujourd'hui dans des environnements numériques. Une exposition constante à des environnements émotionnels manipulés risque d'influencer l'apprentissage de la catégorisation des expressions. Il en résulterait un appauvrissement de la diversité de ces catégories que les adolescents mobilisent pour donner sens à leurs expériences et à celles des autres. Et comme les émotions jouent un rôle au niveau social, nous pouvons nous attendre à des effets en cascade sur les relations interpersonnelles.
|
«Cette fragmentation des environnements émotionnels soulève une question centrale: si les expériences affectives se dispersent en bulles individuelles, les émotions pourront-elles encore jouer leur rôle de ciment social?», se demande la chercheuse. Je crains pour ma part que tout cela renforce encore le phénomène d'isolement auquel nous assistons. Les émotions ne sont pas seulement un mode de communication, elles sont incarnées, vécues, ressenties. J'en parlais dans un précédent texte, nous assistons depuis plusieurs années à un délitement des organisations sociales et à un rétrécissement de nos espaces de rencontre.
|
Loin de nous connecter, ces dispositifs techniques nous éloignent les uns des autres. Ils deviennent des intermédiaires entre nous et nos expériences sensibles. «Avec les IA génératives, le masque social est de silicium, appliqué automatiquement, sans conscience des règles qu’il impose ni des normes qu’il véhicule, écrit Nadia Guerouaou. Car ces technologies ne sont ni de simples outils, ni neutres. Plus qu’exprimer nos émotions à notre place, elles influent sur ce qui nous touche et nous indigne et ainsi reconfigurent progressivement nos valeurs, notre perception du monde, des autres et de nous-mêmes.»
|
Je vous fais grâce évidemment de tout le potentiel raciste et suprémaciste de tels logiciels. Gommer les accents, standardiser le débit de parole et les expressions... Il n'y a aucune raison de se réjouir de voir débarquer ces systèmes. Nadia Guerouaou est pourtant convaincue qu'ils trouveront rapidement des usages massifs. «Le contexte culturel dans lequel nous évoluons est marqué par la valorisation du contrôle de soi. Maîtriser ses émotions, ne pas se laisser «déborder», est considéré comme une preuve de maturité et une compétence relationnelle attendue. Émotions et contrôle sont les deux enjeux fondamentaux du paramétrage algorithmique de nos émotions. Partant, le filtre vocal pourrait non seulement être accepté, mais rapidement adopté dans nos échanges en ligne de plus en plus fréquents.»
|
|
Ce filtrage des émotions pourrait être une étape supplémentaire dans la construction de ce grand édifice de contrôle social qu'est la mal nommée «révolution numérique». Mais si vous me lisez régulièrement, vous devez savoir que je suis un infatigable optimiste. Ces outils ne sont pas encore déployés à large échelle. L'avenir n'est pas écrit. Nous pouvons encore empêcher l'avènement de cette dystopie. Des travaux comme ceux de Nadia Guerouaou contribuent à nous éclairer sur les futurs possibles et nous posent une question essentielle: est-ce vraiment ça que nous voulons?
|
|
|
|
Ma recommandation
|
|
|
|
|
Le cerveau est partout. Tout le monde le convoque pour expliquer des phénomènes complexes. Certains prétendent même en connaître le fonctionnement au point de pouvoir le décoder. Le secteur de l'intelligence artificielle s'appuie lui aussi sur le vocabulaire des neurosciences. Autant de raisons de lire Neuromania (Ed. Allary, 2024) d'Albert Moukheiber. L'auteur, neuroscientifique et psychologue clinicien, déconstruit les mythes associés au cerveau. Un excellent travail de vulgarisation qui permet de prendre un peu de distance avec certains discours très en vogue... Oui, les neurosciences ont beaucoup progressé ces dernières années, mais nous sommes encore loin d'avoir tout compris. Albert Moukheiber rappelle que cette discipline est encore en phase pré-paradigmatique. Aucun consensus n'existe pour expliquer la façon dont notre cerveau fonctionne réellement. Il y a des hypothèses, des modèles... et de vastes débats, passionnants, qui interrogent jusqu'à nos certitudes les plus ancrées culturellement. Si ça vous intéresse, j'avais reçu Albert Moukheiber l'an dernier dans IA qu'à m'expliquer.
|
|
|
|
Agenda
|
|
|
Voici les événements auxquels je participerai ces prochaines semaines (des dates supplémentaires en avril et en mai devraient être confirmées sous peu):
|
- Mardi 24 mars à 19h: table ronde «Création & Phob.IA» organisée par le Bureau culturel genevois. Nous tenterons de répondre à cette vaste question: l’IA générative, menace ou opportunité pour la création? Les informations détaillées sont disponibles ici.
- Mardi 31 mars à 19h: projection de Molly vs the Machines puis discussion autour des enjeux soulevés par le film. L'événement est organisé par le FIFDH. Inscription gratuite ici.
- Jeudi 28 mai à 17h: conférence durant laquelle je présenterai un «Plaidoyer pour une politique publique en faveur des communs numériques» à la Haute école Arc (Neuchâtel). Evènement organisé par le Sustainable & Open IT Lab. Inscription gratuite ici.
|
|
|
Lu ailleurs
|
|
|
|
|
La tech a parié sur la guerre et ça commence à payer...
|
|
|
|
Après des années de critiques et de risques financiers, Palantir, Anthropic et de petites start-ups récoltent aujourd’hui les fruits de leurs investissements dans les technologies de défense. Ce n'est pas une bonne nouvelle. New York Times
|
|
|
|
|
|
Les promesses d’emploi non tenues des centres de données
|
|
|
|
Vantés par leurs promoteurs comme de puissants outils de lutte contre le chômage, les data centers, dont l’implantation est particulièrement forte en Seine-Saint-Denis, ne concrétisent pas ces engagements. Mediapart
|
|
|
|
|
|
Merci de m'avoir lu, je vous donne rendez-vous pour la prochaine infolettre. En attendant, vos remarques sont les bienvenues. Vos suggestions de sujet aussi.
|
|
|
|
|
