#4

Les algorithmes tueront-ils notre attention ?

Avec Sonia Bressler, philosophe, spécialiste de la communication d'influence

Sonia Bressler est Docteure en philosophie et épistémologie, conseil en stratégie d’entreprise, éditrice et enseignante en communication d’influence.

Aujourd’hui, je la rencontre à Paris pour parler d’un thème particulièrement important dès lors qu’il s’agit de savoir à quoi on pense et comment on pense. Une chose dont bien souvent nous ne mesurons pas l’importance et l’impact dans notre vie. Une chose sur laquelle ceux qui veulent notre adhésion, notre vote, notre argent savent bien plus que nous ; nous, citoyens, consommateurs, employés ou même militants.

De quoi allons-nous parler dans cette émission en deux volets ? Eh bien de notre attention.

Icône donation

Garanti sans pub
Grâce à vos dons

Méta de Choc est gratuit, indépendant et sans publicité. Vous pouvez vous aussi le soutenir en faisant un don :

Ressources
Pour aller plus loin

Ressources Épisode #4.1
Les tentatives de captation depuis 100 ans

Articles :

Documentaire :

Livres :

  • La Cybernétique : Information et régulation dans le vivant et la machine, de Norbert Wiener (Seuil, 1948).

  • Cybernétique et société : L’usage humain des êtres humains, de Norbert Wiener (Seuil, 1950).

  • Propaganda : Comment manipuler l’opinion en démocratie, d’Edward Bernays (Zones, 1928).

  • L’économie de l’attention : Nouvel horizon du capitalisme, de Yves Citton (La découverte, 2014).

Autres :

Ressources Épisode #4.2
Les algorithmes au pouvoir

Articles :

Documentaire :

Suggestions
Vous pourriez aussi aimer ...

Échangeons
Commentaires

  1. Merci pour la qualité de cette émission ! je l’ai écoutée avec énormément d’intérêt, et je l’ai partagée largement. Pas évident car je ne suis pas sur Facebook, ni twitter, ni Instagram, ni … ni … mais quand on veut on peut. 

  2. Bonjour,
    Je suis passé des entretiens avec Odile Fillod à ceux-ci et j’avoue que ça fait un choc : beaucoup d’affirmations péremptoires, de généralités (travers que votre interlocutrice pointe très tôt). L’économie de la dopamine m’a fait tousser(S1-ep12 vers 35 mn à la louche).  C’est un détail mais attribuer l’attaque Ad hominem à Bernays, est au mieux approximatif. Citer La « psychologie des foules » (que le précédent aurait approfondi), ou le lien de parenté avec Anna Freud me laisse un peu songeur ( quelle pertinence ?) d’autant que votre interlocutrice souligne à peu près au même moment que les mots sont importants pour elle. D’un point de vue plus général : j’en suis à la fin de l’épisode  (le second je crois de cette série d’entretiens), on n’a pas parlé de ce qu’est un algorithme, les sources identifiées sont : Bernays et Wiener ce qui est tout de même un peu maigre (je n’ai pas pris le temps de faire des recherches approfondies sur Bernays, mais Propaganda me paraît une excellente illustration du « marketing » récursif : le marketing « marche » puisqu’il parvient à vous convaincre qu’il marche. Blague à part ce seul livre tient beaucoup du traité d’autopromotion en frôlant parfois dangereusement la rodomontade).  Ces entretiens ne sont pas inintéressantes, loin de là, mais je serais un médiocre sceptique (je le suis mais j’évite de trop l’afficher) si je ne venais pas un peu grogner. Que le léger « agacement » que j’ai éprouvé contraste à ce point à mes yeux avec l’ensemble de ce que j’ai écouté ici témoigne que j’avais de hautes attentes et que je les savais réalistes. Pour dire un peu moins les choses en mode connard : j’adore Meta de choc !  Et je trouve plutôt rassurant que tout ne me coule pas dans l’oreille comme un flot de miel constellé d’évidences.

    1. Bonjour, merci pour ce commentaire. Il est essentiel de clarifier des ressentis, des perceptions. Comment ne pas être déçu après avoir connu « l’acmé » avec un autre podcast ? Donc je vais essayer de clarifier quelques points (même si sous les podcasts vous trouverez quelques références). Tout d’abord, sur la définition de l’algorithme, nous nous entendrons sur le fait qu’il s’agisse d’un « ensemble des règles opératoires propres à un calcul ».  En tant que tel ces ensembles peuvent comporter des biais cognitifs (je renvoie ici à différents travaux de Dominique Cardon ou Aude Bernheim, etc.). Concernant la Psychologies des foules de Gustave Le Bon, ce livre est très important car évidemment il se situe à la fin d’une époque et montre en effet, comment une autre s’ouvre, avec cette question fondamentale de la foule. Qu’est-ce qu’une foule à la fin du XIX° siècle début du XX° ? Quelles sont les lois qui la régissent ? Et peut-on conduire sa volonté ? La révolution industrielle a besoin de ses réponses, pour en effet, faire naître un système social différent du précédent… En fait, le lien avec Bernays est plus complexe qu’il n’y paraît. Bernays reprend également les travaux de Ivy Ledbetter Lee qui a réussi la mise en pratique au début du XX° siècle de la rhétorique de la transparence pour conduire (et donc changer) une opinion publique. Là où je vous rejoins, c’est que le texte le plus intéressant de Bernays date de 1947 et s’appelle The Engineering of Consent. Là nous touchons au lien direct avec les travaux de Norbert Wiener et de sa cybernétique (notamment son petit essai intitulé Cybernétique et société l’usage humain des êtres humains). Sans doute devons-nous poser la question toute sceptique de voir que ses travaux relèvent d’une utopie de la communication puisqu’il se base sur l’idée d’un village planétaire (Breton, 2004). Il ne s’agit pas au fil d’une digression de la conversation de faire des sauts sans sens dans les textes de plusieurs penseurs, mais bien de lire le fil épistémologique d’une mode de la pensée systémique. Et c’est ce cadre que la question de l’attention révèle. Le fil de l’attention est une question « sceptique » particulièrement intéressante pour réfléchir à la mise en place de cette « société de contrôle » (expression tardive qui apparaît chez Foucault, puis Deleuze et Negri) mais qui est déjà là dans le livre de Bernays sur l’ingénierie du consentement, et sous une autre forme dans celui de Wiener. C’est ce cadre que je cherche à questionner, il aurait fallu évidemment citer Jacques Ellul et tant d’autres. Votre oreille attentive nous aura permis de poursuivre le fil de cette conversation qui n’est qu’un instant d’une pensée, à un moment donné… Mais il me semble urgent de questionner le cadre absolu de la notion de système (qui a priori quantifie) alors que nous sommes dans un monde de flux (ce qui relève davantage des qualia). Donc Merci de votre scepticisme !

      1. Je me réponds à moi même faute de pouvoir commenter le commentaire à mon commentaire 😉
        Merci Sonia de votre réponse à mon commentaire – réponse et non seulement réaction, dois-je dire, avec ce qu’il faut d’ironie. J’aimerai y revenir de façon un peu plus réfléchie.

    2. Un grand merci pour ce que vous faites. J’ai découvert méta de choc très recemment et j’ai franchement accroché.

      Concernant ce podcast, je me pose la question des données qu’ont réllement les GAFAM sur nous. L’invité semblait suggérer que tout était utilisé, mêmes nos appels, ce qui m’a pas mal surpris (vous aussi je crois). Je serais très intéressé de savoir à quel point cette info est vraie. Ça me paraît bizarre quand on pense au débit énorme que ça représenterait. Il faut aussi donner l’autorisation aux applications pour qu’elles utilisent le micro du smartphone. J’imagine que ça doit aussi sûrement être illégal.

      Je ne suis pas expert de la question (je suis ingénieur en développement logiciel) mais je ne pense pas que nos appels téléphoniques soient monitorés (en tout cas par les GAFAM). En revanche c’est logique que nos audios et messages Whatsapp soient utilisés. Je pense également que l’inférence est plus utilisé qu’on pense. Ils n’ont probablement pas autant d’info réelle qu’on pense mais sont capables d’inférer les données manquantes très précisement au moyen d’algorithmes spécialisés.

      Au final je n’ai aucune certitude et c’est pourquoi ça serait super intéressant de faire une emission avec des anciens ingénieurs/programmeurs des GAFAM histoire de voir ce qu’ils en disent (quelles infos/moyens sont réellement utilisés, etc…)

      1. Bonjour Brendan,

        Merci pour votre message et votre étonnement. Comment vous répondre de façon synthétique ? J’adore tellement ce sujet que je deviens intarissable….
        Tout d’abord sur les smartphones (d’une marque à la pomme) pour voir si une application vous observe, il y a une petite astuce : il faut se rendre dans confidentialité / service système / icône de la barre d’état.
        Autre expérience amusante sur le même objet, il arrive que des personnes vous envoient des messages puis les suppriment mais vous ne les avez pas lus. Alors essayez ceci : paramètres/partie de recherche vous indiquez « historique des notifications »… Et là surprise. Sinon pour les autres il y a une application « Restory-Reveal Deleted messages ».
        Au-delà de ces petites expériences qui font prendre conscience que toutes les traces numériques sont conservées. Comme ingénieur vous le savez parfaitement : on ne supprime pas une donnée, elle est stockée comme supprimée, elle donc toujours exploitable (même si c’est plus compliqué). Et il n’y a pas de petite information, toutes les informations valent de l’or pour des entreprises, voire même pour des états.

        Revenons aux révélations d’Edward Snwoden, et au logiciel PRISM. La NSA dispose d’un « droit » d’accès aux données des utilisateurs de nombreux services, comme ceux de Google, Youtube, Facebook, Apple, Yahoo ou encore Skype. Elle ne disposerait pas d’un accès direct aux serveurs de ces entreprises, mais ces dernières sont tenues de fournir toutes les informations qu’elle demande. Nous devrions donc nous demander ce que signifie « toutes les informations qu’elle demande ». Dans les révélations il y a également l’usage des données de connexion de tous les utilisateurs d’un certain jeu mais également des utilisateurs de certaines messageries.
        Là vous pourriez me répondre que ces sont des agences étatiques et que c’est pour la protection de leurs citoyens… (attention argument fallacieux, mais je vous laisse vous faire votre opinion).
        Je préfère vous renvoyer vers un témoignage plus récent de mars 2020 que l’on retrouve dans le Media « Comment Apple vous écoute en permanence » https://www.lemediatv.fr/emissions/2020/comment-apple-vous-ecoute-en-permanence-63EZI7ruTIqUPIhk7ZqPHA

        Vous avez soulevé le point le plus intéressant : celui de la légalité. Savez-vous définir où débute une communication internationale ? Car c’est l’enjeu. En fonction de là où vous situez la frontière entre communication nationale et internationale des législations différentes s’appliquent.

        Enfin si, vous ne connaissez pas, je vous invite à regarder l’excellent documentaire « Nothing to Hide » https://youtu.be/djbwzEIv7gE

        Alors évidemment ne sombrons pas dans la paranoïa, nous pouvons anonymiser une partie de nos données, et chercher à varier nos navigations, et utiliser des logiciels libres… En fait ce sont nos usages qui sont les plus durs à changer. Nos données sont toujours là, autour de nous, la question n’est donc pas tant dans leurs collectes mais bien des usages qui en sont faits. Pour cela que je réfléchis à une data-philosophie https://management-datascience.org/articles/13148/
        Au plaisir d’en discuter avec vous.

  3. Bonjour,
    Fait étonnant que je voulais partager ici: en me baladant sur la page wikipédia des écoles Steiner, j’y ai vu qu’aux États-Unis, des cadres de la silicon valley envoient leurs enfants dans des écoles Steiner-Waldorf pour leur éviter un contact précoce avec les technologies !
    Donc ces personnes auraient tout compris du problème de l’attention, mais pas de la situation dans ces écoles et du lien avec l’antropomorphisme: visiblement l’esprit critique n’a rien d’universel.

  4. quel dommage que votre intervenante ait aussi mal étudié et compris le travail de Bateson. Bateson n’a jamais voulu créer de méthode thérapeutique (il ne faisait même pas partie du projet et pensait qu’essayer de faire cela risquait de créer plus de pb que ça n’en résolvait), il était opposé à la publication de l’article sur la double contrainte (dont il pressentait aussi que ça allait créer des pb). 
    Ce que cherchait Bateson c’était à « comprendre la structure qui relie les etres entre eux ». L’étude de la communication humaine n’était qu’un petit aspect de son travail. Ces imprécisions laissent une trace de doute sur la qualité les propos suivants  de votre intervenante et sur la manière dont elle les justifie.

    1. Merci pour votre commentaire. Une précision sur la situation d’énonciation qui date un peu, il s’agit d’une conversation, l’idée ici était de partir de l’intuition de Bateson sur cette expérience de la double-contrainte mais de la proposer comme un cadre d’observation de ce qui se passe lorsque l’on utilise des outils numériques, certes formidables, mais qui malheureusement le sont beaucoup moins lorsque l’on regarde l’envers du décor. Rappelons ici que je ne prétends pas du tout que Bateson ait eu l’idée d’une thérapeuthique, j’évoque un élément, une de ces nombreuses fulgurances. 
      Avec le recul, ici proposé, il aurait été, sans doute, plus “audible” de partir de la théorie des systèmes proposée par Niklas Luhmann, nous sommes dans une logique de modélisation. Celle-ci peut vous/nous apparaître plaisante, je n’ai aucun jugement de cet ordre là, je note juste que dans ces systèmes de modélisations les systèmes prennent leur autonomie, et que cela peut-être un problème pour les individus/citoyens que nous sommes (là je renvoie vers l’article de Jean-Claude Sallaberry que je trouve très éclairant sur la question de l’autonomisation des systèmes –  ). 
      En revanche, j’ai toujours explicité que je me plaçais d’un point de vue éthique (pas moral donc), c’est-à-dire dans une tension vers le futur, une mise en abîme des conséquences potentielles, conséquences évoquées par mes observations auprès des étudiants. Mais j’y reviendrai dans votre deuxième commentaire. Vous comprendrez donc que j’ai juste une lecture, de Bateson, différente de la vôtre.

  5. Je complète mon commentaire précédent (à propos de Bateson), envoyé vite fait. Je viens de terminer l’écoute du 1er épisode. Et je reste assez perturbée et sceptique sur les propos de votre intervenante.

    Je n’ai toujours pas compris où elle veut en venir : fait-elle une critique des dérives du marketing ? Une critique du capitalisme ? Autre chose ?

    Ses propos portent sur un déficit d’attention mais elle n’a aucun moment défini de manière étayée en quoi il y avait un problème d’attention actuellement.
    Par exemple quand elle parle de son expérience sur le temps d’attention. Ce qu’elle constate serait « nouveau » mais par rapport à quoi et à quand ? Elle mentionne le travail d’une psy qui semble avoir constaté des écarts d’attention entre les générations mais elle ne précise pas si la psy en question a fait passer le test à des groupes similaires (ou aux mêmes personnes) depuis 10, 15 ou 20 ans – ce qui permettrait de mesurer l’évolution de l’attention à âge égal – ou si elle a juste fait passer le test à des personnes d’âge différent – ce qui donnerait juste une indication de l’évolution de l’attention en vieillissant.

    J’ai entendu beaucoup de jugements – « je pense que …  » – sur les « jeunes » en particulier et « les gens qui utilisent beaucoup les écrans » en général, appuyés uniquement sur des généralités : « les gens allument leur smartphone et regardent leurs messages dès le réveil ». Ah bon ? c’est peut-être vrai mais c’est dit avec beaucoup de généralisations nuisant à la crédibilité du propos.

    Il y a aussi énormément d’arguments basés implicitement sur la connivence . Un exemple parmi d’autres : quand Sonia Bressler cite McLuhan – « peu importe le message du moment qu’on a le medium » – il y a un sourire qu’on sent (et qui revient à plusieurs reprises dans l’épisode) et un silence qui, implicitement, disent « vous avez compris comme moi évidemment ! » qui laisse un sentiment d’incompréhension voire de manipulation assez génant pour moi.

    Bref, habituellement, vos invités ne cherchent pas à convaincre et parlent simplement de leur expérience (du moins c’est l’impression qu’ils donnent), ce qui permet de se questionner sur sa propre manière de penser. Par contre là, l’épisode me laisse le sentiment d’une volonté de convaincre un peu agaçante pour moi. Je n’ai pas compris en quoi cela éclairait ma méta-cognition (mis à part que ça m’incite à mieux réfléchir à la manière dont je m’exprime pour éviter les différents pièges que j’ai repérés ici !). Ni d’ailleurs le propos de Sonia Bressler. Je vais tenter d’écouter la 1e partie mais ça ne va pas être simple :-).

    Merci pour votre travail très intéressant sur ce podcast (malgré toutes mes critiques de ce jour :-))

    1. Merci pour votre deuxième commentaire. Je vais tenter ici de donner quelques réponses ou du moins hypothèses de réponses. Dans le cadre de la conversation, on utilise le “je pense” pour éviter un amalgame avec le “nous”… ou une forme neutre “on” qui indiquerait dans ce cas, une volonté manipulatoire (puisque le “on” est flou). Donc non, je n’implique que moi dans les pistes suggérées, évoquées au fil d’une conversation autour des questions soulevées par Élisabeth Feytit. 
      Premièrement, mes observations sont celles d’une personne qui donne des cours (en école supérieure) et qui adore faire des tests avec ses étudiants ce depuis 2011. Au départ, j’avais fait un essai (attention pas un essai universitaire, plutôt une tranche d’actualité) intitulé “Nouvelles Technologies, nouveaux publics”, dans lequel, je partais d’une expérience très drôle et très émouvante également. Dans un cours, nous étions en plein dans la période du Maccarthysme. Soudain, j’ai cette idée un peu étrange, j’en conviens, de poser la question de la définition de ce mot “maccarthysme”, une élève lève la main, je lui donne la parole et sa réponse “c’est la période où tous les gens se sont mis à chanter les chansons de Paul McCartney”. Personnellement, j’ai trouvé la réponse excellente, j’ai ri, j’ai même dit à cette étudiante que je la trouvais géniale ! Mais elle m’a demandé pourquoi je me moquais d’elle, car elle pensait que c’était la réponse. Je me suis excusée, en expliquant que sa réponse pouvait être une très bonne plaisanterie. Nous avons tous ri, et ensuite, j’ai expliqué pourquoi l’algorithme de Google complétait sa recherche de McCar.. par McCartney… Les algorithmes… Nous sommes alors ensemble entrer dans la compréhension des systèmes des algorithmes, leurs logiques… et il faut bien dire que nous devons le refaire, si ce n’est chaque année, très régulièrement pour comprendre, comment la structure algorithmique d’un moteur de recherche, ou encore d’un réseau social fonctionne. Comment, elle utilise dans le cadre d’organisations privées, notre attention. Comment elle peut façonner un univers de croyances, d’opinions… Je vous renvoie à deux essais d’Eric Sadin (le premier la “Siliconisation du monde”, et le deuxième  “l’ère de l’individu tyran ou la fin d’un monde commun”). Ou pour mieux comprendre l’évolution antérieure, il faut remonter aux recherches de Jacques Ellul, ma préférence va aux recherches de Zygmunt Bauman, ou pour plus de contemporanéité : Gilles Lipovetsky (« l’ère du vide notamment”).
      Sur la question de l’Attention, ma réponse du point temporel évoqué plus haut. À la suite de cette expérience de 2011, j’ai continué à noter des observations. Ensuite depuis trois ans, maintenant, comme évoqué, je fais passer aux étudiants, un test d’attention concentrée révisée soit le D2-R. En trois ans, on note un réel infléchissement de l’attention des étudiants (20-22 ans) de cette école supérieure.
      Ensuite, j’évoque, en effet, sans expliciter une sorte « d’’attention inconsciente »… Par habitude étymologique et définitionnelle, nous considérons l’attention comme un effort, une volonté, une concentration… Mais pas nécessairement en psychologie on peut évoquer : l’attention concentrée, diffusée, expectante, l’attention sensorielle, l’attention constituée… à nouveau, nous devons donc élargir notre vision de l’attention, par exemple, quand nous marchons dans la rue nos sens perçoivent bien plus que ce dont nous avons besoin de façon immédiate pour rejoindre l’endroit où nous devons nous rendre. Nous ne prêtons pas, par exemple, une attention particulière aux différents messages publicitaires que nous croisons, mais nous les percevons… 
      La question de l’attention disponible est très intéressante quand on sort du débat passionnel et qu’on pose comme vous la question d’une « attention inconsciente », certaines recherches sur l’attention essayent de questionner ces zones : je pense ici notamment à celle  de Christopher Chabris et Daniel Simons ( » The Invisible Gorilla ») ou encore aux recherches en psychologie cognitive sur l’impact des mots dans des énoncés qui  modifient notre comportement voir notamment Huguet, Brunot, Monteil (2001) « geometry versus drawing: Changing the meaning of the task as a means to change performance » (in Social Psychologie of Education, 4 p.219-234). 
      Pour conclure, sans doute avez-vous raison, je ne me suis pas assez livrée sur mes expériences personnelles (ce que je déteste faire), j’en prends note pour d’éventuels rendez-vous médiatiques.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.