Surveillance et manipulation des goûts et des opinions

Le « désenchantement de l’Internet » analysé récemment par Romain Badouard (2017) et Félix Tréguer (2019) concerne deux questions centrales pour l’espace public : celle du contrôle de l’information, de sa diffusion et de son instrumentalisation, et celle de la surveillance généralisée induite par la collecte de données massives. Les pratiques actuelles d’influence, de manipulation, de surveillance et de conditionnement se développent avec de nouveaux dispositifs techniques et dans un espace de circulation des messages en pleine mutation. Elles sont protéiformes et les frontières de plus en plus floues.

Un premier point central concerne l’exploitation à des fins de manipulation ciblée big data, cette masse de données disponible grâce à l’ensemble des traces numériques collectées, stockées et organisées par les entreprises du numérique. L’alliance du big data et de l’automatisation de la communication en ligne par les bots et l’intelligence artificielle rend possible en effet aujourd’hui une diffusion à la fois personnalisée et massive. Cet aspect représente une mutation majeure appelée à se développer, notamment avec la multiplication des objets connectés. Comme le souligne Philippe Vion-Dury, « en décuplant la quantité et la nature des données, c’est l’essence même des méthodes qui a changé, en permettant d’étudier avec une plus grande précision des phénomènes collectifs, mais surtout individuels. […] Des statistiques de masse et probabilités grossières, on passe à un tout autre régime : individualisé, précis, invisible et omniprésent, capable de refaçonner la société »1 – voire de (re)façonner l’homme si l’on en croit Evgeny Morozov, pour qui « les données sont un instrument de domination parce qu’une fois que nous les avons cédées, elles deviennent capables de déterminer notre avenir »2.

L’affaire Cambridge Analytica, la campagne pour le Brexit et les activités de la Russie ont braqué les projecteurs sur l’influence de la propagande computationnelle lors des campagnes électorales3, qui inquiète de plus en plus les gouvernements mais aussi les citoyens, et qui semble aujourd’hui faire peser une menace sérieuse sur la sphère informationnelle et l’équilibre des démocraties4. C’est un véritable « écosystème de la manipulation » qui se met en place, qui touche à tous les domaines de la vie : économique, politique, culturel, etc. Il s’avère donc essentiel de mieux la comprendre, d’en cerner les ressorts et de tenter d’en mesurer l’efficacité afin de poser clairement les enjeux, en toute lucidité mais sans non plus céder à la panique ou à la paranoïa. Cet objectif nécessite une approche interdisciplinaire, qui ne se limite pas à une analyse uniquement technique ou sociologique, mais qui prenne aussi en compte les aspects psychologiques, linguistiques, politiques, économiques, communicationnels, ou encore les implications juridiques et philosophiques. C’est pourquoi le groupe de travail entend faire dialoguer les disciplines pour permettre une approche et une compréhension globales.

Le groupe prévoit de s’interroger également sur la manipulation des goûts dans la sphère de la culture. La prescription algorithmique de masse et personnalisée y joue aujourd’hui un rôle fondamental, car elle a pénétré tous les domaines de production culturelle et artistique et tous les échelons, de la création à la réception. Les modalités, implications et conséquences de ce phénomène recoupent en partie ce qui a été évoqué plus haut : rôle des plateformes comme nouveaux intermédiaires prescripteurs, personnalisation des recommandations et ciblage en fonction des profils d’utilisateurs, polarisation… ce qui conduit à une restriction des espaces de liberté et de créativité par l’orientation à la fois des goûts (enfermement algorithmique en terrain connu), des valeurs culturelles (possibilité à terme pour les utilisateurs de personnaliser les règles de modération de leurs comptes de réseaux socionumériques par exemple) et de la production (évaluation à partir de l’analyse prédictive du succès des œuvres par les algorithmes). Se mettent en place également de nouvelles inégalités en ce qui concerne les capacités de diffusion des messages et des produits culturels selon les acteurs, selon leurs moyens financiers, leur popularité, leur connaissance des règles de diffusion et des critères des algorithmes, etc.

D’autres points mériteraient aussi une étude plus précise, tel celui du lien entre populisme et manipulation de l’opinion. Cet aspect est porteur de nombreux questionnements liés au développement d’Internet et de l’immédiateté que le web 2.0 a favorisée, avec les questions de crise de la démocratie et de la représentation, avec l’imaginaire social, économique et politique, et ce à l’échelle mondiale. On pense également au contrôle de l’Internet par les États non démocratiques et à la surveillance et à la manipulation de l’opinion dans des contextes dictatoriaux, autoritaires ou illibéraux. L’éventuelle diffusion de ces modèles dans les États démocratiques et les risques qui en découlent méritent aussi largement réflexion.

L’ensemble de ces travaux pourra servir de base à l’élaboration d’outils d’information et de prévention, dans une perspective citoyenne de formation à l’esprit critique, en partenariat avec les acteurs de l’éducation et les associations.

2021

Coordination : Camila Pérez Lagos, Université catholique de l’Ouest

Docteure en sciences de l’information et de la communication, Camila Pérez Lagos est maîtresse de conférences à l’Université catholique de l’Ouest Laval depuis septembre 2020. Après avoir étudié la communication numérique des théâtres financés par l’État en France et au Chili (recherche doctorale 2012-2016), elle s’intéresse depuis 2017 à la surveillance en régime numérique, compris comme un problème public émergent. Ces derniers travaux portent sur le scandale Cambridge Analytica et ses conséquences sur la façon dont l’opinion publique traite des questions relatives aux données personnelles et à la vie privée en ligne.

Séminaire
Le séminaire « Surveillance et manipulation des goûts et des opinions » est co-organisé par Camila Pérez Lagos et Julien Onno.

Projet Big Data
Cette enquête sur les pratiques des professionnels qui font usage des données en France a débuté en 2020. Le projet est coordonné par François Rioult (Université de Caen Normandie), Julien Onno (Université de Caen), Rania Aoun (Université du Québec à Montréal) et Camila Perez Lagos (Université catholique de l’Ouest).

Colloque « Infodémie »
Participation des membres du groupe au colloque international De l’information à l’infodémie en temps de crise sanitaire mondiale, 20-21 mai 2021, en ligne.

Journée d’étude « Surveillance »
Participation à l’organisation de la journée d’étude Technologies numériques et surveillance, 4 juin 2021, en ligne.

2019/20

Coordination : Elsa Jaubert, Université de Caen

Ancienne élève de l’École normale supérieure Lettres et sciences humaines et lauréate du Prix Pierre Grappin, Elsa Jaubert est maîtresse de conférences en études germaniques à l’Université de Caen. Après avoir longtemps étudié le théâtre allemand et français des Lumières, ses recherches se tournent aujourd’hui vers les phénomènes contemporains de propagande et de manipulation, avec un intérêt plus particulier pour les questions de modération des contenus et de liberté d’expression.

Séminaire Pandhemic
Ce groupe de travail a organisé à Caen un séminaire et des conférences ouvertes au public dans le cadre du projet interdisciplinaire Pandhemic.

TURFU Festival
Une soirée de recherche participative, intitulée « Épidémie d’informations », a été organisée à Caen le 7 octobre 2020.

Des ateliers de fact-checking se sont aussi déroulés le 8 octobre 2020 pendant le TURFU festival au Dôme à Caen.

Échanges avec le groupe de travail Plateformes et risques algorithmiques
Sihem Amer-Yahia, Christophe Benavent, Bruno Descamps, Antoine Henry, Maryvonne Holzem, Elsa Jaubert, Maxime Lambrecht, Daniel Le Métayer, Maël Pégny, Franck Rebillard, Serge Surin, Alexis Tsoukias, « Plateformes numériques, algorithmes et société : explicabilité et effets sur PandHeMic », Synthèse des échanges entre les groupes de travail Plateformes et risque algorithmique et Surveillance et manipulation, 31 octobre 2019, en ligne.

Notes

1 Philippe VION-DURY, La nouvelle servitude volontaire : enquête sur le projet politique de la Silicon Valley, FYP, 2016, p. 21.

2 Evgeny MOROZOV, Le mirage numérique. Pour une politique du Big Data, Les Prairies ordinaires, 2015, p. 16.

3 Voir les travaux actuels du Computational Propaganda Research Project, University of Oxford.

4 Le Comité des ministres du Conseil de l’Europe a adopté le 13 février 2019 une Déclaration sur les capacités de manipulation des processus algorithmiques, alertant sur le risque que représente pour les sociétés démocratiques le fait qu’il soit possible d’employer les processus algorithmiques et le microciblage pour manipuler et contrôler non seulement les choix économiques, mais aussi les comportements sociaux et politiques.