Plateformes et risques algorithmiques

2020/21

À l’issue des travaux de la première année, ce groupe de travail propose désormais deux axes de recherche.

Consommation

Coordination : Béatrice Roussillon (Université Grenoble Alpes), Juliette Sénéchal (Université de Lille), Oana Goga (LIG, CNRS)

Le premier est centré sur l’impact des plateformes et des risques algorithmiques à l’égard des consommateurs, des échanges de consommation et du droit de la consommation, recherche qui a vocation à mobiliser informaticiens, économistes, gestionnaires, juristes.

La nouvelle équipe continue l’action PLATFORM, initiée par le GDR Madics et le GDR Internet, IA et Société, et qui porte sur l’impact sociétal des algorithmes décisionnels.

Mots-clés : algorithmes décisionnels, modélisation des préférences, analyse expérimentale du comportement décisionnel, choix social, fouille de données.

Justice

Coordination : Amélie Favreau (Université Grenoble Alpes), Yannick Gabuthy (Université de Lorraine)

Le deuxième axe de recherche porte sur la justice, et mobilise informaticiens, juristes et philosophes.

En vue d’améliorer l’efficacité de la justice, des plateformes utilisant des algorithmes sont en cours de développement et s’intègrent dans un programme de réforme de la justice pour la rendre plus prévisible (ex. : plateforme visant l’anonymisation des décisions, plateformes mobilisant des outils de l’intelligence artificielle sur les données de la jurisprudence judiciaire et administrative).

L’objectif est d’étudier l’impact de ces plateformes à un niveau individuel (justiciable) et institutionnel (institutions de justice, notion même de justice étatique et place de l’informatique).

Quelques pistes de recherche au sein de l’axe : standardisation de la justice, déjudiciarisation, robotisation de la justice (justice par la blockchain), marginalisation du rôle des avocats et/ou rôle des juges, outil informatiques et études récentes sur la barémisation de la justice, prévisibilité des décisions de justice et sécurité juridique ; open data des décisions de justice, création d’algorithmes traitant la masse de décisions (référentiels), pouvoir d’appréciation des juges, finalité de la mécanique de rationalisation et d’informatisation de la justice.

2019/20

Coordination : Sihem Amer-Yahia (LIG, CNRS), Amélie Favreau (Université Grenoble Alpes), Juliette Sénéchal (Université de Lille)

Les plateformes numériques et leur rôle dans la société occupent les médias et les instances gouvernantes​. C’est à travers les algorithmes que les différents acteurs humains qui gravitent autour de ces plateformes produisent et consomment les données. Les algorithmes, de classification, de sélection, et de tri, soulèvent la question de la ​discrimination algorithmique​. Les ​données publiques, privées, personnelles, anonymisées/pseudo-anonymisées, posent la question de leur protection​. Les humains, artistes, auteurs, créateurs de contenu, développeurs de langages, développeurs de plateformes, développeurs d’applications, utilisateurs consommateurs, et acteurs publics et privés, soulèvent la question de la responsabilité​.

Ce groupe de travail a initié une action inter-GDR, intitulée PLATFORM, à l’intersection du GDR Madics (INS2I) et du GDR Internet, IA et Société (INSHS, INS2I), et qui porte sur l’impact sociétal des algorithmes décisionnels.

Le projet réunit des économistes, des informaticiens et des juristes afin de développer une méthodologie de travail entre d’une part, des chercheurs en marketing, économie comportementale et droit, et d’autre part, des chercheurs en techniques algorithmiques.

Cette action a été pilotée par Sihem Amer-Yahia (CNRS, Université Grenoble Alpes, LIG) et Christophe Benavent (professeur en marketing, Université Paris Nanterre) en 2020.

→ Action PLATFORM

Publications et documents de travail

Articles web de presse
Publications scientifiques

Sihem Amer-Yahia, Juliette Sénéchal et Amélie Favreau, Faut-il avoir peur des algorithmes ? Ouvrage Humain et Numérique en Interaction, Éditions CNRS 2020 (à paraître).

Márcio Silva, Lucas Santos de Oliveira, Athanasios Andreou, Pedro Olmo Vaz de Melo, Oana Goga, Fabrício Benevenuto, “Facebook Ads Monitor: An Independent Auditing System for Political Ads on Facebook”, The Web Conference Taipei 2020. Honorable Mention Award. Full text (pdf)

Penelope Buckley, Béatrice Roussillon, Sabrina Teyssier, “Gain and Loss framing of incentives: encouraging individuals to provide a repetitive effort for small rewards”, 10th International Conference of the French Association of Experimental Economics (ASFEE), Université de Toulouse, juin 2019.

Idir Benouaret, Sihem Amer-Yahia, Senjuti Basu Roy, Christiane Kamdem Kengne, Jalil Chagraoui, “Enabling Decision Support Through Ranking and Summarization of Association Rules for TOTAL Customers”, Trans. Large Scale Data Knowl. Centered Syst. 44, p. 160-193, 2020. Abstract

Sihem Amer-Yahia, Shady Elbassuoni, Ahmad Ghizzawi, Ria Mae Borromeo, Émilie Hoareau, Philippe Mulhem, “Fairness in Online Jobs: A Case Study on TaskRabbit and Google”, EDBT 2020, p. 510-521. Full text (Open proceedings)

Shady Elbassuoni, Sihem Amer-Yahia, Ahmad Ghizzawi, “Fairness of Scoring in Online Job Marketplaces”, ACM Tansactions in Data Science, 2020 (to appear).

Shady Elbassuoni, Sihem Amer-Yahia, Christine El Atie, Ahmad Ghizzawi, Bilel Oualha, “Exploring Fairness of Ranking in Online Job Marketplaces”, EDBT 2019, p. 646-649. Full text (Hal)

Idir Benouaret, Sihem Amer-Yahia, Christiane Kamdem Kengne, Jalil Chagraoui, “A Bi-Objective Approach for Product Recommendations”, BigData 2019, p. 2159-2168. Abstract

Idir Benouaret, Sihem Amer-Yahia, Senjuti Basu Roy, “An Efficient Greedy Algorithm for Sequence Recommendation”, DEXA (1) 2019, p. 314-326. Abstract

Ahmad Ghizzawi, Julien Marinescu, Shady Elbassuoni, Sihem Amer-Yahia, Gilles Bisson, “FaiRank: An Interactive System to Explore Fairness of Ranking in Online Job Marketplaces”, EDBT 2019, p. 582-585. Full text (Open proceedings)

Giovanna Fancello, Alexis Tsoukiàs, “Learning urban capabilities from citizens’ behaviour for urban planning”, Socio-Economic Planning Sciences (to appear).

Antoine Richard, Brice Mayag, François Talbot, Alexis Tsoukiàs, Yves Meinar, “What does it mean to provide decision support to a responsible and competent expert? The case of diagnostic decision support systems”, EURO Journal on Decision Processes, Published 12 August 2020. Abstract

Giovanna Fancelloa, Tanja Congiu, Alexis Tsoukiàs, “Mapping Walkability: a subjective value theory approach”, Socio-Economic Planning Sciences. Available online 24 July 2020. Abstract

Alberto Colorni, Alexis Tsoukiàs, “Designing Alternatives in Decision Problems”, Journal of Multi-Criteria Decision Analysis, First published 30 June 2020. Abstract / Preliminary version

Irene Pluchinotta, Raffaele Giordano, Dimitrios Zikos, Tobias Krueger, Alexis Tsoukiàs, “Integrating Problem Structuring Methods and Concept-Knowledge Theory for Advanced Policy Design: lessons from a case study in Cyprus”, Journal of Comparative Policy Analysis. Published online 14 May 2020. Abstract / Preliminary version

Oussama Raboun, Eric Chojnacki, Céline Duffa, David Ríos Insua, Alexis Tsoukiàs, “Spatial risk assessment in case of multiple nuclear release scenarios”, Socio-Economic Planning Sciences, vol. 70, 2020. Abstract / Preliminary version.

Raffaele Giordano, Irene Pluchinotta, Dimitrios Zikos, Tobias Krueger, Alexis Tsoukiàs, “How to use Ambiguity in Problem Framing for Enabling Divergent Thinking: Integrating Problem Structuring Methods and Concept-Knowledge Theory”, in Leroy White, Martin Kunc, Katharina Burger, Jonathan Malpass (eds.), Behavioural Operational Research: a capabilities approach, Palgrave MacMillan, p. 93-117, 2020. Abstract / Preliminary version

Amélie Favreau, « Blockchain et droit des artistes », L’Observatoire. La revue des politiques culturelles, no 55, Le droit d’auteur sous toutes ces facettes, Hiver 2020, p. 98. Résumé

Amélie Favreau, « Régulation par la Blockchain », in Raphaël Eckert, Franck Macrez et Julien Mouchette, L’État au défi des blockchains. Régulations et usages publics de la blockchain, à paraître RFPI,  2020. 

Amélie Favreau, « La blockchain et la mise en œuvre des droits de propriété intellectuelle », in Bérengère Gleize, Agnès Maffre Baugé, La propriété intellectuelle renouvelée par le numérique, Dalloz, Thèmes et Commentaires, 2020. Présentation de l’ouvrage

Amélie Favreau, « L’horodatage électronique dans la récente loi italienne sur la blockchain : la question essentielle du temps sur la blockchain », Panorama droit du numérique, RLDC, no 178, février 2020, p. 37.

Amélie Favreau, Nicolas Barbaroux, Richard Baron, « Blockchain et finance. Approche plurisdisciplinaire », Encyclopédie Dalloz IP/IT, 2020.

présentations, notes et comptes rendus

Sihem Amer-Yahia, Christophe Benavent, Bruno Descamps, Antoine Henry, Maryvonne Holzem, Elsa Jaubert, Maxime Lambrecht, Daniel Le Métayer, Maël Pégny, Franck Rebillard, Serge Surin, Alexis Tsoukias, « Plateformes numériques, algorithmes et société : explicabilité et effets sur PandHeMic », Synthèse des échanges entre les groupes de travail Plateformes et risque algorithmique et Surveillance et manipulation, 31 octobre 2019, en ligne.