Recommandation algorithmique et nudging

III.Le nudge numérique et ses défis normatifs

12

Les scénarios présentés plus haut peuvent être abordés comme

des défis de nudging numérique^[20]. L’objectif général de ce chapitre s’apparente à un diagnostic ; les pistes de solutions seront discutées dans les chapitres suivants sous forme de composantes du modèle de légitimité. Le chapitre est organisé en trois sections : une définition du nudge numérique, une p r é s e n t a t i o n d e s d é f i s l i é s a u p a t e r n a l i s m e e t a u perfectionnisme et une discussion des risques de manipulation.

1.Une définition du nudge numérique

13

Un nudge peut être défini comme une intervention incitative qui amène de manière prévisible les individus vers la réalisation d’un set d’options particulières, sans toutefois

éliminer des options alternatives^[21]. De manière spécifique, un nudge numérique est une intervention dans la manière dont une interface numérique, comme un site web ou une application

mobile, est organisée pour encourager certains choix^[22].

Trois éléments de cette définition sont particulièrement p e r t i n e n t s p o u r l e c a s d u p r o j e t m e n é a v e c l a R T S . Premièrement, le nudge s’inscrit dans une réflexion sur l’architecture de choix mise en place dans un contexte spécifique. Dans le projet, ce choix porte avant tout sur la manière dont les contenus sont présentés aux utilisateurs (quels contenus selon quel ordre). Un choix architectural est nécessaire. En effet, il n’existe pas de manière « neutre » de présenter ces contenus. Même un principe d’apparence aussi simple que « le contenu le plus récent est montré en premier »

relève à ce titre d’un choix architectural visant à organiser la présentation des contenus.

15

Deuxièmement, l’inévitabilité d’un choix architectural ne rend pas ce choix acceptable ou inacceptable en soi. Elle ne dit rien de la qualité normative de ce choix, mais souligne simplement qu’un choix est nécessaire. Cette question du choix ouvre alors la question de sa justifiabilité à la lumière des principes retenus comme pertinents.

16

Troisièmement, le nudge est, par définition, non-contraignant au sens où il ne supprime pas certaines options. Il ne s’agit donc pas pour la RTS de savoir quels contenus sont mis à disposition sur la plateforme et lesquels seraient, par hypothèse, supprimés ou cachés aux utilisateurs. Cette pratique dépasserait le cadre du nudge en supprimant certains

contenus^[23].

17

Afin de bien faire apparaitre les défis spécifiques de la RTS, il est utile de créer un contraste en considérant les plateformes de réseaux sociaux à vocation commerciale. Ces plateformes poursuivent un objectif commercial et les — Seite 11 —différents choix architecturaux opérés vont, in fine, répondre de cet objectif commercial. Ainsi, le choix de privilégier les contenus à fort potentiel clivant via un système de recommandation algorithmique participe d’un objectif visant à mobiliser les affects des utilisateurs pour les amener à réagir à ce contenu (maximisation de l’engagement avec le contenu et donc augmentation des revenus publicitaires). On peut discuter si cette stratégie est celle qui, empiriquement, permet à l’entreprise de réaliser ses objectifs commerciaux, mais notre débat est ailleurs. Il vise à mettre en évidence le lien entre les choix architecturaux définis comme des nudges

et la poursuite d’un objectif commercial^[24]. La situation des médias de service public est différente. Toutefois, nous verrons qu’un choix architectural déploie des effets, dont certains sont négatifs. Comme expliqué dans la partie dédiée aux risques agrégés, identifier ces effets négatifs fait partie intégrante d’une évaluation éthique des choix architecturaux envisagés.

2.Paternalisme et perfectionnisme

18

Etant donnée cette définition du nudge numérique, cette section diagnostique plus précisément les défis liés au paternalisme et au perfectionnisme.

19

Premièrement, le défi du paternalisme porte sur les enjeux liés à la capacité des utilisateurs de choisir par eux-mêmes ce qui est souhaitable. Une intervention est paternaliste lorsqu’elle cherche à proposer un choix pour les utilisateurs en vue de réaliser un objectif décrit comme souhaitable pour eux, et ce même si ces utilisateurs n’y consentent pas, ou le refusent. Comme proposé par G. Dworkin, le paternalisme peut ainsi être défini comme « une l’ingérence d’un État ou d’un individu dans la vie d’une autre personne, contre sa volonté, et défendue ou motivée par l’idée que la personne concernée — Seite 12 —sera mieux lotie ou protégée »^[25].

20

Les débats éthiques autour du paternalisme partagent l’hypothèse que le problème du paternalisme se joue dans la tension avec la liberté (respectivement l’autonomie, selon les conceptions spécifiques défendues). La difficulté principale est donc de clarifier à partir de quel seuil une interférence devient une menace pour la liberté individuelle. Dans la littérature sur la position de Thaler et Sunstein en matière de nudge, ce défi est traité comme une discussion autour de la

possibilité d’un « paternalisme libertarien »^[26]. Selon Thaler et Sunstein, l’interférence avec la liberté individuelle n’est pas particulièrement dangereuse car elle n’est pas coercitive.

En effet, le nudge ne supprime pas d’options. Il est à noter que cette appréciation dépend elle-même d’une certaine

conception de la liberté^[27]. Elle n’en demeure pas moins une intervention délibérée en vue de favoriser certains comportements, potentiellement à l’encontre de la volonté de la personne. Les approches paternalistes abordent également la question des conditions procédurales à respecter le cas échéant, comme l’information et le consentement. Nous y viendrons dans le chapitre suivant.

21

Ce défi du paternalisme est particulièrement sensible dans le cadre des pouvoirs publics ou, dans le cas de la SSR, dans la réalisation d’un mandat de service public. D’une part, il existe une importante asymétrie en termes de ressources, connaissances et pouvoir entre le service public et ses utilisateurs individuels. Nous y reviendrons en traitant des risques de manipulation. D’autre part, les pouvoirs publics se doivent de respecter la liberté des individus de choisir et de conduire leur vie comme bon leur semble, dans les limites de l’ordre constitutionnel. A la différence d’une entreprise privée, les pouvoirs publics sont tenus au respect du — Seite 13 —pluralisme des convictions éthiques individuelles et ils devraient donc s’abstenir de favoriser certaines de ces convictions.

22

Deuxièmement, l’utilisation d’un nudge doit répondre au défi du perfectionnisme. Celui-ci porte sur le risque, pour les pouvoirs publics, de viser une conception exigeante de la bonne citoyenneté. Les différentes positions perfectionnistes partagent une même structure argumentative : une conception du Bien (par exemple de la vie bonne, de la bonne citoyenneté ou un idéal lié à la nature humaine, comme la rationalité) est utilisée comme standard de comportement duquel il importe de se rapprocher. L’intervention de type nudge vise alors à pousser les individus vers ce standard de comportement.

23

Deux questions principales apparaissent, à savoir d’une part la justification de la conception utilisée comme standard et, d’autre part, la légitimité pour les pouvoirs publics d’orienter le comportement des individus vers ce standard. La définition du bon standard est l’objet de controverses au sein de la tradition perfectionniste. Certaines conceptions définissent le standard en termes d’objectifs politiques (citoyenneté) à réaliser ou en termes de composantes de la nature humaine (par exemple un objectif de rationalité

toujours améliorée)^[28]. Le deuxième point est celui qui nous intéresse dans le cadre du projet : en faisant l’hypothèse d’un standard légitime, la RTS devrait-elle viser à l’amélioration permanente des individus vers ce standard ? Le défi se déplace alors sur les moyens légitimes en vue d’amener les individus à s’améliorer.

24

La critique principale à l’encontre du perfectionnisme est portée par une conception de la neutralité des pouvoirs publics en matière de convictions éthiques. Dans une veine — Seite 14 —contractualiste, les pouvoirs publics assurent les bases d’une société fonctionnelle où les individus peuvent, le plus librement possible, définir leurs valeurs et conduire leur vie en fonction. Selon la formule célèbre de R. Dworkin, l’Etat libéral ne devrait pas chercher à hiérarchiser entre boire une

bière en regardant un match de foot ou aller au musée^[29]. Particulièrement en matière de convictions éthiques et de conceptions de la bonne vie, les pouvoirs publics doivent faire preuve de retenue afin de garantir l’intégrité éthique des individus. Cette courte contribution n’est pas le lieu pour traiter en profondeur de cette question au cœur de la

philosophie politique libérale^[30].

25

Pour le présent projet, le point important porte sur le point de tension pour un média de service public : doit-il considérer les individus comme ils sont et les rencontrer là où ils sont, avec leurs intérêts et leurs capacités, sans chercher à les amener vers d’autres objectifs (sans ambition de perfectionnement) ou, à l’inverse, en cherchant à les faire évoluer vers une meilleure version d’eux-mêmes (avec une a m b i t i o n d e p e r f e c t i o n n e m e n t ) ? L e d i s c o u r s s u r l a découvrabilité des contenus et sur l’objectif d’amener « une touche de surprise » chez les utilisateurs de Radio France semble reposer sur une ambition perfectionniste : surprendre les auditeurs et leur faire découvrir de nouveaux contenus est conçu comme une contribution positive à leur développement. Nous verrons plus loin que le mandat de service public de la SSR est construit sur l’objectif d’une certaine conception de la démocratie et du débat public. Dans ce contexte, elle a pour mission d’éduquer les individus, de les informer de leur donner des clefs pour comprendre la réalité du pays. Cet objectif sera reconstruit comme une forme de perfectionnisme léger, directement en lien avec une conception de la citoyenneté à la fois responsable, active et critique.

3.Le défi de la manipulation

26

A la jonction du paternalisme et du perfectionnisme, le nudge soulève des défis liés la manipulation, cette forme de manipulation douce qu’il promet. Cette qualification nécessite néanmoins deux clarifications : comment reconnaitre une manipulation, douce ou non, et pourquoi une manipulation estelle éthiquement problématique ?

27

L a d é f i n i t i o n c h e r c h e à m e t t r e e n é v i d e n c e l e s caractéristiques qui font de la manipulation une forme d’influence particulière. Dans un article de vue d’ensemble,

Noggle distingue trois grandes familles de définitions^[31].

Premièrement, la manipulation peut s’apparenter à une forme

d’influence qui échappe à la délibération rationnelle^[32]. Elle vise alors à exploiter les faiblesses de l’esprit humain, par exemple les biais cognitifs. Certains contenus peuvent ainsi être promus en utilisant des méthodes de design les présentant sous un jour favorable, et ce même si les individus ne les reconnaissent pas formellement comme des interventions. Deuxièmement, la manipulation peut s’apparenter à une forme de

tromperie^{[ 3 3 ]}. Dans cette définition, l’intention du manipulateur quant aux objectifs et aux méthodes utilisées joue un rôle clef. De même, le contexte de l’interaction et d’éventuels rapports de force (hiérarchiques par exemple, ou alors en termes de compétences) vont également influencer la capacité du manipulateur à tromper d’autres individus. Troisièmement, la manipulation peut s’apparenter à une forme

de mise sous pression^[34]. La dimension de tromperie passe à l’arrière-plan, au profit de la capacité du manipulateur à profiter du contexte et de sa relation pour imposer ses objectifs. En matière de relations personnelles, le chantage affectif correspond à cette définition de la manipulation. Ces trois définitions de la manipulation doivent se comprendre — Seite 16 —comme autant de tentatives d’appréhender la spécificité de la manipulation comme forme d’influence particulière.

28

La seconde question, c’est-à-dire le caractère éthiquement problématique de la manipulation, dépend de la définition retenue. Néanmoins, il est possible de distinguer deux a r g u m e n t s p r i n c i p a u x . P r e m i è r e m e n t , u n e a p p r o c h e conséquentialiste vise à identifier les conséquences négatives de la manipulation (en priorité pour la personne manipulée) et à construire un argument sur cette base. Néanmoins, la difficulté porte sur la définition du caractère « négatif », notamment dans les nombreux cas, où la personne manipulée profite de la manipulation (par exemple prévention du suicide). Deuxièmement, le caractère problématique de la manipulation peut être appréhendé comme une menace pour l’autonomie. Selon la définition classique de G. Dworkin, l’autonomie peut être définie comme « une capacité de second ordre des personnes à réfléchir de manière critique à leurs préférences, désirs, souhaits, etc. de premier ordre et la capacité d’accepter ou d’essayer de changer ceux-ci à la lumière de préférences et de valeurs d’ordre supérieur. En exerçant cette capacité, les personnes définissent leur nature, donnent un sens et une cohérence à leur vie et assument la responsabilité du type de personne qu’elles

sont »^[35]. En empêchant ce travail réflexif et critique, la manipulation sape l’autonomie des individus. Elle ne respecte pas ces individus comme des personnes capables de recevoir une information, de raisonner à la lumière de certaines valeurs et d’agir en conséquence.

29

E n r é p o n s e à c e t t e c r i t i q u e , l a l i t t é r a t u r e s u r l a manipulation a fait émerger une série de mesures procédurales visant à protéger l’autonomie individuelle. Nous y reviendrons dans l’une des composantes du modèle de légitimité.

4.Synthèse intermédiaire

30

Ce chapitre a permis de faire apparaitre une série de défis n o r m a t i f s d i r e c t e m e n t e n l i e n a v e c l e s s y s t è m e s d e recommandation algorithmique. La nécessité d’un choix architectural et la question de sa justifiabilité ramènent le débat vers l’objectif poursuivi et vers les modalités y afférentes. Les chapitres suivants construisent sur cette base en discutant tour à tour l’objectif (le « pourquoi ») de l’utilisation des systèmes algorithmiques dans le cadre de la RTS, les modalités de mise en oeuvre (le « comment ») et d’éventuels risques agrégés. Prises ensemble, ces trois composantes fournissent l’armature d’un modèle de légitimité p o u r l ’ u t i l i s a t i o n d e s y s t è m e s d e r e c o m m a n d a t i o n algorithmiques par la RTS.