Recommandation algorithmique et nudging

V.Les modalités : donner du contrôle aux utilisateurs

46

Ce chapitre traite de la question des modalités à mettre en — Seite 25 —œuvre dans l’utilisation d’un système de recommandation algorithmique. Il vise avant tout à répondre aux risques de manipulation et de paternalisme.

47

Quatre modalités générales apparaissent pertinentes pour

répondre aux risques de manipulation^[53]. Elles reposent sur une conception de la personne autonome. Elles sont présentées ici c o m m e d e s c o n d i t i o n s g é n é r a l e s q u e l e s y s t è m e d e recommandation algorithmique de la RTS devrait remplir.

48

La première condition porte sur une information transparente. L’utilisateur doit être informé de la présence et du mode de fonctionnement du système de recommandation algorithmique. Les informations doivent porter sur l’existence du système, son fonctionnement général, ses objectifs et ses implications pour

les utilisateurs^[54]. Ces informations doivent être mises à disposition dans un langage accessible aux non-spécialistes et dans une forme facilitant leur consultation. La question du design graphique de cette information participe donc pleinement de l’objectif de respect de l’autonomie de l’utilisateur.

49

Deuxièmement, l’utilisateur doit recevoir de manière spécifique des informations sur le fonctionnement du système. Il s’agit de permettre à l’utilisateur de comprendre les grands principes qui président à l’architecture du système de recommandation. Cela inclue la capacité de comprendre comment les données personnelles sont stockées, utilisées, supprimées,

quels effets déploient les choix architecturaux effectués et quelles sont les limites du système (ce que le système ne peut pas réaliser). Cette deuxième modalité est particulièrement proche des exigences posées par le droit de la protection des

données^[55].

Troisièmement, l’utilisateur doit pouvoir rester en situation de contrôle sur ses choix. Cela inclue la capacité de faire des choix sur le design d’utilisation (notamment en matière de données), mais également de réviser ses choix de configuration initiaux, notamment le choix de renoncer ultérieurement à utiliser le système de recommandation. De manière plus ambitieuse, cette condition de contrôle devrait porter sur la configurabilité du système de recommandation et sur la capacité de l’utilisateur de choisir des fonctionnalités adaptées à ses objectifs personnels (dans le contexte des objectifs généraux d’un média de service public).

51

Quatrièmement, une condition générale de consentement devrait s’appliquer, englobant les points précédents. L’utilisateur devrait pouvoir accepter le système de recommandation algorithmique. Une modalité « opt-in » doit être privilégiée par rapport à une modalité « opt-out ». Un défi important porte sur la question de l’alternative : le consentement nécessite la capacité de dire « non » et donc la capacité de profiter d’une alternative. Renoncer complètement à utiliser le service peut s’apparenter à une option alternative, mais elle n’est pas satisfaisante dans le cadre d’un service public. Toutefois, comme expliqué plus haut, la possibilité de renoncer à un système de recommandation algorithmique ne signifie pas la disparition du nudge : le contenu doit être présenté d’une certaine manière et cette manière ne peut jamais être neutre. L’option alternative pourrait toutefois être d’accepter un mode de présentation par défaut (par exemple selon la date de diffusion).

52

De manière générale, ces 4 modalités permettent de rapprocher le système de recommandation algorithmique d’un idéal d’autonomie individuelle. L’utilisateur est mis en situation et en capacité de réaliser un choix autonome portant sur — Seite 27 —l’utilisation du système et sur sa configurabilité. Ces modalités ne sont pas seulement des modalités d’utilisation, elles doivent présider à la conception du système. A titre d’exemple, le système se doit d’être conçu de manière à respecter le principe de minimisation de récolte des données utilisées pour son fonctionnement. Ainsi, une version respectant l’idée de privacy by design pourrait proposer à l’utilisateur de documenter son positionnement actuel (selon le couplage user-need/thématique) à travers des questions à choix multiples. Il n’est ainsi pas nécessaire de récolter et de traiter les données d’engagement de l’utilisateur pour lui proposer des recommandations. En ce sens, il existe une autre manière, dans le design même du système, de renseigner le positionnement de l’utilisateur. En revanche, il est possible que cette manière soit moins précise ou moins riche à des fins de recommandation. Le point essentiel porte sur la capacité de contrôle des utilisateurs. Par défaut, la version proposée est conçue pour respecter le droit de la protection des données (entre autres, le principe de minimisation), tandis que l’utilisateur peut choisir une version permettant d’autres fonctionnalités mais supposant une forme de tracking de ses habitudes de consommation de contenus.

53

En matière de paternalisme et de perfectionnisme, cet idéal de configurabilité vient toutefois renouveler un défi normatif connu des services publics audio-visuels. Quelle marge de manœuvre faut-il laisser aux utilisateurs de choisir leur propre mécanisme de nudging, notamment si celui-ci ne correspond pas aux objectifs du service public ? Par exemple, faut-il autoriser un utilisateur à configurer le système pour lui proposer exclusivement du divertissement sans lien avec aucun objectif civique, ce qui serait, par hypothèse, en tension avec le mandat de service public ? La configurabilité est toujours choisie par les équipes en charge des choix architecturaux fondamentaux. Ainsi, ce que peut ou ne peut pas l’utilisateur a été choisi. Sur ce point, il est possible pour — Seite 28 —le système de chercher à garder une ligne aussi large que possible quant aux choix réalisables par l’utilisateur. En complément, le design du système peut prévoir une partie de l’application qui échappe à cette configurabilité et qui propose un contenu aligné sur le mandat de service public. Par exemple, tous les utilisateurs – quels que soient leurs choix individuels en matière de configurabilité – devraient voir les ressources pertinentes pour la prochaine votation fédérale. Les possibilités de design d’une application comme celle de la RTS permettent d’éviter de traiter cette question comme un noir/blanc, mais plutôt comme une recherche d’équilibres.