Recommandation algorithmique et nudging

Un modèle de légitimité pour le service public audio-visuel

Johan Rochel, Dr. iur., Université de Fribourg, EPFL

Zusammenfassung: Dieser Beitrag untersucht die normativen H e r a u s f o r d e r u n g e n b e i d e r N u t z u n g a l g o r i t h m i s c h e r Empfehlungssysteme durch öffentlichrechtliche Medien. Wie viele öffentlichrechtliche Sender versucht RTS, über seine App die Inhaltsempfehlungen für bestimmte Zielgruppen anzupassen und zu optimieren. Zu diesem Zweck wird ein von der BBC populär gemachter Ansatz verwendet, der sich an den „userneeds“ orientiert. Basierend auf einem interdisziplinären Projekt, das mit Datenwissenschaftern durchgeführt wurde, zielt diese Untersuchung darauf ab, die Prinzipien zu identifizieren und zu begründen, die bei der legitimen Nutzung solcher Empfehlungssysteme gelten sollten. Diese Grundsätze werden in einem Legitimitätsmodell strukturiert, das aus drei Hauptteilen besteht: den Zielen des Empfehlungssystems, den M o d a l i t ä t e n s e i n e r U m s e t z u n g u n d e i n e r A n a l y s e d e r aggregierten Risiken. Das Modell will auf die wichtigsten Herausforderungen, die im Zusammenhang mit der Ethik des N u d g i n g s a u s g e m a c h t w u r d e n , r e a g i e r e n , n ä m l i c h a u f Paternalismus, Perfektionismus und Manipulation. Der Autor macht Vorschläge für Bedingungen für ein algorithmisches Nudging, die auf den Auftrag von RTS, dessen Werte und Praktiken abgestimmt sind.

Résumé: Cet article explore les défis normatifs liés à l’utilisation des systèmes de recommandation algorithmique par les médias de service public. Comme de nombreux diffuseurs — Seite 2 —p u b l i c s , l a R T S c h e r c h e à a j u s t e r e t o p t i m i s e r l e s recommandations de contenu pour des audiences spécifiques via son application. Elle utilise à cette fin une approche inspirée des « user-needs » popularisée par la BBC. Construit sur un projet interdisciplinaire mené avec des spécialistes de sciences des données, cet article vise à identifier et justifier les principes généraux qui devraient guider l’utilisation légitime de tels systèmes de recommandation. Ces principes sont structurés dans un modèle de légitimité composé de trois parties principales : les objectifs du système de recommandation, les modalités de sa mise en œuvre et une analyse des risques agrégés. Ce modèle de légitimité est en mesure de répondre aux défis principaux identifiés dans le contexte de l’éthique du nudging, à savoir le paternalisme, le perfectionnisme et la manipulation. L’article propose des conditions pour un nudging algorithmique où le mandat de service public de la RTS, ses valeurs et ses pratiques sont alignés.

Table des matières

[1]

I.Introduction

1

Comme de nombreux autres services publics audio-visuels, la SSR, l’entreprise suisse de service public audio-visuel, est confrontée aux opportunités et aux tensions qui accompagnent l’introduction de systèmes de recommandation algorithmique. Ces systèmes de recommandation sont avant tout utilisés pour calibrer et optimiser les contenus mis en avant via les applications du service public. Radio France utilise ainsi depuis fin 2022 un système de recommandation algorithmique cherchant à optimiser la mise en avant des contenus disponibles sur son application (émissions, podcast, etc.)

avec l’objectif d’une « découvrabilité » accrue^[2]. Radio France parle d’une « touche de surprise ». Cette contribution veut i d e n t i f i e r e t r é p o n d r e a u x d é f i s n o r m a t i f s l i é s à l’utilisation de ces systèmes de recommandation dans le contexte d’un service public. Elle s’inscrit pleinement dans la recommandation formulée par le Comité du conseil des ministres du Conseil de l’Europe en 2022 : « limiter les risques liés à l’organisation, à la sélection et à la

hiérarchisation de contenus par algorithmes ^{[ 3 ]}».

2

La présente contribution vise à identifier et justifier les principes généraux qui devraient présider à l’utilisation de systèmes de recommandation algorithmique. Ces principes sont rassemblés dans un modèle à trois composantes : les objectifs du système de recommandation, les modalités de sa mise en œuvre et une analyse des risques agrégés. Ce modèle permet de répondre aux principaux défis éthiques identifiés dans le — Seite 4 —cadre d’un nudging numérique, à la fois dans la perspective des utilisateurs du système de recommandation que dans la p e r s p e c t i v e d ’ u n i n t é r ê t p u b l i c q u i v a a u - d e l à d e s utilisateurs. La contribution a donc une visée pratique en ce qu’elle prend le contexte spécifique de la SSR et cherche à déterminer les conditions d’utilisation légitime des systèmes de recommandation algorithmique. Cette contribution fait partie d’un projet plus large mené conjointement avec la RTS, la branche francophone de la SSR, sous l’égide de l’IMI

(Initiative for Media Innovation)^[4]. Le projet est décrit plus en détail dans le premier chapitre.

3

Cette contribution se focalise sur la légitimité de l’utilisation de ces systèmes de recommandation. Elle mobilise à la fois une analyse éthique et juridique. A ce titre, la légitimité est appréhendée comme reposant à la fois sur une dimension juridique et sur une dimension éthique. La dimension juridique soulève la question principale de la légalité d’une telle utilisation, tandis que la dimension éthique porte sur la dimension de légitimité morale de cette utilisation. Cette contribution à l’ambition pratique n’est pas le lieu pour traiter des nombreuses questions conceptuelles et théoriques

qui sous-tendent cette distinction^[5]. En bref, l’analyse des normes juridiques applicables et de la doctrine y relative laissera rapidement apparaitre une importante marge de manœuvre pour la SSR dans la mise en œuvre de son mandat de service public. Cette importante marge de manœuvre est appréhendée comme le lieu où se pose une série de questions éthiques, c’est-à-dire avant tout des questions de cohérence entre le mandat, les valeurs et les pratiques mises en oeuvre par la SSR. La contribution cherche directement à identifier les paramètres de cette cohérence et à l’améliorer. Cette compréhension du rôle complémentaire de l’éthique est partagée par la SSR qui écrit dans sa Charte : « Nous connaissons nos

obligations éthiques et légales et nous les respectons »^[6]. De — Seite 5 —même, la Commission fédérale des médias écrit, en février 2024, que les systèmes de recommandation algorithmique devraient être soumis à des conditions strictes : « Dans la définition des canaux de diffusion et l’utilisation de la technique, surtout en ce qui concerne l’intelligence artificielle, le service public média respecte ou fixe des normes professionnelles et éthiques particulièrement

élevées »^[7]. En termes politiques, la question de la légitimité de ces systèmes est une sous-partie du débat plus large sur le rôle et les modalités de fonctionnement d’un service public audio-visuel. Nous verrons que de nombreuses questions touchent directement à la pression politique qui s’exerce sur ce service public.

4

Cette contribution s’inscrit dans une littérature sur la recommandation algorithmique dans le domaine des médias de service public. Une importante partie de cette littérature s’inspire des méthodes des sciences sociales (par ex.

interviews dans les rédactions)^[8]. Cette littérature ne doit pas être confondue avec la très riche recherche sur les plateformes (par ex. réseaux sociaux), leur utilisation de

systèmes algorithmiques et leur impact sur les médias^[9]. Ces plateformes déploient un impact majeur sur la capacité des publics à découvrir des contenus créés par des entreprises médiatiques et sur quels types de contenus sont promus (ou dissimulés). La question des bulles de filtre ou chambres d’écho a par exemple été largement traitée comme une conséquence négative des modèles d’affaires des plateformes

commerciales^[10]. Dans cette littérature sur la recommandation algorithmique, cette contribution s’appuie sur les réflexions

d’éthique sur les systèmes d’IA^[11]. La littérature sur les nudges numériques sera pertinente pour identifier et traiter

les défis éthiques de l’utilisation de ces systèmes^[12].

La contribution est organisée en cinq chapitres. Le premier chapitre présente le projet conduit avec la RTS. Le deuxième chapitre vise à identifier et à structurer les défis normatifs que pose l’utilisation de systèmes algorithmiques de la part d’un service public audiovisuel. Les trois chapitres suivants présentent chaque composante du modèle de légitimité : les objectifs, les modalités et les risques agrégés. Le chapitre sur les objectifs discute en détail le mandat de service public de la SSR (Constitution, LRTV, concession) et vise à faire apparaitre les principaux défis normatifs.