Recommandation algorithmique et nudging

VI.Risques agrégés

54

Les deux composantes du modèle de légitimité discutées jusqu’alors (le « pourquoi » et le « comment ») sont centrales dans la perspective de l’utilisateur. Néanmoins, elles doivent encore être complétées par une analyse des risques agrégés.

55

En effet, en adoptant la perspective d’un utilisateur

individuel, les risques agrégés n’apparaissent pas^[56]. Ces risques sont appelés « agrégés » avant tout pour signifier qu’ils dépassent le niveau individuel discuté jusqu’ici. A titre d’inspiration, cette analyse de risques est partie intégrante des obligations imposées aux fournisseurs de systèmes d’intelligence artificielle à haut risques par la

législation européenne sur l’IA^[57]. L’analyse vise notamment à identifier et prévenir les impacts négatifs sur la santé, la sécurité et les droits fondamentaux consacrés dans la Charte

des droits fondamentaux de l’UE, y compris la démocratie ^[58]. Le propos n’est pas ici de dire que le règlement européen s’applique à la RTS, mais de montrer la pertinence d’une — Seite 29 —exigence d’analyse de risques au-delà de la seule perspective

individuelle^[59]. De manière similaire, l’analyse de risques agrégés peut également porter sur les risques internes au fonctionnement de l’entreprise. Un exemple dans chacune de ces catégories est brièvement discuté afin d’exemplifier le type de risques en jeu.

56

En matière de risques agrégés pour le public, la question de la personnalisation et de l’accès à une information commune se pose. Comme expliqué plus haut, dans la droite ligne de ses objectifs, la RTS peut légitimement chercher à promouvoir certains contenus auprès de certains utilisateurs. Chaque utilisateur de l’application voit ainsi « ses » contenus, potentiellement différents de ceux proposés à d’autres utilisateurs. De manière agrégée, ce mouvement peut conduire à une information morcelée, parcellaire et consommée de manière asynchrone. Cette pratique entre en conflit avec l’ambition d’universalité reconnue comme l’un des piliers des services

publics audio-visuels^[60]. Pour utiliser un exemple parlant, l’émission d’information phare « 19.30 » représentait il y a peu encore un partage d’informations avec un large public, à un moment déterminé et égal pour tous. Aujourd’hui, la consommation de ces contenus à 19.30 reste importante, mais elle est morcelée et asynchrone. On ne regarde plus l’entier du TJ, mais seulement les reportages qui nous intéressent. A terme, et à supposer que cette tendance se poursuive, les débats de société sont rendus plus difficiles car les individus ne disposent plus, ou encore moins qu’aujourd’hui,

d’informations communes à un temps T^[61]. Ce n’est pas seulement le contenu du téléjournal, mais l’ensemble des contenus fournis par l’application RTS et, au-delà, l’ensemble des contenus fournis par tous les médias via leur application. Le défi est encore renforcé si l’on ajoute les plateformes comme distributrices de contenu. De manière concrète, cette analyse de risques pourrait amener la RTS à considérer certains — Seite 30 —contenus comme prioritaires (sur la base d’une certaine conception de la démocratie) et à les promouvoir auprès de l’ensemble des utilisateurs, court-circuitant de manière assumée la logique de personnalisation normalement à

l’œuvre^[62]. Ce défi n’est pas nouveau, il touchait déjà les choix de programmation et les rapports entre les différents publics cibles. Néanmoins, le défi est renouvelé et réagencé

par les choix architecturaux à réaliser^[63].

57

Les risques agrégés peuvent également porter sur les risques internes, notamment dans les mesures de performances mises en place au sein des rédactions. A la différence d’un média privé, le nombre de clics n’est pas mesuré par rapport à un objectif commercial, mais il peut l’être par rapport à la réalisation des objectifs fixés à la lumière du mandat de service public. Ainsi, suivant le tableau proposé plus haut, un utilisateur qui consulterait un contenu recommandé dans une perspective d’augmenter ses connaissances sur la Suisse (par ex. un reportage sur une autre région linguistique) devrait être compatibilisé comme un élément positif de performance. Outre les difficultés à définir les proxys pertinents pour les objectifs de service public, cela peut conduire à des effets pervers où certains contenus spécifiques (notamment ceux qui r e m p l i s s e n t l e p l u s d e u s e r - n e e d s p e r t i n e n t s ) s o n t s y s t é m a t i q u e m e n t p r o m u s a u p r o f i t d e c o n t e n u s p l u s

particuliers^[64]. De manière similaire, certains contenus particulièrement attrayants pour le grand public (par ex. portrait de personnalités sportives) pourraient être utilisés comme « appâts » pour attirer les utilisateurs vers un contenu directement aligné sur le mandat de service public. Ce genre de mécanisme apparait comme une forme de manipulation au service de l’idéal civique promu par le mandat de service public. Pour la RTS, il importe de monitorer ces effets agrégés sur les équipes créant et promouvant ces contenus et de contrôler les incitatifs mis en place pour identifier et — Seite 31 —récompenser les « bonnes » performances.

58

Ces deux exemples de risques agrégés n’ont pas prétention à l’exhaustivité. Ils visent avant tout à illustrer les résultats potentiels d’une analyse de risques qui irait audelà de la perspective individuelle. L’obligation mise ici en avant porte en priorité sur la nécessité de conduire cette analyse de risques et de l’intégrer dans le modèle de légitimité.