Erläuternder Bericht

Absatz 2: Dieser Absatz regelt den Minimalumfang der Risikobewertung. Die Risikobe- wertung bezieht sich auf die tatsächlichen sowie absehbaren schädlichen Auswirkun- gen, die sich aus der Gestaltung von Kommunikationsplattformen und Suchmaschinen bzw. ihrer Funktionsweise und Nutzung ergeben können. Die schwerwiegendsten ne- gativen Auswirkungen sind in der Verbreitung mutmasslich rechtswidriger Inhalte (Bst. a), der nachteiligen Auswirkungen auf die Ausübung von Grundrechten der Nut- zerinnen und Nutzer (Bst. b) sowie der negativen Folgen für die öffentliche Meinungs- bildung, für Wahl- und Abstimmungsprozesse, für die öffentliche Sicherheit und Ord- nung sowie für die öffentliche Gesundheit (Bst. c) zu sehen. Kommunikationsplattfor- men und Suchmaschinen sind daher angehalten, ihre Gestaltung einschliesslich der AGB, der Durchsetzung der in den AGB festgehaltenen einschränkenden Massnah- men sowie insbesondere auch die algorithmischen Systeme einschliesslich der Mode- rations-, Empfehlungs- und Werbesysteme im Hinblick auf die verschiedenen systemi- schen Risiken zu bewerten. Dabei soll die Schwere der möglichen negativen Auswir- kungen wie auch die Wahrscheinlichkeit der verschiedenen Risiken in die Bewertung einfliessen.

Die Risikobewertung betreffend die Verbreitung mutmasslich rechtswidriger Inhalte (Bst. a) bezieht sich anders als das Meldeverfahren (Art. 4) nicht nur auf die dort auf- geführten Tatbestände, sondern auf alle Inhalte, die gemäss Schweizer Recht mut- masslich rechtswidrig sind. So können Anbieterinnen nicht nur durch das Meldeverfah- ren gemäss Artikel 4, sondern auch durch allfällige weitere Meldemöglichkeiten z. B. in Bezug auf einen Verstoss gegen die AGB oder beim möglichen Einsatz von algorith- mischen Systemen wie Filtern Kenntnis von mutmasslich rechtswidrigen Inhalten er- langen. Aus der Pflicht zur Risikobewertung für die Verbreitung mutmasslich rechtswid- riger Inhalte soll allerdings keine allgemeine Pflicht zur Überwachung aller Inhalte flies- sen. Für die Risikobewertung sind nur systemische Risiken für die Verbreitung mut- masslich rechtswidriger Inhalte relevant, nicht aber die individuellen Rechtsverstösse. Für letztere gelten unabhängig von der Risikobewertung nach wie vor die allgemeinen straf- und zivilrechtlichen Haftungsgrundsätze. Ein systemisches Risiko besteht insbe- sondere dann, wenn bestimmte mutmassliche Rechtsverstösse auf einem bestimmten Dienst besonders häufig auftreten oder die Empfehlungssysteme bzw. Systeme zur Moderation dazu beitragen, dass ein mutmasslich rechtswidriger Inhalt von besonders vielen Nutzerinnen und Nutzern gesehen wird oder besonders viele Personen betrifft. Zu berücksichtigen ist auch, wie leicht eine Verbreitung der Inhalte über Konten mit grosser Reichweite möglich ist. Wie für das Meldeverfahren und das Verfahren zur Be- arbeitung der Meldungen (Art. 4 und 5) gilt auch für die Risikobewertung, dass der Ent- scheid, ob ein Inhalt tatsächlich rechtswidrig ist, den zuständigen Gerichten obliegt.

Im Rahmen der Risikobewertung in Bezug auf die nachteiligen Auswirkungen auf die Ausübung von Grundrechten der Nutzerinnen und Nutzer (Bst. b) müssen die Anbiete- rinnen insbesondere das Overblocking-Risiko als Gefahr für die Meinungsfreiheit the- matisieren. Hierfür kann auch der Rückgriff auf die Transparenzberichte gemäss Arti- kel 19 hilfreich sein. Grund für das Overblocking-Risiko ist unter anderem die asym- metrische Haftung der Anbieterinnen, die nur bei Zugänglichmachung rechtswidriger, nicht aber bei der Entfernung bzw. Sperrung von nur vermeintlich rechtswidrigen Inhal- ten eingreift. Die Anbieterinnen müssen insbesondere evaluieren, ob ihre Art der In- haltsmoderation wie der allfällige Einsatz von algorithmischen Systemen sowie die Ausformung des internen Beschwerdeverfahrens gemäss Artikel 7 negative Auswir- kungen auf die Meinungsfreiheit der Nutzerinnen und Nutzer haben könnten. So kann namentlich der Einsatz von Filtersystemen bestimmte Formen von Meinungsäusserun- gen wie z. B. Satire, die nur unter Einbeziehung des Kontextes als solche erkannt wer- den kann, besonders treffen.