Article 34
in forceDUE DILIGENCE OBLIGATIONS FOR A TRANSPARENT AND SAFE ONLINE ENVIRONMENT
1. Providers of very large online platforms and of very large online search engines shall diligently identify, analyse and assess any systemic risks in the Union stemming from the design or functioning of their service and its related systems, including algorithmic systems, or from the use made of their services.
They shall carry out the risk assessments by the date of application referred to in Article 33(6), second subparagraph, and at least once every year thereafter, and in any event prior to deploying functionalities that are likely to have a critical impact on the risks identified pursuant to this Article. This risk assessment shall be specific to their services and proportionate to the systemic risks, taking into consideration their severity and probability, and shall include the following systemic risks:
(a) the dissemination of illegal content through their services;
(b) any actual or foreseeable negative effects for the exercise of fundamental rights, in particular the fundamental rights to human dignity enshrined in Article 1 of the Charter, to respect for private and family life enshrined in Article 7 of the Charter, to the protection of personal data enshrined in Article 8 of the Charter, to freedom of expression and information, including the freedom and pluralism of the media, enshrined in Article 11 of the Charter, to non-discrimination enshrined in Article 21 of the Charter, to respect for the rights of the child enshrined in Article 24 of the Charter and to a high-level of consumer protection enshrined in Article 38 of the Charter;
(c) any actual or foreseeable negative effects on civic discourse and electoral processes, and public security;
(d) any actual or foreseeable negative effects in relation to gender-based violence, the protection of public health and minors and serious negative consequences to the person’s physical and mental well-being.
2. When conducting risk assessments, providers of very large online platforms and of very large online search engines shall take into account, in particular, whether and how the following factors influence any of the systemic risks referred to in paragraph 1:
(a) the design of their recommender systems and any other relevant algorithmic system;
(b) their content moderation systems;
(c) the applicable terms and conditions and their enforcement;
(d) systems for selecting and presenting advertisements;
(e) data related practices of the provider.
The assessments shall also analyse whether and how the risks pursuant to paragraph 1 are influenced by intentional manipulation of their service, including by inauthentic use or automated exploitation of the service, as well as the amplification and potentially rapid and wide dissemination of illegal content and of information that is incompatible with their terms and conditions.
The assessment shall take into account specific regional or linguistic aspects, including when specific to a Member State.
3. Providers of very large online platforms and of very large online search engines shall preserve the supporting documents of the risk assessments for at least three years after the performance of risk assessments, and shall, upon request, communicate them to the Commission and to the Digital Services Coordinator of establishment.
1. Aanbieders van zeer grote onlineplatforms en van zeer grote onlinezoekmachines identificeren, analyseren en beoordelen zorgvuldig alle systeemrisico’s in de Unie die voortvloeien uit het ontwerp of uit de werking van hun dienst en de daaraan verbonden systemen – met inbegrip van algoritmische systemen – en uit het gebruik van hun diensten in de Unie.
Zij voeren de risicobeoordelingen uit vanaf de in artikel 33, lid 6, tweede alinea, bedoelde datum van toepassing, en ten minste één keer per jaar hierna, en in elk geval vóór de uitrol van de functionaliteiten die waarschijnlijk kritieke gevolgen zullen hebben voor de krachtens dit artikel vastgestelde risico’s. Deze risicobeoordeling is specifiek voor hun diensten en staat in verhouding tot de systeemrisico’s, waarbij rekening wordt gehouden met de ernst en waarschijnlijkheid ervan, en omvat de volgende systeemrisico’s:
a) de verspreiding van illegale inhoud via hun diensten;
b) eventuele werkelijke of voorzienbare negatieve effecten op de uitoefening van de grondrechten, met name het in artikel 1 van het Handvest verankerde grondrecht op menselijke waardigheid, het in artikel 7 van het Handvest verankerde grondrecht op eerbiediging van het privéleven en het gezinsleven, het in artikel 8 van het Handvest verankerde grondrecht op bescherming van persoonsgegevens, het in artikel 11 van het Handvest verankerde grondrecht op vrijheid van meningsuiting en van informatie, met inbegrip van de vrijheid en pluriformiteit van de media, het in artikel 21 van het Handvest verankerde grondrecht op non-discriminatie, het in artikel 24 van het Handvest verankerde grondrecht op eerbiediging van de rechten van het kind, en het in artikel 38 van het Handvest verankerde grondrecht op een hoog niveau van consumentenbescherming;
c) eventuele werkelijke of voorzienbare negatieve effecten op de burgerdialoog en verkiezingsprocessen, en de openbare veiligheid;
d) eventuele werkelijke of voorzienbare negatieve effecten met betrekking tot gendergerelateerd geweld, de bescherming van de volksgezondheid en minderjarigen en ernstige negatieve gevolgen voor het lichamelijke en geestelijke welzijn van de persoon.
2. Bij de uitvoering van risicobeoordelingen houden aanbieders van zeer grote onlineplatforms en van zeer grote onlinezoekmachines met name rekening met de vraag of en hoe de volgende factoren van invloed zijn op elk van de in lid 1 bedoelde systeemrisico’s:
a) het ontwerp van hun aanbevelingssystemen en andere relevante algoritmische systemen;
b) hun inhoudsmoderatiesystemen;
c) de toepasselijke algemene voorwaarden en de handhaving ervan;
d) systemen voor de selectie en weergave van reclame;
e) datagerelateerde praktijken van de aanbieder.
In de beoordelingen wordt ook geanalyseerd of en hoe de risico’s krachtens lid 1 worden beïnvloed door opzettelijke manipulatie van hun dienst, onder meer door niet-authentiek gebruik of geautomatiseerde exploitatie van de dienst, alsook door de versterking en mogelijk snelle en wijde verspreiding van illegale inhoud en van informatie die niet verenigbaar is met hun algemene voorwaarden.
Bij de beoordeling wordt rekening gehouden met specifieke regionale of taalkundige aspecten, ook wanneer deze specifiek zijn voor een lidstaat.
3. Aanbieders van zeer grote onlineplatforms en van zeer grote onlinezoekmachines bewaren de bewijsstukken van de risicobeoordelingen gedurende een periode van ten minste drie jaar na de uitvoering van risicobeoordelingen en delen deze op verzoek mee aan de Commissie en aan de digitaledienstencoördinator van de plaats van vestiging.