Статья 27
действуетСИСТЕМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА С ВЫСОКИМ УРОВНЕМ РИСКА
1. До ввода в эксплуатацию высокорискованной системы ИИ, как указано в статье 6, части 2, за исключением высокорискованных систем ИИ, предназначенных для использования в сфере, указанной в пункте 2 приложения III, ответственные пользователи, являющиеся органами публичного права или частными организациями, предоставляющими государственные услуги, а также ответственные пользователи высокорискованных систем ИИ, как указано в приложении III, пунктах 5, b) и c), проводят оценку последствий для основных прав, которые может повлечь за собой использование такой системы. С этой целью ответственные пользователи проводят оценку, состоящую из:
а) описание процессов пользователя, ответственного за использование (gebruiksverantwoordelijke), в рамках которых высокорисковая система ИИ будет использоваться в соответствии с её целевым назначением;
b) описание периода, в течение которого, и частоты, с которой будет использоваться каждая система искусственного интеллекта с высоким уровнем риска;
c) категории физических лиц и групп, которые, как ожидается, испытают на себе последствия использования системы в конкретном контексте;
d) конкретные риски причинения вреда, которые, вероятно, повлекут за собой последствия для категорий физических лиц или групп лиц, идентифицированных на основании пункта c) настоящей части, с учетом информации, предоставленной поставщиком на основании статьи 13;
e) описание выполнения мер по осуществлению контроля со стороны человека в соответствии с инструкцией по применению;
f) меры, которые должны быть приняты при возникновении таких рисков, включая положения о внутреннем управлении и порядке рассмотрения жалоб.
2. Обязательство, установленное в пункте 1, применяется к первому использованию высокорисковой системы ИИ. Ответственный за использование может в аналогичных случаях использовать ранее проведенные оценки воздействия на основные права или существующие оценки воздействия, выполненные поставщиком. Если в процессе использования высокорисковой системы ИИ ответственный за использование установит, что какой-либо из элементов, указанных в пункте 1, был изменен или более не является актуальным, ответственный за использование принимает необходимые меры для актуализации информации.
3. Как только оценка, упомянутая в части 1 настоящей статьи, проведена, ответственный за использование уведомляет орган надзора за рынком о её результатах и в рамках уведомления представляет заполненный шаблон, упомянутый в части 5 настоящей статьи. В случае, упомянутом в статье 46, части 1, ответственные за использование могут быть освобождены от обязанности уведомления.
4. Если одно из обязательств, установленных в настоящей статье, уже было выполнено посредством оценки воздействия на защиту данных, проведенной на основании статьи 35 Регламента (ЕС) 2016/679 или статьи 27 Директивы (ЕС) 2016/680, то упомянутая в пункте 1 настоящей статьи оценка воздействия в области основных прав является дополнением к указанной оценке воздействия на защиту данных.
5. Бюро по ИИ разрабатывает шаблон опросника, в том числе посредством автоматизированного инструмента, с целью оказания помощи лицам, ответственным за использование, в выполнении ими своих обязательств по настоящей статье упрощенным способом.
1. Voordat een AI-systeem met een hoog risico als bedoeld in artikel 6, lid 2, in gebruik wordt gesteld, met uitzondering van AI-systemen met een hoog risico die bedoeld zijn om te worden gebruikt op het in punt 2 van bijlage III vermelde gebied, voeren gebruiksverantwoordelijken die publiekrechtelijke organen zijn of particuliere entiteiten zijn die openbare diensten verlenen, en gebruiksverantwoordelijken van AI-systemen met een hoog risico als bedoeld in bijlage III, punt 5, b) en c), een beoordeling uit van de gevolgen voor de grondrechten die het gebruik van een dergelijk systeem kan opleveren. Daartoe voeren gebruiksverantwoordelijken een beoordeling uit die bestaat uit:
a) een beschrijving van de processen van de gebruiksverantwoordelijke waarbij het AI-systeem met een hoog risico zal worden gebruikt in overeenstemming met het beoogde doel ervan;
b) een beschrijving van de periode waarbinnen en de frequentie waarmee elk AI-systeem met een hoog risico zal worden gebruikt;
c) categorieën van natuurlijke personen en groepen die naar verwachting gevolgen zullen ondervinden van het gebruik van het systeem in een specifieke context;
d) de specifieke risico’s op schade die waarschijnlijk gevolgen zullen hebben voor de op grond van punt c) van dit lid geïdentificeerde categorieën natuurlijke personen of groepen personen, rekening houdend met de door de aanbieder op grond van artikel 13 verstrekte informatie;
e) een beschrijving van de uitvoering van maatregelen voor menselijk toezicht, overeenkomstig de gebruiksaanwijzing;
f) de maatregelen die moeten worden genomen wanneer die risico’s zich voordoen, met inbegrip van de regelingen voor interne governance en klachtenregelingen.
2. De verplichting als neergelegd in lid 1 is van toepassing op het eerste gebruik van een AI-systeem met een hoog risico. De gebruiksverantwoordelijke kan in soortgelijke gevallen gebruik maken van eerder uitgevoerde effectbeoordelingen op het gebied van de grondrechten of bestaande effectbeoordelingen die door de aanbieder zijn uitgevoerd. Indien de gebruiksverantwoordelijke tijdens het gebruik van het AI-systeem met een hoog risico ziet dat een van de in lid 1 vermelde elementen is gewijzigd of niet langer actueel is, neemt de gebruiksverantwoordelijke de nodige maatregelen om de informatie te actualiseren.
3. Zodra de in lid 1 van dit artikel bedoelde beoordeling is uitgevoerd, stelt de gebruiksverantwoordelijke de markttoezichtautoriteit in kennis van de resultaten ervan, en dient hij als onderdeel van de kennisgeving het in lid 5 van dit artikel bedoelde ingevulde sjabloon in. In het in artikel 46, lid 1, bedoelde geval kunnen gebruiksverantwoordelijken van de verplichting tot kennisgeving worden vrijgesteld.
4. Indien een van de in dit artikel vastgelegde verplichtingen reeds is nagekomen door de gegevensbeschermingseffectbeoordeling die is uitgevoerd op grond van artikel 35 van Verordening (EU) 2016/679 of artikel 27 van Richtlijn (EU) 2016/680, vormt de in lid 1 van dit artikel bedoelde effectbeoordeling op het gebied van de grondrechten een aanvulling op die gegevensbeschermingseffectbeoordeling.
5. Het AI-bureau ontwikkelt een sjabloon voor een vragenlijst, onder meer via een geautomatiseerd instrument, om gebruiksverantwoordelijken te helpen hun verplichtingen uit hoofde van dit artikel op vereenvoudigde wijze na te komen.