Статья 17
действуетСИСТЕМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА С ВЫСОКИМ УРОВНЕМ РИСКА
1. Поставщики систем искусственного интеллекта с высоким уровнем риска обеспечивают наличие системы управления качеством, которая гарантирует соблюдение настоящего Регламента. Данная система документируется систематическим и упорядоченным образом в форме письменных стратегий, процедур и инструкций и охватывает как минимум следующие аспекты:
а) стратегия соблюдения нормативных требований, включая соблюдение процедур оценки соответствия и процедур управления изменениями системы искусственного интеллекта с высоким уровнем риска;
b) методы, процедуры и систематические меры, которые должны применяться при проектировании, контроле проектирования и верификации проектирования системы искусственного интеллекта с высоким уровнем риска;
c) методы, процедуры и систематические меры, которые должны применяться для разработки, контроля качества и обеспечения качества системы искусственного интеллекта с высоким уровнем риска;
d) процедуры инспектирования, тестирования и валидации, которые должны проводиться до, во время и после разработки системы искусственного интеллекта с высоким уровнем риска, а также периодичность их проведения;
e) технические спецификации, включая стандарты, которые должны применяться, и, в случаях, когда соответствующие гармонизированные стандарты применяются не в полном объеме или не охватывают все соответствующие требования раздела 2, средства, используемые для обеспечения соответствия системы искусственного интеллекта с высоким уровнем риска данным требованиям;
f) системы и процедуры управления данными, включая получение, сбор, анализ, маркировку, хранение, очистку, агрегирование и сохранение данных, а также интеллектуальный анализ данных и любые иные операции с данными, осуществляемые до и в целях выпуска на рынок или ввода в эксплуатацию систем искусственного интеллекта с высоким уровнем риска;
g) система управления рисками, как предусмотрено в статье 9;
h) создание, применение и поддержание системы постмаркетингового надзора в соответствии со статьей 72;
i) процедуры, связанные с уведомлением о серьезном инциденте в соответствии со статьей 73;
j) коммуникация с национальными компетентными органами, иными соответствующими органами, включая органы, предоставляющие доступ к данным или оказывающие содействие в получении такого доступа, нотифицированными органами, другими операторами, клиентами или иными заинтересованными сторонами;
k) системы и процедуры регистрации всей соответствующей документации и информации;
l) управление вспомогательными средствами, включая меры, связанные с обеспечением надежности снабжения;
m) система подотчетности, в которой излагаются обязанности руководства и иного персонала в отношении всех аспектов настоящего пункта.
2. Исполнение аспектов, указанных в части 1, должно быть соразмерно масштабу организации поставщика. Поставщики в любом случае должны соблюдать строгость и уровень защиты, необходимые для гарантии того, что их системы ИИ с высоким уровнем риска соответствуют настоящему регламенту.
3. Поставщики систем ИИ с высоким уровнем риска, на которых распространяются обязательства в отношении систем управления качеством или эквивалентной функции в силу соответствующего секторального права Союза, могут включить аспекты, упомянутые в части 1, в качестве составной части систем управления качеством, установленных на основании этого права.
4. Для поставщиков, которые в качестве финансовых организаций подпадают под требования, касающиеся их внутреннего управления, регламентов или процессов в силу соответствующего права Союза в области финансовых услуг, за исключением пункта 1, подпунктов g), h) и i) настоящей статьи, обязательство по внедрению системы управления качеством считается выполненным при соблюдении правил, касающихся внутреннего управления, регламентов или процессов в силу соответствующего права Союза в области финансовых услуг. С этой целью принимаются во внимание любые гармонизированные стандарты, упомянутые в статье 40.
1. Aanbieders van AI-systemen met een hoog risico voorzien in een systeem voor kwaliteitsbeheer dat de naleving van deze verordening waarborgt. Dit systeem wordt op systematische en ordelijke wijze gedocumenteerd in de vorm van schriftelijke beleidslijnen, procedures en instructies en omvat ten minste de volgende aspecten:
a) een strategie voor de naleving van de regelgeving, inclusief de naleving van de conformiteitsbeoordelingsprocedures en de procedures voor het beheer van de wijzigingen van het AI-systeem met een hoog risico;
b) technieken, procedures en systematische maatregelen die moeten worden toegepast voor het ontwerp, de controle van het ontwerp en de verificatie van het ontwerp van het AI-systeem met een hoog risico;
c) technieken, procedures en systematische maatregelen die moeten worden toegepast voor de ontwikkeling, de kwaliteitscontrole en de kwaliteitsborging van het AI-systeem met een hoog risico;
d) procedures voor het inspecteren, testen en valideren die vóór, tijdens en na de ontwikkeling van het AI-systeem met een hoog risico moeten worden uitgevoerd en de regelmaat waarmee zij moeten worden uitgevoerd;
e) technische specificaties, met inbegrip van normen, die moeten worden toegepast en, wanneer de relevante geharmoniseerde normen niet volledig worden toegepast of geen betrekking hebben op alle relevante eisen van afdeling 2, de middelen die worden gebruikt om ervoor te zorgen dat het AI-systeem met een hoog risico in overeenstemming is met deze eisen;
f) systemen en procedures voor databeheer, met inbegrip van dataverwerving, -verzameling, -analyse, -labeling, -opslag, -zuivering, -aggregatie en -behoud en datamining en eventuele andere operaties met betrekking tot de data die worden uitgevoerd voorafgaand aan en met het oog op het in de handel brengen of in gebruik stellen van AI-systemen met een hoog risico;
g) het systeem voor risicobeheer zoals bedoeld in artikel 9;
h) het opzetten, toepassen en onderhouden van een systeem voor monitoring na het in de handel brengen, overeenkomstig artikel 72;
i) procedures in verband met het melden van een ernstig incident in overeenstemming met artikel 73;
j) de communicatie met nationale bevoegde autoriteiten, andere relevante autoriteiten, met inbegrip van autoriteiten die de toegang tot data verlenen of ondersteunen, aangemelde instanties, andere operatoren, klanten of andere belanghebbenden;
k) systemen en procedures voor de registratie van alle relevante documentatie en informatie;
l) het beheer van hulpmiddelen, met inbegrip van maatregelen in verband met de voorzieningszekerheid;
m) een kader voor de verantwoording, waarin de verantwoordelijkheden van het management en ander personeel uiteen worden gezet met betrekking tot alle aspecten van dit lid.
2. De uitvoering van de in lid 1 bedoelde aspecten is evenredig aan de omvang van de organisatie van de aanbieder. Aanbieders voldoen hoe dan ook aan de striktheid en het beschermingsniveau die nodig zijn om te garanderen dat hun AI-systemen met een hoog risico aan deze verordening voldoen.
3. Aanbieders van AI-systemen met een hoog risico die onderworpen zijn aan verplichtingen met betrekking tot kwaliteitsbeheersystemen of een gelijkwaardige functie uit hoofde van het desbetreffende sectorale Unierecht, kunnen de in lid 1 genoemde aspecten opnemen als onderdeel van de op grond van dat recht vastgestelde kwaliteitsbeheersystemen.
4. Voor aanbieders die in de hoedanigheid van financiële instellingen onderworpen zijn aan eisen met betrekking tot hun interne governance, regelingen of processen uit hoofde van het desbetreffende Unierecht inzake financiële diensten, wordt met uitzondering van lid 1, punten g), h) en i), van dit artikel de verplichting een systeem voor kwaliteitsbeheer in te voeren geacht te zijn vervuld door te voldoen aan de regels inzake interne governance, regelingen of processen uit hoofde van het desbetreffende Unierecht inzake financiële diensten. Daartoe wordt rekening gehouden met eventuele geharmoniseerde normen als bedoeld in artikel 40.