Стаття 17
чиннаСИСТЕМИ ШТУЧНОГО ІНТЕЛЕКТУ З ВИСОКИМ РИЗИКОМ
1. Постачальники систем штучного інтелекту з високим рівнем ризику забезпечують функціонування системи управління якістю, яка гарантує дотримання вимог цього Регламенту. Ця система документується в систематичний та впорядкований спосіб у формі письмових стратегій, процедур та інструкцій і охоплює принаймні такі аспекти:
а) стратегія дотримання нормативних вимог, включаючи дотримання процедур оцінки відповідності та процедур управління змінами системи штучного інтелекту з високим рівнем ризику;
b) методи, процедури та систематичні заходи, які повинні застосовуватися для проектування, контролю проектування та верифікації проектування системи штучного інтелекту з високим рівнем ризику;
c) методи, процедури та систематичні заходи, які повинні застосовуватися для розробки, контролю якості та забезпечення якості системи штучного інтелекту з високим рівнем ризику;
d) процедури інспектування, тестування та валідації, які повинні здійснюватися до, під час та після розробки системи штучного інтелекту з високим рівнем ризику, а також періодичність їх здійснення;
е) технічні специфікації, включаючи стандарти, які підлягають застосуванню, а також, у випадках, коли відповідні гармонізовані стандарти не застосовуються в повному обсязі або не охоплюють усі відповідні вимоги розділу 2, засоби, що використовуються для забезпечення відповідності системи штучного інтелекту з високим рівнем ризику цим вимогам;
f) системи та процедури управління даними, включаючи отримання, збирання, аналіз, маркування, зберігання, очищення, агрегування та збереження даних, а також інтелектуальний аналіз даних (data mining) та будь-які інші операції з даними, що здійснюються до та з метою введення в обіг або введення в експлуатацію систем штучного інтелекту з високим рівнем ризику;
g) система управління ризиками, як це передбачено статтею 9;
h) створення, застосування та підтримання системи моніторингу після введення в обіг відповідно до статті 72;
i) процедури, пов’язані з повідомленням про серйозний інцидент відповідно до статті 73;
j) комунікація з національними компетентними органами, іншими відповідними органами, включаючи органи, що надають доступ до даних або забезпечують його підтримку, нотифікованими органами, іншими операторами, клієнтами або іншими заінтересованими сторонами;
k) системи та процедури для реєстрації всієї відповідної документації та інформації;
l) управління допоміжними засобами, включаючи заходи, пов’язані із забезпеченням надійності постачання;
m) рамки звітності, у яких викладено обов’язки керівництва та іншого персоналу стосовно всіх аспектів цього пункту.
2. Виконання аспектів, зазначених у частині 1, є пропорційним до розміру організації надавача. Надавачі в будь-якому разі дотримуються суворості та рівня захисту, необхідних для гарантування того, що їхні системи штучного інтелекту з високим рівнем ризику відповідають цьому Регламенту.
3. Постачальники систем штучного інтелекту з високим рівнем ризику, на яких поширюються зобов’язання щодо систем управління якістю або еквівалентної функції відповідно до відповідного секторального права Союзу, можуть включати аспекти, зазначені в частині 1, як частину систем управління якістю, встановлених на підставі цього права.
4. Для надавачів, які як фінансові установи підпадають під вимоги щодо їхнього внутрішнього управління (interne governance), механізмів або процесів згідно з відповідним правом Союзу у сфері фінансових послуг, за винятком пункту 1, підпунктів g), h) та i) цієї статті, обов’язок запровадити систему управління якістю вважається виконаним шляхом дотримання правил щодо внутрішнього управління, механізмів або процесів згідно з відповідним правом Союзу у сфері фінансових послуг. З цією метою враховуються будь-які гармонізовані стандарти, зазначені у статті 40.
1. Aanbieders van AI-systemen met een hoog risico voorzien in een systeem voor kwaliteitsbeheer dat de naleving van deze verordening waarborgt. Dit systeem wordt op systematische en ordelijke wijze gedocumenteerd in de vorm van schriftelijke beleidslijnen, procedures en instructies en omvat ten minste de volgende aspecten:
a) een strategie voor de naleving van de regelgeving, inclusief de naleving van de conformiteitsbeoordelingsprocedures en de procedures voor het beheer van de wijzigingen van het AI-systeem met een hoog risico;
b) technieken, procedures en systematische maatregelen die moeten worden toegepast voor het ontwerp, de controle van het ontwerp en de verificatie van het ontwerp van het AI-systeem met een hoog risico;
c) technieken, procedures en systematische maatregelen die moeten worden toegepast voor de ontwikkeling, de kwaliteitscontrole en de kwaliteitsborging van het AI-systeem met een hoog risico;
d) procedures voor het inspecteren, testen en valideren die vóór, tijdens en na de ontwikkeling van het AI-systeem met een hoog risico moeten worden uitgevoerd en de regelmaat waarmee zij moeten worden uitgevoerd;
e) technische specificaties, met inbegrip van normen, die moeten worden toegepast en, wanneer de relevante geharmoniseerde normen niet volledig worden toegepast of geen betrekking hebben op alle relevante eisen van afdeling 2, de middelen die worden gebruikt om ervoor te zorgen dat het AI-systeem met een hoog risico in overeenstemming is met deze eisen;
f) systemen en procedures voor databeheer, met inbegrip van dataverwerving, -verzameling, -analyse, -labeling, -opslag, -zuivering, -aggregatie en -behoud en datamining en eventuele andere operaties met betrekking tot de data die worden uitgevoerd voorafgaand aan en met het oog op het in de handel brengen of in gebruik stellen van AI-systemen met een hoog risico;
g) het systeem voor risicobeheer zoals bedoeld in artikel 9;
h) het opzetten, toepassen en onderhouden van een systeem voor monitoring na het in de handel brengen, overeenkomstig artikel 72;
i) procedures in verband met het melden van een ernstig incident in overeenstemming met artikel 73;
j) de communicatie met nationale bevoegde autoriteiten, andere relevante autoriteiten, met inbegrip van autoriteiten die de toegang tot data verlenen of ondersteunen, aangemelde instanties, andere operatoren, klanten of andere belanghebbenden;
k) systemen en procedures voor de registratie van alle relevante documentatie en informatie;
l) het beheer van hulpmiddelen, met inbegrip van maatregelen in verband met de voorzieningszekerheid;
m) een kader voor de verantwoording, waarin de verantwoordelijkheden van het management en ander personeel uiteen worden gezet met betrekking tot alle aspecten van dit lid.
2. De uitvoering van de in lid 1 bedoelde aspecten is evenredig aan de omvang van de organisatie van de aanbieder. Aanbieders voldoen hoe dan ook aan de striktheid en het beschermingsniveau die nodig zijn om te garanderen dat hun AI-systemen met een hoog risico aan deze verordening voldoen.
3. Aanbieders van AI-systemen met een hoog risico die onderworpen zijn aan verplichtingen met betrekking tot kwaliteitsbeheersystemen of een gelijkwaardige functie uit hoofde van het desbetreffende sectorale Unierecht, kunnen de in lid 1 genoemde aspecten opnemen als onderdeel van de op grond van dat recht vastgestelde kwaliteitsbeheersystemen.
4. Voor aanbieders die in de hoedanigheid van financiële instellingen onderworpen zijn aan eisen met betrekking tot hun interne governance, regelingen of processen uit hoofde van het desbetreffende Unierecht inzake financiële diensten, wordt met uitzondering van lid 1, punten g), h) en i), van dit artikel de verplichting een systeem voor kwaliteitsbeheer in te voeren geacht te zijn vervuld door te voldoen aan de regels inzake interne governance, regelingen of processen uit hoofde van het desbetreffende Unierecht inzake financiële diensten. Daartoe wordt rekening gehouden met eventuele geharmoniseerde normen als bedoeld in artikel 40.