Стаття 7
чиннаСИСТЕМИ ШТУЧНОГО ІНТЕЛЕКТУ З ВИСОКИМ РИЗИКОМ
1. Комісія уповноважена відповідно до статті 97 ухвалювати делеговані акти щодо внесення змін до додатка III шляхом додавання до нього або зміни варіантів використання систем ШІ з високим рівнем ризику, якщо дотримано обох наступних умов:
а) системи штучного інтелекту призначені для використання в одній із сфер, зазначених у додатку III;
b) системи штучного інтелекту становлять ризик заподіяння шкоди здоров’ю та безпеці або негативного впливу на основні права, і такий ризик є рівним або більшим за ризик заподіяння шкоди чи негативного впливу, що становлять системи штучного інтелекту з високим рівнем ризику, які вже включені до додатка III.
2. При оцінці умови, передбаченої пунктом b) частини 1, Комісія бере до уваги такі критерії:
а) передбачувана мета системи штучного інтелекту;
b) ступінь, у якому використовується або, ймовірно, буде використовуватися система штучного інтелекту;
c) характер та обсяг даних, які система штучного інтелекту обробляє та використовує, зокрема, чи здійснюється обробка особливих категорій персональних даних;
d) ступінь, у якому система штучного інтелекту діє автономно, та можливість для людини скасувати рішення або рекомендації, що можуть призвести до шкоди;
e) ступінь, у якому використання системи штучного інтелекту вже спричинило шкоду здоров’ю та безпеці або негативні наслідки для основних прав, чи стало підставою для значного занепокоєння у зв’язку з імовірністю виникнення такої шкоди або негативних наслідків, як це продемонстровано, наприклад, звітами або задокументованими твердженнями, поданими до національних компетентних органів, або, у відповідних випадках, іншими звітами;
f) потенційний обсяг такої шкоди або таких несприятливих наслідків, зокрема щодо їхньої інтенсивності та можливості того, що постраждає декілька осіб або що певна група осіб зазнає непропорційного впливу;
g) ступінь, у якому потенційно постраждалі або такі, що зазнали збитків, особи залежать від результату, отриманого за допомогою системи штучного інтелекту, зокрема через те, що з практичних або юридичних причин неможливо обґрунтовано відмовитися від цього результату;
h) ступінь, у якому наявний дисбаланс у відносинах влади, або чи перебувають потенційно постраждалі чи такі, що зазнали шкоди, особи у вразливому становищі стосовно особи, відповідальної за використання системи штучного інтелекту, зокрема внаслідок статусу, авторитету, знань, економічних чи соціальних обставин або віку;
i) ступінь, у якому результат, отриманий за участю системи штучного інтелекту, не може бути легко виправлений або скасований, з урахуванням наявних технічних рішень для виправлення або скасування такого результату, при цьому результати, що мають негативний вплив на здоров’я, безпеку або основоположні права, не вважаються такими, що можуть бути легко виправлені або скасовані;
j) обсяг та ймовірність вигоди, яку тягне за собою застосування системи штучного інтелекту для фізичних осіб, груп або суспільства в цілому, включаючи можливі покращення у сфері безпеки продукції;
k) ступінь, у якому чинним правом Союзу передбачено: i) ефективні заходи для подання апеляції у зв’язку з ризиками, пов’язаними із системою ШІ, за винятком позовів про відшкодування шкоди; ii) ефективні заходи для запобігання цим ризикам або їх суттєвого обмеження.
i) ефективні заходи для подання апеляції у зв’язку з ризиками, пов’язаними із системою штучного інтелекту, за винятком позовів про відшкодування шкоди;
ii) ефективні заходи для запобігання цим ризикам або їх суттєвого обмеження.
3. Комісія уповноважена відповідно до статті 97 ухвалювати делеговані акти щодо внесення змін до додатка III шляхом виключення високоризикових систем штучного інтелекту, якщо дотримано обидві наступні умови:
а) відповідна високоризикова система штучного інтелекту, з урахуванням критеріїв, зазначених у частині 2, не становить значного ризику для основоположних прав, здоров’я або безпеки;
b) виключення не призводить до зниження загального рівня захисту щодо здоров’я, безпеки та основоположних прав згідно з правом Союзу.
1. De Commissie is bevoegd overeenkomstig artikel 97 gedelegeerde handelingen vast te stellen tot wijziging van bijlage III door hieraan gebruiksgevallen van AI-systemen met een hoog risico toe te voegen of te wijzigen wanneer aan beide van de volgende voorwaarden is voldaan:
a) de AI-systemen zijn bedoeld om te worden gebruikt op een van de gebieden als bedoeld in bijlage III;
b) de AI-systemen vormen een risico op schade voor de gezondheid en veiligheid, of nadelige effecten op de grondrechten, en dat risico is gelijk aan of groter dan het risico op schade of nadelige effecten dat wordt gevormd door de AI-systemen met een hoog risico die reeds zijn opgenomen in bijlage III.
2. Bij de beoordeling van de voorwaarde van lid 1, punt b), houdt de Commissie rekening met de volgende criteria:
a) het beoogde doel van het AI-systeem;
b) de mate waarin een AI-systeem is gebruikt of waarschijnlijk zal worden gebruikt;
c) de aard van en de hoeveelheid gegevens die het AI-systeem verwerkt en gebruikt, met name of bijzondere categorieën persoonsgegevens worden verwerkt;
d) de mate waarin het AI-systeem autonoom handelt en de mogelijkheid voor een mens om beslissingen of aanbevelingen die tot schade kunnen leiden terzijde te schuiven;
e) de mate waarin het gebruik van een AI-systeem reeds schade voor de gezondheid en veiligheid of nadelige effecten op de grondrechten heeft veroorzaakt of aanleiding heeft gegeven tot aanzienlijke zorgen in verband met de waarschijnlijkheid van dergelijke schade of nadelige effecten, zoals aangetoond bijvoorbeeld door verslagen of gedocumenteerde beweringen die zijn ingediend bij de nationale bevoegde autoriteiten of, in voorkomend geval, door andere verslagen;
f) de potentiële omvang van dergelijke schade of dergelijke nadelige effecten, met name wat betreft de intensiteit ervan en de mogelijkheid dat meerdere personen worden getroffen of dat een bepaalde groep personen onevenredig wordt getroffen;
g) de mate waarin potentieel geschade of nadelig getroffen personen afhankelijk zijn van de aan de hand van een AI-systeem geproduceerde uitkomst, met name omdat het om praktische of juridische redenen niet redelijkerwijs mogelijk is om van deze uitkomst af te zien;
h) de mate waarin sprake is van een onevenwichtige machtsverhouding, of de potentieel geschade of nadelig getroffen personen zich in een kwetsbare positie bevinden ten opzichte van de gebruiksverantwoordelijke van een AI-systeem, met name als gevolg van status, autoriteit, kennis, economische of sociale omstandigheden of leeftijd;
i) de mate waarin de geproduceerde uitkomst waarbij een AI-systeem betrokken is niet gemakkelijk kan worden rechtgezet of omgekeerd, rekening houdend met de beschikbare technische oplossingen om die uitkomst recht te zetten of om te keren, waarbij van uitkomsten die nadelige effecten hebben op de gezondheid, veiligheid of grondrechten, niet wordt beschouwd dat zij eenvoudig kunnen worden rechtgezet of omgekeerd;
j) de omvang en waarschijnlijkheid van het voordeel dat het inzetten van het AI-systeem voor natuurlijke personen, groepen of de samenleving in het algemeen, met inbegrip van mogelijke verbeteringen op het gebied van productveiligheid, met zich meebrengt;
k) de mate waarin in het bestaande Unierecht is voorzien in: i) doeltreffende maatregelen om beroep aan te tekenen in verband met de risico’s van een AI-systeem, met uitzondering van vorderingen tot schadevergoeding; ii) doeltreffende maatregelen om deze risico’s te voorkomen of aanzienlijk te beperken.
i) doeltreffende maatregelen om beroep aan te tekenen in verband met de risico’s van een AI-systeem, met uitzondering van vorderingen tot schadevergoeding;
ii) doeltreffende maatregelen om deze risico’s te voorkomen of aanzienlijk te beperken.
3. De Commissie is bevoegd overeenkomstig artikel 97 gedelegeerde handelingen vast te stellen tot wijziging van bijlage III door AI-systemen met een hoog risico te schrappen wanneer aan beide van de volgende voorwaarden is voldaan:
a) het betrokken AI-systeem met een hoog risico vormt, rekening houdend met de in lid 2 vermelde criteria, geen significant risico voor de grondrechten, de gezondheid of de veiligheid;
b) de schrapping leidt niet tot een lager algeheel beschermingsniveau wat betreft de gezondheid, de veiligheid en de grondrechten uit hoofde van het Unierecht.