Статья 7
действуетСИСТЕМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА С ВЫСОКИМ УРОВНЕМ РИСКА
1. Комиссия уполномочена в соответствии со статьей 97 принимать делегированные акты о внесении изменений в Приложение III путем добавления к нему или изменения вариантов использования систем ИИ с высоким уровнем риска, если соблюдены оба следующих условия:
а) системы ИИ предназначены для использования в одной из областей, указанных в приложении III;
b) системы ИИ создают риск причинения вреда здоровью и безопасности или неблагоприятного воздействия на основные права, и этот риск равен или превышает риск причинения вреда или неблагоприятного воздействия, создаваемый системами ИИ с высоким уровнем риска, которые уже включены в приложение III.
2. При оценке условия, предусмотренного пунктом b) части 1, Комиссия принимает во внимание следующие критерии:
а) предполагаемая цель системы ИИ;
b) степень, в которой система искусственного интеллекта была использована или, вероятно, будет использована;
c) характер и объем данных, которые система ИИ обрабатывает и использует, в частности, обрабатываются ли особые категории персональных данных;
d) степень, в которой система ИИ действует автономно, и возможность для человека отменить решения или рекомендации, которые могут привести к причинению вреда;
e) степень, в которой использование системы ИИ уже причинило вред здоровью и безопасности или повлекло за собой неблагоприятные последствия для основных прав, либо послужило поводом для серьезных опасений в связи с вероятностью возникновения такого вреда или неблагоприятных последствий, что подтверждается, например, отчетами или документально подтвержденными заявлениями, поданными в национальные компетентные органы, или, в соответствующих случаях, другими отчетами;
f) потенциальный масштаб такого ущерба или таких неблагоприятных последствий, в частности, в том, что касается их интенсивности и возможности того, что пострадает несколько лиц или что определенная группа лиц будет затронута непропорционально;
g) степень, в которой потенциально пострадавшие или ущемленные в своих правах лица зависят от результата, полученного с помощью системы ИИ, в частности, в силу того, что по практическим или юридическим причинам отказ от данного результата не представляется разумно возможным;
h) степень, в которой имеет место дисбаланс сил, или находятся ли потенциально пострадавшие или ущемленные лица в уязвимом положении по отношению к лицу, ответственному за использование системы искусственного интеллекта, в частности вследствие статуса, авторитета, знаний, экономических или социальных обстоятельств либо возраста;
i) степень, в которой результат, полученный с участием системы искусственного интеллекта, не может быть легко исправлен или отменен, с учетом доступных технических решений для исправления или отмены такого результата, при этом результаты, оказывающие неблагоприятное воздействие на здоровье, безопасность или основные права, не считаются легко поддающимися исправлению или отмене;
j) объем и вероятность выгоды, которую влечет за собой использование системы ИИ для физических лиц, групп или общества в целом, включая возможные улучшения в области безопасности продукции;
k) степень, в которой существующим правом Союза предусмотрены: i) эффективные меры для подачи апелляции в связи с рисками, связанными с системой ИИ, за исключением исков о возмещении ущерба; ii) эффективные меры по предотвращению или существенному ограничению данных рисков.
i) эффективные меры для подачи апелляции в связи с рисками, связанными с системой ИИ, за исключением исков о возмещении ущерба;
ii) эффективные меры по предотвращению или существенному ограничению данных рисков.
3. Комиссия уполномочена в соответствии со статьей 97 принимать делегированные акты о внесении изменений в Приложение III путем исключения высокорисковых систем ИИ, если соблюдены оба следующих условия:
а) соответствующая система ИИ с высоким уровнем риска, с учетом критериев, указанных в пункте 2, не представляет значительного риска для основных прав, здоровья или безопасности;
b) исключение не приводит к снижению общего уровня защиты в отношении здоровья, безопасности и основных прав в соответствии с правом Союза.
1. De Commissie is bevoegd overeenkomstig artikel 97 gedelegeerde handelingen vast te stellen tot wijziging van bijlage III door hieraan gebruiksgevallen van AI-systemen met een hoog risico toe te voegen of te wijzigen wanneer aan beide van de volgende voorwaarden is voldaan:
a) de AI-systemen zijn bedoeld om te worden gebruikt op een van de gebieden als bedoeld in bijlage III;
b) de AI-systemen vormen een risico op schade voor de gezondheid en veiligheid, of nadelige effecten op de grondrechten, en dat risico is gelijk aan of groter dan het risico op schade of nadelige effecten dat wordt gevormd door de AI-systemen met een hoog risico die reeds zijn opgenomen in bijlage III.
2. Bij de beoordeling van de voorwaarde van lid 1, punt b), houdt de Commissie rekening met de volgende criteria:
a) het beoogde doel van het AI-systeem;
b) de mate waarin een AI-systeem is gebruikt of waarschijnlijk zal worden gebruikt;
c) de aard van en de hoeveelheid gegevens die het AI-systeem verwerkt en gebruikt, met name of bijzondere categorieën persoonsgegevens worden verwerkt;
d) de mate waarin het AI-systeem autonoom handelt en de mogelijkheid voor een mens om beslissingen of aanbevelingen die tot schade kunnen leiden terzijde te schuiven;
e) de mate waarin het gebruik van een AI-systeem reeds schade voor de gezondheid en veiligheid of nadelige effecten op de grondrechten heeft veroorzaakt of aanleiding heeft gegeven tot aanzienlijke zorgen in verband met de waarschijnlijkheid van dergelijke schade of nadelige effecten, zoals aangetoond bijvoorbeeld door verslagen of gedocumenteerde beweringen die zijn ingediend bij de nationale bevoegde autoriteiten of, in voorkomend geval, door andere verslagen;
f) de potentiële omvang van dergelijke schade of dergelijke nadelige effecten, met name wat betreft de intensiteit ervan en de mogelijkheid dat meerdere personen worden getroffen of dat een bepaalde groep personen onevenredig wordt getroffen;
g) de mate waarin potentieel geschade of nadelig getroffen personen afhankelijk zijn van de aan de hand van een AI-systeem geproduceerde uitkomst, met name omdat het om praktische of juridische redenen niet redelijkerwijs mogelijk is om van deze uitkomst af te zien;
h) de mate waarin sprake is van een onevenwichtige machtsverhouding, of de potentieel geschade of nadelig getroffen personen zich in een kwetsbare positie bevinden ten opzichte van de gebruiksverantwoordelijke van een AI-systeem, met name als gevolg van status, autoriteit, kennis, economische of sociale omstandigheden of leeftijd;
i) de mate waarin de geproduceerde uitkomst waarbij een AI-systeem betrokken is niet gemakkelijk kan worden rechtgezet of omgekeerd, rekening houdend met de beschikbare technische oplossingen om die uitkomst recht te zetten of om te keren, waarbij van uitkomsten die nadelige effecten hebben op de gezondheid, veiligheid of grondrechten, niet wordt beschouwd dat zij eenvoudig kunnen worden rechtgezet of omgekeerd;
j) de omvang en waarschijnlijkheid van het voordeel dat het inzetten van het AI-systeem voor natuurlijke personen, groepen of de samenleving in het algemeen, met inbegrip van mogelijke verbeteringen op het gebied van productveiligheid, met zich meebrengt;
k) de mate waarin in het bestaande Unierecht is voorzien in: i) doeltreffende maatregelen om beroep aan te tekenen in verband met de risico’s van een AI-systeem, met uitzondering van vorderingen tot schadevergoeding; ii) doeltreffende maatregelen om deze risico’s te voorkomen of aanzienlijk te beperken.
i) doeltreffende maatregelen om beroep aan te tekenen in verband met de risico’s van een AI-systeem, met uitzondering van vorderingen tot schadevergoeding;
ii) doeltreffende maatregelen om deze risico’s te voorkomen of aanzienlijk te beperken.
3. De Commissie is bevoegd overeenkomstig artikel 97 gedelegeerde handelingen vast te stellen tot wijziging van bijlage III door AI-systemen met een hoog risico te schrappen wanneer aan beide van de volgende voorwaarden is voldaan:
a) het betrokken AI-systeem met een hoog risico vormt, rekening houdend met de in lid 2 vermelde criteria, geen significant risico voor de grondrechten, de gezondheid of de veiligheid;
b) de schrapping leidt niet tot een lager algeheel beschermingsniveau wat betreft de gezondheid, de veiligheid en de grondrechten uit hoofde van het Unierecht.