Законодательство Нидерландов

Статья 13

действует

СИСТЕМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА С ВЫСОКИМ УРОВНЕМ РИСКА

Регламент (ЕС) 2024/1689 — Закон об искусственном интеллекте · Глава 3 · Редакция действует с None

Оригинал

1. Системы ИИ с высоким уровнем риска проектируются и разрабатываются таким образом, чтобы их функционирование было достаточно прозрачным для того, чтобы позволить ответственным пользователям интерпретировать результаты работы системы и использовать их надлежащим образом. Надлежащий вид и степень прозрачности обеспечиваются в целях соблюдения соответствующих обязательств поставщика и ответственного пользователя, как это изложено в разделе 3.

2. Высокорискованные системы ИИ сопровождаются инструкциями по применению в надлежащем цифровом или ином формате, содержащими краткую, полную, точную и ясную информацию, которая является релевантной, доступной и понятной для лиц, ответственных за использование.

3. Инструкции по применению должны содержать как минимум следующие сведения:

а) сведения об идентификации и контактные данные поставщика, а в соответствующих случаях — его уполномоченного представителя;

b) характеристики, возможности и ограничения эксплуатационных показателей высокорисковой системы ИИ, включая: i) предполагаемое назначение; ii) уровень точности, включая критерии оценки, устойчивость и кибербезопасность, как указано в статье 15, применительно к которым высокорисковая система ИИ была протестирована и валидирована и которые могут быть обоснованно ожидаемы, а также любые известные и предсказуемые обстоятельства, которые могут повлиять на этот ожидаемый уровень точности, устойчивости и кибербезопасности; iii) любые известные или предсказуемые обстоятельства, связанные с использованием высокорисковой системы ИИ в соответствии с её предполагаемым назначением или в ситуации разумно предсказуемого неправомерного использования, которые могут привести к рискам для здоровья и безопасности или основных прав, как указано в статье 9, параграф 2; iv) в соответствующих случаях, технические возможности и характеристики высокорисковой системы ИИ по предоставлению информации, необходимой для пояснения результатов её работы; v) в соответствующих случаях, её эксплуатационные показатели в отношении конкретных лиц или групп лиц, для которых система предназначена к использованию; vi) в соответствующих случаях, спецификации входных данных или любая иная релевантная информация, касающаяся наборов данных, использованных для обучения, валидации и тестирования, с учётом предполагаемого назначения высокорисковой системы ИИ; vii) в соответствующих случаях, информацию, позволяющую лицам, ответственным за эксплуатацию, интерпретировать результаты работы высокорисковой системы ИИ и использовать их надлежащим образом;

i) het beoogde doel;

ii) степень точности, включая критерии оценки, устойчивость и кибербезопасность, как указано в статье 15, на соответствие которым высокорисковая система искусственного интеллекта была протестирована и валидирована и которые могут быть обоснованно ожидаемы, а также любые известные и предвидимые обстоятельства, которые могут оказать влияние на эту ожидаемую степень точности, устойчивости и кибербезопасности;

iii) любые известные или предвидимые обстоятельства, связанные с использованием высокорисковой системы ИИ в соответствии с её предполагаемым назначением или в ситуации разумно предвидимого неправомерного использования, которые могут привести к рискам для здоровья и безопасности или основных прав, как указано в статье 9, части 2;

iv) в соответствующих случаях, технические возможности и характеристики высокорисковой системы ИИ для предоставления информации, имеющей значение для пояснения результатов её работы;

v) в соответствующих случаях, его характеристики применительно к конкретным лицам или группам лиц, для которых должна использоваться данная система;

vi) в соответствующих случаях — спецификации входных данных или любая иная релевантная информация, касающаяся наборов данных, используемых для обучения, валидации и тестирования, с учетом предполагаемого назначения высокорисковой системы искусственного интеллекта;

vii) в соответствующих случаях — информация, позволяющая лицам, ответственным за использование, интерпретировать результаты работы системы искусственного интеллекта с высоким уровнем риска и использовать их надлежащим образом;

c) изменения в системе ИИ с высоким уровнем риска и показатели её эффективности, предварительно определённые поставщиком на момент проведения первоначальной оценки соответствия, если применимо;

d) меры по обеспечению контроля со стороны человека, указанные в статье 14, включая технические меры, принятые для облегчения интерпретации результатов работы систем искусственного интеллекта с высоким уровнем риска лицами, ответственными за их использование;

e) необходимые вычислительные мощности и аппаратное обеспечение, ожидаемый срок службы высокорисковой системы ИИ и любые необходимые меры — а также периодичность их проведения — по техническому обслуживанию и уходу для обеспечения надлежащего функционирования данной системы ИИ, в том числе в связи с обновлением программного обеспечения;

f) в соответствующих случаях — описание механизмов в системе искусственного интеллекта с высоким уровнем риска, которые позволяют лицам, ответственным за использование, надлежащим образом собирать, хранить и интерпретировать журналы регистрации в соответствии со статьей 12.

1. AI-systemen met een hoog risico worden op zodanige wijze ontworpen en ontwikkeld dat de werking ervan voldoende transparant is om gebruiksverantwoordelijken in staat te stellen de output van een systeem te interpreteren en op passende wijze te gebruiken. Een passende soort en mate van transparantie wordt gewaarborgd met het oog op de naleving van de relevante verplichtingen van de aanbieder en de gebruiksverantwoordelijke zoals uiteengezet in afdeling 3.

2. AI-systemen met een hoog risico gaan vergezeld van gebruiksinstructies in een passend digitaal of ander formaat dat beknopte, volledige, juiste en duidelijke informatie bevat die relevant, toegankelijk en begrijpelijk is voor gebruiksverantwoordelijken.

3. De gebruiksinstructies bevatten ten minste de volgende gegevens:

a) de identiteit en de contactgegevens van de aanbieder en, in voorkomend geval, van zijn gemachtigde;

b) de kenmerken, capaciteiten en beperkingen van de prestaties van het AI-systeem met een hoog risico, waaronder: i) het beoogde doel; ii) de mate van nauwkeurigheid, waaronder de beoordelingsmaatstaven, robuustheid en cyberbeveiliging als bedoeld in artikel 15 waarop het AI-systeem met een hoog risico is getest en gevalideerd en die kan worden verwacht, en eventuele bekende en te voorziene omstandigheden die een effect kunnen hebben op die verwachte mate van nauwkeurigheid, robuustheid en cyberbeveiliging; iii) eventuele bekende of te voorziene omstandigheden in verband met het gebruik van het AI-systeem met een hoog risico in overeenstemming met het beoogde doel ervan of in een situatie van redelijkerwijs te voorzien misbruik, die kunnen leiden tot risico’s voor de gezondheid en veiligheid of de grondrechten als bedoeld in artikel 9, lid 2; iv) in voorkomend geval, de technische capaciteiten en kenmerken van het AI-systeem met een hoog risico om informatie te verstrekken die relevant is om de output ervan toe te lichten; v) in voorkomend geval, zijn prestaties met betrekking tot specifieke personen of groepen personen voor wie het systeem moet worden gebruikt; vi) in voorkomend geval, specificaties voor de inputdata of eventuele andere relevante informatie met betrekking tot de gebruikte datasets voor training, validatie en tests, rekening houdend met het beoogde doel van het AI-systeem met een hoog risico; vii) in voorkomend geval, informatie om de gebruiksverantwoordelijken in staat te stellen de output van het AI-systeem met een hoog risico te interpreteren en op passende wijze te gebruiken;

i) het beoogde doel;

ii) de mate van nauwkeurigheid, waaronder de beoordelingsmaatstaven, robuustheid en cyberbeveiliging als bedoeld in artikel 15 waarop het AI-systeem met een hoog risico is getest en gevalideerd en die kan worden verwacht, en eventuele bekende en te voorziene omstandigheden die een effect kunnen hebben op die verwachte mate van nauwkeurigheid, robuustheid en cyberbeveiliging;

iii) eventuele bekende of te voorziene omstandigheden in verband met het gebruik van het AI-systeem met een hoog risico in overeenstemming met het beoogde doel ervan of in een situatie van redelijkerwijs te voorzien misbruik, die kunnen leiden tot risico’s voor de gezondheid en veiligheid of de grondrechten als bedoeld in artikel 9, lid 2;

iv) in voorkomend geval, de technische capaciteiten en kenmerken van het AI-systeem met een hoog risico om informatie te verstrekken die relevant is om de output ervan toe te lichten;

v) in voorkomend geval, zijn prestaties met betrekking tot specifieke personen of groepen personen voor wie het systeem moet worden gebruikt;

vi) in voorkomend geval, specificaties voor de inputdata of eventuele andere relevante informatie met betrekking tot de gebruikte datasets voor training, validatie en tests, rekening houdend met het beoogde doel van het AI-systeem met een hoog risico;

vii) in voorkomend geval, informatie om de gebruiksverantwoordelijken in staat te stellen de output van het AI-systeem met een hoog risico te interpreteren en op passende wijze te gebruiken;

c) de wijzigingen van het AI-systeem met een hoog risico en de prestaties ervan die vooraf door de aanbieder zijn bepaald op het moment van de eerste conformiteitsbeoordeling, indien van toepassing;

d) de in artikel 14 bedoelde maatregelen voor menselijk toezicht, met inbegrip van de technische maatregelen die zijn getroffen om de interpretatie van de output van de AI-systemen met een hoog risico door gebruiksverantwoordelijken te vergemakkelijken;

e) de benodigde rekenkracht en hardware, de verwachte levensduur van het AI-systeem met een hoog risico en eventuele noodzakelijke maatregelen — en de frequentie daarvan — voor onderhoud en verzorging ter waarborging van de goede werking van dat AI-systeem, ook in verband met software-updates;

f) in voorkomend geval, een beschrijving van de mechanismen in het AI-systeem met een hoog risico die gebruiksverantwoordelijken in staat stellen de logs naar behoren te verzamelen, op te slaan en te interpreteren overeenkomstig artikel 12.