Статья 12
действуетСИСТЕМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА С ВЫСОКИМ УРОВНЕМ РИСКА
1. Высокорискованные системы ИИ технически спроектированы таким образом, что события, происходящие в течение жизненного цикла системы, регистрируются автоматически («журналы регистрации»).
2. В целях обеспечения того, чтобы функционирование высокорискованной системы искусственного интеллекта имело уровень прослеживаемости, соответствующий предполагаемому назначению системы, функции ведения журналов (logging) позволяют регистрировать события, которые являются значимыми для:
а) идентификация ситуаций, которые могут привести к тому, что высокорискованная система ИИ создаст риск в значении статьи 79, части 1, или к возникновению существенного изменения;
b) содействие мониторингу после выпуска в обращение, указанному в статье 72, и
c) мониторинг функционирования систем искусственного интеллекта с высоким уровнем риска, указанных в статье 26, части 5.
3. Для систем искусственного интеллекта с высоким уровнем риска, как указано в пункте 1, подпункте а), приложения III, возможности ведения журналов (логирования) обеспечивают как минимум:
а) регистрация продолжительности каждого использования системы (дата и время начала, а также дата и время окончания каждого использования);
b) эталонная база данных, на основании которой входные данные были проверены системой;
c) входные данные, в отношении которых поисковый запрос привел к совпадению;
d) идентификация физических лиц, участвующих в проверке результатов, как предусмотрено в статье 14, часть 5.
1. AI-systemen met een hoog risico zijn dusdanig technisch vormgegeven dat gebeurtenissen gedurende de levenscyclus van het systeem automatisch worden geregistreerd (“logs”).
2. Teneinde ervoor te zorgen dat de werking van het AI-systeem met een hoog risico een niveau van traceerbaarheid heeft dat passend is voor het beoogde doel van het systeem, maken loggingfuncties het mogelijk om gebeurtenissen te registreren die relevant zijn ter:
a) identificatie van situaties die ertoe kunnen leiden dat het AI-systeem met een hoog risico een risico vormt in de zin van artikel 79, lid 1, of dat er een substantiële wijziging optreedt;
b) facilitering van de in artikel 72 bedoelde monitoring na het in de handel brengen, en
c) monitoring van de werking van in artikel 26, lid 5, bedoelde AI-systemen met een hoog risico.
3. Voor AI-systemen met een hoog risico als bedoeld in punt 1, a), van bijlage III voorzien de loggingcapaciteiten ten minste in:
a) de registratie van de duur van elk gebruik van het systeem (begindatum en -tijd en einddatum en -tijd van elk gebruik);
b) de referentiedatabank aan de hand waarvan de inputdata zijn gecontroleerd door het systeem;
c) de inputdata ten aanzien waarvan de zoekopdracht een match heeft opgeleverd;
d) de identificatie van de natuurlijke personen die betrokken zijn bij de verificatie van de resultaten, zoals bedoeld in artikel 14, lid 5.