Статья 113
действуетЗАКЛЮЧИТЕЛЬНЫЕ ПОЛОЖЕНИЯ
Настоящий регламент вступает в силу на двадцатый день после дня его опубликования в Официальном журнале Европейского союза.
Она вступает в силу 2 августа 2026 года.
Тем не менее:
а) главы I и II вступают в силу с 2 февраля 2025 года;
b) глава III, отдел 4, глава V, глава VII и глава XII, а также статья 78 применяются с 2 августа 2025 года, за исключением статьи 101;
c) статья 6, пункт 1, и соответствующие обязательства настоящего Регламента применяются начиная со 2 августа 2027 года.
Настоящий регламент является обязательным в полном объеме и подлежит прямому применению в каждом государстве-члене.
Совершено в Брюсселе, 13 июня 2024 года.
Директива 2006/42/ЕС Европейского парламента и Совета от 17 мая 2006 года «О машинах» и о внесении изменений в Директиву 95/16/ЕС (Официальный журнал L 157 от 9.06.2006, стр. 24)
2. Директива 2009/48/ЕС Европейского парламента и Совета от 18 июня 2009 года о безопасности игрушек (Официальный журнал L 170 от 30.06.2009, стр. 1)
3. Директива 2013/53/ЕС Европейского парламента и Совета от 20 ноября 2013 года в отношении прогулочных судов и водных мотоциклов и об отмене Директивы 94/25/ЕС (Официальный журнал L 354 от 28.12.2013, стр. 90)
4. Директива 2014/33/ЕС Европейского парламента и Совета от 26 февраля 2014 года о гармонизации законодательств государств-членов в отношении лифтов и компонентов безопасности для лифтов (Официальный журнал L 96 от 29.03.2014, стр. 251)
5. Директива 2014/34/ЕС Европейского парламента и Совета от 26 февраля 2014 года о гармонизации законодательств государств-членов в отношении оборудования и защитных систем, предназначенных для использования в потенциально взрывоопасных средах (Официальный журнал L 96 от 29.03.2014, стр. 309)
6. Директива 2014/53/ЕС Европейского парламента и Совета от 16 апреля 2014 года о гармонизации законодательств государств-членов в отношении предоставления на рынке радиооборудования и об отмене Директивы 1999/5/ЕС (Официальный журнал L 153 от 22.05.2014, стр. 62)
7. Директива 2014/68/ЕС Европейского парламента и Совета от 15 мая 2014 года о гармонизации законодательств государств-членов в отношении размещения на рынке оборудования, работающего под давлением (Официальный журнал L 189 от 27.06.2014, стр. 164)
8. Регламент (ЕС) 2016/424 Европейского парламента и Совета от 9 марта 2016 года, касающийся канатных дорог и отменяющий Директиву 2000/9/EG (Официальный журнал L 81 от 31.03.2016, стр. 1)
9. Регламент (ЕС) 2016/425 Европейского парламента и Совета от 9 марта 2016 года о средствах индивидуальной защиты и об отмене Директивы Совета 89/686/ЕЭС (Официальный журнал L 81 от 31.03.2016, стр. 51)
10. Регламент (ЕС) 2016/426 Европейского парламента и Совета от 9 марта 2016 года о приборах, работающих на газообразном топливе, и об отмене Директивы 2009/142/ЕС (Официальный журнал L 81 от 31.03.2016, стр. 99)
11. Регламент (ЕС) 2017/745 Европейского парламента и Совета от 5 апреля 2017 года о медицинских изделиях, о внесении изменений в Директиву 2001/83/ЕС, Регламент (ЕС) № 178/2002 и Регламент (ЕС) № 1223/2009, а также об отмене Директив Совета 90/385/ЕЭС и 93/42/ЕЭС (Официальный журнал L 117 от 5.05.2017, стр. 1)
12. Регламент (ЕС) 2017/746 Европейского парламента и Совета от 5 апреля 2017 года о медицинских изделиях для диагностики in vitro и об отмене Директивы 98/79/EG и Решения Комиссии 2010/227/EU (Официальный журнал L 117 от 5.5.2017, стр. 176)
13. Регламент (ЕС) № 300/2008 Европейского парламента и Совета от 11 марта 2008 года об общих правилах в области безопасности гражданской авиации и об отмене Регламента (ЕС) № 2320/2002 (Официальный журнал L 97 от 9.4.2008, стр. 72)
14. Регламент (ЕС) № 168/2013 Европейского парламента и Совета от 15 января 2013 года об утверждении типа и надзоре за рынком двух- или трехколесных транспортных средств и квадрициклов (Официальный журнал L 60 от 2.3.2013, стр. 52)
15. Регламент (ЕС) № 167/2013 Европейского парламента и Совета от 5 февраля 2013 года об утверждении типа сельскохозяйственных и лесохозяйственных транспортных средств и надзоре за рынком таких транспортных средств (Официальный журнал L 60 от 02.03.2013, стр. 1)
16. Директива 2014/90/ЕС Европейского парламента и Совета от 23 июля 2014 года о морском оборудовании и об отмене Директивы Совета 96/98/ЕС (Официальный журнал L 257 от 28.08.2014, стр. 146)
Директива (ЕС) 2016/797 Европейского парламента и Совета от 11 мая 2016 года об интероперабельности железнодорожной системы в Европейском Союзе (Официальный журнал L 138 от 26.05.2016, стр. 44)
18. Регламент (ЕС) 2018/858 Европейского парламента и Совета от 30 мая 2018 года об утверждении типа и надзоре за рынком моторных транспортных средств и их прицепов, а также систем, составных частей и отдельных технических узлов, предназначенных для таких транспортных средств, о внесении изменений в Регламенты (ЕС) № 715/2007 и (ЕС) № 595/2009 и об отмене Директивы 2007/46/ЕС (Официальный журнал L 151 от 14.06.2018, стр. 1)
19. Регламент (ЕС) 2019/2144 Европейского парламента и Совета от 27 ноября 2019 года о требованиях к официальному утверждению типа транспортных средств и их прицепов, а также систем, составных частей и отдельных технических узлов, предназначенных для таких транспортных средств, в отношении их общей безопасности и защиты лиц, находящихся в транспортных средствах, и уязвимых участников дорожного движения, о внесении изменений в Регламент (ЕС) 2018/858 Европейского парламента и Совета и об отмене Регламентов (ЕС) № 78/2009, (ЕС) № 79/2009 и (ЕС) № 661/2009 Европейского парламента и Совета, а также Регламентов (ЕС) № 631/2009, (ЕС) № 406/2010, (ЕС) № 672/2010, (ЕС) № 1003/2010, (ЕС) № 1005/2010, (ЕС) № 1008/2010, (ЕС) № 1009/2010, (ЕС) № 19/2011, (ЕС) № 109/2011, (ЕС) № 458/2011, (ЕС) № 65/2012, (ЕС) № 130/2012, (ЕС) № 347/2012, (ЕС) № 351/2012, (ЕС) № 1230/2012 и (ЕС) 2015/166 Комиссии (Официальный журнал L 325 от 16.12.2019, стр. 1)
20. Регламент (ЕС) 2018/1139 Европейского парламента и Совета от 4 июля 2018 года об общих правилах в области гражданской авиации и об учреждении Агентства Европейского союза по безопасности полетов, а также о внесении изменений в Регламенты (ЕС) № 2111/2005, (ЕС) № 1008/2008, (ЕС) № 996/2010, (ЕС) № 376/2014 и Директивы 2014/30/ЕС и 2014/53/ЕС Европейского парламента и Совета, и об отмене Регламентов (ЕС) № 552/2004 и (ЕС) № 216/2008 Европейского парламента и Совета и Регламента (ЕЭС) № 3922/91 Совета (Официальный журнал L 212 от 22.08.2018, стр. 1), в части, касающейся проектирования, производства и ввода в гражданский оборот воздушных судов, указанных в статье 2, пункте 1, подпунктах a) и b), в отношении беспилотных воздушных судов, а также их двигателей, воздушных винтов, составных частей и оборудования для дистанционного управления воздушным судном.
Уголовно наказуемые деяния, как это предусмотрено в статье 5, часть 1, первый абзац, пункт e), iii):
терроризм
торговля людьми
— сексуальная эксплуатация детей и детская порнография,
— незаконный оборот наркотических средств или психотропных веществ,
— незаконная торговля оружием, боеприпасами или взрывчатыми веществами,
— убийство, умышленное причинение тяжкого вреда здоровью
— незаконная торговля человеческими органами или тканями,
— незаконный оборот ядерных или радиоактивных материалов,
— похищение, незаконное лишение свободы или захват заложников,
— преступления, подпадающие под юрисдикцию Международного уголовного суда,
захват воздушных или морских судов,
изнасилование
экологические преступления
организованная или вооруженная кража
— саботаж,
— участие в преступной организации, причастной к одному или нескольким вышеуказанным уголовно наказуемым деяниям.
Высокорисковые системы ИИ на основании статьи 6, части 2, представляют собой системы ИИ, указанные в следующих областях:
1. Биометрия, в той мере, в какой её использование разрешено на основании применимого права Союза или национального права: а) системы биометрической идентификации на расстоянии. Это не распространяется на системы ИИ, предназначенные для использования в целях биометрической верификации с единственной целью подтверждения того, что конкретное физическое лицо является лицом, за которое оно себя выдает; b) системы ИИ, предназначенные для использования в целях биометрической категоризации на основе чувствительных или защищенных свойств или характеристик, либо на основе того, что выводится из этих свойств или характеристик; c) системы ИИ, предназначенные для использования в целях распознавания эмоций.
а) системы биометрической идентификации на расстоянии. Данное положение не распространяется на системы искусственного интеллекта, предназначенные для использования в целях биометрической верификации, единственной задачей которой является подтверждение того, что конкретное физическое лицо является тем лицом, за которое оно себя выдает;
b) системы ИИ, предназначенные для использования в целях биометрической категоризации на основе чувствительных или защищаемых свойств или характеристик, либо на основе того, что выводится из таких свойств или характеристик;
c) системы ИИ, предназначенные для использования в целях распознавания эмоций.
2. Критическая инфраструктура: системы ИИ, предназначенные для использования в качестве компонента безопасности при управлении или эксплуатации критической цифровой инфраструктуры, дорожного движения или при снабжении водой, газом, тепловой энергией и электроэнергией.
3. Образование и профессиональное обучение: a) системы ИИ, предназначенные для использования при определении доступа или приема, либо при распределении физических лиц в образовательные учреждения и учреждения профессионального обучения всех уровней; b) системы ИИ, предназначенные для использования при оценке результатов обучения, в том числе когда такие результаты используются для управления процессом обучения физических лиц в образовательных учреждениях и учреждениях профессионального обучения всех уровней; c) системы ИИ, предназначенные для использования при оценке надлежащего уровня образования, который лицо будет получать или к которому оно будет иметь доступ в рамках или внутри образовательных учреждений и учреждений профессионального обучения всех уровней; d) системы ИИ, предназначенные для использования при мониторинге и выявлении неправомерного поведения студентов во время проведения проверочных испытаний в контексте или внутри образовательных учреждений и учреждений профессионального обучения всех уровней.
а) системы ИИ, предназначенные для использования в целях определения доступа или приема, либо распределения физических лиц в образовательные учреждения и учреждения профессионального образования всех уровней;
b) системы ИИ, предназначенные для использования в целях оценки результатов обучения, в том числе когда такие результаты используются для управления процессом обучения физических лиц в образовательных учреждениях и учреждениях профессионального образования всех уровней;
c) системы ИИ, предназначенные для использования при оценке надлежащего уровня образования, который лицо получит или к которому оно будет иметь доступ, в рамках или внутри образовательных учреждений и учреждений профессионального образования на всех уровнях;
d) системы ИИ, предназначенные для использования в целях мониторинга и выявления неправомерного поведения студентов во время проведения проверок знаний в контексте или в рамках образовательных учреждений и учреждений профессионального образования всех уровней.
4. Занятость, управление персоналом и доступ к самостоятельной трудовой деятельности: а) системы ИИ, предназначенные для использования при найме или отборе физических лиц, в частности, для размещения целевых вакансий, анализа и фильтрации заявлений о приеме на работу, а также для оценки кандидатов; b) системы ИИ, предназначенные для использования при принятии решений, влияющих на условия трудовых отношений, продвижение по службе или прекращение договорных трудовых отношений, для распределения задач на основе индивидуального поведения или личных качеств или характеристик, либо для мониторинга и оценки эффективности работы и поведения лиц в рамках таких отношений.
а) системы ИИ, предназначенные для использования в целях найма или отбора физических лиц, в частности для размещения целевых вакансий, анализа и фильтрации заявок на трудоустройство, а также для оценки кандидатов;
b) системы ИИ, предназначенные для использования при принятии решений, влияющих на условия трудовых отношений, продвижение по службе или прекращение договорных трудовых отношений, для распределения задач на основе индивидуального поведения или личных качеств или характеристик, либо для мониторинга и оценки эффективности работы и поведения лиц в рамках таких отношений.
5. Доступ к основным частным и публичным услугам и пособиям и их использование: a) системы ИИ, предназначенные для использования государственными органами или от их имени с целью оценки права физических лиц на получение основных государственных пособий и услуг, включая медицинские услуги, или для предоставления, ограничения, отзыва или взыскания таких пособий и услуг; b) системы ИИ, предназначенные для использования при оценке кредитоспособности физических лиц или при определении их кредитного рейтинга, за исключением систем ИИ, используемых для выявления финансового мошенничества; c) системы ИИ, предназначенные для использования при оценке рисков и ценообразовании в отношении физических лиц в случае страхования жизни и медицинского страхования; d) системы ИИ, предназначенные для оценки и классификации экстренных вызовов от физических лиц или для использования при направлении или определении приоритетности направления экстренных служб, включая полицию, пожарную охрану и скорую помощь, а также системы для сортировки (триажа) пациентов, нуждающихся в неотложной медицинской помощи.
а) системы ИИ, предназначенные для использования государственными органами или от их имени в целях оценки права физических лиц на получение основных государственных пособий и услуг, включая медицинские услуги, либо в целях предоставления, ограничения, отзыва или взыскания таких пособий и услуг;
b) системы ИИ, предназначенные для использования при оценке кредитоспособности физических лиц или для определения их кредитного рейтинга, за исключением систем ИИ, используемых для выявления финансовых мошенничеств;
c) системы ИИ, предназначенные для использования в целях оценки рисков и ценообразования в отношении физических лиц в случае страхования жизни и медицинского страхования;
d) системы ИИ, предназначенные для оценки и классификации экстренных вызовов от физических лиц или для использования при направлении либо определении приоритетности направления экстренных служб, включая полицию, пожарную охрану и скорую медицинскую помощь, а также системы для сортировки (триажа) пациентов, нуждающихся в неотложной медицинской помощи.
6. Правоохранительная деятельность, в той мере, в какой ее использование разрешено на основании применимого права Союза или национального права: a) системы искусственного интеллекта, предназначенные для использования правоохранительными органами или от их имени, либо учреждениями, органами или организациями Союза в целях поддержки правоохранительных органов или от их имени, для оценки риска того, что физическое лицо станет жертвой уголовно наказуемых деяний; b) системы искусственного интеллекта, предназначенные для использования правоохранительными органами или от их имени, либо учреждениями, органами или организациями Союза в целях поддержки правоохранительных органов, в качестве детектора лжи или аналогичных инструментов; c) системы искусственного интеллекта, предназначенные для использования правоохранительными органами или от их имени, либо учреждениями, органами или организациями Союза в целях поддержки правоохранительных органов, для оценки достоверности доказательств в ходе расследования или уголовного преследования за уголовно наказуемые деяния; d) системы искусственного интеллекта, предназначенные для использования правоохранительными органами или от их имени, либо учреждениями, органами или организациями Союза в целях поддержки правоохранительных органов, для оценки степени риска того, что физическое лицо совершит (повторно) уголовно наказуемое деяние, не основываясь исключительно на профилировании физических лиц, как это предусмотрено в статье 3, пункте 4, Директивы (ЕС) 2016/680, или для оценки личностных характеристик и качеств, либо предшествующего преступного поведения физических лиц или групп; e) системы искусственного интеллекта, предназначенные для использования правоохранительными органами или от их имени, либо учреждениями, органами и организациями Союза в целях поддержки правоохранительных органов, для профилирования физических лиц, как это предусмотрено в статье 3, пункте 4, Директивы (ЕС) 2016/680, во время выявления, расследования или уголовного преследования за уголовно наказуемые деяния.
а) системы ИИ, предназначенные для использования правоохранительными органами или от их имени, либо учреждениями, органами или организациями Союза для поддержки правоохранительных органов или от их имени, с целью оценки риска того, что физическое лицо станет жертвой уголовно наказуемых деяний;
b) системы ИИ, предназначенные для использования правоохранительными органами или от их имени, либо учреждениями, органами или организациями Союза для оказания содействия правоохранительным органам в качестве детектора лжи или аналогичных инструментов;
c) системы ИИ, предназначенные для использования правоохранительными органами или от их имени, либо учреждениями, органами или организациями Союза в целях оказания поддержки правоохранительным органам для оценки достоверности доказательств в ходе расследования или уголовного преследования за совершение уголовно наказуемых деяний;
d) системы ИИ, предназначенные для использования правоохранительными органами или от их имени, либо учреждениями, органами или организациями Союза в целях оказания поддержки правоохранительным органам для оценки риска совершения физическим лицом уголовного правонарушения (повторного совершения), не основываясь исключительно на профилировании физических лиц, как это предусмотрено в статье 3, пункте 4 Директивы (ЕС) 2016/680, либо для оценки личностных характеристик и качеств или предшествующего преступного поведения физических лиц или групп лиц;
e) системы ИИ, предназначенные для использования правоохранительными органами или от их имени, либо учреждениями, органами и ведомствами Союза в целях оказания поддержки правоохранительным органам для профилирования физических лиц в значении статьи 3 пункта 4 Директивы (ЕС) 2016/680 при выявлении, расследовании или судебном преследовании уголовных правонарушений.
7. Управление миграцией, предоставлением убежища и пограничным контролем, в той мере, в какой их использование разрешено на основании применимого права Союза или национального права: a) системы искусственного интеллекта, предназначенные для использования компетентными органами государственной власти или от их имени, либо учреждениями, органами или организациями Союза в качестве детектора лжи или аналогичных инструментов; b) системы искусственного интеллекта, предназначенные для использования компетентными органами государственной власти или от их имени, либо учреждениями, органами или организациями Союза для оценки рисков, включая риск для безопасности, риск незаконной миграции или риск для здоровья, исходящих от физического лица, которое намеревается въехать на территорию государства-члена или уже въехало на нее; c) системы искусственного интеллекта, предназначенные для использования компетентными органами государственной власти или от их имени, либо учреждениями, органами или организациями Союза для оказания содействия компетентным органам государственной власти при рассмотрении заявлений о предоставлении убежища, виз или видов на жительство, а также при рассмотрении связанных с этим жалоб в отношении соответствия или несоответствия критериям физических лиц, подающих заявление о получении статуса, включая связанные с этим оценки достоверности доказательств; d) системы искусственного интеллекта, предназначенные для использования компетентными органами государственной власти или от их имени, либо учреждениями, органами или организациями Союза в рамках управления миграцией, предоставлением убежища или пограничным контролем с целью обнаружения, распознавания или идентификации физических лиц, за исключением проверки проездных документов.
а) системы ИИ, предназначенные для использования компетентными органами государственной власти или от их имени, либо учреждениями, органами или организациями Союза в качестве детектора лжи или аналогичных инструментов;
b) системы ИИ, предназначенные для использования компетентными органами государственной власти или от их имени, либо учреждениями, органами или организациями Союза в целях оценки рисков, включая риск для безопасности, риск незаконной миграции или риск для здоровья, исходящих от физического лица, которое намеревается въехать на территорию государства-члена или уже въехало на нее;
c) системы ИИ, предназначенные для использования компетентными органами государственной власти или от их имени, либо учреждениями, органами или организациями Союза для оказания содействия компетентным органам государственной власти при рассмотрении заявлений о предоставлении убежища, виз или видов на жительство, а также при рассмотрении связанных с этим жалоб в отношении права или отсутствия права физических лиц, подающих заявление на получение статуса, на его предоставление, включая связанные с этим оценки достоверности доказательств;
d) системы ИИ, предназначенные для использования компетентными органами государственной власти или от их имени, либо учреждениями, органами или организациями Союза в рамках управления миграцией, предоставлением убежища или пограничным контролем, с целью обнаружения, распознавания или идентификации физических лиц, за исключением проверки проездных документов.
8. Отправление правосудия и демократические процессы: а) системы ИИ, предназначенные для использования судебным органом или от его имени в целях оказания содействия судебному органу при исследовании и толковании фактов или норм права, а также при применении права к конкретному набору фактов, либо для использования аналогичным образом в рамках альтернативного разрешения споров; b) системы ИИ, предназначенные для использования в целях оказания влияния на результат выборов или референдума, либо на поведение физических лиц при осуществлении ими избирательного права на выборах или референдумах. Данное положение не распространяется на системы ИИ, к результатам работы которых физические лица не подвергаются непосредственному воздействию, такие как инструменты, используемые для организации, оптимизации или структурирования политических кампаний с административной или логистической точки зрения.
а) системы ИИ, предназначенные для использования судебным органом или от его имени в целях оказания содействия судебному органу при исследовании и толковании фактов или норм права, а также при применении права к конкретному набору фактов, либо для использования аналогичным образом в рамках альтернативного разрешения споров;
b) системы ИИ, предназначенные для использования в целях оказания влияния на результат выборов или референдума либо на поведение физических лиц при осуществлении ими права голоса на выборах или референдумах. Данное положение не распространяется на системы ИИ, к результатам работы которых физические лица не подвергаются непосредственному воздействию, такие как инструменты, используемые для организации, оптимизации или структурирования политических кампаний с административной или логистической точки зрения.
Техническая документация, как это предусмотрено в статье 11, части 1, содержит как минимум следующую информацию, применимую к соответствующей системе ИИ:
1. Общее описание системы ИИ, содержащее: a) предполагаемую цель, наименование поставщика и версию системы, при этом должна быть разъяснена связь с предыдущими версиями; b) способ взаимодействия системы ИИ или возможность её использования для взаимодействия с аппаратным или программным обеспечением, включая другие системы ИИ, не являющиеся частью самой системы ИИ, если применимо; c) версии соответствующего программного обеспечения или микропрограммного обеспечения (firmware) и любые требования, касающиеся обновлений версий; d) описание всех форм, в которых система ИИ вводится в гражданский оборот или вводится в эксплуатацию, таких как программные пакеты, встроенные в аппаратное обеспечение, загружаемые файлы или API; e) описание аппаратного обеспечения, на котором должна функционировать система ИИ; f) если система ИИ является компонентом продуктов, фотографии или иллюстрации: внешние характеристики, маркировки и внутренняя компоновка этих продуктов; g) базовое описание пользовательского интерфейса, предоставляемого ответственному пользователю; h) инструкции по эксплуатации для ответственного пользователя и базовое описание пользовательского интерфейса, предоставляемого ответственному пользователю, если применимо.
а) предполагаемая цель, наименование поставщика и версия системы, при этом должна быть разъяснена связь с предыдущими версиями;
b) каким образом система ИИ взаимодействует или может быть использована для взаимодействия с аппаратным или программным обеспечением, в том числе с другими системами ИИ, не являющимися частью самой системы ИИ, если применимо;
c) версии соответствующего программного обеспечения или микропрограммного обеспечения (firmware) и любые требования, касающиеся обновлений версий;
d) описание всех форм, в которых система ИИ вводится в гражданский оборот или вводится в эксплуатацию, таких как программные пакеты, встроенные в аппаратное обеспечение, загружаемые файлы или API;
e) описание аппаратного обеспечения, на котором должна функционировать система ИИ;
f) если система ИИ является компонентом продуктов, фотографий или иллюстраций: внешние характеристики, маркировка и внутренняя компоновка указанных продуктов;
g) базовое описание пользовательского интерфейса, предоставляемое лицу, ответственному за эксплуатацию;
h) инструкции по эксплуатации для ответственного пользователя и базовое описание пользовательского интерфейса, предоставляемое ответственному пользователю, если применимо.
2. Детальное описание элементов системы ИИ и процесса её разработки, включая: a) примененные методы и этапы разработки системы ИИ, включая, если применимо, использование предоставленных третьими лицами предварительно обученных систем или инструментов, а также то, как они были использованы, интегрированы или адаптированы поставщиком; b) проектные спецификации системы, в частности общую логику системы ИИ и алгоритмов; основные проектные решения, включая обоснование и принятые допущения, в том числе в отношении лиц или групп лиц, для которых предназначено использование системы; основные решения по классификации; параметры оптимизации, для которых разработана система, и значимость различных параметров; описание ожидаемых результатов и качества результатов системы; решения в отношении любых компромиссов, касающихся технических решений, принятых для соблюдения требований главы III, раздела 2; c) описание архитектуры системы с пояснением того, как программные компоненты взаимодействуют друг с другом или передают друг другу информацию, и как осуществляется интеграция в общий процесс обработки; вычислительные инструменты, использованные для разработки, обучения, тестирования и валидации системы ИИ; d) если применимо, требования к данным для информационных листов, в которых описаны методы и техники обучения, а также использованные наборы обучающих данных, включая общее описание этих наборов данных и информацию об их происхождении, охвате и основных характеристиках; способы получения и отбора данных; процедуры маркировки (например, для обучения с учителем), методы очистки данных (например, обнаружение выбросов); e) оценку мер в области человеческого надзора, необходимых в соответствии со статьей 14, включая оценку технических мер, необходимых для упрощения интерпретации результатов систем ИИ лицами, ответственными за использование, в соответствии со статьей 13, пунктом 3, подпунктом d); f) если применимо, детальное описание заранее определенных изменений в системе ИИ и ее производительности, вместе со всей соответствующей информацией, связанной с техническими решениями, внедренными для обеспечения постоянного соответствия системы ИИ применимым требованиям главы III, раздела 2; g) использованные процедуры валидации и тестирования, включая информацию об использованных данных для валидации и тестирования и их основных характеристиках; показатели, используемые для измерения точности, надежности и соблюдения других применимых требований главы III, раздела 2, а также возможных дискриминационных последствий; журналы регистрации событий и все отчеты о тестировании, датированные и подписанные ответственными лицами, в том числе в отношении заранее определенных изменений, упомянутых в пункте f); h) примененные меры кибербезопасности.
а) примененные методы и этапы разработки системы ИИ, включая, если применимо, использование предоставленных третьими лицами предварительно обученных систем или инструментов, а также то, каким образом они были использованы, интегрированы или адаптированы поставщиком;
b) проектные спецификации системы, в частности общая логика системы ИИ и алгоритмов; основные проектные решения, включая обоснование и принятые допущения, в том числе в отношении лиц или групп лиц, для которых предназначено использование системы; основные решения по классификации; на какую оптимизацию рассчитана система и значимость различных параметров; описание ожидаемых результатов и качества результатов работы системы; решения в отношении любых компромиссов, касающихся технических решений, принятых для соблюдения требований главы III, раздела 2;
c) описание системной архитектуры с пояснением того, каким образом программные компоненты основываются друг на друге или предоставляют друг другу информацию, а также каким образом осуществляется интеграция в общий процесс обработки; вычислительные инструменты, которые были использованы для разработки, обучения, тестирования и валидации системы искусственного интеллекта;
d) в соответствующих случаях, требования к данным для информационных листов, в которых описаны методы и техники обучения, а также использованные наборы обучающих данных, включая общее описание этих наборов данных и информацию об их происхождении, охвате и основных характеристиках; способы получения и отбора данных; процедуры маркировки (например, для обучения с учителем), методы очистки данных (например, обнаружение выбросов);
e) оценка мер, необходимых в соответствии со статьей 14 в области контроля со стороны человека, включая оценку технических мер, необходимых для упрощения интерпретации результатов работы систем ИИ лицами, ответственными за их использование, в соответствии со статьей 13, пунктом 3, подпунктом d);
f) в соответствующих случаях — подробное описание заранее определенных изменений в системе ИИ и ее характеристиках, а также вся соответствующая информация, касающаяся технических решений, внедренных для обеспечения постоянного соответствия системы ИИ применимым требованиям главы III, раздела 2;
g) используемые процедуры валидации и тестирования, включая информацию об используемых данных для валидации и тестирования, а также их основные характеристики; статистические показатели, используемые для измерения точности, устойчивости и соблюдения иных соответствующих требований главы III, раздела 2, а также потенциально дискриминационных последствий; журналы регистрации событий и все отчеты о тестировании, датированные и подписанные ответственными лицами, в том числе в отношении заранее установленных изменений, как указано в пункте f);
h) применяемые меры кибербезопасности.
3. Подробная информация о мониторинге, функционировании и контроле системы ИИ, в частности в отношении: возможностей и ограничений в области производительности системы, включая различные уровни точности для конкретных лиц или групп лиц, для которых система предназначена к использованию, и общего ожидаемого уровня точности в соотношении с предполагаемой целью; предвидимых непреднамеренных результатов и источников риска для здоровья и безопасности, основных прав и дискриминации с учетом предполагаемой цели системы ИИ; необходимых мер по осуществлению надзора со стороны человека в соответствии со статьей 14, включая технические меры, принятые для облегчения интерпретации результатов работы систем ИИ лицами, ответственными за их использование; спецификаций входных данных, если применимо.
4. Описание пригодности показателей эффективности для конкретной системы искусственного интеллекта.
5. Подробное описание системы управления рисками в соответствии со статьей 9.
6. Описание соответствующих изменений, вносимых поставщиком в систему в течение срока её эксплуатации.
7. Перечень гармонизированных стандартов, которые применяются полностью или частично и ссылки на которые были опубликованы в Официальном журнале Европейского союза. В случае если такие гармонизированные стандарты не применялись, — подробное описание решений, принятых для соблюдения требований главы III раздела 2, включая перечень иных примененных соответствующих стандартов и технических спецификаций.
8. Экземпляр декларации о соответствии ЕС, упомянутой в статье 47.
9. Подробное описание внедренной системы оценки эффективности системы ИИ после ее выпуска в гражданский оборот в соответствии со статьей 72, включая план мониторинга после выпуска в гражданский оборот, упомянутый в статье 72, части 3.
Декларация о соответствии требованиям ЕС, упомянутая в статье 47, содержит следующую информацию:
1. наименование и тип системы ИИ, а также любые дополнительные однозначные ссылки, с помощью которых система ИИ может быть идентифицирована и отслежена;
2. наименование и адрес поставщика, а также, если применимо, его представителя;
3. указание на то, что декларация о соответствии требованиям ЕС, упомянутая в статье 47, предоставляется под исключительную ответственность поставщика;
4. указание на то, что система ИИ соответствует настоящему Регламенту и, в соответствующих случаях, любому другому применимому законодательству Союза, предусматривающему выдачу декларации соответствия ЕС, упомянутой в статье 47;
5. в случае если система ИИ влечет за собой обработку персональных данных, заявление о том, что данная система ИИ соответствует Регламентам (ЕС) 2016/679 и (ЕС) 2018/1725, а также Директиве (ЕС) 2016/680;
6. указание на любые примененные соответствующие гармонизированные стандарты или на иные общие спецификации, к которым относится декларация о соответствии;
7. если применимо, наименование и идентификационный номер нотифицированного органа, описание проведенной процедуры оценки соответствия и идентификационные данные выданного сертификата;
8. место и дата выдачи свидетельства, имя и должность лица, подписавшего свидетельство, а также указание лица, от имени и по поручению которого данное лицо подписывает, подпись.
Соответствие на основании оценки системы управления качеством и оценки технической документации представляет собой процедуру оценки соответствия, основанную на пунктах со 2 по 5 включительно.
Система управления качеством проектирования, разработки и тестирования систем искусственного интеллекта, одобренная на основании статьи 17, подлежит оценке в соответствии с пунктом 3 и надзору, указанному в пункте 5. Техническая документация системы искусственного интеллекта подлежит оценке в соответствии с пунктом 4.
3.1. Заявление поставщика содержит, в частности: a) наименование и адрес поставщика, а также, если заявление подается представителем, также его наименование и адрес; b) перечень систем ИИ, подпадающих под действие одной и той же системы управления качеством; c) техническую документацию для каждой системы ИИ, подпадающей под действие одной и той же системы управления качеством; d) документацию, касающуюся системы управления качеством, которая охватывает все аспекты, указанные в статье 17; e) описание установленных процедур, обеспечивающих адекватность и эффективность системы управления качеством; f) письменное заявление о том, что аналогичное заявление не было подано в другой нотифицированный орган.
а) наименование и адрес поставщика, а также, если заявление подается представителем, также его наименование и адрес;
b) перечень систем ИИ, подпадающих под действие одной и той же системы управления качеством;
c) техническая документация для каждой системы ИИ, подпадающей под действие одной и той же системы управления качеством;
d) документация, касающаяся системы управления качеством, которая охватывает все аспекты, указанные в статье 17;
e) описание процедур, установленных для обеспечения того, чтобы система управления качеством оставалась адекватной и эффективной;
f) письменное заявление о том, что аналогичное ходатайство не было подано в другой нотифицированный орган.
3.2. Система управления качеством подлежит оценке нотифицированным органом, который определяет, соблюдаются ли требования, указанные в статье 17. Решение доводится до сведения поставщика или его уполномоченного представителя. Данное уведомление содержит выводы по результатам оценки системы управления качеством, а также мотивированное решение по оценке.
3.3. Одобренная система управления качеством должна осуществляться и поддерживаться поставщиком таким образом, чтобы она оставалась адекватной и эффективной.
3.4. Планируемые изменения в утвержденной системе управления качеством или в перечне систем ИИ, к которым применяется система управления, сообщаются поставщиком нотифицированному органу. Предложенные изменения подлежат оценке нотифицированным органом, который принимает решение о том, продолжает ли измененная система управления качеством соответствовать требованиям, указанным в пункте 3.2, либо необходима новая оценка. Нотифицированный орган уведомляет поставщика о своем решении. Данное уведомление содержит выводы по результатам оценки изменений, а также мотивированное решение по оценке.
4.1. В дополнение к заявке, указанной в пункте 3, поставщик подает в нотифицированный орган по своему выбору заявку на оценку технической документации, относящейся к системе ИИ, которую поставщик намерен выпустить на рынок или ввести в эксплуатацию и к которой применяется система управления качеством, указанная в пункте 3.
4.2. Заявление включает в себя: a) наименование и адрес заявителя; b) письменное заявление о том, что аналогичное ходатайство не было подано в другой нотифицированный орган; c) техническую документацию, указанную в приложении IV.
а) наименование и адрес поставщика;
b) письменное заявление о том, что аналогичное ходатайство не было подано в другой зарегистрированный орган;
c) техническая документация, указанная в приложении IV.
4.3. Техническая документация подлежит оценке нотифицированным органом. В случае необходимости и в пределах, ограниченных тем, что требуется для выполнения его задач, нотифицированному органу предоставляется полный доступ к используемым наборам данных для обучения, валидации и тестирования, в том числе, при необходимости и с соблюдением мер безопасности, посредством API или иных соответствующих технических средств и инструментов, обеспечивающих удаленный доступ.
4.4. При оценке технической документации нотифицированный орган может потребовать от поставщика представления дополнительных доказательств или проведения дополнительных испытаний, с тем чтобы могла быть проведена надлежащая оценка соответствия для проверки того, отвечает ли система ИИ требованиям главы III, раздела 2. Если нотифицированный орган не удовлетворен испытаниями, проведенными поставщиком, нотифицированный орган самостоятельно проводит достаточные испытания в той мере, в какой это является целесообразным.
4.5. Если это необходимо для оценки того, соответствует ли высокорискованная система ИИ требованиям главы III, раздела 2, после того как все иные разумные способы проверки соответствия были исчерпаны или оказались недостаточными, и после подачи мотивированного заявления, нотифицированный орган также получает доступ к обучающим и обученным моделям системы ИИ, включая соответствующие параметры этих моделей. Указанный доступ осуществляется в соответствии с действующим правом Союза в отношении защиты интеллектуальной собственности и коммерческой тайны.
4.6. Решение нотифицированного органа доводится до сведения поставщика или его уполномоченного представителя. В данном уведомлении содержатся выводы по результатам оценки технической документации, а также мотивированное решение об оценке. Если система ИИ соответствует требованиям главы III, раздела 2, нотифицированный орган выдает сертификат оценки технической документации Союза. Сертификат содержит наименование и адрес поставщика, результаты проверки, условия действительности сертификата (при наличии), а также данные, необходимые для идентификации системы ИИ. Сертификат и приложения к нему содержат всю информацию, необходимую для оценки соответствия системы ИИ, и позволяют осуществлять контроль за используемой системой ИИ, если это применимо. Если система ИИ не соответствует требованиям главы III, раздела 2, нотифицированный орган отказывает в выдаче сертификата оценки технической документации Союза и уведомляет об этом заявителя с указанием точных причин отказа. Если система ИИ не соответствует требованию в отношении используемых обучающих данных, система ИИ должна быть подвергнута повторному обучению до подачи заявления на проведение новой оценки соответствия. В этом случае мотивированное решение об оценке нотифицированного органа, содержащее отказ в выдаче сертификата оценки технической документации Союза, включает конкретные соображения в отношении качественных данных, используемых для обучения системы ИИ, в частности, причины, по которым они не соответствуют требованиям.
4.7. Любые изменения в системе ИИ, которые могут повлиять на соблюдение системой ИИ установленных требований или на ее предполагаемое назначение, подлежат оценке нотифицированным органом, выдавшим сертификат оценки технической документации Союза. Поставщик информирует данный нотифицированный орган о своем намерении внести любое из вышеупомянутых изменений или в случаях, когда ему становится известно о возникновении таких изменений иным образом. Нотифицированный орган оценивает предполагаемые изменения и принимает решение о том, требуют ли они проведения новой оценки соответствия в соответствии со статьей 43, пунктом 4, или же достаточно дополнения к сертификату оценки технической документации Союза. В последнем случае нотифицированный орган оценивает изменения, уведомляет поставщика о своем решении и, в случае одобрения изменений, выдает ему дополнение к сертификату оценки технической документации Союза.
5.1. Целью надзора, осуществляемого нотифицированным органом, указанным в пункте 3, является обеспечение того, чтобы поставщик надлежащим образом соблюдал общие условия утвержденной системы управления качеством.
5.2. Поставщик предоставляет нотифицированному органу возможность доступа к месту, где осуществляются проектирование, разработка и тестирование систем ИИ, в целях проведения оценки. Поставщик также предоставляет нотифицированному органу всю необходимую информацию.
5.3. Нотифицированный орган проводит периодические аудиты с целью проверки того, поддерживает ли и применяет ли поставщик систему управления качеством, и предоставляет поставщику аудиторский отчет. В рамках данных аудитов нотифицированный орган может проводить дополнительные испытания систем ИИ, в отношении которых был выдан сертификат оценки технической документации Союза.
В отношении высокорисковых систем искусственного интеллекта, подлежащих регистрации в соответствии со статьей 49, частью 1, предоставляется, а впоследствии поддерживается в актуальном состоянии следующая информация:
1. наименование, адрес и контактные данные поставщика;
2. если информация подается иным лицом от имени поставщика, — имя, адрес и контактные данные этого лица;
3. фамилия, имя, адрес и контактные данные представителя, если применимо;
4. коммерческое наименование системы ИИ, а также любые дополнительные недвусмысленные указания, с помощью которых система ИИ может быть идентифицирована и отслежена;
5. описание предполагаемой цели системы ИИ, а также компонентов и функций, поддерживаемых данной системой ИИ;
6. базовое и краткое описание информации (данных, входных данных), используемой системой, и логики её функционирования;
7. статус системы ИИ (в обороте, в эксплуатации, более не находящаяся в обороте/эксплуатации, отозванная);
8. тип, номер и срок действия сертификата, выданного нотифицированным органом (aangemelde instantie), а также наименование или идентификационный номер этого нотифицированного органа, если применимо;
9. отсканированная копия сертификата, упомянутого в пункте 8, если применимо;
10. государства-члены, в которых система ИИ была введена в гражданский оборот, введена в эксплуатацию или предложена на рынке Союза;
11. экземпляр декларации о соответствии ЕС, указанной в статье 47;
12. электронная инструкция по эксплуатации; данная информация не предоставляется для систем ИИ с высоким уровнем риска в сфере правоохранительной деятельности или управления миграцией, предоставлением убежища и пограничным контролем, как указано в приложении III, пункты 1, 6 и 7;
13. URL для получения дополнительной информации (факультативно).
В отношении высокорисковых систем искусственного интеллекта, подлежащих регистрации в соответствии со статьей 49, частью 2, предоставляется, а впоследствии поддерживается в актуальном состоянии следующая информация:
1. наименование, адрес и контактные данные поставщика;
2. если информация подается иным лицом от имени поставщика, — имя, адрес и контактные данные этого лица;
3. фамилия, имя, адрес и контактные данные представителя, если применимо;
4. коммерческое наименование системы ИИ, а также любые дополнительные недвусмысленные обозначения, с помощью которых система ИИ может быть идентифицирована и отслежена;
5. описание предполагаемой цели системы искусственного интеллекта;
6. условие или условия на основании статьи 6, части 3, при соблюдении которых система ИИ не считается системой с высоким уровнем риска;
7. краткое изложение оснований, по которым система ИИ при применении процедуры согласно статье 6, пункту 3, не рассматривается как система с высоким уровнем риска;
8. статус системы ИИ (в обороте, в эксплуатации, более не находящаяся в обороте/эксплуатации, отозванная);
9. государства-члены, в которых система ИИ была введена в гражданский оборот, введена в эксплуатацию или предложена на рынке Союза.
В отношении систем ИИ с высоким уровнем риска, подлежащих регистрации в соответствии со статьей 49, частью 3, предоставляется, а впоследствии поддерживается в актуальном состоянии следующая информация:
1. имя, адрес и контактные данные лица, ответственного за использование;
2. имя, адрес и контактные данные лица, которое подает информацию от имени ответственного за использование;
3. URL-адрес записи об ИИ-системе в базе данных ЕС, внесенной ее поставщиком;
4. резюме выводов оценки воздействия на основные права, проведенной в соответствии со статьей 27;
5. резюме оценки воздействия на защиту данных, проведенной в соответствии со статьей 35 Регламента (ЕС) 2016/679 или статьей 27 Директивы (ЕС) 2016/680, как это более подробно определено в статье 26, пункте 8, настоящего Регламента, если применимо.
В отношении испытаний в реальных условиях, подлежащих регистрации в соответствии со статьей 60, предоставляется, а впоследствии поддерживается в актуальном состоянии следующая информация:
1. уникальный идентификационный номер испытаний в реальных условиях, действующий на всей территории Союза;
2. наименование и контактные данные поставщика или потенциального поставщика, а также лиц, ответственных за использование, которые вовлечены в проведение испытаний в реальных условиях;
3. краткое описание системы ИИ, цели её использования и иная информация, необходимая для идентификации системы;
4. краткое изложение основных характеристик плана проведения испытаний в реальных условиях;
5. информация о приостановлении или прекращении испытаний в реальных условиях.
а) Регламент (ЕС) 2018/1860 Европейского парламента и Совета от 28 ноября 2018 года об использовании Шенгенской информационной системы для возвращения незаконно пребывающих граждан третьих стран (Официальный журнал L 312 от 7.12.2018, стр. 1)
b) Регламент (ЕС) 2018/1861 Европейского парламента и Совета от 28 ноября 2018 года об учреждении, функционировании и использовании Шенгенской информационной системы (SIS) в области пограничного контроля, о внесении изменений в Конвенцию о применении Шенгенского соглашения, а также о внесении изменений и отмене Регламента (ЕС) № 1987/2006 (Официальный журнал L 312 от 7.12.2018, стр. 14)
c) Регламент (ЕС) 2018/1862 Европейского парламента и Совета от 28 ноября 2018 года об учреждении, функционировании и использовании Шенгенской информационной системы (SIS) в области полицейского и судебного сотрудничества по уголовным делам, о внесении изменений и отмене Решения Совета 2007/533/ПВД и об отмене Регламента (ЕС) № 1986/2006 Европейского парламента и Совета и Решения Комиссии 2010/261/ЕС (Официальный журнал L 312 от 07.12.2018, стр. 56)
а) Регламент (ЕС) 2021/1133 Европейского парламента и Совета от 7 июля 2021 года о внесении изменений в Регламенты (ЕС) № 603/2013, (ЕС) 2016/794, (ЕС) 2018/1862, (ЕС) 2019/816 и (ЕС) 2019/818 в части условий доступа к другим информационным системам ЕС в целях Визовой информационной системы (Официальный журнал L 248 от 13.07.2021, стр. 1)
b) Регламент (ЕС) 2021/1134 Европейского парламента и Совета от 7 июля 2021 года о внесении изменений в Регламенты (ЕС) № 767/2008, (ЕС) № 810/2009, (ЕС) 2016/399, (ЕС) 2017/2226, (ЕС) 2018/1240, (ЕС) 2018/1860, (ЕС) 2018/1861, (ЕС) 2019/817 и (ЕС) 2019/1896 Европейского парламента и Совета, а также об отмене Решений Совета 2004/512/ЕС и 2008/633/ПВД в целях пересмотра Визовой информационной системы (Официальный журнал L 248 от 13.07.2021, стр. 11).
Регламент (ЕС) 2024/1358 Европейского парламента и Совета от 14 мая 2024 года об учреждении системы «Eurodac» для сравнения биометрических данных в целях эффективного применения Регламентов (ЕС) 2024/1315 и (ЕС) 2024/1350 Европейского парламента и Совета и Директивы 2001/55/ЕС Совета, а также для идентификации незаконно пребывающих граждан третьих стран и лиц без гражданства, и касающийся запросов правоохранительных органов государств-членов и Европола о сравнении данных Eurodac в целях обеспечения правопорядка, о внесении изменений в Регламенты (ЕС) 2018/1240 и (ЕС) 2019/818 Европейского парламента и Совета и об отмене Регламента (ЕС) № 603/2013 Европейского парламента и Совета (Официальный вестник L, 2024/1358, 22.05.2024, ELI: http://data.europa.eu/eli/reg/2024/1358/oj).
Регламент (ЕС) 2017/2226 Европейского парламента и Совета от 30 ноября 2017 года об установлении Системы въезда-выезда (EES) для регистрации данных о въезде и выезде, а также данных об отказе во въезде в отношении граждан третьих стран, пересекающих внешние границы, об определении условий доступа к EES в правоохранительных целях, а также о внесении изменений в Конвенцию о применении Шенгенского соглашения и Регламенты (ЕС) № 767/2008 и (ЕС) № 1077/2011 (Официальный журнал L 327 от 09.12.2017, стр. 20).
а) Регламент (ЕС) 2018/1240 Европейского парламента и Совета от 12 сентября 2018 года об учреждении Европейской системы туристической информации и авторизации (ETIAS) и о внесении изменений в Регламенты (ЕС) № 1077/2011, (ЕС) № 515/2014, (ЕС) 2016/399, (ЕС) 2016/1624 и (ЕС) 2017/2226 (Официальный журнал L 236 от 19.09.2018, стр. 1)
b) Регламент (ЕС) 2018/1241 Европейского парламента и Совета от 12 сентября 2018 года о внесении изменений в Регламент (ЕС) 2016/794 в целях создания Европейской системы информации о поездках и получения разрешений на поездки (ETIAS) (Официальный журнал L 236 от 19.09.2018, стр. 72)
Регламент (ЕС) 2019/816 Европейского парламента и Совета от 17 апреля 2019 года об учреждении централизованной системы для определения государств-членов, располагающих информацией о судимостях граждан третьих стран и лиц без гражданства (Ecris-TCN), в дополнение к Европейской информационной системе судимостей (ECRIS) и о внесении изменений в Регламент (ЕС) 2018/1726 (Официальный журнал L 135 от 22.05.2019, стр. 1)
а) Регламент (ЕС) 2019/817 Европейского парламента и Совета от 20 мая 2019 года об установлении рамок для обеспечения функциональной совместимости информационных систем Союза в сфере границ и виз и о внесении изменений в Регламенты (ЕС) № 767/2008, (ЕС) 2016/399, (ЕС) 2017/2226, (ЕС) 2018/1240, (ЕС) 2018/1726 и (ЕС) 2018/1861 Европейского парламента и Совета, Решение Совета 2004/512/ЕС и Решение Совета 2008/633/ПВД (Официальный журнал L 135 от 22.05.2019, стр. 27)
b) Регламент (ЕС) 2019/818 Европейского парламента и Совета от 20 мая 2019 года об установлении основы для обеспечения интероперабельности между информационными системами Союза в сфере полицейского и судебного сотрудничества, предоставления убежища и миграции, а также о внесении изменений в Регламенты (ЕС) 2018/1726, (ЕС) 2018/1862 и (ЕС) 2019/816 (Официальный журнал L 135 от 22.05.2019, стр. 85)
Техническая документация, упомянутая в статье 53, пункте 1, подпункте а), содержит как минимум следующую информацию, в зависимости от объема и профиля риска модели:
1. Общее описание модели ИИ общего назначения, содержащее: a) задачи, которые должна выполнять модель, а также тип и характер систем ИИ, в которые она может быть интегрирована; b) применимые политики допустимого использования (acceptable use policies); c) дату выпуска и способ распространения; d) архитектуру и количество параметров; e) модальность (например, текст, изображение) и формат входных и выходных данных; f) лицензию.
а) задачи, которые должна выполнять модель, а также тип и характер систем искусственного интеллекта, в которые она может быть интегрирована;
b) применимые правила допустимого использования (acceptable use policies);
c) дата выпуска и способ распространения;
d) архитектура и количество параметров;
e) модальность (например, текст, изображение) и формат входных и выходных данных;
f) de licentie.
2. Подробное описание элементов модели, указанной в пункте 1, и соответствующая информация о процессе разработки, включая следующие элементы: a) технические средства (например, инструкции по эксплуатации, инфраструктура, инструменты), необходимые для интеграции модели ИИ общего назначения в системы ИИ; b) спецификации проектирования модели и процесса обучения, включая методы и техники обучения, основные проектные решения, включая обоснование и принятые допущения; для какой оптимизации была разработана модель и значимость различных параметров, в зависимости от обстоятельств; c) информация о данных, использованных для обучения, тестирования и валидации, если применимо, включая тип и происхождение данных, а также методы курирования (например, очистка, фильтрация и т. д.), количество точек данных, их диапазон и основные характеристики; способ получения и отбора данных, а также любые другие меры по выявлению непригодности источников данных и методы обнаружения идентифицируемых предвзятостей, если применимо; d) вычислительные ресурсы, использованные для обучения модели (например, количество операций с плавающей запятой), продолжительность и другие соответствующие детали процесса обучения; e) известное или оценочное энергопотребление модели. В отношении пункта e), если энергопотребление модели неизвестно, энергопотребление может быть основано на информации об использованных вычислительных ресурсах.
а) технические средства (например, инструкции по эксплуатации, инфраструктура, инструменты), необходимые для интеграции модели ИИ общего назначения в системы ИИ;
b) спецификации проекта модели и процесса обучения, включая методы и техники обучения, ключевые проектные решения, включая обоснование и принятые допущения; для какой оптимизации была разработана модель и значимость различных параметров, в зависимости от обстоятельств;
c) информация о данных, использованных для обучения, тестирования и валидации, если применимо, включая тип и происхождение данных, а также методы их обработки (например, очистка, фильтрация и т.д.), количество точек данных, их диапазон и основные характеристики; способ получения и отбора данных, а также любые иные меры по выявлению непригодности источников данных и методы обнаружения идентифицируемых предвзятостей, если применимо;
d) вычислительные ресурсы, которые были использованы для обучения модели (например, количество операций с плавающей запятой), продолжительность и иные значимые сведения об обучении;
e) известное или расчетное энергопотребление модели.
1. Подробное описание стратегий оценки, включая результаты оценки, основанные на доступных общедоступных протоколах и инструментах оценки или иных методах оценки. Стратегии оценки включают критерии оценки, показатели и методы выявления ограничений.
2. В соответствующих случаях — подробное описание мер, принятых с целью проведения внутреннего и (или) внешнего тестирования, направленного на выявление уязвимостей (например, red teaming), а также адаптации моделей, включая их настройку и доработку.
3. В соответствующих случаях — подробное описание системной архитектуры с пояснением того, каким образом программные компоненты основываются друг на друге или предоставляют друг другу информацию, а также каким образом осуществляется интеграция в общую обработку.
Информация, указанная в статье 53, части 1, пункте b), включает как минимум следующие элементы:
1. Общее описание модели ИИ общего назначения, содержащее: a) задачи, которые должна выполнять модель, а также тип и характер систем ИИ, в которые она может быть интегрирована; b) применимые политики допустимого использования («acceptable use policies»); c) дату выпуска и способ распространения; d) информацию о том, как модель взаимодействует или может быть использована для взаимодействия с аппаратным или программным обеспечением, не являющимся частью самой модели, если применимо; e) версии соответствующего программного обеспечения, относящиеся к использованию модели ИИ общего назначения, если применимо; f) архитектуру и количество параметров; g) модальность (например, текст, изображение) и формат входных и выходных данных; h) лицензию на модель.
а) задачи, которые должна выполнять модель, а также тип и характер систем искусственного интеллекта, в которые она может быть интегрирована;
b) применимые правила допустимого использования (acceptable use policies);
c) дата выпуска и способ распространения;
d) каким образом модель взаимодействует или может быть использована для взаимодействия с аппаратным или программным обеспечением, не являющимся частью самой модели, если применимо;
e) версии соответствующего программного обеспечения, относящиеся к использованию модели ИИ общего назначения, если применимо;
f) архитектура и количество параметров;
g) модальность (например, текст, изображение) и формат входных и выходных данных;
h) лицензия на модель
2. Описание элементов модели и процесса её разработки, включая: а) технические средства (например, инструкции по эксплуатации, инфраструктура, инструменты), необходимые для интеграции модели ИИ общего назначения в системы ИИ; b) модальность (например, текст, изображение и т. д.) и формат входных и выходных данных, а также их максимальный объем (например, длина контекстного окна и т. д.); c) информацию о данных, используемых для обучения, тестирования и валидации, если применимо, включая тип и происхождение данных, а также методы их курирования.
а) технические средства (например, инструкции по эксплуатации, инфраструктура, инструменты), необходимые для интеграции модели ИИ общего назначения в системы ИИ;
b) модальность (например, текст, изображение и т.д.) и формат входных и выходных данных, а также их максимальный объем (например, длина контекстного окна и т.д.);
c) информация о данных, используемых для обучения, тестирования и валидации, если применимо, включая тип и происхождение данных, а также методы их курирования.
Для определения того, обладает ли модель ИИ общего назначения возможностями или оказывает ли она воздействие, сопоставимые с теми, которые указаны в статье 51, пункте 1, подпункте «а», Комиссия принимает во внимание следующие критерии:
а) количество параметров модели;
b) качество или объем набора данных, например, измеренные посредством токенов;
c) объем вычислительных ресурсов, использованных для обучения модели, измеряемый в операциях с плавающей запятой или выраженный через комбинацию иных переменных, таких как оценочные затраты, время или энергопотребление, затраченные на обучение;
d) входные и выходные модальности модели, такие как «текст-в-текст» (большие языковые модели), «текст-в-изображение», мультимодальность, а также расширенные пороговые значения для определения возможностей, имеющих значительное влияние для каждой модальности, и конкретный тип входных и выходных данных (например, биологические последовательности);
e) контрольные показатели и оценки возможностей модели, включая количество задач, выполняемых без дополнительного обучения, способность к адаптации для изучения новых, отдельных задач, степень автономности и масштабируемости, а также инструменты, к которым она имеет доступ;
f) оказывает ли оно значительное влияние на внутренний рынок в силу своего охвата, что предполагается в случае, если оно было предоставлено не менее чем 10 000 зарегистрированных бизнес-пользователей, учрежденных в Союзе;
g) количество зарегистрированных конечных пользователей.
ISSN 1977-0758 (электронная версия)
Deze verordening treedt in werking op de twintigste dag na die van de bekendmaking ervan in het Publicatieblad van de Europese Unie.
Zij is van toepassing met ingang van 2 augustus 2026.
Evenwel zijn:
a) de hoofdstukken I en II van toepassing met ingang van 2 februari 2025;
b) hoofdstuk III, afdeling 4, hoofdstuk V, hoofdstuk VII en hoofdstuk XII en artikel 78 van toepassing met ingang van 2 augustus 2025, met uitzondering van artikel 101;
c) artikel 6, lid 1, en de overeenkomstige verplichtingen van deze verordening van toepassing met ingang van 2 augustus 2027.
Deze verordening is verbindend in al haar onderdelen en is rechtstreeks toepasselijk in elke lidstaat.
Gedaan te Brussel, 13 juni 2024.
1. Richtlijn 2006/42/EG van het Europees Parlement en de Raad van 17 mei 2006 betreffende machines en tot wijziging van Richtlijn 95/16/EG (PB L 157 van 9.6.2006, blz. 24)
2. Richtlijn 2009/48/EG van het Europees Parlement en de Raad van 18 juni 2009 betreffende de veiligheid van speelgoed (PB L 170 van 30.6.2009, blz. 1)
3. Richtlijn 2013/53/EU van het Europees Parlement en de Raad van 20 november 2013 betreffende pleziervaartuigen en waterscooters en tot intrekking van Richtlijn 94/25/EG (PB L 354 van 28.12.2013, blz. 90)
4. Richtlijn 2014/33/EU van het Europees Parlement en de Raad van 26 februari 2014 betreffende de harmonisatie van de wetgevingen van de lidstaten inzake liften en veiligheidscomponenten voor liften (PB L 96 van 29.3.2014, blz. 251)
5. Richtlijn 2014/34/EU van het Europees Parlement en de Raad van 26 februari 2014 betreffende de harmonisatie van de wetgevingen van de lidstaten inzake apparaten en beveiligingssystemen bedoeld voor gebruik op plaatsen waar ontploffingsgevaar kan heersen (PB L 96 van 29.3.2014, blz. 309)
6. Richtlijn 2014/53/EU van het Europees Parlement en de Raad van 16 april 2014 betreffende de harmonisatie van de wetgevingen van de lidstaten inzake het op de markt aanbieden van radioapparatuur en tot intrekking van Richtlijn 1999/5/EG (PB L 153 van 22.5.2014, blz. 62)
7. Richtlijn 2014/68/EU van het Europees Parlement en de Raad van 15 mei 2014 betreffende de harmonisatie van de wetgevingen van de lidstaten inzake het op de markt aanbieden van drukapparatuur (PB L 189 van 27.6.2014, blz. 164)
8. Verordening (EU) 2016/424 van het Europees Parlement en de Raad van 9 maart 2016 betreffende kabelbaaninstallaties en tot intrekking van Richtlijn 2000/9/EG (PB L 81 van 31.3.2016, blz. 1)
9. Verordening (EU) 2016/425 van het Europees Parlement en de Raad van 9 maart 2016 betreffende persoonlijke beschermingsmiddelen en tot intrekking van Richtlijn 89/686/EEG van de Raad (PB L 81 van 31.3.2016, blz. 51)
10. Verordening (EU) 2016/426 van het Europees Parlement en de Raad van 9 maart 2016 betreffende gasverbrandingstoestellen en tot intrekking van Richtlijn 2009/142/EG (PB L 81 van 31.3.2016, blz. 99)
11. Verordening (EU) 2017/745 van het Europees Parlement en de Raad van 5 april 2017 betreffende medische hulpmiddelen, tot wijziging van Richtlijn 2001/83/EG, Verordening (EG) nr. 178/2002 en Verordening (EG) nr. 1223/2009, en tot intrekking van Richtlijnen 90/385/EEG en 93/42/EEG van de Raad (PB L 117 van 5.5.2017, blz. 1)
12. Verordening (EU) 2017/746 van het Europees Parlement en de Raad van 5 april 2017 betreffende medische hulpmiddelen voor in-vitrodiagnostiek en tot intrekking van Richtlijn 98/79/EG en Besluit 2010/227/EU van de Commissie (PB L 117 van 5.5.2017, blz. 176)
13. Verordening (EG) nr. 300/2008 van het Europees Parlement en de Raad van 11 maart 2008 inzake gemeenschappelijke regels op het gebied van de beveiliging van de burgerluchtvaart en tot intrekking van Verordening (EG) nr. 2320/2002 (PB L 97 van 9.4.2008, blz. 72)
14. Verordening (EU) nr. 168/2013 van het Europees Parlement en de Raad van 15 januari 2013 betreffende de goedkeuring van en het markttoezicht op twee- of driewielige voertuigen en vierwielers (PB L 60 van 2.3.2013, blz. 52)
15. Verordening (EU) nr. 167/2013 van het Europees Parlement en de Raad van 5 februari 2013 inzake de goedkeuring van en het markttoezicht op landbouw- en bosbouwvoertuigen (PB L 60 van 2.3.2013, blz. 1)
16. Richtlijn 2014/90/EU van het Europees Parlement en de Raad van 23 juli 2014 inzake uitrusting van zeeschepen en tot intrekking van Richtlijn 96/98/EG van de Raad (PB L 257 van 28.8.2014, blz. 146)
17. Richtlijn (EU) 2016/797 van het Europees Parlement en de Raad van 11 mei 2016 betreffende de interoperabiliteit van het spoorwegsysteem in de Europese Unie (PB L 138 van 26.5.2016, blz. 44)
18. Verordening (EU) 2018/858 van het Europees Parlement en de Raad van 30 mei 2018 betreffende de goedkeuring van en het markttoezicht op motorvoertuigen en aanhangwagens daarvan en systemen, onderdelen en technische eenheden die voor dergelijke voertuigen zijn bestemd, tot wijziging van Verordeningen (EG) nr. 715/2007 en (EG) nr. 595/2009 en tot intrekking van Richtlijn 2007/46/EG (PB L 151 van 14.6.2018, blz. 1)
19. Verordening (EU) 2019/2144 van het Europees Parlement en de Raad van 27 november 2019 betreffende de voorschriften voor de typegoedkeuring van motorvoertuigen en aanhangwagens daarvan en van systemen, onderdelen en technische eenheden die voor dergelijke voertuigen zijn bestemd wat de algemene veiligheid ervan en de bescherming van de inzittenden van voertuigen en kwetsbare weggebruikers betreft, tot wijziging van Verordening (EU) 2018/858 van het Europees Parlement en de Raad en tot intrekking van de Verordeningen (EG) nr. 78/2009, (EG) nr. 79/2009 en (EG) nr. 661/2009 van het Europees Parlement en de Raad en de Verordeningen (EG) nr. 631/2009, (EU) nr. 406/2010, (EU) nr. 672/2010, (EU) nr. 1003/2010, (EU) nr. 1005/2010, (EU) nr. 1008/2010, (EU) nr. 1009/2010, (EU) nr. 19/2011, (EU) nr. 109/2011, (EU) nr. 458/2011, (EU) nr. 65/2012, (EU) nr. 130/2012, (EU) nr. 347/2012, (EU) nr. 351/2012, (EU) nr. 1230/2012 en (EU) 2015/166 van de Commissie (PB L 325 van 16.12.2019, blz. 1)
20. Verordening (EU) 2018/1139 van het Europees Parlement en de Raad van 4 juli 2018 inzake gemeenschappelijke regels op het gebied van burgerluchtvaart en tot oprichting van een Agentschap van de Europese Unie voor de veiligheid van de luchtvaart, en tot wijziging van de Verordeningen (EG) nr. 2111/2005, (EG) nr. 1008/2008, (EU) nr. 996/2010, (EU) nr. 376/2014 en de Richtlijnen 2014/30/EU en 2014/53/EU van het Europees Parlement en de Raad, en tot intrekking van de Verordeningen (EG) nr. 552/2004 en (EG) nr. 216/2008 van het Europees Parlement en de Raad en Verordening (EEG) nr. 3922/91 van de Raad (PB L 212 van 22.8.2018, blz. 1), voor zover het gaat om het ontwerp, de productie en het in de handel brengen van luchtvaartuigen als bedoeld in artikel 2, lid 1, punten a) en b), wat betreft onbemande luchtvaartuigen, en hun motoren, propellers, onderdelen en apparatuur om het luchtvaartuig op afstand te besturen.
Strafbare feiten als bedoeld in artikel 5, lid 1, eerste alinea, punt e), iii):
— terrorisme,
— mensenhandel,
— seksuele uitbuiting van kinderen en kinderpornografie,
— illegale handel in verdovende middelen of psychotrope stoffen,
— illegale handel in wapens, munitie of explosieven,
— moord, zware mishandeling,
— illegale handel in menselijke organen of weefsels,
— illegale handel in nucleaire of radioactieve stoffen,
— ontvoering, wederrechtelijke vrijheidsberoving of gijzeling,
— misdrijven die onder de rechtsmacht van het Internationaal Strafhof vallen,
— kaping van vliegtuigen of schepen,
— verkrachting,
— milieucriminaliteit,
— georganiseerde of gewapende diefstal,
— sabotage,
— deelneming aan een criminele organisatie die betrokken is bij een of meer van de hierboven genoemde strafbare feiten.
AI-systemen met een hoog risico op grond van artikel 6, lid 2, zijn de vermelde AI-systemen op de volgende gebieden:
1. Biometrie, voor zover het gebruik ervan is toegestaan op grond van het toepasselijke Unierecht of nationale recht: a) systemen voor biometrische identificatie op afstand. Dit geldt niet voor AI-systemen die bedoeld zijn om te worden gebruikt voor biometrische verificatie met als enig doel te bevestigen dat een specifieke natuurlijke persoon de persoon is die hij of zij beweert te zijn; b) AI-systemen die bedoeld zijn om te worden gebruikt voor biometrische categorisering op basis van gevoelige of beschermde eigenschappen of kenmerken, of op basis van wat uit die eigenschappen of kenmerken wordt afgeleid; c) AI-systemen die bedoeld zijn om te worden gebruikt voor emotieherkenning.
a) systemen voor biometrische identificatie op afstand. Dit geldt niet voor AI-systemen die bedoeld zijn om te worden gebruikt voor biometrische verificatie met als enig doel te bevestigen dat een specifieke natuurlijke persoon de persoon is die hij of zij beweert te zijn;
b) AI-systemen die bedoeld zijn om te worden gebruikt voor biometrische categorisering op basis van gevoelige of beschermde eigenschappen of kenmerken, of op basis van wat uit die eigenschappen of kenmerken wordt afgeleid;
c) AI-systemen die bedoeld zijn om te worden gebruikt voor emotieherkenning.
2. Kritieke infrastructuur: AI-systemen die bedoeld zijn om te worden gebruikt als veiligheidscomponent bij het beheer of de exploitatie van kritieke digitale infrastructuur, wegverkeer of bij de levering van water, gas, verwarming en elektriciteit.
3. Onderwijs en beroepsopleiding: a) AI-systemen die bedoeld zijn om te worden gebruikt voor het bepalen van toegang of toelating tot of het toewijzen van natuurlijke personen aan instellingen voor onderwijs en beroepsonderwijs op alle niveaus; b) AI-systemen die bedoeld zijn om te worden gebruikt voor het evalueren van leerresultaten, ook wanneer die resultaten worden gebruikt voor het sturen van het leerproces van natuurlijke personen in instellingen voor onderwijs en beroepsonderwijs op alle niveaus; c) AI-systemen die bedoeld zijn om te worden gebruikt voor het beoordelen van het passende onderwijsniveau dat een persoon zal ontvangen of waartoe hij toegang zal hebben, in het kader van of binnen instellingen voor onderwijs en beroepsonderwijs op alle niveaus; d) AI-systemen die bedoeld zijn om te worden gebruikt voor het monitoren en detecteren van ongeoorloofd gedrag van studenten tijdens toetsen in de context van of binnen instellingen voor onderwijs en beroepsonderwijs op alle niveaus.
a) AI-systemen die bedoeld zijn om te worden gebruikt voor het bepalen van toegang of toelating tot of het toewijzen van natuurlijke personen aan instellingen voor onderwijs en beroepsonderwijs op alle niveaus;
b) AI-systemen die bedoeld zijn om te worden gebruikt voor het evalueren van leerresultaten, ook wanneer die resultaten worden gebruikt voor het sturen van het leerproces van natuurlijke personen in instellingen voor onderwijs en beroepsonderwijs op alle niveaus;
c) AI-systemen die bedoeld zijn om te worden gebruikt voor het beoordelen van het passende onderwijsniveau dat een persoon zal ontvangen of waartoe hij toegang zal hebben, in het kader van of binnen instellingen voor onderwijs en beroepsonderwijs op alle niveaus;
d) AI-systemen die bedoeld zijn om te worden gebruikt voor het monitoren en detecteren van ongeoorloofd gedrag van studenten tijdens toetsen in de context van of binnen instellingen voor onderwijs en beroepsonderwijs op alle niveaus.
4. Werkgelegenheid, personeelsbeheer en toegang tot zelfstandige arbeid: a) AI-systemen die bedoeld zijn om te worden gebruikt voor het werven of selecteren van natuurlijke personen, met name voor het plaatsen van gerichte vacatures, het analyseren en filteren van sollicitaties, en het beoordelen van kandidaten; b) AI-systemen die bedoeld zijn om te worden gebruikt voor het nemen van besluiten die van invloed zijn op de voorwaarden van arbeidsgerelateerde betrekkingen, de bevordering of beëindiging van arbeidsgerelateerde contractuele betrekkingen, voor het toewijzen van taken op basis van individueel gedrag of persoonlijke eigenschappen of kenmerken, of voor het monitoren en evalueren van prestaties en gedrag van personen in dergelijke betrekkingen.
a) AI-systemen die bedoeld zijn om te worden gebruikt voor het werven of selecteren van natuurlijke personen, met name voor het plaatsen van gerichte vacatures, het analyseren en filteren van sollicitaties, en het beoordelen van kandidaten;
b) AI-systemen die bedoeld zijn om te worden gebruikt voor het nemen van besluiten die van invloed zijn op de voorwaarden van arbeidsgerelateerde betrekkingen, de bevordering of beëindiging van arbeidsgerelateerde contractuele betrekkingen, voor het toewijzen van taken op basis van individueel gedrag of persoonlijke eigenschappen of kenmerken, of voor het monitoren en evalueren van prestaties en gedrag van personen in dergelijke betrekkingen.
5. Toegang tot en gebruik van essentiële particuliere en publieke diensten en uitkeringen: a) AI-systemen die bedoeld zijn om door of namens overheidsinstanties te worden gebruikt om te beoordelen of natuurlijke personen in aanmerking komen voor essentiële overheidsuitkeringen en -diensten, waaronder gezondheidsdiensten, of om dergelijke uitkeringen en diensten te verlenen, te beperken, in te trekken of terug te vorderen; b) AI-systemen die bedoeld zijn om te worden gebruikt voor het beoordelen van de kredietwaardigheid van natuurlijke personen of voor het vaststellen van hun kredietscore, met uitzondering van AI-systemen die gebruikt worden om financiële fraude op te sporen; c) AI-systemen die bedoeld zijn om te worden gebruikt voor risicobeoordeling en prijsstelling met betrekking tot natuurlijke personen in het geval van levens- en ziektekostenverzekeringen; d) AI-systemen die bedoeld zijn om noodoproepen van natuurlijke personen te evalueren en te classificeren of om te worden gebruikt voor het inzetten of het bepalen van prioriteiten voor de inzet van hulpdiensten, onder meer van politie, brandweer en ambulance, alsook van systemen voor de triage van patiënten die dringend medische zorg behoeven.
a) AI-systemen die bedoeld zijn om door of namens overheidsinstanties te worden gebruikt om te beoordelen of natuurlijke personen in aanmerking komen voor essentiële overheidsuitkeringen en -diensten, waaronder gezondheidsdiensten, of om dergelijke uitkeringen en diensten te verlenen, te beperken, in te trekken of terug te vorderen;
b) AI-systemen die bedoeld zijn om te worden gebruikt voor het beoordelen van de kredietwaardigheid van natuurlijke personen of voor het vaststellen van hun kredietscore, met uitzondering van AI-systemen die gebruikt worden om financiële fraude op te sporen;
c) AI-systemen die bedoeld zijn om te worden gebruikt voor risicobeoordeling en prijsstelling met betrekking tot natuurlijke personen in het geval van levens- en ziektekostenverzekeringen;
d) AI-systemen die bedoeld zijn om noodoproepen van natuurlijke personen te evalueren en te classificeren of om te worden gebruikt voor het inzetten of het bepalen van prioriteiten voor de inzet van hulpdiensten, onder meer van politie, brandweer en ambulance, alsook van systemen voor de triage van patiënten die dringend medische zorg behoeven.
6. Rechtshandhaving, voor zover het gebruik ervan is toegestaan op grond van het toepasselijke Unierecht of nationale recht: a) AI-systemen die bedoeld zijn om door of namens rechtshandhavingsinstanties, of door instellingen, organen of instanties van de Unie ter ondersteuning van rechtshandhavingsinstanties of namens hen, te worden gebruikt om het risico te beoordelen dat een natuurlijke persoon het slachtoffer wordt van strafbare feiten; b) AI-systemen die bedoeld zijn om door of namens rechtshandhavingsinstanties of door instellingen, organen of instanties van de Unie ter ondersteuning van rechtshandhavingsinstanties te worden gebruikt als leugendetector of soortgelijke instrumenten; c) AI-systemen die bedoeld zijn om door of namens rechtshandhavingsinstanties of door instellingen, organen of instanties van de Unie ter ondersteuning van rechtshandhavingsinstanties te worden gebruikt om de betrouwbaarheid van bewijsmateriaal tijdens het onderzoek naar of de vervolging van strafbare feiten te beoordelen; d) AI-systemen die bedoeld zijn om door of namens rechtshandhavingsinstanties of door instellingen, organen of instanties van de Unie ter ondersteuning van rechtshandhavingsinstanties te worden gebruikt om te beoordelen hoe groot het risico is dat een natuurlijke persoon (opnieuw) een strafbaar feit zal plegen, niet uitsluitend op basis van profilering van natuurlijke personen als bedoeld in artikel 3, punt 4, van Richtlijn (EU) 2016/680, of om persoonlijkheidskenmerken en eigenschappen of eerder crimineel gedrag van natuurlijke personen of groepen te beoordelen; e) AI-systemen die bedoeld zijn om door of namens rechtshandhavingsinstanties of door instellingen, organen en instanties van de Unie ter ondersteuning van rechtshandhavingsinstanties te worden gebruikt om natuurlijke personen te profileren als bedoeld in artikel 3, punt 4, van Richtlijn (EU) 2016/680, tijdens het opsporen, onderzoeken of vervolgen van strafbare feiten.
a) AI-systemen die bedoeld zijn om door of namens rechtshandhavingsinstanties, of door instellingen, organen of instanties van de Unie ter ondersteuning van rechtshandhavingsinstanties of namens hen, te worden gebruikt om het risico te beoordelen dat een natuurlijke persoon het slachtoffer wordt van strafbare feiten;
b) AI-systemen die bedoeld zijn om door of namens rechtshandhavingsinstanties of door instellingen, organen of instanties van de Unie ter ondersteuning van rechtshandhavingsinstanties te worden gebruikt als leugendetector of soortgelijke instrumenten;
c) AI-systemen die bedoeld zijn om door of namens rechtshandhavingsinstanties of door instellingen, organen of instanties van de Unie ter ondersteuning van rechtshandhavingsinstanties te worden gebruikt om de betrouwbaarheid van bewijsmateriaal tijdens het onderzoek naar of de vervolging van strafbare feiten te beoordelen;
d) AI-systemen die bedoeld zijn om door of namens rechtshandhavingsinstanties of door instellingen, organen of instanties van de Unie ter ondersteuning van rechtshandhavingsinstanties te worden gebruikt om te beoordelen hoe groot het risico is dat een natuurlijke persoon (opnieuw) een strafbaar feit zal plegen, niet uitsluitend op basis van profilering van natuurlijke personen als bedoeld in artikel 3, punt 4, van Richtlijn (EU) 2016/680, of om persoonlijkheidskenmerken en eigenschappen of eerder crimineel gedrag van natuurlijke personen of groepen te beoordelen;
e) AI-systemen die bedoeld zijn om door of namens rechtshandhavingsinstanties of door instellingen, organen en instanties van de Unie ter ondersteuning van rechtshandhavingsinstanties te worden gebruikt om natuurlijke personen te profileren als bedoeld in artikel 3, punt 4, van Richtlijn (EU) 2016/680, tijdens het opsporen, onderzoeken of vervolgen van strafbare feiten.
7. Migratie-, asiel- en grenstoezichtsbeheer, voor zover het gebruik ervan is toegestaan op grond van het toepasselijke Unierecht of nationale recht: a) AI-systemen die bedoeld zijn om door of namens bevoegde overheidsinstanties of door instellingen, organen of instanties van de Unie te worden gebruikt als leugendetector of soortgelijke hulpmiddelen; b) AI-systemen die bedoeld zijn om door of namens bevoegde overheidsinstanties of door instellingen, organen of instanties van de Unie te worden gebruikt om risico’s te beoordelen, waaronder een veiligheidsrisico, een risico op illegale migratie of een gezondheidsrisico, uitgaat van een natuurlijke persoon die voornemens is het grondgebied van een lidstaat te betreden of dat heeft gedaan; c) AI-systemen die bedoeld zijn om door of namens bevoegde overheidsinstanties of door instellingen, organen of instanties van de Unie te worden gebruikt om bevoegde overheidsinstanties bij te staan bij de behandeling van aanvragen voor asiel, visa of verblijfsvergunningen en bij de behandeling van aanverwante klachten in verband met het al dan niet in aanmerking komen van de natuurlijke personen die een aanvraag voor een status indienen, met inbegrip van hieraan gerelateerde beoordelingen van de betrouwbaarheid van bewijsmateriaal; d) AI-systemen die bedoeld zijn om door of namens bevoegde overheidsinstanties, of door instellingen, organen of instanties van de Unie, te worden gebruikt in het kader van migratie-, asiel- of grenstoezichtsbeheer, met het oog op het opsporen, herkennen of identificeren van natuurlijke personen, met uitzondering van de verificatie van reisdocumenten.
a) AI-systemen die bedoeld zijn om door of namens bevoegde overheidsinstanties of door instellingen, organen of instanties van de Unie te worden gebruikt als leugendetector of soortgelijke hulpmiddelen;
b) AI-systemen die bedoeld zijn om door of namens bevoegde overheidsinstanties of door instellingen, organen of instanties van de Unie te worden gebruikt om risico’s te beoordelen, waaronder een veiligheidsrisico, een risico op illegale migratie of een gezondheidsrisico, uitgaat van een natuurlijke persoon die voornemens is het grondgebied van een lidstaat te betreden of dat heeft gedaan;
c) AI-systemen die bedoeld zijn om door of namens bevoegde overheidsinstanties of door instellingen, organen of instanties van de Unie te worden gebruikt om bevoegde overheidsinstanties bij te staan bij de behandeling van aanvragen voor asiel, visa of verblijfsvergunningen en bij de behandeling van aanverwante klachten in verband met het al dan niet in aanmerking komen van de natuurlijke personen die een aanvraag voor een status indienen, met inbegrip van hieraan gerelateerde beoordelingen van de betrouwbaarheid van bewijsmateriaal;
d) AI-systemen die bedoeld zijn om door of namens bevoegde overheidsinstanties, of door instellingen, organen of instanties van de Unie, te worden gebruikt in het kader van migratie-, asiel- of grenstoezichtsbeheer, met het oog op het opsporen, herkennen of identificeren van natuurlijke personen, met uitzondering van de verificatie van reisdocumenten.
8. Rechtsbedeling en democratische processen: a) AI-systemen die bedoeld zijn om door of namens een gerechtelijke instantie te worden gebruikt om een gerechtelijke instantie te ondersteunen bij het onderzoeken en uitleggen van feiten of de wet en bij de toepassing van het recht op een concrete reeks feiten of om te worden gebruikt op soortgelijke wijze in het kader van alternatieve geschillenbeslechting; b) AI-systemen die bedoeld zijn om te worden gebruikt voor het beïnvloeden van de uitslag van een verkiezing of referendum of van het stemgedrag van natuurlijke personen bij de uitoefening van hun stemrecht bij verkiezingen of referenda. Dit geldt niet voor AI-systemen aan de output waarvan natuurlijke personen niet rechtstreeks worden blootgesteld, zoals instrumenten die worden gebruikt om politieke campagnes te organiseren, te optimaliseren of te structureren vanuit administratief of logistiek oogpunt.
a) AI-systemen die bedoeld zijn om door of namens een gerechtelijke instantie te worden gebruikt om een gerechtelijke instantie te ondersteunen bij het onderzoeken en uitleggen van feiten of de wet en bij de toepassing van het recht op een concrete reeks feiten of om te worden gebruikt op soortgelijke wijze in het kader van alternatieve geschillenbeslechting;
b) AI-systemen die bedoeld zijn om te worden gebruikt voor het beïnvloeden van de uitslag van een verkiezing of referendum of van het stemgedrag van natuurlijke personen bij de uitoefening van hun stemrecht bij verkiezingen of referenda. Dit geldt niet voor AI-systemen aan de output waarvan natuurlijke personen niet rechtstreeks worden blootgesteld, zoals instrumenten die worden gebruikt om politieke campagnes te organiseren, te optimaliseren of te structureren vanuit administratief of logistiek oogpunt.
De technische documentatie als bedoeld in artikel 11, lid 1, bevat ten minste de volgende informatie, zoals van toepassing op het betreffende AI-systeem:
1. Een algemene beschrijving van het AI-systeem, met daarin: a) het beoogde doel, de naam van de aanbieder en de versie van het systeem, waarbij het verband met eerdere versies duidelijk gemaakt wordt; b) hoe het AI-systeem interageert of kan worden gebruikt om te interageren met hardware of software, ook met andere AI-systemen die geen deel uitmaken van het AI-systeem zelf, indien van toepassing; c) de versies van de betreffende software of firmware en eventuele eisen met betrekking tot versie-updates; d) de beschrijving van alle vormen waarin het AI-systeem in de handel wordt gebracht of in gebruik wordt gesteld, zoals in hardware ingebedde softwarepakketten, downloads of API’s; e) de beschrijving van de hardware waarop het AI-systeem moet worden uitgevoerd; f) indien het AI-systeem een component vormt van producten, foto’s of illustraties: de externe kenmerken, markeringen en interne lay-out van die producten; g) een basisbeschrijving van de gebruikersinterface die aan de gebruiksverantwoordelijke wordt verstrekt; h) gebruiksinstructies voor de gebruiksverantwoordelijke en een basisbeschrijving van de gebruikersinterface die aan de gebruiksverantwoordelijke wordt verstrekt, indien van toepassing.
a) het beoogde doel, de naam van de aanbieder en de versie van het systeem, waarbij het verband met eerdere versies duidelijk gemaakt wordt;
b) hoe het AI-systeem interageert of kan worden gebruikt om te interageren met hardware of software, ook met andere AI-systemen die geen deel uitmaken van het AI-systeem zelf, indien van toepassing;
c) de versies van de betreffende software of firmware en eventuele eisen met betrekking tot versie-updates;
d) de beschrijving van alle vormen waarin het AI-systeem in de handel wordt gebracht of in gebruik wordt gesteld, zoals in hardware ingebedde softwarepakketten, downloads of API’s;
e) de beschrijving van de hardware waarop het AI-systeem moet worden uitgevoerd;
f) indien het AI-systeem een component vormt van producten, foto’s of illustraties: de externe kenmerken, markeringen en interne lay-out van die producten;
g) een basisbeschrijving van de gebruikersinterface die aan de gebruiksverantwoordelijke wordt verstrekt;
h) gebruiksinstructies voor de gebruiksverantwoordelijke en een basisbeschrijving van de gebruikersinterface die aan de gebruiksverantwoordelijke wordt verstrekt, indien van toepassing.
2. Een gedetailleerde beschrijving van de elementen van het AI-systeem en van het proces voor de ontwikkeling ervan, waaronder: a) de uitgevoerde methoden en stappen voor de ontwikkeling van het AI-systeem, met inbegrip van, indien relevant, het gebruik van door derden geleverde vooraf getrainde systemen of hulpmiddelen en hoe die zijn gebruikt, geïntegreerd of aangepast door de aanbieder; b) de ontwerpspecificaties van het systeem, met name de algemene logica van het AI-systeem en van de algoritmen; de belangrijkste ontwerpkeuzen, waaronder de motivering en de gedane aannamen, ook met betrekking tot personen of groepen personen ten aanzien van wie het systeem bedoeld is om te worden gebruikt; de belangrijkste classificatiekeuzen; voor welke optimalisatie het systeem is ontworpen en de relevantie van de verschillende parameters; de beschrijving van de verwachte output en outputkwaliteit van het systeem; de beslissingen ten aanzien van eventuele afwegingen met betrekking tot technische oplossingen die zijn vastgesteld om te voldoen aan de eisen van hoofdstuk III, afdeling 2; c) de beschrijving van de systeemarchitectuur met een toelichting bij hoe softwarecomponenten op elkaar voortbouwen of elkaar informatie aanleveren en hoe de integratie in de algemene verwerking plaatsvindt; de rekenhulpmiddelen die zijn gebruikt voor het ontwikkelen, trainen, testen en valideren van het AI-systeem; d) indien relevant, de datavereisten voor de informatiebladen waarop de trainingsmethoden en -technieken zijn beschreven en de gebruikte reeksen trainingsdata, met inbegrip van een algemene beschrijving van deze datasets en informatie over de herkomst, reikwijdte en belangrijkste kenmerken ervan; hoe de data zijn verkregen en geselecteerd; labelingprocedures (bv. voor gecontroleerd leren), methoden voor dataopschoning (bv. opsporing van uitschieters); e) een beoordeling van de in overeenstemming met artikel 14 benodigde maatregelen op het gebied van menselijk toezicht, waaronder een beoordeling van de benodigde technische maatregelen voor de vereenvoudiging van de interpretatie van de output van AI-systemen door gebruiksverantwoordelijken, in overeenstemming met artikel 13, lid 3, punt d); f) indien van toepassing, een gedetailleerde beschrijving van vooraf bepaalde wijzigingen in het AI-systeem en de prestaties ervan, samen met alle relevante informatie die verband houdt met de technische oplossingen die zijn ingevoerd om de voortdurende naleving door het AI-systeem van de relevante eisen van hoofdstuk III, afdeling 2, te waarborgen; g) de gebruikte validatie- en testprocedures, waaronder informatie over de gebruikte validatie- en testdata en de belangrijkste kenmerken ervan; de statistieken die worden gebruikt voor het meten van de nauwkeurigheid, robuustheid, en naleving van andere relevante eisen van hoofdstuk III, afdeling 2, evenals mogelijk discriminerende gevolgen; logbestanden over en alle verslagen van tests die zijn gedateerd en ondertekend door de verantwoordelijken, waaronder met betrekking tot vooraf vastgestelde wijzigingen als bedoeld in punt f); h) gehanteerde cyberbeveiligingsmaatregelen.
a) de uitgevoerde methoden en stappen voor de ontwikkeling van het AI-systeem, met inbegrip van, indien relevant, het gebruik van door derden geleverde vooraf getrainde systemen of hulpmiddelen en hoe die zijn gebruikt, geïntegreerd of aangepast door de aanbieder;
b) de ontwerpspecificaties van het systeem, met name de algemene logica van het AI-systeem en van de algoritmen; de belangrijkste ontwerpkeuzen, waaronder de motivering en de gedane aannamen, ook met betrekking tot personen of groepen personen ten aanzien van wie het systeem bedoeld is om te worden gebruikt; de belangrijkste classificatiekeuzen; voor welke optimalisatie het systeem is ontworpen en de relevantie van de verschillende parameters; de beschrijving van de verwachte output en outputkwaliteit van het systeem; de beslissingen ten aanzien van eventuele afwegingen met betrekking tot technische oplossingen die zijn vastgesteld om te voldoen aan de eisen van hoofdstuk III, afdeling 2;
c) de beschrijving van de systeemarchitectuur met een toelichting bij hoe softwarecomponenten op elkaar voortbouwen of elkaar informatie aanleveren en hoe de integratie in de algemene verwerking plaatsvindt; de rekenhulpmiddelen die zijn gebruikt voor het ontwikkelen, trainen, testen en valideren van het AI-systeem;
d) indien relevant, de datavereisten voor de informatiebladen waarop de trainingsmethoden en -technieken zijn beschreven en de gebruikte reeksen trainingsdata, met inbegrip van een algemene beschrijving van deze datasets en informatie over de herkomst, reikwijdte en belangrijkste kenmerken ervan; hoe de data zijn verkregen en geselecteerd; labelingprocedures (bv. voor gecontroleerd leren), methoden voor dataopschoning (bv. opsporing van uitschieters);
e) een beoordeling van de in overeenstemming met artikel 14 benodigde maatregelen op het gebied van menselijk toezicht, waaronder een beoordeling van de benodigde technische maatregelen voor de vereenvoudiging van de interpretatie van de output van AI-systemen door gebruiksverantwoordelijken, in overeenstemming met artikel 13, lid 3, punt d);
f) indien van toepassing, een gedetailleerde beschrijving van vooraf bepaalde wijzigingen in het AI-systeem en de prestaties ervan, samen met alle relevante informatie die verband houdt met de technische oplossingen die zijn ingevoerd om de voortdurende naleving door het AI-systeem van de relevante eisen van hoofdstuk III, afdeling 2, te waarborgen;
g) de gebruikte validatie- en testprocedures, waaronder informatie over de gebruikte validatie- en testdata en de belangrijkste kenmerken ervan; de statistieken die worden gebruikt voor het meten van de nauwkeurigheid, robuustheid, en naleving van andere relevante eisen van hoofdstuk III, afdeling 2, evenals mogelijk discriminerende gevolgen; logbestanden over en alle verslagen van tests die zijn gedateerd en ondertekend door de verantwoordelijken, waaronder met betrekking tot vooraf vastgestelde wijzigingen als bedoeld in punt f);
h) gehanteerde cyberbeveiligingsmaatregelen.
3. Gedetailleerde informatie over de monitoring, werking en controle van het AI-systeem, meer bepaald met betrekking tot: de mogelijkheden en beperkingen op het gebied van de prestaties van het systeem, waaronder de verschillende maten van nauwkeurigheid voor specifieke personen of groepen personen waarvoor het systeem bedoeld is om te worden gebruikt en het totale verwachte nauwkeurigheidsniveau in verhouding tot het beoogde doel; de voorzienbare onbedoelde resultaten en risicobronnen voor de gezondheid en veiligheid, de grondrechten en discriminatie gelet op het beoogde doel van het AI-systeem; de in overeenstemming met artikel 14 benodigde maatregelen voor menselijk toezicht, met inbegrip van de technische maatregelen die zijn getroffen om de interpretatie van de output van AI-systemen door gebruiksverantwoordelijken te vergemakkelijken; specificaties over inputdata, indien van toepassing.
4. Een beschrijving van de geschiktheid van de prestatiestatistieken voor het specifieke AI-systeem.
5. Een gedetailleerde beschrijving van het systeem voor risicobeheer overeenkomstig artikel 9.
6. Een beschrijving van de relevante wijzigingen die door de aanbieder tijdens de levensduur van het systeem erin worden aangebracht.
7. Een lijst van de geharmoniseerde normen die volledig of gedeeltelijk worden toegepast en waarvan de referenties zijn gepubliceerd in het Publicatieblad van de Europese Unie. Indien dergelijke geharmoniseerde normen niet zijn toegepast, een gedetailleerde beschrijving van de vastgestelde oplossingen om te voldoen aan de eisen van hoofdstuk III, afdeling 2, met inbegrip van een lijst van andere toegepaste relevante normen en technische specificaties.
8. Een exemplaar van de in artikel 47 bedoelde EU-conformiteitsverklaring.
9. Een gedetailleerde beschrijving van het ingevoerde systeem voor de evaluatie van de prestaties van het AI-systeem nadat het in de handel is gebracht, in overeenstemming met artikel 72, met inbegrip van het in artikel 72, lid 3, bedoelde plan voor monitoring na het in de handel brengen.
De in artikel 47 bedoelde EU-conformiteitsverklaring bevat de volgende informatie:
1. de naam en het type van het AI-systeem, evenals eventuele aanvullende ondubbelzinnige verwijzingen waarmee het AI-systeem kan worden geïdentificeerd en getraceerd;
2. de naam en het adres van de aanbieder en, indien van toepassing, zijn gemachtigde;
3. een vermelding dat de in artikel 47 bedoelde EU-conformiteitsverklaring wordt verstrekt onder de uitsluitende verantwoordelijkheid van de aanbieder;
4. een vermelding dat het AI-systeem in overeenstemming is met deze verordening en, in voorkomend geval, met eventuele andere desbetreffende Uniewetgeving die voorziet in de afgifte van de in artikel 47 bedoelde EU-conformiteitsverklaring;
5. indien een AI-systeem de verwerking van persoonsgegevens met zich meebrengt, een verklaring dat dat AI-systeem voldoet aan de Verordeningen (EU) 2016/679 en (EU) 2018/1725 en Richtlijn (EU) 2016/680;
6. de vermelding van eventuele toegepaste relevante geharmoniseerde normen of van andere gemeenschappelijke specificaties waarop de conformiteitsverklaring betrekking heeft;
7. indien van toepassing, de naam en het identificatienummer van de aangemelde instantie, een beschrijving van de uitgevoerde conformiteitsbeoordelingsprocedure en identificatie van het afgegeven certificaat;
8. de plaats en de datum van afgifte van de verklaring, de naam en de functie van de persoon die de verklaring heeft ondertekend alsmede een vermelding van de persoon voor en namens wie die persoon ondertekent, een handtekening.
De conformiteit op basis van een beoordeling van het kwaliteitsbeheersysteem en een beoordeling van de technische documentatie is de conformiteitsbeoordelingsprocedure op basis van de punten 2 tot en met 5.
Het op grond van artikel 17 goedgekeurde kwaliteitsbeheersysteem voor het ontwerp, de ontwikkeling en het testen van AI-systemen wordt beoordeeld in overeenstemming met punt 3 en is onderworpen aan het in punt 5 bedoelde toezicht. De technische documentatie van het AI-systeem wordt beoordeeld in overeenstemming met punt 4.
3.1. De aanvraag van de aanbieder bevat onder meer: a) de naam en het adres van de aanbieder en, indien de aanvraag wordt ingediend door een gemachtigde, ook diens naam en adres; b) de lijst met AI-systemen die vallen onder hetzelfde kwaliteitsbeheersysteem; c) de technische documentatie voor elk AI-systeem dat valt onder hetzelfde kwaliteitsbeheersysteem; d) de documentatie betreffende het kwaliteitsbeheersysteem, dat alle in artikel 17 vermelde aspecten beslaat; e) een beschrijving van de ingestelde procedures om te zorgen dat het kwaliteitsbeheersysteem adequaat en doeltreffend blijft; f) een schriftelijke verklaring dat er geen gelijkluidende aanvraag bij een andere aangemelde instantie is ingediend.
a) de naam en het adres van de aanbieder en, indien de aanvraag wordt ingediend door een gemachtigde, ook diens naam en adres;
b) de lijst met AI-systemen die vallen onder hetzelfde kwaliteitsbeheersysteem;
c) de technische documentatie voor elk AI-systeem dat valt onder hetzelfde kwaliteitsbeheersysteem;
d) de documentatie betreffende het kwaliteitsbeheersysteem, dat alle in artikel 17 vermelde aspecten beslaat;
e) een beschrijving van de ingestelde procedures om te zorgen dat het kwaliteitsbeheersysteem adequaat en doeltreffend blijft;
f) een schriftelijke verklaring dat er geen gelijkluidende aanvraag bij een andere aangemelde instantie is ingediend.
3.2. Het kwaliteitsbeheersysteem wordt beoordeeld door de aangemelde instantie, die bepaalt of wordt voldaan aan de in artikel 17 bedoelde eisen. Het besluit wordt meegedeeld aan de aanbieder of diens gemachtigde. In deze kennisgeving zijn de conclusies van de beoordeling van het kwaliteitsbeheersysteem opgenomen, evenals de met redenen omklede beoordelingsbeslissing.
3.3. Het goedgekeurde kwaliteitsbeheersysteem wordt zodanig uitgevoerd en onderhouden door de aanbieder dat het toereikend en efficiënt blijft.
3.4. Voorgenomen wijzigingen in het goedgekeurde kwaliteitsbeheersysteem of de lijst met AI-systemen waarop het beheersysteem van toepassing is, worden door de aanbieder meegedeeld aan de aangemelde instantie. De voorgestelde wijzigingen worden beoordeeld door de aangemelde instantie, die beslist of het gewijzigde kwaliteitsbeheersysteem blijft voldoen aan de in punt 3.2 bedoelde eisen dan wel of een nieuwe beoordeling noodzakelijk is. De aangemelde instantie stelt de aanbieder in kennis van haar beslissing. In deze kennisgeving zijn de conclusies van de beoordeling van de wijzigingen opgenomen, evenals de met redenen omklede beoordelingsbeslissing.
4.1. In aanvulling op de in punt 3 bedoelde aanvraag, wordt een aanvraag bij een aangemelde instantie naar keuze ingediend door de aanbieder voor de beoordeling van de technische documentatie die betrekking heeft op het AI-systeem dat de aanbieder voornemens is in de handel te brengen of in gebruik te stellen en waarop het in punt 3 bedoelde kwaliteitsbeheersysteem van toepassing is.
4.2. De aanvraag omvat: a) de naam en het adres van de aanbieder; b) een schriftelijke verklaring dat er geen gelijkluidende aanvraag bij een andere aangemelde instantie is ingediend; c) de in bijlage IV bedoelde technische documentatie.
a) de naam en het adres van de aanbieder;
b) een schriftelijke verklaring dat er geen gelijkluidende aanvraag bij een andere aangemelde instantie is ingediend;
c) de in bijlage IV bedoelde technische documentatie.
4.3. De technische documentatie wordt beoordeeld door de aangemelde instantie. Indien relevant en beperkt tot wat nodig is om haar taken uit te voeren, wordt aan de aangemelde instantie volledige toegang verleend tot de gebruikte reeksen trainings-, validatie- en testdata, onder meer, indien passend en met inachtneming van beveiligingswaarborgen, via API’s of andere relevante technische middelen en instrumenten die toegang op afstand mogelijk maken.
4.4. Bij de beoordeling van de technische documentatie kan de aangemelde instantie eisen dat de aanbieder nader bewijs overlegt of nadere tests uitvoert, zodat een passende conformiteitsbeoordeling kan worden uitgevoerd om te controleren of het AI-systeem voldoet aan de eisen van hoofdstuk III, afdeling 2. Indien de aangemelde instantie niet tevreden is met de door de aanbieder uitgevoerde tests, voert de aangemelde instantie zelf toereikende tests uit, voor zover passend.
4.5. Indien dat noodzakelijk is om te beoordelen of het AI-systeem met een hoog risico voldoet aan de eisen van hoofdstuk III, afdeling 2, nadat alle andere redelijke manieren om de conformiteit te verifiëren, zijn uitgeput of ontoereikend zijn gebleken, en na een met redenen omkleed verzoek, krijgt de aangemelde instantie eveneens toegang tot de trainings- en getrainde modellen van het AI-systeem, met inbegrip van de relevante parameters ervan. Die toegang is onderworpen aan het bestaande Unierecht inzake de bescherming van intellectuele eigendom en bedrijfsgeheimen.
4.6. Het besluit van de aangemelde instantie wordt meegedeeld aan de aanbieder of diens gemachtigde. In deze kennisgeving zijn de conclusies van de beoordeling van de technische documentatie opgenomen, evenals de met redenen omklede beoordelingsbeslissing. Indien het AI-systeem voldoet aan de eisen van hoofdstuk III, afdeling 2, geeft de aangemelde instantie een beoordelingscertificaat technische documentatie van de Unie af. Het certificaat bevat naam en adres van de aanbieder, de controlebevindingen, de eventuele voorwaarden voor de geldigheid van het certificaat en de noodzakelijke gegevens voor de identificatie van het AI-systeem. Het certificaat en de bijlagen daarbij bevatten alle relevante informatie voor de evaluatie van de conformiteit van het AI-systeem en maken het mogelijk het in gebruik zijnde AI-systeem te controleren, indien van toepassing. Indien het AI-systeem niet voldoet aan de eisen van hoofdstuk III, afdeling 2, weigert de aangemelde instantie een beoordelingscertificaat technische documentatie van de Unie te verstrekken en brengt zij de aanvrager hiervan op de hoogte met vermelding van de precieze redenen voor de weigering. Indien het AI-systeem niet voldoet aan de eis met betrekking tot de gebruikte trainingsdata, moet het AI-systeem opnieuw worden getraind voorafgaand aan de aanvraag voor een nieuwe conformiteitsbeoordeling. In dit geval bevat de met redenen omklede beoordelingsbeslissing van de aangemelde instantie waarin het beoordelingscertificaat technische documentatie van de Unie wordt geweigerd de specifieke overwegingen ten aanzien van de kwaliteitsdata die worden gebruikt voor de training van het AI-systeem, met name over de redenen waarom deze niet voldoen.
4.7. Eventuele wijzigingen in het AI-systeem die van invloed kunnen zijn op de naleving door het AI-systeem van de eisen of het beoogde doel, worden beoordeeld door de aangemelde instantie die het beoordelingscertificaat technische documentatie van de Unie heeft verstrekt. De aanbieder informeert die aangemelde instantie over zijn voornemen om een van voornoemde wijzigingen door te voeren of wanneer hij zich anderszins bewust wordt van het bestaan van dergelijke wijzigingen. De aangemelde instantie beoordeelt de voorgenomen wijzigingen en beslist of deze een nieuwe conformiteitsbeoordeling vereisen overeenkomstig artikel 43, lid 4, dan wel of een aanvulling op het beoordelingscertificaat technische documentatie van de Unie volstaat. In het laatste geval beoordeelt de aangemelde instantie de wijzigingen, stelt zij de aanbieder in kennis van haar besluit en verstrekt hem, indien de wijzigingen worden goedgekeurd, een aanvulling op het beoordelingscertificaat technische documentatie van de Unie.
5.1. Het doel van het door de aangemelde instantie in punt 3 bedoelde uitgevoerde toezicht is te waarborgen dat de aanbieder naar behoren voldoet aan de algemene voorwaarden van het goedgekeurde kwaliteitsbeheersysteem.
5.2. De aanbieder stelt de aangemelde instantie in staat om voor beoordelingsdoeleinden toegang te krijgen tot de locatie waar het ontwerp, de ontwikkeling en het testen van de AI-systemen plaatsvindt. De aanbieder deelt voorts alle nodige informatie met de aangemelde instantie.
5.3. De aangemelde instantie verricht periodieke audits om te controleren of de aanbieder het kwaliteitsbeheersysteem onderhoudt en toepast en verstrekt de aanbieder een auditverslag. In het kader van deze audits kan de aangemelde instantie aanvullende tests uitvoeren van de AI-systemen waarvoor een beoordelingscertificaat technische documentatie van de Unie is verstrekt.
Voor wat betreft AI-systemen met een hoog risico die moeten worden geregistreerd in overeenstemming met artikel 49, lid 1, wordt de volgende informatie verstrekt en daarna actueel gehouden:
1. de naam, het adres en de contactgegevens van de aanbieder;
2. indien de informatie wordt ingediend door een andere persoon namens de aanbieder, de naam, het adres en de contactgegevens van die persoon;
3. de naam, het adres en de contactgegevens van de gemachtigde, indien van toepassing;
4. de handelsnaam van het AI-systeem, evenals eventuele aanvullende ondubbelzinnige verwijzingen waarmee het AI-systeem kan worden geïdentificeerd en getraceerd;
5. een beschrijving van het beoogde doel van het AI-systeem en van de componenten en functies die door dit AI-systeem worden ondersteund;
6. een basale en beknopte beschrijving van de door het systeem gebruikte informatie (data, input) en de operationele logica ervan;
7. de status van het AI-systeem (in de handel, in gebruik, niet langer in de handel/in gebruik, teruggeroepen);
8. het type, het nummer en de verloopdatum van het door de aangemelde instantie verstrekte certificaat en de naam of het identificatienummer van die aangemelde instantie, indien van toepassing;
9. een gescand exemplaar van het in punt 8 bedoelde certificaat, indien van toepassing;
10. de lidstaten waarin het AI-systeem in de handel is gebracht, in gebruik is gesteld of op de markt in de Unie is aangeboden;
11. een exemplaar van de in artikel 47 bedoelde EU-conformiteitsverklaring;
12. een elektronische gebruiksaanwijzing; deze informatie wordt niet verstrekt voor AI-systemen met een hoog risico op het gebied van rechtshandhaving of migratie-, asiel- en grenstoezichtsbeheer, als bedoeld in bijlage III, punten 1, 6 en 7;
13. een URL voor aanvullende informatie (facultatief).
Voor wat betreft AI-systemen met een hoog risico die moeten worden geregistreerd in overeenstemming met artikel 49, lid 2, wordt de volgende informatie verstrekt en daarna actueel gehouden:
1. de naam, het adres en de contactgegevens van de aanbieder;
2. indien de informatie wordt ingediend door een andere persoon namens de aanbieder, de naam, het adres en de contactgegevens van die persoon;
3. de naam, het adres en de contactgegevens van de gemachtigde, indien van toepassing;
4. de handelsnaam van het AI-systeem, evenals eventuele aanvullende ondubbelzinnige verwijzingen waarmee het AI-systeem kan worden geïdentificeerd en getraceerd;
5. een beschrijving van het beoogde doel van het AI-systeem;
6. de voorwaarde of voorwaarden uit hoofde van artikel 6, lid 3, waaronder het AI-systeem niet wordt beschouwd als een systeem met een hoog risico;
7. een korte samenvatting van de redenen waarom het AI-systeem bij de toepassing van de procedure uit hoofde van artikel 6, lid 3, niet als een systeem met een hoog risico wordt beschouwd;
8. de status van het AI-systeem (in de handel, in gebruik, niet langer in de handel/in gebruik, teruggeroepen);
9. de lidstaten waarin het AI-systeem in de handel is gebracht, in gebruik is gesteld of op de markt in de Unie is aangeboden.
Voor wat betreft AI-systemen met een hoog risico die moeten worden geregistreerd in overeenstemming met artikel 49, lid 3, wordt de volgende informatie verstrekt en daarna actueel gehouden:
1. de naam, het adres en de contactgegevens van de gebruiksverantwoordelijke;
2. de naam, het adres en de contactgegevens van de persoon die namens de gebruiksverantwoordelijke informatie indient;
3. de URL van de invoer van het AI-systeem in de EU-databank door de aanbieder ervan;
4. een samenvatting van de bevindingen van de overeenkomstig artikel 27 uitgevoerde effectbeoordeling op het gebied van de grondrechten;
5. een samenvatting van de gegevensbeschermingeffectbeoordeling die is uitgevoerd overeenkomstig artikel 35 van Verordening (EU) 2016/679 of artikel 27 van Richtlijn (EU) 2016/680, als nader bepaald in artikel 26, lid 8, van deze verordening, indien van toepassing.
Wat betreft tests onder reële omstandigheden die moeten worden geregistreerd in overeenstemming met artikel 60, wordt de volgende informatie verstrekt en daarna up-to-date gehouden:
1. een Uniebreed uniek identificatienummer van de tests onder reële omstandigheden;
2. ee naam en de contactgegevens van de aanbieder of potentiële aanbieder en van de gebruiksverantwoordelijken die betrokken zijn bij de tests onder reële omstandigheden;
3. een korte beschrijving van het AI-systeem, het beoogde doel ervan en andere informatie die nodig is voor de identificatie van het systeem;
4. een samenvatting van de voornaamste kenmerken van het plan voor de tests onder reële omstandigheden;
5. informatie over het opschorten of beëindigen van tests onder reële omstandigheden.
a) Verordening (EU) 2018/1860 van het Europees Parlement en de Raad van 28 november 2018 betreffende het gebruik van het Schengeninformatiesysteem voor de terugkeer van illegaal verblijvende onderdanen van derde landen (PB L 312 van 7.12.2018, blz. 1)
b) Verordening (EU) 2018/1861 van het Europees Parlement en de Raad van 28 november 2018 betreffende de instelling, de werking en het gebruik van het Schengeninformatiesysteem (SIS) op het gebied van grenscontroles, tot wijziging van de Overeenkomst ter uitvoering van het Akkoord van Schengen en tot wijziging en intrekking van Verordening (EG) nr. 1987/2006 (PB L 312 van 7.12.2018, blz. 14)
c) Verordening (EU) 2018/1862 van het Europees Parlement en de Raad van 28 november 2018 betreffende de instelling, de werking en het gebruik van het Schengeninformatiesysteem (SIS) op het gebied van politiële en justitiële samenwerking in strafzaken, tot wijziging en intrekking van Besluit 2007/533/JBZ van de Raad en tot intrekking van Verordening (EG) nr. 1986/2006 van het Europees Parlement en de Raad en Besluit 2010/261/EU van de Commissie (PB L 312 van 7.12.2018, blz. 56)
a) Verordening (EU) 2021/1133 van het Europees Parlement en de Raad van 7 juli 2021 tot wijziging van Verordeningen (EU) nr. 603/2013, (EU) 2016/794, (EU) 2018/1862, (EU) 2019/816 en (EU) 2019/818 wat betreft de voorwaarden voor toegang tot andere EU-informatiesystemen met het oog op het Visuminformatiesysteem (PB L 248 van 13.7.2021, blz. 1)
b) Verordening (EU) 2021/1134 van het Europees Parlement en de Raad van 7 juli 2021 tot wijziging van de Verordeningen (EG) nr. 767/2008, (EG) nr. 810/2009, (EU) 2016/399, (EU) 2017/2226, (EU) 2018/1240, (EU) 2018/1860, (EU) 2018/1861, (EU) 2019/817 en (EU) 2019/1896 van het Europees Parlement en de Raad en tot intrekking van Beschikking 2004/512/EG van de Raad en 2008/633/JBZ van de Raad, met het oog op de herziening van het Visuminformatiesysteem (PB L 248 van 13.7.2021, blz. 11).
Verordening (EU 2024/1358 van het Europees Parlement en de Raad van 14 mei 2024 betreffende de instelling van “Eurodac” voor de vergelijking van biometrische gegevens om de Verordeningen (EU) 2024/1315 en (EU) 2024/1350 van het Europees Parlement en de Raad en Richtlijn 2001/55/EG van de Raad doeltreffend toe te passen en om illegaal verblijvende onderdanen van derde landen en staatlozen te identificeren en betreffende verzoeken van rechtshandhavingsinstanties van de lidstaten en Europol om vergelijkingen van Eurodac-gegevens ten behoeve van rechtshandhaving, tot wijziging van de Verordeningen (EU) 2018/1240 en (EU) 2019/818 van het Europees Parlement en de Raad en tot intrekking van Verordening (EU) nr. 603/2013 van het Europees Parlement en de Raad (PB L, 2024/1358, 22.5.2024, ELI: http://data.europa.eu/eli/reg/2024/1358/oj).
Verordening (EU) 2017/2226 van het Europees Parlement en de Raad van 30 november 2017 tot instelling van een inreis-uitreissysteem (EES) voor de registratie van inreis- en uitreisgegevens en van gegevens over weigering van toegang ten aanzien van onderdanen van derde landen die de buitengrenzen overschrijden en tot vaststelling van de voorwaarden voor toegang tot het EES voor rechtshandhavingsdoeleinden en tot wijziging van de overeenkomst ter uitvoering van het te Schengen gesloten akkoord en Verordeningen (EG) nr. 767/2008 en (EU) nr. 1077/2011 (PB L 327 van 9.12.2017, blz. 20).
a) Verordening (EU) 2018/1240 van het Europees Parlement en de Raad van 12 september 2018 tot oprichting van een Europees reisinformatie- en -autorisatiesysteem (Etias) en tot wijziging van de Verordeningen (EU) nr. 1077/2011, (EU) nr. 515/2014, (EU) 2016/399, (EU) 2016/1624 en (EU) 2017/2226 (PB L 236 van 19.9.2018, blz. 1)
b) Verordening (EU) 2018/1241 van het Europees Parlement en de Raad van 12 september 2018 tot wijziging van Verordening (EU) 2016/794 met het oog op de oprichting van een Europees reisinformatie- en -autorisatiesysteem (Etias) (PB L 236 van 19.9.2018, blz. 72)
Verordening (EU) 2019/816 van het Europees Parlement en de Raad van 17 april 2019 tot invoering van een gecentraliseerd systeem voor de vaststelling welke lidstaten over informatie beschikken inzake veroordelingen van onderdanen van derde landen en staatlozen (Ecris-TCN) ter aanvulling van het Europees Strafregisterinformatiesysteem en tot wijziging van Verordening (EU) 2018/1726 (PB L 135 van 22.5.2019, blz. 1)
a) Verordening (EU) 2019/817 van het Europees Parlement en de Raad van 20 mei 2019 tot vaststelling van een kader voor interoperabiliteit tussen de Unie-informatiesystemen op het gebied van grenzen en visa en tot wijziging van Verordeningen (EG) nr. 767/2008, (EU) 2016/399, (EU) 2017/2226, (EU) 2018/1240, (EU) 2018/1726 en (EU) 2018/1861 van het Europees Parlement en de Raad, Beschikking 2004/512/EG van de Raad en Besluit 2008/633/JBZ van de Raad (PB L 135 van 22.5.2019, blz. 27)
b) Verordening (EU) 2019/818 van het Europees Parlement en de Raad van 20 mei 2019 tot vaststelling van een kader voor interoperabiliteit tussen de Unie-informatiesystemen op het gebied van politiële en justitiële samenwerking, asiel en migratie en tot wijziging van Verordeningen (EU) 2018/1726, (EU) 2018/1862 en (EU) 2019/816 (PB L 135 van 22.5.2019, blz. 85)
De technische documentatie als bedoeld in artikel 53, lid 1, punt a), bevat ten minste de volgende informatie, naargelang van de omvang en het risicoprofiel van het model:
1. Een algemene beschrijving van het AI-model voor algemene doeleinden, met daarin: a) de taken die het model moet uitvoeren en het type en de aard van AI-systemen waarin het kan worden geïntegreerd; b) de “acceptable use policies” die van toepassing zijn; c) de releasedatum en de wijze van verspreiding; d) de architectuur en het aantal parameters; e) de modaliteit (bv. tekst, afbeelding) en het formaat van de input en output; f) de licentie.
a) de taken die het model moet uitvoeren en het type en de aard van AI-systemen waarin het kan worden geïntegreerd;
b) de “acceptable use policies” die van toepassing zijn;
c) de releasedatum en de wijze van verspreiding;
d) de architectuur en het aantal parameters;
e) de modaliteit (bv. tekst, afbeelding) en het formaat van de input en output;
f) de licentie.
2. Een gedetailleerde beschrijving van de elementen van het in punt 1 bedoelde model en relevante informatie over het ontwikkelingsproces, met inbegrip van de volgende elementen: a) de technische middelen (bv. gebruiksinstructies, infrastructuur, instrumenten) die nodig zijn voor de integratie van het AI-model voor algemene doeleinden in AI-systemen; b) de specificaties van het ontwerp van het model en het trainingsproces, met inbegrip van trainingsmethoden en -technieken, de belangrijkste ontwerpkeuzes, met inbegrip van de motivering en de gemaakte aannames; voor welke optimalisatie het model is ontworpen en de relevantie van de verschillende parameters, naargelang van het geval; c) informatie over de data die zijn gebruikt voor training, tests en validatie, indien van toepassing, met inbegrip van het type en de herkomst van de data en curatiemethoden (bv. schoonmaken, filteren enz.), het aantal datapunten, hun bereik en belangrijkste kenmerken; de wijze waarop de data zijn verkregen en geselecteerd, alsmede alle andere maatregelen om de ongeschiktheid van databronnen te detecteren, en methoden voor het opsporen van identificeerbare vooroordelen, indien van toepassing; d) de rekenhulpmiddelen die zijn gebruikt om het model te trainen (bv. aantal zwevendekommabewerkingen), de duur en andere relevante bijzonderheden over de training; e) bekend of geraamd energieverbruik van het model. Met betrekking tot punt e) kan, indien het energieverbruik van het model onbekend is, het energieverbruik gebaseerd zijn op informatie over de gebruikte rekenhulpmiddelen.
a) de technische middelen (bv. gebruiksinstructies, infrastructuur, instrumenten) die nodig zijn voor de integratie van het AI-model voor algemene doeleinden in AI-systemen;
b) de specificaties van het ontwerp van het model en het trainingsproces, met inbegrip van trainingsmethoden en -technieken, de belangrijkste ontwerpkeuzes, met inbegrip van de motivering en de gemaakte aannames; voor welke optimalisatie het model is ontworpen en de relevantie van de verschillende parameters, naargelang van het geval;
c) informatie over de data die zijn gebruikt voor training, tests en validatie, indien van toepassing, met inbegrip van het type en de herkomst van de data en curatiemethoden (bv. schoonmaken, filteren enz.), het aantal datapunten, hun bereik en belangrijkste kenmerken; de wijze waarop de data zijn verkregen en geselecteerd, alsmede alle andere maatregelen om de ongeschiktheid van databronnen te detecteren, en methoden voor het opsporen van identificeerbare vooroordelen, indien van toepassing;
d) de rekenhulpmiddelen die zijn gebruikt om het model te trainen (bv. aantal zwevendekommabewerkingen), de duur en andere relevante bijzonderheden over de training;
e) bekend of geraamd energieverbruik van het model.
1. Een gedetailleerde beschrijving van de evaluatiestrategieën, met inbegrip van evaluatieresultaten, op basis van beschikbare openbare evaluatieprotocollen en -instrumenten of andere evaluatiemethoden. De evaluatiestrategieën omvatten evaluatiecriteria, maatstaven en de methoden voor het in kaart brengen van beperkingen.
2. Indien van toepassing, een gedetailleerde beschrijving van de maatregelen die zijn genomen met het oog op het uitvoeren van interne en/of externe tests gericht op het ontdekken van kwetsbaarheden (bv. red teaming), modelaanpassingen, inclusief afstemming en verfijning.
3. Indien van toepassing, een gedetailleerde beschrijving van de systeemarchitectuur met een toelichting bij hoe softwarecomponenten op elkaar voortbouwen of elkaar informatie aanleveren en hoe de integratie in de algemene verwerking plaatsvindt.
De in artikel 53, lid 1, punt b), bedoelde informatie omvat ten minste de volgende elementen:
1. Een algemene beschrijving van het AI-model voor algemene doeleinden, met daarin: a) de taken die het model moet uitvoeren en het type en de aard van AI-systemen waarin het kan worden geïntegreerd; b) de “acceptable use policies” die van toepassing zijn; c) de releasedatum en de wijze van verspreiding; d) hoe het model interageert of kan worden gebruikt om te interageren met hardware of software die geen deel uitmaakt van het model zelf, indien van toepassing; e) de versies van relevante software met betrekking tot het gebruik van het AI-model voor algemene doeleinden, indien van toepassing; f) de architectuur en het aantal parameters; g) de modaliteit (bv. tekst, afbeelding) en het formaat van de input en output; h) de licentie voor het model.
a) de taken die het model moet uitvoeren en het type en de aard van AI-systemen waarin het kan worden geïntegreerd;
b) de “acceptable use policies” die van toepassing zijn;
c) de releasedatum en de wijze van verspreiding;
d) hoe het model interageert of kan worden gebruikt om te interageren met hardware of software die geen deel uitmaakt van het model zelf, indien van toepassing;
e) de versies van relevante software met betrekking tot het gebruik van het AI-model voor algemene doeleinden, indien van toepassing;
f) de architectuur en het aantal parameters;
g) de modaliteit (bv. tekst, afbeelding) en het formaat van de input en output;
h) de licentie voor het model.
2. Een beschrijving van de elementen van het model en van het proces voor de ontwikkeling ervan, waaronder: a) de technische middelen (bv. gebruiksinstructies, infrastructuur, instrumenten) die nodig zijn voor de integratie van het AI-model voor algemene doeleinden in AI-systemen; b) de modaliteit (bv. tekst, afbeelding enz.) en het formaat van de input en output en de maximale omvang ervan (bv. lengte van het contextvenster enz.); c) informatie over de data die worden gebruikt voor training, tests en validatie, indien van toepassing, met inbegrip van het type en de herkomst van de data en curatiemethoden.
a) de technische middelen (bv. gebruiksinstructies, infrastructuur, instrumenten) die nodig zijn voor de integratie van het AI-model voor algemene doeleinden in AI-systemen;
b) de modaliteit (bv. tekst, afbeelding enz.) en het formaat van de input en output en de maximale omvang ervan (bv. lengte van het contextvenster enz.);
c) informatie over de data die worden gebruikt voor training, tests en validatie, indien van toepassing, met inbegrip van het type en de herkomst van de data en curatiemethoden.
Om te bepalen of een AI-model voor algemene doeleinden capaciteiten of een impact heeft die vergelijkbaar zijn met die welke zijn vermeld in artikel 51, lid 1, punt a), houdt de Commissie rekening met de volgende criteria:
a) het aantal parameters van het model;
b) de kwaliteit of omvang van de dataset, bijvoorbeeld gemeten aan de hand van tokens;
c) de hoeveelheid rekenhulpmiddelen die is gebruikt om het model te trainen, gemeten in zwevendekommabewerkingen, of uitgedrukt door een combinatie van andere variabelen, zoals de geraamde kosten, tijd of energieverbruik voor de opleiding;
d) de input- en outputmodaliteiten van het model, zoals tekst-naar-tekst (grote taalmodellen), tekst-naar-beeld, multimodaliteit, en de geavanceerde drempels voor het bepalen van capaciteiten met een grote impact voor elke modaliteit, en het specifieke type input en output (bv. biologische sequenties);
e) de benchmarks en evaluaties van de capaciteiten van het model, met inbegrip van het aantal taken zonder aanvullende training, het aanpassingsvermogen om nieuwe, afzonderlijke taken te leren, de mate van autonomie en schaalbaarheid en de instrumenten waartoe het toegang heeft;
f) of het een grote impact heeft op de interne markt vanwege het bereik ervan, wat verondersteld wordt wanneer het beschikbaar is gesteld aan ten minste 10 000 geregistreerde zakelijke gebruikers die in de Unie zijn gevestigd;
g) het aantal geregistreerde eindgebruikers.
ISSN 1977-0758 (electronic edition)