Стаття 13

1. Високоризикові системи штучного інтелекту проектуються та розробляються таким чином, щоб їх функціонування було достатньо прозорим для того, щоб надати особам, відповідальним за використання, можливість інтерпретувати результати роботи системи та використовувати їх належним чином. Належний вид та рівень прозорості забезпечується з метою дотримання відповідних зобов’язань постачальника та особи, відповідальної за використання, як це викладено у розділі 3.

2. Високоризикові системи ШІ супроводжуються інструкціями з використання у відповідному цифровому або іншому форматі, що містять стислу, повну, точну та чітку інформацію, яка є релевантною, доступною та зрозумілою для відповідальних осіб за використання.

3. Інструкції з використання повинні містити принаймні такі дані:

а) ідентифікаційні дані та контактна інформація надавача послуг, а також, у відповідних випадках, його уповноваженого представника;

b) характеристики, можливості та обмеження функціонування системи штучного інтелекту високого ризику, включаючи: i) передбачувану мету; ii) рівень точності, включаючи критерії оцінювання, надійність та кібербезпеку, як зазначено у статті 15, щодо яких система штучного інтелекту високого ризику була протестована та валідована і які можуть бути очікуваними, а також будь-які відомі та передбачувані обставини, що можуть вплинути на цей очікуваний рівень точності, надійності та кібербезпеки; iii) будь-які відомі або передбачувані обставини, пов'язані з використанням системи штучного інтелекту високого ризику відповідно до її передбачуваної мети або в ситуації обґрунтовано передбачуваного зловживання, які можуть призвести до ризиків для здоров'я та безпеки або основних прав, як зазначено у статті 9, пункті 2; iv) у відповідних випадках, технічні можливості та характеристики системи штучного інтелекту високого ризику щодо надання інформації, яка є релевантною для пояснення результатів її роботи; v) у відповідних випадках, її функціонування стосовно конкретних осіб або груп осіб, для яких система має використовуватися; vi) у відповідних випадках, специфікації щодо вхідних даних або будь-якої іншої релевантної інформації стосовно наборів даних, використаних для навчання, валідації та тестування, з урахуванням передбачуваної мети системи штучного інтелекту високого ризику; vii) у відповідних випадках, інформацію, що дозволяє особам, відповідальним за використання, інтерпретувати результати роботи системи штучного інтелекту високого ризику та використовувати їх належним чином;

i) передбачувана мета;

ii) ступінь точності, включаючи критерії оцінювання, надійність та кібербезпеку, як зазначено у статті 15, щодо яких система штучного інтелекту з високим рівнем ризику була протестована та валідована і які можна очікувати, а також будь-які відомі та передбачувані обставини, що можуть вплинути на цей очікуваний ступінь точності, надійності та кібербезпеки;

iii) будь-які відомі або передбачувані обставини, пов’язані з використанням системи штучного інтелекту з високим рівнем ризику відповідно до її цільового призначення або в ситуації обґрунтовано передбачуваного зловживання, які можуть призвести до ризиків для здоров’я та безпеки або основних прав, як зазначено у статті 9, пункті 2;

iv) у відповідних випадках, технічні можливості та характеристики системи штучного інтелекту з високим рівнем ризику для надання інформації, що є релевантною для пояснення результатів її роботи;

v) у відповідних випадках, його характеристики стосовно конкретних осіб або груп осіб, для яких має використовуватися система;

vi) у відповідних випадках, специфікації щодо вхідних даних або будь-яка інша релевантна інформація стосовно наборів даних, що використовуються для навчання, валідації та тестування, з урахуванням цільового призначення системи штучного інтелекту з високим рівнем ризику;

vii) у відповідних випадках — інформація, що дозволяє особам, відповідальним за використання, інтерпретувати результати роботи системи штучного інтелекту з високим рівнем ризику та використовувати їх належним чином;

c) зміни в системі ШІ з високим рівнем ризику та її показники ефективності, визначені постачальником заздалегідь на момент проведення первинної оцінки відповідності, якщо це застосовно;

d) заходи щодо нагляду з боку людини, зазначені у статті 14, включаючи технічні заходи, вжиті для полегшення інтерпретації результатів роботи систем штучного інтелекту з високим рівнем ризику особами, відповідальними за їх використання;

e) необхідна обчислювальна потужність та апаратне забезпечення, очікуваний строк експлуатації системи штучного інтелекту з високим рівнем ризику та будь-які необхідні заходи — а також їх періодичність — щодо технічного обслуговування та догляду для забезпечення належного функціонування цієї системи штучного інтелекту, зокрема у зв’язку з оновленням програмного забезпечення;

f) у відповідних випадках — опис механізмів у системі штучного інтелекту з високим рівнем ризику, які дають змогу особам, відповідальним за використання, належним чином збирати, зберігати та інтерпретувати журнали (logs) відповідно до статті 12.