Стаття 14

1. Системи штучного інтелекту з високим рівнем ризику проектуються та розробляються таким чином, включаючи відповідні інструменти інтерфейсу «людина-машина», щоб протягом періоду їх використання за ними міг здійснюватися ефективний нагляд з боку фізичних осіб.

2. Людський нагляд спрямований на запобігання або обмеження ризиків для здоров’я, безпеки або основоположних прав, які можуть виникнути, коли система штучного інтелекту з високим рівнем ризику використовується відповідно до її цільового призначення або в ситуації обґрунтовано передбачуваного зловживання, зокрема, коли такі ризики зберігаються попри застосування інших вимог цього розділу.

3. Заходи нагляду є пропорційними до ризиків, ступеня автономності та контексту використання системи штучного інтелекту з високим рівнем ризику і забезпечуються за допомогою одного або всіх нижченаведених видів заходів:

а) заходи, визначені постачальником, які, де це технічно можливо, вбудовуються в систему штучного інтелекту з високим рівнем ризику до моменту введення цієї системи в обіг або введення її в експлуатацію;

b) заходи, визначені постачальником до моменту введення системи штучного інтелекту з високим рівнем ризику в обіг або до моменту її введення в експлуатацію, які є належними для виконання особою, відповідальною за використання.

4. З метою виконання положень частин 1, 2 та 3, високоризикова система штучного інтелекту надається відповідальному користувачу таким чином, щоб фізичні особи, відповідальні за здійснення нагляду з боку людини, мали змогу, де це доречно та пропорційно:

а) належним чином розуміти відповідні можливості та обмеження системи штучного інтелекту з високим рівнем ризику та бути спроможними належним чином здійснювати моніторинг її функціонування, зокрема з метою виявлення та усунення невідповідностей, збоїв та неочікуваних результатів роботи;

b) усвідомлювати можливу схильність до автоматичної або надмірної довіри до результатів роботи системи штучного інтелекту з високим рівнем ризику (так зване «автоматизаційне упередження» (automation bias)), зокрема щодо систем штучного інтелекту з високим рівнем ризику, які використовуються для надання інформації або рекомендацій для прийняття рішень, що мають здійснюватися фізичними особами;

c) правильно інтерпретувати результати роботи системи штучного інтелекту з високим рівнем ризику, наприклад, за допомогою доступних інструментів та методів інтерпретації;

d) у всіх конкретних ситуаціях мати можливість прийняти рішення не використовувати високоризикову систему штучного інтелекту або іншим чином ігнорувати результати роботи високоризикової системи штучного інтелекту, замінити їх іншим рішенням або скасувати їх;

e) втручатися у функціонування системи штучного інтелекту з високим рівнем ризику або переривати роботу системи за допомогою кнопки зупинки чи аналогічної процедури, за допомогою якої систему можна безпечно зупинити.

5. Для систем штучного інтелекту з високим рівнем ризику, зазначених у додатку III, пункт 1, підпункт а), заходи, передбачені частиною 3 цієї статті, мають гарантувати, що відповідальна за використання особа не вживає жодних заходів і не приймає жодних рішень на підставі ідентифікації, здійсненої системою, за винятком випадків, коли така ідентифікація була окремо перевірена та підтверджена принаймні двома фізичними особами, які володіють необхідною кваліфікацією, підготовкою та повноваженнями.

Вимога щодо окремої перевірки принаймні двома фізичними особами не застосовується до високоризикових систем штучного інтелекту, що використовуються для правоохоронної діяльності, міграції, прикордонного контролю або надання притулку, у випадках, коли право Союзу або національне право вважає застосування цієї вимоги непропорційним.