Інфраструктура відповідності Закону ЄС про ШІ: Побудова систем, що відповідають європейським регуляціям у сфері штучного інтелекту

Оновлено 8 грудня 2025 року

Оновлення за грудень 2025 року: Зобов'язання щодо GPAI діють з 2 серпня 2025 року. AI Office функціонує та надає рекомендації. Кодекс практики опубліковано у липні 2025 року з визначенням шляхів досягнення відповідності. Вимоги до систем ШІ високого ризику набирають чинності у серпні 2026 року. Штрафи сягають €35 млн або 7% глобального обороту за порушення. Технічна документація, логування та інфраструктура аудиторського сліду стають обов'язковими для доступу на ринок ЄС. За оцінками, 18% корпоративних систем ШІ класифіковані як системи високого ризику, що потребують оцінки відповідності.

Закон ЄС про ШІ став першим у світі комплексним регулюванням штучного інтелекту, коли його застосування розпочалося 2 серпня 2025 року, і організації виявили, що відповідність вимагає значно більше, ніж оновлені політики конфіденційності.¹ Компанії, що обслуговують європейські ринки, тепер стикаються з інфраструктурними вимогами, що охоплюють технічну документацію, автоматичне логування, відстеження походження даних та аудиторські сліди, яким їхні існуючі системи ШІ не можуть відповідати. Термін серпня 2026 року для відповідності систем ШІ високого ризику наближається, тоді як більшість організацій не мають технічної архітектури для демонстрації відповідності. Побудова відповідної інфраструктури ШІ вимагає розуміння як регуляторних вимог, так і інженерних систем, необхідних для їх виконання.

Регуляторна структура, якою мають керуватися організації

Закон ЄС про ШІ встановлює систему класифікації на основі ризиків, яка визначає зобов'язання щодо відповідності. Заборонені практики — включаючи соціальний скоринг, біометричну ідентифікацію в реальному часі в громадських місцях та розпізнавання емоцій на робочих місцях — стали незаконними з 2 лютого 2025 року.² Зобов'язання щодо моделей штучного інтелекту загального призначення (GPAI) набули чинності 2 серпня 2025 року. Вимоги до систем ШІ високого ризику застосовуються з 2 серпня 2026 року, з повним впровадженням для всіх категорій ризику до серпня 2027 року.

Заборонені практики ШІ підлягають негайному застосуванню зі штрафами до €35 мільйонів або 7% глобального річного обороту — залежно від того, що більше.³ Організації повинні провести аудит існуючих розгортань ШІ для виявлення будь-яких систем, що маніпулюють людською поведінкою, експлуатують вразливості або забезпечують біометричне спостереження в реальному часі, заборонене Законом.

Моделі штучного інтелекту загального призначення (ті, що навчені з використанням понад 10²³ FLOPS і здатні генерувати текст, зображення або відео) повинні вести технічну документацію, публікувати резюме навчальних даних та дотримуватися законодавства ЄС про авторське право.⁴ Моделі, що перевищують 10²⁵ FLOPS, підлягають додатковим вимогам щодо системного ризику, включаючи оцінку моделей, звітування про інциденти та заходи кібербезпеки.

Системи ШІ високого ризику охоплюють ШІ, що використовується як компоненти безпеки в регульованих продуктах, а також системи, розгорнуті в чутливих сферах, включаючи критичну інфраструктуру, зайнятість, освіту, правоохоронну діяльність та прикордонний контроль.⁵ Ці системи потребують процесів управління ризиками, структур управління даними, технічної документації, можливостей ведення записів, механізмів людського нагляду та оцінки відповідності третьою стороною.

За оцінками Європейської комісії, 5-15% застосунків ШІ кваліфікуватимуться як системи високого ризику, але дослідження appliedAI, що аналізувало 106 корпоративних систем ШІ, виявило 18% явно високоризикових, 42% низькоризикових і 40% таких, що потребують класифікації в кожному окремому випадку.⁶ Організації не можуть припускати, що їхні системи уникають зобов'язань високого ризику без формальної оцінки.

Відповідність GPAI стала обов'язковою у серпні 2025 року

Постачальники моделей штучного інтелекту загального призначення зіткнулися зі своїм першим обов'язковим терміном 2 серпня 2025 року, і інфраструктура впровадження тепер функціонує. AI Office — орган ЄС, що здійснює нагляд за відповідністю GPAI — почав запитувати документацію від постачальників моделей і може накладати штрафи починаючи з серпня 2026 року.⁷

Вимоги до технічної документації зобов'язують постачальників GPAI вести детальні записи архітектури моделі, методології навчання, використаних обчислювальних ресурсів та результатів оцінки.⁸ Документація повинна демонструвати, що моделі функціонують як задумано, та визначати передбачувані ризики. Стандарт документації застосовується до всіх моделей GPAI незалежно від того, чи класифікують їх постачальники як відкритий код.

Зобов'язання щодо прозорості навчальних даних вимагають публікації "достатньо детального резюме" контенту, використаного для навчання.⁹ Вимога має на меті дозволити власникам авторських прав визначити, чи їхні твори використовувалися без дозволу. Постачальники повинні впровадити механізми для власників авторських прав щодо здійснення прав на відмову, де це застосовно.

Дотримання авторського права вимагає від постачальників поваги до законодавства ЄС про авторське право, включаючи винятки для інтелектуального аналізу тексту та даних. Організації, що збирали захищений авторським правом контент для навчання без належного дозволу, несуть відповідальність як за Законом про ШІ, так і за існуючими нормами авторського права.

Моделі системного ризику (ті, що перевищують 10²⁵ FLOPS) підлягають додатковим зобов'язанням, включаючи змагальне тестування, оцінку та пом'якшення ризиків, відстеження та звітування про інциденти, а також адекватний захист кібербезпеки.¹⁰ Постачальники повинні повідомити Комісію протягом двох тижнів після досягнення або прогнозування обчислювального порогу.

Кодекс практики GPAI, опублікований у липні 2025 року, надає добровільний шлях до відповідності. Дотримання "підвищує довіру з боку Комісії", тоді як недотримання викликає "більшу кількість запитів на інформацію та запитів на доступ".¹¹ Кодекс охоплює сфери прозорості, авторського права та безпеки/захисту. Підписанти отримують презумпцію відповідності; непідписанти повинні самостійно демонструвати відповідність через детальну документацію або аналіз прогалин.

Вимоги до інфраструктури технічної документації

Стаття 11 Закону про ШІ вимагає, щоб системи ШІ високого ризику вели технічну документацію, складену до виходу на ринок та постійно оновлювану.¹² Документація повинна демонструвати відповідність регуляторним вимогам у "зрозумілій та всеохоплюючій формі" для національних органів та нотифікованих органів, що проводять оцінку.

Обов'язкові елементи документації включають:

• Загальний опис системи ШІ, включаючи призначення та ідентифікацію постачальника
• Детальний опис елементів системи та процесів розробки
• Інформацію про моніторинг, функціонування та механізми контролю
• Опис відповідності метрик продуктивності
• Комплексну документацію системи управління ризиками
• Відповідні зміни життєвого циклу та історію модифікацій
• Технічні стандарти, застосовані під час розробки
• Декларацію відповідності ЄС
• Системи оцінки продуктивності після виходу на ринок

МСП та стартапи можуть надавати спрощену документацію, хоча скорочені вимоги все ще перевищують те, що більшість організацій наразі ведуть.¹³ Практичне завдання полягає у генеруванні та підтримці цієї документації безперервно в міру розвитку систем — а не у створенні статичних документів, які швидко застарівають.

Інфраструктурні наслідки вимагають систем, які автоматично фіксують артефакти розробки, відстежують версії моделей, записують конфігурації навчання та зберігають результати оцінки. Ручні процеси документування не можуть масштабуватися до безперервного моніторингу відповідності, якого вимагає Закон. Організаціям потрібні платформи MLOps з вбудованою генерацією документації, системи контролю версій, що зберігають обґрунтування рішень, та інтеграція між середовищами розробки та записами відповідності.

Сучасні ML-платформи, такі як MLflow, Weights & Biases та Neptune.ai, надають часткові рішення для відстеження експериментів та версіонування моделей. Однак більшості платформ бракує функцій, спеціально розроблених для регуляторної документації — генерування структурованих записів, яких вимагають органи влади, а не журналів експериментів, орієнтованих на розробників. З'являються спеціалізовані інструменти відповідності для подолання цього розриву.

Інфраструктура логування та аудиторського сліду

Стаття 12 вимагає, щоб системи ШІ високого ризику "технічно дозволяли автоматичний запис подій (логів) протягом усього терміну служби системи".¹⁴ Можливості логування повинні забезпечувати простежуваність, відповідну призначенню системи — розмите формулювання, яке застосування з часом уточнить.

Вимоги до вмісту логів включають:

• Метадані логів: Ідентифікація системи, часові мітки, документація періоду зберігання (мінімум 6 місяців обов'язково)
• Деталі операцій: Псевдонімізовані ідентифікатори користувачів та клієнтів, параметри запитів, контекст виклику
• Деталі моделі: Технічна інформація про використану модель ШІ, метрики продуктивності, оцінки важливості ознак
• Деталі рішень: Записи виходів, рівні впевненості, дії людського нагляду, документація перевизначень¹⁵

Інфраструктурні виклики посилюються на виробничому масштабі. Системи ШІ генерують величезні обсяги логів, що вимагають ефективних рішень для стиснення та зберігання. Логи повинні містити специфічні метадані, що задовольняють вимоги відповідності, залишаючись при цьому доступними для запитів для перевірки. Періоди зберігання тривають роками для систем з довгим операційним життєвим циклом.¹⁶

Традиційна інфраструктура логування застосунків виявляється неадекватною. Стандартні інструменти агрегації логів, такі як Elasticsearch, Splunk або Datadog, фіксують операційну телеметрію, але не мають специфічних для ШІ структурованих полів, яких вимагає Закон. Організаціям потрібне спеціалізоване логування ШІ, що фіксує входи моделі, виходи, фактори рішень та дії людського нагляду у форматах, придатних для регуляторного аудиту.

Вимоги до походження даних вимагають чітких, аудитованих історій, що показують звідки походять дані, як вони були трансформовані, які системи їх обробляли та які дані навчали, тестували та експлуатували конкретні моделі.¹⁷ Для відповідності Закону ЄС про ШІ походження даних надає технічний доказ того, що навчальні дані відповідали вимогам якості, релевантності та репрезентативності. Без інфраструктури походження даних демонстрація відповідності управління даними стає майже неможливою.

Впровадження відповідного логування вимагає архітектурних змін, які більшість організацій не планувала. Системи повинні фіксувати запити та відповіді виведення без впливу на затримку. Чутливі дані повинні бути псевдонімізовані, зберігаючи при цьому можливість аудиту. Системи зберігання повинні підтримувати доступність роками, управляючи витратами. Можливості пошуку повинні дозволяти аудиторам перевіряти конкретні рішення без сканування всієї історії логів.

Вимоги до інфраструктури людського нагляду

Закон про ШІ закріплює "людину в циклі" як основний принцип для систем високого ризику. Стаття 14 вимагає механізмів людського нагляду, що дозволяють особам розуміти можливості системи, правильно інтерпретувати виходи, вирішувати, коли перевизначати або ігнорувати виходи, та втручатися або зупиняти роботу системи за необхідності.¹⁸

Технічна реалізація вимагає інтерфейсів, що представляють рішення ШІ з достатнім контекстом для людського судження. Користувачі повинні розуміти не лише що система вирішила, а чому, який рівень впевненості застосовується та які фактори вплинули на вихід. Системи "чорної скриньки", що виробляють необ'яснювані рішення, не можуть задовольнити вимоги нагляду незалежно від точності.

Інфраструктура пояснюваності стає обов'язковою для застосунків високого ризику. Організації, що розгортають моделі у сферах зайнятості, кредитування, охорони здоров'я або правоохоронної діяльності, потребують інтерпретованих виходів, які люди можуть змістовно перевірити. Значення SHAP, візуалізації уваги, контрфактичні пояснення або подібні техніки повинні інтегруватися з користувацькими інтерфейсами, а не залишатися інструментами розробників.

Можливості перевизначення та втручання вимагають, щоб людські оператори могли зупиняти системи ШІ, виправляти рішення та документувати обґрунтування втручання. Системи повинні логувати дії людського нагляду як частину аудиторських слідів. Організації не можуть просто додати "кнопки перевизначення" без фіксації обґрунтування та результатів рішень про перевизначення.

Вимоги до компетентності виходять за межі технічних систем. Організації повинні забезпечити, щоб люди, які здійснюють нагляд, мали належну грамотність у сфері ШІ для ефективного виконання своїх ролей.¹⁹ Зобов'язання щодо грамотності в сфері ШІ набули чинності у лютому 2025 року, вимагаючи від постачальників та користувачів забезпечити персоналу достатнє розуміння систем ШІ, які вони експлуатують.

Вимоги до системи управління ризиками

Системи ШІ високого ризику потребують докумен

[Контент скорочено для перекладу]