Перейти к содержимому
8 мин чтения

Как классифицируют системы ИИ высокого риска по Акту ЕС об ИИ

Разбираем системы ИИ высокого риска по Акту ЕС об ИИ: Приложение III, пограничные случаи HR и кредитования, практическая самооценка.

Как классифицируют системы ИИ высокого риска по Акту ЕС об ИИ
Содержание

Классификация высокого риска по Акту ЕС об ИИ зависит от целевого назначения, а не от названия модели, ярлыка поставщика или наличия проверяющего человека. Система, которая ранжирует кандидатов на работу, может относиться к высокому риску, даже если окончательную кнопку нажимает рекрутер. Та же модель, которая переписывает описание вакансии, может не подпадать под Приложение III, поскольку она не оценивает человека и не влияет на решение об отборе.

На словах различие выглядит простым, пока продукт не объединяет прием данных, составление резюме, оценку и рекомендации в одном интерфейсе. Тогда основатели задают неверный вопрос: «Относится ли наш ИИ к высокому риску?» Классифицируйте каждую систему ИИ и каждое целевое назначение в реальном рабочем процессе. Юридический ответ может измениться, когда клиент включает функцию, меняет получателя результата или использует безобидного помощника для решений с серьезными последствиями.

Ниже дано практическое прочтение Регламента (ЕС) 2024/1689, Акта ЕС об ИИ, и проекта рекомендаций Европейской комиссии по классификации от мая 2026 года. Определяющую силу имеет регламент; проект рекомендаций объясняет нынешнюю позицию Комиссии, но не имеет обязательной силы. Правила о трудоустройстве, кредитовании, защите данных, защите потребителей и недискриминации продолжают действовать, даже когда система ИИ не попадает в категорию высокого риска.

Как работают два пути классификации

Статья 6 предусматривает два независимых пути в режим высокого риска. Проверьте оба. Отрицательный ответ по одному ничего не говорит о другом.

Путь по статье 6(1) охватывает систему ИИ, которая сама относится к регулируемым продуктам или предназначена для работы компонентом безопасности такого продукта, если продукт должен пройти оценку соответствия третьей стороной по законодательству Союза из Приложения I. Приложение I отсылает к режимам регулирования машинного оборудования, игрушек, лифтов, оборудования под давлением, медицинских изделий, устройств для диагностики in vitro, автомобилей, гражданской авиации и других регулируемых продуктов. Должны одновременно выполняться оба условия: связь с продуктом и обязательная сторонняя оценка.

Этот путь часто ошибочно понимают как «ИИ в оборудовании». Такое толкование слишком широкое. Прогноз спроса у производителя медицинских изделий не становится высокорисковым лишь потому, что компания выпускает регулируемые продукты. Но программное обеспечение может подпасть под правило, если оно само относится к медицинским изделиям или выполняет функцию безопасности, а его отказ создает угрозу для людей или имущества. Важна регуляторная роль продукта, а не наличие физического корпуса вокруг ИИ.

Путь по статье 6(2) охватывает целевые назначения, перечисленные в Приложении III. Их часто называют автономными вариантами применения, потому что классификация не зависит от оценки соответствия по продуктовому законодательству. Отбор кандидатов и оценка потребительской кредитоспособности обычно попадают сюда.

Одна система может одновременно соответствовать обоим путям. Зафиксируйте каждый результат, поскольку применимая процедура оценки соответствия, сведения для регистрации и дата перехода могут различаться. Не останавливайтесь на первом удобном ответе.

Приложение III перечисляет способы применения, а не отрасли

В Приложении III восемь областей, но целая компания или подразделение не становятся высокорисковыми. Значение имеет конкретный способ применения внутри области.

  1. Биометрия включает разрешенную удаленную биометрическую идентификацию, некоторые виды биометрической категоризации по чувствительным или защищенным признакам и распознавание эмоций. Проверка личности один к одному, которая лишь подтверждает заявленную личность, исключена из пункта об удаленной идентификации.
  2. Критическая инфраструктура включает компоненты безопасности для управления и эксплуатации критической цифровой инфраструктуры, дорожного движения, водоснабжения, газоснабжения, теплоснабжения и электроснабжения.
  3. Образование и профессиональная подготовка включают прием или распределение, оценку результатов обучения, определение подходящего уровня образования и выявление запрещенного поведения во время экзаменов.
  4. Занятость включает таргетированную рекламу вакансий, набор и отбор, решения об условиях работы, повышении или прекращении отношений, некоторые способы распределения задач, а также наблюдение и оценку производительности и поведения работников.

Оставшиеся четыре области касаются доступа к услугам и осуществления публичных полномочий:

  1. Основные услуги включают определение права на государственные пособия, оценку кредитоспособности и кредитного рейтинга физических лиц, оценку риска и ценообразование в страховании жизни и здоровья, классификацию экстренных вызовов и очередность выезда, а также медицинскую сортировку неотложных пациентов.
  2. Правоохранительная деятельность включает отдельные разрешенные способы применения: оценку риска стать жертвой, инструменты наподобие полиграфа, оценку надежности доказательств, некоторые оценки риска совершения или повторного совершения преступления и профилирование во время расследования или преследования.
  3. Миграция, убежище и пограничный контроль включают отдельные разрешенные оценки риска, рассмотрение заявлений, инструменты наподобие полиграфа и идентификацию в этом контексте. Проверка проездных документов исключена из последнего пункта.
  4. Правосудие и демократические процессы включают помощь судебным органам в применении права к фактам, аналогичное альтернативное разрешение споров и системы, предназначенные для влияния на голосование либо результат выборов или референдума. Обычное администрирование кампании, результаты которого напрямую не показывают избирателям, исключено из пункта о выборах.

Список намного уже ярлыков вроде «ИИ для финтеха» или «автоматизация HR». Поиск аномалий в кредиторской задолженности банка не относится к кредитному скорингу. Система планирования смен, которая распределяет работу только по часам работы магазина и требуемой численности, отличается от системы, назначающей смены с учетом скорости, настроения или оценки надежности каждого работника.

Комиссия может менять Приложение III делегированными актами в пределах уже перечисленных областей и при соблюдении условий Акта. Поэтому в записи о классификации нужны версия источника и дата пересмотра. Таблица с единственной пометкой «не высокий риск» быстро устареет.

Целевое назначение важнее рекламного описания

Целевое назначение, заданное поставщиком, лежит в основе классификации. Оно включает контекст и условия использования из инструкций, технической документации, рекламных материалов и других предоставленных сведений. Узкая формулировка договора не спасет продукт с широким поведением и рекламными обещаниями, которые подталкивают к применению из списка.

Сначала нарисуйте схему принятия решения. Укажите затронутого человека, решение, каждый вход, каждый результат ИИ, получателя результата и последствия неблагоприятного вывода. Затем задайте границы системы. Комплекс для найма может включать генератор описаний вакансий, планировщик собеседований, анализатор резюме, ранжирование кандидатов и прогноз увольнений. Если считать весь комплекс одним черным ящиком, невозможно увидеть, какие функции входят в Приложение III, а какие остаются снаружи.

Участие человека не выводит способ применения из Приложения III. В процессах с серьезными последствиями постоянно встречаются слова «помогает» и «поддерживает». Если рекомендация определяет, какие заявки получат внимание, добавляет проверку, вызывает задержку, меняет цену или сильно задает рамку решения, она может существенно влиять на результат, хотя формальные полномочия остаются у человека.

Учитывайте последующее применение. Кредитное бюро может использовать систему и выпускать рейтинг, а другая организация применит его при решении об ипотеке или жилье. Проект рекомендаций Комиссии считает такое разделение несущественным для вопроса, подпадает ли цель скоринга под пункт 5(b) Приложения III. Классификация следует за назначением рейтинга, а не за корпоративными границами.

У универсальной модели нет одного постоянного класса риска для всех приложений. Поставщик конечной системы решает, как встроить и представить модель. Языковая модель, извлекающая даты из форм, может пройти фильтр статьи 6(3); та же базовая модель, которая ранжирует соискателей по прогнозу успешности, может относиться к высокому риску. Фраза «мы только вызываем API» описывает архитектуру, а не обосновывает классификацию.

Фильтр статьи 6(3) работает в узких пределах

Система из Приложения III может не считаться высокорисковой лишь при отсутствии значительного риска вреда для здоровья, безопасности или основных прав, в том числе когда она существенно не влияет на решение, и при выполнении хотя бы одного из четырех условий.

  • Она выполняет узкую процедурную задачу.
  • Она улучшает результат уже завершенной работы человека.
  • Она выявляет закономерности или отклонения в прежних решениях, не заменяет завершенную оценку человека, не влияет на нее и предусматривает надлежащую проверку человеком.
  • Она выполняет подготовительную задачу для оценки из Приложения III.

Эти условия нельзя использовать как четыре волшебных ярлыка. Исходный тест по-прежнему требует отсутствия значительного риска и существенного влияния. Нельзя назвать скоринг кандидатов «подготовкой», если балл определяет список резюме, который рекрутер действительно прочитает.

Узкий процедурный инструмент для найма может находить точные дубликаты файлов, преобразовывать резюме в стандартный формат или направлять заявку на вакансию, которую соискатель выбрал сам. Граница пройдена, когда инструмент скрывает документы, выводит пригодность, ранжирует людей или помечает перерывы в работе как сигналы риска. Проверка текста после того, как руководитель закончил оценку работника, может улучшать завершенную работу человека. Инструмент, который добавляет новые доводы о производительности или рекомендует оценку, выполняет другую задачу.

У фильтра есть жесткий предел: система из Приложения III, профилирующая физических лиц, всегда относится к высокому риску. Под профилированием обычно понимают автоматизированную обработку персональных данных для оценки характеристик человека, включая производительность труда, экономическое положение, здоровье, предпочтения, надежность, поведение, местоположение или перемещения. Не сводите проверку к наличию слова «профиль» в названии результата. Категория риска, прогноз склонности или оценка соответствия кандидата могут создавать профиль без этого слова.

Поставщик обязан обосновать решение по фильтру до вывода системы на рынок или ввода в эксплуатацию, зарегистрировать систему по статье 49(2) и по запросу передать оценку компетентному органу. Исключение снимает с этой системы обязанности главы III для высокого риска, но не отменяет GDPR и не делает применение законным по другим нормам.

Риск HR-инструментов зависит от влияния, а не автоматизации

Контролируйте изменения ИИ в HR
Fractional CTO связывает изменения ИИ в команде с выпуском и доступностью систем.

Системы подбора персонала относятся к высокому риску, когда их целевое назначение включает таргетированную рекламу вакансий, анализ или фильтрацию заявок либо оценку кандидатов. Категория начинается раньше решения о предложении работы. Выбор тех, кто увидит возможность и попадет на собеседование, может определять доступ к занятости.

Ранжирование кандидатов не вызывает сомнений. Представим систему, которая оценивает письменные ответы, выстраивает соискателей по баллам и направляет лучшую группу на собеседование. Рекрутер может изучить каждого рекомендованного кандидата и ни разу не открыть анкеты нижней группы. ИИ уже распределил внимание и существенно повлиял на отбор. В проекте рекомендаций по занятости Комиссия относит такую схему к высокому риску.

Скоринг при проверке биографии работает сходным образом. Результат «низкий, средний или высокий риск» на основе трудового стажа, образования, финансовых данных или сведений из интернета оценивает человека. Проверка человеком после получения балла не устраняет его влияние, если отмеченные заявки двигаются медленнее или пропадают из активной очереди. Когда персональные данные используют для прогноза надежности или пригодности, запрет для профилирования также закрывает фильтр статьи 6(3).

Несколько соседних функций требуют отдельной оценки:

  • Создание обычного описания вакансии без оценки людей не входит в способ применения для найма.
  • Планирование собеседования по календарям обычно остается снаружи, если система не расставляет приоритеты и не выводит пригодность кандидатов.
  • Разбор резюме по полям может пройти фильтр, когда он сохраняет все сведения и выполняет только канцелярское структурирование.
  • Краткое изложение заявки становится рискованным, если оно выбирает благоприятные факты, опускает существенные сведения или становится единственным представлением, которое читает рекрутер.
  • Распределение задач между работниками подпадает под пункт 4(b), когда опирается на индивидуальное поведение или личные признаки; распределение по местоположению, доступности и объективным рабочим ограничениям может не охватываться этой формулировкой.

Управление работниками не ограничивается сотрудниками по стандартному трудовому договору. Приложение III говорит о договорных отношениях, связанных с работой, и доступе к самозанятости. Рекомендации о повышении, сигналы к увольнению, оценка продуктивности, наблюдение за поведением и распределение задач по личным признакам требуют проверки. Расчет зарплаты и категоризация расходов не становятся высокорисковыми лишь из-за применения в HR.

Самый частый слабый довод звучит так: «Решает руководитель». Спросите, какие данные руководитель увидит без ИИ, меняет ли неблагоприятный результат очередь и как часто сотрудники от него отступают. Формальное подтверждение мало доказывает, если интерфейс уже отфильтровал реальность.

Кредитные инструменты зависят от человека и цели

Пункт 5(b) Приложения III охватывает ИИ, предназначенный для оценки кредитоспособности физического лица или определения его кредитного рейтинга. Потребительские кредиты и ипотека относятся к очевидным случаям. В проекте рекомендаций также сказано, что рейтинг одной организации может подпадать под правило, если третьи лица используют его при решениях о кредите, жилье, медицинской помощи или телекоммуникационных услугах.

Прямое исключение для ИИ, который выявляет финансовое мошенничество, привязано к цели. Оно не освобождает комбинированную модель, если та помечает заявку как возможное мошенничество и использует тот же результат, чтобы решить, заслуживает ли человек кредита. Разделите системы, результаты, права доступа и документацию, если цели действительно различаются. Переименованный балл отказа остается оценкой кредитоспособности, когда он прогнозирует возврат или определяет одобрение.

Оценка корпоративного кредита может оставаться вне пункта 5(b), когда система анализирует юридическое лицо по данным компании и не оценивает личные финансы физического лица. В примерах проекта Комиссия идет дальше: анализ деловых данных владельца малого бизнеса без статуса юридического лица может оставаться снаружи; то же возможно для оценки владельца, обеспечивающего кредит компании, когда основным получателем выступает компания. Считайте это проектом толкования, а не общим исключением для индивидуальных предпринимателей. Если результат определяют личный доход, расходы, платежное поведение или обстоятельства семьи, до применения такой позиции зафиксируйте, почему система не оценивает самого человека.

Некоторые смежные инструменты остаются снаружи из-за другого целевого назначения. Служба поддержки, которая объясняет условия заявки, помогает заполнить форму или рассматривает жалобу после решения, сама не оценивает кредитоспособность. Сегментация клиентов для маркетинга остается снаружи, если не участвует в кредитной оценке. Оценка залога может оставаться снаружи, когда анализируется только актив. Внутренний контроль кредитной задолженности после выдачи займа для пруденциальных целей также не относится к пункту 5(b) в проекте рекомендаций.

Границы ломаются, когда команды повторно используют функции. Маркетинговый сегмент платежеспособности, скопированный в андеррайтинг, получил роль в кредитной оценке. Сигнал мошенничества, который автоматически снижает балл одобрения, теперь влияет на кредитоспособность. Модель раннего предупреждения после выдачи займа может уже не соответствовать узкому примеру внутреннего контроля, если с ее помощью сокращают доступный человеку лимит или задают условия продления.

Кредитный скоринг часто оценивает экономическое положение, надежность или поведение по персональным данным, а значит, создает профиль. Тогда фильтр статьи 6(3) не применяется, даже если команда называет балл небольшим входным фактором. Нужно провести классификацию и выполнить требования, а не придумывать новое название.

Надежная самооценка требует восьми проходов

Назначьте владельца изменений в ИИ
Fractional CTO держит инженерные решения, структуру команды и внедрение ИИ под старшим контролем.

Полезная самооценка дает прослеживаемое решение для каждой пары системы и целевого назначения. Она должна позволить менеджеру продукта, юристу и инженеру одинаково определить границы системы без восстановления многомесячной истории встреч.

  1. Подтвердите, что компонент соответствует определению системы ИИ в Акте. Обычная программа, которая исполняет правила, полностью заданные людьми, может остаться вне сферы действия, но не придумывайте собственный тест. Используйте статью 3(1) и рекомендации Комиссии об определении системы ИИ.
  2. Проверьте территориальную сферу и исключения. Зафиксируйте, где работают поставщик и эксплуатирующая сторона, где систему продвигают или используют и применяется ли ее результат в Союзе. Для исследований, личного непрофессионального применения, военных задач и национальной безопасности, а также некоторых вариантов открытого исходного кода предусмотрены конкретные нормы, а не широкие лозунги.
  3. Напишите отдельное целевое назначение для каждой функции. Укажите затронутого человека, решение, результат, пользователя, контекст и запрещенные способы применения. Сопоставьте формулировку с интерфейсом, рекламными материалами, договорами и наблюдаемым использованием.
  4. Проверьте статью 6(1). Назовите продуктовый акт из Приложения I, функцию безопасности и требование сторонней оценки соответствия. Если какого-то элемента нет, запишите это вместо фразы «не применимо».

Теперь границы системы и результат по первому юридическому пути должны быть явно зафиксированы. Следующие четыре прохода проверяют чувствительный способ применения, распределяют ответственность и поддерживают вывод в актуальном состоянии:

  1. Проверьте каждый пункт Приложения III. Сошлитесь на конкретный пункт, например 4(a) для оценки кандидатов или 5(b) для кредитоспособности физического лица, и свяжите каждую юридическую формулировку с доказательством из продукта.
  2. При совпадении с Приложением III проверьте статью 6(3). Объясните отсутствие значительного вреда и существенного влияния, назовите одно условие фильтра и проверьте профилирование. Вывод по фильтру требует доказательств из рабочего процесса, а не подходящего прилагательного.
  3. Распределите роли и обязанности. Назовите поставщика, эксплуатирующую сторону, импортера, дистрибьютора, уполномоченного представителя и любого участника, который переименовал или существенно изменил систему. Зафиксируйте ответственных за оценку соответствия, инструкции, журналы, наблюдение, контроль человеком, уведомления и работу с инцидентами.
  4. Задайте причины для пересмотра. Повторите оценку при изменении функций, входных данных, смысла результата, группы пользователей, географии, инструкций, интеграции, поведения модели или последующих решений. Укажите владельца и дату.

Не спрашивайте поставщика только о том, «соответствует ли продукт Акту ЕС об ИИ». Запросите документацию по целевому назначению, границам системы, инструкции по применению, известные и запрещенные способы использования, материалы валидации, порядок журналирования и обоснование классификации поставщиком. Ваша организация все равно отвечает за свой способ эксплуатации системы.

Храните запись о классификации, понятную инженерам

Запись о решении должна находиться рядом с продуктовой документацией и материалами по рискам, по возможности под контролем версий. Юридическое заключение, которого не видят инженеры, не ограничит флаг функции или интеграцию.

Этот компактный шаблон заставляет явно указать важные факты:

system_id: hr-candidate-assist
version: 2.4
owner: product-risk
provider: Example Provider Ltd
deployer: Example Employer Ltd
ai_system_basis: "Article 3(1) assessment reference"
intended_purpose:
  affected_person: job applicant
  decision: invitation to interview
  output: ranked candidate list
  user: recruiter
  context: EU engineering recruitment
system_boundary:
  included: [cv_parser, suitability_score, ranking]
  excluded: [calendar_scheduler]
article_6_1:
  annex_i_law: null
  safety_component: false
  third_party_assessment: false
annex_iii:
  match: "4(a) recruitment and selection"
article_6_3:
  significant_risk_absent: false
  material_influence_absent: false
  condition: null
  profiling: true
classification: high-risk
evidence: [workflow-map-v3, recruiter-ui-v5, model-card-2.4]
review_triggers: [new-output, new-data, new-user, new-market]
next_review: 2026-11-15

Ожидаемый формат результата намеренно скучен: одна классификация, юридический путь, ссылки на доказательства, владелец и причины для пересмотра. Для вывода об отсутствии высокого риска по статье 6(3) заполните каждое поле фильтра и добавьте ссылку на регистрацию по статье 49(2). Для системы высокого риска свяжите запись с более широким планом управления рисками и оценки соответствия, не пытайтесь уместить все доказательства в один файл.

Сверьте запись с работающим продуктом. Могут ли рекрутеры сортировать людей по якобы скрытому баллу? Копирует ли сотрудник поддержки метку мошенничества в кредитное решение? Отдает ли планировщик календаря приоритет «сильным» кандидатам, несмотря на безобидное название? Я видел команды, которые классифицировали презентацию, пока в рабочей среде действовали другие правила. Регуляторов, затронутых людей и вашу команду по инцидентам будет интересовать рабочая среда.

Ответственность следует за контролем над системой

Уберите узкое место классификации
Трансформация команды с ИИ сокращает десять разработчиков до одного или двух без остановки выпуска.

Покупка продукта с ИИ не переносит все обязанности на поставщика. Акт об ИИ распределяет роли по действиям, поэтому название стороны в договоре дает лишь исходную точку. Компания, которая разрабатывает систему, заказывает ее разработку и выводит на рынок под своим именем, выступает поставщиком. Организация, использующая ее под своим управлением, обычно выступает эксплуатирующей стороной. У импортеров и дистрибьюторов есть отдельные обязанности в цепочке поставок.

По статье 25 эксплуатирующая сторона может стать поставщиком, если наносит свое имя или товарный знак на существующую систему высокого риска, существенно меняет ее или меняет целевое назначение так, что система переходит в высокий риск. Не каждое изменение конфигурации существенно. Речь идет о внесенном после вывода на рынок изменении, которое поставщик не предвидел и не запланировал в исходной оценке соответствия, если оно влияет на соответствие или меняет целевое назначение.

Такое происходит в обычной продуктовой работе. Поставщик дает инструмент, предназначенный только для извлечения полей из резюме. Клиент добавляет промпты, веса и автоматический порог, а затем представляет итоговый процесс внутри компании как оценку кандидатов. Клиент уже вышел за рамки эксплуатации описанного анализатора. Он создал новое целевое назначение и должен проверить, не принял ли обязанности поставщика итоговой системы.

Противоположная ошибка состоит в том, чтобы считать каждую настройку клиента новой системой. Установка разрешенного порога, выбор документированных входов или подключение продукта по инструкции могут оставаться в пределах оцененного поставщиком назначения. Зафиксируйте допустимый диапазон конфигурации и сравнивайте с ним изменения. Не судите по размеру изменения в программе. Один флаг может включить ранжирование кандидатов, а крупный перенос инфраструктуры может никак не затронуть назначение и соответствие.

В договорах нужно прямо разделить рабочие обязанности. Потребуйте от поставщика обоснование классификации, инструкции, технические сведения для внедрения, ожидаемые свойства входных данных, устройство контроля человеком, средства журналирования, уведомления об изменениях и контакты для сообщений об инцидентах. От эксплуатирующей стороны потребуйте соблюдать ограничения применения, обучать проверяющих, наблюдать за отменами решений и жалобами, сохранять нужные журналы и сообщать о серьезном или неожиданном поведении. Эти условия не заменяют регламент, но не дают сторонам считать работу обязанностью контрагента.

Закупщикам также нужно правило для компонентов. В одной цепочке могут оказаться поставщик универсальной модели, поставщик HR-приложения, интегратор и работодатель. Поставщик HR-приложения обычно отвечает за классификацию готовой системы ранжирования кандидатов, которую продает. Работодатель отвечает за контекст эксплуатации и может принять дополнительные обязанности при изменении назначения или самой системы. Документация поставщика модели помогает в последующей оценке, но не может классифицировать способы применения, которые он не создавал.

Проверяйте изменения по записи о классификации до выпуска, а не во время ежегодного юридического обзора. Задачи на добавление новых данных, рекомендаций, затронутых групп или последующих действий должны включать проверку классификации. Для обещаний отдела продаж нужен тот же барьер. Если продавец предлагает «автоматически отклонять слабых кандидатов», а в инструкциях описан канцелярский разбор резюме, доказательства целевого назначения уже противоречат друг другу.

Наконец, сохраняйте разногласия. Когда юристы, продуктовая команда и инженеры по-разному понимают существенное влияние, запишите каждое фактическое допущение и владельца решения. Такая запись полезнее ложного согласия, потому что показывает следующему проверяющему, какие новые факты изменят вывод.

Классификация начинает работу, но не завершает ее

Результат «высокий риск» запускает программу соответствия, а не автоматический запрет. Поставщики должны выполнять требования к управлению рисками, данным и их контролю, технической документации, журналированию, информации для эксплуатирующей стороны, контролю человеком, точности, отказоустойчивости и кибербезопасности. Также нужны применимая оценка соответствия, система управления качеством, регистрация, наблюдение после вывода на рынок, корректирующие действия и процессы для серьезных инцидентов.

Эксплуатирующие стороны должны соблюдать инструкции, назначать компетентных людей для контроля и следить за работой системы, а также контролировать входные данные, которые предоставляют сами. При использовании на рабочем месте нужно заранее информировать затронутых работников и их представителей. Для систем, которые принимают решения о физических лицах или помогают в них, действуют обязанности по уведомлению. Государственные органы, частные поставщики государственных услуг и стороны, использующие системы оценки кредитоспособности либо страхования жизни и здоровья, обязаны в предусмотренных статьей 27 случаях оценивать влияние на основные права. GDPR, правила коллективных трудовых отношений, законодательство о потребительском кредите и национальное трудовое право могут вводить отдельные меры.

Действующий календарь дает командам время, но не разрешает откладывать классификацию. После изменения Digital Omnibus, вступившего в силу в июле 2026 года, правила высокого риска для систем из Приложения III применяются с 2 декабря 2027 года, а правила для продуктов по статье 6(1) применяются со 2 августа 2028 года. При планировании сверяйтесь с консолидированным текстом и материалами Комиссии, поскольку стандарты, окончательные рекомендации и делегированные акты могут изменить детали реализации.

Для портфеля из десятков функций ИИ классификация должна находиться в том же реестре, что владельцы, затраты, доступ и рабочие риски. Team & AI Audit от oleg.is поможет составить карту такого портфеля и связанной инженерной работы, но юридические выводы все равно стоит проверить у квалифицированного специалиста по праву ЕС.

Разберите границы до покупки платформы для соответствия. Если команда не может сказать, что система делает, с чьим решением и в отношении кого, программа лишь упорядочит неизвестное. Лучший первый результат работы: версионируемая карта, связывающая целевое назначение с доказательствами из рабочей среды, без пробела на месте прежней фразы «проверит человек».

Часто задаваемые вопросы

Что относит систему ИИ к высокому риску по Акту ЕС об ИИ?

Система относится к высокому риску, если проходит тест регулируемого продукта по статье 6(1) или имеет целевое назначение из Приложения III. Для систем из Приложения III узкий фильтр статьи 6(3) может снять классификацию, кроме случаев профилирования физических лиц.

Всегда ли ИИ для подбора персонала относится к высокому риску?

Нет. Таргетирование кандидатов, фильтрация, ранжирование и оценка обычно входят в Приложение III, а создание обычного описания вакансии или нейтральное планирование собеседования могут оставаться снаружи. Классифицируйте каждую функцию по ее влиянию на доступ человека к работе.

Исключает ли проверка человеком высокий риск HR-инструмента?

Нет. Последний щелчок рекрутера не устраняет влияние балла, короткого списка или рекомендации, которые распределяют внимание. Участие человека учитывают при анализе процесса, но общего исключения оно не дает.

Считается ли анализатор резюме системой ИИ высокого риска?

Анализатор может пройти фильтр статьи 6(3), когда лишь извлекает и структурирует сведения без ранжирования, сокрытия или оценки. Если результат отбирает благоприятные факты или участвует в отсеве кандидатов, вывод меняется.

Относятся ли системы кредитного скоринга ИИ к высокому риску?

Системы для оценки кредитоспособности физического лица или определения его кредитного рейтинга входят в пункт 5(b) Приложения III. Анализ корпоративного кредита может оставаться снаружи, когда оценивает юридическое лицо и не рассматривает личные финансы человека.

Исключен ли поиск финансового мошенничества из кредитной категории?

Приложение III прямо исключает из пункта 5(b) ИИ для выявления финансового мошенничества. Исключение не защищает комбинированный результат, который также влияет на одобрение, цену или другое решение о кредитоспособности.

Применяется ли фильтр статьи 6(3) к профилированию?

Нет. Система из Приложения III, профилирующая физическое лицо, всегда считается высокорисковой по статье 6(3). Проверяйте фактическую обработку персональных данных, а не название результата в продукте.

Кто документирует решение об отсутствии высокого риска по статье 6(3)?

Поставщик обязан подготовить оценку до вывода системы на рынок или ввода в эксплуатацию. Он также регистрирует систему по статье 49(2) и передает оценку компетентному органу по запросу.

Может ли клиент стать поставщиком системы высокого риска?

Да. Эксплуатирующая сторона может получить обязанности поставщика, если переименует систему высокого риска, существенно изменит ее или поменяет целевое назначение так, что возникнет высокий риск. Сама по себе настройка ничего не решает, важны последствия для назначения и соответствия.

Когда применяются правила Акта ЕС об ИИ для высокого риска?

По пересмотренному графику правила высокого риска для Приложения III применяются с 2 декабря 2027 года, а продуктовые правила статьи 6(1) с 2 августа 2028 года. При планировании сверяйтесь с консолидированным текстом и окончательными рекомендациями Комиссии.

Похожие статьи