ФСБ, госреестр и новые правила для ИИ
Законопроект о регулировании ИИ продолжает меняться. В последней версии документа появился ряд принципиальных дополнений.
Национальные и суверенные нейросети получают право обучаться на государственных данных, но только после согласования с ФСТЭК и ФСБ России. Документ также возлагает на операторов и владельцев ИИ ответственность за информационную безопасность моделей.
Главное структурное новшество: статус «доверенной» модели теперь присваивается только после внесения в специальный государственный реестр, порядок ведения которого устанавливает правительство РФ.
Ранее требования о включении в реестр касались лишь моделей, используемых на объектах критической информационной инфраструктуры (КИИ) и в государственных информационных системах. Теперь же, как уточняется в законопроекте, правительство совместно с ЦБ будет определять требования обязательного применения «суверенных» и «национальных» моделей, в том числе в банковской сфере.
В Минцифры пояснили, что документ сейчас дорабатывается совместно с экспертами и заинтересованными ведомствами. Критерии включения в реестр установят отдельными актами уполномоченные органы. «Речь о доверенности касается тех моделей, которые будут использоваться на объектах КИИ и в госинформсистемах. Однако говорить об окончательной версии и некоторых деталях сейчас рано», — отметили в министерстве.
При этом документ остаётся рамочным: он состоит из 21 статьи, был опубликован 18 марта и вступит в силу только 1 сентября 2027 года.
Что даёт статус «доверенной» модели
Юристы уже сейчас предупреждают бизнес: доверенная модель — это не знак качества и не гарантия безошибочности. Руководитель правовой и корпоративной поддержки финтех-группы, эксперт по вопросам правового регулирования цифровых сервисов и потребительского права, к.ю.н, магистр права Университета Ланкашир Валерий Белов объяснил: «Доверенная модель ИИ — это модель, которая соответствует установленным требованиям и включена в специальный реестр. По своей правовой природе этот статус близок к системе административного допуска. Включение модели в реестр не делает ее безошибочным инструментом. Это подтверждение соответствия требованиям на конкретный момент и при определенных условиях применения».
Татьяна Звенигородская, юрист по международному праву, эксперт в области ИИ, подчеркивает: «Статус “доверенной модели“ не стоит воспринимать как ключ к безошибочности ИИ. Для договоров это означает: важно проверять не только наличие модели в реестре, но и то, соответствует ли ее статус конкретному сценарию использования».
Кто несет ответственность за ошибки ИИ
Этот вопрос по-прежнему вызывает больше всего споров. Эксперты едины во мнении: ссылка на «ошибку алгоритма» не освобождает бизнес от ответственности.
Валерий Белов напомнил, что разработчики часто используют дисклеймеры вроде «модель предоставляется как есть» или «результат носит рекомендательный характер». Но это не универсальный способ снять с себя ответственность. «Ссылка на ошибку алгоритма не освобождает от ответственности перед клиентом. Статус доверенной модели также не является индульгенцией. Фраза “это решил искусственный интеллект“ не должна стать причиной ухода от ответственности. В правовом смысле решение принимает не ИИ, а организация, которая встроила его в свой процесс», — считает он.
Как отметил Ярослав Климов, ассистент кафедры гуманитарных наук Финансового Университета при Правительстве РФ: «Ссылка на "непреодолимую силу алгоритма“ в суде почти наверняка не сработает — алгоритм не признается обстоятельством непреодолимой силы».
Эксперты предлагают распределять ответственность по ролям:
- Разработчик отвечает за модель и заявленные характеристики;
- Интегратор — за корректность внедрения;
- Компания-пользователь — за конкретное применение и итоговое решение.
Анна Райская, CEO AIVOLUTE и эксперт по внедрению ИИ в бизнес-процессы, обратила внимание на практическую сторону вопроса: «Регресс к разработчику возможен только в одном случае: когда вы заранее прописали в договоре, что именно модель должна делать и по каким измеримым показателям. Нет показателя — не к чему предъявить регресс».
Что делать бизнесу
Появление реестра доверенных моделей меняет договорную логику. Поэтому Ярослав Климов посоветовал прописывать статус доверенной модели как существенное условие договора:
- Предусмотреть право на односторонний отказ от договора при утрате статуса.
- Установить обязанность поставщика в течение 30 дней восстановить статус или предложить альтернативу.
- Зафиксировать разумную неустойку.
«Если в середине проекта модель утратит статус доверенной, лучше сразу оценивать риски и переходить к альтернативному поставщику. Длительное ожидание ведет к накоплению рисков и сложностям с доказыванием убытков», — предупредил Климов.
Татьяна Звенигородская рекомендовала при проверке поставщика не ограничиваться реестром:
- Запросить документы о правах на модель и правомерности использования данных.
- Получить сведения о мерах информационной безопасности и истории инцидентов.
- Проверить наличие разрешений, аттестаций и репутацию поставщика.
На еще один важный для бизнеса нюанс обратила внимание Анна Райская: «Обучение суверенных и национальных моделей на государственных данных разрешается только после согласования с ФСТЭК и ФСБ. Если поставщик утверждает, что использовал такие данные, запрашивайте подтверждающие документы».
Окно возможностей до 2027 года
Также она напомнила: «Вице-премьер Григоренко прямо сказал, что сейчас обязательных требований по ИИ не будет. До 2027 года у компаний есть фора: можно спокойно перестроить процессы и договоры, пока все это делается добровольно. Кто занимается этим сейчас, тот встретит обязательные нормы во всеоружии. Остальные будут догонять».
Так что у российского бизнеса есть чуть больше двух лет, чтобы выстроить многоуровневую систему защиты: зафиксировать требования к моделям, прописать последствия утраты статуса и четко распределить ответственность за ошибки.
Изображение создано Magnific, www.magnific.com
