«Если вы не платите за продукт, значит, продукт — это вы».
Из фильма «The Social Dilemma» («Социальная дилемма»)
На протяжении десятилетий отношения с потребителями строились вокруг, казалось бы, очевидной логики: организация разрабатывает продукт и предлагает его рынку, а клиент изучает доступные варианты, сопоставляет условия и самостоятельно принимает решение. Даже при информационной асимметрии между бизнесом и потребителем базовое правовое допущение оставалось неизменным — окончательное волеизъявление принадлежит человеку.
Первоначально цифровизация скорее усиливала эту модель. Онлайн-сервисы упрощали поиск, ускоряли сравнение предложений и снижали транзакционные издержки. Технология воспринималась как инструмент, расширяющий возможности пользователя, но не как самостоятельный посредник, формирующий пространство выбора.
Повсеместное внедрение искусственного интеллекта меняет эту конструкцию. Алгоритмы уже не ограничиваются внутренней оптимизацией процессов. Они определяют, какую информацию увидит пользователь, в каком порядке она будет представлена, какое предложение получит отметку «рекомендуем», а какие условия останутся на периферии интерфейса. В цифровом банкинге, инвестиционных сервисах, маркетплейсах и криптоэкосистемах ИИ все чаще становится невидимым посредником между клиентом и рынком.
Первый сдвиг происходит на уровне видимости. Рекомендательные механизмы, алгоритмические фильтры, пользовательские панели и скоринговые модели отбирают, ранжируют и персонализируют предложения. В результате набор доступных вариантов перестает быть нейтральным: его конструирует система.
Второй сдвиг затрагивает сам процесс принятия решения. «Оптимальный портфель», «персональный лимит», «специальное предложение только для вас» или автоматически сформированная рекомендация снижают когнитивную нагрузку и делают сервис удобнее. Одновременно меняется роль клиента: вместо самостоятельного сопоставления альтернатив он получает уже сформулированный вариант и решает, принять его или отклонить. Вопрос «что выбрать?» постепенно заменяется вопросом «что система выбрала для меня?».
Формально свобода выбора сохраняется. Фактически же среда, в которой он совершается, все чаще проектируется алгоритмами. Именно поэтому для права важен не только финальный клик, но и вся архитектура выбора: порядок выдачи, настройки по умолчанию, визуальные акценты, момент раскрытия цены, сложность отказа, правила персонализации и данные, на основании которых формируется рекомендация.
Подходы к регулированию
Регуляторный вопрос состоит не в том, можно ли использовать ИИ, а в том, сохраняет ли пользователь способность принять свободное, осознанное и информированное решение. Одна и та же система может помогать подобрать подходящий продукт или продвигать наиболее маржинальное предложение, упрощать доступ к услуге или незаметно использовать уязвимость клиента.
В России пока отсутствует единый комплексный закон об искусственном интеллекте. Регулирование складывается из законодательства о персональных данных, норм о защите прав потребителей, финансового и антимонопольного регулирования, экспериментальных правовых режимов и специальных требований к отдельным цифровым сервисам.
Ключевое значение имеет статья 16 Федерального закона № 152-ФЗ «О персональных данных». Она регулирует решения, основанные исключительно на автоматизированной обработке персональных данных и порождающие юридические последствия для человека либо иным образом затрагивающие его права и законные интересы. Такие решения допускаются при наличии письменного согласия субъекта или в случаях, предусмотренных федеральным законом. Оператор обязан разъяснить порядок принятия решения и его возможные юридические последствия, а также предоставить человеку возможность заявить возражение.
Иной подход сформирован в Европейском союзе. EU AI Act устанавливает риск-ориентированную модель: объем обязанностей зависит от характера системы, целей ее применения и потенциального воздействия на права человека.
Статья 5 EU AI Act запрещает применение ИИ, использующего подсознательные, намеренно манипулятивные или обманные техники, если они существенно ограничивают способность человека принять информированное решение и причиняют либо с высокой вероятностью могут причинить значительный вред. Аналогичный запрет распространяется на использование уязвимости, обусловленной возрастом, инвалидностью, социальным или экономическим положением человека.
Системы, предназначенные для оценки кредитоспособности физических лиц или определения их кредитного рейтинга, EU AI Act относит к категории высокого риска. Исключение предусмотрено для систем, применяемых в целях выявления финансового мошенничества. Такая классификация объясняется тем, что алгоритмическая оценка способна непосредственно влиять на доступ человека к кредитам, жилью и другим существенным услугам.
Для высокорисковых систем предусмотрены требования к управлению рисками, качеству данных, документации, прозрачности и человеческому контролю. Причем «человек в контуре» не должен быть номинальной фигурой. Он должен понимать возможности и ограничения модели, учитывать склонность людей чрезмерно полагаться на автоматизированные выводы и иметь возможность проигнорировать, отменить или пересмотреть результат системы.
За нарушение запретов предусмотрены штрафы до 35 млн евро или 7% мирового годового оборота компании, а за нарушение ряда обязанностей операторов высокорисковых систем — до 15 млн евро или 3% оборота.
В США регулирование остается преимущественно секторальным. ИИ оценивается через уже существующие режимы защиты потребителей, недискриминации, приватности, финансового и антимонопольного права. В центре внимания находится не технология сама по себе, а последствия ее применения: вводит ли система человека в заблуждение, дискриминирует ли его, нарушает ли конфиденциальность или лишает возможности понять и оспорить принятое решение.
Практика
Показательным примером управления выбором через цифровую архитектуру стало дело Федеральной торговой комиссии США против Amazon, связанное с подпиской Prime. По позиции FTC, компания подключала миллионы пользователей к автоматически продлеваемой подписке без полноценного согласия и сознательно усложняла ее отмену. Претензии касались не только содержания условий, но и всего пользовательского пути: расположения кнопок, последовательности экранов, формулировок и механики отказа.
В сентябре 2025 года спор завершился соглашением на 2,5 млрд долларов. Из этой суммы 1 млрд долларов составил гражданский штраф, еще 1,5 млрд долларов были предусмотрены для возврата средств потребителям, пострадавшим от спорных механизмов подключения к Prime.
Этот кейс показывает, что интерфейс больше не рассматривается как нейтральная оболочка продукта. Если цифровая механика подталкивает клиента к нежелательному решению или создает искусственные препятствия для отказа, она становится самостоятельным объектом правовой оценки. Для ответственности уже недостаточно анализировать только текст пользовательского соглашения: значение имеет весь сценарий взаимодействия клиента с сервисом.
Еще ближе к проблематике ИИ дело FTC против аптечной сети Rite Aid. Компания использовала систему распознавания лиц для выявления посетителей, предположительно связанных с кражами и другими нарушениями. По данным регулятора, система выдавала ложные совпадения, а сотрудники фактически следовали ее сигналам. Покупателей могли сопровождать по магазину, обыскивать, удалять из помещения, вызывать полицию или публично обвинять в краже. FTC также указывала, что ошибки технологии непропорционально затрагивали отдельные группы потребителей, включая женщин и представителей расовых меньшинств.
Ключевая проблема заключалась не только в технической неточности модели. Автоматизированный сигнал фактически превращался в готовое решение, хотя формально человек продолжал участвовать в процессе. По итогам урегулирования Rite Aid запретили использовать распознавание лиц для целей наблюдения в течение пяти лет. Компанию также обязали внедрить защитные механизмы при будущем применении биометрических систем, усилить контроль поставщиков технологий и программу информационной безопасности.
Это дело раскрывает более широкую проблему автоматизационного доверия. Сотрудник или клиент может воспринимать вывод системы как более точный и объективный, чем он является в действительности. Поэтому само наличие человека в процессе еще не гарантирует защиты прав. Если сотрудник не понимает ограничений модели, не проверяет результат и не имеет реальной возможности его пересмотреть, человеческий контроль остается формальностью.
Американские дела Amazon и Rite Aid демонстрируют два уровня алгоритмического воздействия. В первом случае цифровая архитектура направляет поведение потребителя к коммерчески выгодному для компании решению. Во втором автоматизированный вывод непосредственно влияет на отношение к человеку и ограничивает его права. Оба примера подтверждают: юридический риск может возникнуть не только из-за содержания продукта или технической ошибки, но и из-за способа, которым цифровая система организует действия людей.
Новая задача юриста
Искусственный интеллект не отменяет потребительский выбор, но меняет его природу. Пользователь по-прежнему самостоятельно нажимает кнопку, однако платформа может заранее определить видимые варианты, порядок их предъявления, эмоциональные акценты, настройки по умолчанию и сложность отказа.
Для компаний это означает необходимость перехода от формального цифрового комплаенса к комплаенсу архитектуры выбора. Юридическая экспертиза должна охватывать не только договоры, согласия и политики конфиденциальности, но также пользовательские сценарии, логику рекомендаций, интерфейс подключения и отмены услуги, правила использования данных, основания автоматизированных решений и возможность их пересмотра.
Юристу необходимо оценивать, почему один вариант визуально выделен сильнее другого, на каком основании продукт назван «рекомендуемым», может ли клиент отказаться без дополнительных препятствий, как раскрывается полная цена и кто вправе отменить ошибочный алгоритмический вывод.
Главным критерием становится сохранение автономии клиента: понимает ли он последствия своего действия, видит ли сопоставимые альтернативы, может ли отказаться от предложения и получить понятное объяснение результата.
Именно на этой границе проходит различие между полезной персонализацией и недобросовестным управлением поведением. В ближайшие годы она станет одной из центральных линий развития потребительского права и регулирования цифровой экономики.
