В 2016 году законопроект «О робототехнике» стал первой подобной разработкой в России. С чего началась эта инициатива?
Закон «О роботах» – это действительно первый подобный законопроект у нас в стране. Да, собственно, не только в стране, а, наверное, и в Восточной Европе, и один из первых во всей Европе.
Инициатива появилась в силу стечения ряда обстоятельств: как объективных, так и субъективных. Главная объективная причина связана с тем, что уже в 2016 году (когда еще даже не было программы «Цифровая экономика») начал появляться системный интерес к предмету, к созданию и использованию робототехнических систем. Вопрос стал серьезным образом аккумулироваться, в том числе во властных структурах.
Второй фактор – заказчик очень хорошо разбирался в этой сфере. Моим клиентом являлся Grishin Robotics. Дмитрий Гришин – председатель Совета директоров Mail.ru, но непосредственная задача шла от структуры, которая специализировалась на коммерческой деятельности и инвестициях в сфере робототехники. Соответственно, заказчик самой идеи разработки был прекрасно погружен в проблематику, понимал, что важно отрасли, и в целом осознавал важность регулирования всех этих отношений в ближайшем будущем.
Это удачное стечение обстоятельств, когда есть повышающийся общественный интерес, интерес со стороны законотворческой власти (при этом своих ресурсов и своей экспертизы у них не было) и востребованность со стороны бизнеса. Это привело к тому, что возникла идея разработки законопроекта.
Как продвигалась работа? Что самым сложным и интересным было в процессе?
Мой ключевой соавтор – Владислав Архипов, советник моей практики. Самым интересным в начале было очертить контуры законопроекта и предложить ту модель, которая, с одной стороны, удовлетворяла бы интересы заказчика со взглядом на будущее. С другой стороны, [модель], которая вписывалась бы в технологическое развитие страны (а даже слово «цифровой» тогда еще не пользовалось большой популярностью) и, естественно, соответствовала бы прикладным аспектам, связанным с законотворчеством в России.
На тот момент мы решили сосредоточиться на гражданско-правовом регулировании. Мы написали терминологическую базу, предложили систему принципов и ряд поправок в действующее законодательство, в первую очередь в Гражданский кодекс. Это была модель, реализованная в формате законопроекта, которая объективно была интересной бизнесу и законодательной власти, но при этом мы осознавали, что это один из первых опытов на нашем континенте. Мы ни тогда, ни сейчас не претендовали и не претендуем на истину в последней инстанции.
Так что в конце этого интенсивного процесса мы разослали по ключевым российским школам наш законопроект, пояснительную записку и комментарии. Было очень интересно получить реакцию. В большинстве случаев отмечали, что много чего можно менять и добавлять, но сама модель была воспринята позитивно. Были интересные ответы, связанные с тем, что это инициатива робототехнического лобби, которая скоро поработит нашу страну и мир. Это даже не в шутку было сказано. Этот страх – вообще сильная проблема.
В отношении законопроекта он был безосновательным? Документ по сути предлагал использовать в отношении роботов регулирование, которое отчасти применяется к животным и юрлицам.
Сам законопроект не давал сильную свободу роботам, не порабощал человечество. Он говорил об условной квазисубъектности, когда автоматические работающие системы в определенных сферах и с рядом опущений сравнивались бы с концептом юридического лица.
Там было много идей с обеспечением безопасности, идентификацией этих систем, контролем и так далее. Собственно, существенная часть уже сейчас повторяется в разных разработках в России, в том числе в системе «Цифровая экономика». Отголоски есть в федеральном проекте «Искусственный интеллект», некие элементы остались даже в той августовской концепции 2020 года, которая была принята в России в отношении регулирования искусственного интеллекта. По сути, та задача, которая была поставлена перед нами: определить модели и инициировать системное и стратегическое обсуждение в стране, как эта сфера должна регулироваться, были выполнены.
Можно ли ожидать в ближайшем будущем законопроекта о роботах и ИИ?
Я уже в ближайшее время ожидаю непосредственного запуска процесса разработки законов о робототехнике и искусственном интеллекте в узком смысле этого слова, то есть прямо об этом предмете. Хотя у нас уже есть первый закон об искусственном интеллекте: это апрельский закон прошлого года об эксперименте в Москве с использованием технологии искусственного интеллекта. Правда, он, скорее, про условную «песочницу», но там сужается режим охраны персональных данных для машинного обучения и технологии искусственного интеллекта. Это была первая ласточка.
Совсем первая ласточка у нас естественно была в 2018 году, когда появилось постановление правительства о высокоавтоматизированном транспорте. Плюс в октябре 2019 был указ президента «О развитии искусственного интеллекта в Российской Федерации» и августовская концепция регулирования, утвержденная правительством в прошлом году.
В 2017-2018 годах, продолжая работу над этой проблематикой, моя практика предложила другой документ, более близкий тому, что делается на Западе и Востоке, – проект модельной конвенции робототехники и искусственного интеллекта, в соавторстве с Андреем Незнамовым. Мы написали не тот документ, из которого можно взять и сделать законопроект, а представили набор методологических идей на стыке права и этики. Эти модельные идеи сейчас я вижу и в постепенно развивающейся нормотворческой работе, и в научных исследованиях, и в практических решениях в области организации машинного обучения, в использовании и распространении систем робототехники. Отсюда же пошла в нашей российской действительности тематика, связанная со специальными вопросами: например, про ответственность.
То есть тогда вы не рассчитывали, что законопроект будет принят, он просто должен был стать отправной точкой для будущих разработок?
Мы не исключали того, что эти идеи лягут в основу реального законодательства. Только сейчас, когда появились программа «Цифровая экономика», указ президента, федеральный проект и прочее, государство, бизнес и общество приходят к реальному осознанию, что нужен какой-то законодательный акт или группа актов. Как, собственно, это происходит и в ряде регионов мира. Ожидать, что в 2016 году, когда у нас и беспилотного транспорта не было, а в медицине и искусстве искусственный интеллект применялся очень ограничено, будет разработан и принят законопроект, было бы слишком радужным взглядом на ситуацию. Но то, что мы положили первые кирпичи в фундамент, я и тогда, и сейчас полностью уверен.
Мы стали некой экспериментальной основой для развития стратегии, для оценки проблематики, плюс мы стали полигоном для критики и развития общественной мысли. Нужно отметить еще, что такие инициативы в большинстве случаев не должны приводить к быстрому принятию того или иного законопроекта. Мы с вами являемся свидетелями большого количества случаев, когда законы принимаются без системного анализа ситуации.
В чем проблема? Юрист может нафантазировать по любой тематике, когда его заказчик – политик или политики, которые хотят прославиться или выполнить общественный заказ. В сложных сферах сочетание «юрист + политик» является недостаточным. Нужно осознание того, как развиваются в реальности технологии, какие аспекты являются существенными для организации общественных отношений, какие последствия от внедрения этих технологий в рамках той или иной модели закона наступят для общества, бизнеса и государства. Здесь наша инициатива стала прекрасным полигоном для отработки ключевых методологических идей, когда в дискуссию смогли включиться не только юристы, но и те, кто разбирается в этих технологиях и коммерчески их эксплуатирует.
Какое удачное сочетание для работающего закона – «юрист + политик + бизнес»?
Я бы добавил, если мы смотрим на цифровую сферу, еще разработчика технологий. У нас как раз было то самое удачное стечение обстоятельств и времени. Дмитрий Гришин – евангелист в сфере интернета и технологий, в том числе робототехники, к тому же бизнесмен. Его вовлечение было очень важным при генерации идей нормотворчества. Это понимание и природы отношений, когда он мог скорректировать наши мысли, и выгоды бизнесу как раз и дало практико-ориентированный результат.
Вы отметили, что в 2016 году само понятие «цифры» еще не было на слуху. Значит ли это, что, если бы вам поручили делать законопроект сейчас, модель была бы другой?
Скажем так, естественно, и наши взгляды, и мировая практика развиваются. То, что документ будет отличаться более детальной проработкой и комплексностью, – абсолютно точно, но какие-то конструкции, которые были придуманы нами еще в 2016 году, будет не лишним повторить. Например, тематика обеспечения безопасности и контроля со стороны государства за теми или иными технологическими решениями. Это идея создания реестра моделей/роботов-агентов/робототехнических устройств, который указывает, что государство и независимые сертифицирующие организации подтвердили безопасность соответствующих технологий и разрешали их эксплуатацию. Это может работать в разрешительном порядке, когда кто-то смотрит, полезно и хорошо ли работает [технология]. Либо в заявительном, но тогда это нужно подкреплять иными механизмами защиты. В противном случае, если это все не фиксировать, оно может быть чревато крайне негативными последствиями. Вероятность ошибки в этой сфере все еще существует, технологии только начинают развиваться.
Какие еще идеи вы могли бы назвать удачными и эффективными?
Мы в том числе обозначили модели ответственности за разные аспекты использования роботов. Мы выдвинули дискуссионную, не требующую массовой реализации модель того самого робота-агента, который в ближайшей перспективе в оборот внедрять не нужно, но он может пригодиться во всевозможных сложных сферах, где есть высокий уровень автоматизации (например, на финансовых рынках). В этом деле было ожидаемо, что мы вызовем шквал критики, из-за этого как раз прозвучало обвинение, что робототехническое лобби хочет завоевать мир. Сейчас эта позиция приобрела еще более глубокое звучание. Здесь нужно максимально аккуратно предлагать любые модели регулирования и прежде сто раз подумать, чтобы мы не написали такие законы, которые действительно будут способствовать выхолащиванию самой идеи развития человечества. Дальше будет развиваться тематика трансгуманизма, когда за счет модности и популярности (а во многих фантастических фильмах этого наделано в большом качестве) робототехнические устройства постепенно подменяют или заменяют человека. Это, с моей точки зрения, недопустимо.
Сейчас ясно, что проект Дмитрия Гришина более чем удачно выстрелил. Мы видим, насколько эффективным может быть участие юристов и бизнеса в законотворческом процессе. С вашей точки зрения, насколько среди российских юристов развита практика участия в разработке законов? Замечаете ли вы желание и мотивацию коллег вносить свой вклад в изменение российского законодательства?
Я не могу назвать эту практику обширной, для целенаправленной деятельности, в том числе в форме предложения законодательных и нормотворческих инициатив, требуется выделение значительных временных ресурсов. При этом, поскольку субъектов законотворческой инициативы у нас много, пространство для самореализации здесь можно назвать значительным.
Изображение предоставлено петербургским офисом Dentons
