Кибербезопасность и искусственный разум: когда право не поспевает за технологиями

Искусственный интеллект — это не только робот, зловещий образ которого создала киноиндустрия. «Умные» системы давно регулируют различные отрасли. Облегчая решение многих задач, они одновременно порождают и новые угрозы в сфере безопасности. Как реагирует право на эти процессы и как регулируются вопросы кибербезопасности сегодня, обсудили эксперты в рамках круглого стола Legal Academy «Кибербезопасность и влияние искусственного разума на развитие права в современных условиях».
Время прочтения: 5 минут

Проблемы новых технологий

Юрист Центра НТИ по направлению «Нейротехнологии, технологии виртуальной и дополненной реальности» Андрей Яковенко говорит о том, что проблемы, связанные с новыми технологиями и искусственными разумом, можно разделить на общие и частные. Если к первым можно отнести вопросы юрисдикции и проблемы автоматизированных действий, то самой большой проблемой частной становится технология дипфейков. Такая технология успела стать серьезным оружием. Благодаря ей, например, создаются фейковые видео с участием политических лидеров, произносящих заявления, которые они никогда не делали в реальности.  

Некоторые страны уже начинают принимать меры. Так, Китай ввел уголовную ответственность за публикацию подобного контента. В США были приняты нормативные акты для решения проблемы использования технологий в ходе предвыборной кампании.

Еще одной проблемой является распространение фейкового порнографического видео. Такой контент встречается гораздо чаще, чем материалы политического характера. В некоторых штатах наказание уже ввели и за это.

«Возникает вопрос о принадлежности права на такое произведения. Автор самой программы может и не знать о конечном продукте. Необходимо ответить на вопрос об интеллектуальных правах преступника, правах жертв. Так как эти технологии сложные, составные, то они создают дополнительные концептуально-правовые проблемы. Их тяжело интегрировать в современную юридическую науку», — отмечает эксперт.

Что такое искусственный интеллект на самом деле?

К.ю.н., заместитель директора Юридической школы ДВФУ по развитию Роман Дремлюга подчеркивает, что сегодня многие эксперты не понимают технологию искусственного интеллекта. Самое типичное заблуждение — программист полностью контролирует процесс создания системы искусственного интеллекта и 100% работы системы зависит от него. По словам юриста, если исходить из этого неверного суждения, то вся ответственность ложится на создателя система. На самом деле, искусственный интеллект имитирует работу нейронных сетей. Такие системы предсказуемы лишь в определенной степени, так как они самообучаемы. Программист может избегать рисков лишь отчасти.

"Такое восприятие приводит к недооценке искусственного интеллекта. Сейчас даже в судебной деятельности создают электронного судью. Есть эксперименты с постановкой медицинского диагноза. Искусственный интеллект уже во многих случаях делает это лучше, чем врач. В практике ЕС вышли директивы, запрещающие использование искусственного интеллекта в системах, от которых зависит жизнь людей, в том числе, это касается судебных решений. Евросоюз поторопился, мы так или иначе будем использовать искусственный интеллект в таких вопросах», — поясняет Роман Дремлюга.

Последнее заблуждение — объективность систем искусственного интеллекта. Эксперт приводит в пример США, где была разработана система, рекомендовавшая заключенных к условно досрочному освобождению. Через 15 лет вскрылось, что она предвзято относится к афр американцам. Если мы думаем, что мы получим беспристрастного судью, мы заблуждаемся. Все эти системы учатся на данных, созданных людьми», — добавляет ученый.

Киберпреступления в сфере финансовых услуг

Старший юрист юридической фирмы «Инмар» Михаил Плотников отмечает, что безопасность оказания услуг не поспевает за самими услугами. Такие банковские продукты, как открытие расчетного счета, микрозайм, кредит, давно перешли в онлайн. Но мошенники действуют быстрее, чем развивается система безопасности. Самой частой ситуацией оказывается, когда человек узнает, что на его имя оформлены кредиты и имеются задолженности. Сегодня, используя минимальные личные данные, можно взять кредит на имя человека. Онлайн услугу получить можно, но рассчитывать на то, что в банке она будет оказана безопасно, не стоит. Поэтому гражданам стоит сократить распространение своих личных данных, рекомендуют эксперты. В случае возникновения проблемы, нужно обращаться в суд и правоохранительные органы, так как банк редко оказывает содействие.

«Нужно повысить ответственность, наделить финансовые организации дополнительными полномочиями. Необходимо более детальное участие Банка России во всех этих вопросах», — добавляет эксперт.

Узнать больше о кибербезопасности можно, пройдя по ссылке.

Источник изображения: pixabay.com

Рекомендуем

Авторский взгляд

ИИ как помощник: каким будет юрист будущего

В Минфине заявили, что планируют использовать ИИ в бюджетном процессе. Задача ИИ-агента — выдавать решение моментально, что снизит количество некачественных заявок и отказов и позволит уменьшить нагрузку на специалистов до 70%, считают в ведомстве. «Искусственный интеллект станет хорошим подспорьем для финансистов — он возьмет на себя рутинные процессы вычислений и анализа», — прокомментировал Министр финансов Антон Силуанов. Станет ли ИИ подспорьем в области права? И в каком же направлении будет развиваться юрист будущего? На эти вопросы в авторской колонке отвечает Ольга Попова, руководитель консалтинговой компании «Лигал Эксперт».

Статья

Нейросеть в помощь: роботам доверили проверять судебные решения

В России решили «натаскать» нейросеть на проверку судебных решений. Проект возглавляет бывший представителем Генпрокуратуры в Верховном суде Лариса Степанова. Он направлен на помощь гражданам в подготовке кассационных жалоб по гражданским делам в случае, если искусственный интеллект (ИИ) найдет основания для отмены в решении нижестоящей инстанции. О том, как ИИ становится полноценной частью судебных процессов, «Сфере» рассказали эксперты.

Статья

Практика и опыт: как инновации помогают в работе юриста

В век цифровизации практически все отрасли жизни обращаются за помощью к искусственному интеллекту, нейросетям и другим технологиям. Юристы не стали исключением. Каким образом цифровизация помогает в работе служителей Фемиды и как это реализуется в крупных компаниях страны, читайте в материале «Сферы».

Нужно хоть что-то написать