Что такое дипфейки?
Если говорить об упрощенном определении дипфейков (deepfake – от английского «глубокий» и «подделка»), то это аудио и видеоконтент, измененный с помощью искусственного интеллекта – подделка, которую непросто отличить от реальности.
Десять лет назад использование высоких технологий было доступно только крупным студиям и разработчикам, но сегодня на создание собственной высококачественной подделки у продвинутых пользователей уйдет всего несколько часов. В результате рэпер Jay Z будет читать Шекспира, спикер парламента США Нэнси Пелоси – разражаться пьяной тирадой, а создатель Facebook Марк Цукерберг – рассказывать о дипфейках. Это реальные примеры, герои которых никогда не делали того, что увидели пользователи YouTube и других социальных сетей.
В большинстве стран мира не существует четкого регулирования дипфейков, хотя об их опасности говорят повсеместно. В качестве «позитивного» примера можно привести Китай, где с 1 января 2020 года дипфейки должны быть соответствующим образом маркированы, причем данная норма касается и производителей, и онлайн-площадки, где данный ролик или аудиозапись будут опубликованы. Как именно власти будут отличать реальные видео от качественных фейков – не уточняется, но нарушителям грозит уголовная ответственность.
Такие меры приняты недаром. Дипфейки способны не только подорвать репутацию любого – будь то известный или среднестатистический человек – но также угрожают национальным институтам или даже национальной безопасности, ведь от дипфейков не защищены и политические лидеры. Так, на выборах 2019 года британский политик Борис Джонсон предложил избирателям поддержать своего соперника в борьбе за пост премьер-министра страны – Джереми Корбина. Корбин, в свою очередь, предложил аудитории поддержать Джонсона. Два видео неотличимы от настоящих – мимика и голоса точно соответствуют Джонсону и Корбину. Однако на самом деле это фейки, созданные организацией Future Advocacy, чтобы показать влияние новых технологий на демократические процессы.
Правовые механизмы еще не настроены: с одной стороны, регулирование дипфейков некоторые страны выводят на национальный уровень: например, в контексте угрозы вмешательства в выборы, с другой – часто заниматься проблемой таких подделок приходится вовсе не государственным органам, а социальным сетям.
Нарушение или сатира?
Летом 2019 года платформа YouTube удалила «копию» видео-интервью реалити-звезды Ким Кардашиан для журнала Vogue. Якобы отвечая на вопросы журналиста, Кардашиан высмеивала нарушение авторских прав ее поклонниками. Этот дипфейк, созданный группой активистов Brandalism Project, был создан на основе реального интервью и быстро разошелся по англоязычным интернет-ресурсам. Видео было удалено через две недели после публикации по жалобе издательского дома Conde Nast, которое выпускает журнал Vogue. Основанием стало нарушение авторского права.
Подобной нормой, которая включена в американский Закон об авторском праве в цифровую эпоху (Digital Millennium Copyright Act), весной 2020 года попытался воспользоваться и рэпер Jay Z. Его голос был использован автором YouTube-канала Voice Synethesis – пользователи могли услышать в исполнении артиста поэму Шекспира и несколько песен американских авторов. YouTube сначала удалил видео, однако позже вновь опубликовал его. Такое решение представитель платформы объяснил необходимостью дополнительного разбирательства – было ли это видео действительным нарушением авторского права (copyright infringement) или допустимым правомерным использованием (fair use)?
«Закон об авторском праве не является решением проблемы распространения подделок. Известные нам «громкие» примеры дипфейков в основном подпадают под исключение «добросовестного использования» в отношении нарушения авторских прав. Добросовестное использование – это доктрина в законодательстве США, которая допускает нелицензированное использование материалов, которые в противном случае были бы защищены авторским правом. Чтобы определить, квалифицируется ли конкретный случай как добросовестное использование, мы учитываем четыре фактора: (1) цель и характер использования, (2) характер защищенного авторским правом произведения, (3) объем и существенность взятой части и (4) влияние использования на потенциальный рынок. Это значительная область права с тысячами дел и, возможно, столь же большим количеством юридических комментариев по этому вопросу. Тем не менее, есть веские основания утверждать, что большинство дипфейков, которые мы видели до сих пор, будут квалифицироваться как добросовестное использование», – объясняет в своей статье для Slate профессор Школы права Бостонского университета Тиффани С. Ли.
С этой точкой зрения соглашается и редактор Vice Саманта Коул. В материале, посвященном удалению дипфейк-видео с Ким Кардашиан, она отмечает, что, в конечном счете, проблема таких подделок заключается не в нарушении авторского права как такового, а в необходимости любого человека сохранить свою репутацию и достоинство.
«Заявления о нарушении авторских прав являются просто «пластырем» в вопросах согласия и владения нашими собственными изображениями в интернете и нашими личными данными, и они слишком подвержены злоупотреблению со стороны влиятельных лиц. Это проблемы, которые художественная группа, создавшая видео с Цукербергом и Кардашиан, пыталась критиковать, прежде всего, своей работой», – отмечает Саманта Коул.
Кому и как регулировать дипфейки?
В США уже предприняты попытки регулирования дипфейков. Так, в штате Калифорния был принят закон, который запрещает изготовлять и распространять дипфейки в пределах 60 дней до выборов. Однако такая мера вызвала у экспертов скепсис – закон будет трудно соблюдать, и куда быстрее будет воспользоваться старыми нормами об авторском праве, чем новым региональным механизмом. Другая мера была принята на национальном уровне – в декабре 2019 года президент США Дональд Трамп подписал федеральный закон, который непосредственно относится к теме «подделок». В частности, закон предписывает правительству тщательно отслеживать «иностранный след» в дипфейках, а также уведомлять Конгресс о подобных действиях, направленных на вмешательство в выборные процессы.
На первой линии фронта борьбы с дипфейками в конечном счете оказываются вовсе не политики и кодексы, а социальные сети и их правила модерации. При этом позиция одной платформы может категорически отличаться от позиции другой по одному и тому же вопросу. Специалист по журналистике и этике университета Санта-Клары Субраманиам Винсент в своей статье для Slate отмечает, что влияние на решения различных платформ оказывает не столько закон или, например, желание устранить нарушение авторских прав, а общественное мнение и специальные технологии. В пример она приводит поддельное видео со спикером парламента США Нэнси Пелоси, которое создает впечатление, что политик пьяна.
«Если какая-то история и является прекрасным примером запутанных стандартов сообщества по откровенно ложному контенту, то это видео, подправленное, чтобы создать впечатление, что Нэнси Пелоси была пьяна. Facebook и Twitter не удалили его, хотя [это видео] было явной ложью, а YouTube удалил. Только на этой неделе художники из Великобритании выпустили в Instagram фальшивое видео с Марком Цукербергом, которое было легко идентифицировать как таковое. Facebook отказался от этого, сославшись на ту же политику. На этот раз YouTube также не снял его, так как это видео не является ложью, провоцирующей ненависть», – пишет Субраманиам Винсент. Она отмечает, что причиной удаления видео с Пелоси YouTube стала вовсе не ложная информация, а нарушение политики платформы в отношении спама и мошенничества. При этом в этих нормах нет ни слова о дипфейках. Еще одним показательным примером является Facebook.
«Facebook утверждает, что право на свободу слова по своей сути позволяет людям делать ложные заявления, поэтому платформа не будет удалять такой контент. Политика компании заключается в том, чтобы снизить распространение ложного контента, а не удалять его. Только когда личный вред, угрозы, разжигание ненависти или подстрекательство к насилию сочетаются с отрицанием, удаление контента вступает в игру. Facebook также отмечает, что автоматическое обнаружение ложных новостей и отделение их от сатиры является «сложной и чувствительной» проблемой», – подчеркивает Субраманиам Винсент.
Дипфейки и личное пространство
В момент, когда мы думаем, что проблема дипфейков далека от нас – она затрагивает только селебрити и политиков – стоит привести данные исследования американской организации Deeptrace, которая занимается изучением этого явления. В 2019 году 96% от дипфейковых видео, выявленных Deeptrace, составляла порнография. Четыре основных сайта, который публиковали подобные фальшивые видео, суммарно получили 134 миллиона просмотров на такого рода контенте. Безусловно, сюда относятся видео с многочисленными звездами кино, но в эту категорию дипфейков попадают и видео с обычными людьми, ставшими жертвами буллинга или так называемого revenge porn, то есть мести с помощью порнографии.
Исследователь Дуглас Харрис из американского университета Дюка отмечает, что в таких случаях у жертвы дипфейков есть несколько способов легальной борьбы, однако все они – плохо работают. Среди них он называет не только нарушение авторских прав, но и:
- Намеренное причинение морального вреда. В данном случае жертве придется доказать, что создатель видео действительно хотел принести жертве моральные страдания c помощью возмутительных по своей натуре действий, вследствие чего жертва была подвержена тяжелому стрессу. Сложность доказывания заключается в том, что: (а) обычно нарушитель выкладывает видео втайне от жертвы, то есть у него нет четкого намерения причинить стресс, (б) жертва, хотя и пережила стресс, должна доказать, что получила в результате моральные страдания, при этом обычное чувство стыда не считается таковым.
- Халатное причинение морального вреда. Обычно применяется в случае, когда жертва избежала физического вреда, однако, как следствие, получила вред моральный, а также в случаях, когда один человек являлся свидетелем причинения вреда другому, что также отразилось на его душевном здоровье. Доказывание по такой норме будет столь же сложным, что и в первом случае, поскольку жертве халатного причинения морального вреда необходимо предоставить конкретные факты проявления моральных страданий, иногда даже физические.
- Искажение фактов (false light). Использование этой нормы будет наиболее эффективным, однако и здесь есть проблемы. «Сегодня многие дипфейки, найденные на порнографических сайтах, публикуются с титром на несколько секунд с указанием имени пользователя, который выпустил это видео. Эти титры, скорее всего, поставлены, чтобы указать авторство, а не показывать зрителю, что это действительно поддельная порнография, но в итоге это может считаться указанием на ее поддельность. Такой дисклеймер, вероятно, повлияет на возможность доказать искажение фактов, но суды должны по-прежнему признавать, что зритель мог пропустить дисклеймер, или что следующий дистрибьютор полностью его отредактировал. Жертвы могут остаться без возможности использовать норму false light, если дисклеймер остается на видео и демонстрируется в четкой форме», – пишет Дуглас Харрис.
Отдельно исследователь выделяет и нормы разных штатов, запрещающие создание или распространение «порно ради мести» (revenge porn). Однако дипфейки редко попадают и под эти статьи. «Пока мы ждем, что [национальные] правовые механизмы [по регулированию дипфейков] потенциально могут вступить в действие, технологии будут развиваться. Сейчас требуется несколько часов, чтобы сделать фальшивку. Скоро потребуется несколько секунд, и продукт будет неотличим от реального видео. Поэтому обсуждать опасность и регулирование дипфейков нужно уже сейчас», – заключает исследователь.
