Мировой опыт борьбы с дипфейками: от Сингапура до Калифорнии

Технологии создания дипфейков сегодня развиваются очень быстро, как легальные, так и нелегальные. Легальные дипфейки применяются в рекламе, фэшн-бизнесе, создании ИИ-помощников. Нелегальные используются мошенниками и политическими провокаторами. Наконец, огромный «сегмент» потребительского ИИ-рынка занимают обычные пользователи, которые генерируют картинки и видео для развлечения без коммерческих целей.

О борьбе с дипфейками рассказывает Валерий Сидоренко, генеральный директор digital-агентства «Интериум».

Государства по всей планете активно реагируют на угрозы, но принимаемые законы бьют не только по преступникам, но и по легальному бизнесу и потребительскому сегменту. Поэтому слишком жёсткое регулирование грозит задушить ещё молодой сектор, лишив его пространства для развития и затормозив прогресс технологии. Некоторые политики уже начинают это осознавать и пытаются «откатывать» регулирование назад.

Ниже расскажу подробнее о дипфейк-законах на примере лидирующих в этом вопросе стран. Начнём с КНР, так как их законодательство — самое передовое и жёсткое.

Китай

Когда-то бывшая в «серой зоне» из-за огромного числа нерегулируемых дипфейков, сегодня КНР стала мировым лидером по зарегулированности сектора. Однако проблемы сохраняются в силу того, что принятые меры уже строги, но практику наказания за них органы ещё не отработали.

Весь ИИ-контент в материковом Китае обязан быть промаркирован метками или водяными знаками, удалять которые запрещено.

• С 10 января 2023 года действуют новые правила для интернет-провайдеров, призванные обеспечить защиту граждан от использования их изображений без их согласия. В этих правилах было впервые сформулировано требование обозначать ИИ-контент подписями.

• В июле 2023 года КНР выпустила первый документ по маркировке ИИ-контента — «Временные меры по контролю провайдеров генеративного ИИ»: все работающие в стране нейросети обязаны соответствовать «ценностям социализма».

• В августе 2023 года Китай начал разрабатывать первые правила, касающиеся генеративных ИИ-сервисов. Система маркировки помогает «снизить уровень дезинформации и создать более здоровую информационную среду».

• В середине сентября 2024 года маркировка ИИ была сделана обязательной.

Южная Корея

В Южной Корее очень остро стоит проблема борьбы с порнодипфейками: в стране цветёт «чёрный рынок» нейросетей для раздевания и подстановки лиц, а правоохранительные органы 24/7 собирают жалобы от граждан.

• В июне 2020 года Южная Корея пересмотрела закон «Об особых делах, касающихся наказания за сексуальные преступления»: создатели нелегальных дипфейковых видео теперь получают тюремное заключение на срок до пяти лет или штраф в размере до 40 000 $. Если преступление было совершено с целью получения выгоды, то тюремный срок вырастает до семи лет.

• В Южной Корее функционирует база данных для обнаружения дипфейков. В ней собраны синтетические и реальные видео. Её цель — помочь специалистам в разработке инновационных методов обнаружения дипфейков.

Европейский союз

ЕС — наиболее яркий пример избыточного регулирования, исторически сложившегося из-за большого фокуса на приватности персональных данных и серьёзно тормозящего развитие отрасли. Ключевой документ — первый в мировой практике закон об ИИ, обязывающий маркировать весь ИИ-контент (но пока без конкретики).

С 2018 года реализуется Стратегия Европейской комиссии по ИИ, которая, в частности, прописывает принцип контроля человека над искусственным интеллектом в вопросах регулирования разработок с его использованием, в, а рамках программы Horizon 2020 был запущен проект WeVerify для проверки контента о коронавирусе на фейк-ньюз.

Ещё в резолюции от января 2021 года Европейский парламент призывал к обязательной маркировке дипфейков, а в тексте закона Евросоюза о цифровых услугах от 19 октября 2022 года (принят в 2024 году, ещё не вступил в силу целиком) изложены правила фиксации и удаления незаконного контента.

США

Регулирование ИИ в США относится к двум сферам: коммерческой (в области прав на персональные данные) и национальной обороны (для борьбы с хакерами и политическими провокациями).

Комиссия национальной безопасности по искусственному интеллекту относит дипфейки к новым видам опасностей, исходящих от ИИ-систем (речь, конечно, идёт в первую очередь о политических провокациях). Отрасль регулируют закон США «Об определении результатов генеративных состязательных сетей» 2020 года, ежегодные законы о национальной обороне и другие.

От штата к штату законы разнятся: где-то не принято почти никаких своих норм против дипфейков, а где-то тестируются жёсткие регуляторные меры.

• Лидер регулирования в области прав на дипфейки в США — штат Калифорния (из-за Голливуда и связанных с ним рисков в области авторских прав). Осенью 2024 года в местных органах власти разгорелась ожесточённая дискуссия после того, как губернатор штата наложил вето на один из первых дипфейк-законопроектов в США из-за того, что он ограничит пространство для развития нейросетей. Это один из первых в мире случаев по-настоящему прогрессивного подхода, когда политики выступают против чрезмерного регулирования.

• Среди других штатов-лидеров — Алабама, где распространение «лживых мультимедиафайлов» с использованием ИИ карается уголовным сроком.

Сингапур

Сингапур известен как страна с очень строгими колониальными нормами, регулирующими повседневную жизнь вплоть до мелочей (уголовные сроки за пение на улице и тому подобное).

Власти обратили внимание на ИИ-регулирование после нескольких скандалов. Например, один из жителей страны столкнулся с шантажом: злоумышленник сделал фейковое видео с ним, за нераспространение которого требовал деньги. После отказа видео было выброшено в соцсети, и пострадавший подал заявление в полицию.

Тем не менее в Сингапуре отсутствуют законы, непосредственно касающиеся дипфейков. При этом отдельные нормативно-правовые акты могут частично снять некоторые проблемы в этой области.

Так, закон о защите от лжи и манипуляций в интернете от 2019 года позволяет удалять дезинформацию, которая угрожает национальным интересам.

Однако Ведомство интеллектуальной собственности Сингапура признаёт, что законов об интеллектуальной собственности для борьбы с дипфейками недостаточно. Должен быть междисциплинарный подход, включающий уголовное и гражданское право.

Эмираты

В ОАЭ складывается схожая с Сингапуром ситуация, которая осложняется действующими религиозными нормами, запрещающими демонстрацию женских лиц (и, значит, обучение на них нейросетей).

Здесь власти тоже обратили внимание на этот сектор после череды громких дел. Например, истории с кражей 35 млн $ у банка. В январе 2020 года менеджер местного банка ответил на телефонный звонок якобы владельца крупной компании. Так как сотрудник ранее общался с ним, ему не удалось распознать дипфейк по голосу. Мошенники использовали фальшивые электронные письма от имени компании и её юриста. Это позволило им убедить сотрудника банка в том, что предприятие находится в процессе заключения сделки на 35 млн $. Менеджер последовательно выполнил указания звонящего и перевёл средства на несколько указанных счетов.

Индия

В Индии пока не создана правовая база регулирования оборота или запрета дипфейков.

• Одобренные в 2021 году Руководящие принципы для посредников и Кодекс этики цифровых СМИ обязывают посредников в течение 24 часов принимать меры по удалению контента или отключению доступа к нему, если в этом контенте кто-то выдаёт себя за другого человека и если он создан с использованием искусственных нейронных сетей и методов глубокого обучения.

А что же в России?

В России единый юридический подход к дипфейкам только вырабатывается: текущий законопроект об ужесточении ответственности за криминальные нарушения с использованием дипфейков, скорее всего, примут, но этот закон касается только криминала и мошенничества с использованием дипфейков, то есть, сегмента, которым занимаются правоохранительные органы.

Что касается легального и пользовательского сегментов, правила игры только предстоит задать. Многие ведомства сегодня, в первую очередь Роскомнадзор и ФАС, а также ряд депутатов Госдумы ведут конструктивную работу в этом направлении. Недавно вопрос регулирования дипфейков также обсуждался на базе Общественного совета при Минцифры России. Уверен, если привлечь к обсуждению будущих «законов об ИИ» все заинтересованные стороны на данном этапе, то наша страна имеет все шансы получить по-настоящему комплексное и эффективное регулирование в этой сфере.

Больше интересного в группе во ВКонтакте.