18 сентября 2020, 14:03

Facebook представил новые меры по обеспечению безопасности в группах

Исключение, ужесточение и борьба.

Нормы сообщества Facebook распространяются как на общедоступные, так и закрытые группы. Facebook утверждает, что следят за их соблюдением в том числе инструменты выявления нарушений на базе ИИ, которые могут обнаружить контент, потенциально нарушающий нормы, и автоматически удалить его до получения жалобы пользователя.

За последний год Facebook удалил в группах около 1,5 млн единиц контента за нарушения норм об организованной преступности, при этом 91% были исключены до получения жалобы пользователей. Кроме того, из соцсети удалено около 12 млн единиц контента за нарушение политики о враждебных высказываниях, и 87% из них — до получения жалобы пользователей.

Группы удаляются в случае, если они неоднократно нарушили правила Facebook или были созданы с такой целью. За последний год было удалено более 1 миллиона групп подобного рода.

Также Facebook представил некоторые из новых мер по обеспечению безопасности в группах:

1. Борьба с постоянными нарушениями

Теперь люди, которые неоднократно нарушали Нормы сообщества, не смогут создавать новые группы в течение определённого срока. Также участники группы, за которыми были зафиксированы любые нарушения Норм сообщества, должны будут ждать одобрения своей публикации в группе в течение 30 дней. Если администратор или модераторы неоднократно одобряют посты, нарушающие Нормы сообщества, мы удалим их группу.

2. Поддержка функционирования групп

Иногда администраторы прекращают выполнять свои обязанности или покидают группы. Наши системы выявления вредоносного контента продолжают следить за этими группами, однако мы считаем, что активный и эффективный администратор помогает поддерживать сообщество. Именно поэтому теперь мы будем предлагать эту роль заинтересованным участникам. При выборе кандидатов на роль администратора мы учитываем ряд факторов, в том числе проверяем, нарушал ли определённый человек Нормы сообщества. В ближайшие недели мы начнем архивировать группы, у которых продолжительное время не было администратора.

3. Исключение групп категории «Здоровье» из рекомендаций

Группы Facebook, в том числе посвящённые здоровью, — место, где люди могут поддерживать друг друга и получать помощь в сложных жизненных ситуациях. В то же время мы убеждены, что люди должны черпать информацию, связанную со здоровьем, из авторитетных источников. Поэтому мы больше не будем показывать группы категории «Здоровье» в рекомендациях. Такие группы будут по-прежнему доступны в поиске, а пользователи и дальше смогут приглашать в них друзей.

4. Расширение правил в отношении опасных лиц или организаций

Мы ужесточили правила в отношении организаций и движений, которые представляют значительную опасность для общества. Теперь мы ограничиваем распространение таких групп, для этого мы удаляем их контент из рекомендаций, снижаем его позицию при ранжировании в Ленте новостей и делаем его недоступным для поиска. Мы также полностью удаляем группы, в которых обсуждается потенциальное нанесение вреда, в том числе если для этого используются завуалированные высказывания и символы.

Узнать больше об этих и других мерах можно в блоге Facebook.