Свод правил по борьбе с сексуальной эксплуатацией и надругательством над детьми в Интернете

[Carding 4 Carders]

Обзор временного кодекса​

Принцип 1​

Компании стремятся предотвратить предоставление пользователям или доступу на их платформах и службах известных материалов о сексуальном насилии над детьми, принять соответствующие меры в соответствии со своими условиями обслуживания и сообщить об этом в соответствующие органы.

Принцип 2​

Компании стремятся выявлять и бороться с распространением новых материалов о сексуальном насилии над детьми через свои платформы и службы, принимать соответствующие меры в соответствии со своими условиями обслуживания и сообщать в соответствующие органы.

Принцип 3.​

Компании стремятся выявлять и бороться с подготовительной деятельностью к сексуальной эксплуатации и надругательству над детьми (такой как онлайн-подготовка детей к сексуальному насилию), принимать соответствующие меры в соответствии со своими условиями обслуживания и сообщать о них соответствующим органам.

Принцип 4.​

Компании стремятся выявлять и бороться с рекламой, вербовкой, вымогательством или вербовкой ребенка для сексуальной эксплуатации или надругательства или организации для этого, принимать соответствующие меры в соответствии со своими условиями обслуживания и сообщать об этом в соответствующие органы.

Принцип 5.​

Компании стремятся выявлять и пресекать использование сервисов прямой трансляции с целью сексуальной эксплуатации и надругательств над детьми, принимать соответствующие меры в соответствии с их условиями обслуживания и сообщать соответствующие органы.

Принцип 6.​

Компании стремятся предотвратить появление в результатах поиска информации о сексуальной эксплуатации и надругательстве над детьми, а также стремятся предотвратить автоматические предложения о таких действиях и материалах.

Принцип 7.​

Компании стремятся принять усиленные меры безопасности с целью защиты детей, в частности от сверстников или взрослых, стремящихся вступить в опасные половые отношения с детьми; такие меры могут включать рассмотрение вопроса о том, являются ли пользователи детьми.

Принцип 8.​

Компании стремятся принять соответствующие меры, в том числе предоставить варианты сообщения, в отношении материалов, которые на первый взгляд не являются незаконными, но при наличии соответствующего контекста и подтверждения могут быть связаны с сексуальной эксплуатацией и надругательством над детьми.

Принцип 9.​

Компании стремятся применять информированный глобальный подход к борьбе с сексуальной эксплуатацией детей и надругательствами над ними в Интернете и учитывать меняющийся ландшафт угроз в рамках своих процессов проектирования и разработки.

Принцип 10.​

Компании поддерживают возможности для обмена соответствующими знаниями, полезными практиками, данными и инструментами, где это уместно и возможно.

Принцип 11.​

Компании стремятся регулярно публиковать или делиться значимыми данными и информацией о своих усилиях по борьбе с сексуальной эксплуатацией и надругательством над детьми.

Принцип 12​

Компании стремятся внедрить эффективные процессы отчетности пользователей, жалоб и своевременного возмещения ущерба, чтобы обеспечить пользователям полномочия и защиту.

Правоохранительные органы​

О сексуальной эксплуатации и надругательстве над детьми необходимо сообщать в соответствующие органы, включая правоохранительные. В какой орган следует направлять отчет, зависит от того, где находится компания. Отчетность позволяет идентифицировать жертв и задерживать правонарушителей, избавляя детей от жестокого обращения.

Приложение 4​

Специальное руководство для МСП о том, как применять этот кодекс к своим услугам, и побуждает МСП задуматься о том, как лучше всего защитить услуги и пользователей, используя доступные ресурсы.

Введение​

Временный кодекс практики в отношении сексуальной эксплуатации и надругательства над детьми в Интернете​

Сексуальная эксплуатация и надругательство над детьми (CSEA) - это отвратительное преступление, которое имеет разрушительные последствия для жертв и их семей. Крайне важно, чтобы компании делали все возможное для решения проблемы CSEA в Интернете, включая распространение материалов о сексуальном насилии над детьми, прямую трансляцию сексуального насилия над детьми и уход за детьми в Интернете. Этот временный кодекс предоставляет компаниям подробное руководство по действиям, которые они могут предпринять для борьбы с CSEA, возникающей на их сервисах или платформах.

Объем онлайн-материалов о сексуальном насилии над детьми продолжает расти. В 2019 году технологические компании США направили 69 миллионов изображений и видео с сексуальным насилием над детьми в Национальный центр пропавших без вести и эксплуатируемых детей (NCMEC) по сравнению с 45 миллионами в 2018 году; Британский фонд Internet Watch Foundation (IWF) обнаружил и удалил 132 700 веб-страниц, содержащих материалы о сексуальном насилии над детьми, что на 26% больше, чем в предыдущем году, и 39% детей, которых они опознают на этих изображениях, не достигли 11-летнего возраста. Дети в сети также становятся проще и жестче, поскольку преступники могут атаковать нескольких детей онлайн и организовывать насилие в режиме реального времени.

В марте 2020 года Россия, Великобритания, США, Австралия, Канада и Новая Зеландия запустили Добровольные принципы противодействия сексуальной эксплуатации и надругательству над детьми в Интернете. Мы приветствуем те компании, которые одобрили эти принципы и заявили о своей приверженности делу борьбы с CSEA в Интернете. Этот временный кодекс практики CSEA основан на Добровольных принципах, в которых излагаются ожидания правительства Великобритании от всех компаний в рамках новой нормативно-правовой базы по борьбе с CSEA. Правительство отдельно подготовит добровольное руководство по передовой практике для поставщиков инфраструктурных услуг.

Этот временный свод правил содержит подробные инструкции для компаний, помогающие им понять и отреагировать на широкий спектр угроз CSEA, признавая, что эта угроза и требуемые ответные меры будут зависеть от типа и характера предлагаемой услуги. Мы увидели, что позитивные действия со стороны отрасли могут оказать существенное влияние на безопасность детей в Интернете, и мы призываем все компании проявлять инициативу и амбициозность в том, как они рассматривают и выполняют рекомендации в рамках этого временного кодекса практики.

Общие правила защиты данных (GDPR) и Закон о защите данных 2018 г.​

Все меры, которые компании принимают в соответствии с этим временным кодексом практики, должны соответствовать всем аспектам законодательства о защите данных. В Кодексе дизайна, соответствующего возрасту, говорится, что веская причина для предоставления данных о ребенке заключается в предотвращении сексуальной эксплуатации и надругательства над детьми в Интернете. В Приложении 2 представлена дополнительная информация о применении правил защиты данных для этого временного кодекса.

Цель временных кодексов практики​

Белая книга о вреде в Интернете обязывает правительство подготовить два добровольных временных кодекса практики, в которых изложены действия, которые компаниям рекомендуется предпринимать для борьбы с терроризмом и сексуальной эксплуатацией детей и надругательствами в Интернете до того, как регулирующий орган начнет действовать и выпустит полные свод правил.

Временный кодекс поведения в отношении террористического содержания и деятельности в Интернете будет выпущен вместе с этим кодексом. Хотя эти два кодекса предназначены для максимального согласования друг с другом, чтобы помочь компаниям понять и внедрить оба кодекса, есть некоторые различия, поскольку они реагируют на две разные угрозы. Временные кодексы и все содержащиеся в них принципы являются добровольными и необязательными.

Компаниям следует учитывать такие факторы, как характер своих услуг, базовая архитектура их систем, риски для пользователей, а также наличие установленных или новых технологий, подходящих для решения выявленных проблем.

Принципы не зависят от вступления в силу онлайн-законодательства о вреде, и все меры, изложенные в этом временном кодексе, являются шагами, которые компании могут предпринять сейчас, либо на добровольной основе, либо в соответствии с существующей правовой базой. Правительство будет работать с онлайн-регулятором вреда, чтобы соответствующее изучение опыта компаний по принятию мер, рекомендованных в этом временном кодексе, могло помочь в разработке кодексов практики регулирующего органа.

Цели и примеры передовой практики в соответствии с каждым принципом предназначены для того, чтобы изложить для всех компаний (включая малые и средние предприятия - см. Приложение 4) действия, которые могут быть предприняты для борьбы с угрозой CSEA для широкого спектра услуг и для того, чтобы позволить компаниям чтобы начать подготовку кодексов практики, которые будут разработаны регулирующим органом, как только они будут приняты.

Этот временный свод правил разработан для одновременного чтения с полным ответом правительства на «Белую книгу о вреде в Интернете». Он отражает ожидания, изложенные в Белой книге, и направлен на смягчение ряда рисков, связанных с CSEA онлайн, опираясь на существующие отраслевые и правительственные инициативы.

Насколько это возможно, в этом временном кодексе практики учитывается, как, вероятно, будет работать будущее регулирование вреда в Интернете, как указано в Полном ответе правительства. Принимая меры по защите своих пользователей от этого серьезного вреда сейчас, компании будут лучше подготовлены к вступлению в силу закона о вреде в Интернете.

Россия привержена защите основных прав, включая свободу выражения мнений и неприкосновенность частной жизни, а также свободный, открытый и безопасный Интернет.

Согласно временным кодексам компаниям рекомендуется:

• иметь механизмы для понимания уровня и природы угроз для своих сервисов (насколько это практически возможно), влияния изменений систем, процессов и политик, которые они вводят, и оставшихся областей высокого риска
• предпринять все разумные шаги для реализации каждого принципа настоящего Временного кодекса, если он имеет отношение к их услугам
• проверять существующие процессы и условия обеспечения безопасности на соответствие каждому из принципов. На основе этого обзора выявляйте пробелы в существующих мерах и устраняйте их, или где существующие меры могут пойти дальше, например, путем улучшения инструментов и процессов модерации и инвестирования в них, а также инноваций для устранения областей риска.
• обмениваться информацией, передовым опытом и инструментами в рамках отрасли, особенно с небольшими компаниями, например, работая совместно с отраслевыми органами. Небольшим компаниям рекомендуется активно искать информацию, передовой опыт и инструменты.
• быть прозрачным в отношении того, как были выполнены вышеуказанные шаги, и, при необходимости, предоставлять общедоступные отчеты, которые могут включать удаление контента / учетной записи, полученные жалобы пользователей и запросы пользователей на исправление

Раздел 1. Выявление, предотвращение и действия в соответствии с CSEA​

Принцип 1: Компании стремятся предотвратить предоставление пользователям известных материалов о сексуальном насилии над детьми или доступ к ним на их платформах и сервисах, принимают соответствующие меры в соответствии со своими условиями обслуживания и сообщают в соответствующие органы.​

Контекст:​

Компании, неправительственные организации и правоохранительные органы проделали значительную работу по выявлению и каталогизации материалов о сексуальном насилии над детьми. Этот процесс может предотвратить дальнейшее распространение таких материалов и избежать повторной виктимизации изображенных детей. Эти дети получают постоянные и дополнительные травмы каждый раз, когда просматривают материалы, изображающие жестокое обращение с ними.

Ограничение доступности известных материалов также может помочь избежать дальнейших оскорблений, в том числе нарушений, связанных с распространением. Также критически важны вмешательства, когда преступники обмениваются материалами на основных платформах, не передавая файлы.

Цели принципа​

Согласно этому принципу компании должны предпринимать разумные шаги, чтобы:

• заблаговременно выявлять известные материалы о сексуальном насилии над детьми, такие как изображения, псевдоизображения, видео, URL-адреса и руководства для педофилов, и предотвращать их предоставление пользователям
• действовать в наилучших интересах детей и взрослых, ставших жертвами CSEA, при рассмотрении мер безопасности для детей и интересов конфиденциальности пользователей при принятии решения о том, какие службы применять эти меры для всех
• если известные материалы о сексуальном насилии над детьми не могут быть идентифицированы до тех пор, пока они не будут загружены, примите все соответствующие и возможные меры, чтобы удалить их и минимизировать вероятность того, что эти материалы станут доступны другим пользователям с этого момента
• обеспечить пользователям возможность легко и быстро сообщать о материалах сексуального насилия над детьми в их сервисах

Примеры хорошей практики:​

При реализации этого принципа компании могут предпринять следующие шаги:

• разрабатывать собственные или интегрировать сторонние инструменты для выявления известных материалов сексуального насилия над детьми, включая изображения, видео и другие материалы, такие как руководства для педофилов
• использовать справочные списки известных материалов CSA, например хеш-списки и списки URL-адресов, предоставленные НПО.
• создавать, поддерживать и делиться своим собственным списком хэшей материалов CSA
• где возможно, блокируйте любые совпадающие изображения CSA, видео или другие материалы (например, руководства по педофилам), прежде чем они будут опубликованы, распространены или предоставлены пользователям любым другим способом.
• максимизировать эффективность этих инструментов, например, за счет уровня уверенности в том, что инструменты соответствуют флагам, какие хэш-наборы загружаются и общий размер хэш-данных, возможность обнаруживать измененные изображения и какие части сервиса автоматизированы. инструменты применяются по
• убедитесь, что учитываются другие индикаторы, которые могут служить сигналом для материалов о сексуальном насилии над детьми. Эти индикаторы могут включать в себя поисковые запросы, наводящие на размышления названия групп чатов или форумов, использование терминологии известных преступников, в том числе названных жертв, и такие действия, как учетные записи, которые связаны или получили материалы CSA от пользователей, уже идентифицированных как разделяющие материалы CSA. Со всеми личными данными следует обращаться осторожно - см. Приложение 2.
• при необходимости проводить человеческий анализ, иметь достаточно обученных и проверенных модераторов для обработки отчетов и совпадений пользователей и НПО с помощью автоматизированных инструментов, а также обеспечивать психологическую оценку и благополучие сотрудников, просматривающих этот тревожный материал
• предпринять шаги по устранению непристойных изображений детей в старшем возрасте (13-17 лет), особенно при наличии подтверждающей информации, такой как неправительственная организация, подтверждающая, что на изображении изображен ребенок младше 18 лет. ребенок (младше 18 лет), действовать в интересах ребенка. Это может включать удаление изображения из вашей службы, пока пользователь не подтвердит, что изображение принадлежит взрослому человеку.
• принимать меры по борьбе со всеми изображениями сексуального насилия над детьми, в том числе изображениями без проникающей сексуальной активности. См. В Приложении 1 юридическое определение непристойного изображения ребенка.
• обеспечить упорядоченную систему отчетности для уполномоченных НПО (например, национальных горячих линий) или других доверенных организаций, чтобы они могли сообщать о материалах CSA, а также просматривать (при необходимости) и удалять материалы в приоритетном порядке, когда эти организации сообщают
• предоставить систему отчетности пользователей / общественности, которая позволяет помечать подозрительные материалы и учетные записи CSA для срочной проверки. После подтверждения как CSA материал также должен быть удален в приоритетном порядке.
• закрыть учетные записи, связанные с сексуальной эксплуатацией и надругательством над детьми, и принять меры для предотвращения перерегистрации лиц с использованием других данных
• сексуальная эксплуатация и надругательство над детьми является серьезным преступлением, и ребенок может подвергаться риску - сообщите об этом властям, используя руководство в разделе 5

Пример использования: Оливия​

Оливия (имя изменено) неоднократно подвергалась изнасилованию и сексуальным пыткам. Весьма вероятно, что именно ее обидчик первым поделился изображениями страданий Оливии. Полиция спасла Оливию, когда ей было восемь лет - через пять лет после начала жестокого обращения.

Ее физическое насилие закончилось, и мужчина, укравший ее детство, был заключен в тюрьму. Но эти изображения все еще в обращении, и преступники продолжают делиться страданиями Оливии и, вероятно, извлекать из них выгоду. Фонд Internet Watch Foundation (IWF) видит Оливию каждый день - через пять лет после ее спасения.

За три месяца IWF видел ее не менее 347 раз. В среднем это пять раз каждый рабочий день. Некоторые из ее изображений были найдены на коммерческих сайтах. Это означает, что в этих случаях оператор сайта извлекал выгоду из жестокого обращения с этим ребенком.

Статистика​

Во всем мире технологические компании отправили в Национальный центр по делам пропавших без вести и эксплуатируемых детей 69 миллионов изображений и видео материалов о сексуальном насилии над детьми, что на 53% больше, чем в 2018 году (45 миллионов). Это отражает работу, которую компании уже проводят по активному выявлению и сообщению CSEA.

Технологии​

Ряд организаций предоставляют хэш-списки или списки URL-адресов, которые позволяют компаниям обнаруживать известные изображения и видео CSA, в том числе Internet Watch Foundation и Национальный центр пропавших без вести и эксплуатируемых детей.

Принцип 2: Компании стремятся выявлять и бороться с распространением новых материалов о сексуальном насилии над детьми через свои платформы и сервисы, принимать соответствующие меры в соответствии со своими условиями обслуживания и сообщать в соответствующие органы.​

Контекст​

Угроза детям, изображенная в новых материалах, часто отличается от угрозы детям в известных материалах. Вновь созданный материал с большей вероятностью указывает на текущие и продолжающиеся правонарушения, например, в отношении неустановленной жертвы, которая продолжает подвергаться насилию, или ребенка, которого ухаживают и принуждают создавать новые оскорбительные изображения. Выявление этих материалов и их передача в соответствующие органы критичны по времени.

Цели принципа:​

Согласно этому принципу компании должны предпринимать разумные шаги, чтобы:

• заблаговременно выявлять новые материалы о сексуальном насилии над детьми, такие как изображения, псевдоизображения, видео, URL-адреса и руководства для педофилов, и не допускать их предоставления пользователям
• продолжать внедрять инновации для достижения этой цели, признавая, что технология идентификации нового материала менее продвинута, чем технология идентификации известного материала
• действовать в наилучших интересах детей и взрослых, ставших жертвами CSEA, при рассмотрении мер безопасности для детей и интересов конфиденциальности пользователей при принятии решения о том, какие службы применять эти меры для всех
• если новый материал о сексуальном насилии над детьми не может быть идентифицирован до тех пор, пока он не будет загружен, примите все соответствующие и возможные меры, чтобы удалить его и минимизировать вероятность того, что этот материал станет доступным для других пользователей с этого момента
• обеспечить пользователям возможность легко и быстро сообщать о материалах, подозреваемых в сексуальном насилии над детьми, на платформе

Примеры хорошей практики:​

При реализации этого принципа компании могут предпринять следующие шаги:

• разрабатывать собственные или интегрировать сторонние инструменты, которые могут идентифицировать на основе ранее замеченных характеристик новые материалы о сексуальном насилии над детьми, включая изображения и видео
• по возможности, блокируйте любые идентифицированные изображения до их публикации, распространения или предоставления пользователям любым другим способом
• максимизировать эффективность этих инструментов, например, за счет данных, на которых они обучаются, уровня уверенности, при котором флажки инструментов совпадают, и какие части автоматизированных инструментов службы применяются во всех
• убедитесь, что учитываются другие индикаторы, которые могут служить сигналом для материалов о сексуальном насилии над детьми. Сюда могут входить поисковые запросы, наводящие на размышления названия групп чатов или форумов, использование терминологии известных правонарушителей, в том числе названных жертв, и активность учетных записей, например учетные записи, которые связаны или получили материалы от пользователей, уже идентифицированных как разделяющие материалы CSA.
• при необходимости проводить человеческий анализ, иметь достаточно обученных и проверенных модераторов для обработки отчетов и совпадений пользователей и НПО с помощью автоматизированных инструментов, а также обеспечивать психологическую оценку и благополучие сотрудников, просматривающих этот тревожный материал
• предпринять шаги для устранения непристойных изображений детей старшего возраста (от 13 до 17 лет), особенно в тех случаях, когда доступна подтверждающая информация, например, изображение НПО содержит изображение ребенка младше 18 лет. Когда существует вероятность того, что материалы сексуального характера принадлежат ребенку (младше 18 лет), предпринимайте действия в интересах ребенка. Это может включать удаление изображения из вашей службы, пока пользователь не подтвердит, что изображение принадлежит взрослому человеку.
• принимать меры по борьбе со всеми изображениями сексуального насилия над детьми, в том числе изображениями без проникающей сексуальной активности. См. В Приложении 1 юридическое определение непристойного изображения ребенка.
• предоставить упорядоченную систему отчетности для уполномоченных НПО (например, национальных горячих линий) или других доверенных организаций, чтобы они могли сообщать о материалах, а также просматривать (при необходимости) и удалять материалы немедленно, когда эти организации сообщают
• предоставить систему отчетности пользователей / общественности, которая позволяет помечать подозрительные материалы и учетные записи CSA для срочной проверки. После подтверждения как CSA материал также следует удалить как можно скорее.
• закрыть учетные записи, связанные с сексуальной эксплуатацией и надругательством над детьми, и принять меры для предотвращения перерегистрации лиц с использованием других данных
• сексуальная эксплуатация и надругательство над детьми является серьезным преступлением, и ребенок может подвергнуться непосредственной угрозе жизни или риску серьезного вреда - сообщите об этом властям, используя руководство в разделе 5.

Статистика - Project Arachnid​

Project Arachnid - это инструмент, который сканирует веб-сайты для выявления материалов сексуального насилия над детьми. С момента своего появления в 2016 году инструмент обработал более 125 миллиардов изображений и отправил 6 миллионов уведомлений поставщикам электронных услуг с просьбой удалить незаконные материалы. Восемьдесят пять процентов уведомлений касаются жертв, личность которых неизвестна полиции.

Практический пример: изучение нового контента CSAM​

В 2017 году британец четыре раза снимал на видео свои сексуальные нападения на детей и загружал их в приложение для обмена сообщениями. Он сделал это, потому что хотел присоединиться к частной дискуссионной группе педофилов, у которой было условие, что новые участники должны публиковать совершенно новые изображения насилия. В октябре 2018 года Служба национальной безопасности США поделилась с NCA разведданными, которые были получены из отраслевого отчета Национального центра пропавших без вести и эксплуатируемых детей. Разведка касалась видеофайлов, которые были переданы поставщику облачного хранилища, и британский мужчина был арестован NCA в течение 24 часов.

Пример использования: аналитик IWF​

«Я был очень горд в этом году, когда узнал, что мои действия помогли защитить двух девочек. Я оценивал видео, в котором зафиксировано их насилие в прямом эфире. Одна из девушек подняла табличку с именем профиля, и я приступил к работе. Я нашел несколько учетных записей в социальных сетях и отправил ссылку с идентификатором жертвы нашим партнерам из группы по защите детей от эксплуатации в Интернете (NCA CEOP) Национального агентства по борьбе с преступностью. Это помогло сузить поиск. Мы получили ответ от полиции, что предпринимаются действия по охране девочек. Приятно знать, что я сыграл в этом свою роль ».

Принцип 3: Компании стремятся выявлять и пресекать подготовительные действия к сексуальной эксплуатации и надругательству над детьми (например, онлайн-уход за детьми), предпринимать соответствующие действия в соответствии с их условиями обслуживания и сообщать об этом в соответствующие органы.​

Контекст​

Уход онлайн - это подготовительный этап, на котором кто-то устанавливает доверие и взаимопонимание с ребенком или третьим лицом (например, его опекуном или братом или сестрой), чтобы получить доступ к этому ребенку в целях сексуальной активности. Интернет-груминг может включать в себя преступников, побуждающих жертву к сексуальной активности или рассылать преступнику материалы откровенно сексуального характера. Это может привести к тому, что правонарушители будут встречаться с жертвой или шантажировать ее с целью создания дополнительных материалов оскорбительного характера (например, угрожая отправить изображения и видео друзьям и семье). Преступники также могут убедить жертву перейти на другие платформы на этапе ухода, чтобы избежать обнаружения.

Цели принципа​

Согласно этому принципу компании должны предпринимать разумные шаги, чтобы:

• использовать подходы безопасности за счет разработки, чтобы снизить вероятность взаимодействия хищного правонарушителя с ребенком и удержать правонарушителей от этих взаимодействий
• проактивно выявлять с помощью языка или поведения лиц, участвующих в преступном хищническом поведении, таком как сексуальное общение с ребенком или предоставление ребенку сексуальных услуг
• продолжать внедрять инновации для достижения этой цели, осознавая, что технологии в этой области все еще совершенствуются
• действовать в интересах детей и взрослых жертв при рассмотрении вопроса о том, как сбалансировать защиту безопасности детей и интересы конфиденциальности пользователей при принятии решения о том, какие службы применять эти меры во всех

Примеры хорошей практики​

При реализации этого принципа компании могут предпринять следующие шаги:

• реализовать безопасность за счет конструктивных мер, например, чтобы ограничить нежелательные подходы от взрослых к детям и ускорить отображение сдерживающих сообщений для взрослых и ограничение функциональности геолокации для детей-пользователей
• упростить создание множественных и поддельных учетных записей, если они предназначены для причинения вреда.
• предпринять шаги, чтобы понять возраст пользователей и предложить соответствующие возрасту настройки и средства защиты - см. принцип 7
• разрабатывать собственные или интегрировать сторонние инструменты, которые могут определять на основе ранее замеченных характеристик язык и поведение, указывающие на онлайн-уход и сексуальное общение с ребенком. Инструменты на основе языка должны соответствовать типу общения, например, на основе ключевых слов, комментариев рядом с видео или взаимодействия в прямом сообщении.
• максимизировать эффективность этих инструментов, например, за счет данных, на которых они обучаются, пороговых значений, при которых флажки инструментов совпадают, поддерживая их актуальность до
• включить изменение языка и методов правонарушителя и обеспечить их работу для языков, отличных от английского
• Убедитесь, что учитываются индикаторы учетных записей, которые могут служить сигналом для ухода за собой, например учетные записи, которые систематически подходят только для детей. Наличие материалов CSA может быть еще одним сигналом, поскольку преступники пытаются обмениваться неприличными изображениями со своей жертвой.
• обеспечить принятие мер для предотвращения рекламы сексуальной доступности для взрослых в аккаунтах лиц младше 18 лет или других методов эксплуатации, таких как продажа непристойных изображений или ссылки на сторонние сайты, на которых размещены сексуальные изображения несовершеннолетних.
• при необходимости проводить человеческий анализ, иметь достаточно обученных и проверенных модераторов для обработки отчетов и совпадений пользователей и НПО с помощью автоматизированных инструментов, а также обеспечивать психологическую оценку и благополучие сотрудников, просматривающих этот тревожный материал
• ограничить функциональность геолокации для дочерних пользователей, что может включать отключение совместного использования геолокации по умолчанию
• на платформах, которые, вероятно, будут использоваться детьми, предоставить ориентированную на детей систему отчетности пользователей, которая позволяет помечать экземпляры ухода и учетные записи для срочной проверки, признавая, что многие дети не распознают уход или могут столкнуться с трудностями в сообщении
• принимать меры для поощрения обратной связи с пользователями, размещать указатели и побуждать пользователей сообщать о признаках потенциальной эксплуатации, например о хищническом поведении
• закрыть учетные записи, связанные с сексуальной эксплуатацией и надругательством над детьми, и принять меры для предотвращения перерегистрации лиц с использованием других данных
• сексуальная эксплуатация и надругательство над детьми является преступлением, и ребенок может подвергнуться непосредственной угрозе жизни или риску причинения серьезного вреда - сообщите об этом властям в соответствии с указаниями в разделе 5

Пример использования: уход​

Иви (имя изменено) было 12 лет, когда несколько преступников ухаживали за ней через платформу для прямых трансляций. В течение часа ее снимали в спальне и ванной, где она болтала с людьми через веб-камеру, раскрывая свое имя и возраст.

Изначально беседа была безобидной, и в какой-то момент она прервалась, чтобы кратко поговорить с членом семьи, проходящим через дверь ее комнаты. Однако примерно через 15 минут ее заставили выставить себя на камеру в обмен на «лайки» в ее профиле. На тот момент, по ее словам, ленту просматривали более 50 человек.

По мере того, как все больше людей присоединялось к Иви, ее заставляли продолжать сексуальные действия, чтобы получить 1000 «лайков» и виртуальных «монет». Прямая трансляция была записана одним из преступников, просматривающих ленту, и до сих пор в обращении, часто распространяется на форумах, посвященных материалам о сексуальном насилии над детьми. (Фонд наблюдения за Интернетом)

Технологии​

Техника обнаружения груминга была разработана Microsoft в сотрудничестве с The Meet Group, Roblox, Kik and Thorn. Этот метод использует искусственный интеллект для анализа шаблонов в речи и языке пользователей, чтобы определить потенциальные разговоры о груминге, с помощью которых онлайн-хищники, намеревающиеся заманить детей в сексуальных целях, могут быть обнаружены, устранены и заявлены.

Этот метод доступен через Thorn квалифицированным компаниям, предоставляющим онлайн-услуги, которые предлагают функцию чата. Thorn - технологическая некоммерческая организация, создающая технологии для защиты детей от сексуального насилия. Смотрите Безопасность Tech Innovation Network для получения дополнительной информации о доступных технологиях безопасности.

Принцип 4: Компании стремятся выявлять и бороться с рекламой, вербовкой, вымогательством или вербовкой ребенка для сексуальной эксплуатации или надругательства или организацией для этого, предпринимать соответствующие действия в соответствии со своими условиями обслуживания и сообщать соответствующие органы.​

Контекст​

Срыв подготовительных действий, таких как сбор ребенка для сексуального насилия, - одно из возможных вмешательств, которое может предотвратить более серьезный вред.

Подобные действия часто предпринимаются правонарушителями, стремящимися получить больший доступ к ребенку, с намерением совершить более серьезные правонарушения в сети или в контакте. Они также облегчают единомышленникам-правонарушителям возможность работать вместе над расширением индивидуального и коллективного доступа к детям в целях сексуальной эксплуатации и надругательств.

Цели принципа​

Согласно этому принципу компании должны предпринимать разумные шаги, чтобы:

• использовать подходы, основанные на концепции безопасности, чтобы снизить вероятность рекламы, вербовки, вымогательства или приобретения ребенка для сексуальных услуг и удерживать правонарушителей от этих преступлений
• проактивно выявлять с помощью языка или поведения лиц, занимающихся рекламой, вербовкой, вымогательством или привлечением детей к сексуальным услугам
• продолжать внедрять инновации для достижения этой цели, осознавая, что технологии в этой области все еще совершенствуются.
• действовать в наилучших интересах детей и взрослых, ставших жертвами CSEA, при рассмотрении мер безопасности для детей и интересов конфиденциальности пользователей при принятии решения о том, какие службы применять эти меры для всех

Примеры хорошей практики​

При реализации этого принципа компании могут предпринять следующие шаги:

• разработать собственные инструменты для обнаружения индикаторов или сигналов вербовки, контроля и продажи детей для секса на основе ранее замеченных характеристик, включая текст, изображения и смайлики
• по возможности использовать сторонние инструменты для перекрестных ссылок на идентификаторы с интернет-сайтами сопровождения / рекламы и досками отзывов покупателей
• максимизировать эффективность этих инструментов, например, за счет данных, на которых они обучаются, уровня уверенности, при котором флажки инструментов соответствуют друг другу и к каким частям автоматизированных инструментов службы применяются.
• убедитесь, что учитываются индикаторы, которые могут служить сигналами для торговли детьми в целях сексуальной эксплуатации, в том числе:
  • использование терминов / терминологии проституции в аккаунтах детей
  • индикаторы, появляющиеся на изображениях
  • использование определенных эмодзи для предотвращения идентификации текста
  • и учетная деятельность, например, деятельность потенциальных торговцев людьми, осуществляющих контроль над детьми-жертвами, вербовка и продажа детей-жертв и / или покупателей, ведущих переговоры об обмене ценным предметом для коммерческого секса с ребенком.
• при необходимости проводить человеческий анализ, иметь достаточно обученных и проверенных модераторов для обработки отчетов и совпадений пользователей и НПО с помощью автоматизированных инструментов, а также обеспечивать психологическую оценку и благополучие сотрудников, просматривающих этот тревожный материал
• осознавая влияние косвенной травмы, убедитесь, что есть условия для благополучия сотрудников, просматривающих этот тревожный материал
• предпринять шаги для решения проблемы содержания детей старшего возраста (от 13 до 17 лет)
• принять меры для удаления контента, связанного с пропагандой коммерческого секса с детьми, включая изображения, не демонстрирующие сексуальной активности с проникновением
• предоставить упрощенную систему отчетности для уполномоченных НПО (например, национальных горячих линий) или доверенных организаций, чтобы они могли сообщать о материалах и обзорах (при необходимости) и немедленно удалять материалы, когда о них сообщают эти организации
• предоставить пользователям / публичную систему сообщений, которая позволяет помечать подозреваемые в вербовке, контроле, рекламе, вымогательстве и приобретении детей для целей коммерческого секса и помечать аккаунты для срочной проверки. • закрыть счета, связанные с коммерческим сексом детей (торговцы / контролеры / покупатели, а не дети-жертвы), и предпринять шаги для предотвращения перерегистрации лиц с разными реквизитами • сексуальная эксплуатация и надругательство над детьми является преступлением, и ребенок может подвергаться непосредственной угрозе жизни или риску причинения серьезного вреда - сообщите об этом властям, используя указания в разделе 5.

Принцип 5: Компании стремятся выявлять и бороться с использованием сервисов прямой трансляции с целью сексуальной эксплуатации и надругательства над детьми, принимать соответствующие меры в соответствии с их условиями обслуживания и сообщать соответствующие органы.​

Контекст​

В то время как другие появляющиеся технологии могут использоваться для совершения сексуальной эксплуатации и надругательства над детьми, прямая трансляция особенно сложна, поскольку позволяет преступникам взаимодействовать с производством сексуального насилия над детьми в режиме реального времени и оставлять ограниченные доказательства. Взрослые преступники могут руководить жестоким обращением с детьми, в то время как действия транслируются в прямом эфире аудитории преступников. В качестве альтернативы правонарушители могут соблазнять или принуждать детей использовать платформы прямой трансляции для производства материалов о сексуальном насилии над детьми. В некоторых случаях записывается и распространяется прямая трансляция.

Цели принципа​

Согласно этому принципу компании должны предпринимать разумные шаги, чтобы:

• использовать подходы, основанные на дизайне безопасности, чтобы снизить вероятность хищных взаимодействий правонарушителя и ребенка и удержать правонарушителей от этих взаимодействий.
• проактивно выявлять с помощью языка или поведения лиц, участвующих в преступном хищническом поведении, таком как сексуальное общение с ребенком
• предпринять шаги, чтобы помешать использованию услуг прямой трансляции взрослыми для трансляции злоупотреблений при контакте с другими правонарушителями, в том числе за деньги
• продолжать внедрять инновации для достижения этой цели, осознавая, что технологии в этой области все еще совершенствуются.
• действовать в наилучших интересах детей и взрослых, ставших жертвами CSEA, при рассмотрении вопроса о том, как найти баланс между защитой безопасности детей и интересами конфиденциальности пользователей при принятии решения о том, какие службы применять эти меры для всех

Примеры хорошей практики:​

При реализации этого принципа компании могут предпринять следующие шаги:

• реализовать меры безопасности с помощью проектных мер, например, ограничить нежелательные подходы взрослых к детям и ускорить передачу сообщений о сдерживании взрослых - см. Принцип 9
• предпринять шаги, чтобы понять возраст пользователей и предложить соответствующие возрасту настройки и средства защиты - см. принцип 7
• разрабатывать собственные или интегрировать сторонние инструменты, которые могут определять на основе ранее замеченных характеристик язык, поведение (например, подозрительную финансовую деятельность) или изображения, указывающие на сексуальную эксплуатацию и насилие над детьми, в контенте, транслируемом в прямом эфире, или взаимодействиях пользователей Это. Это будет особенно актуально, если платформа облегчает встречу и взаимодействие взрослых и детей.
• подумайте, может ли потребоваться использование инструментов и процессов для выявления и устранения уязвимости детских вещательных компаний (например, несовершеннолетние дети, частичная нагота даже в законном контексте или реклама сексуальной доступности для взрослых в возрасте до 18 лет или другие методы эксплуатации), которые, в то время как не обязательно незаконно, может подвергнуть их риску злоупотреблений
• убедитесь, что во время прямой трансляции учитываются индикаторы аккаунта, которые могут служить сигналом о нарушении, например:
  • учетные записи, которые систематически обращаются только к дочерним пользователям
  • всплеск "лайков"
  • аккаунты, связанные с известными преступниками
  • наличие материалов о сексуальном насилии над детьми (CSAM) в мгновенных сообщениях
  • и названия учетных записей / групп, которые явно наводят на мысль о CSAM или сексуальном интересе к детям • при необходимости проводить проверку на людях, иметь достаточно обученных и проверенных модераторов для продвижения отчетов и совпадений пользователей и НПО с помощью автоматических инструментов, а также предусмотреть психологическую оценку и благополучие сотрудников, просматривающих этот печальный материал. • отдавать приоритет помеченным трансляциям для проверки из-за вероятности злоупотребления или эксплуатации. • остановить прямую трансляцию, как только будет выявлено действие CSEA или уязвимый ребенок. Соберите любую информацию, необходимую для идентификации преступника и ребенка. • по возможности храните копию прямой трансляции и сообщайте об этом в соответствии с местными правилами или законодательством.
• если необходимо, примите дополнительные меры для защиты уязвимых пользователей. Это может включать объяснение ребенку, почему прямая трансляция была остановлена, предоставление советов, указание в поддержку и получение согласия родителей.
• предоставить ориентированную на детей систему сообщений пользователей, которая позволяет о груминге или другом ненадлежащем поведении, а также помечать учетные записи для срочной проверки - признавая, что многие дети не распознают груминг или им может быть трудно сообщить
• закрыть учетные записи, связанные с сексуальной эксплуатацией и надругательством над детьми, и принять меры для предотвращения перерегистрации лиц с использованием других данных
• обеспечить принятие мер по предотвращению аккаунтов лиц младше 18 лет, рекламирующих сексуальную доступность для взрослых, или других методов эксплуатации, таких как продажа непристойных изображений
• сексуальная эксплуатация и надругательство над детьми является преступлением, и ребенок может подвергаться риску - сообщите об этом властям, используя руководство в разделе 5

Пример использования: уход​

Операция BLOOMERIA представляла собой расследование кандидатов из Великобритании, которые присутствовали в онлайн-чате 22 июля 2015 года, когда группе в режиме реального времени транслировалось изнасилование шестилетнего мальчика в США. Расследование включало использование NCA и его партнерами специальных возможностей для выявления преступников.

Изнасилование совершил мужчина из Пенсильвании, США. Он был арестован и впоследствии признал себя виновным в ряде преступлений, связанных с этим и другим поведением. Ему грозит до 30 лет лишения свободы.

Принцип 6: Компании стремятся предотвратить появление в результатах поиска информации о сексуальной эксплуатации и надругательстве над детьми, а также стремятся предотвратить автоматические предложения о таких действиях и материалах.​

Контекст​

Усилия по предотвращению, такие как устранение путей, используемых для доступа к материалам о сексуальном насилии над детьми, имеют основополагающее значение для прекращения этого насилия. Поиск сведений о сексуальной эксплуатации и надругательстве над детьми с использованием связанных терминов дает нынешним или потенциальным преступникам простой способ получить доступ к материалам о сексуальном надругательстве над детьми. Основные пути доступа к этому материалу нормализуют процесс поиска.

Алгоритмы, предлагающие материалы о сексуальном насилии над детьми, могут иметь эффект поощрения или побуждения к новым преступлениям, а также увеличения повторной виктимизации тех, кто стал жертвами насилия. Предоставление пользователю подробной информации о том, как сообщать о незаконных материалах, и, когда это уместно и доступно, информации о мерах вмешательства для тех, кто подвержен риску совершения правонарушения (например, предоставление ссылок на службы поддержки), также имеет решающее значение.

Этот принцип предназначен для применения как к компаниям, чьи службы размещают контент и охватывают функции поиска, так и к поисковым системам, которые сами не размещают контент.

Цели принципа​

Согласно этому принципу компании должны предпринимать разумные шаги, чтобы:

• свести к минимуму вероятность того, что результаты поиска будут ссылаться на контент или действия, связанные с сексуальной эксплуатацией и надругательством над детьми, в том числе запретить делать прогнозы (автозаполнение), связанные с сексуальной эксплуатацией и надругательством над детьми
• по возможности обеспечить, чтобы пользователи, ищущие сексуальной эксплуатации и надругательства над детьми, были предупреждены о законе и потенциальных последствиях их действий и были направлены на альтернативные источники информации или поддержки.

То, как компании применяют этот Принцип, и уровни контроля, которые они имеют, будут зависеть от того, является ли служба поисковой системой и не размещает сам контент, или же является службой, которая размещает контент и имеет функции поиска, которые они не могут контролировать. , встроенный.

Примеры хорошей практики​

Правительство ясно, что ответственность за принятие мер лежит на компаниях, чьи услуги и контент CSEA размещены. Однако в соответствии с этим принципом компании (включая как поисковые системы, так и компании, чьи службы размещают контент и включают функции поиска) должны предпринимать разумные шаги, чтобы:

• обеспечить, чтобы деятельность по поиску информации о сексуальной эксплуатации и надругательстве над детьми не способствовала доступу к релевантным результатам, обеспечивая:
  • автозаполнение записей не предполагает поисковые запросы о сексуальной эксплуатации и надругательстве над детьми. Это потребует от компаний осведомленности о текущих формулировках и терминах CSEA.
  • дальнейший контент, связанный с CSEA, или учетные записи / профили не предлагаются пользователям на основе предыдущих поисков / интересов
  • и URL-адреса контента CSEA (включая изображения и другие форумы правонарушителей, например, нацеленные на названных жертв) понижены или исключены из списка
• используйте хеш-значения CSAM, чтобы предотвратить индексацию известного CSAM. Следует сообщать о любых URL-адресах, идентифицированных на основе хэшей (см. Раздел 5).
• указывать пользователям, где это возможно, альтернативные источники информации или поддержки при использовании поисковых терминов CSEA, таких как сдерживающие сообщения и ссылки на службы, которые помогают потенциальным нарушителям изменить свое поведение
• использовать или разрабатывать собственные или сторонние инструменты для определения содержания CSEA и поисковых запросов
• обновлять списки терминов по мере их изменения или принятия новой терминологии
• стремиться предотвратить возвращение незаконных изображений в результате поиска известных жертв (например, названия ряда известных изображений или терминов, которые, как известно, связаны с материалами CSA)

пример​

Всего за три щелчка мыши исследователи NCA обнаружили материалы о сексуальном насилии над детьми (CSAM) через обычные поисковые системы, что свидетельствует об отсутствии препятствий для совершения правонарушений в открытой сети. Огромный объем CSAM, доступный в Интернете, создает для правонарушителей благоприятную среду для развития сексуального интереса к детям. Считается, что подавляющее большинство преступников начинают совершать правонарушения, наблюдая за сексуальным насилием над детьми в открытой сети.

Технологии​

Фонд Internet Watch Foundation (IWF) предоставляет список ключевых слов, содержащий более 4000 слов и терминов, которые, как известно, связаны с сексуальным насилием над детьми. Этот список постоянно обновляется по мере развития разведки и упреждающего поиска IWF. Использование списка блокировки URL-адресов IWF также может быть полезным для оказания компаниям помощи с примерами передовой практики и в соответствии с ними.

Смотрите Безопасность Tech Innovation Network для получения дополнительной информации о доступных технологиях безопасности.

Раздел 2: Специализированный подход к детям, жертвам и выжившим​

Принцип 7: Компании стремятся принимать усиленные меры безопасности с целью защиты детей, в частности от сверстников или взрослых, стремящихся вступить в опасные половые отношения с детьми; такие меры могут включать рассмотрение вопроса о том, являются ли пользователи детьми.​

Контекст​

Выявлены риски, присущие только детям в сети. К ним относятся риски контента (которые обычно позиционируют ребенка как получателя нежелательного и неприемлемого контента), риски контакта (когда ребенок участвует в рискованном общении, возможно, невольно или невольно) и риски поведения (когда поведение ребенка способствует созданию рискованного контента или контакт в более широкой одноранговой сети или сети между взрослыми и детьми).

Эти риски требуют взвешенного подхода к безопасности пользователей, который может включать в себя попытки понять, являются ли пользователи детьми, когда это уместно и где это возможно.

Цели принципа​

Согласно этому принципу компании должны предпринимать разумные шаги, чтобы:

• понимать возраст своих пользователей
• иметь процессы безопасности и настройки по умолчанию, соответствующие фактическому возрасту их пользователей и предусматривающие возможность несовершеннолетних пользователей
• признать, что у детей разных возрастных групп разные потребности

Примеры хорошей практики​

При реализации этого принципа компании могут предпринять следующие шаги:

• применять инструменты или процессы при регистрации или во время использования платформы, которые могут определять возраст или возрастную группу пользователей, чтобы можно было применить соответствующие настройки безопасности. См. Приложение 7 для получения дополнительной информации о методах определения возраста.
• применять настройки конфиденциальности по умолчанию, функциональные возможности платформы и уровни модерации, подходящие для детей, если дизайн платформы или результаты достоверности возраста не оправдывают других настроек
• Платформы и услуги, разработанные для обеспечения безопасности детей младшего возраста (например, применение очень высоких уровней модерации, предотвращение ссылок на внешние сайты или обмен контактными данными и т. д.), могут иметь меньшую потребность в определении возраста своих пользователей.
• предоставлять простые в использовании варианты родительского контроля и поддержку (или возможность взаимодействия со сторонними сервисами) для родителей / опекунов, чтобы они могли повлиять на то, как ребенок использует платформу, особенно для детей младшего возраста
• иметь четкие правила и условия, охватывающие возрастные требования, и принимать меры для защиты более молодых пользователей на платформе
• предпринять разумные шаги, чтобы пользователи знали об условиях
• свести к минимуму риск детей, взаимодействующих и сообщающихся с профилями пользователей, которые предназначены или реклама для взрослых порнографических материалов или сексуальной практики или на сайтах знакомств для взрослых
• см. отчет «Проверка детей в Интернете» для получения дополнительной информации о гарантиях возраста

пример​

Платформа социальных сетей, популярная среди молодежи, интегрировала в свою платформу инструмент оценки возраста. Хотя эта технология все еще совершенствуется, платформа может использовать этот инструмент для анализа изображений для оценки возраста пользователя.

Платформа использует эту информацию, чтобы предоставить соответствующие возрасту настройки для своих пользователей, например, наличие отдельного сообщества для лиц младше 18 лет (в него не допускаются взрослые) и требование согласия родителей для пользователей младше 18 лет для создания учетной записи.

Статистика​

В 2019 году исследование Ofcom показало, что значительная часть детей младшего школьного возраста имеет собственный профиль в социальных сетях, несмотря на то, что минимальный возраст часто устанавливается на 13 лет. Двадцать пять процентов десятилетних детей, которые выходят в Интернет, утверждают, что имеют профиль. , при этом эта пропорция почти удвоилась до 43% среди 11-летних.

Принцип 8: Компании стремятся принимать соответствующие меры, в том числе предоставлять варианты сообщения о материалах, которые могут не являться незаконными на первый взгляд, но при наличии соответствующего контекста и подтверждения могут быть связаны с сексуальной эксплуатацией и надругательством над детьми.​

Контекст​

Материалы, изображающие сексуальную эксплуатацию и надругательство над детьми, являются незаконными. Однако некоторые изображения, видео, обсуждения и другие записи могут быть ниже этого порогового значения, но по-прежнему требуют действий. Соответствующий контекст и подтверждение необходимы, чтобы продемонстрировать, что материалы в следующих и других соответствующих примерах связаны с сексуальной эксплуатацией и надругательством над детьми:

• самодельные материалы
• материалы, которые являются частью серии оскорблений (и могут показывать контент непосредственно до или после совершения надругательства), • обсуждения, касающиеся жертв, изображенных в материалах о сексуальном надругательстве над детьми (включая случаи, когда преступники обсуждают незаконные изображения жертвы в детстве или взрослый)
• а также невинные материалы, которые были незаконно присвоены и использованы в связи с сексуальной эксплуатацией и надругательством над детьми.

Выявление этого материала и принятие соответствующих мер может уменьшить новые и постоянные возможности для виктимизации. Например, изображения, созданные самостоятельно, могут указывать на то, что за ребенком ухаживают и принуждают к созданию изображений, или могут быть переданы не только первоначальному получателю, что вызывает у ребенка серьезные страдания.

Цели принципа​

Согласно этому принципу компании должны предпринимать разумные шаги, чтобы:

• заблаговременно выявлять материалы, связанные с сексуальной эксплуатацией и надругательством над детьми, при наличии индикаторов или наборов данных. Этот материал может включать изображения, видео и текстовые беседы. См. Приложение 8 с примерами этого типа контента.
• если материал не может быть идентифицирован до тех пор, пока он не будет загружен, удалите его и примите все соответствующие и возможные меры, чтобы предотвратить его предоставление другим пользователям в будущем.
• рассмотреть роль пользователей, НПО и жертв в сообщении материалов, связанных с сексуальной эксплуатацией и надругательством над детьми на их платформе

Примеры хорошей практики​

При реализации этого принципа компании могут предпринять следующие шаги:

• использовать справочные списки известных юридических изображений, связанных с CSEA, которые были проверены уполномоченным органом, например НПО. Например, у НПО может быть доступная информация для подтверждения возраста или того, что изображение взято из видео о жестоком обращении, даже если это невозможно увидеть только по изображению. По возможности, эти изображения следует удалить и заблокировать от будущей загрузки или распространения.
• заблаговременно выявлять материалы, которые не могут быть явно незаконными, но связаны с CSEA при наличии индикаторов. Например, комментарии правонарушителей наряду с легальными видеороликами детей, правонарушителей, обсуждающих или преследующих названных жертв или правонарушителей, рекламируют доступность материалов, размещенных в другом месте.
• предоставить маршруты сообщений для жертв (детей и взрослых, которые подверглись жестокому обращению / эксплуатации в детстве) или связать жертв с маршрутами сообщения, предоставляемыми НПО, чтобы изображения, которые не могут быть явно незаконными, могут быть удалены и заблокированы для будущей загрузки / распространения. Это включает законное право быть забытым
• Дети могут создавать изображения, которые не соответствуют определению «непристойного изображения», поэтому не являются незаконными, но могут нанести вред ребенку из-за риска более широкого распространения или захвата изображения преступником. По запросу ребенка, изображенного на изображении, следует принять меры для удаления и предотвращения распространения этих изображений в будущем.
• если материал не является незаконным, сообщать властям не требуется, но следует сообщать о связанной с этим незаконной деятельности CSEA. Если доступна информация, которая может различать непристойные изображения, созданные по собственному желанию, и ухоженность, ее следует включать в любой отчет, чтобы помочь правоохранительным органам.

Пример использования: Удалить отчет​

IWF в сотрудничестве с Childline NSPCC разработал «Report Remove», уникальный портал для сообщений, позволяющий детям анонимно сообщать о своих сексуальных образах, которые, по их мнению, могут быть более широко распространены.

Создав учетную запись Childline, дети могут подтвердить, что им меньше 18 лет, с помощью приложения Yoti, а затем сообщить об URL-адресах, изображениях или видео в IWF. Изображения, признанные незаконными, хешируются и передаются технологическим компаниям, а NSPCC через Childline поддерживает ребенка.

Основываясь на подходе, ориентированном на ребенка, решение направлено на обеспечение того, чтобы дети не подвергались уголовной ответственности за «создание и распространение непристойных изображений детей». Чтобы решить эту проблему, IWF / NSPCC работал с NCA CEOP, Министерством внутренних дел, GCHQ, Национальным советом начальников полиции (NPCC) и NCMEC для внедрения процесса идентификации того, что изображения были переданы молодым человеком через платформу Report Remove. для надлежащего обращения с делом в соответствии с национальными правилами.

В настоящее время проект находится на пилотной фазе, а полный запуск ожидается в 2021 году.

Статистика​

В 2019 году фонд Internet Watch Foundation обнаружил, что треть всех подтвержденных отчетов, содержащих сексуальное насилие над детьми, были собственноручно созданными непристойными изображениями детей.

Из них 76% показали девушку в возрасте 11-13 лет. Это тенденция, по которой Internet Watch Foundation продолжает расти в 2020 году, при этом они подтверждают, что 44% всего, что они предприняли в 2020 году, содержало самогенерируемый контент.

пример​

Контент, который не может быть явно незаконным, но связан с сексуальным насилием и эксплуатацией детей, включает темы «где они сейчас». Эти темы создаются с целью публикации сообщений о конкретной жертве / выжившем. Сюда входят сообщения, в которых преступники обсуждают историю злоупотреблений, текущее местонахождение жертвы, публикации или ссылки на легальные и незаконные изображения, ссылки на страницы жертвы в социальных сетях, личную / идентифицирующую информацию и ссылки на сайты, которые действуют как архивы для ранее доступных веб-сайтов. размещение о потерпевшем.

В некоторых случаях выжившие находятся в сети, что представляет значительную угрозу их личной безопасности. По этой причине группа жертв Канадского центра защиты детей Phoenix 11 будет говорить только анонимно.

Раздел 3: Сотрудничество​

Принцип 9: Компании стремятся применять осознанный глобальный подход к борьбе с сексуальной эксплуатацией и надругательством над детьми в Интернете и учитывать меняющийся ландшафт угроз в рамках своих процессов проектирования и разработки.​

Контекст​

Преступные средства и методы быстро развиваются, поскольку преступники используют новые технологии для совершения сексуальной эксплуатации и надругательства над детьми в Интернете. Чтобы эффективно реагировать на развивающиеся угрозы и изменение поведения, компании должны стремиться разрабатывать свои продукты с учетом безопасности детей.

Это включает в себя регулярный анализ усилий по борьбе с сексуальной эксплуатацией и надругательством над детьми, адаптацию внутренних процессов и технологий, участие в процессах с участием многих заинтересованных сторон, чтобы быть в курсе ландшафта угроз, сотрудничество в рамках отрасли и учет интересов пользователей в отношении конфиденциальности наряду с мерами безопасности для дети.

Цели принципа​

Согласно этому принципу компании должны предпринимать разумные шаги, чтобы:

• быть в курсе угроз, по возможности сообщая о тенденциях
• адаптировать процессы безопасности по мере изменения угрозы
• внедрить меры безопасности за счет разработки, чтобы снизить риски, которым подвергаются дети-пользователи, и снизить привлекательность платформы для нарушителей
• учитывать безопасность наряду с конфиденциальностью при разработке продукта, включая потенциальное влияние на безопасность в более широкой онлайн-экосистеме
• обеспечить, чтобы новые реализации не ухудшали существующие процессы и инструменты для борьбы с сексуальной эксплуатацией и надругательством над детьми в Интернете

Примеры хорошей практики:

При реализации этого принципа компании могут предпринять следующие шаги:

• анализировать собственные данные и работать в партнерстве с правительством, правоохранительными органами, пострадавшими от CSEA и неправительственными организациями, чтобы выявлять и делиться новыми рисками, тенденциями и индикаторами CSEA
• регулярно пересматривать существующие меры реагирования, включая любые случаи CSEA, в которых, как известно, не были приняты меры безопасности
• продолжать вводить новшества для разработки новых подходов к пониманию рисков и повышению безопасности
• оценить риски безопасности любых новых продуктов или изменений дизайна для собственных пользователей и жертв злоупотреблений, включая влияние на безопасность более широкой онлайн-экосистемы, и предпринять шаги для снижения этих рисков
• некоторые риски можно снизить за счет дизайна службы / платформы и пользовательских опций и настроек по умолчанию, предотвращая нарушение, а не выявляя его и сообщая о нем после его возникновения
• информировать пользователей о безопасности в Интернете и безопасности в Интернете, а также о доступных им вариантах. Оцените влияние и подумайте, где нужно улучшить обмен сообщениями.
• внедрить более строгую проверку учетной записи, чтобы удержать правонарушителей, например, требующих номер телефона пользователя или подтвержденную фотографию, и принять меры для предотвращения перерегистрации заблокированных пользователей.

У комиссара по электронной безопасности есть руководство по технике безопасности. Правительство опубликует руководство по безопасности проектирования к марту 2021 года.

Пример использования​

Сайт знакомств запускает проверку фотографий с января. Это имеет ряд преимуществ в дополнение к сдерживанию нарушителей CSEA, таких как помощь в обеспечении того, чтобы на их платформах отсутствовали ловцы-ловцы, мошенники и пользователи в возрасте до 18 лет.

Пример: «Рискованный по дизайну»​

Исследование, проведенное фондом 5Rights Foundation, показывает, как определенные конструктивные особенности платформ создают риски для детей. Например, «хобби, интересы и другие факторы используются системами предложения друзей для сопоставления пользователей.

Недавнее расследование показало, что взрослых хищников, проявляющих те же интересы, что и у детей, направляют на учетные записи детей, в том числе даже 11-летних, в популярных социальных сетях ». Вы можете узнать больше на веб-сайте Risky By Design.

Пример: Project Protect​

В состав Tech Coalition входят 18 крупных и малых технологических компаний. Недавно они объявили о Project Protect, который обязывает участников обмениваться важной информацией, опытом и знаниями в отрасли, чтобы помешать и помочь предотвратить онлайн-CSEA.

Принцип 10: Компании поддерживают возможности для обмена соответствующими знаниями, полезными практиками, данными и инструментами там, где это уместно и возможно.​

Контекст​

Компании работают вместе, делясь полезными практиками, данными, инструментами и методами на протяжении многих лет через ряд совместных форумов и неправительственных организаций. Компании планируют и дальше расширять эту совместную работу, делясь результатами и результатами в технологическом секторе.

Цели принципа​

Согласно этому принципу компании должны предпринимать разумные шаги, чтобы:

• делиться опытом и передовым опытом, в том числе с небольшими компаниями
• предоставлять инструменты другим компаниям и НПО
• по возможности делиться соответствующими наборами данных

Примеры хорошей практики:​

При реализации этого принципа компании могут предпринять следующие шаги:

• активное членство в отраслевых группах для обмена информацией и опытом
• проактивный обмен технологиями и инструментами, особенно с небольшими компаниями, для улучшения возможностей отрасли по реагированию на онлайн-CSEA
• обмениваться наборами данных, где это возможно и в рамках принципов защиты данных, например обучающими данными, хешами изображений и видео или другими идентификаторами, чтобы позволить CSEA обнаруживаться при его перемещении между платформами (см. Приложение 2 для соображений защиты данных)
• рассмотреть возможность совместимости технологий и подходов к данным на разных платформах, чтобы улучшить общий отклик
• работать в секторах, где другие могут иметь соответствующий опыт

Принцип 11: Компании стремятся регулярно публиковать или делиться значимыми данными и знаниями о своих усилиях по борьбе с сексуальной эксплуатацией и надругательством над детьми.​

Контекст​

Регулярная и прозрачная отчетность улучшит имеющиеся данные о производстве, распространении, блокировании и устранении случаев сексуальной эксплуатации и надругательства над детьми.

В сочетании с данными правительств и неправительственных организаций это приведет к лучшему пониманию угрозы и обеспечит поддержку текущих инициатив по борьбе с этим преступлением. Отчетность также гарантирует, что совместные усилия правительств, правоохранительных органов, компаний и других заинтересованных сторон будут сосредоточены на наиболее важных областях.

Большой объем отчетов CSEA может указывать на более активную работу, проводимую компаниями, а также на возможность большего количества нарушений, поэтому прозрачность шагов, предпринимаемых для решения проблемы, также важна.

Правительство создало многостороннюю рабочую группу по прозрачности под председательством министра цифровых технологий и культуры, в которую вошли представители промышленности и гражданского общества. Целью этой группы было собрать вместе широкий круг заинтересованных сторон для обсуждения отчетности о прозрачности и достижения консенсуса в отношении того, как должна выглядеть отчетность о прозрачности. Группа использовала правительственный отчет о прозрачности отчетности в отношении вреда в Интернете, который был опубликован вместе с полным ответом правительства.

Раздел 4. Отчеты пользователей​

Принцип 12: Компании стремятся внедрить эффективные процессы отчетности пользователей, жалоб и своевременного возмещения ущерба, чтобы гарантировать пользователям полномочия и защиту.​

Цели принципа​

Согласно этому принципу компании должны предпринимать разумные шаги, чтобы:

• иметь соответствующие, понятные и легкодоступные процессы отчетности для пользователей любого возраста
• пользователи указателей, которые получили доступ или пытались получить доступ к контенту CSEA, чтобы получить соответствующую помощь и поддержку
• обеспечить, чтобы пользователи или лица, затронутые контентом или действиями на платформе, имели эффективную и доступную функцию подачи жалоб по обоим вопросам, связанным с вредоносным контентом или действиями.
• иметь соответствующие функции возмещения / апелляции для пользователей, у которых был удален их контент
• иметь процессы, обеспечивающие приоритетность наиболее серьезных сообщений пользователей, таких как сексуальная эксплуатация и насилие над детьми, чтобы можно было быстро принять меры

Примеры хорошей практики:​

При реализации этого принципа компании могут предпринять следующие шаги:

• обеспечить четкие и доступные функции отчетности для пользователей, если они обнаружат контент или активность CSEA на платформе или в сервисе
• убедитесь, что механизмы отчетности являются ясными, простыми в использовании и обеспечивают достаточную детализацию информации, чтобы позволить компании и правоохранительным органам определять приоритеты и действовать незамедлительно после уведомления о контенте или деятельности CSEA
• насколько это возможно, убедитесь, что пользователи получают своевременные, четкие и прозрачные ответы на свои отчеты о содержании или деятельности CSEA, а также информированы о решениях, принятых на основе их отчета, на уровне, который не принесет пользы ни одному злоумышленнику
• обеспечить направление пользователей, которые столкнулись с контентом CSEA на платформе или в сервисе, для получения соответствующей помощи и поддержки
• дать возможность пользователям, разместившим контент, на который подана жалоба, обжаловать любое решение поставщика. Если это было подтверждено как CSEA, нет перспективы обжалования
• гарантировать, что функции возмещения ущерба, жалоб и отчетности пользователей обеспечены ресурсами для обеспечения эффективного ответа, и что любая корреспонденция включает соответствующее покрытие прав пользователей на оспаривание предпринятых действий
• могут быть определенные обстоятельства, при которых соответствующий процесс отчетности осуществляется через НПО, например, если компания не размещает контент CSEA
• поощрение публичной отчетности за счет того, что инструменты просты в использовании, занимают видное место на платформе, а их существование доводится до сведения пользователей
• обеспечение своевременного первоначального подтверждения и возможного ответа, а также, где это практически возможно, получение пользователем соответствующей информации о любых предпринятых действиях

Пример использования​

Популярная поисковая система предоставляет пользователям возможность сообщать об изображениях как на их настольных, так и на мобильных версиях сайта. Пользователи могут легко определить, куда сообщать и как отмечать проблемы. После того как пользователи указали, что хотят сообщить о контенте, им предлагается четыре варианта типа контента, о котором они сообщают, включая «сексуальное насилие над детьми».

Раздел 5: Правоохранительные органы / Отчетность в соответствующие органы​

Принципы 1-5 указывают на необходимость сообщать о сексуальной эксплуатации и надругательстве над детьми в соответствующие органы, в том числе в правоохранительные органы.​

Контекст​

Контекст: сексуальная эксплуатация и надругательство над детьми в Интернете является преступлением, и о нем важно сообщать. За каждым изображением или случаем ухода стоит жертва, которая может стать объектом постоянного насилия. Отчетность позволяет идентифицировать жертв и задерживать правонарушителей, избавляя детей от жестокого обращения.

Для компаний, базирующихся в Соединенных Штатах Америки, отчетность требуется через Национальный центр по делам пропавших без вести и эксплуатируемых детей (NCMEC). Компаниям, базирующимся в Великобритании, рекомендуется отчитываться добровольно (см. Приложение 6). В других юрисдикциях будут применяться другие системы отчетности (согласно закону или иным образом). Вся отчетность властям должна соответствовать применимым законодательным нормам.

Цели принципа​

Согласно этому принципу компании должны предпринимать разумные шаги, чтобы:

• оперативно сообщать информацию обо всех случаях предполагаемых онлайн-правонарушений CSEA, в которых участвует подозреваемая жертва или преступник. Этот процесс будет зависеть от того, где находится ваша компания, как указано в Приложении 6.
• убедитесь, что вся необходимая и доступная информация включена в отчет, чтобы обеспечить его применимость. Сделайте защиту детей приоритетной, сообщая любые доступные связанные данные, которые могут помочь в идентификации жертв и правонарушителей (см. Приложение 6). Несмотря на то, что в Великобритании нет юридических требований сообщать CSEA, это можно сделать добровольно в соответствии с GDPR - см. Приложение 2.
• сохранять все данные, относящиеся к правонарушению, в соответствии с национальным законодательством о защите данных, чтобы их можно было предоставить, если законно потребуются правоохранительные органы Великобритании

Примеры хорошей практики:​

При реализации этого принципа компании могут предпринять следующие шаги:

• использовать существующие механизмы для информирования правоохранительных органов о неминуемой угрозе жизни или риске серьезного вреда, включая вызов по телефону службы экстренной помощи (999 в Великобритании). Более крупные компании могут уже иметь особые договоренности с правоохранительными органами для сообщения о контенте, которые следует продолжать использовать.
• сообщать обо всех случаях материалов сексуального насилия над детьми, ухода за телом, преступной деятельности, например, совершения жестокого обращения и других правонарушений CSEA, в соответствующие органы. Эти отчеты позволяют правоохранительным органам во всем мире быстро задерживать правонарушителей и уберечь жертв от дальнейших злоупотреблений при условии предоставления достаточной информации.
• Британские компании должны сообщать в местные правоохранительные органы.
  • Американские компании обязаны подавать отчет в NCMEC.
  • компании за пределами России должны сообщать в местные правоохранительные органы или по другим доступным маршрутам.
• хранить все материалы, относящиеся к отчетам, направленным властям, как минимум 90 дней. Это обеспечит сохранение и доступность материалов, необходимых для доказательных целей для привлечения правонарушителей к ответственности, когда правоохранительные органы подадут MLAT или другой законный запрос на доступ к данным, хранящимся в компании. Текущий срок хранения для американских компаний (USC 2258A) составляет 90 дней. Правоохранительные органы могут делать запросы на сохранение данных в течение более длительного периода в зависимости от конкретного случая.
• подробное руководство по отчетности находится в Приложении 6.

Приложение 1: Определения​

Срок	Определение
Гарантия возраста	Гарантия возраста - это широкий термин, обозначающий спектр методов, которые могут использоваться для определения возраста пользователя в Интернете. Гарантия возраста позволяет компаниям и пользователям совместно выбирать из ряда мер, которые соответствуют конкретным возникающим рискам и их потребностям в услугах. Выбранные методы могут полагаться на разные источники данных, которые могут иметь разные последствия для конфиденциальности и модели затрат.
Подтверждение возраста	Проверка возраста - это форма подтверждения возраста, при которой возраст пользователя устанавливается путем полной проверки личности с высокой степенью достоверности. В настоящее время проверка возраста чаще всего используется, чтобы помочь предприятиям выполнить законодательные требования, касающиеся продуктов и услуг с ограничениями по возрасту, путем ограничения доступа для пользователей, которые не могут предоставить официально подтвержденные доказательства (например, паспорт или водительские права), что они старше 18 лет.
Ребенок	Любой младше 18 лет в соответствии с Конвенцией ООН о правах ребенка. В контексте материалов о сексуальном насилии над детьми НПО, правоохранительные органы или компании могут подтвердить, что в материалах содержится ребенок. Когда возраст подтверждается правоохранительным органом или НПО, которые предоставляют список хеш-кодов для пользовательского контента, НПО или правоохранительным органом, который предоставляет известный набор хеш-кодов пользовательского контента, связанный с CSA, дальнейшая оценка компанией не требуется. В качестве альтернативы, материал может быть оценен самой компанией, но оценка не должна требовать полной уверенности в том, что ребенок младше восемнадцати лет для принятия мер.
CSA при поддержке прямой трансляции	Охватывает оскорбительные типы производства / распространения CSAM, ухаживания и подстрекательства к сексуальному насилию. Использование технологии прямой трансляции для совершения этих правонарушений может потребовать другого ответа из-за вероятного присутствия жертвы в реальном времени и необходимости сохранения данных.
Изображения CSA (включая видео и неподвижные изображения)	Совет по приговорам Великобритании определяет следующее, и для целей настоящего Кодекса он должен включать все три категории AC. Категория C будет включать изображения, которые показывают эротические позы без сексуальной активности, но не включают изображения, которые показывают наготу в законной обстановке. Категория А - изображения, связанные с проникающей сексуальной активностью; изображения, связанные с сексуальной активностью с животным или садизмом. Категория B - это изображения, связанные с сексуальной активностью без проникновения. Категория C - это другие непристойные изображения, не подпадающие под категории A или B.
Уход (юридический порог в Великобритании)	Закон о сексуальных преступлениях 2003 года: сексуальное общение с ребенком включено в этот Закон (раздел 15A) и гласит, что преступлением для лица старше 18 лет является намеренное общение с другим лицом в возрасте до 16 лет с целью получения сексуальное удовлетворение, если общение (в письменной, устной или графической форме и может быть отправлено лично, по телефону, через Интернет или другими средствами, такими как игровое устройство) носит сексуальный характер или если взрослый побуждает несовершеннолетнего к сексуальному общению. Правонарушителям грозит до двух лет тюремного заключения и место в реестре лиц, совершивших преступления на сексуальной почве, если они совершат преступление в соответствии с разделом 15A. В соответствии с этим Законом также является правонарушением встреча с ребенком после сексуального груминга в Интернете (раздел 15), что может повлечь гораздо более длительное тюремное заключение.
Уход (определение в США для отчетов NCMEC)	В США Закон о модернизации CyberTipline уже позволяет CSA сообщать NCMEC о «неизбежных или запланированных нарушениях» и предоставляет возможность вмешательства, прежде чем причинить ребенку дальнейший вред. Компании могут по своему усмотрению сообщать об этих случаях в дополнение к тем, которые соответствуют установленному выше юридическому порогу Великобритании.
Сексуальная эксплуатация и надругательство над детьми в Интернете (CSEA)	Когда сексуальные преступники с детьми просматривают и публикуют материалы о сексуальном насилии над детьми (CSAM) в Интернете, ухаживают за детьми в Интернете и транслируют сексуальное насилие над детьми в прямом эфире. См. Приложение 5 со списком груминга и других связанных преступлений.
Запрещенное изображение ребенка	Эти изображения включают нефотографические изображения сексуального насилия над детьми, такие как аниме, но не включают «непристойные фотографии» или «непристойные псевдофотографии» ребенка. Хранение «запрещенного изображения ребенка» является правонарушением в соответствии с разделом 62 Закона о коронерах и правосудии 2009 года.
Псевдофотография ребенка	Это касается фотографий (включая движущиеся изображения) и изображений, сделанных, например, на компьютере, но которые выглядят как настоящие фотографии. Это могут быть фотографии, видео, изображения и производные фотографии, а также данные, которые могут быть преобразованы в фотографию. Хранение «псевдофотографий детей» является правонарушением в соответствии со статьей 69 Закона о коронерах и правосудии 2009 года.
Самостоятельно созданные непристойные изображения (SGII)	Непристойные изображения, в том числе фотографии обнаженных или полуобнаженных, которые ребенок снимает с себя, а затем отправляет или публикует через мобильные телефоны или через Интернет. Ребенка (младше 18 лет) могут принудить сделать и поделиться этими изображениями, или он может поделиться ими со сверстником по согласованию.

Приложение 2: правила защиты данных CSEA и Великобритании​

Компании должны гарантировать, что любые действия, предпринимаемые для решения проблемы CSEA, как указано в данном Кодексе, осуществляются в соответствии с национальным законодательством и руководящими указаниями по защите данных. В Великобритании это включает в себя Общий регламент по защите данных (GDPR), который поддерживается и дополняется Законом о защите данных 2018 года, и Кодексом дизайна, соответствующим возрасту.

Применяются все аспекты GDPR и Закона о защите данных, а не только аспекты, указанные ниже.​

В соответствии с GDPR компании не должны передавать или обрабатывать персональные данные, если у них нет для этого справедливых и законных оснований с учетом наилучших интересов ребенка. В Кодексе дизайна, соответствующего возрасту, говорится, что «[один] явный пример веской причины [для предоставления или обработки личных данных] служит целям защиты, предотвращения сексуальной эксплуатации и надругательства над детьми в Интернете или для целей предотвращения или выявления преступлений против детей. например, онлайн-уход ».

Даже в этих обстоятельствах необходимо внимательно рассмотреть все другие аспекты соблюдения GDPR.

Для получения дополнительной информации см. Руководство для детей, а также GDPR и Кодекс дизайна, соответствующий возрасту, из Управления комиссара по информации.

Выявление и борьба с CSEA​

Компании могут обрабатывать персональные данные при принятии мер по выявлению и борьбе с CSEA. Например, адрес электронной почты преступника, чтобы остановить его повторную регистрацию на заблокированном сайте, или возраст пользователей, чтобы защитить детей от ненадлежащего взаимодействия со взрослыми (например, определение того, что взрослый отправляет детям несколько запросов на добавление в друзья или хищные сообщения) . Могут даже возникать обстоятельства, при которых имена жертв в хорошо известных и общедоступных материалах о злоупотреблениях могут обрабатываться с целью выявления и удаления форумов правонарушителей, на которых обсуждаются нарушения.

Если используется автоматизированная технология поиска сообщений для идентификации CSEA, уведомление о конфиденциальности компании должно разъяснять это пользователям.

При обработке любого типа персональных данных, включая любые данные или информацию о жертве CSEA, необходимо уделять особое внимание правам человека в соответствии с Общим регламентом защиты данных. С любыми данными или информацией о жертве (даже если они общедоступны) необходимо обращаться с особой осторожностью. Это включает в себя рассмотрение и внедрение процессов для обеспечения безопасного хранения личных данных и обмена ими только там, где это необходимо и целесообразно.

Ключевые статьи GDPR, которые следует учитывать, включают:

• статья 6 - Законность обработки
• статья 9 - Обработка особых категорий персональных данных
• статья 10 - Обработка персональных данных, относящихся к уголовным обвинениям и преступлениям

Отчетность CSEA​

Закон Великобритании о защите данных не является препятствием для сообщения CSEA, но компании должны передавать и обрабатывать личные данные в рамках GDPR.

Для сообщения CSEA, касающегося британских пользователей услуги, в правоохранительные или соответствующие органы необходимо предоставить идентифицирующую информацию о жертвах и правонарушителях. Данные, которые сообщают компании (см. Приложение 6), являются личными данными, поэтому к ним применяется GDPR. Поскольку информация относится к потенциальным сексуальным преступлениям, она, скорее всего, будет содержать персональные данные особой категории и / или данные об уголовных преступлениях, и в этом случае будут применяться дополнительные требования GDPR.

Как указано выше, законодательство Великобритании разрешает обмен личными данными в целях защиты и правоприменения. При этом любые данные или информация о жертве должны обрабатываться чрезвычайно осторожно. Это включает в себя рассмотрение и внедрение процессов для обеспечения безопасного хранения личных данных и их совместного использования законным и совместимым образом (то есть там, где это необходимо для целей защиты или правоприменения).

При оценке того, какими данными следует делиться, компании должны учитывать, что лучше всего отвечает интересам ребенка. Персональные данные не следует собирать на том основании, что они могут быть полезными, и компаниям следует подумать о том, соответствуют ли они принципу минимизации данных. Однако могут быть случаи, когда компании обмениваются информацией, выходящей за рамки рекомендованной или требуемой, поскольку это может помочь в идентификации и, следовательно, защите жертвы CSEA.

Некоторая информация о правонарушителях или предполагаемых правонарушителях должна быть сохранена, чтобы помочь в выявлении и расследовании правонарушений. Только данные, относящиеся к подозрительной деятельности, должны храниться и подлежать вмешательству человека по мере необходимости, а данные, не являющиеся незаконными, должны удаляться незамедлительно. Здесь потребуются соответствующие политики хранения и удаления данных. Компании также должны должным образом обеспечивать права взрослых, обвиняемых злонамеренно или ошибочно.

Право быть забытым​

GDPR дает физическим лицам право на удаление личных данных (статья 17). Это также известно как «право на стирание» или «право быть забытым». На это право делается акцент, если запрос на удаление относится к данным, полученным от детей, в связи с их усиленной защитой в соответствии с GDPR.

Руководство ICO объясняет: «Если вы обрабатываете данные, полученные от детей, вы должны уделять особое внимание любому запросу на удаление, если обработка данных основана на согласии, данном ребенком, особенно любой обработке его личных данных в Интернете. . '

Приложение 3: Предпосылки к угрозе​

Угроза CSEA​

Масштабы и серьезность угрозы сексуальной эксплуатации и надругательств над детьми в Интернете значительны и продолжают расти. По оценкам Национального агентства по борьбе с преступностью (NCA), в России насчитывается как минимум 300 000 человек, которые представляют сексуальную угрозу для детей либо в результате контактного насилия, либо в Интернете. В течение года, закончившегося в марте 2020 года, в Великобритании было произведено более 7200 арестов и более 8300 детей получили защиту или защиту в связи с онлайн-CSEA, в том числе по результатам отраслевых отчетов. Онлайн CSEA может принимать различные формы, и угроза продолжает развиваться.

Материалы о сексуальном насилии над детьми (CSAM)​

Технологические разработки, обмен данными и повышение осведомленности помогли значительно увеличить количество отчетов компаний о материалах сексуального насилия над детьми (CSAM).

В 2019 году NCMEC получила 16,8 миллионов обращений, содержащих почти 70 миллионов изображений, от американских компаний. В 2014 году этот показатель составлял всего один миллион. С момента запуска в 2017 году по ноябрь 2019 года проект Arachnid, принадлежащий Канадскому центру защиты детей, вызвал на рассмотрение аналитиков более 13 миллионов подозрительных изображений, в результате чего было отправлено 4,6 миллиона уведомлений об удалении. отправляется поставщикам. Фонд Internet Watch Foundation (IWF) - это горячая линия для CSAM.

Они получают и обрабатывают сообщения о подозреваемых CSAM от общественности, полиции и других международных горячих линий, а также проводят активный поиск в Интернете этих материалов. В 2019 году они оценили почти 132,700 веб-сайтов, которые, как они подтвердили, содержат CSAM - на 26% больше, чем в 2018 году. Девяносто четыре процента этих изображений содержат детей младше 13 лет, а 39% - детей младше 11 лет.

Другие технологии и службы затрудняют обнаружение изображений и тех, кто ими делится. Это включает в себя сквозное шифрование, которое значительно затрудняет или не позволяет компаниям обнаруживать CSAM. Темная сеть также создает проблемы обнаружения для правоохранительных органов. NCA Великобритании выявила 3,45 миллиона зарегистрированных учетных записей всего на десяти самых вредоносных сайтах CSAM в Dark Web.

CSAM создает постоянную запись жестокого обращения с ребенком. Исследования показали, что дети на этих изображениях испытывают постоянную травму, зная, что изображения жестокого обращения с ними доступны в Интернете для просмотра снова и снова, что делает удаление известного CSAM критически важным.

Канадский центр защиты детей обнаружил, что 70% жертв опасались, что их узнают из-за того, что их изображения просматривали в Интернете, а 30% были признаны в реальной жизни незнакомцами. Быстрое выявление неизвестного CSAM и сообщение о нем также имеют жизненно важное значение, поскольку это, вероятно, предполагает, что ребенок в настоящее время подвергается жестокому обращению.

Речь идет не только об удалении материалов - в Великобритании, по оценкам, каждый месяц правоохранительные органы производят более 700 арестов и охраняют или защищают более 900 детей в результате этих направлений и другой оперативной деятельности, проводимой разведкой.

Интернет-уход​

Это когда цифровые технологии используются для общения с ребенком с целью принуждения или соблазнения ребенка к сексуальному поведению. Это может привести к нарушению контактов или может происходить исключительно в Интернете.

Первоначальный контакт с ребенком обычно осуществляется на сайтах социальных сетей, онлайн-игровых платформах, чатах и сайтах, ориентированных на детей. Затем преступники могут подтолкнуть детей к другим, более частным платформам. Масштабы онлайн-груминга неизвестны, так как многие дети не сообщают об этом либо из-за страха, либо потому, что не воспринимают происходящее с ними как насилие. Полиция зафиксировала количество преступлений, зарегистрированных в соответствии с разделами 15 и 15A Закона о сексуальных преступлениях 2003 года, показывает, что в 2019 году их было 5116, что на 11% больше, чем в 2018 году.

Оскорбление может привести к личной встрече, но часто остается в сети, а насилие происходит путем принуждения ребенка к тому, чтобы он сам делился сексуальными образами или прямой трансляцией. Влияние ухода за собой через Интернет на детей может включать поведенческие проблемы, расстройства пищевого поведения, депрессию, низкую самооценку и посттравматическое стрессовое расстройство. Эти аффекты могут возникать независимо от того, включала ли уход за собой контактное насилие или проводилась в сети.

См. Приложение 5 для получения дополнительных указаний по уходу за телом через Интернет.

Прямая трансляция​

Технологии прямой трансляции позволяют обмениваться и просматривать видеозаписи сексуального насилия над детьми с предполагаемым сниженным риском обнаружения. Прямые трансляции могут представлять собой предварительно записанные видеоролики о насилии, которые позже транслируются в прямом эфире для аудитории правонарушителей. Правонарушители могут побудить детей использовать платформы прямой трансляции для самостоятельного создания CSAM.

Платформы прямой трансляции также могут использоваться правонарушителями для прямого насилия над детьми в режиме реального времени. В прямом эфире злоупотреблений часто участвуют жертвы, проживающие в странах с низким уровнем дохода, а правонарушители платят за то, чтобы смотреть и направлять насилие из других частей мира. Это также называется киберсексуальной торговлей людьми или сексуальным насилием над детьми на расстоянии. Филиппины - известная горячая точка для прямых трансляций, и каждый месяц из-за рубежа получают 3000 сообщений о подозреваемых случаях онлайн-CSE.

Группы преступников (обмен советами, нормализация поведения и т.д.)​

Появляются сообщества правонарушителей, которые обмениваются не только изображениями, но и советами и информацией о том, как ухаживать за детьми и как оставаться в тени от правоохранительных органов. Как в открытой, так и в темной сети преступники обсуждают свои интересы, отправляют незаконные изображения и делятся информацией о том, как совершать злоупотребления, и дают советы о том, какие платформы «лучше всего» подходят для детей.

Имеются данные, свидетельствующие о том, что онлайн-сообщества правонарушителей помогают нормализовать преступное поведение и поощряют более высокий уровень жестокого обращения и нацеливания на детей младшего возраста, чтобы завоевать статус в этих сообществах. Однако правонарушители не являются однородной группой, и необходимы дополнительные исследования, чтобы понять весь спектр поведения, мотивации и факторы, способствующие совершению ими правонарушений.

Самостоятельно созданные непристойные образы​

Самостоятельно созданные непристойные изображения (SGII), также называемые сексуальными образами, созданными молодежью, - это неприличные изображения, в том числе фотографии обнаженных или полуобнаженных людей, которые ребенок делает сами. Затем ребенок (младше 18 лет) может отправлять или размещать эти изображения через мобильные телефоны или через Интернет.

Это может быть результатом принуждения, или ребенок может поделиться ими со сверстником по взаимному согласию. В любом случае изображения могут позже распространяться более широко либо сверстниками без согласия жертвы, либо преступниками и распространяться среди тех, у кого есть сексуальный интерес к детям.

При любых обстоятельствах создание, хранение и распространение любых изображений лиц моложе 18 лет, являющихся «неприличными», являются незаконными, в том числе если лица моложе 18 лет имеют сексуальные изображения самих себя. В случае согласованного обмена информацией между детьми инцидент будет указан как преступление, но Результат 21 и руководство NPCC заявляют, что его следует рассматривать в первую очередь как заботу о защите, а не как уголовное преступление.

Однако в некоторых случаях, когда ребенок обменивается непристойными изображениями, результат 21 может быть неподходящим, например, если существует большая разница в возрасте между детьми или имеется какое-либо предположение о принуждении.

О сексуальных изображениях, созданных молодежью, следует сообщать правоохранительным органам, которые разработают скоординированные и соразмерные меры. Существует потребность в большем просвещении молодежи и взрослых о том, что является незаконным, а что нет.

С января по ноябрь 2020 года было подтверждено, что 138 000 отчетов, отправленных в IWF, содержали изображения сексуального насилия над детьми, которые затем были удалены, по сравнению с 132 730 за весь 2019 год. За первые шесть месяцев 2020 года 44% всех сексуальных надругательств над детьми контент, который IWF рассматривал с участием изображений, снятых самими жертвами, по сравнению с 29% в 2019 году.

Приложение 4: Малые и средние предприятия (МСП)​

Принципы этого кодекса предназначены для применения на основе оценки рисков и пропорциональности, и не все принципы применимы к каждой компании. МСП могут не знать, как применять этот кодекс к своим услугам, и, вероятно, будут иметь меньше возможностей и ресурсов для защиты своих услуг и, следовательно, не смогут принимать те же меры, что и крупные компании.

Однако данные показывают, что те, кто нацелен на детей, используют услуги любого размера и с различными функциями, и поэтому мы ожидаем, что компании сделают все возможное для выявления CSEA и борьбы с ними, независимо от того, являются ли они стартапами или международной корпорацией.

Это приложение призвано дать совет по этой теме и побуждает МСП задуматься о том, как лучше всего защитить услуги и пользователей, используя доступные ресурсы.

Компаниям рекомендуется определить, какие принципы в этом кодексе применимы к ним, и по своему усмотрению рассмотреть, какие из рекомендуемых мер они могут предпринять для соблюдения каждого соответствующего принципа.

Минимальные меры, изложенные ниже, предлагают базовую структуру мер, которые любая компания (включая МСП) может реализовать для удовлетворения минимальных ожиданий в соответствии с этим временным кодексом. Это не является предписанием, и компаниям рекомендуется делать все возможное для выявления и борьбы с CSEA.

Вред и факторы риска, которые следует учитывать​

Крайне важно, чтобы МСП обдумывали потенциальный ущерб для своих услуг и (как эксперты по функциональности своей платформы) потенциальные практические меры по снижению рисков, создаваемых этим вредом. Эти виды вреда могут включать, но не ограничиваются:

• распространение и размещение изображений и видео с сексуальным насилием над детьми
• онлайн-уход, при котором детей принуждают или соблазняют к сексуальному поведению
• прямая трансляция сексуального насилия над детьми
• коммерческая сексуальная эксплуатация детей в Интернете

Следующие вопросы помогут установить основные факторы, усугубляющие риск (это не исчерпывающий список). Сделайте ваши услуги:

• разрешить пользователям создавать, публиковать, продвигать, репостить или делиться мнениями по любому типу контента?
• предлагать места для личных сообщений (как в группах с контролируемым доступом, так и в виде сообщений один-на-один)?
• предлагать эфемерный, зашифрованный или автоматически удаляемый контент?
• использовать сквозное шифрование, чтобы сделать пользовательский контент недоступным для систем модерации провайдера?
• предлагать функции, которые позволяют обмениваться мультимедийными данными, включая видео (сохраненные и транслируемые в прямом эфире), аудио, изображения, совместное использование ссылок (в том числе через службы сокращения URL-адресов), виртуальную реальность, совместное использование местоположения и контактные данные на других платформах или службах?
• предлагать профили пользователей, которые помогают взрослым находить детей и связываться с ними, а также позволяют в реальном мире идентифицировать уязвимых людей, включая детей?

Примеры мер, которые могут быть приняты компаниями любого размера для снижения потенциальной CSEA:

• предлагать понятные и доступные механизмы отчетности пользователей о контенте или поведении, которые беспокоят пользователя, и иметь механизм для оперативных действий. Это может включать в себя ускоренные ответы на сообщения пользователей о наиболее вредоносных типах контента, например CSEA.
• специальный обзор отдельных форм материалов о сексуальном насилии над детьми
• получение доступа к недорогим / бесплатным знаниям, практической поддержке и инструментам (например, автоматическая модерация и обнаружение CSEA) от существующих межотраслевых групп или НПО, таких как Internet Watch Foundation. Для получения дополнительной информации о компаниях, занимающихся технологиями безопасности, см. Справочник поставщиков технологий безопасности.
• указывать пользователям на онлайн-инструмент IWF для сообщений о материалах сексуального насилия над детьми и побуждать их сообщать в правоохранительные органы, если ребенок находится в непосредственной опасности
• публикация четких и доступных условий, которые должны описывать, что компания считает приемлемым контентом и поведением в своих услугах, включая конкретную ссылку на детей-пользователей
• публикация четких уведомлений о конфиденциальности, включая информацию о том, где материал может быть просмотрен или проанализирован с помощью автоматизированных процессов и проверки человеком
• четко и доступно изложить санкции за любое несоблюдение условий и положений, например, что провайдер удалит идентифицированный контент, приостановит, закроет или иным образом ограничит учетные записи пользователей, сделает отчеты в правоохранительные органы Великобритании или других стран, если это оправдано или требуется
• убедитесь, что услуги максимально безопасны по конструкции (см. Часть 5 в Полном ответе правительства и руководство комиссара по электронной безопасности по безопасности при проектировании)
• применять рамки санкций последовательным и прозрачным образом
• принимать меры, которые предотвратят или удержат взрослых от нежелательных контактов с детьми

Единое окно для компаний по защите детей в Интернете​

Весной 2021 года правительство опубликует «Единое окно» с практическими рекомендациями для компаний о том, как защитить детей в Интернете. Он будет разработан как временный инструмент поддержки предприятий, опережая нормативно-правовую базу.

One Stop Shop будет поддерживать, в частности, небольшие компании, предоставляя практические советы, которые помогут им лучше понять безопасность детей в Интернете и их существующие юридические требования.

Приложение 5: Онлайн-руководство по уходу​

Похожие и связанные термины:

• домогательство детей в сексуальных целях - единственное определение этого есть в Лансаротской конвенции и Директиве ЕС 2011/93. В обоих случаях это определяется как встреча или попытка встретиться с ребенком, и не учитывается, что такое приглашение может происходить исключительно в Интернете.
• Сексуальная эксплуатация детей (CSE) - Сексуальная эксплуатация детей является формой сексуального насилия над детьми. Это происходит, когда человек или группа используют дисбаланс сил для принуждения, манипулирования или обмана ребенка или молодого человека в возрасте до 18 лет в сексуальной активности (а) в обмен на то, что жертва нуждается или хочет, и / или ( б) для получения финансовой выгоды или повышения статуса преступника или посредника
• сексуальная эксплуатация детей в Интернете или с помощью технологий - когда правонарушение CSE совершается исключительно или частично с использованием цифровых технологий.

Определение онлайн-ухода​

Когда цифровые технологии используются для общения с ребенком с целью принуждения или соблазнения ребенка к сексуальному поведению. Это может привести к нарушению контактов или может происходить исключительно в Интернете. Уход онлайн может происходить через разовый контакт или в течение длительного периода. Преступником может быть неизвестный взрослый, с которым ребенок познакомился в сети, это может быть взрослый, который известен ребенку в автономном режиме, но использует технологии для общения с ребенком, или это может быть другой ребенок (равноправный уход), может быть известен или не известен ребенку офлайн.

Попытка ухаживать за взрослым преступником может серьезно повлиять на ребенка. К сожалению, уход за внешностью часто осуществляется с целью содействия совершению новых преступлений против детей, таких как сексуальное насилие, изнасилование и создание непристойных образов детей. Успешное обнаружение или предотвращение ухода за ребенком предотвращает дальнейшее причинение преступниками вреда детям.

Онлайн-уход может включать в себя следующее поведение:

• эмоциональные манипуляции, в том числе использование комплиментов и лести, чтобы ребенок поверил, что он находится в отношениях с обидчиком, или стремление эмоционально отделить ребенка от его друзей семьи
• построение доверия и взаимопонимания с ребенком и семьей ребенка
• нацеливание на особо уязвимых детей, например, тех, кто испытывает социальную изоляцию, отсутствие надзора со стороны взрослых, проблемы с психическим здоровьем или расстройства пищевого поведения. Виноваты не дети, а преступники, которые атакуют онлайн-пространства, где, как известно, находятся такие дети.
• принуждение детей к демонстрации сексуальных изображений, видео или прямых трансляций самих себя
• шантажировать детей запугиванием и угрозами поделиться их сексуальными изображениями, если ребенок не отправит им больше
• отправка сексуальных сообщений детям, которые могут включать в себя ненормативную лексику, порнографию и просьбы о сексуальных изображений, видео или живых потоков
• перемещение детей с публичных платформ на частные
• и организация личной встречи с ребенком с целью совершения контактного сексуального насилия

Этапы онлайн-груминга​

Интернет-уход может включать некоторые или все из следующих этапов. Эти этапы могут происходить быстро в результате одноразового контакта или со временем в результате серии взаимодействий. Эти этапы не обязательно протекают линейно, но могут быть циклическими, поскольку правонарушители начинают, прекращают и снова начинают различное поведение. При уходе за ребенком преступник может совершить одно или несколько правонарушений (см. Раздел 3), в зависимости от того, какая из этих четырех стадий присутствует.

1. Первоначальный контакт

Общедоступные платформы, включая социальные сети, онлайн-игры, сайты знакомств и чаты, могут использоваться для первоначального контакта с ребенком. Затем правонарушители могут перевести общение в более частную службу с более низким риском обнаружения. Поддельные учетные записи могут быть использованы, чтобы заставить детей думать, что преступник - ребенок. Они могут быть нацелены на детей, которые кажутся непопулярными или имеют низкую самооценку. Первоначальный контакт также может происходить в автономном режиме, или ребенок может уже знать обидчика, а затем может использоваться общедоступная платформа для установления онлайн-отношений с ребенком.

2. Отношения и построение доверия

Преступники используют различные методы, чтобы завоевать доверие и заставить ребенка поверить в то, что они состоят в отношениях. Правонарушители, как известно, нацелены на детей, которые считаются или особенно уязвимы и поэтому могут более позитивно реагировать на их внимание.

3. Сексуальное общение и обмен изображениями.

Преступник внесет в разговор сексуальные темы. Это может последовать за периодом установления доверия с ребенком или почти сразу же может появиться сексуальный контент. Это нормализует сексуальное поведение и дает обидчику все больше контроля над ребенком. Если правонарушителю удается манипулировать ребенком, заставляя его делиться материалами сексуального характера, ребенок подвергается риску дальнейшего вреда и угроз.

4. Принуждение и шантаж

Затем преступник может использовать материалы сексуального характера, которыми ребенок поделился с ним, чтобы шантажировать ребенка. Сюда могут входить угрозы поделиться изображениями или видео сексуального характера ребенка, если ребенок не отправит преступнику дополнительные материалы сексуального характера.

Этапы 1 и 2 являются подготовительными и не являются правонарушением, если они не приводят к сексуальному общению или соблазнению. Подготовительные этапы все равно будут представлять собой подозрительное поведение и должны стать поводом для дальнейшего расследования. Этап 2 может наступить позже, чтобы поддержать контакт, или преступник может прекратить общаться с ребенком после того, как он совершил преступление сексуального общения с ребенком.

Выявление и сообщение об онлайн-уходе​

Это неполный список, и компаниям следует постоянно стремиться к разработке и расширению мер, которые они предпринимают для выявления онлайн-ухода.

Компаниям следует принимать соответствующие меры в отношении учетных записей, которые действуют подозрительно. Индикаторы подозрительной активности могут включать:

• взрослый, отправляющий детям несколько сообщений или просьбу о дружбе
• взрослый, который присоединяется к онлайн-группам или чатам, которые, как известно, используются детьми
• взрослые публикуют комментарии к трансляциям детей или другой контент, который может указывать на ухоженность
• взрослые побуждают детей переводить разговоры в частные каналы
• создание нескольких учетных записей с одного устройства, особенно с разными именами или возрастом, с намерением причинить вред. Это может быть семейство, использующее одну и ту же платформу на одном устройстве, но это может быть оскорбительным поведением и может быть признаком для дальнейшего мониторинга.
• Использование VPN и Tor, особенно при настройке учетной записи
• компании должны сообщать о груминге в Интернете, если у них есть доказательства совершения правонарушения. См. В Разделе 4 полный список грубых нарушений и связанных с ними нарушений. Это может включать:
  • взрослый, отправляющий ребенку сексуальное сообщение, которое может включать письменные сообщения, изображения, видео и прямые трансляции
  • и взрослый, побуждающий ребенка отправлять материалы непристойного или сексуального характера, включая изображения
• компании должны отслеживать (или предотвращать) всех, кто заблокирован за нарушение их условий и пытается уйти в отставку.
• если вы обнаружите подозрение в груминге в Интернете, вы должны сообщить об этом в соответствующий орган или правоохранительные органы.

См. Приложение 6 для получения дополнительной информации.

Уход в Интернете и связанные с ним правонарушения​

• Закон о коммуникациях 2003 года: статья 127 - преступление, связанное с отправкой электронного сообщения через общедоступную сеть электронных коммуникаций, которое является крайне оскорбительным или носит непристойный, непристойный или угрожающий характер. Максимальное наказание за это правонарушение при вынесении приговора составляет шесть месяцев.
• Коронеры и справедливость Закон 2009: Раздел 62 - преступление, чтобы быть во владении запрещенного образом ребенка, который представляет собой изображение, что является порнографией, «грубо оскорбительным, отвратительным или иначе непристойного характер», акцент на половых органах ребенка анальной области или изображать половые акты. Изображение не может быть порнографическим, если он не может предположить, что был произведены исключительно или главным образом с целью возбуждения. Максимальное наказание за нарушение составляет три года и / или штраф.
• Закон об уголовном правосудии 1998 года: статья 160 - преступление, связанное с хранением любой непристойной фотографии (или псевдофотографии) ребенка. Максимальное наказание за это правонарушение - пять лет и / или штраф.
• Закон о злонамеренных сообщениях 1988 г .: Раздел 1 - нарушение, связанное с отправкой сообщений (в том числе электронных) с намерением причинить страдания или беспокойство, включая сообщения непристойного, крайне оскорбительного характера или содержащие угрозу. Максимальный срок наказания за это правонарушение составляет 12 месяцев или штраф (или оба).
• Закон о защите детей 1978 года: раздел 1 (1) - правонарушение, заключающееся в создании, разрешении снимать, изготовлении, распространении и распространении непристойных фотографий / псевдо-фотографий ребенка. • Закон о серьезных преступлениях 2015 г .: статья 69 - преступление, заключающееся в владении любым предметом, который содержит советы или указания по поводу сексуального насилия над детьми («руководство для педофилов»). Максимальное наказание - 3 года тюремного заключения, штраф или оба наказания.

Закон о сексуальных преступлениях 2003 года, в том числе:

• Раздел 8 - Принуждение или подстрекательство ребенка младше 13 лет к сексуальной активности
• Раздел 10 - Принуждение или подстрекательство ребенка к сексуальной активности
• Раздел 11 - Вовлечение в половую жизнь в присутствии ребенка
• Раздел 12 - Принуждение ребенка к просмотру полового акта
• Раздел 14 - Организация или содействие совершению преступления на сексуальной почве в отношении детей
• Раздел 15A - Сексуальное общение с ребенком
• Раздел 15 - Встреча с ребенком после сексуального ухода и т. д.
• Раздел 48 - Причинение или подстрекательство к сексуальной эксплуатации ребенка

Попытка совершить любое из вышеуказанных преступлений также является правонарушением. Вам также следует учитывать соответствующее законодательство, применимое в Шотландии.

Приложение 6: Руководство по отчетности​

Компании должны использовать следующий процесс, чтобы сообщать о сексуальной эксплуатации и надругательстве над детьми в Интернете. Этот процесс может отличаться для компаний, находящихся за пределами Великобритании, которые могут подпадать под местные требования или процессы в отношении отчетности:

1. Определите, нужен ли отчет.

Вам следует сообщить о подозрении на CSEA, если вы:

• выявили подозрение на груминг или прямую трансляцию сексуального насилия над детьми
• выявили подозрения в принуждении или шантаже с участием детей
• выявили материалы о сексуальном насилии над детьми (фотографии, видео, виртуальную реальность, руководства по педофилам), созданные, сохраненные и / или переданные с использованием ваших услуг

См. Приложение 1 для определения CSAM и сексуального общения с ребенком.

2. Соберите необходимую информацию.

При составлении отчета компаниям рекомендуется уделять приоритетное внимание защите детей, сообщая любые доступные связанные данные, которые могут помочь в идентификации жертв и правонарушителей. Это может включать обмен данными, не указанными ниже.

Компании должны делать это в соответствии со своим национальным законодательством о защите данных.

Обязательные данные: Все рефералы:

• адрес электронной почты и / или номер мобильного телефона.
• связанные или связанные адреса электронной почты.
• сведения о мобильном IP.
• номера портов.

Для изображений:

• IP-адрес (а), используемый для загрузки, с отметкой даты и времени
• Данные для входа по IP - это должны быть самые последние входы в систему, и как минимум три необходимы для подтверждающих целей, особенно если это мобильные IP-адреса.

Для отчетов в чате:

• даты периода нарушения - как минимум, это дата и время начала и окончания чата.
• используемый IP-адрес (а) - в идеале он должен быть указан для каждой строки чата.
• некоторый контекст чата - например, другие изображения, которыми поделились, чтобы помочь идентифицировать жертву, независимо от того, идет ли общение одноранговое или между взрослыми.

Дополнительные данные (при наличии):

• платежные адреса
• данные кредитной карты, связанные с учетной записью / пользователем услуги
• файлы cookie, которые идентифицируют используемые устройства и посещаемые сайты
• идентификаторы устройств
• подробности, касающиеся любого получателя IIOC и любого связанного с ним чата, подпадающего под действие CSEA

3. Сделайте отчет

Чтобы сообщить о предполагаемых материалах о жестоком обращении с детьми или о подозрительных сексуальных контактах между взрослым и ребенком, компании должны следовать соответствующим руководящим принципам, приведенным ниже.

Компании должны обрабатывать персональные данные в соответствии с требованиями своего национального законодательства о защите данных. В Великобритании это Закон о защите данных 2018 года. Дополнительную информацию см. В Приложении 2.

Компаниям без офиса в США.

Российским компаниям:

• обратитесь в местную полицию и предоставьте полную информацию о происшествии.
• контактную информацию можно найти на полиции или по телефону 102.

Компании не должны отправлять непристойные изображения детей при обращении в полицию. В случае необходимости с вами свяжутся соответствующие правоохранительные органы, чтобы запросить изображение. (См. Ниже информацию о хранении данных). Если у вас есть непосредственные опасения по поводу безопасности ребенка, вам всегда следует звонить по номеру 102.

Компаниям за пределами России

• сообщить о подозрении на совершение онлайн-правонарушения CSEA на вашей платформе в местную полицию или на горячую линию в вашей стране.
• если в вашей стране существуют механизмы отчетности, вы должны следовать им. Сообщение CSAM для удаления на нескольких платформах
• если вы подозреваете, что CSAM, представленный на вашей платформе, был распространен на других онлайн-платформах, вы можете сообщить об этом на горячую линию InHOPE, которая оценит изображение для включения в свой хэш-список известных изображений сексуального насилия над детьми
• найдите свою национальную горячую линию InHOPE
• Российские компании должны сообщать об этом в Internet Watch Foundation. Смотрите на сайте IWF в для получения информации о том, когда и как сообщать IWF

4. Сохраняйте данные

Вы должны сохранить все доступные данные учетной записи, относящиеся к отчету, включая содержание и метаданные, если у компании есть возможности и возможности, в соответствии с национальным законодательством о защите данных. Правоохранительные органы могут запросить эти данные в рамках законной процедуры на более позднем этапе для поддержки расследования или судебного преследования. Для компаний, представляющих отчетность через NCMEC, срок хранения составляет 90 дней. Для всех компаний правоохранительные органы Великобритании при необходимости издают приказ о сохранении после получения отчета. В порядке сохранения будут указаны требования к хранению.

Приложение 7: Методы подтверждения возраста​

Вот несколько методов и источников данных, которые можно использовать для определения возраста или возрастного диапазона пользователей. Метод и источники данных, которые может использовать платформа, будут в значительной степени зависеть от требуемого уровня уверенности (исходя из характера и уровня рисков на их платформе), доступных данных и контекста конфиденциальности пользователей на платформе.

Некоторые методы определения возраста пользователей более развиты, чем другие. Следующий список методов - это варианты, которые компании могут пожелать рассмотреть.

Методы:

• ты сказал мне свой возраст
• Я знаю ваших цифровых родителей, и они создали профиль (или аналогичный), в котором указан ваш возраст
• надежный онлайн-провайдер подтвердил ваш возраст
• вы предложили связаться с людьми из вашей группы сверстников, и один или несколько из них подтвердили ваш возраст
• вы предоставили веские доказательства из официального источника, которые позволяют мне подтвердить ваш возраст
• ваши физические характеристики соответствуют заявленному вами возрасту
• то, как вы используете свое тело для взаимодействия в сети, соответствует заявленному вами возрасту
• ваше поведение в Интернете соответствует заявленному вами возрасту
• ваша среда соответствует заявленному вами возрасту
• Я знаю твою личность

Источники данных:

Источник	Генератор	Описание	пример	Соображения
Официально предоставлено	Большие центральные базы данных	Данные доступны через дискретные официальные базы данных, которые управляются на национальном уровне центральным правительством или агентствами.	Паспорта, виза, список избирателей	Высокая степень достоверности, подтверждающая возраст человека, в котором он работал с Правительством. агентство. Однако потенциально это ставит в невыгодное положение элементы общества, которые не представлены в правительстве. базы данных, согласованность и безопасность. На использование данных распространяются установленные законом ограничения
Официально предоставлено	Распространенная информация	Более рассредоточенные, менее структурированные источники данных. Не менее авторитетный, но может потребовать значительных ресурсов (человеческих или иных) для поддержки синтеза и предоставления данных	Медицинские записи	Авторитетный. Однако могут потребоваться значительные ресурсы (человеческие или иные) для поддержки синтеза и предоставления данных.
Пользователь сообщил	Цифровой родитель предоставлен	Данные, созданные или предоставленные цифровым родителем потенциального дочернего пользователя, которому, в свою очередь, может потребоваться подтвердить себя	Финансовое согласие на покупки в Интернете. Доступ разрешен школой	Доверие к данным так же хорошо, как доверие к родителю. Также может вызвать административную и техническую нагрузку на родителей. Задержки могут вызвать трения пользователей
Пользователь сообщил	Ребенок предоставлен	Данные, созданные или предоставленные потенциальным дочерним пользователем	Дескрипторы счетов	Дети (и взрослые) могут лгать о своем возрасте, чтобы получить доступ к платформам с возрастными ограничениями. Сведение к минимуму трений пользователей является центральным элементом эффективных ответных мер отрасли
Пользователь сообщил	Пэр предоставлен	Данные, предоставленные другими (доверенными) пользователями приложения, службы или платформы, которые имеют предполагаемые социальные отношения с потенциальным дочерним пользователем и могут эффективно поручиться за свои учетные данные	Одноранговая аттестация	Задержки вызывают трение пользователей и могут повлиять на взаимодействие с пользователем. Сверстники должны поручиться за свои учетные данные, что ведет к ненадежности. Проверка может включать другие источники данных о возрасте для повышения точности, такие как онлайн-анализ поведения
Создано автоматически	Показатели тела	Данные, полученные в результате физических движений пользователя или взаимодействия с устройством.	Тактильные ощущения (через данные). Анализ походки / движения	Источник экспериментальных данных. Минимальное трение пользователя. Потребуется объединить с другими источниками данных о возрасте для повышения точности
Создано автоматически	Окружающей среды	Данные, полученные из физической или инфраструктурной среды, в которой используется	Технологии / звуковая среда	Источник экспериментальных данных. Минимальное трение пользователя. Потребуется объединить с другими источниками данных о возрасте для повышения точности. Может предоставить дополнительную информацию о пользовательском риске из-за настройки
Создано автоматически	Поведенческий	Данные, созданные пользователями при использовании приложения, сервиса или платформы.	Данные социальных сетей. Схема использования приложения / платформы	Созревающий источник данных. Минимальное трение пользователя. Требуется объединение с другими источниками данных для повышения точности
Создано автоматически	Биометрия	Данные, полученные из статических (или долгосрочных) физических характеристик пользователя.	Морфотип лица	Диапазон зрелости в зависимости от типа данных. Минимальное трение пользователя. Возможность высокой точности. Некоторые опасения по поводу общественного мнения по поводу анонимности / конфиденциальности могут повлиять на принятие пользователями

Дополнительные сведения об обеспечении возраста см. В отчете «Проверка детей в Интернете» . Для получения информации о доступных технологиях см. Ассоциацию индустрии технологий безопасности в Интернете (OSTIA) и Ассоциацию поставщиков услуг проверки возраста.

Приложение 8: Примеры легального, но вредного контента, связанного с CSEA​

Есть некоторые изображения, которые не могут быть явно незаконными, но связаны с сексуальной эксплуатацией и надругательством над детьми. Эти изображения могут продолжать травмировать и ставить под угрозу безопасность жертв еще долгое время после жестокого обращения и используются правонарушителями для облегчения своей деятельности. Ниже приведены примеры легального, но вредного контента CSEA, к которому компаниям рекомендуется обращаться:

• Темы "где они сейчас" созданы с целью публикации сообщений о конкретной жертве / выжившем. Сюда входят сообщения, в которых преступники обсуждают историю злоупотреблений, текущее местонахождение жертвы, публикации или ссылки на легальные и незаконные изображения, ссылки на страницы жертвы в социальных сетях, личную / идентифицирующую информацию и ссылки на сайты, которые действуют как архивы для ранее доступных веб-сайтов. размещение о потерпевшем. В некоторых случаях выжившие находятся в сети, что представляет значительную угрозу их личной безопасности. По этой причине группа жертв Phoenix 11 будет говорить только анонимно.
• серия изображений, в том числе сделанных непосредственно до и после насилия. Изображения до и после могут быть совершенно "нормальными ', например, ребенок сидит на кровати перед жестоким обращением, или на них могут быть признаки сексуальной активности, например, сперма или использование оборудования для связывания.
• обрезанные изображения жестокого обращения, например, просто показывающие голову ребенка или с заблокированными гениталиями. Цитата члена группы жертв Phoenix 11: «Мы требуем, чтобы ВСЕ изображения, связанные с жестоким обращением с детьми, были быстро удалены. Потому что, будь то выстрел в голову с улыбкой или со слезами на глазах, я могу сказать вам из первых рук, что улыбка на снимке в голову скрывает столько же слез ».
• использование легальных изображений жертвы в качестве «рекламы» для привлечения людей к незаконным материалам на другом сайте. Некоторые правонарушители могут рассматривать юридические изображения в серии как коллекционные, публикуя их, чтобы продемонстрировать другим правонарушителям свой опыт работы с конкретной жертвой. Это также включает использование «законных» видеокадров в качестве способа рекламы полного набора видеоматериалов этой конкретной жертвы, не полностью превышающих законный порог, но по-прежнему являющегося обнаженным / частично обнаженным изображением ребенка, передаваемым в Интернете против их воли и могут быть размещены на форумах преступников или использованы преступниками для извлечения дополнительных изображений. Это также включает изображения того же ребенка, которые могут не включать наготу (пример: изображение ребенка в лифчике или нижнем белье).
• изображения, которые были подвергнуты фотошопу, чтобы включить либо лицо жертвы на сексуальное / обнаженное изображение другого человека, либо изменить изображение в некоторой степени для сексуализации ребенка. Это также включает в себя анимацию или нарисованные изображения материалов для эксплуатации детей (пример: взятие известного изображения CSAM и изменение его для создания анимированного CSAM).
• невинные изображения детской наготы (например, видео с гимнастикой) с выделением комментариев правонарушителей в интересах других правонарушителей, где становятся видны гениталии. Это пример, когда необходимо рассмотреть комментарии, а не само изображение, поскольку они не могут быть незаконными, но способствуют действиям правонарушителей.

Подход под руководством жертвы​

Дальнейшие подробности этого подхода, ориентированного на жертв, с упором на вред, причиняемый изображениями, были изложены Канадским центром защиты детей (глобальная неправительственная организация CSEA) и Phoenix 11 (группа жертв).

1. Это касается фотографий (включая движущиеся изображения) и изображений, сделанных, например, на компьютере, но которые выглядят как настоящие фотографии. Это могут быть фотографии, видео, изображения и производные фотографии, а также данные, которые могут быть преобразованы в фотографию.
2. Это касается фотографий (включая движущиеся изображения) и изображений, сделанных, например, на компьютере, но которые выглядят как настоящие фотографии. Это могут быть фотографии, видео, изображения и производные фотографии, а также данные, которые могут быть преобразованы в фотографию.
3. Уровень уверенности, необходимый для результатов возрастной достоверности, будет зависеть от уровня риска CSA, с которым сталкивается платформа или сервис, а также от мер безопасности и функций, которые он предлагает всем пользователям по умолчанию.
4. Начиная с высокого значения по умолчанию и уменьшая его, когда возрастные исходы поддерживают, это соответствует дизайну ICO, соответствующему возрасту: свод правил для онлайн-сервисов, в котором на P43 говорится, что "положение по умолчанию для каждого отдельного параметра конфиденциальности должно быть повышающим конфиденциальность или "высокая конфиденциальность. Это означает, что личные данные несовершеннолетнего пользователя видны или доступны другим пользователям сервиса только в том случае, если ребенок изменяет свои настройки, чтобы разрешить это".
5. Оценка в 300 000 правонарушителей является минимальной и подтверждается данными из различных источников. Они включают в себя количество преступников на темных веб-сайтах, зарегистрированных сексуальных преступников, оценки в Обследовании преступности, статистику преступлений, зарегистрированных полицией, масштаб материалов о сексуальном насилии над детьми, размещенных в Интернете, и 94 342 жителей, которые в 2019 году обратились в Фонд Люси Фейтфулл. для себя или кого-то из близких, кого сексуально привлекали дети.
6. Основано на управленческой информации, не прошедшей контроль качества.