Информационный документ о вреде онлайн

[Carding 4 Carders]

Совместное министерское предисловие​

Интернет - неотъемлемая часть повседневной жизни многих людей. Почти девять из десяти взрослых и 99% детей в возрасте от 12 до 15 лет находятся в сети. Поскольку Интернет продолжает расти и трансформировать нашу жизнь, часто к лучшему, мы не должны игнорировать реальный вред, с которым люди сталкиваются в Интернете каждый день.

В чужих руках Интернет может быть использован для распространения террористического и другого незаконного или вредного контента, подрыва гражданского дискурса, а также оскорбления или запугивания других людей. Вред в сети широко распространен и может иметь серьезные последствия.

Две трети взрослого населения обеспокоены содержанием в Интернете, и почти половина заявили, что видели контент, разжигающий ненависть, в прошлом году. Недавние трагические события в Новой Зеландии показывают, насколько быстро ужасающие террористические и экстремистские материалы могут распространяться в Интернете.

Мы не можем допустить, чтобы такое вредоносное поведение и контент подорвали значительные преимущества, которые может предложить цифровая революция. Хотя некоторые компании предприняли шаги по повышению безопасности на своих платформах, в целом прогресс был слишком медленным и непоследовательным. Если мы отдадим наши онлайн-пространства тем, кто распространяет ненависть, оскорбления, страх и едкий контент, мы все проиграем.

Итак, наша задача как общества - помочь сформировать Интернет, который будет открытым и динамичным, но при этом защищает своих пользователей от вреда. Россия привержена свободному, открытому и безопасному Интернету и будет продолжать защищать свободу выражения мнения в Интернете. Мы также должны предпринять решительные действия для повышения безопасности людей в Интернете.

Таким образом, в этой Белой книге выдвигаются амбициозные планы по созданию новой системы подотчетности и надзора для технологических компаний, выходящей далеко за рамки саморегулирования. Новая нормативно-правовая база для онлайн-безопасности прояснит обязанности компаний по обеспечению большей безопасности британских пользователей, особенно детей, с помощью самых надежных мер по борьбе с незаконным контентом и деятельностью.

Это будет контролироваться независимым регулирующим органом, который установит четкие стандарты безопасности, подкрепленные требованиями к отчетности и эффективными правоприменительными полномочиями.

Хотя другие страны ввели нормативные акты, направленные на борьбу с конкретными видами вреда, это первая глобальная попытка решить весь спектр онлайн-вреда единым и последовательным образом.

Будущее процветание во многом будет зависеть от наличия динамичного технологического сектора. Инновации и безопасность в Интернете не исключают друг друга; Благодаря укреплению доверия к цифровой экономике и новым технологиям эта Белая книга создаст более прочную основу для этого жизненно важного сектора.

Как мировой лидер в области новых технологий и инновационного регулирования, Россия имеет все возможности для того, чтобы воспользоваться этими возможностями. Мы хотим, чтобы сама технология стала частью решения, и в этой Белой книге предлагаются меры по развитию сектора технической безопасности, а также меры, которые помогут пользователям управлять своей безопасностью в Интернете.

Мы считаем, что подход, описанный в этой Белой книге, может привести к новым глобальным подходам к онлайн-безопасности, которые поддерживают наши демократические ценности и способствуют свободному, открытому и безопасному Интернету; и мы будем работать с другими странами для достижения международного консенсуса.

Безопасность в Интернете - это общая ответственность компаний, правительства и пользователей. Мы призываем всех принять участие в консультациях, сопровождающих эту Белую книгу, и работать с нами, чтобы сделать Британию самым безопасным местом в мире для работы в сети.

Достопочтенный Джереми Райт, член парламента, Государственный секретарь по цифровым технологиям, культуре, СМИ и спорту

Достопочтенный Саджид Джавид, член парламента, министр внутренних дел

Управляющее резюме​

1. Правительство хочет, чтобы Российская Федерация была самым безопасным местом в мире для выхода в Интернет и лучшим местом для начала и развития цифрового бизнеса. Учитывая преобладание незаконного и вредоносного контента в Интернете и уровень обеспокоенности общественности по поводу вреда в Интернете не только в России, но и во всем мире, мы считаем, что цифровая экономика срочно нуждается в новой нормативной базе для повышения безопасности наших граждан в Интернете. Это восстановит доверие общества и определит четкие ожидания компаний, позволяя нашим гражданам более безопасно пользоваться преимуществами, которые предлагают онлайн-услуги.

Эта проблема​

2. Незаконный и неприемлемый контент и деятельность широко распространены в Интернете, и британские пользователи обеспокоены тем, что они видят и испытывают в Интернете. Распространение наиболее серьезных незаконных материалов и действий, угрожающих нашей национальной безопасности или физической безопасности детей, недопустимо. Онлайн-платформы могут быть орудием злоупотреблений и запугивания, а также могут использоваться для подрыва наших демократических ценностей и дискуссий. Воздействие вредоносного контента и действий может быть особенно разрушительным для детей, и растет беспокойство по поводу их потенциального воздействия на их психическое здоровье и благополучие.

3. Террористические группы используют Интернет для распространения пропаганды, направленной на радикализацию уязвимых людей, а также для распространения материалов, предназначенных для содействия террористическим атакам или подстрекательства к ним. Есть также примеры, когда террористы транслировали атаки в прямом эфире в социальных сетях. Сексуальные преступники с детьми используют Интернет, чтобы просматривать и делиться материалами о сексуальном насилии над детьми, ухаживать за детьми в Интернете и даже транслировать сексуальное насилие над детьми в прямом эфире.

4. Существует также реальная опасность того, что враждебные субъекты используют онлайн-дезинформацию для подрыва наших демократических ценностей и принципов. Платформы социальных сетей используют алгоритмы, которые могут приводить к «эхо-камерам» или «пузырям фильтров», когда пользователю предоставляется только один тип контента вместо того, чтобы видеть ряд голосов и мнений. Это может способствовать дезинформации, гарантируя, что пользователи не видят опровержений или других источников, которые могут не согласиться, а также может означать, что пользователи воспринимают историю как более широко распространенную, чем она есть на самом деле.

5. Соперничающие преступные группировки используют социальные сети для пропаганды культуры банд и разжигания насилия. Это, наряду с незаконной продажей оружия молодым людям в Интернете, является фактором, способствующим бессмысленному насилию, например преступлениям с ножом, на улицах.

6. Другое поведение или контент в Интернете, даже если они не являются незаконными при любых обстоятельствах, также могут причинить серьезный вред. Интернет можно использовать для преследования, запугивания или запугивания, особенно людей из уязвимых групп или в общественной жизни. Молодые люди или дети могут столкнуться с вредоносным контентом, который касается, например, членовредительства или самоубийства. Эти переживания могут иметь серьезные психологические и эмоциональные последствия. Возникают также проблемы, связанные с преднамеренной зависимостью от некоторых цифровых сервисов и чрезмерным экранным временем.

Наш ответ​

7. В этой Белой книге изложена программа действий по борьбе с контентом или деятельностью, которые наносят вред отдельным пользователям, особенно детям, или угрожают нашему образу жизни, либо подрывая национальную безопасность, либо подрывая наши общие права, обязанности и возможности. способствовать интеграции.

8. В настоящее время существует ряд нормативных и добровольных инициатив, направленных на решение этих проблем, но они не прошли достаточно быстро, или не были достаточно последовательными между различными компаниями, чтобы обеспечить безопасность пользователей в Интернете.

9. Многие из наших международных партнеров также разрабатывают новые нормативные подходы к борьбе с вредом в Интернете, но ни один из них еще не создал нормативную базу, которая позволяла бы бороться с этим спектром вреда в Интернете. Россия будет первой, кто сделает это, возглавив международные усилия, установив последовательный, соразмерный и эффективный подход, отражающий нашу приверженность свободному, открытому и безопасному Интернету.

10. Как мировой лидер в области новых технологий и инновационного регулирования, Россия имеет все возможности для того, чтобы воспользоваться этими возможностями. Мы хотим, чтобы сама технология стала частью решения, и мы предлагаем меры по развитию сектора технической безопасности, а также меры, которые помогут пользователям управлять своей безопасностью в Интернете.

11. Российская Федерация заработала репутацию мирового лидера в продвижении совместных усилий по повышению безопасности в Интернете. Борьба с вредоносным контентом и действиями в Интернете является частью более широких амбиций по разработке правил и норм для Интернета, включая защиту личных данных, поддержку конкуренции на цифровых рынках и продвижение ответственного цифрового дизайна.

12. Наше видение:

● Бесплатный, открытый и безопасный Интернет.

● Свобода слова в Интернете.

● Интернет-среда, в которой компании принимают эффективные меры для обеспечения безопасности своих пользователей, и где криминальная, террористическая и враждебная деятельность иностранного государства не допускает заражения онлайн-пространства.

● Правила и нормы Интернета, запрещающие вредное поведение.

● Процветающая цифровая экономика с процветающей экосистемой компаний, разрабатывающих инновации в области онлайн-безопасности.

● Граждане, которые понимают риски онлайн-активности, борются с неприемлемым поведением и знают, как получить помощь, если им причинен вред в сети, а детям предоставляется дополнительная защита.

● Глобальная коалиция стран, предпринимающих скоординированные шаги для обеспечения безопасности своих граждан в Интернете.

● Возобновление общественного доверия и доверия к онлайн-компаниям и услугам.

Ясность для компаний​

13. Растущее беспокойство общественности по поводу вреда в сети побудило правительства и технологические компании к дальнейшим действиям. В частности, по мере того, как мощь и влияние крупных компаний выросли, а частные платформы стали сродни публичным пространствам, некоторые из этих компаний теперь признают свою ответственность руководствоваться нормами и правилами, разработанными демократическими обществами.

14. Новая нормативно-правовая база, описанная в этой Белой книге, установит четкие стандарты, которые помогут компаниям обеспечить безопасность пользователей при одновременной защите свободы выражения мнений, особенно в контексте вредоносного контента или деятельности, которые могут не переходить криминальный порог, но могут нанести особый вред детям или других уязвимых пользователей. Это будет способствовать развитию культуры постоянного совершенствования среди компаний и побуждать их разрабатывать и делиться новыми технологическими решениями, а не соблюдать минимальные требования.

15. Это также внесет ясность для широкого круга предприятий любого размера, которые подпадают под действие новой нормативной базы, но чьи услуги представляют гораздо меньший риск причинения вреда, помогая им понять и выполнить свои обязательства соразмерным образом.

Новая нормативная база для онлайн-безопасности​

16. Правительство установит новую законодательную обязанность проявлять осторожность, чтобы заставить компании брать на себя большую ответственность за безопасность своих пользователей и бороться с вредом, причиненным контентом или действиями в их сервисах.

17. Соблюдение этой обязанности по осторожности будет контролироваться и обеспечиваться независимым регулирующим органом.

18. Все компании, подпадающие под действие нормативно-правовой базы, должны будут продемонстрировать, что они выполняют свои обязанности по обеспечению осторожности. Соответствующие положения и условия должны быть достаточно ясными и доступными, в том числе для детей и других уязвимых пользователей. Регулирующий орган оценит, насколько эффективно эти условия применяются в рамках любых регулирующих действий.

19. Регулирующий орган будет иметь набор полномочий для принятия эффективных принудительных мер в отношении компаний, нарушивших свои установленные законом обязанности проявлять осторожность. Это может включать в себя полномочия налагать значительные штрафы и налагать ответственность на отдельных членов высшего руководства.

20. Компании должны выполнять новую юридическую обязанность. Регулирующий орган изложит, как это сделать, в кодексах практики. Если компании хотят выполнить эту обязанность способом, не предусмотренным в кодексах, они должны будут объяснить и обосновать регулирующему органу, как их альтернативный подход будет эффективно оказывать такое же или большее влияние.

21. Отражая угрозу национальной безопасности или физической безопасности детей, правительство будет иметь право направлять регулирующий орган в отношении кодексов практики в отношении террористической деятельности или сексуальной эксплуатации и надругательства над детьми (CSEA) в Интернете, и эти кодексы должны быть подписано министром внутренних дел.

22. В отношении кодексов практики, касающихся незаконного вреда, включая подстрекательство к насилию и продажу незаконных товаров и услуг, таких как оружие, будет четкое ожидание того, что регулирующий орган будет работать с правоохранительными органами, чтобы обеспечить адекватное соответствие кодексов требованиям угроза.

23. Развитие культуры прозрачности, доверия и подотчетности станет важнейшим элементом новой нормативной базы. Регулирующий орган будет иметь право требовать от компаний ежегодных отчетов о прозрачности с указанием распространенности вредоносного контента на их платформах и мер, которые они принимают для решения этой проблемы. Эти отчеты будут опубликованы регулирующим органом в Интернете, чтобы пользователи и родители могли принимать информированные решения об использовании Интернета. Регулирующий орган также будет иметь право запрашивать дополнительную информацию, в том числе о влиянии алгоритмов на выбор контента для пользователей, и обеспечивать, чтобы компании заблаговременно сообщали как о возникающих, так и о известных видах вреда.

24. Регулирующий орган будет поощрять и контролировать выполнение существующих обязательств компаний по расширению возможностей независимых исследователей получать доступ к своим данным при соблюдении соответствующих мер безопасности.

25. В рамках новой обязанности проявлять осторожность, мы ожидаем, что компании, где это уместно, будут иметь эффективные и легкодоступные функции рассмотрения жалоб пользователей, которые будут контролироваться регулирующим органом. Компаниям необходимо будет ответить на жалобы пользователей в надлежащие сроки и принять меры в соответствии с ожиданиями, изложенными в нормативной базе.

26. Мы также признаем важность механизма независимой проверки, чтобы пользователи были уверены в справедливости рассмотрения их проблем. Мы консультируемся по вариантам, в том числе позволяем уполномоченным органам подавать «суперпретензии» регулирующему органу для защиты потребностей пользователей.

27. В преддверии внедрения новой нормативно-правовой базы мы продолжим поощрять компании принимать своевременные меры по устранению вреда в сети. Чтобы облегчить этот процесс, в этой Белой книге изложены ожидания компаний высокого уровня, в том числе некоторые конкретные ожидания в отношении определенного ущерба. Мы ожидаем, что регулирующий орган отразит это в будущих кодексах практики.

28. В отношении наиболее серьезных онлайн-правонарушений, таких как CSEA и терроризм, мы ожидаем, что компании пойдут намного дальше и продемонстрируют шаги, предпринятые для борьбы с распространением связанного контента и незаконным поведением. Позже в этом году мы опубликуем временные кодексы практики, содержащие рекомендации по борьбе с террористической деятельностью и онлайн-CSEA.

Компании в сфере регулирования​

29. Мы предлагаем, чтобы нормативно-правовая база применялась к компаниям, которые позволяют пользователям делиться или обнаруживать созданный пользователями контент или взаимодействовать друг с другом в Интернете.

30. Эти услуги предлагаются очень широким кругом компаний любого размера, включая платформы социальных сетей, сайты хостинга файлов, общественные дискуссионные форумы, службы обмена сообщениями и поисковые системы.

31. Регулирующий орган будет применять основанный на оценке риска и пропорциональный подход в отношении этого широкого диапазона видов бизнеса. Это будет означать, что первоначально регулирующий орган сосредоточит внимание на тех компаниях, которые представляют наибольший и очевидный риск причинения вреда пользователям, либо из-за масштаба платформ, либо из-за известных проблем с серьезным ущербом.

32. Каждая компания, входящая в сферу охвата, должна будет выполнять свою обязанность проявлять осторожность, особенно в отношении противодействия незаконному контенту и деятельности, выполнять информационные запросы регулирующего органа и, при необходимости, создавать и поддерживать функцию рассмотрения жалоб и апелляций, которая соответствует требованиям установленный регулятором.

33. Отражая важность конфиденциальности, любые требования по сканированию или отслеживанию контента на предмет строго определенных категорий незаконного контента не будут применяться к частным каналам. Мы консультируем по поводу определений частных сообщений и того, какие меры следует применять к этим услугам.

Независимый регулятор онлайн-безопасности​

34. Независимый регулирующий орган будет внедрять, контролировать и обеспечивать соблюдение новой нормативной базы. Он будет располагать достаточными ресурсами, необходимыми знаниями и возможностями для эффективного выполнения своей роли.

35. Регулирующий орган будет применять подход, основанный на оценке риска, уделяя приоритетное внимание действиям по борьбе с деятельностью или контентом там, где есть наибольшие доказательства или угроза причинения вреда, или где дети или другие уязвимые пользователи подвергаются риску. Чтобы поддержать это, регулирующий орган будет тесно сотрудничать с UKRI и другими партнерами для улучшения доказательной базы. Регулирующий орган изложит ожидания от компаний, что они будут делать то, что практически осуществимо для противодействия вредоносной деятельности или контенту, в зависимости от характера вреда, риска причинения вреда их услугам, а также ресурсов и технологий, доступных им.

36. Регулирующий орган будет обязан по закону уделять должное внимание инновациям и защищать права пользователей в Интернете, уделяя особое внимание тому, чтобы не нарушать конфиденциальность или свободу выражения мнений. Мы уверены, что регулирующий орган не будет нести ответственности за соблюдение правды и точности в Интернете.

37. Правительство проводит консультации по вопросу о том, должен ли регулирующий орган быть новым или существующим. Регулирующий орган будет финансироваться отраслью в среднесрочной перспективе, и правительство изучает такие варианты, как сборы, сборы или сборы, чтобы поставить его на устойчивую основу. Это могло бы финансировать весь спектр деятельности регулирующего органа, включая разработку кодексов практики, обеспечение выполнения обязанности проявлять осторожность, подготовку отчетов о прозрачности, а также любые мероприятия по обучению и повышению осведомленности, предпринимаемые регулирующим органом.

Обеспечение соблюдения нормативной базы​

38. Регулирующий орган будет иметь ряд правоприменительных полномочий, включая право налагать значительные штрафы, что обеспечит выполнение всеми компаниями, подпадающими под действие нормативной базы, их обязанности проявлять осторожность.

39. Мы консультируемся по вопросу о том, какими правоприменительными полномочиями должен располагать регулирующий орган, в частности, для обеспечения равных условий для компаний, которые имеют юридическое присутствие в Российской Федерации, и компаний, которые работают исключительно за рубежом.

40. В частности, мы консультируем о полномочиях, которые позволят регулирующему органу нарушать деловую деятельность компании, не соблюдающей нормативные требования, мерах по наложению ответственности на отдельных членов высшего руководства и мерам по блокированию услуг, не соответствующих требованиям.

41. Новая нормативно-правовая база повысит ответственность онлайн-сервисов таким образом, чтобы это было совместимо с Директивой ЕС об электронной торговле, которая ограничивает их ответственность за незаконный контент до тех пор, пока они не узнают о его существовании и не смогут удалить его из своих услуги в свое время.

Технология как часть решения​

42. Компаниям следует вкладывать средства в развитие технологий безопасности, чтобы снизить нагрузку на пользователей по обеспечению безопасности в сети.

43. В ноябре 2018 года министр внутренних дел совместно с пятью крупными технологическими компаниями организовал хакатон с целью разработки нового инструмента для решения проблемы онлайн-ухода, который будет бесплатно лицензироваться для других компаний, но необходимы дополнительные совместные инновационные усилия.

44. Правительство и регулирующий орган будут работать с ведущими отраслевыми органами и другими регулирующими органами для поддержки инноваций и роста в этой области и поощрения внедрения технологий безопасности.

45. Правительство также будет работать с отраслью и гражданским обществом над разработкой концепции обеспечения безопасности по дизайну, увязывая ее с существующими правовыми обязательствами в отношении защиты данных по принципу дизайна и принципов безопасности по дизайну, чтобы облегчить стартапам и малым предприятиям внедрение безопасность при разработке или обновлении продуктов и услуг.

Расширение возможностей пользователей​

46. Пользователи хотят иметь возможность обезопасить себя и своих детей в сети, но в настоящее время поддержки недостаточно, и многие чувствуют себя уязвимыми в сети.

47. Хотя компании поддерживают ряд позитивных инициатив, прозрачность в отношении уровня инвестиций и эффективности различных мероприятий недостаточна. Регулирующий орган будет контролировать эти инвестиции.

48. Правительство разработает новую стратегию повышения грамотности онлайн-СМИ. Он будет разработан в ходе широких консультаций с заинтересованными сторонами, в том числе с крупными цифровыми, вещательными и новостными организациями, сектором образования, исследователями и гражданским обществом. Эта стратегия обеспечит скоординированный и стратегический подход к обучению и повышению осведомленности детей, молодежи и взрослых в области медиаграмотности в Интернете.

Следующие шаги​

49. Это сложная и новая область государственной политики. С этой целью, а также излагает предлагаемый правительством подход, в этой Белой книге ставится ряд вопросов о структуре новой нормативно-правовой базы и незаконодательного пакета. Полный список этих вопросов включен в конце этой Белой книги.

ЧАСТЬ 1: Введение​

1. Проблема​

Резюме​

• Незаконный и неприемлемый контент и деятельность широко распространены в Интернете, и британские пользователи часто обеспокоены тем, что они видели или испытали.
• Распространение наиболее серьезных незаконных материалов и действий в Интернете, которые угрожают нашей национальной безопасности или физической безопасности детей, недопустимо. Легкость и степень серьезности наиболее серьезных онлайн-правонарушений, таких как сексуальная эксплуатация и надругательство над детьми (CSEA), продолжает расти.
• Воздействие вредоносного контента и действий может быть особенно разрушительным для детей и молодых людей, и растет беспокойство по поводу их потенциального воздействия на их психическое здоровье и благополучие.
• Борьба с незаконным и вредоносным контентом и действиями в Интернете является частью более широкой миссии по разработке правил и норм для Интернета, включая защиту личных данных, поддержку конкуренции на цифровых рынках и продвижение ответственного цифрового дизайна.
1.1. Интернет - неотъемлемая часть повседневной жизни многих людей. Почти девять из десяти взрослых находятся в сети, а взрослые пользователи проводят в Интернете около одного дня в неделю. Это также верно для детей и молодежи: 99% 12-15-летних выходят в Интернет, проводя в Интернете в среднем двадцать с половиной часов в неделю.

1.2. Интернет может стать мощной силой добра. Он служит человечеству, распространяет идеи и увеличивает свободу и возможности во всем мире. Онлайн-сервисы облегчают обмен информацией, товарами и услугами. Они обеспечивают высокую эффективность согласования спроса и предложения, расширяют выбор потребителей и сокращают расстояние между участниками.

1.3. Однако появляется все больше свидетельств масштабов вредоносного контента и активности, с которыми люди сталкиваются в Интернете. Онлайн-сервисы могут использоваться для распространения террористической пропаганды и материалов о жестоком обращении с детьми, они могут быть инструментом оскорблений и запугивания, а также могут использоваться для подрыва гражданского дискурса. Несмотря на многочисленные преимущества Интернета, более одного из четырех взрослых пользователей испытали ту или иную форму вреда, связанного либо с контентом, либо с взаимодействием в сети.

1.4. Платформы социальных сетей и другие технологические компании все чаще осознают, что они несут большую ответственность за защиту своих пользователей от вреда. Граждане хотят чувствовать себя и своих детей в безопасности в Интернете. И правительство, и промышленность несут ответственность за то, чтобы это было так.

Вред, причиненный частным лицам в Интернете​

1.5. Самый ужасающий и ужасающий незаконный контент и деятельность по-прежнему преобладают в неприемлемых масштабах. Существующие усилия по борьбе с этой деятельностью не принесли необходимых улучшений, в результате чего правительству необходимо срочно вмешаться, чтобы побудить онлайн-сервисы активизировать их реакцию.

1.6. Онлайн-CSEA представляет собой растущую угрозу. В 2018 году американские технологические компании направили более 18,4 миллиона материалов с материалами о сексуальном насилии над детьми в Национальный центр пропавших без вести и эксплуатируемых детей (NCMEC). Из них в 2018 году было 113 948 обращений, по сравнению с 82 109 в 2017 году. В третьем квартале 2018 года Facebook сообщил об удалении 8,7 миллиона единиц контента во всем мире за нарушение политики в отношении обнаженности детей и сексуальной эксплуатации.

1.7. Растет не только масштаб этого нарушения, но и его серьезность. По оценкам Internet Watch Foundation (IWF), 55% материалов о сексуальном насилии над детьми, которые они находят в Интернете, содержат детей в возрасте десяти лет и младше, а 33% этих изображений относятся к наиболее серьезной категории жестокого обращения.

1.8. Террористы также продолжают использовать онлайн-сервисы для распространения своей гнусной пропаганды и мобилизации поддержки (см. Вставку 2). Террористический контент в Интернете угрожает национальной безопасности Российской Федерации и безопасности населения.

1.9. Все пять террористических атак, совершенных в России, имели сетевой элемент, и террористический контент в Интернете остается признаком современной радикализации. Это видно в ходе расследований террористических актов, включая случаи, когда подозреваемые очень быстро радикализировались до такой степени, что они планировали нападения. Частично это является результатом постоянной доступности и заведомо привлекательного формата террористических материалов, к которым они получают доступ в Интернете.

1.10. Террористические группы работают над поиском новых способов распространения своей пропаганды и уклонения от усилий правительства и правоохранительных органов по предотвращению этого. Эти угрозы не ограничиваются только крупнейшими и наиболее известными службами, но и широко распространены в Интернете. Террористические группы и их сторонники постоянно расширяют свою зависимость от онлайн-сервисов, которые они используют для размещения своих материалов в Интернете. В то время как Facebook сообщил об удалении более 14 миллионов единиц контента, связанных с терроризмом или насильственным экстремизмом в 2018 году, террористическая группа Даиш использовала более 100 платформ в 2018 году, используя более широкий спектр более разрешительных и небольших платформ.

1.11. Мы также видели, как террористы и их сторонники применяют новые методы, при этом материалы распространяются с использованием взломанных учетных записей социальных сетей, а пропагандистские видеоролики редактируются, чтобы избежать обнаружения.

1.12. Террористические группы уделяют огромное внимание быстрому охвату своей аудитории. Например, треть всех ссылок на пропаганду Даиш распространяется в течение часа после загрузки, в то время как сразу после террористической атаки в Крайстчерче были предприняты скоординированные межплатформенные усилия по обеспечению максимального охвата отснятого материала. атака. Поэтому жизненно важно обеспечить наличие технологии для автоматического обнаружения и удаления террористического контента в течение часа после загрузки, обеспечить предотвращение повторной загрузки и предотвратить, где это возможно, предоставление пользователям нового контента.

1.13. Угроза продолжает развиваться из-за неослабевающего желания террористов искать новые способы поделиться своей пропагандой в целях радикализации и вербовки. Самый эффективный способ борьбы с этой адаптивной угрозой - это последовательный кросс-платформенный ответ, гарантирующий отсутствие безопасных зон для действий террористов в сети.

1.14. Соперничающие банды используют социальные сети для демонстрации оружия и жизни банд, а также для прямого изображения или подстрекательства к актам насилия. Наряду с незаконной продажей оружия молодым людям через Интернет, это является фактором, способствующим серьезным случаям насилия, в том числе преступлениям с применением ножа. Последние зарегистрированные полицией данные о преступности за год, закончившийся в сентябре 2018 года, показывают, что количество преступлений с применением ножа увеличилось на 8% (до 39 818 преступлений) по сравнению с предыдущим годом. Число убийств за тот же период выросло на 14% (без учета террористических атак).

Вред: сексуальная эксплуатация и надругательство над детьми в Интернете - вставка 1​

Угроза:
Дети, совершившие сексуальные преступления, используют Интернет для просмотра и распространения материалов о сексуальном насилии над детьми (CSAM), ухода за детьми в Интернете и прямой трансляции сексуального насилия над детьми. Масштаб CSEA онлайн ужасает.
• В 2017 году IWF проанализировал 80 319 подтвержденных сообщений о веб-сайтах, на которых размещены изображения сексуального насилия над детьми или есть ссылки на них. В общей сложности 43% детей на изображениях были в возрасте 11-15 лет, а 57% - в возрасте десяти лет и младше. Два процента были в возрасте двух лет и младше.
• Сексуальная эксплуатация может случиться с любым молодым человеком - независимо от его происхождения, возраста, пола, расы или сексуальной ориентации или где бы они ни жили.
• В самых ужасных случаях сексуальные преступники в отношении детей в развивающихся странах жестоко обращаются с детьми по наущению правонарушителей, которые заказывают насилие в Интернете и за определенную плату смотрят его в прямом эфире.
Влияние:
• Жертвы жестокого обращения сообщают о продолжающейся травме, вызванной осознанием того, что изображения жестокого обращения с ними все еще распространяются и просматриваются в Интернете сексуальными преступниками с детьми. Жертвы также опасаются, что их узнают из-за того, что их изображения доступны в Интернете.
• Жертвы ухода за собой в Интернете несут непоправимый вред из-за того, что их шантажируют и принуждают делиться непристойными изображениями себя или вести прямые трансляции с обидчиками, и они живут в страхе, что эти изображения могут быть использованы против них.

Вред: террористический контент в Интернете - Вставка 2​

Угроза:
Террористы, включая исламистские группировки, такие как Даиш и Аль-Каида, а также ультраправые террористы, используют Интернет для распространения пропаганды, направленной на радикализацию уязвимых людей, и распространения материалов, предназначенных для помощи и подстрекательства к террористическим атакам. Есть также примеры, когда террористы транслировали атаки в прямом эфире в социальных сетях. Использование Интернета террористами представляет собой угрозу национальной безопасности и безопасности населения.
• По мере того, как более крупные платформы предпринимают все более активные действия против террористической пропаганды, террористические группы распространились на более широкий спектр более разрешительных и более мелких платформ.
• Террористические группы внедряют новые методы, позволяющие избежать обнаружения, включая обмен материалами через взломанные учетные записи в социальных сетях и тонкое изменение пропагандистских видеороликов.
• Террористические группы придают огромное значение быстрому охвату своей аудитории.
Влияние:
• Было показано, что доступность и распространение террористического контента в Интернете способствует террористическим атакам на территории Российской Федерации.
• Все пять террористических атак, совершенных в России, имели интерактивный характер (Речь на Digital Forum (2018). Сан-Франциско, достопочтенная Эмбер Радд, 13 февраля 2018 г.).
• Интернет-террористический контент обнаруживается во время террористических расследований, включая случаи, когда подозреваемые очень быстро радикализируются и начинают планировать атаки.

Вред: контент, незаконно загруженный из тюрем - вставка 3​

Угроза:
Растет число случаев, когда заключенные незаконно загружают онлайн-контент из тюрем в социальные сети.
• Некоторые заключенные передают видео, изображения и сообщения из тюрьмы с помощью запрещенных устройств, таких как мобильные телефоны.
• Они могут использовать учетные записи в социальных сетях для преследования и запугивания своих жертв.
Влияние:
• Это может привести к тому, что жертвы преступления почувствуют, что им не спастись от своих мучителей, даже когда они были заключены в тюрьму.
• Заключенные, открыто загружающие контент из тюрем, также могут подорвать доверие общества к тюремной службе.

Борьба с серьезным насилием в Интернете - вставка 4​

Соперничающие банды используют социальные сети для пропаганды культуры банд, насмехаются друг над другом и разжигают насилие. Контент также может напрямую изображать или подстрекать к насилию в реальном мире или очаровывать жизнь банды и использование оружия. Правительство и правоохранительные органы принимают меры для борьбы с этой угрозой:
• Мы выделили 1,4 миллиона фунтов стерлингов на поддержку нового потенциала национальной полиции по борьбе с деятельностью банд в социальных сетях.
• Это объединит специальную команду, которая будет принимать меры против онлайн-материалов, уделяя особое внимание расследованию, подрыву и правоприменительной работе в отношении конкретных целей банд, а также обращению к компаниям социальных сетей, чтобы можно было удалить незаконный и вредоносный контент.
• До этого была создана новая группа действий, которая объединила правительство, компании социальных сетей, полицию и общественные группы для борьбы с материалами о насилии, доступными в социальных сетях.

Вред: продажа опиоидов в Интернете - Вставка 5​

Угроза:
Сильные и опасные опиоиды продаются и продаются в Интернете. Фентанил и его аналоги (вещества с похожей, но немного измененной химической структурой) представляют собой группу мощных синтетических опиоидов. Они имеют аналогичные эффекты с другими опиоидами, такими как морфин и героин, но значительно более сильны.
• С декабря 2016 года было зарегистрировано не менее 143 смертей, связанных с фентанилом и его аналогами (анализ NCA). Фентанил был продан на нескольких известных социальных сетях. Продукты продаются как высококачественные вещества с быстрой и безопасной доставкой, с указанием номеров мобильных телефонов для последующей связи.
• Особую озабоченность вызывает то, что некоторые группы и темы в социальных сетях, в том числе используемые уязвимыми людьми, становятся мишенями. Сюда входят люди, страдающие хронической болью, где существует риск случайной передозировки, и люди, страдающие депрессией, где есть риск того, что фентанил может быть использован для помощи в самоубийстве.
Влияние:
• Пока эти продукты остаются доступными, существует риск увеличения смертности.
• Также существует риск того, что медицинские работники и другие лица, оказывающие первую помощь, будут продолжать подвергаться воздействию потенциально вредной окружающей среды.
1.15. Помимо незаконной деятельности, вред наносят и другие действия в сети. В 2017 году каждый пятый ребенок в возрасте от 11 до 19 лет сообщил, что в прошлом году подвергался киберзапугиванию; 21% женщин подверглись женоненавистническому насилию в Интернете, а половина девочек, осведомленных о сексистском насилии в социальных сетях, говорят, что это каким-то образом ограничивает их действия или стремления. Комитет по петициям Палаты общин обратил внимание на жестокое обращение с людьми с ограниченными возможностями в Интернете, что вынудило некоторых из них покинуть социальные сети.

1.16. Жертвы также описали качественное различие между вредом онлайн и офлайн, особенно в отношении злоупотреблений в сети. Комиссия по праву отметила предполагаемую анонимность правонарушителей как одну из характеристик онлайн-злоупотреблений, которая может привести к иному опыту жертв - см. Вставку 6. Многие пользователи также считают, что рынок в настоящее время предлагает им очень мало альтернативных, более безопасных онлайн-услуг. Например, отчет Doteveryone Digital Attitude за 2018 год показал, что почти половина респондентов считают, что у них нет другого выбора, кроме как подписаться на онлайн-сервисы, даже если у них есть проблемы.

Борьба с анонимными злоупотреблениями в Интернете - вставка 6​

Интернет можно использовать для преследования, запугивания или запугивания. Во многих случаях преследования и других форм оскорбительного общения в Интернете преступник будет неизвестен жертве. В некоторых случаях они предпримут технические шаги, чтобы скрыть свою личность. Правительство и правоохранительные органы принимают меры для борьбы с этой угрозой.
• Полиция обладает рядом юридических полномочий для выявления лиц, которые пытаются использовать анонимность, чтобы избежать санкций за злоупотребления в Интернете, если деятельность является незаконной. Правительство будет работать с правоохранительными органами, чтобы проверить, достаточно ли нынешних полномочий для борьбы с анонимными злоупотреблениями в Интернете.
• Мы повышаем способность правоохранительных органов бороться с анонимными злоупотреблениями в Интернете, инвестируя средства в обучение, предназначенное для улучшения цифровых возможностей в полицейской деятельности. Например, в рамках Фонда преобразования полиции в размере 4,6 млн фунтов стерлингов, выделенного Министерством внутренних дел, программа цифровых расследований и разведки позволит повысить способность полиции реагировать на все виды цифровых преступлений посредством инвестиций в технологии и обучение.
• Мы также облегчаем общественности возможность сообщать о преступлениях в Интернете. Посредством программы цифровых контактов с общественностью мы предоставим общественности доступную в цифровом формате полицию с последовательным набором онлайн-возможностей для использования при взаимодействии с полицейскими службами и взаимодействии с ними через единый онлайн-канал.
• Мы также ожидаем, что компании будут делать значительно больше для обеспечения безопасности своих пользователей и противодействия злоупотреблениям в Интернете, особенно там, где это незаконно. Компании должны взять на себя ответственность за противодействие злоупотреблениям в своих услугах. Более подробная информация представлена в главе 3.

Вред в Интернете, которому подвергаются дети и молодежь​

1.17. Работа в сети может быть очень позитивным опытом для детей и молодежи - см. Вставку 7. Недавнее исследование, проведенное в Интернете Matters, показало, что семь из десяти родителей считают, что экранное время имеет важное значение для развития их детей, а две трети родителей считают, что устройства дают их детям еще один выход для творчества, особенно для детей 6-10 лет.

1.18 Однако воздействие вредоносного контента и действий может быть особенно разрушительным для детей, как указано во вставке 1 выше и вставках 8-10 ниже. Также растет беспокойство по поводу взаимосвязи между социальными сетями и психическим здоровьем детей и молодежи. В отчете Комиссара по делам детей, опубликованном в ноябре 2018 года «Кто знает, что обо мне», указываются огромные размеры и рост цифрового следа детей, а также связанные с этим риски и преимущества. В феврале 2019 года компания Internet Matters сообщила, что уязвимые молодые люди с большей вероятностью пострадают от вреда в сети и с меньшей вероятностью получат советы и образование по безопасности в Интернете.

Положительное влияние пребывания в Интернете для детей и молодежи - Вставка 7​

Большинство детей имеют положительный опыт работы в сети, используя Интернет для социальных сетей и общения со сверстниками, а также для доступа к образовательным ресурсам, информации и развлечениям. Интернет открывает новые возможности для обучения, работы, творчества и самовыражения.
• В обзоре литературы, проведенном Советом по безопасности детей в Интернете (2017 г.), приводятся доказательства того, что молодые люди признают положительную роль Интернета в отношении самовыражения, развития понимания, объединения людей, а также уважения и признания различий. Исследование ЮНИСЕФ (2017) показывает, что использование технологий полезно для социальных отношений детей, позволяя им укреплять существующие отношения и строить позитивные дружеские отношения в Интернете.
• В отчете Королевского общества общественного здравоохранения за 2017 год было обнаружено, что чтение или просмотр видеоблогов молодых людей, посвященных личным вопросам здоровья, помогло улучшить их знания и понимание, побудило людей обратиться к услугам здравоохранения и позволило им лучше объяснить свои проблемы со здоровьем или делать лучший выбор. Они также обнаружили, что молодые люди все чаще обращаются к социальным сетям как к средству эмоциональной поддержки для предотвращения и решения проблем психического здоровья.
• Совсем недавно исследование Ofcom показало, что девять из десяти пользователей социальных сетей в возрасте от 12 до 15 лет заявили, что такое использование сделало их счастливыми или помогло им почувствовать себя ближе к своим друзьям. Две трети людей в возрасте 12–15 лет, которые пользуются социальными сетями или сайтами обмена сообщениями, говорят, что они отправляют сообщения поддержки, комментарии или сообщения друзьям, если им трудно. Каждый восьмой поддерживает причины или организации, делясь сообщениями или комментируя их.
• В опросе Центра безопасного Интернета в 2019 году 70% опрошенных молодых людей заявили, что присутствие в сети помогает им понять, что происходит в мире, при этом 60% отметили, что они видели или слышали об определенных проблемах или новостях только потому, что они слышали о них от Интернет. 43% заявили, что их вдохновило то, что они увидели в сети, а 48% заявили, что присутствие в сети заставляет их чувствовать, что их голос или действия имеют значение.

Вред: запугивание в Интернете - вставка 8​

Угроза:
В 2017 году каждый пятый опрошенный ребенок в возрасте от 11 до 19 лет сообщил, что в прошлом году подвергался киберзапугиванию.
• Распространенность кибербуллинга выше для некоторых групп, таких как женщины, религиозные меньшинства, ЛГБТ +, BME и инвалиды.
Влияние:
• Доказано, что киберзапугивание оказывает психологическое и эмоциональное воздействие. В большом опросе молодых людей, подвергшихся кибербуллингу, у 41% развилось социальное беспокойство, у 37% - депрессия, у 26% - суицидальные мысли и 25% - причинили себе вред.
• Все эти цифры выше, чем соответствующая статистика по издевательствам «офлайн», и указывают на повышенный потенциал вреда киберзапугивания.

Вред: членовредительство и самоубийство - Вставка 9​

Угроза:
В опросе молодых людей 22,5% сообщили об использовании Интернета в целях членовредительства и самоубийств, в том числе 8,2% и 7,5%, которые активно искали информацию о самоповреждениях и самоубийствах соответственно.
• Среди тех, кто причинил вред с суицидальными намерениями, 70% сообщили о самоповреждении и использовании Интернета в связи с суицидом.
• Установлено, что распространенность использования Интернета для просмотра связанного контента у детей выше, чем у взрослых. Одно исследование с участием тех, кто обратился в больницу после членовредительства, показало, что 26% детей смотрели материалы о самоповреждениях и самоубийствах, по сравнению с 8,4% взрослых.
Влияние:
• Национальное конфиденциальное расследование самоубийств и безопасности психического здоровья (NCISH) проанализировало характеристики 595 детей и молодых людей (в возрасте до 20 лет), которые покончили жизнь самоубийством в период с 2014 по 2016 год.
• NCISH обнаружил, что использование Интернета в связи с самоубийствами (то есть поиск в Интернете информации о методах самоубийства) было зарегистрировано почти для четверти (23%) этих детей и молодых людей.

Вред: обмен изображениями сексуального характера несовершеннолетними - Вставка 10​

Многие дети и молодые люди берут сексуальные образы и делятся ими. Создание, хранение, копирование или распространение изображений сексуального или непристойного характера с участием детей и молодых людей в возрасте до 18 лет является незаконным, в том числе тех, которые были созданы и переданы субъектом изображения.
• Опросы дают предварительные доказательства того, что от 26% до 38% подростков 14-17 лет отправляли сексуальные изображения партнеру, а от 12% до 49% получали изображения сексуального характера.
• Доля молодых людей, отправляющих изображения, меняется с возрастом: одно исследование показало, что 26% 14-летних отправляли и получали изображения сексуального характера, что составляет 48% среди 16-летних.
Влияние:
• Обмен изображениями сексуального характера может подвергнуть детей и молодых людей запугиванию, унижению, объективации и чувству вины. Эти изображения могут быть разделены широко и появляются на форумах правонарушителя или взрослые порнографических сайтов, или быть использованы для вымогать дальнейшее изображение. Это ставит детей и молодых людей в уязвимое положение и подвергает их риску причинения вреда. Создание, хранение или распространение изображений сексуального характера лиц младше 18 лет является уголовным преступлением.
• Национальное общество по предотвращению жестокого обращения с детьми (NSPCC) сообщило, что в этом году секстинг обсуждался на 1392 консультациях с детьми и молодыми людьми по их телефонным линиям помощи, что на 15% больше, чем годом ранее.
1.19. Главные медицинские работники (UK CMOs) поручили независимым исследователям провести систематический обзор данных о влиянии использования социальных сетей на психическое здоровье детей и молодежи. Обзор охватывал важные и разнообразные вопросы, включая запугивание в Интернете, онлайн-игры, проблемы со сном и проблемное использование Интернета, которое также известно как «интернет-зависимость».

1.20. В целом исследование не представило доказательств причинно-следственной связи между действиями на экране и проблемами психического здоровья, но обнаружило некоторую связь между действиями на экране и негативными эффектами, такими как повышенный риск тревоги или депрессии. Важно, чтобы родители и опекуны помогали своим детям получать положительный опыт в Интернете.

1.21. Хотя пока нет достаточных данных о влиянии экранного времени для поддержки подробных рекомендаций для родителей или требований к компаниям, мы продолжим поддерживать исследования в этой области и обеспечивать доступность высококачественных советов для семей. Мы также приветствуем усилия отрасли по разработке инструментов, которые помогут отдельным лицам и семьям понять, сколько времени они проводят в Интернете, и управлять им - более подробная информация об этом содержится во вставке 33.

Возникающая проблема: экранное время - вставка 11​

Время перед экраном и его влияние на детей вызывает растущую озабоченность. Исследование Internet Matters показало, что почти половина родителей (47%) обеспокоены количеством времени, которое их ребенок проводит в Интернете, а 88% принимают меры, чтобы ограничить использование их детьми устройств.
• Директора по маркетингу недавно провели систематический обзор данных об использовании детьми и подростками экранов и социальных сетей. Впоследствии директор по маркетингу подготовил советы для родителей и опекунов, чтобы побудить их обсуждать с детьми границы в отношении онлайн-поведения и времени, проведенного за экранами, и подавать пример.
Например, директора по маркетингу сообщили, что:

• Сон имеет значение. Очень важно получать достаточно качественного сна. Перед сном оставляйте телефоны вне спальни.
• Делитесь разумно. Поговорите об обмене фотографиями и информацией в Интернете и о том, как иногда манипулируют фотографиями и словами. Родители и опекуны никогда не должны предполагать, что дети счастливы, если их фотографии будут опубликованы. Для всех - если сомневаетесь, не загружайте!
• Образование имеет значение. Убедитесь, что вы и ваши дети осведомлены о правилах их школы в отношении экранного времени и соблюдаете их.
• Продолжай двигаться! Каждому следует сделать перерыв после пары часов сидя или лежа с экраном. Хорошо встать и немного пошевелиться. #sitlessmovemore
• Безопасность на улице. Посоветуйте детям убрать экраны, переходя дорогу или занимаясь чем-нибудь, требующим их полного внимания.
• Разговор помогает. Поговорите с детьми об использовании экранов и о том, что они смотрят. Изменение поведения может быть признаком того, что они огорчены - убедитесь, что они знают, что всегда могут поговорить с вами или другим ответственным взрослым, если им неудобно пользоваться экраном или социальными сетями.
• Семейное время вместе. Прием пищи без экрана - хорошая идея: вы можете наслаждаться личным разговором, когда взрослые уделяют все свое внимание детям.
• Используйте полезные функции телефона. Некоторые устройства и платформы имеют специальные функции - попробуйте использовать эти функции, чтобы отслеживать, сколько времени вы (и с их разрешения, ваши дети) проводите, глядя на экраны или в социальные сети.

Дальнейшие действия - развитие нашего понимания:
Учитывая количество времени, которое многие дети проводят в сети, и уровень озабоченности родителей этим вопросом, нам срочно необходимо добиться лучшего понимания.
• Хотя мы не ожидаем, что регулирующий орган установит требования в отношении экранного времени, и правительство, и регулирующий орган будут продолжать поддерживать исследования в этой области, чтобы информировать о будущих действиях в этой области.
• Нам необходимо лучше понять влияние экранного времени не только в целом, но и между различными типами экранного времени и развитием и благополучием детей.
• В рамках этого мы также ожидаем, что компании будут поддерживать развивающуюся доказательную базу в отношении экранного времени, например, путем предоставления доступа к анонимным данным исследователям в соответствии с рекомендациями директоров по маркетингу.
• Если появляющаяся база данных демонстрирует тесную связь между различными элементами экранного времени и ущербом для благополучия или развития детей, компании должны будут предпринять соответствующие действия для выполнения своей обязанности проявлять заботу.

Угрозы нашему образу жизни​

1.22. Репутация и влияние Российской Федерации во всем мире основаны на наших ценностях и принципах. Наше общество построено на доверии к государственным институтам, доверию к избирательным процессам, надежным, активным и множественным средствам массовой информации, а также на с трудом завоеванных демократических свободах, которые позволяют различным голосам, взглядам и мнениям свободно и мирно участвовать в общественном дискурсе.

1.23. Неточная информация, независимо от намерения, может нанести вред - например, распространение неточных сообщений против вакцинации в Интернете представляет опасность для здоровья населения. Правительство особенно обеспокоено дезинформацией (информацией, которая создается или распространяется с преднамеренным намерением ввести в заблуждение; это может быть причинение вреда или получение личной, политической или финансовой выгоды).

1.24. Дезинформация угрожает этим ценностям и принципам и может угрожать общественной безопасности, подрывать национальную безопасность, разрушать сплоченность сообщества и снижать доверие.

1.25. Эти опасения были подробно изложены в широкомасштабном расследовании, проведенном Специальным комитетом по цифровым технологиям, культуре, СМИ и спорту (DCMS) по фальшивым новостям и дезинформации, опубликованным 18 февраля 2019 года. Настоящая Белая книга в значительной степени извлекла пользу из этого анализа. и выполняет ряд рекомендаций. Правительство представит полный ответ на отчет Специального комитета DCMS в надлежащее время. Мы также принимаем к сведению недавние документы Избирательной комиссии и Управления комиссара по информации по этому и более широким вопросам и внимательно их рассматриваем.

Вред: дезинформация в Интернете - Вставка 12​

Угроза:
Дезинформация в Интернете - преднамеренное распространение ложной информации с целью обмана - становится все более распространенной. Под дезинформацией понимается непреднамеренное распространение ложной информации.
• Недавнее исследование, проведенное в рамках проекта вычислительной пропаганды Оксфордского университета, обнаружило доказательства организованных кампаний по манипулированию социальными сетями в 48 странах в 2018 году. По данным Reuters Institute, 61% людей хотят, чтобы правительство делало больше, чтобы отделить реальное от фальшивого. в Интернете (2018).
• Одной из основных технологических проблем дезинформации является постоянное развитие систем искусственного интеллекта. Методы искусственного интеллекта могут использоваться для нацеливания и манипулирования отдельными избирателями с очень сложным микротаргетингом, основанным на индивидуальной психологии.
• ИИ может быть полезен при автоматическом обнаружении контента или автоматической проверке фактов в статьях. Но разработки в области искусственного интеллекта также позволяют создавать поддельный контент (текст, аудио и видео), который трудно обнаружить людям и алгоритмам - известный как «дипфейки». В результате становится еще проще создавать и распространять ложный контент и повествования.
Влияние:
• Большинство пользователей не всегда осознают, что большая часть контента, который они видят, определяется сложными алгоритмами, которые основываются на данных об их онлайн-активности, таких как их история просмотров, их социальные сети и то, что они публикуют.
• Исследование Doteveryone показывает, что 62% людей не осознают, что их социальные сети могут влиять на новости, которые они видят, в то время как только трое из десяти взрослых онлайн-пользователей, опрошенных Ofcom, знали о том, как компании могут собирать данные о них в Интернете.

Вред: онлайн-манипуляции - Блок 13​

Угроза:
Пропаганда и ложная информация уже давно используются для убеждения и введения в заблуждение, но Интернет, социальные сети и искусственный интеллект предоставляют все более эффективные способы манипулирования мнением.
• Терпимость к противоречивым взглядам и идеям - это основные аспекты нашей демократии. Однако они по своей сути уязвимы для попыток немногих манипулировать и запутывать информационную среду в гнусных целях, включая подрыв доверия. Сочетание сбора личных данных, алгоритмов на основе ИИ и ложной или вводящей в заблуждение информации может быть использовано для манипулирования общественностью с беспрецедентной эффективностью.
• Различие между законным влиянием и незаконным манипулированием не ново. Правительство приняло меры по предотвращению подсознательной широковещательной рекламы в Законе о вещании 1990 года. Правительство возложило на Независимую телевизионную комиссию (замененную на Ofcom) обязанность обеспечить соответствие лицензированных услуг требованиям, чтобы не включать технические устройства, которые передают сообщения или влияют на людей без них. сознавая. Мы считаем, что правительство должно убедиться, что существуют аналогичные границы между законными и незаконными действиями в Интернете. Используемые методы и практики все еще появляются. Мы стараемся лучше понять характер и масштаб потенциальной проблемы и эффективные меры.

Вред: злоупотребление общественными деятелями в Интернете - вставка 14​

Угроза:
В последние годы мы стали свидетелями тревожного роста количества злоупотреблений, преследований и запугивания в отношении тех, кто участвует в общественной жизни. Большая часть этих злоупотреблений происходит в социальных сетях.
Влияние:
• Международный опрос женщин-журналистов показал, что две трети (64%) сталкивались с насилием в Интернете - угрозами убийством или изнасилованием, сексистскими комментариями, киберпреследованием, выдачей себя за другое лицо и непристойными сообщениями46. Почти половина (47%) не сообщили о жестоком обращении, которое они имели получили, и две пятых (38%) признались в самоцензуре перед лицом этих злоупотреблений.
• Исследование The Guardian 70 миллионов комментариев, оставленных на его сайте за десятилетний период, показало, что из десяти писателей, подвергшихся наибольшему насилию, восемь были женщинами, а двое - чернокожими мужчинами. И это несмотря на то, что большинство авторов регулярных обзоров для The Guardian - белые люди. Затем это сравнили с десятью писателями, которые подверглись наименьшему насилию - все они были мужчинами48.
Слишком много историй о том, как общественные деятели закрывали свои учетные записи в социальных сетях после волн насилия.
• В декабре 2017 года Комитет по стандартам в общественной жизни, который был уполномочен премьер-министром, опубликовал свой отчет о запугивании в общественной жизни. Консультации были направлены на выяснение мнений по ряду идей, включая установление нового преступления запугивания и требование отпечатков на электронной кампании. В отчет включены примеры запугивания тех, кто участвует в общественной жизни.
• «Трудно объяснить, что вы чувствуете при этом. Это анонимные люди, которых вы никогда не встречали, правда, но это действительно пагубно сказывается на вашем психическом здоровье. Вы постоянно думаете об этих людях, о ненависти и желчи, которые они направляют к вам ». - Рэйчел Маклин, член парламента
• «Я несколько раз выступала в Палате общин в различных комитетах о правах женщин. Я подвергался ежедневным атакам в Твиттере, на мою электронную почту или в бесконечных онлайн-статьях, написанных о том, как люди хотели видеть меня изнасилованным ». - Джесс Филлипс член парламента
• В отчете также содержится ряд рекомендаций по действиям, которые компании социальных сетей должны предпринимать в отношении устрашающего контента, включая внедрение инструментов, позволяющих повысить способность пользователей бороться с запугиванием в Интернете и поддерживать пользователей, ставших жертвами такого поведения. Эти рекомендации помогли сформировать ориентировочный список шагов, которые регулирующий орган может захотеть включить в своды правил.
• Ответ правительства на обзор запугивания в общественной жизни, проведенный Комитетом по стандартам в общественной жизни, был опубликован в марте 2018 года и излагает ряд действий для правительства, основанных на рекомендациях Комитета. В рамках этой работы правительство провело общественные консультации под названием «Защита дебатов: запугивание, влияние и информация», которые завершились в октябре 2018 года. Ответ правительства будет опубликован в надлежащее время.
Это злоупотребление неприемлемо - оно выходит за рамки свободы слова и свободных дебатов, отвращает хороших людей от участия в общественной жизни и подрывает ценности, на которых зиждется наша демократия.
Новая нормативно-правовая база четко прояснит ответственность компаний за устранение этого вреда.

Другой вред онлайн​

1.26. Интернет и онлайн-технологии связаны и с другим вредом. Например, в отчете Ofcom и ICO о регулировании Интернета подчеркивается обеспокоенность пользователей по поводу конфиденциальности и взлома. Эта Белая книга является частью более широкой программы работы правительства по установлению правильных норм и правил для Интернета.

Ответственные и этичные технологии​

1.27. Правительство чрезвычайно серьезно относится как к защите личных данных, так и к праву на неприкосновенность частной жизни. Общие правила защиты данных (GDPR) и Закон о защите данных 2018 (DPA), наряду с расширенными полномочиями ICO по сбору доказательств, проверке искусственного интеллекта (AI) и наложению значительных штрафов на тех, кто нарушает закон, обновляют нашу защиту данных законы, подходящие для цифровой эпохи.

1.28. DPA также включает важное новое положение, требующее, чтобы Уполномоченный по информации подготовил соответствующий возрасту проектный код. Это положение открывает новые горизонты, рассматривая подход к разработке онлайн-сервисов, которые могут быть использованы детьми. Это гарантирует, что платформы и поставщики услуг ставят интересы детей в центр процесса проектирования и защищает их от рисков, возникающих в результате использования их личных данных в Интернете, включая алгоритмы и профилирование, которые служат им для предоставления персонализированного контента.

1.29. Однако более широкое использование данных и искусственного интеллекта порождает сложные, быстро меняющиеся и далеко идущие этические и экономические проблемы, которые нельзя решить только с помощью законов о защите данных. Все более сложные алгоритмы могут собирать мощную информацию, которая может быть использована таким образом, чтобы повлиять на принимаемые нами решения и получаемые услуги. Важно, чтобы мы понимали препятствия на пути этичного развертывания ИИ и реагировали на них.

1.30. Вот почему правительство создало Центр этики данных и инноваций. Центр будет предоставлять независимые, беспристрастные и экспертные консультации по этичному и инновационному использованию данных и искусственного интеллекта. Весной 2019 года Центр опубликует свой первый стратегический документ, в котором будут подробно описаны его ключевые приоритеты.

1.31. То, как разработана технология, кто ее разрабатывает и какие результаты она пытается достичь, также влияет на то, как она влияет на пользователей и общество в целом. Появляется все больше свидетельств того, что платформы социальных сетей и другие цифровые сервисы могут влиять на привычки людей, режим сна, продуктивность на работе, объем внимания и даже предпочтения при голосовании - см. Вставку 15. Мы внимательно изучаем, как мы можем гарантировать, что цифровые продукты и сервисы разработаны с учетом принципов ответственности и заботы о благополучии их пользователей. В главе 8 этого документа конкретно рассматривается, как мы работаем с компаниями, чтобы включить соображения безопасности в конструкцию их продуктов.

Возникающая проблема: преднамеренная зависимость - вставка 15​

Некоторые онлайн-продукты были разработаны для поощрения постоянного использования. Они включают в себя, казалось бы, небольшие, но влиятельные функции, которые побуждают людей продолжать использовать приложение или платформу дольше. Одним из распространенных примеров является «бесконечная прокрутка», при которой информация загружается непрерывно, когда пользователь прокручивает страницу вниз, побуждая пользователя продолжать прокрутку.
• В недавнем отчете 5Rights были выделены другие элементы «убедительного дизайна», такие как «набор текста», количественная оценка друзей и уведомления. Даже лайки могут быть мощным инструментом для удержания пользователей в сети.52
• Эти методы могут усугубить вызывающее привыкание поведение. Число людей, страдающих от клинической зависимости таким образом, не было надежно количественно определено, но есть хорошо задокументированные крайние случаи уязвимых людей, для которых зависимость мешала социальной жизни, сну, физической активности и другим аспектам здорового образа жизни. , сбалансированный образ жизни.
• Есть также свидетельства того, что более широкий круг людей испытывает менее экстремальные формы компульсивного или привычного поведения в сети. Некоторые эксперты подчеркнут, что такое компульсивное поведение не является клинической зависимостью.
Будущее действие:
• Правительство разделяет озабоченность по поводу преднамеренной зависимости и полно решимости обеспечить наличие у нас достаточных доказательств этого риска и правильных ожиданий компаний в отношении разработки своих продуктов безопасным способом.
• В будущем мы ожидаем, что регулирующий орган продолжит поддерживать исследования в этой области, чтобы информировать о будущих действиях и, при необходимости, устанавливать четкие ожидания для компаний по предотвращению вреда своим пользователям.
• Мы также ожидаем, что компании будут прозрачны в отношении методов проектирования, которые поощряют расширенное взаимодействие, и будут взаимодействовать с исследователями, чтобы понять влияние этих методов на своих пользователей.
• DCMS продолжает работать с Комиссией по азартным играм и индустрией по защите игроков в онлайн-секторе. В мае 2018 года мы опубликовали ответ на консультацию по предложениям об изменении игровых автоматов и мерах социальной ответственности, в котором изложен четкий план по усилению защиты игроков.
• С тех пор был внесен ряд изменений, чтобы сделать азартные игры более справедливыми и безопасными, включая ужесточение правил рекламы и запуск GAMSTOP, схемы самоисключения в Интернете. Кроме того, с мая Комиссия по азартным играм внесет изменения, которые означают, что возраст и личность должны быть проверены, прежде чем потребители смогут вносить деньги и играть в азартные игры, и потребуют проверки возраста, прежде чем клиенты смогут получить доступ к бесплатным демо-играм.

Процветающие цифровые рынки​

1.32. Цифровой сектор вносит огромный вклад в нашу экономику и составляет 130,5 млрд фунтов стерлингов валовой добавленной стоимости в 2017 году, что эквивалентно 7% валовой добавленной стоимости. В этом секторе наблюдается значительный рост: с 2010 года он вырос на 33% по сравнению с 29% в экономике в целом. По мере роста цифровой экономики появлялись новые мощные компании, зачастую занимающие очень доминирующие позиции на рынке. Это вызвало вопросы о конкурентоспособности цифровых рынков и о том, что это значит для потребителей.

1.33. В правительственной Зеленой книге «Модернизация потребительских рынков» запрашивались мнения о том, насколько хорошо приспособлен режим конкуренции для решения возникающих проблем, включая рост быстро развивающихся цифровых рынков. Мы продолжаем рассматривать варианты политики по ряду мер, предложенных в зеленой книге, и проводим обзор цифровых рынков, который должен быть запланирован на лето 2019 года. Об этом будет сообщено в работе независимой экспертной группы по цифровой конкуренции под руководством профессора Джейсона Фурмана. который опубликовал свои рекомендации для правительства 13 марта 2019 года.

1.34. Профессор Фурман и члены комиссии обнаружили, что цифровая экономика принесла значительные выгоды, но не имеет достаточной конкуренции. Они призвали новое подразделение цифровых рынков установить и обеспечить соблюдение кодекса поведения, чтобы крупнейшие цифровые компании знали, какие правила для конкуренции являются приемлемыми. Эта новая единица предоставит людям больший контроль над своими данными, позволив людям более легко переключаться между платформами. Они также рекомендовали внести изменения в правила слияния и обновить существующие правила, чтобы улучшить контроль за антиконкурентным поведением. Правительство рассмотрит эти предложения и ответит позднее в этом году.

1.35. Процветающие цифровые рынки также зависят от инновационного, эффективного и справедливого использования данных. В июне 2018 года государственный секретарь по DCMS объявил, что мы разработаем национальную стратегию данных, чтобы Россия стала ведущей в мире экономикой данных, раскрывая мощь данных в правительстве и в экономике в целом, одновременно укрепляя общественное доверие и уверенность в своих силах. его использование.

Он-лайн реклама​

1.36. Интернет-реклама играет решающую роль в цифровой экономике, поскольку многие бесплатные цифровые услуги, такие как поисковые системы или социальные сети, финансируются за счет доходов от рекламы. Экосистема онлайн-рекламы очень сложна, большая часть рекламного пространства в Интернете покупается с помощью автоматизированных процессов, а скорость создания и отображения рекламы намного выше, чем в автономном режиме. Интернет-реклама поощряет и вознаграждает сбор пользовательских данных (чем больше у сервиса данных о пользователе, тем эффективнее он может нацеливать на него рекламу) и удержание внимания людей (чем дольше они пользуются сервисом, тем больше рекламы они видят).

1.37. Это сочетание факторов привело к возникновению ряда проблем, связанных с онлайн-рекламой или связанных с ней. Уже ведутся работы по устранению некоторых из них:

• Рабочая группа под руководством Министерства внутренних дел по CSEA и террористическому контенту, связанному с рекламой, провела встречу в марте 2019 года после первой встречи в декабре 2018 года, в которую вошли представители рекламных агентств, агентств, брендов, правоохранительных органов и IWF. На сегодняшний день деятельность рабочей группы включает действия, направленные на то, чтобы реклама не поддерживала этот вид незаконной деятельности.

• В рамках правительственного плана по борьбе с детским ожирением, DCMS и Министерство здравоохранения и социальной защиты начали 18 марта 2019 года консультацию по введению в 21:00 водораздела для телевизионной рекламы продуктов с высоким содержанием жира, соли или сахара и аналогичных средств защиты для просмотра детьми. реклама в Интернете.

• Управление по конкуренции и рынкам рассматривает возможность дальнейшей работы над цифровой рекламой, хотя это зависит от результатов переговоров о выходе из ЕС.

• В ноябре 2018 года Управление рекламных стандартов опубликовало свою стратегию More Impact Online, цель которой - сделать защиту потребителей в Интернете центральным элементом своей работы в течение следующих пяти лет, и берет на себя обязательства изучить, например, использование машинного обучения. и AI для улучшения регулирования.

• В 2018 году ICO провело расследование аналитики данных и микротаргетинга политической рекламы в Интернете. В отчете «Демократия нарушена?» Подчеркиваются риски злоупотребления личными данными в ходе цифровых кампаний и содержится ряд рекомендаций по повышению прозрачности и соблюдению требований защиты данных. ICO также приступило к более широкому изучению использования личных данных в рекламных технологиях.

1.38. Как было объявлено в немедленном ответе государственного секретаря DCMS на Cairncross Review, DCMS проведет обзор того, как регулируется онлайн-реклама.

2. Масштаб вреда​

Резюме​

• В этой Белой книге изложены действия правительства по борьбе с онлайн-контентом или деятельностью, которая наносит вред отдельным пользователям, особенно детям, или угрожает нашему образу жизни, либо подрывая национальную безопасность, либо снижая доверие и подрывая наши общие права, обязанности и возможности для содействия интеграции. В нем излагается первоначальный список контента и поведения, которые будут входить в сферу действия, а также список вреда, который будет исключен.
• В настоящее время существует множество нормативных и добровольных инициатив, направленных на решение этих проблем, но они не продвинулись далеко или недостаточно быстро, чтобы обеспечить безопасность пользователей в Интернете.
• Многие из наших международных партнеров также разрабатывают новые нормативные подходы к борьбе с вредом в Интернете, но Россия будет первой, кто решит проблему ущерба в Интернете в рамках согласованной единой нормативной базы, которая отражает нашу приверженность свободному, открытому и безопасному Интернету.

Вредное содержание или деятельность в рамках Белой книги​

2.1. В таблице 1 ниже показан первоначальный список вредоносного контента или деятельности в Интернете, относящийся к «Белой книге», на основе оценки их распространенности и воздействия на людей и общество.

2.2. Этот список по замыслу не является ни исчерпывающим, ни фиксированным. Статический список может помешать незамедлительным регуляторным действиям по борьбе с новыми формами вреда в Интернете, новыми технологиями, контентом и новыми действиями в Интернете.

Таблица 1: Объем вреда в сети

Хармс с четким определением	Вред с менее четким определением	Знакомство несовершеннолетних с легальным контентом
Сексуальная эксплуатация и надругательство над детьми.	Киберзапугивание и троллинг.	Дети доступ к порнографии.
Содержание и деятельность терроризма.	Экстремистский контент и активность.	Дети, получающие доступ к неприемлемым материалам (в том числе младше 13 лет, использующих социальные сети, и младше 18 лет, использующих приложения для знакомств; чрезмерное экранное время).
Организованная иммиграционная преступность.	Принудительное поведение.
Современное рабство.	Запугивание.
Экстремальная порнография.	Дезинформация.
Месть порнографии.	Содержание с насилием.
Преследование и киберпреследование.	Пропаганда членовредительства.
Преступление на почве ненависти.	Пропаганда калечащих операций на женских половых органах (КОЖПО).
Поощрение или содействие самоубийству.
Подстрекательство к насилию.
Продажа незаконных товаров / услуг, таких как наркотики и оружие (в открытом Интернете).
Контент, незаконно загруженный из тюрем.
Секстинг непристойных изображений детьми младше 18 лет (создание, хранение, копирование или распространение непристойных или сексуальных изображений детей и молодых людей в возрасте до 18 лет).

2.3. Уже есть эффективный ответ на некоторые категории вредоносного контента или действий в Интернете. Они будут исключены из сферы действия новой нормативной базы, чтобы избежать дублирования существующей государственной деятельности.

2.4. Из области действия исключаются следующие виды вреда:

• Весь вред организациям, таким как компании, в отличие от вреда, причиненного частным лицам. Это исключает ущерб, связанный с большинством аспектов законодательства о конкуренции, большинством случаев нарушения прав интеллектуальной собственности и реакцией организации на многие случаи мошенничества. Правительство выдвигает отдельные инициативы для решения этих проблем. Например, Совместная целевая группа по борьбе с мошенничеством возглавляет амбициозную программу работы по борьбе с мошенничеством, в том числе онлайн-мошенничеством, посредством партнерства между банками, правоохранительными органами и правительством.

• Любой вред, причиненный физическим лицам в результате нарушения законодательства о защите данных, включая страдания, вызванные вторжением, ущерб от недобросовестной обработки и любые финансовые потери. Во вставке 16 поясняется, как правовая база обеспечивает защиту от вреда в Интернете, связанного с утечкой данных.

• Весь вред, понесенный отдельными лицами в результате нарушения кибербезопасности или взлома. Этот вред устраняется посредством государственной стратегии кибербезопасности.

• Весь вред, которому люди подвергаются в темной сети, а не в открытом Интернете. Этот вред рассматривается в правительственной стратегии борьбы с серьезной организованной преступностью. Ответ правоохранительных органов на преступность в даркнете считается наиболее эффективным ответом на угрозу. Как указано в стратегии, правительство продолжает инвестировать в специальные навыки и возможности правоохранительных органов.

Более строгое регулирование личных данных в Интернете - вставка 16​

В мире уже действуют высокие стандарты законодательства о защите данных, которые были модернизированы в 2018 году с введением GDPR и Закона о защите данных 2018 года. Правительство решило пойти дальше, чем другие страны, предоставив более широкие полномочия для применения к расследованиям и правоприменению. конкретных онлайн-угроз.
Ключевые меры защиты от вреда в Интернете, связанного с личными данными, включают:
• Обязательство предоставлять четкую и доступную информацию о конфиденциальности, предназначенную для детей, когда они являются пользователями онлайн-сервисов.
• Юридическое обязательство по обеспечению подотчетности, возлагающее на компании ответственность за то, чтобы сделать защиту данных центральным элементом разработки онлайн-сервисов таким образом, чтобы снизить риск для информации пользователей. Это также включает в себя требование проводить оценку воздействия на защиту данных и утверждать ее ICO, если сохраняются высокие риски.
• Право на удаление личных данных в Интернете с более строгими положениями, когда данные были получены от ребенка-пользователя.
• Соответствующий возрасту код дизайна, который устанавливает стандарты дизайна, которые, как мы ожидаем, будут соблюдать поставщики онлайн-услуг и приложений, используемых детьми, при обработке своих данных.
• Возможность проверять алгоритмы на месте, понимать, как они используют личные данные, и не приводит ли это к предвзятости или другому ущербу.
• Право требовать передачи информации в ICO, где бы оно ни проводилось, в том числе на облачных серверах.

Недостатки существующей нормативной базы​

2.5. В настоящее время в рамках Белой книги существует ряд нормативных актов, направленных на устранение конкретного вреда или услуг в Интернете, но это создает фрагментированную нормативную среду, которая недостаточна для решения всех проблем, с которыми мы сталкиваемся. Действующая нормативная база включает:

• GDPR и Закон о защите данных, применяемый ICO. Это включает сбор и использование личных данных, в том числе в Интернете. GDPR также имеет экстерриториальный характер и может применяться к компаниям за пределами Российской Федерации, которые предлагают услуги пользователям.

• Надзор Избирательной комиссии за деятельностью политических партий и других участников кампании, включая деятельность в социальных сетях.

• Требования Скоро возраст проверки для интернет - порнографии.

• Надзор Комиссии по вопросам равноправия и прав человека за соблюдением Закона о равенстве 2010 года и свободе выражения мнения.

• Существующий надзор Ofcom за услугами видео по запросу.

• Пересмотренная Директива ЕС об аудиовизуальных медиауслугах, которая вводит новые высокоуровневые требования для платформ обмена видео, таких как YouTube.

• Лицензирование и регулирование азартных игр в Интернете Комиссией по азартным играм. DCMS работает с Комиссией над ужесточением правил рекламы азартных игр и запустил GAMSTOP, схему самоисключения в Интернете. Ожидается, что дополнительные требования по проверке возраста вступят в силу с мая этого года.

• Обеспечение соблюдения Закона о защите прав потребителей Управлением по конкуренции и рынкам (CMA) в Интернете. См. Дополнительную информацию во вставке 17.

Защита прав потребителей со стороны Управления по конкуренции и рынкам - Вставка 17​

Компании рискуют нарушить закон о защите прав потребителей, если их поведение в сети вводит потребителей в заблуждение или обращается с ними несправедливо. CMA в последнее время предпринял ряд принудительных мер по изучению потенциально несправедливого или вводящего в заблуждение поведения в Интернете, включая:
• Азартные игры в Интернете - CMA сотрудничал с Комиссией по азартным играм, чтобы наложить санкции на несправедливые онлайн-предложения крупных игорных компаний. CMA был обеспокоен тем, что деньги игроков могут попасть в ловушку в соответствии с условиями этих рекламных акций или что они могут быть пойманы из-за нечетких или несбалансированных правил продвижения. Изменения были согласованы с рядом фирм, включая William Hill и Ladbrokes.
• Онлайн-обзоры и подтверждения. У CMA есть постоянная программа работы по борьбе с поддельными или вводящими в заблуждение онлайн-обзорами и одобрениями. Совсем недавно 16 знаменитостей, звезд реалити-шоу и влиятельных лиц в социальных сетях взяли на себя обязательство всегда четко указывать в своих сообщениях в социальных сетях, где им платили за размещение контента в Интернете. В настоящее время CMA изучает ответственность платформ социальных сетей за обеспечение того, чтобы платный контент всегда надлежащим образом раскрывался.
• Вторичные билеты - в результате действий CMA, включая судебное разбирательство против Viagogo, потребители всегда будут получать важную информацию до того, как они купят билет на онлайн-платформах перепродажи, в частности, если существует риск того, что потребитель не сможет попасть на мероприятие или место проведения. Судебный приказ, выданный против Viagogo, также требует, чтобы сообщения о продаже под давлением были удалены с их веб-сайтов.
• Онлайн-бронирование отелей - CMA недавно согласовал изменения с компаниями, входящими в корпоративные группы Booking.com и Expedia, в отношении потенциально вводящей в заблуждение онлайн-практики. В их число входят новые требования, которые должны четко указывать, какую роль играет комиссия в порядке результатов поиска, и чтобы любые утверждения об ограниченной доступности гостиничных номеров были точными и не вводили потребителей в заблуждение.
2.6. В соответствии с текущим режимом ответственности, который вытекает из Директивы ЕС об электронной торговле, платформы защищены от юридической ответственности за любой незаконный контент, который они «размещают» (а не создают) до тех пор, пока они не узнают о нем или не узнают факты или обстоятельства, из которых было бы очевидно, что оно было незаконным и не предприняло «оперативных» действий для удаления или прекращения доступа к нему. Другими словами, они не несут ответственности за часть незаконного контента, созданного пользователями, до тех пор, пока они не получат уведомление о его существовании или если их технология не обнаружила такой контент и впоследствии не удаляла его из своих сервисов вовремя.

2.7. В отношении незаконного вреда также важно убедиться, что уголовное право применяется в Интернете так же, как оно применяется в автономном режиме. В феврале 2018 года премьер-министр объявил о пересмотре Правовой комиссией закона в отношении оскорбительных и оскорбительных онлайн-коммуникаций, чтобы выявить любые пробелы в уголовном законодательстве, которые вызывают проблемы в борьбе с этими злоупотреблениями. В своем отчете об аналитическом исследовании в прошлом году Комиссия по праву пришла к выводу, что поведение в целом криминализируется в той же степени в Интернете, что и в автономном режиме, и рекомендовала прояснить существующие нарушения общения. Правительство сейчас дорабатывает детали второго этапа работы Правовой комиссии.

2.8. Что касается юридического ущерба, то один и тот же контент может регулироваться различными нормативными стандартами в зависимости от платформы, на которой он появляется. В отчете Ofcom «Решение проблемы вредоносного контента в Интернете» описывается, как одна и та же программа будет регулироваться в разной степени в зависимости от того, транслируется ли она по телевидению, просматривается по запросу или на онлайн-платформе обмена видео (см. Вставку 18). Это означает, что в защите прав потребителей существуют значительные пробелы.

Регулирование одного и того же контента в разных сервисах - вставка 18

Добровольные подходы​

2.9. Помимо этого диапазона нормативных требований, в Зеленой книге государственной стратегии безопасности в Интернете, опубликованной в 2017 году, основное внимание уделяется добровольному подходу к противодействию вредоносному поведению и контенту в Интернете. В зеленой книге признается, что только правительство не может защитить граждан от вреда в Интернете, и предпринимается попытка работать в тесном сотрудничестве с промышленностью, чтобы внедрить конкретные технические решения, которые сделают платформы социальных сетей более безопасными.

2.10. Добровольные инициативы между правительством, промышленностью и гражданским обществом являются многообещающими в некоторых областях, и ведущие компании предприняли ряд шагов для улучшения своих платформ, например, как указано во вставках 19-21. Мы уверены, что прогресс, достигнутый в борьбе с терроризмом и CSEA посредством этого добровольного сотрудничества с отраслью, должен продолжаться наряду с разработкой новой нормативной базы.

Существующие инициативы по борьбе с вредом в Интернете: Глобальный интернет-форум по борьбе с терроризмом - Вставка 19​

После террористической атаки в Вестминстере в марте 2017 года правительство созвало круглый стол с участием основных игроков отрасли, включая Facebook, Twitter, Google и Microsoft, чтобы посмотреть, что еще можно сделать для борьбы с террористическим контентом в Интернете. Это привело к созданию этими компаниями Глобального интернет-форума по борьбе с терроризмом (GIFCT) в июне 2017 года.
GIFCT возглавляет межотраслевые меры по сокращению доступности террористического контента в Интернете, чтобы не было безопасных мест для террористов в Интернете. Ключевыми задачами Форума являются более широкое использование технологий автоматизации и машинного обучения для обнаружения и удаления террористического контента - в конечном итоге, предотвращение доступности террористического контента для пользователей - и поддержка более мелких компаний с меньшими ресурсами для борьбы с этими угрозами. на собственных платформах.
С момента своего создания Форум предпринял ряд позитивных шагов, но еще многое предстоит сделать. Правительство хочет видеть амбициозный и осязаемый план реализации. Наши цели на GIFCT в 2019 году заключаются в следующем:
• Расширить свое членство, обеспечив больший круг и количество компаний, которые могут зарегистрироваться в качестве участников Форума.
• Посвящать больше усилий целевому вмешательству с приоритетными платформами, в том числе посредством разработки и обмена автоматизированными технологиями.
• Разработайте четкую программу действий, предоставляющую показатели, по которым можно будет измерить успех.
• Обеспечение большей прозрачности для продвижения этой повестки дня, в том числе компаний, имеющих более четкое общественное мнение по этому вопросу.

Существующие инициативы по борьбе с вредом в Интернете: Совет по интернет-безопасности - Вставка 20​

Советпо безопасности в Интернете (UKCIS) - это новый совместный форум, через который правительство, техническое сообщество и гражданское общество работают вместе, чтобы обеспечить самое безопасное место в мире для работы в сети.
Расширяя сферу деятельности бывшего Совета по безопасности детей в Интернете (UKCCIS), UKCIS работает над устранением онлайн-вреда, такого как преступления на почве ненависти, экстремизм и насилие в отношении женщин и девочек, а также уделяет внимание потребностям детей.
Приоритетные направления работы UKCIS в следующем году:
• Подготовка обзорного обзора исследований вреда, причиняемого взрослыми в Интернете, и регулярных кратких обзоров новых исследований.
• Обновленное руководство для школ по секстингу и оценке обеспечения онлайн-безопасности, а также для провайдеров начальной подготовки учителей, чтобы помочь им повысить квалификацию новых учителей по вопросам онлайн-безопасности.
• Продвижение концепции «Подключенный мир», в которой описываются цифровые знания и навыки, которые дети должны иметь возможность развивать на разных этапах своей жизни.
• Рамки и инструментарий цифровой устойчивости, призванные помочь семьям, преподавателям, политикам, работникам сферы услуг и индустрии лучше поддерживать пользователей в сети при решении широкого спектра проблем.

Существующие инициативы по борьбе с вредом в Интернете: Глобальный альянс WePROTECT - вставка 21​

Глобальный альянс WePROTECT (WPGA) был создан в знак признания того, что CSEA является глобальным преступлением, требующим глобального ответа.
Правительство сыграло ключевую роль в создании WPGA и является его единственным финансовым донором. WPGA стремится защитить больше детей, задержать больше виновных в жестоком обращении и сделать Интернет свободным от сексуальной эксплуатации детей. Восемьдесят пять стран являются членами WPGA, наряду с 20 глобальными технологическими компаниями и 25 ведущими неправительственными организациями.
Успех WPGA, финансируемого правительством, заключается в том, что он объединил правительство, правоохранительные органы, промышленность и гражданское общество, чтобы выступить против сексуальной эксплуатации детей в Интернете.
2.11. В ответе правительства на консультацию по Зеленому документу стратегии интернет-безопасности мы отметили, что только относительно небольшая группа крупных компаний участвует в работе правительства по онлайн-безопасности, хотя онлайн-вред может иметь место и действительно происходит на многих веб-сайтах. Также существуют большие различия в степени, эффективности и темпах действий компаний по устранению вреда в Интернете. Некоторые компании полагаются на модерацию пользователей для наблюдения за сообщениями о нарушениях их условий, например Reddit; другие нанимают группы модераторов или используют технологии для мониторинга контента, например Facebook.

2.12. Многие компании заявляют, что обладают хорошей репутацией в области онлайн-безопасности, но существует ограниченная прозрачность в отношении того, как они реализуют или обеспечивают соблюдение своих политик, и наблюдается постоянное несоответствие с опытом пользователей - 70% британцев считают, что компании, работающие в социальных сетях, делают недостаточно. для предотвращения незаконного или неэтичного поведения на своих платформах. 60% респондентов на нашей консультации по Зеленому документу стратегии интернет-безопасности стали свидетелями ненадлежащего или вредного поведения в Интернете; только 41% считают, что их опасения были серьезно восприняты компаниями социальных сетей.

2.13. В настоящее время многие онлайн-компании полагаются на свои условия в качестве основы для рассмотрения жалоб. На практике, однако, условия и положения компаний часто трудны для понимания пользователями, а политики безопасности не согласованы на разных платформах, при этом время простоя, описание вреда и процессы отчетности различаются. Серия расследований выявила риск серьезных недостатков в обучении, условиях работы и поддержке модераторов контента.

2.14. Не существует механизма, позволяющего привлекать компании к ответственности, если они не устраняют нарушения. Не существует официального отраслевого форума с широким охватом для улучшения координации условий. Отсутствие четких стандартов того, что компании должны делать, чтобы бороться с вредом, причиняемым их услугами, затрудняет понимание пользователями своих прав или защиту их прав.

2.15. Правительство считает, что добровольные усилия не привели к адекватным или последовательным мерам по защите британских граждан в Интернете. Как подчеркивалось выше, собственный опыт пользователей подтверждает ощущение уязвимости в Интернете.

Международный подход​

2.16. Угроза, создаваемая вредоносным и незаконным контентом и действиями в Интернете, носит глобальный характер, и многие из наших международных партнеров также разрабатывают новые нормативные подходы для борьбы с вредом в Интернете. Во вставке 22 показано, что некоторые другие страны делают в этой области.

Международные подходы к противодействию онлайн-вреду - вставка 22​

В Германии в 2017 году был принят Закон о защите сети (NetzDG). Этот закон требует, чтобы онлайн-платформы с более чем двумя миллионами зарегистрированных пользователей в Германии удаляли «явно незаконный» контент, который противоречит определенным элементам уголовного кодекса Германии, таким как отрицание холокоста. и разжигание ненависти в течение 24 часов с момента получения уведомления или жалобы, а также удалить весь другой «незаконный» контент в течение семи дней после уведомления. Несоблюдение требований грозит штрафом до 50 миллионов евро. Этот закон также направлен на усиление ответственности платформы за счет введения большей прозрачности и значительных обязательств по отчетности.
Австралия учредила Уполномоченного по электронной безопасности в соответствии с Законом об усилении безопасности детей в Интернете в 2015 году. Комиссар по электронной безопасности отвечает за обеспечение безопасности в Интернете для всех австралийцев. Помимо службы подачи жалоб для молодых людей, подвергшихся серьезному кибер-издевательствам, в ее компетенцию входит выявление и удаление незаконного онлайн-контента и борьба со злоупотреблениями на основе изображений.
Европейская комиссия во главе с DG JUST опубликовала в сентябре 2018 года предложение о предотвращении распространения террористического контента в Интернете. В декабре 2018 года государства-члены согласовали версию текста Совета. Цель предложения - обеспечить единый подход во всех отраслях. к удалению террористического контента в Интернете провайдерами хостинговых услуг, например платформами социальных сетей и сайтами обмена видео. В подходе к структуре, предложенной в этой Белой книге, есть общие черты - в ее нынешней редакции предполагается использование пропорционального подхода к установлению требований, введению обязанностей по обеспечению осторожности для компаний и внедрению структуры прозрачности.
В течение 2018 года Комиссия ЕС во главе с DG CNECT также опубликовала План действий по борьбе с дезинформацией. Комиссия сотрудничала с такими компаниями, как Facebook, Google и Twitter, чтобы разработать свод правил борьбы с дезинформацией. Это привело к принятию обязательств по повышению прозрачности политической рекламы, предотвращению неправомерного использования автоматических ботов и инвестированию в инструменты для усиления различных точек зрения. Правительство ранее заявляло о своей поддержке этих мер и продолжит международное сотрудничество по этому вопросу.
2.17. Правительство тесно сотрудничает с международными партнерами, поскольку мы разрабатываем собственный подход, отражающий наши общие ценности и приверженность свободному, открытому и безопасному Интернету. Подход, предложенный в этой Белой книге, - это первая глобальная попытка решить этот спектр онлайн-вреда в рамках согласованной единой нормативной базы. Мы продолжим делиться опытом и стремиться работать с международными партнерами. Более подробная информация представлена в главе 6.

Существующие инициативы по борьбе с вредом в Интернете: Project Arachnid - Вставка 23​

Правительство инвестировало 600 000 фунтов стерлингов в Project Arachnid, новаторский проект, который исследует Интернет для выявления веб-страниц с материалами, подозреваемыми в сексуальном насилии над детьми. Эта технология может быть развернута на веб-сайтах, форумах, в чат-сервисах и группах новостей, чтобы мгновенно обнаруживать незаконный контент, прежде чем отправлять уведомление об удалении поставщикам услуг, чтобы они могли быстро защитить детей от дальнейшей эксплуатации.
Project Arachnid является продуктом партнерства с Канадским центром защиты детей и Национальным центром США по пропавшим и эксплуатируемым детям, демонстрируя решимость сотрудничать с международными партнерами в борьбе с вредоносной деятельностью в Интернете. На сегодняшний день Arachnid прочесал 1,5 миллиарда веб-страниц, обнаружил 7,5 миллиона изображений, подозреваемых в сексуальном насилии над детьми, и выпустил более 1 миллиона уведомлений об удалении материалов о жестоком обращении с детьми в открытом Интернете (данные панели управления в реальном времени, данные получены 21 марта. 2019).

ЧАСТЬ 2: Модель регулирования​

3. Новая нормативная база​

Резюме​

• Правительство установит новую законодательную обязанность проявлять осторожность, чтобы заставить компании брать на себя большую ответственность за безопасность своих пользователей и бороться с вредом, причиненным контентом или деятельностью в их сервисах. Соблюдение этой обязанности по осторожности будет контролироваться и обеспечиваться независимым регулирующим органом.
• Компании должны выполнять свои новые юридические обязанности. Регулирующий орган изложит, как это сделать, в кодексах практики. Если компании хотят выполнять эти обязанности способом, не предусмотренным кодексами, они должны будут объяснить и обосновать регулирующему органу, как их альтернативный подход будет эффективно оказывать такое же или большее влияние.
• Что касается угрозы национальной безопасности или физической безопасности детей, правительство будет иметь право направлять регулирующий орган в отношении кодексов практики, касающихся террористической деятельности или CSEA онлайн, и эти кодексы должны быть подписаны министром внутренних дел.
• В отношении всех кодексов практики, касающихся незаконного вреда, включая подстрекательство к насилию и продажу незаконных товаров и оружия, будет четкое ожидание, что регулирующий орган будет работать с правоохранительными и другими соответствующими государственными учреждениями, чтобы обеспечить адекватное соответствие кодексов с угрозой.
• Развитие культуры прозрачности, доверия и подотчетности станет важнейшим элементом новой нормативной базы. Регулирующий орган будет иметь право требовать от компаний ежегодных отчетов о прозрачности, в которых указывается распространенность вредоносного контента на их платформах и меры, которые они принимают для решения этой проблемы. Эти отчеты будут опубликованы регулирующим органом в Интернете, чтобы пользователи и родители могли принимать обоснованные решения об использовании Интернета. Регулятор также будет иметь право требовать дополнительную информацию, в том числе о работе алгоритмов.
• Регулирующий орган будет поощрять и контролировать выполнение компаниями обязательств по расширению возможностей независимых исследователей для доступа к своим данным при соблюдении соответствующих мер безопасности.
• В рамках новой обязанности проявлять осторожность мы ожидаем, что компании, где это уместно, будут иметь эффективную и легкодоступную функцию рассмотрения жалоб пользователей. Регулирующий орган потребует от компаний реагировать на жалобы пользователей в надлежащие сроки и принимать меры в соответствии с ожиданиями, изложенными в нормативной базе.
• Но мы также признаем важность независимого механизма проверки, чтобы пользователи были уверены, что их проблемы рассматриваются справедливо. Мы консультируемся о том, чтобы разрешить уполномоченным органам подавать «супер-жалобы» для защиты потребностей пользователей.
• В преддверии внедрения новой нормативной базы мы будем поощрять компании к своевременным действиям по устранению вреда в сети. Чтобы помочь в этом, в Белой книге изложены ожидания компаний высокого уровня, в том числе некоторые конкретные ожидания в отношении определенного ущерба. Мы ожидаем, что регулирующий орган отразит это в будущих кодексах практики.
• Там, где существует угроза национальной безопасности или физической безопасности детей, такая как CSEA и терроризм, мы ожидаем, что компании пойдут намного дальше и продемонстрируют шаги, предпринятые для борьбы с распространением связанного контента и незаконным поведением. Позднее в этом году мы опубликуем временные кодексы практики, содержащие рекомендации по борьбе с террористической деятельностью и онлайн-CSEA.
3.1. Правительство установит новую законодательную обязанность заботиться о соответствующих компаниях, чтобы они принимали разумные меры для обеспечения безопасности своих пользователей и противодействовали незаконной и вредоносной деятельности в их сервисах.

3.2. Выполнение этой обязанности будет контролироваться и контролироваться независимым регулирующим органом.

3.3. Эта установленная законом обязанность проявлять осторожность потребует от компаний принятия разумных мер для обеспечения безопасности пользователей и предотвращения причинения вреда другим лицам в результате действий с их услугами. Это более широкое применение обязанности, помимо простых пользователей конкретной службы, признает, что в некоторых случаях жертвы вредоносной деятельности - например, жертвы обмена неконсенсусными изображениями - могут сами не быть пользователями службы, в которой вредоносные активность имела место. Эта обязанность будет применяться ко всем видам вреда, включенным в сферу действия Белой книги, как указано ниже.

3.4. Ключевым элементом подхода регулятора будет принцип соразмерности. Компании будут обязаны принимать меры, пропорциональные серьезности и масштабу рассматриваемого ущерба. Регулирующий орган должен будет оценивать действия компаний в соответствии с их размером и ресурсами, а также возрастом их пользователей.

3.5. Нормативный подход будет устанавливать более конкретные и строгие требования в отношении тех видов вреда, которые являются явно незаконными, чем в отношении тех видов вреда, которые могут быть законными, но вредными, в зависимости от контекста.

3.6. Компании должны выполнять свои новые юридические обязанности. Регулирующий орган изложит, как это сделать, в кодексах практики. В кодексах будут описаны системы, процедуры, технологии и инвестиции, в том числе в укомплектование персоналом, обучение и поддержку модераторов-людей, которые компании должны внедрить, чтобы продемонстрировать, что они выполнили свой долг по заботе о своих пользователях.

Компании по-прежнему должны будут соблюдать всеобъемлющую обязанность проявлять осторожность, даже если конкретный кодекс не существует, например, оценивать и реагировать на риски, связанные с возникающим вредом или технологиями.

3.7. Ожидается, что компании будут следовать указаниям, изложенным в этих кодексах. Если они решат этого не делать, компаниям придется объяснить и обосновать регулирующему органу, как их альтернативный подход будет эффективно оказывать такое же или большее влияние. Этот подход знаком компаниям, например, Кодекс корпоративного управления и Кодекс практики ICO по обмену данными. Хотя эти кодексы будут разрабатываться совместно с компаниями и другими заинтересованными сторонами открытым и прозрачным образом, регулирующий орган в конечном итоге примет решение об их содержании.

3.8. Регулирующий орган будет оценивать, выполнили ли компании свою обязанность проявлять осторожность, в том числе со ссылкой на соответствующие своды правил и соблюдение соответствующих положений и условий компании. Невыполнение этих обязательств может привести к принудительным действиям со стороны регулирующего органа. Более подробная информация о правоприменении содержится в главе 6.

3.9. Регулирующий орган также ожидает, что компании разъяснят, как они выполняют свою установленную законом обязанность проявлять осторожность. Соответствующие положения и условия должны быть достаточно ясными и доступными, в том числе для детей и других уязвимых пользователей. Регулирующий орган оценит, насколько эффективно эти условия применяются в рамках любых регулирующих действий.

Терроризм и CSEA онлайн​

3.10. От компаний потребуется принять особо решительные меры по борьбе с использованием террористами Интернета и онлайновой CSEA. Правительство будет иметь право давать инструкции регулирующему органу относительно содержания кодексов практики по этим видам вреда, а также будет утверждать проекты кодексов до их введения в действие. Точно так же регулирующий орган обычно не соглашается с тем, чтобы компании принимали предложения, которые расходятся с этими двумя кодексами практики, и потребует большого бремени доказательств эффективности альтернативных предложений.

3.11. В период между публикацией этой Белой книги и созданием регулирующего органа правительство будет работать с правоохранительными и другими соответствующими органами над созданием временных кодексов практики в отношении террористического контента в Интернете и CSEA. Эти коды будут опубликованы позже в этом году.

Общий мониторинг​

3.12. Регулирующий орган не будет заставлять компании проводить общий мониторинг всех сообщений в своих онлайн-сервисах, поскольку это будет непропорционально тяжелым бременем для компаний и вызовет опасения по поводу конфиденциальности пользователей. Тем не менее, правительство считает, что есть веские основания для введения в действие специального мониторинга, нацеленного на те места, где существует угроза национальной безопасности или физической безопасности детей, например CSEA и терроризм.

Прозрачность, доверие и подотчетность​

3.13. Развитие культуры прозрачности, доверия и подотчетности, а также последовательных стандартов прозрачности станет важнейшим элементом новой нормативной базы.

3.14. В мае 2018 г. в ответе правительства на консультацию по Зеленому документу стратегии безопасности в Интернете была определена роль, которую прозрачность и отчетность должны играть в формировании нашего понимания масштабов вреда в Интернете и того, насколько эффективно компании борются с нарушениями своих условий.

3.15. Наряду с этим ответом мы опубликовали черновой вариант шаблона отчетности по прозрачности и начали ряд взаимодействий с представителями отрасли. Этот процесс, который включал обсуждения с участием более чем 20 компаний, позволил получить полезные сведения о текущих действиях отрасли. Отрадно, что с тех пор все больше компаний начали публиковать собственные отчеты о глобальной прозрачности. Позднее в этом году мы опубликуем первый годовой отчет правительства о прозрачности.

3.16. В то же время мы указали, что отчетность о прозрачности является одной из потенциальных областей для нового законодательства. Большая прозрачность обеспечит:

• Регулирующий орган может получить представление об уровне вреда для онлайн-платформ и смягчающих действиях, предпринимаемых компаниями. Это проинформирует ее о приоритетах регулирования и определит эффективность различных мер регулирования и соответствие им.

• Пользователи могут лучше понять и осознать, предпринимают ли и в какой степени компании позитивные шаги для обеспечения безопасности своих пользователей, а также о процессах, применяемых различными компаниями для предотвращения ущерба.

• Компании несут ответственность за влияние своих платформ и продуктов на своих пользователей. Это будет стимулировать подотчетность в отрасли.

3.17. Чтобы информировать свои отчеты и руководить своими регулирующими действиями, регулирующий орган будет иметь право требовать от компаний годовые отчеты, охватывающие следующие области:

• Доказательства эффективного обеспечения соблюдения соответствующих условий и положений компании, которые должны отражать рекомендации регулирующего органа в его кодексах практики.

• Процессы, применяемые в компании для сообщения о незаконном и вредоносном контенте и поведении, количество полученных сообщений и количество таких сообщений, которые привели к действиям.

• Активное использование технологических инструментов, где это уместно, для выявления, пометки, блокировки или удаления незаконного или вредоносного контента.

• Действующие меры и гарантии для защиты и защиты основных прав, гарантирующие, что решения об удалении контента, блокировке и / или удалении учетных записей являются хорошо обоснованными, особенно когда используются автоматизированные инструменты и у пользователей есть эффективный способ апелляции.

• При необходимости, свидетельство сотрудничества с правоохранительными органами и другими соответствующими государственными органами, регулирующими органами и государственными учреждениями.

• Подробная информация об инвестициях в поддержку обучения пользователей и осведомленности о вреде в сети, в том числе посредством сотрудничества с гражданским обществом, малыми и средними предприятиями (МСП) и другими компаниями.

3.18. Регулирующий орган будет составлять и публиковать ежегодный отчет о прозрачности, в котором излагаются ключевые данные о результатах деятельности компаний в отношении их обязанности проявлять осторожность и распространенности вреда на различных платформах. Он также будет публиковать отчеты компаний о прозрачности на своем веб-сайте, чтобы они были легко доступны для общественности, чтобы пользователи и родители могли принимать информированные решения об использовании Интернета. Если регулирующий орган потребовал, чтобы компании представляли отчеты о прозрачности, это будет обязательно; невыполнение этого требования приведет к принудительному действию (как указано в главе 6).

3.19. Регулирующий орган будет использовать информацию, полученную от пользователей, гражданского общества, правительства, правоохранительных и других соответствующих государственных органов, а также других регулирующих органов для информирования о своем понимании распространенности и воздействия вреда в сети, а также эффективности ответных мер компаний.

3.20. Помимо права требовать от компаний ежегодных отчетов, регулирующий орган будет иметь право требовать от них дополнительную информацию для информирования о своей надзорной или правоприменительной деятельности, а также устанавливать требования к раскрытию информации. Он также может проводить тематические обзоры проблемных областей, например, анализ обращения с материалами, связанными с членовредительством или самоубийством. Регулирующий орган будет иметь право требовать от компаний делиться исследованиями, которые они проводят или заказали, которые показывают, что их деятельность может причинить вред.

3.21. Регулирующий орган будет опираться на взаимодействие правительства с компаниями, чтобы понять, как лучше всего установить сопоставимые точки данных и отчетность между платформами.

3.22. В рамках движения к большей прозрачности компании также должны работать вместе с регулирующим органом, чтобы выработать общее понимание механизмов связанных с ними платформ или услуг. При необходимости, чтобы установить, что компании должным образом выполняют свои обязанности по соблюдению мер предосторожности, регулирующий орган будет иметь право запрашивать объяснения того, как работают алгоритмы. Регулирующий орган может, например, потребовать от компаний продемонстрировать, как алгоритмы выбирают контент для детей, и предоставить средства для тестирования работы этих алгоритмов.

3.23. При определении того, где такие объяснения будут уместными и в какой форме они должны быть, регулирующий орган будет тесно сотрудничать с Центром этики данных и инноваций, экспертным органом, который был создан для консультирования правительства по вопросам регулирования данных, включая алгоритмические инструменты. Для обеспечения коммерческой конфиденциальности потребуются соответствующие меры безопасности, хотя регулирующий орган вряд ли потребует прямого доступа к собственным кодам компаний, если будут предоставлены необходимые объяснения.

3.24. Несколько крупнейших компаний обещали независимым исследователям доступ к анонимной информации в соответствии с требованиями защиты данных. Это позитивный шаг, хотя пока неясно, были ли выполнены эти обещания. Правительство приветствует эти шаги и считает, что такой уровень прозрачности для исследователей является необходимой частью развития более глубокого понимания вреда в Интернете. Мы поручаем регулирующему органу поощрять такой подход и обеспечивать, чтобы компании предоставляли соответствующую информацию.

3.25. Мы ожидаем, что регулирующий орган будет способствовать развитию культуры сотрудничества между компаниями и поощрять компании, особенно крупные, делиться информацией о вреде в Интернете. Пользователи, причиняющие вред, часто перемещаются между платформами, особенно чтобы вести себя незаконно и распространять незаконный контент. Важное значение будет иметь более высокий уровень сотрудничества между платформами путем обмена наблюдениями и передовым опытом для предотвращения распространения вреда от одного поставщика к другому.

Вопросы для консультации​

Вопрос 1 : Это правительство обязалось ежегодно предоставлять прозрачную отчетность. Следует ли правительству делать больше, помимо мер, изложенных в этой Белой книге, для создания культуры прозрачности, доверия и подотчетности в отрасли, и если да, то что?

Исправление пользователя​

3.26. Многие компании заявляют об отличном опыте работы в области онлайн-безопасности, но ответы на нашу Зеленую книгу по стратегии интернет-безопасности показали, что это не соответствует опыту пользователей. Чтобы выполнить новую обязанность проявлять осторожность, мы ожидаем, что компании, где это уместно, будут иметь эффективную и легкодоступную функцию рассмотрения жалоб, позволяющую пользователям выражать озабоченность по поводу конкретных фрагментов вредоносного контента или действий или более широкие проблемы, которые компания нарушил свою обязанность проявлять осторожность. Пользователи должны получать своевременные, четкие и прозрачные ответы на свои жалобы, и должна существовать внутренняя функция обжалования. Регулирующий орган будет осуществлять надзор за этими процессами, в том числе посредством прозрачности информации об объеме и результатах жалоб, а также будет иметь право требовать улучшений там, где это необходимо.

3.27. В дополнение к внутренним процессам обжалования, мы признаем, что в некоторых обстоятельствах могут быть уместны механизмы независимой проверки или решения. Это повысит подотчетность компаний и поможет восстановить доверие пользователей. Консультируем по следующему варианту:

• Следует ли предусмотреть в законодательстве положение, позволяющее назначенным органам подавать «суперпретензии» регулирующему органу для рассмотрения при конкретных и четко подтвержденных обстоятельствах. Это может быть важной гарантией в процессе возмещения ущерба пользователям, и мы также консультируемся о том, когда такие жалобы будут уместными и наиболее эффективными, а также с органами или группами, которые могут быть уполномочены их подавать.

3.28. Мы также будем приветствовать мнения в процессе консультаций о дополнительных вариантах возмещения ущерба.

Вопросы для консультации​

Вопрос 2 : Должны ли назначенные органы иметь возможность подавать «суперпретензии» в регулирующий орган при конкретных и четко подтвержденных обстоятельствах?

Вопрос 2a : Если вы ответили на вопрос 2 «да», при каких обстоятельствах это должно произойти?

Вопрос 3 : Какие другие меры следует рассмотреть правительству, если таковые имеются, для пользователей, которые хотят выразить озабоченность по поводу определенных фрагментов вредоносного контента или действий и / или нарушений обязанности проявлять осторожность?

3.29. В соответствии с действующими договоренностями, физические лица могут, в принципе, получить средства правовой защиты в суде против компаний, которые проявили халатность или нарушили договор с физическим лицом, но такие юридические действия могут вызвать трудности. Например, трудности с установлением обязанности компании проявлять заботу о лице, подавшем иск, с указанием причинной связи между их деятельностью и причиненным ущербом или с получением фактических доказательств. Наша модель регулирования предоставит доказательства и установит стандарты, которые могут повысить эффективность существующих средств правовой защиты физических лиц.

3.30. Основная роль регулирующего органа в процессе возмещения ущерба пользователям будет заключаться в надзоре за соблюдением требований к соответствующим компаниям в отношении наличия надлежащих и эффективных внутренних процессов рассмотрения жалоб, включая рассмотрение вопроса о том, должна ли функция обжалования при определенных обстоятельствах. Регулирующий орган также определит любой процесс «суперпретензий» и назначит органы. Мы не предусматриваем роль самого регулирующего органа в разрешении споров между отдельными лицами и компаниями, но если пользователи выражают озабоченность регулирующему органу, он сможет использовать эту информацию в рамках рассмотрения вопроса о возможных системных сбоях, оправдывающих принудительное исполнение. действие. Мы также потребуем, чтобы регулирующий орган принимал во внимание интересы пользователей.

Регулирование на практике: возмещение ущерба пользователям: как нормативно-правовая база будет работать для физических лиц - вставка 24​

В настоящий момент люди могут подавать жалобы и опасения по поводу вредоносной онлайн-активности в компании, но процессы различаются, а предоставление услуг в отрасли неоднородно. У некоторых компаний нет эффективных средств решения проблем пользователей, и не всегда ясно, какой ответ получит пользователь. Только двое из пяти респондентов на правительственной консультации по стратегии интернет-безопасности считают, что компании, работающие в социальных сетях, серьезно относятся к их опасениям. Нормативно-правовая база, предложенная в этой Белой книге, предоставит людям новые возможности для рассмотрения жалоб:
1. Право на внутреннюю процедуру рассмотрения жалоб, соответствующую стандартам, установленным регулирующим органом. В соответствующих случаях компании, на которые распространяется действие регулирующего органа, должны будут иметь эффективный процесс рассмотрения жалоб, и регулирующий орган установит минимальные стандарты для этих процессов. Это означает, что пользователи будут знать, как они могут подать жалобу, сколько времени потребуется компании для расследования и какой ответ они могут ожидать (включая право на апелляцию).
2. Право на возмещение ущерба в независимом процессе. Если компания не может или не желает разрешить жалобу, или пользователь не удовлетворен ответом, для пользователей может быть целесообразно иметь возможность требовать возмещения ущерба в рамках независимой процедуры. Мы ищем мнения о том, как это может работать на практике, в том числе о том, следует ли регулирующему органу использовать схему «суперпретензий», с помощью которой назначенные организации могли бы поднимать вопросы с регулирующим органом от имени пользователей.
3. Возможность предупредить регулирующий орган о предполагаемом нарушении компанией обязанности проявлять осторожность. Хотя регулирующий орган обычно не выносит решения по индивидуальным жалобам на компании, пользователи могут сообщать о проблемах регулирующему органу. Это будет важной частью обзора горизонта регулирующего органа, чтобы определить, где компании могут не выполнять свои обязанности по заботе о своих пользователях.
4. Возможность использования выводов регулирующего органа в любых исках против компании в судах на основании халатности или нарушения контракта. И, если регулирующий орган обнаружит нарушение установленной законом обязанности проявлять осторожность, это решение и доказательства, которые привели к нему, будут доступны физическому лицу для использования в любом частном судебном процессе.

Роль парламента​

3.31. Будет важно гарантировать, что Парламент сможет тщательно контролировать работу регулирующего органа. Механизмы достижения этого будут частично зависеть от того, является ли регулирующий орган новым или уже существующим, но, вероятно, они будут включать, например, обязанность регулирующего органа представлять свой годовой отчет и проверенные отчеты в парламент. Регулирующий орган также будет нести общую ответственность за предоставление парламенту информации о своей работе по запросу.

3.32. Кроме того, мы рассмотрим, какую роль должен играть парламент по отношению к кодексам практики регулирующего органа. Роль парламента в отношении кодексов практики и руководящих указаний, издаваемых другими регулирующими органами, варьируется в зависимости от различных режимов регулирования, начиная от формального утверждения и заканчивая отсутствием определенной роли. Мы будем рассматривать варианты роли парламента по мере более детальной разработки этих предложений.

Вопросы для консультации​

Вопрос 4 : Какую роль должен играть Парламент в проверке работы регулирующего органа, включая разработку кодексов практики?

4. Компании в сфере регулирования​

Резюме​

• Нормативно-правовая база будет применяться к компаниям, которые предоставляют услуги или инструменты, которые позволяют, позволяют или помогают пользователям делиться или обнаруживать созданный пользователями контент или взаимодействовать друг с другом в Интернете.
• Эти услуги предлагаются широким кругом компаний, включая стартапы и малые и средние предприятия, а также другие организации, такие как благотворительные.
• Применение нормативных требований и модели обязанности проявлять осторожность будет отражать разнообразие организаций по охвату и обеспечивать ориентированный на риски и пропорциональный подход. Мы минимизируем чрезмерную нагрузку, особенно на малый бизнес и организации гражданского общества.
• Отражая важность конфиденциальности, любые требования по сканированию или мониторингу контента на предмет строго определенных категорий незаконного контента не будут применяться к частным каналам. Мы консультируем по поводу определений частных сообщений и того, какие меры следует применять к этим услугам.
4.1. Вредный контент и поведение исходят из широкого спектра онлайн-платформ или сервисов и перемещаются между ними, и их нельзя легко классифицировать по одной бизнес-модели или отрасли. Сосредоточение внимания на услугах, предоставляемых компаниями, а не на их бизнес-модели или секторе, ограничивает риск того, что онлайн-ущерб просто переместится и распространится за рамки новой нормативной базы. Мы предлагаем, чтобы нормативно-правовая база применялась к компаниям, которые позволяют пользователям обмениваться или обнаруживать пользовательский контент или взаимодействовать друг с другом в Интернете.

4.2. Существует два основных типа онлайн-активности, которые могут привести к ущербу в сети или усугубить свои последствия:

• Хостинг, совместное использование и обнаружение контента, созданного пользователями (например, сообщения на общедоступном форуме или совместного использования видео).

• Содействие общедоступному и частному онлайн-взаимодействию между пользователями службы (например, обмен мгновенными сообщениями или комментарии к сообщениям).

4.3. Эти услуги пользователям предоставляют самые разные организации. Это будет означать, что компании любого размера будут подпадать под действие нормативной базы. В сферу охвата будут входить компании из различных секторов, включая компании социальных сетей, общественные дискуссионные форумы, розничных продавцов, которые позволяют пользователям просматривать продукты в Интернете, а также некоммерческие организации, сайты обмена файлами и провайдеров облачного хостинга.

4.4. Такой комплексный подход важен для эффективности новой нормативной базы.

4.5. Мы также признаем важность сведения к минимуму чрезмерной нагрузки на организации в сфере деятельности и избежания неопределенности в отношении того, как будут применяться правила. Чтобы обеспечить соразмерный подход и избежать чрезмерной обременительности, применение нормативных требований и модели обязанности проявлять заботу будет отражать разнообразие организаций по охвату, их возможностям и тому, что технически возможно с точки зрения упреждающих мер, в том числе тех, которые предоставляют вспомогательные услуги, такие как кэширование (процесс временного хранения данных в программном или аппаратном «кэше»). Хотя мы минимизируем чрезмерную нагрузку в зависимости от размера и ресурсов организаций, все компании должны будут принимать разумные и соразмерные меры для устранения ущерба, наносимого их услугам. Регулирующий орган обеспечит ясность в отношении того, что режим регулирования означает на практике для различных компаний, и не будет вводить новые требования, если нет доказательств причинения вреда. Ряд предлагаемых инициатив по противодействию регулятивному бремени изложен в главе 6.

Нормативный подход к частным коммуникациям​

4.6. Определить «частный» и «публичный» в онлайн-пространстве сложно с технической и юридической точек зрения. Например, существует очевидная разница между индивидуальным обменом сообщениями и группой в WhatsApp из нескольких сотен пользователей. Тем не менее, пользователи должны быть защищены от вредоносного контента или поведения, где бы они ни происходили в сети, и преступники не должны иметь возможность использовать онлайн-пространство для осуществления незаконной деятельности. Развитие вредоносной деятельности в Интернете часто связано с сочетанием действий, совершаемых как в государственных, так и в частных каналах связи. Например, террористическая пропаганда часто распространяется по общественным каналам, а такая деятельность, как подготовка террористических атак, происходит в основном по частным каналам. Такие частные каналы также широко используются для хранения и обмена изображениями CSEA или для ухода за маленькими детьми,

4.7. Отражая важность конфиденциальности, структура также обеспечит дифференцированный подход к частному общению, что означает, что любые требования по сканированию или мониторингу контента для строго определенных категорий незаконного контента не будут применяться к частным каналам.

4.8. Мы консультируем нас по поводу соответствующих определений и того, какие нормативные требования могут и должны применяться к частным коммуникационным услугам вместе с этим Белым документом.

Вред: сексуальная эксплуатация и надругательство над детьми - как онлайн-уход распространяется на разные платформы - вставка 25​

Факты показывают, как груминг часто перемещается между платформами, заманивая детей в менее публичные места в Интернете:
• Первоначальный контакт с ребенком часто происходит после того, как грумер определяет его как потенциальную жертву в общественных социальных сетях.
• Правонарушители могут преследовать детей по причинам уязвимости, например психическому здоровью, или используя общедоступную информацию из своих профилей в социальных сетях.
• Процесс ухода может быть обширным; установление взаимопонимания и манипулирование жертвой - но это также может почти сразу перейти к сексуальным домогательствам.
• Затем грумер может отправить ребенку сообщение, используя службу личных сообщений той же платформы или другую службу личных или зашифрованных сообщений, с целью вымогать непристойные изображения и продолжать издевательства над ними.

Вопросы для консультации​

Вопрос 5 : Являются ли предложения по онлайн-платформам и услугам в рамках нормативной базы подходящей основой для эффективного и соразмерного подхода?

Вопрос 6 : Какие критерии следует учитывать при разработке определения частной коммуникации?

Вопрос 7. Какие каналы или форумы, которые можно считать частными, должны входить в сферу регулирования?

Вопрос 7a : Какие конкретные требования могут быть применимы к частным каналам и форумам, чтобы бороться с вредом в Интернете?

ЧАСТЬ 3: Регулирование на практике​

5. Регулятор онлайн-безопасности.​

Резюме​

• Независимый регулирующий орган будет внедрять, контролировать и обеспечивать соблюдение новой нормативной базы. Он будет располагать достаточными ресурсами, необходимыми знаниями и возможностями для эффективного выполнения своей роли.
• Регулирующий орган также будет иметь более широкие обязанности по продвижению просвещения и повышения осведомленности о сетевой безопасности, а также по содействию разработке и внедрению технологий безопасности для борьбы с вредом в сети.
• Регулирующий орган будет применять подход, основанный на оценке риска, приоритизируя действия по борьбе с деятельностью или контентом там, где есть наибольшие доказательства или угроза причинения вреда, или где дети или другие уязвимые пользователи подвергаются риску.
• Чтобы поддержать это, регулирующий орган будет проводить исследования и заказывать их для улучшения доказательной базы, тесно сотрудничая с UKRI и другими партнерами.
• Регулирующий орган будет придерживаться пропорционального подхода, ожидая, что компании будут делать то, что разумно, в зависимости от характера ущерба, а также ресурсов и технологий, доступных им.
• Регулирующий орган будет иметь юридическую обязанность уделять должное внимание инновациям и защищать права пользователей в Интернете, особенно внимательно следя за тем, чтобы не нарушать конфиденциальность и свободу выражения мнений.
• Правительство проводит консультации по вопросу о том, должен ли регулирующий орган быть новым или существующим. Регулирующий орган будет финансироваться отраслью в среднесрочной перспективе, и правительство изучает такие варианты, как сборы, сборы или отраслевые сборы, чтобы поставить его на устойчивую основу.

Функции регулятора​

5.1. Нормативно-правовая база будет внедряться, контролироваться и применяться независимым регулирующим органом. Этот регулирующий орган будет наделен полномочиями, ресурсами и опытом, необходимыми для эффективного выполнения своей роли.

5.2. В функции регулятора будут входить:

• Определение того, что компании должны делать для выполнения обязанности проявлять осторожность, в том числе посредством кодексов практики.

• Создание структуры прозрачности, доверия и подотчетности, подкрепленной полномочиями по сбору информации, для оценки соблюдения компаниями обязанности проявлять осторожность и их собственных соответствующих положений и условий.

• Оказание поддержки стартапам и МСП, чтобы помочь им выполнить свои юридические обязательства пропорциональным и эффективным образом.

• Надзор за внедрением механизмов возмещения ущерба для пользователей.

• Принятие оперативных и эффективных принудительных мер в случае несоблюдения (как указано в Главе 6). • Содействие просвещению и повышению осведомленности о безопасности в Интернете, чтобы пользователи могли оставаться в безопасности в Интернете.

• Содействие разработке и внедрению технологий безопасности для борьбы с вредом в Интернете.

• Проведение и заказ исследований для улучшения нашего понимания вреда в Интернете и его воздействия на людей и общество.

Риск-ориентированный подход​

5.3. Правительство потребует от регулирующего органа принять подход, основанный на оценке риска, уделяя приоритетное внимание регулирующим действиям для устранения вреда, который оказывает наибольшее влияние на отдельных лиц или общество в целом. Это повлияет на разработку свода правил, мониторинг и анализ вреда в сети, работу регулирующего органа с отраслью по разработке технологических решений и правоприменительные меры.

5.4. Регулирующий орган также сосредоточит внимание на компаниях, где существует наибольший риск причинения вреда, исходя из таких факторов, как тип услуги - например, услуги, которые позволяют взрослым пользователям связываться с детьми, услуги с большой базой пользователей и услуги, нацеленные на или популярны среди уязвимых групп пользователей. Он также будет использовать данные о фактическом нанесении вреда различным услугам и послужной список безопасности различных компаний для определения приоритетности своих ресурсов. Регулирующий орган будет использовать свои полномочия для проведения тематических обзоров, целенаправленного сканирования горизонтов и изучения конкретных вопросов для развития своего понимания ландшафта рисков.

5.5. Такой подход, основанный на оценке риска, будет означать, что регуляторный орган на первом этапе сосредоточит внимание на тех компаниях, которые представляют наибольший и наиболее очевидный риск причинения вреда пользователям либо из-за масштабов размера услуги, либо из-за известных проблем с серьезными проблемами. вредит. Мы ожидаем, что регулирующий орган будет применять упреждающий подход к оценке соблюдения в этих случаях, в то время как их подход ко всему спектру компаний в сфере деятельности будет сосредоточен на предоставлении рекомендаций и указаний, а также на принятии ответных мер в ответ на опасения. Это согласуется с подходом, применяемым в ряде других режимов регулирования, включая здравоохранение и безопасность, а также финансовые услуги.

5.6. Подход «обязанность проявлять осторожность» также означает, что компании должны лучше понимать риски, связанные с их услугами, и принимать эффективные и соразмерные меры для снижения этих рисков. Эти шаги должны соответствовать кодексам практики, установленным регулирующим органом. При оценке соблюдения регулирующий орган должен будет рассмотреть, был ли ущерб предсказуемым и, следовательно, что разумно ожидать от компании. В случае возникновения нового риска компания должна уведомить регулирующий орган, чтобы обсудить лучший подход к смягчению последствий и поделиться знаниями между компаниями.

Соразмерный подход​

5.7. Регулятор будет учитывать способность компаний выполнять нормативные требования, в том числе охват их платформ с точки зрения пользовательской базы и серьезности ущерба. Этот соразмерный подход также будет закреплен в законодательстве, четко разъяснив, что компании должны делать то, что «разумно практически осуществимо» - тест, который подтвердил успех законодательства в области здравоохранения и безопасности. Тем не менее, все компании, попадающие в сферу охвата, должны будут принимать разумные и соразмерные меры для устранения вреда, причиняемого их услугами, а регулирующий орган будет четко определять, что компании должны делать для борьбы с незаконной деятельностью и обеспечения безопасности детей в Интернете.

5.8. Мы ожидаем, что регулирующий орган будет соблюдать принципы передовой практики регулирования, что означает, что его деятельность будет чувствительна к воздействиям на конкуренцию и, в частности, на малый и микропредприятия (см. Вставку 26).

5.9. Регулирующий орган также должен будет поддерживать менее обеспеченные ресурсами компании в рамках своей работы по разработке инструментов для наращивания потенциала среди компаний и пользователей. Например, мы ожидаем, что регулирующий орган будет работать с отраслью для поощрения разработки технологий, способствующих соблюдению требований, а также для облегчения межсекторального сотрудничества и обмена опытом. Эти технологии могут быть доступны для начинающих или небольших компаний. Это часть более широкой консультативной роли регулирующего органа, через которую он, например, будет предоставлять отрасли техническую информацию о передовых процессах модерации контента или предоставлять инструменты, объясняющие общие модели поведения киберпреследователей.

5.10. В процессе консультаций вместе с этой Белой книгой мы намерены работать с отраслью, гражданским обществом и общественностью, чтобы найти способы минимизировать любое чрезмерное бремя и обеспечить дополнительную уверенность для бизнеса, а также изучить, что еще регулирующий орган может сделать, чтобы добиться этого. соблюдение норм простое и практичное для всех предприятий.

Регулирование на практике: более совершенные принципы регулирования и новая нормативно-правовая база - вставка 26​

Нам нужно, чтобы все платформы принимали разумные меры для обеспечения безопасности своих пользователей. Вред может возникнуть как на малых, так и на больших платформах. В Интернете нет места, где было бы приемлемо размещать материалы о сексуальном насилии над детьми или террористические материалы.
Регулирование может наложить непропорционально тяжелое бремя на более мелкие компании. Плохо разработанное регулирование может подавить инновации, давая преимущество крупным компаниям, которые могут легче справляться с соблюдением требований. Мы убеждены, что эта нормативная база должна обеспечивать надежную защиту наших граждан, избегая при этом возложения непосильного бремени на небольшие компании.
Для этого мы предпримем пять ключевых шагов:
1. Соразмерный подход. Регулирующий орган будет учитывать способность компаний выполнять нормативные требования, в том числе их размер и охват их платформ с точки зрения пользовательской базы, а также риск и распространенность ущерба для их услуг.
2. Обязанность новаторства. Регулирующий орган будет обязан по закону уделять должное внимание инновациям. Это будет включать внедрение структуры таким образом, чтобы не предъявлять невыполнимых требований новым компаниям и компаниям-претендентам. Это также гарантирует, что стартапы и разработчики инновационных продуктов могут работать с регулирующим органом, например, через нормативные песочницы.
3. Простое соблюдение требований. Перед регулирующим органом будет поставлена задача помогать стартапам и МСП выполнять свои обязательства. Мы будем извлекать уроки из передового опыта в других секторах, например, из поддержки, оказываемой компаниям Управлением по охране здоровья и безопасности или ICO.
4. Использование техники. Правительство будет работать с регулирующим органом над продвижением эффективных решений технологического соответствия, которые могут быть доступны для стартапов и малого бизнеса.
5. Минимизация затрат на соблюдение требований. Мы рассмотрим варианты оптимизации соответствия, включая создание правил для исполняемых файлов машин и упрощение безопасного обмена данными.

Юридическое обязательство поддерживать инновации​

5.11. Регулирующий орган будет иметь юридическое обязательство уделять должное внимание инновациям. Аналогичное обязательство было возложено на ICO в соответствии с Законом о защите данных 2018 года. Это позволило регулирующему органу полностью внедрить надежный режим защиты данных в продвижении инноваций. В настоящее время ICO планирует создать инициативу, которая будет активно поддерживать организации в разработке инновационных продуктов и услуг, использующих личные данные и приносящих пользу общественности. ICO предоставит эту поддержку независимо от того, находятся ли эти инновации на этапах проектирования, проверки концепции и тестирования или в качестве дальнейшего постоянного развития существующих инновационных продуктов / услуг. Это отличается от юридического требования о защите данных по дизайну. Мы ожидаем, что регулирующий орган изучит аналогичные подходы к поддержке и поощрению инноваций в этой сфере. при соблюдении минимальных требований к безопасности пользователя. Это обязательство побудит регулирующий орган применять гибкий, пропорциональный и основанный на оценке риска подход при установлении и обеспечении соблюдения ожиданий и ответственности для компаний.

Защита прав пользователей в сети​

5.12. Регулирующий орган также будет обязан защищать права пользователей в Интернете, особенно права на неприкосновенность частной жизни и свободу выражения мнения. Это гарантирует, что новые нормативные требования не приведут к непропорционально высокой нежелательной реакции со стороны компаний, которая необоснованно ограничивает свободу выражения мнения, в том числе путем ограничения участия в общественных обсуждениях. Его регулирующие действия должны быть справедливыми, разумными и прозрачными.

Эмпирический подход​

5.13. Новый регулирующий орган будет применять научно-обоснованный подход к регулирующей деятельности. Ему необходимо будет понять потенциальное влияние технологических разработок на компании, которые он регулирует, а также опыт пользователей, причиняющий вред. Чтобы поддержать это, мы ожидаем, что он будет проводить регулярную программу консультаций с пользователями, проекты углубленных исследований и деятельность по сканированию горизонтов. Он будет работать с компаниями, чтобы обеспечить ученым доступ к данным компании для проведения исследований при соблюдении соответствующих мер безопасности. Такой динамичный подход к сбору доказательств поможет регулирующему органу оценить меняющийся характер вреда и связанных с ним рисков, а также мест и способов его проявления в Интернете.

5.14. Регулирующий орган будет тесно сотрудничать с UKRI для обеспечения поддержки целевых исследований вреда в Интернете, а также для развития коллективного понимания вреда в Интернете и базы данных, опираясь на работу Группы доказательств UKCIS. Это будет включать работу с соответствующими аспектами темы цифровой экономики UKRI - партнерство между Советом по исследованиям в области инженерных и физических наук (EPSRC), Советом по исследованиям в области искусства и гуманитарных наук (AHRC), Советом по экономическим и социальным исследованиям (ESRC) и Innovate UK.

Регулирующий орган​

5.15. Независимый регулирующий орган может быть создан либо путем создания нового органа, либо путем изменения круга ведения и функций существующей организации. Обычные процессы утверждения правительством будут применяться к учреждению нового регулирующего органа центрального правительства. Правительство рассматривает:

• Новый регулятор. Создание специального нового регулирующего органа предоставит четкую и последовательную возможность сосредоточиться на онлайн-безопасности и обеспечит новое лидерство в онлайн-безопасности для отрасли и общественности. Однако создание нового органа было бы более дорогостоящим и потребовало бы больше времени, чтобы начать функционировать, и рисковал бы еще больше усложнить регуляторный ландшафт.

• Существующий регулятор. Поручение существующему регулирующему органу взять на себя ответственность за онлайн-безопасность будет означать, что новый режим начнется с авторитета регулирующих органов и будет наилучшим образом использовать существующий опыт и знания. Мы будем оценивать пригодность существующих регулирующих органов на основе их текущих обязанностей, типа регулирования, за которое они уже несут ответственность, их послужного списка успешной работы в сложных секторах и их способности брать на себя новые обязанности по обеспечению онлайн-безопасности, включая совместимость с их текущими правовой статус и операционная модель.

5.16. Если бы нам пришлось создать новый специализированный регулирующий орган в долгосрочной перспективе, нам нужно было бы рассмотреть варианты на промежуточный период, учитывая время, которое потребуется для создания нового органа. К ним относятся наделение существующего регулирующего органа на ограниченный период времени (Ofcom был бы сильным кандидатом, учитывая его опыт в поддержании своих текущих полномочий по борьбе с вредоносным или оскорбительным контентом в контексте телевидения и радио) или создание теневого органа, который может сделать необходимые приготовления перед новой властью. Любой подход потребует сотрудничества с другими регулирующими органами, чтобы новая структура дополняла существующие меры безопасности.

5.17. Наряду с этими вариантами правительство внимательно изучает возможности существующих регулирующих органов, которые могут пересекаться с этими новыми требованиями, а также вопрос о том, снизит ли консолидация этих функций или более широкая реструктуризация регуляторного ландшафта риск дублирования и минимизирует нагрузку на бизнес. Также важно учитывать, где в будущем могут сидеть регулирующие функции по борьбе с другим вредом в Интернете, чтобы гарантировать устойчивость институциональных структур.

5.18. Правительство предпримет шаги для обеспечения того, чтобы регулирующий орган мог вызвать доверие общества к его независимости, беспристрастности, возможностям и эффективности. Например, мы рассмотрим примеры из других регулируемых секторов о том, как гарантировать, что любое перемещение персонала между регулирующим органом и компаниями в сфере его действия не подорвет доверие общественности к независимости регулирующего органа, а также обеспечит, чтобы регулирующий орган мог привлекать персонал с помощью правильные навыки, знания и опыт.

Вопросы для консультации​

Вопрос 8 : Какие дальнейшие шаги можно предпринять для обеспечения того, чтобы регулирующий орган действовал целенаправленно и соразмерно?

Вопрос 9 : Какие советы или поддержка, если таковые имеются, мог бы предоставить регулирующий орган, чтобы помочь предприятиям, особенно стартапам и МСП, соблюдать нормативную базу?

Вопрос 10 : Должен ли онлайн-регулятор ущерба быть: (i) новым государственным органом или (ii) существующим государственным органом?

Вопрос 10a : Если вы ответили на вопрос 10 (ii), каким органом или органами это должно быть?

Полномочия и возможности регулятора​

5.19. Отношения между компаниями и регулирующими органами часто асимметричны. Что касается вреда в сети, эту асимметрию можно преодолеть только в том случае, если регулирующий орган будет иметь реальный опыт в технологиях, платформах и методах регулирования.

5.20. Новому регулирующему органу потребуется способность понимать, как работают онлайн-технологии и платформы, а также собирать, анализировать и действовать на основе соответствующих данных, предоставляемых компаниями, услуги которых входят в сферу охвата. Это также потребует достаточных возможностей для проведения исследований и сканирования горизонтов, чтобы гарантировать, что нормативные требования не отстают от инноваций и появления новых угроз.

5.21. Правительство рассчитывает, что новый регулирующий орган быстро станет экономически нейтральным для государственного сектора. Чтобы возместить затраты на установку и текущие текущие расходы, правительство рассматривает возможность взимания сборов, сборов или сборов с компаний, услуги которых входят в сферу охвата. Это могло бы финансировать весь спектр деятельности регулирующего органа, включая установление и обеспечение соблюдения кодексов практики, подготовку отчетов о прозрачности, а также любые образовательные и информационные мероприятия регулирующего органа.

Вопросы для консультации​

Вопрос 11 : Предполагается, что новый или существующий регулирующий орган будет нейтральным с точки зрения затрат: на каком основании должны определяться любые финансовые взносы от отрасли?

6. Правоприменение​

Резюме​

• Регулирующий орган будет иметь ряд правоприменительных полномочий для принятия мер против компаний, которые не выполняют свои обязанности по обеспечению осторожности. Это будет включать право налагать значительные штрафы.
• Мы консультируемся по вопросу о том, какие правоприменительные полномочия должны быть в распоряжении регулирующего органа, в частности, для обеспечения равных условий для компаний, которые имеют юридическое присутствие в России, и компаний, которые работают исключительно за рубежом.
• В частности, мы консультируем о полномочиях, которые позволят регулирующему органу нарушать деловую деятельность компании, не соблюдающей нормативные требования, мерах по наложению ответственности на отдельных членов высшего руководства и мерам по блокированию услуг, не соответствующих требованиям.
• Компании будут по-прежнему нести ответственность за наличие незаконного контента или действий в своих услугах с учетом существующих мер защиты.
6.1. Регулирующий орган будет иметь набор полномочий для принятия эффективных принудительных мер в отношении компаний, которые нарушили свою установленную законом обязанность проявлять осторожность. Хотя основная цель будет заключаться в принятии быстрых корректирующих мер, отказ компаний от сотрудничества приведет к серьезным последствиям.

Правоприменительные полномочия регулирующего органа​

6.2. Чтобы быть эффективным, регулирующий орган должен обладать правоприменительными полномочиями, которые стимулируют компании к соблюдению и технически возможны для реализации. Регулирующий орган будет использовать эти полномочия пропорционально, принимая во внимание влияние на экономику. Эти полномочия также должны разрабатываться и использоваться таким образом, чтобы создавать равные условия игры, чтобы компании, представленные в России, не подвергались несоразмерному наказанию.

6.3. Возможные санкции за несоблюдение должны:

• Стимулировать компании выполнять свои обязательства быстро и эффективно.

• Эффективно применять к разным типам онлайн-компаний, которые сильно различаются по размеру и доходам и могут находиться за границей.

• Быть соразмерным потенциальному или фактическому ущербу, а также размеру и доходам компании.

6.4. Существует ряд правоприменительных полномочий, которые станут неотъемлемой частью инструментария нового регулирующего органа. Эти полномочия были хорошо проверены во многих других режимах регулирования. Эти основные полномочия будут включать:

• Наложение гражданских штрафов за доказанные неудачи при четко определенных обстоятельствах. Гражданские штрафы могут быть привязаны к таким показателям, как годовой оборот, объем незаконных материалов, количество просмотров незаконных материалов и время, необходимое для ответа регулирующему органу.

• Отправка уведомления компании, которая предположительно нарушила стандарты, и установление сроков для ответа с планом действий по устранению проблемы.

• Требование дополнительной информации от компании относительно предполагаемого нарушения.

• Публикация публичных уведомлений о доказанном несоблюдении компанией стандартов.

6.5. Однако из-за особо серьезного характера ущерба, глобального характера многих онлайн-сервисов и слабых экономических стимулов для компаний изменить свое поведение, мы считаем, что регулирующему органу, вероятно, потребуются дополнительные полномочия в его распоряжении. Эти меры будут более спорными из-за проблем, связанных с их технической осуществимостью, или из-за потенциального воздействия на компании и экономику в целом. Поэтому мы консультируемся по этим вариантам вместе с этим White Paper:

• Нарушение деловой активности. В случае чрезвычайно серьезных нарушений, например, когда компания не принимает мер по прекращению использования ее услуг террористами, может оказаться целесообразным заставить сторонние компании отозвать любую предоставляемую ими услугу, которая прямо или косвенно облегчает доступ к услугам первая компания, например результаты поиска, магазины приложений или ссылки в сообщениях в социальных сетях. Эти меры должны быть совместимы с Европейской конвенцией о правах человека.

• Блокировка ISP. Блокировка провайдером интернет-услуг (ISP) несоответствующих веб-сайтов или приложений - по сути, блокирование доступа к платформам компаний - может быть крайней мерой принуждения. Этот вариант будет рассматриваться только в том случае, если компания совершала серьезные, неоднократные и вопиющие нарушения требований к результатам в отношении незаконного вреда, не соблюдая базовые стандарты после неоднократных предупреждений и уведомлений об улучшениях. Развертывание такой опции было бы решением только независимого регулирующего органа. Хотя мы признаем, что это будет иметь технические ограничения, оно может иметь достаточное воздействие, чтобы действовать как мощный сдерживающий фактор. Британский совет по классификации фильмов (BBFC) будет иметь эту силу к адресному несоблюдения, когда требование к возрасту проверки на интернет-сайтах порнографии вступает в силу.

• Ответственность высшего руководства. Мы изучаем возможные варианты создания новых обязательств для отдельных руководителей высшего звена. Это будет означать, что определенные лица будут привлечены к личной ответственности в случае серьезного нарушения установленной законом обязанности проявлять осторожность. Это может повлечь за собой личную ответственность за гражданские штрафы или даже за уголовную ответственность. В сфере финансовых услуг введение режима старших менеджеров и сертификации привело к изменению культуры управления рисками в этом секторе. Еще один недавний пример действий правительства - установление корпоративных правонарушений в виде неспособности предотвратить преступное содействие уклонению от уплаты налогов. Недавние изменения в Правилах конфиденциальности и электронных коммуникаций (PECR) предоставляют полномочия по возложению ответственности на конкретное лицо или должность в организации. Однако, это еще в значительной степени не проверено. Существует ряд вариантов того, как это может быть применено к компаниям в рамках онлайн-концепции ущерба, и ряд проблем, таких как определение того, какие роли должны быть предписаны и может ли это быть соразмерным для небольших компаний.

Вопросы для консультации​

Вопрос 12 : Следует ли наделить регулирующий орган полномочиями i) нарушать коммерческую деятельность, или ii) осуществлять блокировку ISP, или iii) вводить режим ответственности высшего руководства? Какие дополнительные полномочия должны быть доступны регулятору?

Работа с правоохранительными органами и другими соответствующими государственными органами​

6.6. Как указывалось ранее, регулирующий орган установит для компаний спектр ожиданий, отражающих характер вреда в Интернете и соответствующую компанию. Ожидания, возлагаемые на фирмы в соответствии с практическими правилами, будут варьироваться в зависимости от категории ущерба.

6.7. Кодексы практики в отношении конкретного незаконного вреда (например, терроризма и CSEA) будут стремиться изложить ожидания, которые соответствуют преступному поведению и деятельности. Они устанавливают требования и процессы, где это уместно и соразмерно, для передачи незаконного контента и деятельности правоохранительным органам и другим соответствующим государственным органам для содействия расследованиям.

6.8. При формулировании кодексов практики в отношении другого незаконного вреда регулирующий орган должен будет учитывать мнения правоохранительных органов и других соответствующих государственных органов, чтобы убедиться, что кодексы адекватно устраняют угрозу. Регулирующий орган также должен будет гарантировать, что его более широкие действия не наносят ущерба вопросам национальной безопасности.

Правоприменение в международном контексте​

6.9. Новый режим регулирования должен будет учитывать глобальный характер как цифровой экономики, так и многих других компаний. Закон будет применяться к компаниям, которые предоставляют услуги пользователям. Мы разработаем полномочия регулятора, чтобы он мог принимать меры против компаний, не имеющих законного присутствия, включая блокирование доступа к платформам в качестве крайней меры. Если компании не имеют юридического представительства, потребуется тесное сотрудничество между государственными органами, регулирующими органами и правоохранительными органами за рубежом, в ЕС и других странах.

6.10. Мы также рассматриваем варианты того, как регулирующий орган при определенных обстоятельствах может потребовать от компаний, базирующихся за пределами, назначить назначенного представителя из ЕЭЗ. Это похоже на концепцию назначенных представителей в рамках GDPR ЕС. Согласно GDPR, если организация находится за пределами ЕЭЗ, но обслуживает пользователей в ЕЭЗ, от них требуется назначить представителя из ЕЭЗ, который теоретически помогает обеспечить соблюдение требований в отношении компаний, созданных за пределами ЕЭЗ. Это может быть сделано путем назначения представителя по простому контракту на оказание услуг, а информация должна быть легко доступна регулирующему органу путем публикации на веб-сайте компании. Регулирующий орган также обеспечит тесную связь таких представителей с их собственными подлинными знаниями и способностями контролировать ситуацию. Однако, Согласно GDPR, степень соблюдения требований компаниями, базирующимися за пределами ЕЭЗ, все еще относительно непроверена - в прошлом году ICO инициировало первое судебное разбирательство по делу о принудительном применении вне ЕЭЗ в соответствии с GDPR против компании AggregateIQ Data Services Ltd (AIQ), расположенной в Канаде. Регулирующий орган примет во внимание невыполнение компанией такого требования при принятии решений о соответствующих принудительных мерах.

6.11. Жизненно важно, чтобы регулирующий орган придерживался международного подхода. Если аналогичные регулирующие органы и правовые системы действуют в других странах, регулирующий орган будет вести взаимодействие со своими международными партнерами. Наличие этих отношений поддержит способность оказывать давление на компании, основная база которых находится за границей.

6.12. В рамках нашей глобальной стратегии по борьбе с вредом в Интернете правительство будет стремиться работать с международными партнерами для достижения консенсуса и определения общих подходов к обеспечению безопасности граждан в Интернете.

Апелляции​

6.13 Компании и другие лица должны быть уверены в том, что регулирующий орган действует справедливо и в пределах своих полномочий. У них будет возможность добиваться судебного пересмотра действий и решений регулирующего органа через Высокий суд. В ходе консультаций мы также будем запрашивать мнения о том, должен ли существовать какой-либо другой предусмотренный законом механизм проверки, который позволил бы использовать суд, отличный от Высокого суда, и какой барьер следует установить для апелляций через этот путь.

Вопросы для консультации​

Вопрос 13 : Должен ли регулирующий орган иметь право требовать от компании, находящейся за пределами Российской Федерации и ЕЭЗ, назначить назначенного представителя в Российской Федерации или ЕЭЗ при определенных обстоятельствах?

Вопрос 14 : В дополнение к судебному контролю, должен ли существовать законодательный механизм для компаний обжалования решения регулирующего органа, как это существует в отношении Ofcom в соответствии с разделами 192-196 Закона о связи 2003 года?

Вопрос 14a : Если вы ответили на вопрос 14 «да», при каких обстоятельствах компании должны иметь возможность использовать этот установленный законом механизм?

Вопрос 14b : Если вы ответили на вопрос 14 «да», следует ли рассматривать апелляцию на основе принципов, которые будут применяться к заявлению о судебном пересмотре или по существу дела?

Текущая ответственность за незаконный контент​

6.14. В соответствии с текущим режимом ответственности, который вытекает из Директивы ЕС об электронной торговле, платформы защищены от юридической ответственности за любой незаконный контент, который они «размещают» (а не создают) до тех пор, пока они не узнают о нем или не узнают факты или обстоятельства, из которых было бы очевидно, что оно было незаконным и не предприняло «оперативных» действий для удаления или прекращения доступа к нему. Другими словами, они не несут ответственности за часть незаконного контента, созданного пользователями, до тех пор, пока они не получат уведомление о его существовании или если их технология не обнаружила такой контент и впоследствии не удаляла его из своих сервисов вовремя.

6.15. В 2018 году премьер-министр объявил о намерении правительства посмотреть, как можно улучшить работу существующих структур и определений, чтобы компании несли большую ответственность за удаление незаконного контента в своих сервисах. Премьер-министр отметил, что применение уровней ответственности «издателей» к компаниям не будет соразмерным; такой подход вынудит компании проверять каждый фрагмент контента перед загрузкой, чтобы убедиться, что он законный, с последствиями для свободы выражения мнений, и будет трудно согласовать с платформами, на которых размещаются большие объемы пользовательского контента.

6.16. Наш обзор показал, что, хотя важно обеспечить надлежащий уровень ответственности компаний за незаконный контент, это не самый эффективный механизм для изменения поведения компаний. Существующий режим ответственности вынуждает компании принимать меры против незаконного контента только после того, как они были уведомлены о его существовании. Таким образом, он не предоставляет механизма для обеспечения упреждающих действий по выявлению и удалению контента. Кроме того, даже если реформы режима ответственности успешно решат проблему незаконного контента, они не смогут решить весь спектр вредоносной деятельности или вредного поведения. Что еще более важно, акцент на ответственности за наличие незаконного контента не стимулирует системные улучшения в процессах корпоративного управления и управления рисками, которые мы считаем необходимыми. Мы пришли к выводу, что отдельных изменений режима ответственности будет недостаточно. Вместо этого новая нормативная база требует более тщательного подхода. Это повысит ответственность сервисов за нанесение вреда в сети в соответствии с действующим законодательством, разрешающим работу платформ. В частности, от компаний потребуется обеспечить наличие эффективных и соразмерных процессов и управления для снижения риска незаконной и вредоносной деятельности на своих платформах, а также принимать соответствующие и соразмерные меры при возникновении проблем. Новый режим регулирования также обеспечит эффективный надзор за удалением незаконного контента и введет особые требования к мониторингу строго определенных категорий незаконного контента. Вместо этого новая нормативная база требует более тщательного подхода. Это повысит ответственность сервисов за нанесение вреда в сети в соответствии с действующим законодательством, разрешающим работу платформ. В частности, от компаний потребуется обеспечить наличие эффективных и соразмерных процессов и управления для снижения риска незаконной и вредоносной деятельности на своих платформах, а также принимать соответствующие и соразмерные меры при возникновении проблем. Новый режим регулирования также обеспечит эффективный надзор за удалением незаконного контента и введет особые требования к мониторингу строго определенных категорий незаконного контента. Вместо этого новая нормативная база требует более тщательного подхода. Это повысит ответственность сервисов за нанесение вреда в сети в соответствии с действующим законодательством, разрешающим работу платформ. В частности, от компаний потребуется обеспечить наличие эффективных и соразмерных процессов и управления для снижения риска незаконной и вредоносной деятельности на своих платформах, а также принимать соответствующие и соразмерные меры при возникновении проблем. Новый режим регулирования также обеспечит эффективный надзор за удалением незаконного контента и введет особые требования к мониторингу четко определенных категорий незаконного контента. в соответствии с существующим законом, который позволяет платформам работать. В частности, от компаний потребуется обеспечить наличие эффективных и соразмерных процессов и управления для снижения риска незаконной и вредоносной деятельности на своих платформах, а также принимать соответствующие и соразмерные меры при возникновении проблем. Новый режим регулирования также обеспечит эффективный надзор за удалением незаконного контента и введет особые требования к мониторингу четко определенных категорий незаконного контента. в соответствии с существующим законом, который позволяет платформам работать. В частности, от компаний потребуется обеспечить наличие эффективных и соразмерных процессов и управления для снижения риска незаконной и вредоносной деятельности на своих платформах, а также принять соответствующие и соразмерные меры при возникновении проблем. Новый режим регулирования также обеспечит эффективный надзор за удалением незаконного контента и введет особые требования к мониторингу для четко определенных категорий незаконного контента. а также предпринимать соответствующие и соразмерные действия при возникновении проблем. Новый режим регулирования также обеспечит эффективный надзор за удалением незаконного контента и введет особые требования к мониторингу четко определенных категорий незаконного контента. а также предпринимать соответствующие и соразмерные действия при возникновении проблем. Новый режим регулирования также обеспечит эффективный надзор за удалением незаконного контента и введет особые требования к мониторингу для четко определенных категорий незаконного контента.

7. Выполнение обязанности проявлять осторожность​

Резюме​

• В преддверии внедрения новой нормативной базы мы будем поощрять компании к своевременным действиям по устранению вреда в сети.
• Чтобы помочь в этом, в Белой книге изложены ожидания компаний высокого уровня, в том числе некоторые конкретные ожидания в отношении определенного ущерба. Мы ожидаем, что регулирующий орган отразит это в будущих кодексах практики.
7.1. В то время как новый регулирующий орган должен будет разработать своды правил, когда он вступит в силу, правительство ожидает, что компании примут меры сейчас, чтобы бороться с вредоносным контентом или деятельностью в своих услугах. Для тех случаев, когда существует риск для национальной безопасности или физической безопасности детей, правительство опубликует временные своды правил.

7.2. Чтобы поддержать своевременные действия компаний и определить первоначальные приоритеты регулирующего органа, ниже мы изложили общие ожидания компаний. Некоторые из них относятся ко всем видам вреда, а другие - к конкретным вопросам, для которых более уместен индивидуальный подход.

7.3. Учитывая спектр услуг в рамках нормативной базы, некоторые из приведенных ниже ожиданий могут быть применимы не к каждой компании. Тем не менее, каждая вовлеченная компания должна будет понять риск, связанный с ее услугой (услугами), и предпринять разумные меры для защиты от риска причинения вреда для выполнения своей обязанности проявлять осторожность.

Обязанность заботы​

7.4. В качестве свидетельства соблюдения ими своей основной обязанности по обеспечению безопасности пользователей мы предполагаем, что, где это уместно, соответствующие компании будут:

• Убедитесь, что их соответствующие условия и положения соответствуют стандартам, установленным регулирующим органом, и отражают соответствующие своды правил.

• Эффективное и последовательное соблюдение соответствующих условий и положений.

• Предотвращать доступ к пользователям известного террористического или CSEA контента.

• Принимайте быстрые, прозрачные и эффективные меры после сообщений пользователей.

• Поддерживать расследования правоохранительных органов с целью привлечения к ответственности преступников, нарушающих закон в Интернете.

• Направляйте пользователей, которым был причинен вред, на поддержку.

• Регулярно пересматривайте свои усилия по устранению вреда и адаптируйте свои внутренние процессы для обеспечения постоянного улучшения.

7.5. Для достижения этих результатов мы ожидаем, что регулирующий орган разработает своды правил, в которых изложены:

• Действия по обеспечению безопасности продуктов и услуг.

• Руководство о том, как обеспечить соответствие условий использования и понимание пользователями, когда они регистрируются для использования службы.

• Меры по обеспечению прозрачности и эффективности процессов отчетности и модерации контента и активности.

• Шаги по быстрому устранению вредоносного контента или действий.

• Процессы, позволяющие пользователям обжаловать удаление контента или другие ответы с целью защиты прав пользователей в Интернете.

• Меры по обеспечению того, чтобы пользователи, которым был причинен вред, получали и получали адекватную поддержку.

• Действия по мониторингу, оценке и повышению эффективности их процессов.

7.6. В оставшейся части этой главы излагаются более конкретные результаты по масштабам ущерба, а также дополнительные примеры того, как компании должны будут выполнять свои обязанности по обеспечению осторожности.

CSEA​

7.7. CSEA онлайн представляет серьезную угрозу физической безопасности и эмоциональному благополучию детей. От компаний потребуется принять строгие меры - активные и ответные - для отслеживания и устранения растущих и развивающихся угроз, а также для борьбы со всеми проявлениями деятельности CSEA, включая сдерживание распространения изображений и принятие необходимых мер для нацеливания на уход и прямые трансляции.

7.8. Мы также ожидаем, что регулирующий орган установит ожидания в отношении изображений, которые не могут быть явно незаконными, но связаны с CSEA, например, серии изображений, некоторые из которых были сделаны до или после самого акта злоупотребления. Мы продолжаем работать с партнерами, чтобы понять влияние этого оскорбительного содержания на жертв.

7.9. Существующие юридические требования и добровольные отраслевые инициативы изложены ранее в этой Белой книге.

CSEA: Выполнение обязанности заботы​

7.10. Мы ожидаем, что регулирующий орган включит в кодекс практики следующие аспекты:

• Разумные шаги, которые компании должны предпринять для активного предотвращения предоставления пользователям нового и известного контента CSEA и ссылок на такие материалы.

• Разумные шаги, которые компании должны предпринять для активного выявления и принятия мер в связи с деятельностью CSEA, такой как уход.

• Разумные шаги, которые компании должны предпринять для проактивного выявления и принятия мер в связи с деятельностью CSEA вместе или внутри прямых трансляций.

• Разумные шаги, которые компании должны предпринять для упреждающего выявления учетных записей, показывающих показатели активности CSEA, и обеспечения защиты детей от них, включая отключение учетных записей и информирование правоохранительных органов, где это необходимо.

• Разумные шаги, которые компании должны предпринять для предотвращения поисков, содержащих ссылки на деятельность и контент CSEA, в том числе автоматические предложения о том, что контент CSEA не делается, и пользователи направляются к альтернативным источникам информации или поддержки.

• Разумные шаги, которые компании должны предпринять, чтобы гарантировать безопасность услуг по замыслу.

• Разумные шаги, которые компании должны предпринять для создания эффективных систем для детей-пользователей и их родителей или опекунов, чтобы сообщать, удалять и предотвращать дальнейшее распространение собственных изображений, которые могут упасть ниже незаконного порога, но которые делают их уязвимыми для злоупотреблений.

• Разумные шаги, которые компании должны предпринять для реализации эффективных мер по выявлению детей, и принятия усиленных мер безопасности для этих пользователей.

• Разумные шаги, которые компании должны предпринять для незамедлительного информирования правоохранительных органов о наличии информации о преступлении CSEA, включая предоставление достаточной идентифицирующей информации о жертвах и преступниках.

• Действия, которые компании должны предпринять, чтобы постоянно анализировать свои усилия по борьбе с CSEA, адаптировать свои внутренние процессы и технологии и продолжать оставаться в курсе всех угроз; обеспечение того, чтобы их идентификация и реакция постоянно улучшались.

• Рекомендации по содержанию и деятельности CSEA. Компаниям следует активно предотвращать, выявлять и принимать меры, что будет способствовать разработке и внедрению технологических инструментов.

• Пороговые значения для типов контента, которые компании должны сохранять после удаления, как долго они должны его хранить и когда / с кем следует проактивно делиться такой информацией.

• Действия по обеспечению того, чтобы пользователи, которых затрагивает контент и деятельность CSEA, были направлены на адекватную поддержку и имели доступ к ней.

Использование Интернета террористами​

7.11. Наша цель - гарантировать, что в сети нет безопасного пространства для действий террористов, и предотвратить распространение террористической информации в сети. Такой материал может иметь серьезные разветвления в реальном мире и представлять серьезную угрозу национальной безопасности. Учитывая это, регулирующий орган потребует от компаний принять решительные меры по борьбе с террористическим контентом и деятельностью в своих сервисах, а в идеале - в первую очередь, предотвратить попадание этого контента на пользователей.

7.12. Мы изложили некоторые из существующих мер по борьбе с использованием Интернета террористами в Части 1. Создание GIFCT и добровольное сотрудничество между правительством и промышленностью привело к позитивному созданию и внедрению автоматизированных технологий крупнейшими компаниями для проактивного обнаруживать и удалять террористический контент. Это необходимо для предотвращения угрозы со стороны террористов. Также важно, чтобы небольшие компании получали достаточную поддержку для успешного предотвращения эксплуатации своих платформ, и чтобы все соответствующие платформы поддерживали роль правоохранительных органов и других соответствующих государственных органов.

Предотвращение использования Интернета террористами: выполнение обязанности проявлять осторожность​

7.13. Мы ожидаем, что регулирующий орган включит в кодекс практики следующие аспекты:

• Разумные шаги, которые компании должны предпринять для предотвращения предоставления пользователям нового и известного террористического контента и ссылок на контент. Это должно включать руководство по активному использованию технологических инструментов, где это уместно, для выявления, пометки, блокировки или удаления террористического контента.

• Рекомендации по контенту и / или деятельности компании должны активно предотвращать их предоставление пользователям, что поможет при разработке технологических инструментов.

• Разъяснение относительно того, что представляет собой подходящие сроки для удаления террористического контента, если либо неизвестно, что это террористический контент на момент загрузки, либо невозможно предотвратить его предоставление пользователям.

• Руководство по требованиям о том, как компании должны информировать и поддерживать правоохранительные и другие соответствующие государственные органы в расследованиях и судебном преследовании уголовных преступлений. Это будет включать в себя конкретные рекомендации о том, какой контент компании должны сохранять после удаления и как долго, а также когда компании должны заблаговременно предупреждать правоохранительные органы и другие соответствующие государственные органы об этом контенте.

• Разумные шаги, которые компании должны предпринимать при работе с учетными записями, которые загружали, использовали или распространяли террористический контент, включая отключение учетных записей.

• Разумные шаги, которые компании должны предпринять для выявления террористической деятельности или контента и принятия соответствующих мер, в том числе в прямых трансляциях.

• Разумные меры, которые, как мы ожидаем, будут предприняты службами для предотвращения поисков, ведущих к террористической деятельности и / или контенту, включая автоматические предложения о том, что террористический контент не делается, а пользователи направляются к альтернативным источникам информации или поддержки.

• Меры, которые следует предпринять компаниям для обеспечения безопасности услуг по замыслу.

• Меры, которые компании должны предпринимать для постоянного анализа своих усилий по борьбе с террористическими материалами, для адаптации своих внутренних процессов и технологий и для продолжения в достаточной мере в курсе ландшафта угроз; обеспечение того, чтобы их идентификация и реакция постоянно улучшались.

Серьезное насилие​

7.14. Контент с насилием варьируется от контента, который напрямую изображает или подстрекает к актам насилия, до контента, который является насильственным с дополнительным контекстным пониманием или который наносит вред пользователям из-за обворожительного представления оружия и жизни банд.

Серьезное насилие: выполнение обязанности проявлять осторожность​

7.15. Вот некоторые из областей, которые, как мы ожидаем, регулирующий орган должен включить в кодекс практики: • Руководство для компаний по определению того, какие действия и материалы представляют собой контент, связанный с насилием или насилием, в том числе явно криминальный, и как об этом сообщать.

• Рекомендации по контенту и / или деятельности, компании должны заблаговременно выявлять, чтобы либо предотвратить его публикацию, либо предотвратить дальнейшее распространение и гарантировать, что пользователи не будут получать рекомендации относительно контента, связанного с насилием или насилием.

• Разъяснение относительно того, что составляет целесообразные временные рамки для перенаправления и удаления контента, когда он либо заранее идентифицирован, либо упомянут.

• Руководство по требованиям о том, как компании должны информировать и поддерживать правоохранительные и другие соответствующие государственные органы в расследованиях и судебном преследовании уголовных преступлений. Это должно включать в себя конкретные указания относительно контента, который компании должны сохранять после удаления и в течение какого времени, а также когда компании должны заранее предупреждать правоохранительные органы и другие соответствующие государственные органы об этом контенте.

• Разумные шаги, которые компании должны предпринимать при работе с учетными записями, которые загружали, использовали или распространяли контент, связанный с насилием или насилием, включая отключение учетных записей.

• Меры по обеспечению того, чтобы процессы отчетности соответствовали целям борьбы с этим вредом, а также были понятными, видимыми и простыми в использовании. Пользователи должны получать четкие объяснения принятых решений.

• Действия по обеспечению того, чтобы в службах были эффективные и прозрачные процессы для модерирования этого типа контента, а пользователи были в курсе о ходе работы над отчетом.

• Компании должны иметь процессы, гарантирующие, что пользователи могут обжаловать удаление контента или другие ответы, чтобы защитить права пользователей в Интернете.

• Меры по обеспечению того, чтобы пользователи, которые подверглись насилию или связанным с насилием материалам, получали адекватную поддержку и могли получить к ней доступ.

• Меры, которые следует предпринять компаниям для обеспечения безопасности услуг по замыслу.

• Действия, которые компании должны предпринять для постоянного анализа своих усилий по борьбе с этим контентом и для продолжения в достаточной мере в курсе ландшафта угроз, соответствующим образом адаптируя свои внутренние процессы для обеспечения постоянного улучшения их идентификации и реагирования.

Преступление на почве ненависти​

7.16. К преступлениям на почве ненависти относятся преступления, демонстрирующие враждебность на основании фактической или предполагаемой расы, религии, сексуальной ориентации, инвалидности или трансгендерной идентичности человека. В «Действиях против ненависти», правительственном плане по борьбе с преступлениями на почве ненависти (2016 г.) и «Действиях против ненависти через два года спустя» (2018 г.), совместно возглавляемых Министерством жилищного строительства, общин и местного самоуправления (MHCLG) и Министерством внутренних дел, правительство имеет разъяснено, что правонарушение в Интернете так же серьезно, как и в автономном режиме, и виновные в нападениях на почве ненависти должны нести ответственность за свои действия. Компаниям следует создавать платформы, на которых люди - независимо от их личности или происхождения - могут работать, учиться и общаться вместе, имея общие права, обязанности и возможности.

7.17. Ряд сторонних организаций оказывают поддержку пользователям в сообщениях о преступлениях на почве ненависти. Правительство поддерживает True Vision, полицейский портал сообщений о преступлениях на почве ненависти, который помогает жертвам преступлений на почве ненависти сообщать о таких случаях в Интернете через свой веб-сайт. В действии против ненависти два года спустя (2018 г.) мы обязались поддержать Национальный совет начальников полиции (NPCC) в обновлении веб-сайта True Vision.

7.18. MHCLG и Министерство внутренних дел также поддерживают и взаимодействуют со сторонними организациями, такими как Community Security Trust, Tell MAMA и Stop Hate UK, которые имеют статус Trusted Flagger с платформами социальных сетей, чтобы обеспечить большую поддержку пользователям, чтобы они могли сообщать о преступлениях на почве ненависти в Интернете. Мы поддерживаем постоянное тесное сотрудничество этих организаций с правительством и платформами социальных сетей.

Преступление на почве ненависти: выполнение обязанности проявлять осторожность​

7.19. Мы ожидаем, что регулирующий орган включит в кодекс практики следующие аспекты:

• Руководство для компаний по определению того, какие действия и материалы представляют собой контент, разжигающий ненависть, в том числе преступление на почве ненависти, или, если это не обязательно является незаконным, контент, который может прямо или косвенно причинить вред другим пользователям - например, в некоторых случаях издевательства или оскорбительный материал.

• Рекомендации по контенту и / или деятельности компании должны заранее выявлять, чтобы либо предотвратить его публикацию, либо предотвратить дальнейшее распространение.

• Меры, которые следует предпринять компаниям, чтобы гарантировать безопасность своих услуг.

• Ожидания, связанные с четкими и доступными инструкциями для пользователей о том, что составляет преступление на почве ненависти и как о нем сообщать.

• Меры по обеспечению того, чтобы процессы отчетности соответствовали целям борьбы с этим вредом, а также были понятными, видимыми и простыми в использовании. Пользователи должны получать четкие объяснения принятых решений.

• Действия по обеспечению того, чтобы в службах были эффективные и прозрачные процессы для модерирования этого типа контента, а пользователи были в курсе о ходе работы над отчетом.

• Разъяснение того, что составляет приемлемые временные рамки для удаления (или временного ограничения доступа) контента, разжигающего ненависть.

• Компании должны иметь процессы, гарантирующие, что пользователи могут обжаловать удаление контента или другие ответы, чтобы защитить права пользователей в Интернете.

• Разумные шаги, которые необходимо предпринять, чтобы гарантировать, что пользователи не будут получать рекомендации относительно ненавистного или неприемлемого содержания.

• Меры по обеспечению того, чтобы пользователи, подвергшиеся разжиганию ненависти, получали адекватную поддержку и могли получить к ней доступ.

• Руководство по требованиям о том, как компании должны поддерживать расследования правоохранительных и других соответствующих органов, где это необходимо.

• Ожидание, что компании будут постоянно пересматривать свои усилия по борьбе с материалами, разжигающими ненависть, и соответствующим образом адаптировать свои внутренние процессы для обеспечения постоянного улучшения.

Домогательства​

7.20. Оскорбления в Интернете могут расстраивать и пугать, а домогательства в Интернете могут быть приравнены к уголовному преступлению. Слишком много людей, от общественных деятелей до школьников, испытали подобное поведение. Опрос, проведенный Amnesty International, показал, что 21% опрошенных женщин (504 женщины) подвергались онлайн-домогательствам или жестокому обращению, а 17% - в социальных сетях. Существует множество форм жестокого обращения, и некоторые данные свидетельствуют о различиях в типах жестокого обращения между мужчинами и женщинами. Исследования показывают, что больше женщин, чем мужчин, подвергаются сексуальным формам словесного оскорбления (21% по сравнению с 9% мужчин), в то время как больше мужчин, чем женщин, подвергаются оскорбительным обзываниям (30% по сравнению с 23%) и физическим угрозам (12% по сравнению с 8%).

7.21. Совокупное влияние женоненавистничества в Интернете подрывает цифровой вклад женщин и девочек, заставляя их голоса замалчиваться и уменьшая их заметность. В результате жестокого обращения или преследования 67% женщин испытали чувство страха, когда задумались об использовании Интернета или социальных сетей.

Преследование: выполнение обязанности проявлять осторожность​

7.22. Компании должны будут принять решительные меры, когда появятся доказательства того, что пользователи подвергаются преследованиям или злоупотреблениям в их услугах. Компании также должны будут реагировать быстро и соразмерно, если такая активность возникнет.

7.23. Текущие меры, принимаемые компаниями для борьбы с домогательствами в Интернете, включают:

• Инструменты для сообщения о преследованиях

• Инструменты для блокировки или скрытия от других пользователей

• Удаление контента, который является незаконным или нарушает допустимое использование.

7.24. Мы ожидаем, что регулирующий орган включит в кодекс практики следующие аспекты:

• Меры, которые компании должны предпринять, чтобы гарантировать безопасность своих услуг по замыслу. Для жертв преследований важно наличие простых в использовании инструментов, позволяющих им контролировать конфиденциальность и видимость своей учетной записи, а также тех, кто может с ними связаться.

• Инструменты, которые компании могут предоставить для помощи пользователям, подвергающимся преследованиям, например возможность отключать звук, блокировать или оставаться скрытыми от других пользователей, а также управлять и контролировать доступ к определенным услугам и контенту.

• Руководство о том, как сделать так, чтобы пользователи могли легко понять эти инструменты и условия использования компании в отношении этого вреда, когда они регистрируются для использования службы.

• Меры, обеспечивающие соответствие процессов отчетности целям борьбы с этим вредом, такие как возможность сообщать большой объем сообщений массово, чтобы снизить нагрузку на жертв, страдающих от кампании преследований, и подсказка для использования инструментов для заблокировать другого пользователя на время исследования отчета.

• Сервисы имеют эффективные и прозрачные процессы для модерации этого типа контента и деятельности. Пользователи получают последнюю информацию о ходе работы над отчетом.

• Действия, которые компании должны предпринять для быстрого устранения вреда, такие как удаление незаконного контента, блокировка пользователей, ответственных за незаконную деятельность, и, при необходимости, поддержка правоохранительных органов.

• Компании должны иметь процессы, гарантирующие, что пользователи могут обжаловать удаление контента или другие ответы, чтобы защитить права пользователей в Интернете.

• Действия по предотвращению создания новых учетных записей заблокированными пользователями для продолжения преследований.

• Меры по ограничению использования анонимными пользователями их услуг, в том числе преследования других.

• Меры по обеспечению того, чтобы пользователи, подвергшиеся преследованиям, получали адекватную поддержку и могли получить к ней доступ.

Дезинформация​

7.25. Когда Интернет преднамеренно используется для распространения ложной или вводящей в заблуждение информации, он может навредить нам множеством разных способов, побуждая нас принимать решения, которые могут нанести вред нашему здоровью, подрывая наше уважение и терпимость друг к другу и затрудняя наше понимание того, что происходит в мире. более широкий мир. Это также может подорвать наше доверие к нашим демократическим институтам, включая Парламент.

7.26. Текущие инициативы, которые компании изучают для борьбы с распространением дезинформации, включают:

• Условия использования, которые требуют от пользователей не вводить в заблуждение свою личность в социальных сетях с целью распространения или усиления дезинформации.

• Инструменты для сообщения о подозрительных, поддельных или спам-аккаунтах на некоторых платформах социальных сетей.

• Использование автоматизированных методов искусственного интеллекта для обнаружения и удаления фальшивых аккаунтов и спама.

• Партнерство между платформами и независимыми сервисами проверки фактов.

• Инструменты, чтобы предоставить пользователям больше информации о контенте, который они просматривают на платформах, включая повышенную прозрачность в отношении происхождения политической и предвыборной рекламы.

Дезинформация: выполнение долга заботы​

7.27. Компаниям потребуется принимать соразмерные и проактивные меры, чтобы помочь пользователям понять характер и надежность информации, которую они получают, свести к минимуму распространение вводящей в заблуждение и вредоносной дезинформации и повысить доступность заслуживающего доверия и разнообразного новостного контента.

7.28. Мы ожидаем, что регулирующий орган включит в кодекс практики следующие аспекты:

• Шаги, которые компании должны предпринять в своих условиях обслуживания, чтобы четко указать, что является дезинформацией, какие ожидания они имеют от пользователей и какие наказания за нарушение этих условий обслуживания.

• Действия, которые компании должны предпринять в отношении пользователей, которые намеренно искажают свою личность, чтобы распространять и усиливать дезинформацию.

• Сделать контент, который оспаривается авторитетными службами проверки фактов, менее заметным для пользователей.

• Использование служб проверки фактов, особенно в период выборов.

• Продвижение авторитетных источников новостей.

• Продвигать разнообразный новостной контент, противодействуя «эхо-камере», в которой людям доступна только информация, подтверждающая их существующие взгляды.

• Обеспечение того, чтобы пользователям было понятно, когда они имеют дело с автоматизированными учетными записями, и что автоматическое распространение контента не использовалось.

• Повышение прозрачности политической рекламы, соблюдение любых требований избирательного законодательства.

• Процессы отчетности, которые компании должны внедрить, чтобы пользователи могли легко помечать контент, который они подозревают или знают как ложный, и которые позволяют пользователям понять, какие действия были предприняты и почему.

• Процессы публикации данных, которые позволят общественности оценить общую эффективность действий, предпринимаемых компаниями, а также для поддержки исследований характера дезинформационной деятельности в Интернете.

• Действия, которые следует предпринять службам для мониторинга и оценки эффективности своих процессов по борьбе с дезинформацией и соответствующей адаптации процессов.

7.29. Поддержание новостной среды, в которой может преобладать точный контент, а у высококачественных новостей есть устойчивое будущее, жизненно важно для здорового социального и демократического взаимодействия и является ключом к долгосрочному успеху в борьбе с дезинформацией. В марте 2018 года правительство поручило даме Фрэнсис Кэрнкросс провести независимую проверку устойчивости высококачественной журналистики. В своем подробном и продуманном отчете (опубликованном в феврале 2019 года) Дам Фрэнсис предложила наложить на компании социальных сетей `` обязательство по качеству новостей '', которое потребовало бы от этих компаний улучшения понимания их пользователями происхождения новостной статьи и надежности своего источника. Эта рекомендация полностью соответствует нашей цели по укреплению онлайн-среды и тесно связана с нашими ожиданиями в отношении компаний, занимающихся социальными сетями (как указано выше). В настоящее время правительство рассматривает это предложение и другие рекомендации госпожи Фрэнсис, и мы будем стремиться принять соответствующие меры.

7.30. Компании будут обязаны следить за тем, чтобы алгоритмы выбора контента не перекосили в сторону экстремальных и ненадежных материалов в целях устойчивого взаимодействия с пользователями.

7.31. Важно отметить, что свод правил, направленных на борьбу с дезинформацией, гарантирует, что основное внимание будет уделяться защите пользователей от вреда, а не оценке того, что правда, а что нет. С этим будут связаны сложные суждения. Правительство и будущий регулирующий орган будут активно взаимодействовать с гражданским обществом, промышленностью и другими группами, чтобы гарантировать, что действия будут максимально эффективными и не умаляют свободу слова в Интернете.

Поощрение членовредительства и самоубийства​

7.32. Пользователи должны иметь возможность обсуждать в сети такие деликатные темы, как самоубийства и членовредительства, но необходимо сделать больше для защиты уязвимых пользователей и борьбы с контентом и поведением, которые поощряют самоубийство и членовредительство.

7.33. Текущие меры по борьбе с поощрением членовредительства и самоубийства включают:

• Договоренности между отдельными компаниями и благотворительными организациями по улучшению выявления и удаления этого контента при его сообщении.

• Сервисы с указателями, помогающие и продвигающие вспомогательный контент для своих пользователей.

Поощрение членовредительства и самоубийства: выполнение обязанности проявлять осторожность​

7.34. Компании должны будут принять решительные меры по борьбе с вредными суицидными и самоповреждающими материалами, которые содержат графические детали методов самоубийства и членовредительства, включая поощрение членовредительства и самоубийств. Службы также должны быстро реагировать на выявление и удаление содержимого, которое является незаконным или нарушает условия использования, и действовать быстро и соразмерно, когда пользователи сообщают об этом содержимом.

7.35. Мы ожидаем, что регулирующий орган включит в кодекс практики следующие аспекты:

• Меры по обеспечению того, чтобы уязвимые пользователи и пользователи, которые активно ищут или сталкивались с этим контентом, включая контент, поощряющий расстройства пищевого поведения, были направлены на адекватную поддержку и имели доступ к ней.

• Обеспечение того, чтобы компании работали с экспертами по предотвращению самоубийств, чтобы гарантировать, что их политика и методы предназначены для защиты наиболее уязвимых (и для обеспечения того, чтобы модераторы прошли соответствующее обучение).

• Меры, которые компании должны предпринять для обеспечения безопасности своих услуг по замыслу, включая инструменты, помогающие пользователям избегать материалов или действий, побуждающих к самоубийству или членовредительству, а также меры по блокированию контента и блокировке, отключению звука и скрытию от других пользователей.

• Руководство о том, как сделать так, чтобы пользователям было легко понять эти инструменты и условия использования компании в отношении этих недостатков, когда они подписываются на использование службы.

• Процессы остановки алгоритмов, рекламирующих пользователям материалы о самоповреждении или самоубийстве.

• Меры по обеспечению прозрачности и эффективности процессов отчетности и модерации контента и активности в борьбе с подстрекательством к членовредительству и самоубийствам, а также меры по обеспечению того, чтобы пользователи были в курсе того, как идет работа над отчетом.

• Службы должны предпринять шаги для обеспечения достаточного взаимодействия с группами гражданского общества и правоохранительными органами, чтобы модераторы были осведомлены о том, что представляет собой поощрение членовредительства или самоубийства, и как их можно предотвратить и решить.

• Меры, которые компании должны предпринять для обеспечения быстрого устранения вреда, такие как удаление контента, который является незаконным или нарушает допустимое использование, и блокирование пользователей, ответственных за действия, которые нарушают условия, а также шаги, которые службы могут предпринять для обеспечения того, чтобы эти меры были ведется чутко.

• Компании должны иметь процессы, гарантирующие, что пользователи могут обжаловать удаление контента или другие ответы, чтобы защитить права пользователей в Интернете.

• Меры по предотвращению создания заблокированных пользователей новых учетных записей для продолжения поощрения самоубийств или членовредительства.

Оскорбления в Интернете в отношении общественных деятелей: выполнение обязанности проявлять осторожность​

7.36. Как указано во вставке 14, лица, вовлеченные в общественную жизнь, подвергаются регулярному и продолжительному насилию в Интернете, которое выходит за рамки свободы слова и ограничивает права людей на участие. Это злоупотребление не только расстраивает и пугает человека, но и подрывает наши демократические ценности и отвращает хороших людей от участия в общественной жизни.

7.37. Шаги, которые, как мы ожидаем, регулирующий орган включит в кодексы практики, касающиеся всех форм оскорбительного поведения в Интернете, включая домогательства и киберзапугивание, также помогут решить эту проблему и включают:

• Меры, которые следует предпринять компаниям, чтобы гарантировать безопасность своих услуг. Для всех пользователей, включая общественных деятелей, важно наличие простых в использовании инструментов, которые позволяют им контролировать конфиденциальность и видимость своей учетной записи, а также тех, кто может с ними связаться.

• Инструменты, которые компании могут предоставить, чтобы помочь пользователям столкнуться со злоупотреблениями, например возможность отключать звук, блокировать или оставаться скрытыми от других пользователей, а также управлять доступом к определенным службам и контенту.

• Четкое руководство в условиях использования компании в отношении типа деятельности, которая будет считаться неприемлемой, и действий, которые компания предпримет в ответ на такую деятельность, которая доступна пользователям, когда они регистрируются для использования службы.

• Меры, обеспечивающие соответствие процессов отчетности целям борьбы с этим вредом, такие как возможность сообщать большой объем сообщений в большом количестве, чтобы снизить нагрузку на жертв, страдающих от кампании онлайн-злоупотреблений, и подсказка для использования инструментов чтобы заблокировать другого пользователя на время исследования отчета.

• Сервисы имеют эффективные и прозрачные процессы для модерации этого типа контента и деятельности. Пользователи получают последнюю информацию о ходе работы над отчетом.

• Меры, которые компании должны предпринять для быстрого устранения вреда, такие как удаление незаконного контента, блокировка пользователей, ответственных за незаконную деятельность, обеспечение соблюдения и соблюдение соответствующих условий службы и, при необходимости, поддержка правоохранительных органов.

• Компании должны иметь процессы, гарантирующие, что пользователи могут обжаловать удаление контента или другие ответы, чтобы защитить права пользователей в Интернете.

• Меры, которые следует предпринять компаниям, чтобы ограничить использование анонимных пользователей их услуг для оскорбления других.

• Действия по предотвращению создания новых учетных записей забаненными пользователями для продолжения злоупотреблений.

• Действия по обеспечению того, чтобы пользователи, которых затрагивают оскорбительные комментарии и действия, получали адекватную поддержку и имели доступ к ней.

Вмешательство в судебное разбирательство​

7.38. Действия, которые могут помешать праву лица на справедливое судебное разбирательство или которые нарушают законное право лица на анонимность, например, общение, которое может составлять нарушение постановления суда или законодательного запрета, или которое может нанести ущерб присяжным, может составлять неуважение к суду или быть уголовным преступлением.

7.39. Текущие меры по решению этой проблемы включают:

• Действия, предпринятые правоохранительными органами и системой уголовного правосудия в отношении публикации информации в Интернете и раскрытия личности защищаемых лиц, что может поставить под угрозу судебное разбирательство.

• Возбуждение дела о неуважении к суду против тех, кто создает существенный риск причинения серьезного ущерба.

7.40. Кроме того, в своем ответе на призыв предоставить доказательства воздействия социальных сетей на отправление правосудия [сноска 40] Генеральная прокуратура:

• Разработать планы по продвижению безопасного использования социальных сетей в рамках кампании по юридическому просвещению населения, которая будет включать веб-страницу GOV.UK.

• Подчеркнул, что Судебная служба работает над разработкой четких, доступных и всеобъемлющих указаний относительно неуважения к суду.

• Согласованные пункты связи с рядом социальных сетей, чтобы соответствующие материалы можно было пометить и, при необходимости, удалить.

• Разработать планы работы с межгосударственными партнерами для улучшения соблюдения закона об анонимности в Интернете.

7.41. Компании будут обязаны принимать решительные меры, когда есть доказательства наличия риска вмешательства в уголовные процессы или другие судебные разбирательства. Компании также должны будут быстро и соразмерно реагировать в случае возникновения новых рисков.

Вмешательство в судебное разбирательство: выполнение обязанности проявлять осторожность​

7.42. Мы ожидаем, что регулирующий орган включит в кодекс практики следующие аспекты:

• Инструменты, которые компании могут предоставить, чтобы помочь пользователям сообщать о возможном вмешательстве в судебные разбирательства, например, возможность сообщать анонимно.

• Меры по обеспечению прозрачности и эффективности процессов отчетности и процессов для модерации контента и деятельности в борьбе с вмешательством в судебные разбирательства и принятие мер, чтобы пользователи всегда были в курсе о ходе работы над отчетом.

• Меры, которые компании должны предпринять для обеспечения быстрого устранения вреда, чтобы гарантировать, что сообщения, неуважительные к суду или нарушающие требования анонимности, удаляются как можно скорее после сообщения о них. Руководство пользователя, устанавливающее это, должно быть включено в положения и условия компании, чтобы обеспечить ясность при регистрации пользователей для использования службы.

• Компании должны иметь процессы, гарантирующие, что пользователи могут обжаловать удаление контента или другие ответы, чтобы защитить права пользователей в Интернете.

• Действия по предотвращению создания новых учетных записей заблокированными пользователями для продолжения или повторения вмешательства в судебные разбирательства.

Киберзапугивание​

7.43. Киберзапугивание, в том числе троллинг, недопустимо. Издевательства в Интернете могут быть очень неприятными, особенно для детей или других уязвимых пользователей.

7.44. Текущие меры по борьбе с киберзапугиванием и троллингом включают:

• Предоставление информации и ресурсов по запугиванию и другим вопросам безопасности в Интернете.

• Инструменты для сообщения о случаях издевательств.

• Инструменты для блокировки или скрытия от других пользователей.

• Удаление содержимого, нарушающего допустимое использование.

Киберзапугивание: выполнение обязанности проявлять осторожность​

7.45. Регулирующий орган определит шаги, которые следует предпринять для борьбы с киберзапугиванием, например, обеспечение того, чтобы те, кто пострадал от этого вреда, получали адекватную поддержку и могли получить к ней доступ.

7.46. Между тем, установленный законом Кодекс поведения в социальных сетях, опубликованный вместе с этой Белой книгой в соответствии с обязанностями государственного секретаря DCMS в соответствии с разделом 103 Закона о цифровой экономике 2017 года, устанавливает необязательные принципы, которых компании должны придерживаться, чтобы бороться с издевательствами, оскорблениями, запугиванием и унизительным поведением в Интернете. Здесь также объясняются передовые методы реализации этих принципов. Мы ожидаем, что все компании, работающие в социальных сетях, будут придерживаться этого кодекса практики до введения новых нормативных требований. Мы ожидаем, что регулирующий орган учтет это руководство при составлении будущих кодексов практики.

7.47. Вот эти принципы:

• Провайдеры социальных сетей должны поддерживать ясный и доступный процесс отчетности, чтобы люди могли уведомлять провайдеров социальных сетей о вредном поведении.

• Провайдеры социальных сетей должны поддерживать эффективные процессы обработки уведомлений пользователей о вредоносном поведении.

• Провайдеры социальных сетей должны иметь ясную и доступную информацию о процессах отчетности в своих условиях.

• Провайдеры социальных сетей должны предоставлять общественности четкую информацию о действиях, которые они предпринимают против вредного поведения.

Дети получают доступ к неприемлемому контенту​

7.48. Некоторые онлайн-контент, что является законным и соответствующим для взрослых, таких как датирования приложения или порнография, может нанести значительный вред детям, либо доступ к нему намеренно или спотыкаться через нее. Главные медицинские работники Англии, Уэльса и Шотландии недавно выступили за предупредительный подход к защите детей от вредоносного контента из-за его возможного воздействия на их психическое здоровье или развитие.

7.49. Текущие меры по предотвращению доступа детей к неприемлемому контенту включают:

• Предстоящий обязательное подтверждение возраста для коммерческих интернет-сайтов порнографии.

• Семейные фильтры для фильтрации неподходящего материала.

• Предупреждения о неприемлемом содержании.

7.50. Назначенные органы классификации для офлайн-контента, BBFC и Совет по стандартам видео (VSC), имеют четкие стандарты, основанные на их оценке вероятного вреда, и используют их для присвоения возрастных оценок BBFC или PEGI для информирования о решениях о просмотре и защиты детей и уязвимых взрослых. Эти возрастные рейтинги добровольно применяются к онлайн-контенту некоторыми издателями и платформами. Новая нормативная база не предназначена для воздействия на существующую классификацию офлайн- и онлайн-контента BBFC и VSC.

Дети, получающие доступ к неприемлемому контенту: выполнение обязанности проявлять осторожность​

7.51. Компании будут обязаны принимать решительные меры при наличии доказательств того, что дети получают доступ к несоответствующему контенту. Компании также должны будут быстро и соразмерно реагировать в случае возникновения новых рисков.

7.52. Мы ожидаем, что регулирующий орган включит в кодекс практики следующие аспекты:

• Меры, которые следует предпринять компаниям, чтобы гарантировать безопасность своих услуг. Это может включать предоставление учетных записей с различными настройками для детей.

• Условия предоставления услуг должны четко указывать, какое поведение и действия допустимы в рамках услуги, и какие меры принимаются для предотвращения доступа детей к несоответствующему контенту, и они должны быть понятны детям и родителям.

• Меры, которые компании должны предпринять, чтобы дети не могли получить доступ к неприемлемому контенту, включая рекомендации по проверке возраста, предупреждения о содержании и меры по фильтрации и блокированию неприемлемого контента.

• Меры по обеспечению того, чтобы процессы отчетности соответствовали цели борьбы с этим вредом и были ясными, видимыми и легкими для понимания детьми и родителями. Пользователи должны получать четкие объяснения принятых решений.

• Сервисы имеют эффективные и прозрачные процессы для модерации этого типа контента и деятельности. Пользователи получают последнюю информацию о ходе работы над отчетом.

• Действия, которые следует предпринять компаниям для быстрого устранения вреда, например, удаление контента, нарушающего условия обслуживания.

• Должны иметься службы процессов, чтобы пользователи могли обжаловать удаление контента или другие ответы, чтобы защитить права пользователей в сети.

• Действия по предотвращению создания новых учетных записей заблокированными пользователями с целью продолжения создания неприемлемого контента, нарушающего условия обслуживания.

ЧАСТЬ 4: Технологии, образование и осведомленность​

8. Технологии как часть решения​

Резюме​

• Компаниям следует вкладывать средства в развитие технологий безопасности, чтобы снизить нагрузку на пользователей по обеспечению безопасности в сети.
• В ноябре 2018 года министр внутренних дел совместно с пятью крупными технологическими компаниями организовал хакатон с целью разработки нового инструмента для выявления онлайн-ухода, который будет бесплатно лицензироваться для других компаний, но необходимы дополнительные инновационные совместные усилия.
• Правительство и новый регулирующий орган будут работать с ведущими отраслевыми органами и другими регулирующими органами для поддержки инноваций и роста в этой области и поощрения внедрения технологий безопасности.
• Правительство также будет работать с отраслью и гражданским обществом над разработкой концепции безопасности по дизайну, увязывая ее с существующими правовыми обязательствами в отношении защиты данных по дизайну и принципов безопасности по дизайну, чтобы облегчить внедрение стартапов и малых предприятий безопасность при разработке или обновлении продуктов и услуг.
8.1. Технологии могут сыграть решающую роль в обеспечении безопасности пользователей в Интернете. Разрабатывая более безопасные и безопасные онлайн-продукты и услуги, технический сектор может предоставить всем компаниям и пользователям более совершенные инструменты для борьбы с вредом в Интернете. Мы хотим, чтобы Россия была мировым лидером в разработке технологий онлайн-безопасности и чтобы компании любого размера имели доступ и принимали инновационные решения для повышения безопасности своих пользователей.

Существующие инициативы​

8.2. В мире возник динамичный и инновационный рынок онлайн-безопасности, где разрабатываются инструменты для бизнеса, защищающие пользователей от вреда. Например:

• SuperAwesome, одно из самых быстрорастущих технологических МСП, предоставляет инструменты и технологии, которые защищают цифровую конфиденциальность детей.

• Crisp, предприятие малого и среднего бизнеса со сложными инструментами на основе искусственного интеллекта для поддержки модерации и мониторинга контента, помогает сотням компаний по всему миру использовать более безопасные платформы - каждый месяц его системы оценивают миллиарды частей контента на предмет незаконного или вредоносного контента и помогают выявлять повторных нарушителей которые постоянно публикуют неприемлемый контент.

• Yoti, поставщик цифровой идентификации, в партнерстве с социальной сетью Yubo использует оценку возраста с помощью машинного обучения, чтобы определить, находятся ли пользователи веб-сайтов в подходящей возрастной группе для их платформы - важный шаг в защите детей в Интернете.

8.3. Правительство поддерживает развитие этой новой экосистемы технологий безопасности:

• Министерство внутренних дел работало с факультетом (ранее ASI Data Science) над разработкой технологии, которая может идентифицировать официальные пропагандистские видеоролики Даиш, которые являются ключевой частью усилий террористических групп по радикализации, вербовке и вдохновению террористических актов в мире.

• Правительство создало специальный фонд через схему GovTech Catalyst для разработки технологии, которая может автоматизировать обнаружение изображений террористов. Пять британских компаний получили 50 000 фунтов стерлингов для работы над предложениями, а в этом году ведущие предложения получат до 500 000 фунтов стерлингов на разработку и испытание прототипа.

• Правительство инвестирует 300 000 фунтов стерлингов для финансирования до пяти инновационных проектов, в которых используются новые технологии, препятствующие онлайн-трансляции CSEA.

• Посредством программ акселератора Национального центра кибербезопасности (NCSC) правительство обеспечивает быструю разработку решений проблем кибербезопасности, таких как аутентификация, безопасность мобильных устройств и управление идентификацией, которые работают для снижения вреда в сети за счет повышения безопасности пользователей в сети. среды, давая им больший контроль над своими взаимодействиями и затрудняя доступ для тех, кто стремится использовать технологии для облегчения злоупотреблений.

Приложения для обеспечения безопасности в Интернете: BBC Own It - Вставка 27​

BBC Own It, запускаемое позднее в 2019 году, - это новое приложение для улучшения самочувствия, предназначенное для детей в возрасте 8-13 лет, получающих свой первый смартфон. Приложение является частью приверженности BBC поддержке молодых людей в сегодняшней меняющейся медиа-среде и следует за успешным запуском веб-сайта Own It в 2018 году.
Приложение сочетает в себе новейшую технологию машинного обучения для отслеживания активности детей на смартфоне с возможностью для детей самостоятельно сообщать о своем эмоциональном состоянии. Он использует эту информацию для предоставления адаптированного контента и мероприятий, чтобы помочь детям оставаться счастливыми и здоровыми в Интернете, предлагая дружеские и поддерживающие стимулы, когда их поведение выходит за рамки нормы. Пользователи могут получить доступ к приложению, когда им нужна помощь, но оно всегда будет под рукой, чтобы дать мгновенные советы и поддержку на экране, когда они им понадобятся, с помощью специально разработанной клавиатуры. Возможности включают:
• Напомните им, что нужно дважды подумать, прежде чем делиться личными данными, такими как номер мобильного телефона, в социальных сетях.
• Помогая им понять, как сообщения могут быть восприняты другими, до того, как они нажмут «Отправить».
• Отслеживание их настроения с течением времени и предоставление рекомендаций по улучшению ситуации, если это необходимо.
• Информация по таким темам, как использование телефонов поздно ночью и их влияние на их самочувствие.
В приложении есть специально заказанный контент от BBC. Он предоставляет полезные материалы и ресурсы, которые помогут молодым людям максимально эффективно проводить время в Интернете и формировать здоровые привычки и поведение в Интернете. Приложение поможет молодым людям и родителям более конструктивно обсуждать свой опыт в Интернете, но не будет предоставлять отчеты или отзывы родителям, и никакие данные не будут покидать их устройство.

Решение проблемы онлайн-ухода: отраслевой хакатон - вставка 28​

Проблема онлайн-подготовки детей к эксплуатации и жестокому обращению выходит за рамки границ и платформ. Решение этой проблемы требует сотрудничества между компаниями для разработки инновационных решений, которыми можно поделиться в рамках совместных усилий по искоренению ухода из цифрового пространства.
• В ноябре 2018 года министр внутренних дел совместно с Microsoft и рядом других технологических компаний организовал в США мероприятие «хакатон», на котором они работали над разработкой нового ИИ-продукта для обнаружения онлайн-ухода за детьми. Участники хакатона проанализировали десятки тысяч разговоров, чтобы понять закономерности, используемые хищниками. Это позволило инженерам разработать технологию для автоматического и точного обнаружения этих закономерностей.
• В течение 2019 года этот инструмент борьбы с грумингом будет бесплатно лицензироваться для малых и средних технологических компаний по всему миру, а правительство будет тесно сотрудничать с промышленностью, чтобы обеспечить высокие темпы его внедрения.

Развитие инноваций в технологиях безопасности​

8.4. Экосистема онлайн-безопасности включает в себя ряд отдельных рынков, включая сторонние технические решения, услуги модерации, технологии хеширования и отпечатков пальцев, а также решения искусственного интеллекта / машинного обучения для автоматического обнаружения вредоносного контента. Правительство будет работать с техническим сектором, чтобы сделать Россию мировым лидером в области инновационных решений в области безопасности на этих рынках.

8.5. Новый регулирующий орган будет использовать свое уникальное положение на рынке для стимулирования разработки новых технологий и поощрения обмена инструментами и передовым опытом между компаниями.

8.6. Тем временем правительство будет работать с партнерами из отрасли, академических кругов и гражданского общества для поддержки инноваций в технологиях безопасности. В частности, мы:

• Оценить возможности и потенциал сектора онлайн-безопасности.

• Сотрудничать с Tech Nation, TechUK и другими отраслевыми партнерами, чтобы помочь компаниям более эффективно обнаруживать и реагировать на вред в Интернете, способствуя быстрым инновациям, разработке и расширению масштабов продуктов безопасности.

• Сотрудничать с UKRI для поддержки исследований в области понимания вреда в Интернете и разработки инновационных технологических решений, которые решают задачу защиты граждан в Интернете.

• Поддержка разработки масштабируемых технологий повышения конфиденциальности, позволяющих компаниям получать доступ к обучающим данным для разработки решений ИИ без ущерба для высокочувствительных или незаконных наборов данных.

8.7. Мы привлекаем внешних экспертов, чтобы помочь правительству определить дальнейшие направления. Сюда входит программа Digital Charter Fellowship, которую DCMS реализует в партнерстве с Институтом Алана Тьюринга (Тьюринг). Стипендиаты совместно с ведущими правительственными ведомствами разработают стратегические ответы на ключевые проблемы, связанные с Интернетом и новыми технологиями. Это будет включать эксперименты с рядом процессов и инструментов, в том числе созыв небольших групп экспертов (из промышленности, академических кругов и правительства) для интенсивной работы над проблемой. Манипуляция, дезинформация и безопасность в сети являются ключевыми направлениями первой фазы программы стипендий.

8.8. Мы продолжим работать с исследовательскими организациями, чтобы понять, как лучше всего использовать ИИ для обнаружения, измерения и противодействия вреду в Интернете, обеспечивая при этом безопасность и этичность его развертывания.

Инициативы по обеспечению безопасности в Интернете: анализ и противодействие разжиганию ненависти: роль ИИ - Вставка 29​

Разжигающий ненависть контент на цифровых платформах становится растущей проблемой, причиняя вред жертвам, создавая и усугубляя социальные разногласия и подрывая доверие к хост-платформам.
• Однако, несмотря на вред, причиняемый материалами, разжигающими ненависть, у нас нет адекватных данных о его масштабах и масштабах, что ограничивает нашу способность разрабатывать более сложные и эффективные меры реагирования. Отчасти проблема заключается в том, что онлайн-ненависть принимает множество форм и направлена против множества различных целей, включая этнические меньшинства и женщин.
• Новый проект под руководством Тьюринга направлен на решение этой проблемы. В проекте «Язык вражды: меры и контрмеры» будет использоваться сочетание методов обработки естественного языка и качественного анализа для создания инструментов, которые определяют и классифицируют различные сильные стороны и типы языка ненависти в Интернете.
• Цель состоит в том, чтобы сделать эти инструменты открытыми и доступными для общественности и, в конечном итоге, использовать их для поддержки широкого круга поставщиков коммерческого и государственного секторов в обнаружении и устранении вредоносного и нежелательного контента. Проект также направлен на выпуск аннотированных наборов обучающих данных, которые позволят другим исследователям продолжить свою работу.
• Тьюринг планирует более широкую работу по изучению влияния алгоритмических систем на людей в рамках своей инициативы по безопасному и этичному ИИ.

Вмешательства для стимулирования внедрения и использования технологий​

8.9. Многие ведущие компании уже используют свои ресурсы и опыт для поддержки разработки общих платформ и технологий, которые могут быть приняты более широкой отраслью. К ним относятся Microsoft PhotoDNA, общая система для обнаружения изображений сексуального насилия над детьми и реагирования на них, и Google Perspective API, который использует машинное обучение для пометки модераторам потенциально опасного или «токсичного» контента. В ноябре 2018 года Microsoft и другие компании собрались на "хакатоне'', чтобы разработать технологию защиты от груминга, которая будет бесплатно лицензироваться для небольших компаний по всему миру (вставка 28).

8.10. Крайне важно, чтобы мы продолжали стимулировать внедрение продуктов безопасности, чтобы пользователи получали постоянный уровень защиты в Интернете. Для этого мы:

• Сотрудничать с представителями отрасли в целях поощрения разработки и использования бесплатных или недорогих общих платформ для обеспечения безопасности, таких как средство защиты от груминга в Home Office.

• Финансирование исследования Doteveryone, независимого аналитического центра, препятствий на пути внедрения технологий и методов работы, способствующих безопасности и благополучию пользователей, а также практических рекомендаций и методов, необходимых для преодоления этих препятствий.

• Поддержите разработку Innovate UK и BSI общедоступного стандарта (PAS) для ответственных инноваций, чтобы помочь компаниям продумать и выявить любые потенциальные проблемы, возникающие в связи с предлагаемыми ими инновациями.

Безопасность по дизайну​

8.11. Для создания более безопасного взаимодействия с пользователем онлайн-продуктов и платформ требуется больше, чем просто использование новых технологий. Решения, принимаемые на протяжении жизненного цикла разработки продукта - в отношении конфиденциальности и защиты данных, кибербезопасности, модерации, отчетности и механизмов поддержки для пользователей, ясности условий - все это вместе формирует общую безопасность и защищенность взаимодействия с пользователем.

8.12. Чтобы подготовиться к новой нормативно-правовой базе, разработчикам продуктов и платформ должно быть как можно проще понимать, какие стандарты от них ожидаются, и иметь возможность включать существующие передовые практики в свои продукты с самых ранних стадий разработки продукта до убедитесь, что их продукция безопасна по конструкции.

8.13. Во вставке 30 приведен пример передовой практики безопасного дизайна, который направлен на защиту детей в сети. Однако в отрасли в целом стандарты остаются непоследовательными и часто не ставят во главу угла права пользователей - в частности, дизайн обычно поощряет вызывающее привыкание поведение, а не благополучие, или сбор пользовательских данных имеет приоритет над конфиденциальностью. Это приводит к недопустимому бремени для пользователей управлять своей онлайн-безопасностью без достаточной поддержки со стороны компаний, на которые они полагаются. Это особенно беспокоит уязвимых пользователей.

Приложения для обеспечения безопасности в Интернете: Lego Life - Box 30​

В 2017 году LEGO Group запустила приложение на социальную тематику LEGO® Life. Приложение ставит перед собой цель вдохновить детей младшего возраста создавать свои творения и делиться ими в безопасной среде с высоким уровнем доверия. LEGO® Life воплощает принципы безопасности, основанные на дизайне, а также знакомит детей с положительными элементами социальных платформ, такими как возможность поделиться моментами с семьей и друзьями.
Недавно они усилили этот подход, используя инновационные решения, такие как система антропоморфных рекомендаций Captain Safety. Персонаж с самого начала дает инструкции по безопасности и становится наставником ребенка на протяжении всего опыта, доставляя сообщения о безопасности в определенные критические моменты, например, перед тем, как поделиться определенными данными или комментировать общедоступные сообщения.
8.14. Чтобы продвигать стандарты, правительство будет работать с промышленностью и гражданским обществом над разработкой концепции Safety by Design, которая поможет компаниям включать онлайн-безопасность в процесс разработки или обновления онлайн-сервисов. В этой структуре будут изложены четкие принципы и практическое руководство по включению функций онлайн-безопасности в новые приложения и платформы с самого начала, предназначенные для групп цифровых продуктов, включая дизайнеров, разработчиков и исследователей пользователей. Это может включать руководство, в котором подчеркивается необходимость для поставщиков:

• Дайте понять пользователям, какие формы контента приемлемы, как часть условий обслуживания и на протяжении всего их путешествия.

• Иметь эффективные системы для обнаружения незаконного или вредоносного контента и реагирования на них, включая использование технологий на основе искусственного интеллекта и обученных модераторов.

• Упростите пользователям сообщение о проблемном содержании и разработайте эффективную систему сортировки для работы с отчетами.

• Предоставьте пользователям возможность управлять своим опытом, собирая минимальный объем личных данных и предоставляя им осознанный выбор в отношении того, как используется их личная информация, включая данные геолокации.

8.15. Разрабатывая структуру, мы будем уделять особое внимание потребностям стартапов и расширяющихся предприятий, которым может не хватать возможностей и опыта, чтобы гарантировать безопасность своих продуктов и услуг. Мы ожидаем, что структура будет дополнять существующую конфиденциальность по дизайну и безопасность по стандартам дизайна. Например, он будет отражать и обозначать предстоящий проектный кодекс, соответствующий возрасту (см. Вставку 31), а также Кодекс норм безопасности потребительского Интернета вещей (вставка 32).

8.16. Мы ожидаем, что новый регулирующий орган будет опираться на эту структуру и использовать ее для информирования о своем подходе к выпуску кодексов практики и руководящих указаний для компаний о том, как выполнять свои новые юридические обязанности. Мы предполагаем, что эта основа поможет компаниям предпринять практические действия по устранению вреда и оправдать ожидания высокого уровня, изложенные в главе 7.

8.17. DfE также планирует опубликовать весной Стратегию образовательных технологий, в которой будет подчеркнута важность конфиденциальности, безопасности и защищенности. Стратегия будет включать ясность в отношении руководящих принципов, которых должны придерживаться поставщики EdTech, и руководств, доступных для школ и колледжей для поддержки их закупок и использования технологий безопасности.

Вопросы для консультации​

Вопрос 15 : Каковы наибольшие возможности и препятствия для (i) инноваций и (ii) внедрения технологий безопасности британскими организациями, и какую роль должно играть правительство в их решении?

Вопрос 16 : Каковы наиболее важные области, в которых организациям требуется практическое руководство для создания продуктов, безопасных по конструкции?

Инициативы по обеспечению безопасности в Интернете: Кодекс дизайна, соответствующий возрасту: Более безопасные стандарты дизайна для детей - Вставка 31​

Играя в онлайн-игры, просматривая и обмениваясь видео или общаясь с друзьями через приложения и социальные сети, сегодня дети растут, используя цифровые технологии как фундаментальную часть их повседневной жизни. Это может обогатить их жизнь, но также может представлять опасность. Чтобы гарантировать нашим детям лучшее цифровое будущее, нам нужны ведущие в мире стандарты, обеспечивающие надлежащую защиту для наших детей в сети.
• Правительство включило положения в Закон о защите данных 2018 года, чтобы гарантировать, что это так. Они требуют, чтобы Уполномоченный по информации подготовил «соответствующий возрасту проектный свод правил», чтобы дать рекомендации по стандартам конфиденциальности, которые организации должны принять в тех случаях, когда они предлагают онлайн-услуги и приложения, к которым дети могут получить доступ и которые будут обрабатывать их данные.
• Эти стандарты в кодексе будут подкреплены законами о защите данных, имеющими юридическую силу, которые уполномочивают Уполномоченного по информации принимать меры и налагать строгие штрафы в соответствии с GDPR, включая судебные приказы и штрафы в размере до 4% от глобального оборота.
• Кодекс будет сосредоточен на наилучших интересах ребенка. Это гарантирует, что ничто не будет оставлено на волю случая, и будет принят подход «защита данных посредством дизайна». Компании будут нести ответственность за свои действия в соответствии со своими обещаниями относительно того, как они обрабатывают информацию о детях.
• В кодексе будет учтена необходимость установки высоких настроек конфиденциальности по умолчанию и использован язык, понятный и понятный для молодых людей на разных этапах их развития. Он также будет сосредоточен на ключевых мерах безопасности, связанных с автоматическим профилированием детей, использованием данных геолокации и прозрачностью маркетинговых методов.
• В нем также будут рассмотрены такие практики, как те, которые используются сайтами и приложениями для персонализации опыта ребенка, чтобы побудить их оставаться в сети дольше, например, автоматическое воспроизведение видео и время отправки уведомлений в социальных сетях.
• Работа по разработке кода продвинулась достаточно далеко, призывы к предоставлению доказательств и заказные исследования уже завершены. Официальные консультации с общественностью состоятся в ближайшие месяцы.

Инициативы по обеспечению безопасности в Интернете: Интернет вещей: Свод правил безопасности - Вставка 32​

В последние годы наблюдается огромный рост количества продуктов «Интернет вещей» (IoT), ориентированных на потребителя «умных» устройств, подключенных к Интернету, которые люди используют дома, таких как умные устройства, персональные помощники, детские игрушки, веб-камеры и детские устройства. мониторы. Однако в IoT существует множество примеров небезопасных продуктов, которые делают потребителей уязвимыми для кибератак, что может привести к физическому и эмоциональному ущербу.
• Для борьбы с этим в октябре 2018 года правительство опубликовало Свод правил безопасности потребительского Интернета вещей. Этот свод правил состоит из тринадцати ориентированных на результат руководящих принципов, которые четко описывают шаги, которые производители Интернета вещей должны предпринять для обеспечения безопасности своих продуктов и услуг.
• Мы полагаем, что следующим этапом в этой работе будет обеспечение юридической силы соответствующих аспектов свода правил, что позволит потребителям более эффективно защищаться от вреда в Интернете, связанного с этими продуктами. Мы начали работу по рассмотрению того, какие аспекты нормативных изменений необходимы.
• Свод правил также был использован для создания первого глобально применимого отраслевого стандарта для потребительских устройств IoT, Технического стандарта ETSI 103 645 (ETSI TS). Мы будем работать над тем, чтобы способствовать принятию этого стандарта, внедряя согласованный технический подход, который защищает граждан во всем мире.

9. Расширение возможностей пользователей​

Резюме​

• Пользователи хотят иметь возможность управлять своей онлайн-безопасностью и безопасностью своих детей, но поддержки недостаточно, и в настоящее время они чувствуют себя уязвимыми в сети.
• Правительство предприняло шаги для решения проблемы цифровой грамотности в соответствующих областях школьной программы.
• Правительство разработает новую стратегию повышения грамотности онлайн-СМИ путем широких консультаций с заинтересованными сторонами.
• Хотя компании поддерживают ряд позитивных инициатив, прозрачность в отношении уровня инвестиций и эффективности различных мероприятий недостаточна. Новый регулирующий орган будет иметь право требовать от компаний отчетности о своей деятельности по обучению и повышению осведомленности.
9.1. Все пользователи, дети и взрослые, должны иметь возможность понимать риски и управлять ими, чтобы они могли оставаться в безопасности в Интернете. Правительство обеспечивает получение детьми качественного образования в школе для развития их цифровой грамотности. Взрослые пользователи должны действовать приемлемым образом, бороться с неприемлемым поведением, когда они становятся его свидетелями, и использовать доступные им инструменты для управления своим опытом работы в сети. Они несут ответственность за обеспечение собственной безопасности в Интернете и за поддержку детей, находящихся на их попечении. В этой быстро меняющейся среде может потребоваться время, чтобы научиться оценивать, что является рискованным, а что нет, и приобрести навыки, позволяющие избежать вреда.

9.2. Многие компании инвестировали в образовательную и информационную деятельность, часто в партнерстве с гражданским обществом, и создали инструменты для расширения возможностей своих пользователей, такие как программное обеспечение от Apple и Google, которое составляет отчеты для пользователей, которые помогают им оценивать и контролировать свою онлайн-активность (см. Вставку 33). Хотя такие отраслевые инициативы приветствуются, по-прежнему отсутствует прозрачность в отношении их масштаба и эффективности, а также существует реальный риск дублирования при отсутствии стратегической координации. Признавая обеспокоенность гражданского общества по поводу рисков нарушения существующих позитивных рабочих отношений с промышленностью, мы хотим работать со всеми заинтересованными сторонами, чтобы обеспечить достаточные инвестиции отрасли в образование и профилактическую деятельность, а также независимую оценку ее эффективность.

9.3. Техническая сложность и темпы инноваций в онлайн-мире означают, что существует постоянная потребность в улучшении инструментов, доступных пользователям, чтобы они могли управлять рисками и устранять их в сети. В ряде недавних независимых отчетов также подчеркивается особая потребность в повышении цифровой грамотности, включая отчет Специального комитета DCMS по дезинформации и отчет Кэрнкросса «Устойчивое будущее журналистики». Дети также сказали нам, что они хотят получить больше информации о безопасности в Интернете, а также получить больше поддержки от технологических компаний, чтобы они были в безопасности (см. Вставку 34).

Приложения для обеспечения безопасности в Интернете: Apple Screen Time и Google Family Link - вставка 33​

В июне 2018 года Apple выпустила обновления для своей мобильной операционной системы, которые помогают клиентам сократить время простоев и управлять экранным временем для себя и своих семей. К ним относятся:
• Ежедневные и еженедельные отчеты, которые информируют пользователей об общем времени, проведенном в каждом приложении, использовании разных категорий приложений, количестве полученных уведомлений и как часто человек берет свое устройство.
• Инструменты для установки определенных ограничений на количество времени, проведенного в приложении, и уведомление, которое отображается, когда срок истекает.
• Настройки, которые позволяют пользователям более тщательно контролировать свои уведомления, включая режим, помогающий людям лучше выспаться.
• Родители могут получить доступ к информации о действиях своего ребенка на своих устройствах, чтобы понять, где их ребенок проводит время, а также управлять им и устанавливать для них ограничения.
Точно так же приложение Family Link от Google позволяет родителям:
• Посмотреть, сколько времени их дети проводят в разных приложениях.
• Одобряйте или блокируйте приложения, которые их дети хотят загрузить, или рекомендуйте определенные приложения.
• Установите ограничения на экранное время и удаленно заблокируйте устройство ребенка на время перерыва.
Кроме того, некоторые игровые консоли, такие как Xbox One, Playstation4 и Nintendo Switch, имеют инструменты, которые позволяют родителям контролировать доступ к контенту и устанавливать ограничения на время использования экрана.

Инициативы по обеспечению безопасности в Интернете: понимание потребностей детей в Интернете - вставка 34​

Совет по безопасности детей в Интернете (ныне Совет по безопасности в Интернете) опубликовал в октябре 2017 года обзор исследований по детской онлайн-активности, рискам и безопасности. В него включены доказательства того, что, хотя многие считают, что могут справиться с общими или случайными негативными комментариями в Интернете, личными или целевое поведение причиняло больше беспокойства, и они, вероятно, обращались за помощью к друзьям или семье или сообщали о злоупотреблениях в соответствующую платформу социальных сетей. Однако, когда переживания являются постоянными и экстремальными, детям бывает трудно рассказать кому-либо, и это часто усугубляет переживания.
• Дети и молодые люди гораздо чаще рассказывают друзьям, чем родители или опекуны, о неприятных или неприятных инцидентах. В обзоре отмечается ряд причин, по которым дети и молодые люди не разговаривают с родителями, в том числе чувство дискомфорта при разговоре с родителями или опасения, что у них отберут устройства и доступ в Интернет.
• Наряду с Зеленым документом стратегии безопасности в Интернете правительство сотрудничало с Британским компьютерным обществом (BCS), The Chartered Institute for IT, чтобы провести опрос 6 500 детей и молодых людей о безопасности в Интернете.
Опрос показал, что:
• Две трети детей в возрасте 12 лет и младше (67%) и почти половина детей в возрасте от 13 до 18 лет (46%) приветствовали бы дополнительное образование в школах по вопросам безопасности в Интернете.
• Дети мало чего ожидают от платформ социальных сетей в отношении их конфиденциальности, безопасности и защищенности в Интернете и хотели бы быть лучше защищены от оскорбительного контента.
• Почти половина (42% детей младше 13 лет, 41% детей в возрасте от 13 до 18 лет) заявили, что технологические компании не думают о онлайн-безопасности людей их возраста при создании веб-сайтов или приложений.
• Почти две трети (66% детей младше 13 лет, 63% людей в возрасте от 13 до 18 лет) считают, что технические компании должны заблаговременно удалять оскорбительные сообщения до подачи жалоб.

Существующие инициативы по обеспечению безопасности пользователей в Интернете​

9.4. DfE продолжает включать безопасность в Интернете в школьную программу, чтобы помочь детям и молодым людям понять здоровые отношения в Интернете и повысить свою цифровую грамотность, чтобы они могли справляться с различными и все возрастающими рисками, с которыми сталкиваются молодые люди.

9.5. В рамках этого DfE делает образование взаимоотношений обязательным для всех учеников начальной школы, образование взаимоотношений и половое воспитание - обязательным для всех учеников средней школы и санитарное просвещение - обязательным для всех учеников во всех начальных и средних школах, финансируемых государством. Департамент недавно проконсультировался по проекту руководства по этим предметам, которое включает обучение уважительным отношениям, в том числе онлайн, а также здоровью и психическому благополучию. Это будет включать:

• Как оставаться в безопасности в Интернете.

• Критически рассматривать информацию и то, как люди представляют себя в сети.

• Права и обязанности.

• Как данные собираются, передаются и используются.

• Преимущества нормирования времени, проведенного в Интернете.

9.6. В ответе правительства на вышеупомянутую консультацию мы также заявили, что намерены предоставить школам вспомогательную информацию о том, как преподавать обо всех аспектах интернет-безопасности, а не только тех, которые связаны с отношениями, сексом и здоровьем, чтобы помочь школам в этом согласованный и последовательный подход к их учебной программе.

9.7. Школам будет предложено преподавать новые предметы с сентября 2019 года - многие из них уже делают это и смогут довольно быстро адаптироваться к новому руководству. Требование преподавать новые предметы будет следовать с сентября 2020 года.

9.8. Новая учебная программа по информатике, представленная в сентябре 2014 года, включает принципы электронной безопасности на всех ключевых этапах, с прогрессивным содержанием, отражающим различные и возрастающие риски, с которыми сталкиваются молодые люди. Это включает в себя, как использовать технологии безопасно, ответственно, уважительно и надежно, как сохранить конфиденциальность личной информации и куда обращаться за помощью и поддержкой, если у них есть проблемы с контентом или контактами в Интернете или других онлайн-технологиях.

9.9. Эти изменения в учебной программе являются частью более широкой стратегии, направленной на то, чтобы школы поддерживали молодых людей в обеспечении безопасности в сети. Некоторые из мер, включенных в эту стратегию, включают:

• Национальный центр компьютерного образования, который будет разрабатывать, курировать и распространять центральное хранилище бесплатных, высококачественных, богатых знаниями ресурсов для учителей, чтобы охватить всю национальную учебную программу по вычислительной технике (от ключевых этапов 1-4).

• Усиленное руководство по защите детей в школах Англии «Обеспечение безопасности детей в образовании» (KCSIE), включая руководство по обеспечению безопасности детей в Интернете. Пересмотренное руководство вступило в силу 3 сентября 2018 года.

• Новая рабочая группа по онлайн-безопасности, созданная министром по делам детей и семьи и состоящая из экспертов по онлайн-безопасности и образованию, чтобы консультировать департамент относительно будущих итераций руководства по безопасности.

Более широкие инициативы по обеспечению безопасности пользователей в Интернете​

9.10. В главе 2 мы изложили значительный объем работы, проводимой Советом по интернет-безопасности для обеспечения того, чтобы дети и уязвимые взрослые были обучены онлайн-безопасности, а родители имели доступ к соответствующим советам, включая набор инструментов для обеспечения устойчивости в Интернете и вождение принятие концепции «Образование для подключенного мира» в школах (см. вставку 35). Правительство также профинансировало Центр безопасного Интернета для разработки руководства по киберзапугиванию, которое дает школам советы по пониманию, предотвращению и реагированию на киберзапугивание, а также инструментарий онлайн-безопасности, чтобы помочь школам проводить через PSHE занятия по вопросам киберзапугивания, давления со стороны сверстников и секстинга. Есть ряд организаций гражданского общества, которые также внесли ценный вклад в просвещение и повышение осведомленности о безопасности в Интернете, например, 5Rights (см. Вставку 36).

9.11. Управление Комиссара по информации также разработало кампанию, ориентированную на общественность, чтобы дать общественности возможность лучше понять свои права на защиту данных, под названием «Ваши данные имеют значение». ICO также подготовило учебные материалы, чтобы помочь детям понять свои права на данные.

Инициативы по обеспечению безопасности в Интернете: образование для подключенного мира - вставка 35​

Система образования для подключенного мира Британского совета по безопасности в Интернете (UKCIS) описывает цифровые знания и навыки, которые дети и молодые люди должны иметь возможность развивать в разном возрасте и на разных этапах своей жизни.
Этот инструмент, разработанный для того, чтобы помочь преподавателям вести конструктивный диалог со своими учениками об их жизни в Интернете, охватывает широкий круг вопросов, включая самооценку и личность, конфиденциальность и безопасность, отношения в сети и запугивание в Интернете.

Инициативы по обеспечению безопасности в Интернете: 5Rights - Box 36​

Фонд 5Rights Foundation - это зарегистрированная благотворительная организация, которая разрабатывает руководимые детьми и совместно разработанные политики и работает над созданием онлайн-среды, которая отвечает потребностям и защищает права детей и молодежи в Интернете.
Система 5Rights берет существующие права детей и применяет их в цифровом мире:
• Право на удаление.
• Право знать.
• Право на безопасность и поддержку.
• Право на информированное и сознательное использование.
• Право на цифровую грамотность.
В их отчете «Нарушенное детство: цена убедительного дизайна» (июль 2018 г.) подчеркивается, как стратегии убедительного дизайна, используемые для максимального сбора личных данных, влияют на социальное, умственное и физическое развитие детей, и содержится призыв к усилению защиты детей и молодежи.
В отчете 5Rights «На пути к стратегии интернет-безопасности» (январь 2019 г.) излагаются основы предотвращения вреда детям от цифровых продуктов и услуг. В нем определены семь приоритетов для разработки стратегий онлайн-безопасности: равенство защиты, стандарты проектирования, подотчетность, правоприменение, лидерство, образование и вмешательства, основанные на фактах.

Потребность в более широких онлайн-СМИ и цифровой грамотности​

9.12. Интернет-СМИ и цифровая грамотность могут вооружить пользователей необходимыми навыками, чтобы обнаруживать опасности в Интернете, критически оценивать информацию и принимать меры, чтобы обезопасить себя и других в сети. Он также может иметь более широкие преимущества, в том числе для функционирования демократии, давая пользователям лучшее понимание онлайн-контента и позволяя им различать факты и мнения в Интернете. В последние месяцы появилось несколько отчетов, в которых признается важность сетевых СМИ и цифровой грамотности и содержится призыв к действиям на всех уровнях. Во вставке 37 резюмируются рекомендации некоторых из этих отчетов.

Призывы заинтересованных сторон к действиям по повышению медийной и цифровой грамотности - вставка 37​

• Специальный комитет DCMS Палаты общин призвал к тому, чтобы цифровая грамотность стала четвертым столпом образования, наряду с чтением, письмом и математикой в своем отчете «Дезинформация» и «Фейковые новости». Комитет также отметил роль Ofcom, ICO, Избирательной комиссии и Управления по стандартам рекламы в продвижении цифровой грамотности и рекомендовал правительству обеспечить, чтобы четыре основных регулятора выработали более единую стратегию в отношении цифровой грамотности.
• В обзоре Кэрнкросса «Устойчивое будущее журналистики» , опубликованном в феврале 2019 года, правительству рекомендовалось разработать стратегию медиаграмотности в сотрудничестве с Ofcom (который по закону обязан продвигать медиаграмотность), онлайн-платформами, новостными издателями и вещательными компаниями. , добровольные организации и ученые, чтобы выявить пробелы в предоставлении и возможностях для более совместной работы.
• В 2018 году специальный комитет Палаты лордов по политическим опросам и цифровым средствам массовой информации подчеркнул необходимость обучения навыкам критической грамотности в школах, чтобы ограничить распространение дезинформации в Интернете и ее потенциальное влияние на демократические дебаты.
• В отчете Комиссара по делам детей Growing up Digital, опубликованном в 2017 году, содержится призыв к созданию обязательной программы цифрового гражданства для учеников в возрасте от 4 до 14 лет, чтобы улучшить навыки цифровой грамотности детей и повысить устойчивость к цифровым изменениям, а также расширить образование в области цифровой грамотности за рамки сообщений о безопасности.
9.13. В этой области была проделана значительная работа: несколько организаций в сфере технологий, средств массовой информации и гражданского общества разработали ресурсы для использования в школе и дома, чтобы вооружить детей и молодых людей навыками критической оценки информации и обеспечения безопасности в сети.

Инициативы по обеспечению безопасности в Интернете: примеры инициатив по обучению новостной грамотности детей и молодежи - Вставка 38​

NewsWise - это бесплатный междисциплинарный проект по обучению новостной грамотности для детей 9–11 лет.
• Проект, являющийся партнерством Guardian Foundation, National Literacy Trust и PSHE Association, официально запущен в сентябре 2018 года, и Google финансирует его первый год.
• Проект направлен на укрепление у детей навыков критического мышления до того, как они начнут использовать социальные сети, и направлен на углубление понимания детьми и молодыми людьми того, почему и как публикуются новости, с занятиями по отбору фактов, проверке источников и анализу новостей для развития навыков детей. информированного опроса и проверки.
Проект BBC «Молодой репортер» работает с молодыми людьми в возрасте от 11 до 18 лет в школах, колледжах и молодежных организациях, помогая им ориентироваться в новостях и текущих событиях и давая им навыки для создания собственных репортажей и обмена идеями о том, что для них важно.
В рамках проекта всем школам был предоставлен доступ к бесплатным онлайн-материалам, включая классные занятия, видеоуроки и игру BBC iReporter. Эта интерактивная игра использует принципы журналистики, чтобы направлять критическое мышление, помещая игрока в самое сердце редакции новостей в день выхода последних новостей.
9.14. Хотя мы приветствуем эти инициативы, мы считаем, что существуют заметные пробелы в обеспечении и что взрослые тоже нуждаются в поддержке - как для себя, так и для родителей. В отчете Ofcom «Дети и родители: использование и отношение к СМИ» за 2018 год (январь 2019 г.) отмечается, что родители и опекуны все больше беспокоятся об Интернете и им все труднее контролировать экранное время. Пятьдесят процентов родителей обеспокоены тем, что компании собирают данные о деятельности детей и молодежи в Интернете. Они также беспокоятся о детях, наносящих ущерб их репутации, о принуждении детей тратить деньги и о возможности радикализации детей в Интернете.

9.15. Правительство намерено продолжать поддерживать родителей в предотвращении и устранении вреда в Интернете. Правительство приветствует поддержку, оказываемую Центром безопасного Интернета. Они выпускают бесплатный пакет ресурсов «День безопасного Интернета» для родителей и опекунов, последний раз в феврале 2019 года, помогая родителям и опекунам понять факты о рисках в Интернете и вести позитивные беседы со своими детьми о том, как оставаться в безопасности в Интернете.

9.16. Однако для взрослых недостаточно сообщений или ресурсов, посвященных медиаграмотности в Интернете. Необходима дальнейшая работа по решению таких проблем, как распространение дезинформации, ловля кошек (то есть вовлечение кого-либо в отношения с помощью вымышленного онлайн-персонажа), нападения на женщин в Интернете (особенно на общественных деятелей) и различные потребности людей. с ограниченными возможностями при навигации по информации. Мы также признаем необходимость улучшения координации деятельности. Ofcom работает с рядом партнеров, чтобы оценить существующие исследования и данные об отношении и понимании людей к работе в сети. Это поможет политикам выявить пробелы и возможности.

Приложения для обеспечения безопасности в Интернете: NewsGuard - Box 39​

NewsGuard был впервые запущен в США в марте 2018 года журналистами для решения проблемы дезинформации в Интернете и теперь доступен всем пользователям.
• NewsGuard оценивает и анализирует новостные и информационные веб-сайты, используя девять стандартов достоверности и прозрачности, присваивая «маркировку пищевой ценности», которая предоставляет информацию о собственности, финансировании, содержании, достоверности, прозрачности и истории сайта.
• Расширение настольного браузера NewsGuard отображает эти «метки питания» рядом с заголовками в каналах социальных сетей и в результатах поиска. Это было развернуто в библиотеках в США, и теперь Microsoft предлагает расширение в качестве дополнительной настройки в настольной и мобильной версиях своего браузера Edge.

Стратегия онлайн-медиаграмотности​

9.17. Промышленность и правительство несут общую ответственность за предоставление пользователям возможности управлять своей онлайн-безопасностью. Новый регулирующий орган будет осуществлять надзор за деятельностью и расходами отрасли, а также будет отвечать за повышение грамотности онлайн-СМИ.

9.18. В преддверии нового регулятора правительство разработает стратегию повышения грамотности онлайн-СМИ. Область медиаграмотности обширна, и поэтому мы будем проводить широкие консультации, возможно, через новую рабочую группу, чтобы гарантировать, что ее цели хорошо информированы на основе фактов и будут учитывать существующую работу.

9.19. Первым шагом будет комплексное картирование, чтобы определить, какие действия уже выполняются, и определить цели стратегии повышения уровня медиаграмотности в Интернете. Этот процесс будет включать сбор представителей технологических компаний, регулирующих органов, библиотек, гражданского общества, ученых и правительства для определения способов усиления существующих положений, а также для определения того, какие дополнительные действия необходимы для достижения прогресса в достижении ключевых целей, которые могут включать:

• Обеспечение большей устойчивости пользователей в борьбе с дезинформацией и дезинформацией, в том числе в отношении демократических процессов и представительства.

• Подготовка людей к распознаванию и борьбе с целым рядом видов обманного и злонамеренного поведения в сети, включая ловлю кошек, груминг и экстремизм.

• Обеспечение того, чтобы люди с ограниченными возможностями не были исключены из обучения и поддержки цифровой грамотности.

• Развитие методов медиаграмотности в борьбе с насилием в отношении женщин и девочек в Интернете.

9.20. Стратегия также будет отражать приверженность правительства рассмотрению того, как вызвать у населения доверие к онлайн-информации, чтобы они могли принимать собственные решения по важным вопросам. В 2018/19 году правительство уже инвестировало более 1 миллиона фунтов стерлингов для реализации двух инициатив в поддержку этого:

• Новый набор средств противодействия дезинформации «RESIST» вооружает представителей правительства, государственных служб и стран-партнеров знаниями и навыками, необходимыми для выявления, оценки и реагирования на дезинформацию. Это поможет разработать стратегический и последовательный потенциал противодействия дезинформации и поможет снизить влияние кампаний по дезинформации на британское общество и наши национальные интересы в соответствии с нашими демократическими ценностями.

• Правительство начало пилотную коммуникационную кампанию по дезинформации населения. Эта кампания дает общественности навыки, необходимые для распознавания дезинформации и реагирования на нее, показывая людям, как она может повлиять на них и что они могут с этим сделать.

Роль технологического сектора в расширении прав и возможностей пользователей​

9.21. Как указано выше, мы признаем, что компании финансируют ряд ценных образовательных и информационных мероприятий. Тем не менее, мы считаем, что необходимо обеспечить большую прозрачность в отношении уровня инвестиций, что необходимо оценивать всю деятельность, чтобы гарантировать, что ресурсы направляются на наиболее эффективные инициативы, и что необходимо обеспечить более тесную координацию между отраслями, чтобы избежать дублирования.

9.22. Новый регулирующий орган будет иметь право требовать от компаний отчетности о своей деятельности по обучению и повышению осведомленности. Консультируем о соответствующих полномочиях регулятора в этой сфере.

Вопросы для консультации​

Вопрос 17 : Следует ли правительству делать больше, чтобы помочь людям управлять своей собственной безопасностью и безопасностью своих детей в Интернете, и если да, то что?

Вопрос 18 : Какую роль регулирующий орган должен играть в образовательной и просветительской деятельности?

ЧАСТЬ 5: Заключение и следующие шаги​

10. Заключение и следующие шаги​

10.1. В этой Белой книге изложено амбициозное видение в отношении сетевой безопасности, включая новую нормативную базу для борьбы с широким спектром вреда; разработка концепции безопасности при проектировании и поддержка инноваций в технологиях безопасности; и новая стратегия повышения уровня грамотности в Интернете.

10.2. Меры, описанные в этой Белой книге, являются новаторскими и амбициозными, и могут иметь далеко идущие последствия для взаимодействия нашего общества с Интернетом. Мир по-прежнему привержен модели управления Интернетом с участием многих заинтересованных сторон как наилучшего способа обеспечения свободного, открытого и безопасного Интернета. Все заинтересованные стороны из отрасли, гражданского общества и правительства несут ответственность за устранение законного вреда в Интернете.

10.3. Учитывая это, мы хотим привлечь как можно более широкую аудиторию к нашим предложениям и, в частности, заинтересовать представителей промышленности, гражданского общества, аналитических центров, активистов и представителей. В этом документе изложен ряд вопросов для консультаций, которые служат основой для официальных консультаций. Мы призываем респондентов высказать не только свое мнение, но и подтверждающие факты и аргументы, которые послужат основой доказательной базы для разработки наших окончательных предложений.

10.4. Мы опубликуем ответ правительства на эту консультацию на веб-сайте, обобщив полученные ответы и изложив действия, которые мы предпримем. или приняли в отношении них при разработке наших окончательных предложений по законодательству. Дополнительную информацию о том, как ответить на эту консультацию, можно найти в приложении A.

10.5. DCMS и Министерство внутренних дел также проведут серию семинаров по взаимодействию, чтобы собрать представителей гражданского общества и группы пользователей. Это будет сосредоточено, в частности, на группах, которые непропорционально сильно пострадали от вреда и злоупотреблений в Интернете. Учитывая формальный и технический характер консультации, это позволит нам облегчить взаимодействие с более широкой аудиторией.

10.6. Наряду с этим мы продолжим получать консультации от экспертов по правовым, нормативным, техническим вопросам, безопасности в Интернете и правоохранительных органов, чтобы информировать о дальнейшей разработке этих предложений.

10.7. Наконец, мы намерены продолжить создание доказательной базы для наших предложений и продолжим работать с правительством и другими заинтересованными сторонами, включая UKCIS, чтобы заказать подходящую программу исследований.

Законодательство​

10.8. После публикации ответа правительства на консультацию мы внесем закон, когда позволит парламентское время.

Примечание о территориальном охвате​

10.9. Интернет-услуги и их регулирование - это зарезервированный вопрос, поэтому мы планируем, что предлагаемая нами структура будет применяться на всей территории Российской Федерации. Несмотря на то, что некоторые виды вреда, указанные в настоящей Белой книге, относятся к правонарушениям в соответствии с законодательством Шотландии или Северной Ирландии и, следовательно, связаны с переданными полномочиями (такими как защита детей), мы не стремимся изменить закон в отношении этих правонарушений, а скорее разъяснить ответственность компаний за выполнение этой деятельности в отношении своих услуг. Политика в области образования передана в Уэльс, Шотландию и Северную Ирландию.

10.10. В рамках более широкого процесса консультаций мы будем взаимодействовать с автономными администрациями по предложениям, содержащимся в этой Белой книге. На этой консультации, в частности, будут рассмотрены последствия для правоохранительных органов и изучено, как мы можем продвигать единый подход в масштабах всего мира к обучению детей и взрослых вопросам безопасности в Интернете.

Приложение A: Как ответить на консультацию​

Мы приглашаем людей и организации высказать свое мнение, ответив на вопросы, изложенные в этой Белой книге. Вопросы перечислены ниже.

Вопросы для консультации:​

Вопрос 1 : Это правительство обязалось ежегодно предоставлять прозрачную отчетность. Следует ли правительству делать больше, помимо мер, изложенных в этой Белой книге, для создания культуры прозрачности, доверия и подотчетности в отрасли, и если да, то что?

Вопрос 2 : Должны ли назначенные органы иметь возможность подавать «суперпретензии» в регулирующий орган при конкретных и четко подтвержденных обстоятельствах?

Вопрос 2a : Если вы ответили на вопрос 2 «да», при каких обстоятельствах это должно произойти?

Вопрос 3 : Какие другие меры следует рассмотреть правительству, если таковые имеются, для пользователей, которые хотят выразить озабоченность по поводу определенных фрагментов вредоносного контента или действий и / или нарушений обязанности проявлять осторожность?

Вопрос 4 : Какую роль должен играть Парламент в проверке работы регулирующего органа, включая разработку кодексов практики?

Вопрос 5 : Являются ли предложения по онлайн-платформам и услугам в рамках нормативной базы подходящей основой для эффективного и соразмерного подхода?

Вопрос 6 : Какие критерии следует учитывать при разработке определения частной коммуникации?

Вопрос 7. Какие каналы или форумы, которые можно считать частными, должны входить в сферу регулирования?

Вопрос 7a : Какие конкретные требования могут быть применимы к частным каналам и форумам, чтобы бороться с вредом в Интернете?

Вопрос 8 : Какие дальнейшие шаги можно предпринять для обеспечения того, чтобы регулирующий орган действовал целенаправленно и соразмерно?

Вопрос 9 : Какие советы или поддержку регулирующий орган мог бы предоставить предприятиям, особенно стартапам и МСП, если таковые имеются, в соответствии с нормативной базой?

Вопрос 10 : Должен ли онлайн-регулятор ущерба быть: (i) новым государственным органом или (ii) существующим государственным органом?

Вопрос 10a : Если вы ответили на вопрос 10 (ii), каким органом или органами это должно быть?

Вопрос 11 : Предполагается, что новый или существующий регулирующий орган будет нейтральным с точки зрения затрат: на каком основании должны определяться любые финансовые взносы от отрасли?

Вопрос 12 : Следует ли наделить регулирующий орган полномочиями i) нарушать коммерческую деятельность, или ii) осуществлять блокировку ISP, или iii) вводить режим ответственности высшего руководства? Какие дополнительные полномочия должны быть доступны регулятору?

Вопрос 13 : Должен ли регулирующий орган иметь право требовать от компании, находящейся за пределами России и ЕЭЗ, назначить назначенного представителя в России или ЕЭЗ при определенных обстоятельствах?

Вопрос 14 : В дополнение к судебному контролю должен ли существовать законодательный механизм для компаний обжалования решения регулирующего органа, как это существует в отношении Ofcom в соответствии с разделами 192-196 Закона о связи 2003 года?

Вопрос 14a : Если вы ответили на вопрос 14 «да», при каких обстоятельствах компании должны иметь возможность использовать этот установленный законом механизм?

Вопрос 14b : Если вы ответили на вопрос 14 «да», следует ли рассматривать апелляцию на основе принципов, которые будут применяться к заявлению о судебном пересмотре или по существу дела?

Вопрос 15 : Каковы наибольшие возможности и препятствия для (i) инноваций и (ii) внедрения технологий безопасности британскими организациями, и какую роль должно играть правительство в их решении?

Вопрос 16 : Каковы наиболее важные области, в которых организациям требуется практическое руководство для создания продуктов, безопасных по конструкции?

Вопрос 17 : Следует ли правительству делать больше, чтобы помочь людям управлять своей собственной безопасностью и безопасностью своих детей в Интернете, и если да, то что?

Вопрос 18 : Какую роль регулирующий орган должен играть в образовательной и просветительской деятельности?